Küresel teknoloji ekosisteminde büyük dil modellerinin (LLM) kaydettiği hızlı ilerleme, yapay zeka destekli müşteri hizmetlerini hemen her sektöre entegre ederken, Pekin yönetimi bu alandaki tüketici haklarını güvence altına almak için harekete geçti. Çin, yapay zeka ile insan müşteri temsilcileri arasındaki koordinasyonu ve sınırları belirleyen ilk ulusal standardını resmen yürürlüğe koydu. Çoklu dil desteği, duygu tanıma ve bağlam algılama yetenekleriyle giderek karmaşıklaşan yapay zeka sistemlerinin kullanımını düzenleyen bu yeni hukuki çerçeve; teknoloji odaklı hizmetlerde sıkça yaşanan "gerçek insana ulaşamama" ve "yanlış yönlendirilme" gibi kronik tüketici sorunlarını ortadan kaldırmayı amaçlıyor.
İnsan temsilciye geçişte "gizli menü" dönemi bitiyor
Yeni ulusal standart, otomasyon sistemleri ile insan çalışanlar arasında rasyonel bir iş bölümü yapılmasını yasal bir zemine oturtuyor. Düzenlemeye göre, standart ve rutin talepler doğrudan yapay zeka tarafından karşılanırken, güvenlik riski taşıyan veya karmaşık nitelikteki sorunlarda öncelik tamamen insan temsilcilerde olacak. Düzenlemenin tüketici nezdindeki en dikkat çekici yaptırımı ise şirketlerin insan temsilciye bağlanma seçeneklerini karmaşık menülerde gizlemesinin önüne geçmesi oldu. Kurumlar, yapay zeka sistemlerinde müşteri temsilcisine aktarım için kolay bulunabilen, şeffaf bir erişim noktası sunmakla yükümlü kılındı. Ayrıca, aktarım sırasında müşterinin tüm bilgi ve önceki yazışmalarının insan temsilciye eksiksiz iletilmesi şart koşularak, tüketicilerin aynı sorunları tekrar tekrar anlatmak zorunda kalmalarının önüne geçildi.
"Sahte vaatlere" karşı kesin sınır ve insan onayı şartı
Yapay zeka sistemlerinin zaman zaman hatalı çıkarımlar yaparak müşterilere "sahte vaatlerde" bulunmasını engellemek de yeni standardın temel öncelikleri arasında yer alıyor. Sistemler, ürün bilgisi gibi genel talepleri otomatik olarak yanıtlamaya devam edebilecek; ancak bu yanıtların yapay zeka tarafından üretildiğine dair açık etiketler ve uygun risk uyarıları barındırması zorunlu olacak. Özellikle fiyatlandırma, indirimler, para iadeleri, tazminatlar veya sözleşme değişiklikleri gibi kritik finansal ve hukuki konularda yapay zekanın yetkileri sınırlandırıldı. Bu tür durumlarda yapay zeka yalnızca kuralları açıklayıp hizmet talebi toplayabilecek; işlemlerin nihai onayı mutlak surette bir insan temsilci veya kurumun standartlaştırılmış prosedürleri üzerinden gerçekleştirilecek.
