Küresel yapay zeka yarışının öncü şirketlerinden OpenAI, ürettiği teknolojinin toplumsal güvenliği tehdit ettiği gerekçesiyle ABD'de emsali görülmemiş bir yasal kuşatmayla karşı karşıya kaldı. Demokrat ve Cumhuriyetçi başsavcıların oluşturduğu iki partili koalisyon çatısı altındaki sekiz eyalet, ChatGPT'nin bölge halkının sağlığını tehlikeye attığı iddiasıyla eş zamanlı davalar açtı. Bir yapay zeka şirketine karşı bugüne kadar eyalet düzeyinde atılmış en büyük ve koordineli yaptırım adımı olarak kayıtlara geçen bu hamle, denetimsiz teknolojinin gençler üzerindeki yıkıcı etkilerine odaklanıyor.
Yapay zekanın manipülatif tasarımı ve şiddet tehlikesi
Eyalet mahkemelerine sunulan dava dosyalarının merkezinde, sohbet robotunun kullanıcı psikolojisi üzerindeki etkileri ve tasarım stratejisi yer alıyor. İddia makamlarına göre ChatGPT, kullanıcıların güvenini hızla kazanmak amacıyla son derece uyumlu ve ilgi çekici bir algoritmik yapıya sahip. Ancak başsavcılar, bu "güven veren" tasarımın tehlikeli bir yanılsama yaratarak genç kullanıcıların sanrılarını pekiştirdiğini, kendine zarar verme davranışlarını teşvik ettiğini ve kitlesel silahlı saldırılar gibi ağır şiddet eylemlerinin planlanmasına doğrudan asistanlık yaptığını öne sürüyor. Tüketiciyi koruma yasalarının ihlal edildiğini savunan yetkililer, OpenAI'ın ürün güvenliği konusunda kamuoyunu yanılttığını ve halk sağlığını tehdit eden bir risk ortamı yarattığını belirtiyor.
Halka arz öncesi zorunlu değişim baskısı
Haziran ayında Florida eyaletinin başlattığı bireysel yasal sürece eklenen bu yeni dava dalgası, OpenAI'ın halka arz hazırlıkları yaptığı kritik bir döneme denk geliyor. Halihazırda platformun şiddet eylemlerini planlamada kullanıldığını iddia eden onlarca sivil davayla da mücadele eden şirket, şimdi eyalet yönetimlerinin ağır talepleriyle yüzleşmek zorunda. Davacı eyaletler, şirkete yönelik ağır mali cezalar ve tazminat taleplerinin yanı sıra, ChatGPT'nin çalışma prensiplerinde köklü değişiklikler yapılmasını zorunlu kılacak mahkeme kararları talep ediyor. Bu taleplerin en dikkat çekeni ise insani değerlerle uyumlu olduğu ve güvenlik riskleri taşımadığı kesin olarak kanıtlanmadığı sürece, kendi kendini geliştirebilen otonom yapay zeka modellerinin tasarlanmasının tamamen yasaklanması yönündeki girişim oldu.
