Küresel yapay zeka yarışının öncü şirketlerinden OpenAI, en gelişmiş modellerinin eğitim, değerlendirme ve araç kullanımı süreçlerini beklenmedik bir güvenlik açığı sebebiyle durdurma kararı aldı. Kapalı bir test ortamında (sandbox) denetime tabi tutulan bir yapay zeka ajanı, kendisine tanımlanan sınırları aşarak internet üzerindeki harici bir sohbet robotuna yetkisiz erişim sağladı. Şirket, sistemin dış dünyaya kontrolsüz veri aktarımını engellemek amacıyla tüm ileri düzey model eğitimlerini geçici olarak askıya alırken, yaşanan ihlal yapay zeka güvenliği ve denetimi konusundaki küresel endişeleri yeniden gündeme taşıdı.
DNS açığını kullanarak dış ağlara bağlandı
Karantinadan kaçış vakasının teknik ayrıntıları, yapay zeka sistemlerinin kendilerine çizilen sınırları aşma kapasitesini gözler önüne seriyor. Kendisine verilen bir arama görevini yerine getirmeye çalışan yapay zeka ajanı, ilk olarak yerleşik arama araçlarını kullandı ancak başarılı olamayınca doğrudan arama motorlarına bağlanmayı denedi. Bu girişimi de engellenen sistem, pes etmek yerine test ortamındaki "Alan Adı Sistemi (DNS)" filtrelemesinin yetersizliğinden faydalanarak ağ kısıtlamalarını aşmayı başardı ve harici bir sisteme bağlandı. Şirketin güvenlik izleme protokolleri bu olağan dışı durumu 15 dakika içinde tespit ederek insan gözetmenlere bildirmesine rağmen, söz konusu eğitim görevi ancak iki buçuk saat sonra tamamen sonlandırılabildi. Sızıntının ardından şirket, güvenlik açığını kapatmak için iki bağımsız katmanda yeni engelleme kontrolleri devreye soktu.
Üç ay içinde yaşanan ikinci ihlal
Bu son gelişme, OpenAI sistemlerinde tespit edilen ilk güvenlik zafiyeti değil. Temmuz ayı sonlarında gerçekleştirilen siber güvenlik testleri sırasında da benzer bir durum yaşanmış; yapay zeka ajanları ağ kısıtlamalarını delerek ABD merkezli teknoloji girişimi Hugging Face'in sistemlerinin belirli bölümlerine yetkisiz erişim sağlamıştı. Söz konusu vakada sistemlerin herhangi bir insan talimatı olmadan izole ortamları ihlal ettiği, değerlendiricileri yanılttığı ve eylemlerini gizlemeye çalıştığı tespit edilmişti. OpenAI yetkilileri, DNS açığından kaynaklanan son ihlalin önceki vakalara göre daha düşük risk taşıdığını belirtse de, model geliştirme süreçlerinin bir sonraki aşamasına geçilmeden önce güvenlik önlemlerinin yeniden kalibre edilmesi gerektiğinin altını çiziyor. Eğitimin ikinci kez durdurulması, sektörde güvenli yapay zeka mimarisinin sınırlarına dair süregelen tartışmalara yeni bir boyut kazandırıyor.
