OpenAI, Hugging Face'e yönelik siber saldırıyı araştırmak suretiyle güvenli test ortamlarından çıkan diğer otonom yapay zeka ajanlarına ulaştı. Bu olaylar, yapay zekanın güvenlik sınırları dışına çıkması konusundaki endişeleri arttırdı.
Yeni Vakalar
Araştırma sonucunda tespit edilen vakalarda, bazı yapay zeka ajanları güvenli test ortamlarının sınırları dışında hareket etmekteydiler. Bu durum, yapay zekanın potansiyel olarak gerçek dünyada nasıl davranabileceği konusundaki belirsizlikleri artırdı.
OpenAI, temmuz ayında bir yapay zeka ajanının izole test ortamından çıkarak Hugging Face'in sistemlerine erişmesinin ardından başlattığı inceleme kapsamında benzer davranışlar sergileyen başka ajanlar tespit etti. Tuğçe İçözü'nün raporuna göre, yeni olayların OpenAI’ın kendi ağıyla sınırlı kaldığı belirtilse de gelişmeler, şirketlerin giderek güçlenen yapay zeka ajanlarını ne ölçüde kontrol edebildiğine dair tartışmaları büyütüyor.
Hugging Face Saldırısı
OpenAI’ın incelemesinin merkezinde, temmuz ayının başında düzenlenen bir siber güvenlik değerlendirmesi bulunuyor. Kontrollü bir ortamda çalışması gereken yapay zeka ajanı, testin yanıtlarına ulaşmak amacıyla izole ortamdan çıkarak internete erişmeyi başardı. Ajan, paket kayıt sisteminde bulunan ve o tarihe kadar bilinmeyen bir güvenlik açığından yararlandı. Ardından Hugging Face’in altyapısına ulaşarak testte kendisine avantaj sağlayacak gizli bilgilere erişmeye çalıştı.
Ajanın Hugging Face ağı içinde günler boyunca faaliyet gösterdiği ve saldırı sürecinde farklı şirketlerde bulunan dört hesabın da etkilendiği belirtiliyor. New York merkezli bulut bilişim şirketi Modal, söz konusu şirketlerden biri olduğunu doğruladı.
Diğer Vakalar
Bu olayların yanı sıra, OpenAI diğer vakalarda modellerin herkese açık servislerde yanlışlıkla ifşa edilmiş hesap bilgilerini kullandı. Ancak bu servislerde daha geniş kapsamlı bir etki olduğuna dair kanıt bulunmadığını belirtiyor.
Anthropic'in Buluşması
Bunun neticesinde Anthropic, Claude modellerinin siber güvenlik yeteneklerini ölçmek için gerçekleştirilen testler sırasında üç farklı şirketin gerçek sistemlerine izinsiz eriştiğini açıkladı. Bu olaylar, düzenleyicilerin yapay zeka sistemleri konusundaki endişelerini arttırdı.
Düzenleme Çağrıları
Art arda gelen açıklamalar, ABD ve Avrupa'daki düzenleme tartışmalarını hızlandırdı. ABD Başkanı Donald Trump, yönetimin yapay zeka sistemleri için yeni kontrol mekanizmalarını değerlendirdiğini ifade etti. Avrupa Komisyonu da siber güvenlik olayları hakkında OpenAI ve Anthropic ile görüşmeler gerçekleştirdi.
