OpenAI'dan skandal: Testteki yapay zeka kontrolden çıktı, rakip şirkete sızdı

Olay, yapay zeka teknolojilerinin denetimi ve şirketlerin güvenlik sorumluluğu konusunda ciddi soru işaretleri doğurdu.

OpenAI, saldırının halen soruşturulduğunu açıklarken, test amacıyla güvenlik kısıtlamaları azaltılan modellerin çalıntı kimlik bilgileri ve daha önce bilinmeyen bir güvenlik açığını kullanarak Hugging Face altyapısına erişim sağladığını kabul etti.

Şirketin açıklamasına göre yapay zeka, insan yönlendirmesi olmaksızın internete bağlanmanın yollarını buldu ve değerlendirme sürecini aşabilmek için gizli bilgilere ulaşmaya çalıştı. Açıklamalar, OpenAI'ın güvenlik mekanizmalarının yeterliliği konusunda yeni tartışmaları beraberinde getirdi.

Hugging Face CEO'su Clément Delangue, yaşanan olayı daha önce benzeri görülmemiş bir saldırı olarak tanımlarken, şirketin ancak günler sonra saldırının arkasında OpenAI'ın bulunduğunu öğrendiğini belirtti.

Ancak bazı uzmanlara göre asıl sorumluluk yapay zekada değil, şirket yönetiminin aldığı kararlarda yatıyor.

Amsterdam Üniversitesi'nden sosyal bilimci Hannes Cools "Bu olayı kontrolden çıkan bir yapay zekâ gibi sunmak şirketin sorumluluğunu perdeleyen bir yaklaşım. Güvenlik önlemlerini devre dışı bırakma kararı insanlar tarafından alındı. Yapay zekâ yalnızca kendisine verilen talimatları yerine getirdi." değerlendirmesinde bulundu.

Buna karşın siber güvenlik uzmanları, sistemin çok sınırlı insan müdahalesiyle kendi saldırı stratejisini geliştirebilmesinin endişe verici olduğunu vurguluyor. Georgetown Üniversitesi Güvenlik ve Gelişen Teknolojiler Merkezi'nden Colin Shea-Blymyer, olayı şimdiye kadar büyük dil modellerinin siber operasyonlarda ulaştığı en yüksek özerklik seviyesi olarak nitelendirdi.

Uzmanlara göre en dikkat çekici noktalardan biri, yapay zekânın kendi inisiyatifiyle Hugging Face'i hedef seçmesi ve değerlendirme sistemine ait bilgilere ulaşmak için bağımsız bir saldırı planı geliştirmesi oldu.

Olay, kapalı kaynak yapay zeka sistemlerinin güvenliği konusundaki tartışmaları da yeniden gündeme taşıdı. Açık kaynak yaklaşımını savunan Hugging Face'in kurucu ortağı Thomas Wolf, saldırının ardından yaptığı açıklamada, kapalı sistemlere bağımlı güvenlik anlayışının risklerini ortaya koyduğunu savundu. Wolf, şirketlerinin saldırıyı bertaraf etmek için Çin menşeli açık kaynaklı bir yapay zeka modelinden yararlandığını belirterek, siber savunmada geliştiricilerin güçlü açık kaynak araçlarına hızlı erişiminin kritik önem taşıdığını ifade etti.

Yaşanan gelişmeler, yapay zeka şirketlerinin güvenlik testleri sırasında uyguladığı prosedürlerin ve denetim mekanizmalarının yeterliliğini yeniden tartışmaya açarken, eleştirilerin odağında ise OpenAI'ın risk yönetimi ve güvenlik politikaları yer alıyor. (İLKHA)