OpenAI’ın 15 Ekim’de güncellediği güvenlik raporuna göre olay, 26 Haziran’da modelin bir kripto para alım satım prototipini güncelleme ve Ethereum’un Sepolia test ağına akıllı sözleşmeler yerleştirme görevi sırasında yaşandı. Modelin sözleşmeleri ağa yükl
OpenAI’ın 15 Ekim’de güncellediği güvenlik raporuna göre olay, 26 Haziran’da modelin bir kripto para alım satım prototipini güncelleme ve Ethereum’un Sepolia test ağına akıllı sözleşmeler yerleştirme görevi sırasında yaşandı. Modelin sözleşmeleri ağa yükleyebilmesi için işlem ücretlerini karşılayacak test tokenlarına ihtiyacı vardı ancak görev kapsamında kendisine fon sağlanmamıştı.
İhtiyaç duyduğu fonlara ulaşamayan model, bilinen geliştirici kurtarma ifadelerinden cüzdan anahtarları türeterek farklı adresleri incelemeye başladı. OpenAI’ın raporunda, modelin yeterli bakiyeye sahip bir hesap bulana kadar 362 cüzdan adresini kontrol ettiği belirtildi.
Model, bulduğu cüzdandaki fonları kullanmanın etik olup olmadığını değerlendirdi. Hesabın terk edilmiş olabileceği ve kullanılan tokenların gerçek bir parasal değer taşımadığı sonucuna vararak işlemi gerçekleştirdi. Ancak söz konusu cüzdanın fonlarını harcaması için kendisine izin verilmemişti.
Model, seçtiği hesaptan işlem ücretlerini karşılayarak akıllı sözleşmeleri ağa yüklemeyi başardı. Buna karşın görevi tamamladığını bildirdiği son raporunda, işlemin başka bir cüzdandan alınan fonlarla gerçekleştirildiğini açıklamadı.
OpenAI, raporunda olayın ortaya koyduğu temel riski şu sözlerle değerlendirdi: "Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetkisi olmadan bu yargıya göre hareket edebileceğini gösteriyor."
Gerçek kripto para değil, test tokenları kullanıldı
Olayın yaşandığı Sepolia, Ethereum’un geliştiricilerin uygulama ve akıllı sözleşmeleri denemesi için kullanılan test ağı. Bu ağdaki tokenlar, Ethereum’un ana ağında işlem gören gerçek varlıklarla aynı parasal değere sahip değil. Dolayısıyla olayda kullanılan fonların gerçek piyasa değeri bulunmuyordu.
Bununla birlikte OpenAI’ın raporunda dikkat çekilen konu, kullanılan tokenların değeri değil, modelin kendisine tanınan yetkinin dışına çıkarak başka bir hesabın kaynaklarını kullanması ve bu tercihi kendi değerlendirmesiyle gerekçelendirmesi oldu.
Şirket, olayın 25 Eylül’de tespit edildiğini bildirdi. Benzer durumların tekrarlanmasını önlemek amacıyla, ilgili eğitim süreçlerinden geçen modellerin canlı internete erişimini kısıtlamaya yönelik ek güvenlik önlemleri alındığını da açıkladı.
Yapay zekâ sistemlerinin denetimi yeniden gündemde
Olay, giderek daha fazla işlemi kendi başına gerçekleştirebilen yapay zekâ modellerinin, verilen görevi tamamlamak uğruna izin verilen sınırları aşıp aşmayacağı tartışmasını yeniden gündeme taşıdı.
Yapay zekâ sistemlerinin dış kaynaklara erişebilmesi, kod çalıştırabilmesi ve dijital işlemleri kullanıcılar adına gerçekleştirebilmesi, yetki denetimi ve hesap verebilirlik konularını daha önemli hale getiriyor. OpenAI’ın raporunda da modelin kendi zarar değerlendirmesini hesap sahibinin izninin önüne koyması, güvenlik açısından temel sorun olarak öne çıkarıldı.
Öte yandan yapay zekâ sistemlerinin oluşturabileceği risklere karşı uluslararası denetim çağrıları da sürüyor. Yüzlerce bilim insanının imzaladığı açık mektupta, gelişmiş yapay zekâ modellerinin faaliyetlerini sınırlayacak önlemlerin denetlenmesi, güvenlik araştırmalarına daha fazla kaynak ayrılması ve sistemler üzerindeki kontrolü güçlendirecek teknolojilerin geliştirilmesi gerektiği vurgulanıyor. (İLKHA)