Anthropic: Yapay zeka modelleri siber saldırı ve biyolojik silah araştırmalarında kullanılmaya çalışıldı

Şirketin yayımladığı rapora göre, Aralık 2025-Ağustos 2026 döneminde casus yazılım şirketlerinden siyasi motivasyonla hareket eden kişilere ve devlet destekli gruplara kadar farklı aktörlerin Anthropic'in yapay zeka modellerini kötüye kullanmaya yönelik girişimleri tespit edildi.

Anthropic, söz konusu faaliyetlerin tamamını engellediğini ve elde edilen bulgular doğrultusunda yapay zeka modellerindeki güvenlik önlemlerini güçlendirdiğini bildirdi.

Şirket, yapay zeka modellerinin giderek daha yetenekli hale gelmesiyle birlikte karmaşık siber saldırıların artık yalnızca ileri düzey teknik bilgiye sahip gruplar tarafından gerçekleştirilemeyeceği uyarısında bulundu. Anthropic'e göre, tek başına hareket eden kişiler dahi kısa süre önce mümkün olmayan ölçekte tehditler oluşturabilecek araçlara erişebiliyor.

Biyolojik araştırmalara yönelik girişim

Raporda dikkat çeken bulgulardan biri, bazı kişilerin yapay zekayı biyolojik silah geliştirilmesine katkı sağlayabilecek araştırmalarda kullanmaya çalışması oldu.

Anthropic, bir olayda Claude'dan, bilimsel araştırma için finansman başvurusuna yönelik bir hibe başvurusu hazırlanmasına yardım edilmesinin istendiğini belirtti. Şirket, başvuruda dang hummasına benzer şekilde sivrisineklerle bulaşan chikungunya virüsü üzerinde "gain-of-function" olarak tanımlanan, virüsün genetik özelliklerini değiştirerek bulaşıcılık ve bağışıklıktan kaçma kapasitesini artırmaya yönelik çalışmaların yer aldığını bildirdi.

Şirket, bu tür araştırmaların aşı ve tedavilerin geliştirilmesine katkı sağlayabileceğini, ancak aynı zamanda patojenlerin daha tehlikeli hale getirilmesi amacıyla kötüye kullanılabileceğini vurguladı.

Anthropic, daha yeni ve güçlü modellerinde çift kullanımlı biyolojik araştırmalara ilişkin çok daha geniş kapsamlı güvenlik kısıtlamaları uygulamaya başladığını açıkladı.

Sosyal medyada propaganda operasyonları

Raporda ayrıca, yüzlerce sosyal medya hesabının sıradan kullanıcılar tarafından yönetiliyormuş izlenimi verilerek oluşturulduğu ve bu hesaplar üzerinden belirli siyasi görüşleri destekleyen içeriklerin koordineli biçimde yayıldığı belirtildi.

Anthropic, tespit edilen dokuz operasyonun Rusya, İran, Türkiye, Basra Körfezi bölgesi, Güney Asya, Afrika ve Avrupa ile bağlantılı olduğunu bildirdi.

Şirket, sosyal medya platformlarının etki operasyonlarını içerikler yayıldıktan sonra tespit edebildiğini, yapay zeka şirketlerinin ise operasyon henüz oluşturulma aşamasındayken bazı faaliyetleri fark edebileceğini savundu.

AI şirketlerinin kendi kendini denetlemesi tartışılıyor

Anthropic'in raporu, şirketin yapay zeka güvenliği konusunda kendi içinde yaşadığı tartışmaların hemen ardından yayımlandı.

Şirket araştırmacılarından Jacob Coxon, yapay zeka sektörünün güvenlik konusunda yeterince sorumlu davranmadığı endişesiyle Anthropic'ten ayrıldığını açıklamıştı. Coxon, Anthropic ve rakibi OpenAI'ın kendi kendini geliştirebilen süper zeka yarışına hız verdiğini ve bunun insanlık açısından ciddi riskler oluşturabileceğini savunmuştu.

Cornell Üniversitesi'nden bilgisayar bilimci John Thickstun ise şirketlerin yapay zekanın güvenli olup olmadığına ilişkin kararları kendi başlarına vermesinin, demokratik veya toplumsal denetim olmaksızın toplum ölçeğinde değer yargıları oluşturulması anlamına geldiğini belirterek bu durumun yarattığı risklere dikkati çekti.

Uzmanlar, giderek daha güçlü yapay zeka modellerinin ortaya çıkmasıyla birlikte güvenlik konusunda yalnızca şirketlerin kendi denetim mekanizmalarına güvenilmemesi ve hükümetlerin daha kapsamlı düzenlemeler getirmesi gerektiğini savunuyor.

Anthropic ise raporla, tespit ettiği kötüye kullanım yöntemlerinin hükümetler, sivil toplum ve diğer yapay zeka şirketleri tarafından daha erken fark edilmesine ve ortak savunma mekanizmalarının güçlendirilmesine katkı sağlamayı amaçladığını bildirdi. (İLKHA)