Anthropic CEO'su Amodei'den yapay zeka çağrısı: Gelişim hızı yavaşlatılmalı

Amodei, yayımladığı "We Must Pace the Frontier" (Yapay Zekanın Öncü Alanındaki İlerlemeyi Yavaşlatmalıyız) başlıklı yazısında, yapay zeka geliştirilmesinin durdurulmasını değil, teknolojinin güvenlik riskleri dikkate alınarak daha kontrollü biçimde ilerletilmesini savundu.

Yapay zekanın son dönemde dramatik biçimde hızlandığını belirten Amodei, özellikle modellerin yeni nesil yapay zeka sistemleri geliştirme ve siber güvenlik alanındaki yeteneklerinin ciddi riskler oluşturabileceğini ifade etti.

Amodei, yapay zeka güvenliği için üç aşamalı bir plan önerdi. Buna göre geliştirilen modellerin bağımsız kuruluşlar tarafından izlenmesi, sektör genelinde ortak güvenlik standartlarının oluşturulması ve uluslararası düzeyde düzenlemelerin hayata geçirilmesi gerekiyor.

Anthropic CEO'sunun çağrısına rakip şirketlerden de destek geldi. OpenAI CEO'su Sam Altman, bağımsız değerlendiricilerin yapay zeka modellerinin güvenliğini incelemesini harika bir fikir olarak nitelendirirken, yapay zeka yeteneklerinin mevcut standartların izin verdiğinden daha ileri taşınması konusunda temkinli olunması gerektiğini söyledi.

Elon Musk da Amodei'nin yaklaşımına destek vererek Anthropic CEO'sunun haklı olduğunu belirtti.

Amodei, olası bir yavaşlamanın özellikle ABD ile Çin arasındaki yapay zeka rekabetini olumsuz etkilememesi gerektiğine dikkati çekti. Yapay zeka sistemlerinin kritik yetenek seviyelerine ulaşmasının bir veya iki yıl geciktirilmesinin, güvenlik çalışmalarının geliştirilmesi için önemli bir zaman kazandırabileceğini savunan Amodei, bunun ABD'nin teknolojik üstünlüğünü zedelemeyecek şekilde uluslararası koordinasyonla gerçekleştirilmesi gerektiğini ifade etti.

Öte yandan bazı teknoloji yatırımcıları ve sektör temsilcileri, yapay zeka gelişiminin yavaşlatılması çağrısının güvenlikten ziyade sektördeki büyük şirketlerin teknoloji üzerindeki kontrolünü artırabileceği eleştirisinde bulundu.

Yapay zeka sistemlerinin giderek daha gelişmiş yetenekler kazanması, son dönemde siber güvenlik ve insan kontrolünden çıkma ihtimali konusundaki endişeleri de artırdı. Anthropic ve OpenAI, bazı gelişmiş modellerinin geliştirilmesi ve kullanıma sunulması süreçlerinde güvenlik gerekçeleriyle kısıtlamalara gittiklerini açıklamıştı.

Anthropic, OpenAI'nin eski yöneticilerinden Amodei tarafından 2021'de daha güvenli ve güvenilir yapay zeka sistemleri geliştirme amacıyla kurulmuştu. (İLKHA)