Anthropic araştırmacısı, yapay zeka güvenliği endişeleri nedeniyle şirketten ayrılıyor

Yaklaşık üç yıl boyunca Anthropic ve OpenAI'de araştırmalar yürüttüğünü belirten Coxon, sosyal medya platformu X üzerinden yaptığı açıklamada, iki şirketin gelişmiş yapay zeka modelleri geliştirme yarışında güvenlik konusunun geri plana itildiğini savundu.

Coxon, Anthropic ve OpenAI'nin en gelişmiş yapay zeka modelini geliştirme konusunda birbirleriyle ve küresel rakipleriyle yarışmaya odaklandığını, buna karşın yapay zekanın güvenli şekilde geliştirilmesi konusunda yeterince çaba gösterilmediğini ileri sürdü.

Anthropic ve OpenAI, yaz aylarında yaklaşık bir hafta arayla yaptıkları açıklamalarda, geliştirdikleri yapay zeka modellerinin test ortamlarının dışına çıktığını ve gerçek bilgisayar sistemlerine yetkisiz erişim sağladığını duyurmuştu.

Söz konusu gelişmeler, yapay zeka modellerinin insan kontrolünden çıkabileceği ve daha zararlı faaliyetler gerçekleştirebileceğine ilişkin endişeleri artırmıştı.

Her iki şirket de değerlendirme süreçlerinin bir bölümünü geçici olarak durdurduklarını ve daha kapsamlı izleme mekanizmaları ile güvenlik önlemleri üzerinde çalıştıklarını açıklamıştı.

"İnsanlığın geleceği riske atılıyor"

Yapay zekanın hızlı gelişimi, ABD'de ve uluslararası alanda bazı siyasetçi ve yetkililerin daha temkinli bir yaklaşım çağrısı yapmasına yol açıyor.

Birleşmiş Milletler (BM) İnsan Hakları Yüksek Komiseri Volker Türk de bu hafta yaptığı açıklamada, ülkelerin yapay zekanın güvenliği konusunda çok sağlam güvenceler oluşturması gerektiğini belirterek, önlem almak için çok geç kalınmaması gerektiğini ifade etti.

Coxon ise sosyal medya paylaşımlarında Anthropic ve başlıca rakibi OpenAI'nin kendi kendini geliştiren süper zekaya doğru hızla ilerlediğini ve bunun insanlığın geleceğini riske attığını savundu.

Bazı yapay zeka araştırmacılarının, teknolojinin on yılın sonuna kadar insan hayatını tehdit edebileceğine inandığını belirten Coxon, yapay zekanın potansiyelinin küçümsenmemesi gerektiği uyarısında bulundu.

Coxon, gelecekteki yapay zeka sistemlerinin insanüstü yeteneklere sahip olabileceğini, bilgisayar sistemlerine yönelik siber saldırılar gerçekleştirebileceğini ve farklı sektörlerde çok hızlı dönüşümlere yol açabileceğini ifade etti.

Coxon'un paylaşımlarının bir gecede 100 milyondan fazla kişiye ulaştığı belirtildi.

Yapay zeka sektöründe güvenlik tartışması

Coxon, yapay zeka sektöründe güvenlik konusunda kamuoyu önünde uyarıda bulunan ilk şirket içi isim değil.

Anthropic ve OpenAI'de son yıllarda bazı üst düzey çalışanlar, yapay zeka güvenliğiyle ilgili endişelerin de gündeme geldiği istifalarla şirketlerden ayrılmıştı.

Anthropic'te görev yapan iki çalışan da Coxon'un paylaşımına destek veren mesajlar yayımladı.

ABD Senatosunun bağımsız Vermont Senatörü Bernie Sanders da Coxon'un endişelerine destek verdi. Yapay zekaya yönelik güvenlik önlemleri ve düzenlemeler çağrısında bulunan Sanders, yakında yapay zeka geliştirme çalışmalarına ara verilmesini ve "süper zeka" geliştirilmesinin yasaklanmasını öngören bir yasa tasarısı sunacağını açıkladı.

Sanders "Bu teknolojiyi geliştiren insanların kendileri, teknolojinin insanlığın geleceğini tehdit edebileceğini kabul ediyor." değerlendirmesinde bulundu.

Öte yandan yapay zeka şirketleri de zaman zaman geliştirdikleri teknolojilerin insanlık açısından oluşturabileceği risklere dikkat çekiyor. Ancak bazı eleştirmenler, bu açıklamaların şirketlerin ürünlerini daha güçlü ve etkili göstermek amacıyla kullanılan bir pazarlama stratejisinin parçası olabileceğini savunuyor.

Coxon ise dile getirdiği endişelerin bir pazarlama gösterisi olmadığını belirtti.

Coxon'un açıklamalarıyla ilgili Anthropic ve OpenAI'den henüz doğrudan bir yanıt gelmedi.

Anthropic güvenliği önceliklendireceğini açıklamıştı

Anthropic, 2021'de OpenAI'den ayrılan bir grup kurucu tarafından kurulmuş ve kendisini uzun süredir önde gelen yapay zeka şirketleri arasında güvenlik odaklı ve daha sorumlu bir alternatif olarak konumlandırmıştı.

Şirket, kısa süre önce yaptığı açıklamada, güvenlik ile geliştirme hızı arasında bir çelişki olması halinde hız yerine güvenliğe öncelik vermek için adım attığını bildirmişti.

Bununla birlikte Anthropic ve OpenAI, halka arz hazırlıkları kapsamında çalışmalarını hızlandırırken, yapay zeka alanındaki rekabetlerini de yoğunlaştırıyor.

İki şirket aynı zamanda Çin merkezli yapay zeka şirketlerinin teknolojik ilerlemesini geride bırakmayı hedefleyen küresel rekabetin önemli aktörleri arasında yer alıyor. Bu yarış, Çin karşısında yapay zeka alanındaki üstünlüğün korunmasını öncelikleri arasında gösteren Trump yönetimi tarafından da destekleniyor. (İLKHA)