Anthropic'in Claude'u, kendi kendini geliştirerek bir üst modelin oluşmasına yardımcı oluyor

Şirketten yapılan açıklamaya göre Claude, Anthropic'in model araştırma ve geliştirme çalışmalarının yaklaşık yüzde 26'sına öncülük ediyor. Bu oran, modelin yüksek seviyeli bir komut üzerinden verilen görevlerin büyük bölümünü, insan gözetimi altında, uçtan uca tamamlayabildiği anlamına geliyor.

Anthropic, Claude'un henüz tamamen bağımsız şekilde çalışmadığını belirtirken, şirketin araştırma ve geliştirme faaliyetlerinin yaklaşık yüzde 90'ının Claude ile işbirliği içinde yürütüldüğünü bildirdi. Bu kapsamda modelin, insan yönlendirmesi altında çalışmaların büyük bölümlerini gerçekleştirebildiği ifade edildi.

Şirketin açıklaması, yapay zeka teknolojilerinin geliştirilme hızına ilişkin güvenlik tartışmalarının yoğunlaştığı bir dönemde geldi. Anthropic Üst Yöneticisi (CEO) Dario Amodei'nin de aralarında bulunduğu bazı sektör yöneticileri, yapay zekanın güvenlik riskleri nedeniyle teknolojinin geliştirilme hızının yavaşlatılması çağrısında bulunuyor.

Anthropic, yapay zekanın gelişimine ilişkin kamuoyunun ve öncü yapay zeka laboratuvarlarının sahip olduğu bilgi arasındaki farkın mümkün olduğunca azaltılması gerektiğini belirtti. Şirket, yapay zeka gelişiminin daha iyi ölçülmesi, sonuçların kamuoyuyla paylaşılması ve toplumun bu teknolojilerin nasıl kullanılacağı konusunda karar verebilmesi gerektiğini savundu.

Şirket ayrıca, yapay zeka modellerinin kendi gelişimlerini hızlandırmasının, insanların bu sistemleri anlamasını ve kontrol etmesini daha zor hale getirebileceği uyarısında bulundu.

Anthropic'e göre araştırma ve geliştirmede yapay zekanın üstlendiği rolün düzenli olarak ölçülmesi, önde gelen yapay zeka laboratuvarlarının özyinelemeli kendini geliştirme olarak tanımlanan ve bir modelin kendi halefini bağımsız şekilde geliştirebilmesini ifade eden aşamaya ne kadar yaklaştığının anlaşılmasına katkı sağlayabilir.

Şirket, diğer yapay zeka geliştiricilerine de benzer ölçümleri düzenli olarak paylaşma çağrısında bulunarak, farklı şirketlerin verilerinin zaman içinde ve mümkün olduğunda birbirleriyle karşılaştırılabilmesi için ortak ve kamuya açık bir metodolojinin kullanılmasını önerdi.

Anthropic, Claude'un kendi araştırma ve geliştirme çalışmalarına katkısının son aylarda hızlı biçimde arttığına dikkati çekti. Şubat ayında şirketin araştırma ve geliştirme çalışmalarında Claude'un öncülük ettiği bölüm bulunmazken, yaklaşık altı ay sonra bu oran yüzde 25'in üzerine çıktı ve ağustosta yüzde 26 seviyesine ulaştı.

Şirket ayrıca yapay zeka ajanlarının denetimine ilişkin uygulamalarına dair bilgi verdi. Anthropic, ağustos itibarıyla araştırma ve mühendislik çalışmalarında yaklaşık 30 bin yapay zeka ajanının görev yaptığını bildirdi.

Şirket, bu ajanların denetlenmesinin, olası uygunsuz davranışların izleme sistemleri tarafından ne sıklıkla tespit edildiğinin belirlenmesi açısından önem taşıdığını vurguladı.

Anthropic daha önce de güvenlik çalışmalarının bağımsız biçimde değerlendirilmesi amacıyla şirket bünyesinde görev yapacak dış denetçiler oluşturma taahhüdünde bulunmuştu.

Öte yandan Anthropic bünyesinde çalışan bir araştırmacının geçen hafta istifa ederek yapay zekanın insanlık açısından oluşturabileceği risklere ilişkin uyarılarda bulunması, sektördeki güvenlik tartışmalarını yeniden gündeme getirmişti.

Amodei'nin yanı sıra OpenAI Üst Yöneticisi Sam Altman, Elon Musk ve bazı teknoloji sektörü yöneticileri yapay zeka geliştirme süreçlerinin yavaşlatılması fikrine destek verirken, bazı teknoloji yöneticileri ile Trump bu yaklaşıma karşı çıkıyor. (İLKHA)