New York, çocuklarla etkileşime giren yapay zekâ sohbet botlarına kısıtlama getiriyor

Eyalet Valisi Kathy Hochul tarafından imzalanan düzenleme, 18 yaşından küçük kullanıcılarla etkileşimde bulunan sohbet botlarının sergileyebileceği sakıncalı davranışları yasaklıyor.

Çarşamba günü imzalanan ve 1 Ocak'ta yürürlüğe girecek yasa, çocuklarla etkileşim sırasında yasaklanacak "güvensiz yapay zekâ arkadaş özellikleri" için 12 ayrı tanım içeriyor.

Düzenlemenin ihlal edilmesi halinde, eyalet başsavcılığı sohbet botunu geliştiren şirkete karşı dava açabilecek. Yaptırımlar arasında para cezası ve tazminat, sohbet botunun faaliyetlerinin durdurulması ve verilerin imha edilmesi de bulunuyor.

Çocukların yapay zekâ ile etkileşimine sınırlama

Yeni yasa kapsamında, sohbet botlarının kendilerini duyguları, görüşleri veya çocukla gerçek bir ilişkisi bulunan kişiler gibi tanıtması yasaklanıyor.

Çocuklara yönelik aşırı iltifat içeren mesajlar göndermek, cinsel içerik sunmak, gizliliği teşvik etmek veya sağlıksız davranışlara yönlendirmek de yasaklanan davranışlar arasında yer alıyor.

Çocukların dijital güvenliğini savunan Common Sense Media kuruluşunun kurucusu ve Üst Yöneticisi (CEO) Jim Steyer, New York'un düzenlemesini ülkedeki çocukların yapay zekâ güvenliğine ilişkin en güçlü yasa olarak nitelendirdi.

Eyaletler yapay zekâ şirketlerini daha sıkı denetliyor

ABD'de Kongre'nin yapay zekâ alanında kapsamlı düzenlemeler yapmaması, eyalet yönetimlerini tüketiciyi koruma mevzuatı üzerinden yeni önlemler almaya yöneltiyor. New York ve California, çocukların korunmasının yanı sıra sosyal medya platformlarının faaliyetlerini de kapsayan düzenlemelerle öne çıkıyor.

California Valisi Gavin Newsom, eylülde imzaladığı yasalarla yapay zekâ sohbet botu geliştiricilerine modellerin çocuklar açısından oluşturabileceği riskleri değerlendirme, bu riskleri azaltmak için alınan önlemleri açıklama ve bağımsız denetime tabi olma yükümlülükleri getirdi. Newsom ayrıca sosyal medya platformlarının 16 yaşından küçük kullanıcılara yönelik bağımlılık yaratıcı özellikler sunmasını yasaklayan düzenlemeyi de imzaladı.

Öte yandan, sekiz ABD eyaleti bu ayın başında yapay zekâ şirketi OpenAI'ye karşı dava açtı. Eyaletler, şirketin popüler sohbet botunun çocuklara zarar verdiğini ve yetişkinleri yanılttığını, bu nedenle tüketiciyi koruma yasalarını ihlal ettiğini ileri sürdü.

Federal yönetim ile eyaletler arasında düzenleme tartışması

Eyalet yönetimleri, yapay zekânın oluşturduğu risklere karşı Kongre ve federal hükümetin daha kapsamlı önlemler alma kapasitesine sahip olduğunu kabul ediyor. Ancak Trump, yapay zekânın düzenlenmesine ilişkin endişeleri geri plana iterken eyaletleri bu alanda düzenleme yapmamaları konusunda uyardı.

Future of Privacy Forum adlı, veri koruma ve yapay zekâ yönetişimi alanında çalışan kâr amacı gütmeyen kuruluşun politika analisti Justine Gluck, California ve New York'un farklı düzenleme yaklaşımlarının, gelecek yıl yasama çalışmalarına yeniden başlayacak diğer eyaletler için örnek oluşturabileceğini belirtti.

Gluck, New York yasasının sohbet botlarına ilişkin düzenlemelerin hızla değiştiğini gösterdiğini, eyaletlerin temel bilgilendirme yükümlülükleri ve kriz müdahale protokollerinin ötesine geçerek bu sistemlerin tasarımını ve işleyişini de düzenlemeye yöneldiğini ifade etti.

Bununla birlikte Gluck, yasadaki bazı kategorilerin geniş ifadelerle tanımlandığını veya yeterince açıklığa kavuşturulmadığını belirterek, olağan sohbet davranışlarının hangi noktada yasak kapsamına gireceği ve düzenlemenin nasıl uygulanacağı konusunda soru işaretleri bulunduğuna dikkati çekti. (İLKHA)