Yapay zekanın sahte içerik, dolandırıcılık ve kişisel verilerin kötüye kullanılması riski artıyor

İLKHA'ya konuşan Dr. Mehmet Tarık Baran, yapay zekanın son dönemde sahte içerik, dolandırıcılık ve kişisel verilerin kötüye kullanılması gibi risklerin gündeme gelmesiyle birlikte oluşturduğu en büyük tehlikelerin neler olduğu ve vatandaşların kendilerini bu tehditlerden nasıl korumaları gerektiği hakkında önemli hususlara değindi.

Baran, öte yandan yapay zekayı bilinçli ve doğru kullanmak için özellikle gençlerin ve çocukların dikkat etmesi gereken en temel kuralların neler olduğuna ve "insanların işlerini elinden alacak" endişesine de dikkat çekti.

Baran, son dönemde yapay zekanın sahtecilikle ilgili artık gerçek ile sahteyi ayırt etmenin ötesine geçildiğini belirterek, bir kişinin tüm özellikleri birebir taklit edilebileceğini aktardı.

Son dönemde yapay zekanın sahte içerik üretiminin oluşturduğu en büyük tehditler hakkında konuşan Baran "Yapay zekanın sahtecilikle ilgili artık gerçek ile sahteyi ayırt etmenin ötesine geçildi. Bir kişinin tüm özellikleri birebir taklit edilebiliyor. Görüntüsü, sesi, konuşma tarzı, ses tonu gibi hepsi kopyalanabiliyor. Bunu sağlayan sistemlerden biri de 'difüzyon' sistemleri olarak adlandırılıyor. Kişiye ait sadece bir dakikalık bir ses kaydı veya birkaç fotoğraf ile birebir dijital ikiziniz oluşturulabiliyor. Başka bir ifadeyle, dijital ortamda tam bir kopyanız meydana getiriliyor. Biz bu teknolojiyi aslında iyi amaçlarla kullanıyoruz. Tıp alanında teşhis ve tedavi planlaması, finans ve diğer alanlarda modeller geliştirilerek olası durumların öngörülmesi gibi…" dedi.

"Kişinin adına kötü görüntüler oluşturup bunun sonucunda şantaj yapılabilir"

Baran, sahte içeriklere karşı vatandaşların öncelikli olarak teyit, doğrulama yapması gerektiğini belirterek "Ancak kötü niyetli kişiler aynı teknolojiyi kendi çıkarları için kullanıp, sizi birebir taklit ederek sizin adınıza zararlı işler yapabiliyor. Bunların içerisinde bankalarda kendilerini hem ses hem de görüntülerle doğrulayıp herhangi bir sahtecilik yapılabilir. Veya kişinin adına kötü videolar oluşturup bunun sonucunda şantaj yapılabilir. Bu tür kötü durumlar için de kullanılmakta. Yapay zeka iyiliğe kullanıldığı kadar kötülüğe de kullanılmakta. Vatandaşlar bu durumdan kendilerini koruma noktasında yapay zekada doğrulama önemlidir. Bir dosya gönderildiğinde ne olduğu hakkında kesin bir doğrulama yapılmalıdır. Yapay zekada ses taklit etme yönteminde gerçeğinden ayırt etmede kişi güçlük çekiyor. Sadece bir fotoğraftan yüzlerce video üretilebiliyor. Buna karşı görüntülere hemen inanmayıp tek tek doğrulama yapılması lazım." şeklinde konuştu.

"Gençlerimiz genellikle 'kısa yoldan bilgiye ulaşma' odaklı yaklaşıyor"

Yapay zekayı bilinçli ve doğru kullanmak için özellikle gençlerin ve çocukların dikkat etmesi gereken en temel kurallar hakkında konuşan Baran "Gençlerle ilgili sürekli seminerler vermekteyiz. Gençlerimiz genellikle 'kısa yoldan bilgiye ulaşma' odaklı yaklaşıyor. Ödevlerini yapay zeka ile yapma eğilimindeler. Ancak bunu yaparken araştırma içgüdüleri ortadan kalkıyor. Hazıra ve kolaya alışıyor, araştırma yapma alışkanlığını kaybediyorlar. Yapay zeka bütün işi yapan bir araç değil, size yardımcı olan bir araçtır. Ürettiği her bilgiyi teyit etmeleri şart. Örneğin bir ödev hazırlarken doğruluğunu hocasından ve güvenilir kaynaklardan teyit etmeli. Yapay zeka bilgiyi sağlayabilir ama doğrulama sorumluluğu öğrenciye aittir. Çünkü sistem temelde insana dayanır, şu anki haliyle mükemmel değil. Öğrencilere tavsiyemiz; her şeyi araştırarak, doğrulayarak, yapay zekayı da yardımcı alarak çalışmalıdırlar." diye ifade etti.

Baran, yapay zekayı aynı zamanda iyiliğe doğru kullanılması gerektiğin belirterek "Çocuklar kullanırsa tembelleşir gibi genellemelere girmemek lazım. İyiliğe kullanıldığında verimliliği yüzde 80-90 oranında artırabilir. Kişi kendi kapasitesinin dışına da çıkabilir. Bu çok olumlu bir gelişme. Eğitimde hedeflediğimiz fayda da tam olarak bu. Öğretmenler de yapay zekadan yararlanabilir ama bilgiyi aktarırken insani yönü, duyguyu, bireysel farklılıkları da katmalı, her öğrenciye özel yaklaşım sergilemelidir." dedi.

"İlerde 170 milyon yeni iş alanı oluşacak, yaklaşık 73 milyon civarında meslek dönüşecek"

Baran, "Yapay zeka insanların işlerini elinden alacak" endişesine açıklık getirerek şu ifadeleri kullandı:

"Meslekler konusunda mesleklerin öleceğini söylemek şimdilik erken. Ancak ilerleyen zamanlarda meslekler dönüşecek. Dijitali (yapay zekayı) bilen bir memur ile bilmeyen memur arasında fark olacak. Çünkü en çok etkilenecekler memurlar olacaktır. Özellikle bilgi üretim konusunda yapay zeka, çok ileriye gittiğinden bilgi, evrak ile ilgili onları etkileyecek. En az etkilenecek ise el yeteneğine bağlı olan meslekler olacaktır. Peki yapay zeka meslekleri elimizden alıyor mu? Aslında almıyor. Araştırmalar dünya genelinde 170 milyon yeni iş alanı oluşacak. OECD de bu verileri takip ediyor. Dönüşüm geçirecek meslek sayısı ise yaklaşık 73 milyon civarında. Kendini yenileyip yapay zekayla bütünleşen ayakta kalacak, hazırı bekleyen gruplar ise istenmeyen bir duruma düşebilecek. Bu nedenle yapay zeka meslekleri öldürmeyecek ama rahatlıkla dönüştürebilecek. Sınav tercih dönemlerinde yapay zeka içeren bölümlere ilgi arttı. Bu fark bilinçli bir dönüşümün işareti. Gençler durumu fark ediyor. Ancak bu değişim bir gecede değil, zamanla hayatımıza yerleşecek. Buna hazırlıklı olunmalıdır. Yapay zekaya 'Mesleğimi elimden alır' gözüyle bakmak yerine, kendimizi ona göre geliştirmek en doğrusu olacaktır."

"Artık daha üst seviyeli yapay zeka sistemleri hayatımıza girdi"

Yapay zeka teknolojilerinin gelecekte evrileceği durum hakkında öngörüde bulunan Baran "Şu an yapay zekaya ilk dil modelleriyle başladı. Soru sorup cevap almak şeklindeydi. Sonraki aşamada çok kipli (multimodal) modeller geldi: Fotoğraf, ses, görüntü ve yazıyı bir arada işleyip hepsi hakkında yorum yapabilecek düzeye ulaşıldı. Sonrasında şu soru gündeme geldi: Bu modeller sadece cevap vermekle kalmayacak, biz 'Şunu yap' dediğimizde gidip gerçekten yapabilecek mi? Yani birer eli kolu olacak mı? diye düşünüldü. Artık daha üst seviyeli yapay zeka sistemleri hayatımıza girdi. Artık ona 'Şu tarihte seyahat edeceğim, otelimi ayarla, şu maili gönder, en uygun uçak biletini bul' denildiğinde kendisi ayarlanabilecek sistem oluşturdu. Kendi başına araştırıp karşılaştırıp işlemi tamamlayabiliyor. Kendi başına karar alıp o kararı hayata geçirme yeteneğine kavuştular." şeklinde ifade etti.

"İyi yönleri olduğu kadar, yanlış kararları doğruymuş gibi kabul ettirme tehlikesi de her zaman mevcut"

Baran, gelecekte yapay zeka sistemlerinin daha otonom hale geleceğini belirterek "Peki gelecekte bizi ne bekliyor? Gelecek otonom sistemlere doğru ilerliyor. 'Agentic' ayarlar kendi kendine hareket eden, bir şey söylemeye gerek kalmadan bilgileri derleyecek, programı kendisi oluşturacak otonom sistemlere doğru yol alınıyor. İnsanların en çok korktuğu nokta 'Mesleğimi elimizden alacak mı?' Bu sistemler artık bakanlık düzeyinde, hatta CEO seviyesinde karar alır hale geldi. Tek başına şirket yöneten yapay zekalar var. Otonom çalışan sistemler hayatımıza girdi şimdilik. Elbette bunun iyi yönleri olduğu kadar, yanlış kararları doğruymuş gibi kabul ettirme, bilgileri yanlış yorumlayıp bizi yanlış yönlendirme, bir hatayı başka hataların tetikleyicisi yapma tehlikesi her zaman mevcut. Gelecekte bununla ilgili altyapı ve veri seti sağlam kurulursa bu teknoloji bizi çok ileriye taşır. Fakat eksik, yanlış veya taraflı bilgiyle beslenirse felaketlere yol açabilir. Asıl endişe edilmesi gereken de budur." ifadelerini kullandı.

"Kişi hazırladığı tez, metin, ödev gibi içeriklere bir iz ekleniyor"

Yapay zekanın oluşturduğu sahteciliğin tespitine yönelik Avrupa Birliği düzenlemelerinin bulunduğunu belirten Baran, bu alandaki çalışmalar hakkında da değerlendirmelerde bulundu:

"Yapay zekanın oluşturduğu sahteciliğin tespitine yönelik Avrupa Birliği düzenlemeleri bulunmaktadır. Bu kurallar çerçevesinde, şu anda kullandığımız Anthropic'ın Claude sistemi, yapay zeka ile üretilen metinlerin -ödev, tez, bilimsel çalışma fark etmeksizin- yapay zeka ürünü olup olmadığını belirleyebilmek amacıyla, içeriklere görünmez filigranlar adı verilen gizli işaretler yerleştirmeye başladı. Ancak burada önemli bir dezavantaj, bu işaretler ne insanların ne de herhangi bir kurumun görebileceği şekilde tasarlanmamıştır. Belirli koşullar altında erişilebiliyor. Kişi hazırladığı tez, metin, ödev gibi içeriklere bir iz ekleniyor ve ilerleyen dönemde bu iz ortaya çıkarılabiliyor. Eğer çalışmanızın yapay zeka tarafından üretildiği tespit edilirse telif hakkı, bilimsel etik ve sorumluluk açısından ciddi sorunlarla karşılaşmanız kaçınılmaz olacaktır. Çünkü bu içeriği kişi kendisi değil, yapay zeka oluşturmuş sayılacaktır. Anthropic gibi birçok firma da AB mevzuatına uyum sağlamak amacıyla benzer filigran sistemleri geliştirmek zorunda kalıyor. Ancak tespit araçları henüz kamuoyuyla paylaşılmadı. Hangi kurumlara, ne zaman erişim verileceğine dair de net bir takvim bulunmuyor. Şu an için gelişmeleri takip etmekten öte bir imkanımız yok."

Baran, yapay zeka tarafından üretilen içeriklerin tespitine yönelik özgün algoritmalar geliştirdiklerini söyleyerek "Mardin Artuklu Üniversitesi olarak, bu konuda bir yılı aşkın süredir çalışma yürütüyoruz. Fotoğraf, video, ses ve metin ayrımında yapay zeka üretimi olup olmadığını saptamaya yönelik özgün algoritmalar geliştirdik. Ancak en ileri düzey yöntemler kullanmamıza karşın başarı oranımız istediğimiz düzeyde değil. Nedeni ise gerçek ile sahte arasındaki fark her geçen gün kapanıyor. Biz yüksek doğruluk oranına ulaşan bir algoritma geliştirdiğimizde, bu kez daha gelişmiş üretim modelleri çıkıyor ve tespit sistemimiz geride kalıyor. Bu döngü henüz kırılmış değil. Kendi yürüttüğüm bağımsız bir çalışma da bu konuda devam etmektedir. Büyük firmalar -Anthropic ve benzeri- kendi filigran sistemlerinin paylaşımına yönelik henüz net bir yaklaşım belirlemiş değiller. Ancak gelecekte bu işaretlerin çözümüne yönelik izin ve kullanım hakları sağlanırsa biz de mevcut algoritmalarımıza bu verileri ekleyeceğiz. Böylece metin, görüntü, ses gibi tüm içeriklerin yapay zeka mı yoksa insan tarafından mı üretildiğine dair doğruluk oranını neredeyse yüzde 100 seviyesine ulaştırma imkanı bulacağız." ifadelerini kaydetti. (İLKHA)