Yapay zeka tabanlı sohbet robotu ne kadar güvenilir?

Bilişim uzmanları, son günlerde ünü dünyada hızla yayılan sohbet robotunun verdiği bilgilerin ne kadar güvenilir olduğuna dikkat edilmesi gerektiği uyarısında bulunuyor.

Geçen yıl kasım ayında piyasaya sürülen ve ücretsiz kullanıma açılan yapay zeka tabanlı sohbet robotu ChatGPT, tüm dünyanın ilgisini çekti. Sorulan sorulara anında cevap veren sohbet robotu, aynı zamanda şiir yazıp içerik üretimi de yapabiliyor. Uygulamanın çok yararlı olduğunu söyleyen Yaşar Üniversitesi Bilgisayar Mühendisliği Öğretim Üyesi Prof. Dr. Ahmet Koltuksuz, sohbet robotunun verdiği tüm bilgilerin güvenilir olmadığına ve daha önce çözülmemiş bir problemi çözmediğine dikkat edilmesi gerektiğini söyledi. Yapay zeka tabanlı sohbet robotu ChatGPT sisteminde bilgilerin bilgisayara aktarıldığını ve karar verme tekniklerinin matematiksel mantık kurallarıyla tanımlandığını söyleyen Prof. Dr. Koltuksuz, "Bu programla yapay zeka, verdiğimiz bilgileri hızlı bir şekilde toparlayarak geri aktarıyor. Bunun dışında yeni bir bilgi üretmiyor veya çözülmemiş bir problemi çözmüyor. Dikkat edilmesi gereken nokta, verdiği tüm bilgilerin insan üretimi olduğu ve yanlış da olabileceği" dedi.

"Verilen bilgileri geri döndürüyor"

ChatGPT'nin çalışma mantığını anlatan Prof. Dr. Koltuksuz, "ChatGPT, bir firmanın yaklaşık 3-5 senedir üzerinde çalıştığı bir proje. Arka tarafta bizim bildiğimiz bilgiler bilgisayara aktarılıyor, karar verme teknikleri matematiksel mantık kurallarıyla tanımlanıyor. Böylece o karar verme kurallarıyla bilgi bir araya geldiğinde, bu program sorduğunuz sorulara yanıt vermeye başlıyor. Makine öğrenmesi teknikleri geliştiği için artık bu çok daha sağlıklı hale geldi. Bilgisayarlar aktardığımız bilgileri kendi içinde işleyip, karar verip küçük bilgi parçalarını birleştirerek bize daha doğru ve daha anlamlı geri dönüşler sağlıyor. Sizin için mektup yazıyor, resim yapıyor, bir şeyler çalıyor" diye konuştu.

"Gelen bilgilerin yüzde yüz doğru olduğu kabul edilmemeli"

Programdan bilgi alınırken dikkat edilmesi gerekenleri aktaran Koltuksuz, "Çok yararlı, kolaylık sağlayacak bir program. Makine öğrenmesinde ne kadar uç noktalara geldiğimizi gösteriyor. Ansiklopedi karıştırmak yerine, bilgiye ulaşmak için uzun süreler harcamak yerine, tek sorunuzda size istediğiniz bilgiyi verecek. Fakat bir süre sonra insanlar bu yapay zekadan aldıkları her bilginin doğru olduğunu düşünecek. Problemlerin başlayacağı an bu olacak. Önümüzdeki 3-5 yıllık dönemde, bu tip programların belirli bir regülasyon altına alınmasını sağlamamız lazım. Şu anki deneysel bir çalışma. Bu programı bir endüstride, fabrikada veya okul ortamında kullanmaya kalkarsanız yanılabilirsiniz. Buradan gelen bilgilerin daha tam anlamıyla, yüzde yüz doğru olduğu kabul edilmemeli. Dikkat etmek gerekiyor. Hatalı bilgi verirseniz, hatalı sonuç alırsınız. 10 sene içinde daha az hatalı bilgi verecek ve gelişecek. Yakın gelecekte bir ara yüzle yazarak değil konuşarak da soru sorulabilir hale gelecek" dedi.

"Nefret söylemlerine dikkat"

Henüz yapay zeka sohbet robotunun çok fazla bilgiye sahip olmadığından bazı sorulara yanıt veremediğine dikkat çeken Koltuksuz, "Önümüzdeki yıllarda yeni bilgiler aktarıldıkça daha sağlıklı şekilde geri bildirimler yapacak. Yüz binlerce bilginin içinde ırkçı ve cinsiyetçi söylemin hatalı olduğunu ve dikkat edilmesi gerektiğini neticelendirme kuralları içine tanımlamazsanız, ChatGPT kolaylıkla ırkçı veya nefret söylemi içeren bir yaklaşımda bulunabilir. Bunun yanlış olduğunu tanımlamak gerekir. Irkçı, cinsiyetçi ve nefret içeren bir söylemi doğrulatmaya kalkan kişiler de olabilir ve ChatGPT doğrularsa bu bilgiler kullanılabilir" şeklinde konuştu.

"Uzmanlık alanlarına göre ayrılabilir"

Programın yıllar içinde bilgi aktarımlarıyla gelişip büyüyeceğini belirten Prof. Dr. Koltuksuz, "İçgüdüsel davranış kalıplarının matematik modellerini ne kadar hassasiyetle tanımlayıp bu yapay zekanın içine koyabilirsek o kadar gelişecek. Önümüzdeki birkaç sene içinde ChatGPT'nin birçok farklı versiyonu çıkacak. Cep telefonlarına uyarlanacak, bir kısmı paralı olacak. Uzmanlık alanlarına göre farklı çeşitleri çıkacak. Ne kadar uzmanlaşırsa o kadar doğru kararlarla karşı karşıya kalacağız. Bunun için bu programların daha sık kullanılması gerekiyor. ChatGPT'yi Google ve Wikipedia'nın çok daha akıllı ve hızlı bir kombinasyonu gibi düşünebiliriz. Farkı bilgileri sentezleme kabiliyetine sahip. Yakında cep telefonu uygulamaları da oluşunca, bu program herkesin elinin altında olacak. İnsanlığın son 20-30 bin senede çözdüğü bir sürü problem var. Bunun kendi alanınızla ilgili olan kısımlarını biliyorsunuz ama büyük bir kısmını bilmiyorsunuz. Şimdi bu problemlerin çözümlerinin bütünü elinizin altında olacak" dedi.