’Kurumsal verileri yapay zeka sistemleriyle paylaşmayın’ uyarısı

Yapay zeka platformlarında veri gizliliğinin hayati önem taşıdığını belirten İnternet Tabanlı Teknoloji Mimarı Kaan Demircan, kurumsal verilerin bu sistemlerle paylaşılmasının geri dönülemez güvenlik açıklarına yol açabileceği konusunda kritik uyarılarda bulundu.
Küresel çapta dijital altyapı tasarımları gerçekleştiren Demircan, yapay zekanın sunduğu büyük imkanların yanı sıra barındırdığı etik riskler ve "halüsinasyon" olarak adlandırılan hatalı bilgi üretme riskine dikkat çekti. Kuzey Kafkas Karaçay-Malkar Derneği’nde düzenlenen bir sunumda konuşan Demircan, teknolojinin hızla ilerlediği bu dönemde veri güvenliğinin bir tercih değil zorunluluk olduğunu ifade ederek, kullanıcıların bu sistemleri kontrolsüz bir şekilde kullanmaması gerektiğini vurguladı.

"Bilgilerinizi paylaşmamalısınız"
Yapay zekanın etik ve sorumlu bir şekilde kullanılmasının önemine değinen Demircan, özellikle kurumsal bilgilerin gizliliği konusunda katılımcıları uyardı. Bir firmada çalışırken şirketle alakalı bilgilerin sisteme girilmemesi gerektiğini belirten Demircan, "Yapay zekayı etik bir şekilde kullanmak ve kullandırmak çok önemli. Etik ve sorumlu kullanılması gerekli. Bilgilerinizi paylaşmamalısınız" dedi.

"Kendi yapay zekamızı kullanıyoruz"
Kendi çalışma ortamından örnekler veren Demircan, kurum içi özel modellerin avantajlarını şu sözlerle aktardı:
"Kendi çalıştığım şirkette kendi yapay zekamızı kullanıyoruz. Paylaştığımız bilgiler hiçbir yere gitmiyor, birileriyle paylaşılmıyor. Ama şirketin her türlü bilgisine yapay zeka ile erişilebiliyor. Finansal bilgilerden kime ne sattığımız, hangi projeler var. Oraya bir soru sorduğumuz zaman, yapay zeka bütün bilgileri bildiği için çok verimli cevaplar alıyorum ve çok işime yarıyor."

"Başarının temeli sürekli bilgiye aç olmak"
Teknoloji alanında başarılı olmanın yolunun merak duygusundan geçtiğini belirten Demircan, "Sürekli deneyeceksiniz, yeni araçlar çıkıyor. Sürekli öğrenmeniz gerekiyor, öğrenmeye aç olmak lazım. Başarılı olmanın temeli bu; sürekli bilgiye aç olmak. Yeni projeler çıktıkça sürekli bakın, merak ediyorsanız ve ne yapacağınızı bilemiyorsanız bilen birilerine sorun" dedi.

"Yapay zeka halüsinasyon görebilir"
Yapay zekanın kusursuz bir sistem olmadığını ve "halüsinasyon" olarak adlandırılan hatalı bilgi üretme riskine sahip olduğunu belirten Demircan şunları kaydetti:
"İnsan beynini taklit etmeye çalışıyoruz ama bu mükemmel bir şey değil. Yapay zeka halüsinasyonları diye bir kavram var. Yapay zeka bazen olmayan bir bilgiyi doğruymuş gibi düşünebiliyor. Bu yanlış eğitilmiş veri setinden gelmiş olabilir veya sizin o an kullandığınız geniş dil modelini geliştirme şeklinden de olabilir. Bu yüzden buradan çıkan her şeyi alıp direkt kullanmak hiçbir zaman doğru değil. Mesela bir yazılımcı olarak bir kod yazılıyorsa yapay zekayı kontrol edip anlamanız gerekli."

"Bazı ırklara karşı önyargılı davrandığı görülmüş"
Demircan, yapay zekanın bazen olmayan bir bilgiyi doğruymuş gibi sunabileceğini vurgulayarak şu sözleri söyledi:
"Bu durum yanlış eğitilmiş veri setinden veya geniş dil modelini geliştirme şeklinden kaynaklanabilir. Bu yüzden buradan çıkan her şeyi alıp direkt kullanmak hiçbir zaman doğru değil. Mesela bir yazılımcı olarak bir kod yazıyorsa yapay zeka, kontrol edip anlamanız gerekli. Algoritmik ön yargı, ya da yanlılık olarak da geçen bir durum var. Bazı araştırmalarda yapay zekanın insan kaynakları başvurularında bazı ırklara karşı önyargılı davrandığı görülmüş. Her şey kullanılmamalı, çünkü yapay zeka farklı yalan haber kaynaklarından veya yanlış bilgilerden besleniyor olabilir."

Büyük ilgi gören etkinlik, sunumun ardından gerçekleştirilen soru-cevap bölümü ve misafirlere sunulan ikramlar ile sona erdi.