Yapay zekâda hız devrimi: Türk girişimciden yüzde 55 hızlı dil modeli katmanı

Edirneli girişimci ve ekibi, yapay zekâ dünyasında çığır açacak bir başarıya imza attı. Açık kaynaklı büyük dil modellerine entegre ettikleri özel bir hızlandırma katmanı ile yapay zekâ çıkarım süresini yüzde 55 hızlandırmayı başardılar.
Geliştirilen teknoloji, San Francisco merkezli bazı Startup’larla yapılan pilot testlerde yüksek performans gösterdi. Bu yenilik, sadece işlem süresini hızlandırmakla kalmıyor, aynı zamanda sistemlerin enerji tüketimi ve donanım maliyetlerini de önemli ölçüde azaltıyor.
Türk girişimci Semih Polat ve ekibi, bu başarıyı ’attention (dikkat) tekniklerinin’ optimize edilmesiyle elde etti. Bu teknik sayesinde büyük dil modellerinin daha verimli ve daha ekonomik çalışması sağlanabiliyor.
Yazılım geliştirme ve ofis verimliliği alanlarında çarpıcı etkileri olan yapay zekâ destekli çözümler, ABD’de yapılan araştırmalara göre yazılım geliştiricilerin görev tamamlama süresini yüzde 55 oranında hızlandırıyor. Polat’ın geliştirdiği sistem, bu alanda yeni bir standardın habercisi olarak görülüyor.

Maliyetleri düşürecek yeni sistem yolda
Semih Polat, günümüzde yaygın olarak kullanılan yüksek performanslı modellerin (örneğin Opus 4 ve O3 Pro) yüksek maliyetler nedeniyle küçük ve orta ölçekli girişimler için sürdürülebilir olmadığını vurguluyor. Bu modellerde yapılan her API çağrısının ortalama maliyeti 30 cent’i bulabiliyor.
Bu sorunu ortadan kaldırmayı amaçlayan ekip, çok daha düşük işlem gücüyle güçlü dil modeli çıktıları sağlayabilecek yeni bir teknik üzerinde de çalışıyor. Yeni sistemin ilk testlerine yıl sonunda başlanması planlanıyor.