DeepSeek’in son duyurduğu ve deneysel aşamada olan yapay zeka modeli V3.2-exp, özel bir teknoloji kullanarak iddiaya göre maliyetleri yarı yarıya düşürüyor. Geliştirilen bu yapay zeka modeli, API maliyetlerini yüzde 50 oranında azalttığı iddia ediliyor.
Çin merkezli yapay zeka girişimi DeepSeek’in yeni deneysel modeli, verimliliği artırmayı ve yapay zekanın büyük miktarlardaki veriyi işleme becerisini düşük maliyetle gerçekleştirme hedefini taşıyor. Ancak modelin mimarisinin ne kadar etkili ve güvenli olduğuna dair sorular halen cevapsız kalıyor.
Yeni modelde DeepSeek Sparse Attention adındaki bir teknoloji bulunuyor. Bu teknoloji sayesinde lightning indexer modülü, kullanıcının girdiği komuta göre bağlam önceliklendirme yapabiliyor ve uygun bağlam penceresi oluşturabiliyor. Daha sonra fine-grained token selection system ile ilk bağlam penceresi alt kategorilere ayrılıyor. Bu yöntem ile sunucu yükü azalırken, API maliyeti düşürülmüş oluyor.
Şirketin yaptığı açıklamaya göre, ‘sparse attention’ sayesinde yapay zekayı uzun vadeli projelerde kullananlar avantaj elde edecekler.
