Qualcomm, 22 Eylül’de düzenleyeceği Snapdragon Summit öncesinde yeni nesil mobil işlemcilerinin yapay zeka yeteneklerine ilişkin önemli ayrıntıları paylaştı. Şirketin etkinlikte Snapdragon 8 Elite Gen 6 ve Snapdragon 8 Elite Gen 6 Pro modellerini tanıtması beklenirken, özellikle Pro modelindeki Hexagon NPU birimi dikkat çekiyor.
Yapay zeka aracılarına özel mimari
Yeni Hexagon NPU, günümüzde giderek yaygınlaşan “agentic AI” olarak adlandırılan yapay zeka aracıları için özel olarak geliştirildi. Bu sistemler, yalnızca verilen komutlara yanıt vermek yerine bir görevi analiz edip birden fazla adımı kendi başına gerçekleştirebilen yapay zeka uygulamalarını ifade ediyor.
Mimarinin merkezinde ise modern üretken yapay zeka iş yükleri için geliştirilen Element Accelerator bulunuyor. Skaler, vektör ve matris uzantılarıyla birlikte çalışan birim, büyük dil modellerinin cihaz üzerinde daha verimli çalışmasına yardımcı olacak.
Paylaşımlı bellek kapasitesi yüzde 50 arttı
Qualcomm’un yeni tasarımındaki önemli değişikliklerden biri de bellek tarafında gerçekleşti. Hexagon NPU’nun paylaşımlı bellek kapasitesi yüzde 50 oranında artırıldı.
Bu sayede yapay zeka modelleri tarafından sık kullanılan veriler işlem birimine daha yakın tutulabilecek. Böylece işlemci ile bellek arasındaki veri aktarımından kaynaklanan darboğazların azaltılması ve yapay zeka görevlerinde gecikmenin düşürülmesi hedefleniyor.
INT4 modellerinde yüzde 50’ye varan hız artışı
Yeni NPU’nun performans kazanımları özellikle INT4 modellerinde öne çıkıyor. Qualcomm, ön dolum veya “prefill” olarak adlandırılan süreçte yüzde 50’ye varan hız artışı elde edildiğini belirtiyor.
INT4, yapay zeka modellerindeki sayıların daha düşük bit hassasiyetiyle işlenmesini sağlayan bir yöntem. Daha az veri kullanılması, uygun modellerde performans ve enerji verimliliği açısından avantaj sağlayabiliyor.
MoE ve çok modlu modeller destekleniyor
Snapdragon 8 Elite Gen 6 Pro’nun Mixture-of-Experts (MoE) ve çok modlu yapay zeka modelleriyle uyumlu çalışacağı belirtiliyor. MoE yaklaşımında modelin tüm parametreleri aynı anda kullanılmak yerine, görev için gerekli uzman bölümler etkinleştiriliyor.
Yeni NPU mimarisi sayesinde uzun bağlamları işleyen, birden fazla görevi aynı anda yürüten ve metin, görüntü gibi farklı veri türlerini bir arada değerlendiren yapay zeka uygulamalarının daha hızlı çalışması hedefleniyor.
Akıllı telefonlarda yerel yapay zeka dönemi
Qualcomm’un geliştirmeleri, yapay zeka işlemlerinin doğrudan akıllı telefon üzerinde gerçekleştirilmesini daha güçlü hale getirmeyi amaçlıyor. İşlemlerin cihaz üzerinde yapılması, yanıt sürelerini azaltırken bazı senaryolarda verilerin buluta gönderilmesine gerek bırakmayarak gizlilik açısından da avantaj sağlayabilir.
Snapdragon 8 Elite Gen 6 Pro’nun 22 Eylül’deki Snapdragon Summit etkinliğinde tanıtılmasıyla birlikte yeni NPU’nun diğer teknik özellikleri ve gerçek dünya performansına ilişkin detayların da ortaya çıkması bekleniyor.
