Akıllı telefonlarımızın işlem gücünün yüksekliği, günlük kullanımlarda pek çoğumuz tarafından aslında fark edilmiyor. Fakat özellikle amiral gemisi telefonlarda bulunan yonga setleri, günümüz bilgisayarlarına kafa tutabiliyor.
Bu saf gücün en büyük kanıtı Qualcomm tarafından sunuldu. Şirket, yeni yonga seti Snapdragon 8 Gen 2 ile görsel oluşturucu yapay zekâ Stable Diffusion’ı çalıştırdı.
Öncelikle Stable Diffusion’ın neden mobil cihazda çalıştığına şaşırdığımızı anlatalım:
Stable Diffusion, genellikle bulut tabanlı sistemler aracılığıyla aşırı yüksek performansa sahip donanımlar üzerinde eğitilen ve kullanılan bir görsel oluşturma aracı.
Bu yapay zekâyı eğitmek ve eğitimle oluşan verilerden faydalanarak görsel oluşturmak için en üst düzey grafik işlemcilerine sahip olmanız gerekiyor. En azından sonuçları elde etmek için saatlerce beklemek istemiyorsanız.
Çok güçlü bir bilgisayarınız varsa ve yapay zekâyı eğittiyseniz, artık nimetlerinden internet bağlantısı gerekmeden faydalanmaya başlayabiliyorsunuz.
Qualcomm, bu performansı nasıl sağladı?
Qualcomm, Stable Diffusion’ı mobil cihazda çalıştırmak için akıllı telefonda büyük optimizasyon ayarları yaptığını açıkladı. Şirketin yapay zekâ araştırma ekibi, cihaz, kullanılan uygulama, algoritmalar, yazılım ve hatta donanımda normal bir telefonda görmeyeceğimiz işlemler gerçekleştirdi.
Tabii bu ayarların bir kısmı Stable Diffusion üzerinde de yapıldı. Ekip, Stable Diffusion ve genel olarak derin öğrenme için kullanılan kayan nokta formatı FP-32 veri tipinden daha düşük hassasiyet sunan INT8 tipine geçiş yaptı. Ayrıca henüz yeni piyasaya sürdüğü AI Model Efficiency Toolkit (Yapay Zekâ Modeli Verimlilik Araç Seti) teknolojisini de kullandı.
Yapılan tüm optimizasyonlar ve ayarlamalarla Stable Diffusion, bir akıllı telefonda 15 saniye içinde 512x512 piksel çözünürlüklü fotoğraf üretebilir hale geldi. Bu süre, bulut sistemlere entegre olan Stable Diffusion sistemlerine de oldukça yakın durumda.
Peki Qualcomm bu başarıyı ne için kullanacak?
Şirket, telefonda Stable Diffusion çalıştırmanın sadece bir başlangıç olduğunu vurgulayarak dev çaptaki yapay zekâ teknolojilerinin mobil cihazlarda çalışmasıyla güvenlik, verimlilik ve maliyet gibi pek çok avantaja sahip olunacağını belirtti. Ayrıca yapılan optimizasyon çalışmaları da alanında bir örnek oldu.