Akıllı gözlüklerin gerçek anlamda "akıllı" olabilmesinin önündeki en büyük engel, güçlü yapay zeka modellerinin küçük, pilli ve bulut bağlantısına muhtaç olmayan bir cihaza sığdırılamamasıydı. Caltech kökenli bir ekip tarafından kurulan ve UC Berkeley'den Ion Stoica'nın danışmanlığını yaptığı PrismML, bu soruna kayda değer bir çözüm sundu: Qualcomm'un Snapdragon Summit etkinliğinde, akıllı gözlüklerde çalışabilecek son derece küçültülmüş bir yapay zeka modeli tanıttı.
Şirketin uzmanlık alanı, büyük dil modellerini performanslarından neredeyse hiçbir şey kaybetmeden yaklaşık dört kat küçültmek. Bu sıkıştırma tekniğinin en yeni ürünü olan "Bonsai" adlı model, yalnızca 1 bit hassasiyetle çalışan, 2 milyar parametreli bir görü-dil modeli. Qualcomm'un Snapdragon AR1 Gen 1 platformu için özel olarak tasarlanan bu model, kullanıcının etrafındaki nesneleri, yazıları ya da sahneleri gerçek zamanlı olarak yorumlayıp sorulara yanıt verebiliyor — tüm bunları cihazın kendi işlemcisinde, buluta hiç bağlanmadan yapabiliyor.
Bunun neden önemli olduğunu anlamak için mevcut akıllı gözlüklerin çoğunun nasıl çalıştığına bakmak yeterli. Bugünkü ürünlerin büyük kısmı, karmaşık bir soru sorulduğunda görüntüyü ve sesi buluta gönderip oradan yanıt bekliyor; bu hem gecikmeye hem de kullanıcının çevresini sürekli bir sunucuya "göndermesi" anlamına gelen gizlilik kaygılarına yol açıyor. PrismML'in yaklaşımı ise modelin tamamını cihaz üzerinde tutarak bu iki sorunu da aynı anda çözmeyi hedefliyor.
Şirketin kurucu ekibi bu çalışmayı daha büyük bir vizyonun parçası olarak konumlandırıyor: "Prism'in asıl hedefi, cihazların zaten sahip olduğu işlem gücünü daha iyi kullanan, açık ağırlıklı ve cihaz üzerinde çalışan yapay zeka." Bu söylem, büyük teknoloji şirketlerinin kapalı, bulut tabanlı modellerine karşı giderek güçlenen "açık kaynak ve yerel işlem" akımıyla da örtüşüyor.
Henüz PrismML'in teknolojisini kullanan ticari bir akıllı gözlük modeli duyurulmadı; gösterim şimdilik bir kavram kanıtı niteliğinde. Ancak Qualcomm gibi bir çip devinin platformuyla bu denli erken entegre olması, önümüzdeki bir-iki yıl içinde piyasaya çıkacak gözlüklerde bu tür sıkıştırılmış modellerin standart hale gelebileceğine işaret ediyor.
Türkiye'de akıllı gözlük pazarı henüz emekleme aşamasında olsa da, yerli girişimlerin ve üniversite laboratuvarlarının son yıllarda gömülü yapay zeka ve düşük güçlü çip tasarımına ilgisinin arttığı biliniyor. PrismML tarzı bir "modeli küçült, cihazda çalıştır" yaklaşımı, donanım maliyetinin daha kısıtlı olduğu pazarlar için de ilham verici bir örnek olabilir.
PrismML tek başına değil elbette; Meta'nın Llama ailesinden küçültülmüş sürümler, Google'ın Gemini Nano'su ve Microsoft'un Phi serisi de aynı "büyük modeli küçük cihaza sığdır" yarışının farklı cepheleri. Ancak PrismML'i öne çıkaran, sıkıştırmayı 1 bit gibi uç bir noktaya taşırken performans kaybını sınırlı tutabildiğini iddia etmesi. Bu iddianın bağımsız testlerle ne kadar doğrulanacağı, teknolojinin laboratuvardan gerçek ürünlere geçişinde belirleyici olacak.
Kaynak: TechCrunch
