Yapay zekâ uygulamalarının ilk büyük dalgası çoğunlukla bulut merkezlerinde çalıştı. Şimdi bilgisayar üreticileri aynı işlerin bir bölümünü doğrudan dizüstü bilgisayara taşıyor. Yeni sınıf cihazlarda CPU ve GPU'nun yanına eklenen NPU, görüntü işleme ve dil modeli çıkarımı gibi tekrarlı hesapları daha düşük enerjiyle yürütmek üzere tasarlanıyor.

NPU neyi değiştiriyor?

NPU, her işi üstlenen yeni bir ana işlemci değil. Gürültü engelleme, görüntüde arka plan ayırma, canlı altyazı, yerel arama ve küçük üretken modeller gibi uygun iş yüklerini devralan özel bir hızlandırıcı. Microsoft, Copilot+ PC sınıfını tanıtırken 40 TOPS ve üzeri NPU performansını temel eşiklerden biri olarak açıkladı. TOPS tek başına deneyimi ölçmese de üreticilerin yerel yapay zekâyı ayrı bir donanım kategorisi olarak gördüğünü gösteriyor.

Yerel çalışma neden önemli?

Bir işlemin cihazda tamamlanması gecikmeyi azaltabilir, çevrim dışı kullanıma izin verebilir ve ham dosyanın sunucuya gönderilmesi ihtiyacını ortadan kaldırabilir. Özellikle toplantı kaydı, kişisel fotoğraf arşivi veya kurum içi belge gibi hassas verilerde bu önemli bir avantaj. Buna karşılık daha büyük ve güncel modeller hâlâ bulutun bellek ve hesap kapasitesine ihtiyaç duyuyor. Bu nedenle yaygın model, yerel ve bulut işlemlerinin birlikte kullanıldığı hibrit yapı olacak.

Satın alırken yalnız etikete bakmayın

Bir bilgisayarın 'AI PC' olarak pazarlanması, bütün yapay zekâ yazılımlarının hızlanacağı anlamına gelmiyor. Uygulamanın ilgili NPU için optimize edilmesi, sürücülerin güncel tutulması ve yeterli bellek kapasitesi gerekiyor. Ayrıca yerel modelin doğruluğu, enerji tüketimi ve üretici tarafından ne kadar süre destekleneceği de ham TOPS değerinden daha anlamlı olabilir.

Bilgisayar kullanımında ilk değişim

Kısa vadede devrim niteliğinde tek bir uygulama yerine çok sayıda küçük otomasyon göreceğiz: videoda göz temasının düzeltilmesi, dosyaların anlamına göre aranması, konuşmanın yazıya çevrilmesi ve fotoğraf düzenleme araçlarının hızlanması. Asıl sınav, bu özelliklerin kullanıcıya zaman kazandırırken pil ömrünü ve mahremiyeti gerçekten koruyup korumadığı olacak.

NetMercek değerlendirmesi: Yerel yapay zekâ, bulutun yerine geçen sihirli bir kutu değil; doğru işi doğru işlem birimine dağıtan daha dengeli bir bilgisayar mimarisinin başlangıcı.