Gigabyte, AI TOP ATOM masaüstü yapay zekâ sistemine 64 GB birleşik bellekli yeni bir sürüm ekledi. DGX Spark tabanlı model 23 Ekim'de satışa çıkacak. Gigabyte AI TOP ATOM 64 GB bellek seçeneği kazanıyor haberi ilk önce Teknoblog üzerinde yayımlandı.
PrismML, Bonsai adlı 1 bitlik görsel dil modelini Snapdragon AR1 Gen 1 kullanan bir akıllı gözlükte çalıştırdığını duyurdu. Şirketin paylaştığı demoda model, görüntü ve metin verisini gözlüğün kendi donanımında işliyor. Bu yaklaşım bulut bağlantısına duyulan ihtiyacı bazı görevlerde azaltabilir. Ancak duyuruda tüketicilerin satın alabileceği yeni bir gözlük tanıtılmadı; paylaşılan sonuçlar bir teknoloji gösterimine ait. Bonsai’nin yaklaşık iki milyar parametresi bulunuyor. Bunların 1,7 milyarı dil, 300 milyonu görsel bölümde yer alıyor. PrismML’nin 1 bitlik ağırlık düzeni, modelin bellekte kapladığı alanı azaltmayı amaçlıyor. Şirketin verdiği sayıya göre ağırlıklar 0,43 GB yer tutuyor. Aynı karşılaştırmada 4 bitlik sürüm için 1,66 GB belirtiliyor. Bu fark, yalnızca 4 GB belleği bulunan bir gözlükte başka işlemler için yer açabilir. PrismML hız ölçümü de paylaştı: Bonsai saniyede 15,36 token üretirken karşılaştırılan 4 bitlik model 7,44 token üretiyor. Bu veriler şirketin kendi testlerine dayanıyor. Hangi görevde, hangi sıcaklıkta ve ne kadar uzun süre çalışıldığı gibi koşullar gerçek kullanım deneyimini etkiler. Dolayısıyla oranı bütün akıllı gözlük uygulamalarına yaymak doğru olmaz. Görsel dil modeli, kamera görüntüsünü yorumlayıp kullanıcıya doğal dilde yanıt verme görevlerinde kullanılabilir. Örneğin bir tabelayı okumak, görülen nesneyi tanımlamak veya kısa bir soruya çevredeki görüntüye bakarak karşılık vermek mümkün olabilir. PrismML’nin demosu bu tür yerel işlemlere yönelik; gerçek … PrismML, 1 bitlik Bonsai modelini akıllı gözlükte çalıştırdı haberi ilk önce Teknoblog üzerinde yayımlandı.
Nvidia yerel yapay zeka modellerinin RTX bilgisayarlarda kurulmasını daha az adımlı hâle getiriyor. Şirket, llama.cpp temelli yeni entegrasyonlarını IFA 2026 kapsamında duyurdu. Hermes Agent, OpenClaw ve Perplexity Portable Computer bu desteği kullanacak ilk araçlar arasında yer alıyor. Kullanıcılar model indirme ve çalışma ortamı hazırlama işlemlerini uygulama içinden tamamlayabilecek. Yeni seçenekler yerel modellerin sürücü, çalışma zamanı ve uyumlu dosya arama süreçlerini otomatikleştiriyor. Böylece komut satırında ayrı paketler kurma ihtiyacı azalıyor. Nvidia, geliştiricilerin yine ayrıntılı ayarlara erişebileceğini belirtiyor. Hazır kurulum ise ilk kez yerel model çalıştıracak bilgisayar sahiplerini hedefliyor. Şirket llama.cpp ve vLLM için yaptığı iyileştirmelerin çıkarım hızını 1,9 kata kadar artırdığını söylüyor. Bu kazanç model, ekran kartı ve kullanılan bağlam uzunluğuna göre değişiyor. LM Studio ile Ollama güncellemeleri optimizasyonları doğrudan uygulamalara taşıyor. Nvidia Chat with RTX daha önce yerel dosyalarla çalışan benzer bir yaklaşım sunmuştu. Yerel çalışma seçeneği istemleri ve kişisel dosyaları bilgisayarda tutabiliyor. Ayrıca internet erişimi kesildiğinde model, donanımın kapasitesi içinde yanıt üretmeye devam ediyor. Büyük modeller için yüksek ekran kartı belleği ve yeterli depolama alanı gerekiyor. Nvidia, uyumlu model önerilerini her aracın kurulum ekranında gösterecek. Yeni entegrasyonlar RTX bilgisayarda model indirme sürecini kısaltıyor Hermes Agent ve OpenClaw çok adımlı görevleri yerel modellerle yürütmek için yeni kurulum yolunu kullanacak. Perplexity … Nvidia yerel yapay zeka kurulumunu tek adıma indiriyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Nvidia PAIR, aynı yerel ağdaki bilgisayarları yapay zeka isteklerini paylaşan bir gruba dönüştürüyor. Nvidia, Personal AI Router adlı aracı IFA 2026 duyuruları arasında kullanıma açtı. Yazılım GeForce RTX, RTX PRO, DGX Spark ve Apple M4 tabanlı sistemlerle çalışıyor. İnternet bağlantısı olmadan çalışan ağ, istekleri uygun durumdaki bilgisayara yönlendiriyor. PAIR tek bir modeli birkaç ekran kartına bölmüyor ve bellekleri ortak havuzda birleştirmiyor. Bunun yerine bağımsız çıkarım isteklerini ağdaki farklı makinelere dağıtıyor. Bu ayrım, çoklu ajan iş akışlarında ve eş zamanlı görevlerde hız kazandırıyor. Her bilgisayar kendi belleği ve işlem kapasitesi sınırları içinde modeli çalıştırıyor. Nvidia’nın beş alt ajandan oluşan örneğinde tek RTX Spark görevi 18 dakikada bitirdi. Üç cihazlı PAIR grubu aynı işi 8 dakika 48 saniyede tamamladı. Sonuç, paralel yürütülebilen isteklerde sürenin yarıdan fazla azalabileceğini gösteriyor. Gerçek hız ise model boyutuna, ağ bağlantısına ve cihazların performansına göre değişiyor. Kurulum sırasında cihazlar mDNS ile birbirini buluyor ve altı haneli PIN ile eşleşiyor. Ardından sistem karşılıklı TLS kullanarak ağ trafiğini şifreliyor. İstemler, dosyalar ve bağlam verileri evdeki ağın dışına çıkmıyor. Surface RTX Spark Dev Box gibi sistemler de bu gruba işlem gücü ekleyebiliyor. Nvidia PAIR bağımsız yapay zeka isteklerini uygun bilgisayara yönlendiriyor Yazılım Ollama ve LM Studio üzerinden çalışan modelleri destekliyor. Ayrıca … Nvidia PAIR evdeki bilgisayarları yerel AI ağına bağlıyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Stories on this topic, gathered from every source.
