Nvidia yerel yapay zeka modellerinin RTX bilgisayarlarda kurulmasını daha az adımlı hâle getiriyor. Şirket, llama.cpp temelli yeni entegrasyonlarını IFA 2026 kapsamında duyurdu. Hermes Agent, OpenClaw ve Perplexity Portable Computer bu desteği kullanacak ilk araçlar arasında yer alıyor. Kullanıcılar model indirme ve çalışma ortamı hazırlama işlemlerini uygulama içinden tamamlayabilecek. Yeni seçenekler yerel modellerin sürücü, çalışma zamanı ve uyumlu dosya arama süreçlerini otomatikleştiriyor. Böylece komut satırında ayrı paketler kurma ihtiyacı azalıyor. Nvidia, geliştiricilerin yine ayrıntılı ayarlara erişebileceğini belirtiyor. Hazır kurulum ise ilk kez yerel model çalıştıracak bilgisayar sahiplerini hedefliyor. Şirket llama.cpp ve vLLM için yaptığı iyileştirmelerin çıkarım hızını 1,9 kata kadar artırdığını söylüyor. Bu kazanç model, ekran kartı ve kullanılan bağlam uzunluğuna göre değişiyor. LM Studio ile Ollama güncellemeleri optimizasyonları doğrudan uygulamalara taşıyor. Nvidia Chat with RTX daha önce yerel dosyalarla çalışan benzer bir yaklaşım sunmuştu. Yerel çalışma seçeneği istemleri ve kişisel dosyaları bilgisayarda tutabiliyor. Ayrıca internet erişimi kesildiğinde model, donanımın kapasitesi içinde yanıt üretmeye devam ediyor. Büyük modeller için yüksek ekran kartı belleği ve yeterli depolama alanı gerekiyor. Nvidia, uyumlu model önerilerini her aracın kurulum ekranında gösterecek. Yeni entegrasyonlar RTX bilgisayarda model indirme sürecini kısaltıyor Hermes Agent ve OpenClaw çok adımlı görevleri yerel modellerle yürütmek için yeni kurulum yolunu kullanacak. Perplexity … Nvidia yerel yapay zeka kurulumunu tek adıma indiriyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Stories on this topic, gathered from every source.
