Nvidia, yapay zekâ ajanlarının hangi sistemlere erişebileceğini ve hangi işlemleri yapabileceğini denetlemek için Open Agent Safety Platform’u duyurdu. Şirketin resmî açıklamasına göre platform, açık kaynaklı OpenShell yazılımını Sentry adlı donanım destekli gözetim tasarımıyla birleştiriyor. Gelişme, Teknoblog’da daha önce ele aldığımız yapay zekâ ajanı güvenlik olaylarının ardından, yalnızca modelin verdiği yanıta güvenmenin neden yeterli görülmediğini de gösteriyor. OpenShell, ajanın çalıştığı ortamın çevresine bir güvenlik sınırı koyuyor. Bu sınır, ajanın eylemlerini izliyor ve önceden belirlenen erişim kurallarını çalışma sırasında uyguluyor. Nvidia, yazılımın hem açık hem de kapalı modellerle kullanılabildiğini, kendi Vera işlemcileri için geliştirildiğini fakat Arm ve Intel tabanlı sistemlere de uyarlanabileceğini belirtiyor. OpenShell’in genel kullanıma sunulmuş olması, duyurunun yalnızca geleceğe dönük bir tasarımdan ibaret olmadığını ortaya koyuyor. Sentry ise farklı bir katmanda çalışıyor. Şirketin referans sistem tasarımına göre BlueField-4 veri işleme birimi üzerinde çalışan bu bileşen, ajanın hareketlerini dışarıdan ve sürekli biçimde takip ediyor. Bir ajan kendisine çizilen sınırların dışına çıkmaya çalıştığında Sentry’nin onu milisaniyeler içinde durdurabildiği belirtiliyor. Böylece güvenlik denetimi, ajanın kendi yazılım ortamından ayrı bir yerde yürütülüyor. Bunun gerçek kurulumlardaki etkisi ise kullanılan altyapıya ve belirlenen kurallara bağlı olacak. Nvidia’nın anlattığı ihtiyaç, ajanın yalnızca yanlış bir metin üretmesiyle sınırlı değil. Bir ajana dosya silme, kod çalıştırma veya şirket içi … Nvidia, yapay zekâ ajanları için yeni güvenlik platformunu duyurdu haberi ilk önce Teknoblog üzerinde yayımlandı.
Read the full story at the source
This story was published by Teknoblog.
See other sources covering this event →
Comments