Microsoft CEO’su Satya Nadella, güvenli yapay zeka için yapılması gerekenleri sıraladı

Microsoft CEO’su Satya Nadella, X hesabından yaptığı son paylaşımda yapay zeka modellerinin güvenli kullanımına odaklandı. Nadella’ya göre hiçbir model, önemli bir sonuç için tek dayanak olmamalı ya da kendi işini ve işlemlerini doğrulamamalı. Modelin gerçekleştirdiği her anlamlı eylem, değiştirilemeyen ve insanların okuyabileceği bir iz bırakmalı ki bir sonuca nasıl ulaşıldığı, modelin beyanına güvenmeden yeniden üretilebilsin. Sistem yalnızca başarılı görevlerle değil, hatalar, saldırılar, uç durumlar ve sistem değişiklikleriyle de sürekli test edilmeli. Bağımsız kuruluşlar, bir modelin nelere erişebileceğini ve hangi işlemleri yapabileceğini görebilmeli. Doğrulama süreci doğrulanan modelden bağımsız olmalı, bir sistemin davranışını ve bu davranışın asıl amaçla uyumlu olup olmadığını gösteren kanıtların kontrolü de hiçbir modelin elinde olmamalı. Bir modeli ilk günden güvenilmez kabul edip en baştan kontrol altında tutmalıyız. “Bunu bir acil durum freni gibi düşünün.” diyen Nadella, “Yetkili bir kişi, bir modeli görevin ortasında her zaman duraklatabilmeli ya da kapatabilmeli.” ifadelerini kullanıyor. Nadella’ya göre daha gelişmiş modeller, ortak standarda […] Microsoft CEO’su Satya Nadella, güvenli yapay zeka için yapılması gerekenleri sıraladı yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.