Microsoft’ta güvenlikten sorumlu üst düzey yönetici Hayete Gallot, yapay zeka ajanlarına “güvenilemeyeceği” uyarısında bulunduğu bir yazı paylaştı. “Ne yazık ki en gelişmiş yapay zeka sistemlerine, kökenleri ne olursa olsun, güvenilemez. Bunun nedeni modellerin doğası gereği kötü niyetli olmaları değil. Modeller sonuca ulaşmak üzere eğitildiği için çoğu zaman ödül sistemini istismar etmeye yöneliyor, kurumsal normlara ya da muhakemeye göre de optimize edilmiyorlar. Bu nedenle yapay zeka ajanlarının ne yapacağı tam olarak kestirilemiyor. Bağlama göre kendilerini değiştiriyor, amaçlandığı gibi davranmayabiliyor ve hedeflerine ulaşmak için diğer ajanlarla gizli olarak iş birliği yapabiliyorlar.” diyen Gallot, bu sistemlerden güvenle yararlanabilmek için özel yapay zeka ajanlarına ihtiyaç duyulduğunu belirtiyor. “Yapay zeka ajanları kurumlara büyük ölçekte yayıldı ve sayıları hızla artıyor. Çoğu zaman gereğinden fazla yetkiyle çalışan bu ajanlar veriye, araçlara ve sistemlere erişebiliyor, kritik süreçlerde işlem yapıp karar verebiliyor. Artık kurumların içinde aktif rol oynuyorlar. Bunlar, kurumun içinde hareket eden yapay zeka aktörleri.” ifadelerini kullanan Microsoft […] Microsoft, yapay zeka ajanlarına “güvenilemeyeceği” konusunda uyardı yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.
Stories on this topic, gathered from every source.
