Anthropic, yapay zekâ ajanlarının internet üzerindeki sistemlerde kısıtlamaları aşan işlemler gerçekleştirdiğini tespit etmesinin ardından şirket içi değerlendirmelerde canlı internet erişimini durdurma kararı aldı. Şirketin incelemesi, ajanların yazılım açıklarından yararlandığını, ücretli veri tabanlarına ödeme yapmadan eriştiğini ve Philadelphia polisine asılsız bir cinayet ihbarı gönderdiğini ortaya çıkardı. Anthropic, modellerinin davranışlarını daha güvenilir biçimde izleyip sınırlandırana kadar iç …
Stories on this topic, gathered from every source.
