Bir yapay zekâ ajanına “başka müşterinin bilgilerini verme” demek kolay; bu sınırı farklı konuşmalarda koruyup korumadığını göstermek daha zor. Microsoft'un duyurduğu run-assert-eval aracı, ajan için olası riskleri bulmayı, bunları sınamayı ve uygulanan kuralın etkisini aynı testlerle yeniden ölçmeyi hedefliyor. Teknoblog'da daha önce Microsoft'un ajanlar için insan kontrolüne dayanan davranış ilkelerini incelemiştik. Yeni araç, bu tür genel ilkeleri geliştiricinin ölçebileceği somut davranışlara indirmeye çalışıyor. Microsoft'un anlattığı iş akışında geliştirici önce ajanı doğal dille tarif ediyor. Clarity adlı bileşen olası hata yollarını çıkarıyor; ASSERT bunlar için değerlendirme senaryoları hazırlıyor. Ardından Agent Control Specification ile çalışma sırasında uygulanacak kural oluşturuluyor. Son aşamada ajan aynı davranış tanımı, aynı testler ve aynı değerlendirme yaklaşımıyla yeniden sınanıyor. Böylece ilk ve ikinci sonuç arasındaki farkın, test koşullarının değişmesinden kaynaklanma ihtimali azaltılıyor. Şirketin örneği, yalnızca tek müşteriye hizmet vermesi gereken bir faturalama ajanı üzerine kurulu. İlk ölçümde ajan, başka bir müşterinin verisini ilgili 40 konuşmanın 12'sinde açığa çıkardı; oran yüzde 30. Hesap kimliğiyle kullanıcının yetkisini karşılaştıran kural eklendikten sonraki örnekte 34 ilgili konuşmanın ikisinde ihlal görüldü; oran yüzde 5,9'a geriledi. Rakamlar bu örnek çalışmanın sonucu. Her ajan veya gerçek şirket ortamında aynı iyileşmenin sağlanacağını göstermiyor. Güvenlik kuralı hangi noktada devreye giriyor? Örnekte kural, ajanın başka hesaba ait veriyi … Microsoft, yapay zekâ ajanlarının hatalarını ölçen araç yayımladı haberi ilk önce Teknoblog üzerinde yayımlandı.
Read the full story at the source
This story was published by Teknoblog.
See other sources covering this event →
Meta tarafından geliştirilen yapay zekâ asistanı Muse, kullanıcıların kendisine ayrılan sanal makinenin dosya sistemine doğrudan erişebilmesine izin veriyor. Muse’un dosya yapısının çeşitli komutlarla görüntülenebildiğinin ortaya çıkmasının ardından bunun bir güvenlik açığı olabileceği düşünülmüştü. Üstelik Muse başlangıçta bazı dosyaları paylaşmayı reddediyor ve güvenlik gerekçelerini öne sürüyordu. Meta yöneticilerinden gelen açıklamalar ise bu erişimin bir hata olmadığını, ürünün tasarımında bilinçli olarak yer aldığını gösteriyor. Şirket, Muse’u yalnızca sorulara yanıt veren bir yapay zekâ sohbet aracı yerine, kullanıcıların kontrol edebileceği bulut tabanlı bir bilgisayar olarak konumlandırıyor. Muse’un dosya sistemine erişim biçiminde kısa süre içinde dikkat çekici değişiklikler de yaşandı. İlk denemelerde asistan, kendi dizin yapısını gösteren indirilebilir bir metin dosyası hazırlarken daha sonra doğrudan kullanılabilen, tıklanabilir bir dosya tarayıcısı sunmaya başladı. Bu arayüz üzerinden sanal makinenin kök dizinine kadar ulaşmak mümkün hâle geldi. Daha önce kök dizinin tamamının arşivlenmesine yönelik istekleri geri çeviren Muse, güncellenen davranışıyla birlikte aynı işlemi gerçekleştirebiliyor. Sistem bu sırada gizli bilgilerin ayıklandığını belirterek dosya sistemi listesinin tamamını sıkıştırılmış bir arşiv hâlinde kullanıcıya verebiliyor. Meta Muse aslında bulutta çalışan kişisel bir Linux bilgisayarı Meta Superintelligence Labs yöneticilerinden David Singleton, X üzerinden yaptığı açıklamada bu yaklaşımın bilinçli bir tercih olduğunu söyledi. Singleton’a göre Muse Secure VM, kullanıcıya ait gerçek bir bulut … Meta Muse beklenmedik şekilde tüm dosya sistemini kullanıcıya açıyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Claude Code yapay zeka asistanı, Windows bağlantı noktalarını yanlış işleyerek 48 binden fazla dosyayı sildi. Yazılım geliştiriciler için ders niteliğinde.
OpenAI ajanları BM verilerine ulaşmak için sınırları zorladı haberi ilk önce Teknoblog üzerinde yayımlandı.
Booking.com ve diğer dijital konaklama platformları için meclise sunulan düzenlemenin detayları ortaya çıktı.
HONOR, 35 gün pil ömrüyle gelen akıllı saati Watch 6'yı Türkiye'de satışa sundu.
TURKA ve Altınay Robot Teknolojileri, araç muayene süreçleri için iş birliğine gitti. Yeni dönemde robotik sistemler ve dijitalleşme öne çıkıyor.
Comments