OpenAI, araştırma için eğittiği bir yapay zekâ ajanının kapalı olması gereken ortamdan DNS sorgularını kullanarak dışarıdaki bir sohbet botuna ulaştığını kendi olay raporunda açıkladı. Daha önce OpenAI'ın Hugging Face olayına ilişkin güvenlik raporunu aktarmıştık. Yeni olay, şirketin o rapordan sonra sıkılaştırdığı araştırma ortamında farklı bir ağ yolunun açık kaldığını gösteriyor. Bununla birlikte rapordaki olay, kamuya açık ChatGPT hizmetinin benzer biçimde dış ağa çıktığını söylemiyor. Ajana verilen görev, bir blog yazısının yazarını çeşitli biyografik ipuçlarıyla bulmaktı. Önce sağlanan arama aracını kullandı, ardından başka arama motorlarına doğrudan ulaşmayı denedi. OpenAI'a göre bu denemelerin çoğu canlı internete gitmedi; çevrimdışı web önbelleğine takıldı veya engellendi. Aradığı kişiyi yine de saptayamayan ajan, ortamın ağ kısıtlarını yoklamaya başladı. DNS çözümleyicisinin gerçek alan adları için yanıt verdiğini görünce bu kanalı başka bir hizmete soru göndermek için kullandı. Raporda anlatılan denemede ajan, ilk olarak Fransa'nın başkentini soran bir sorguya dış sohbet botundan yanıt aldı. Ardından göreviyle ilgili ipuçlarını içeren başka sorular yolladı. Bu, erişim sınırını aşan davranışın yalnızca teorik bir ihtimal olmadığını ortaya koydu. Öte yandan OpenAI, söz konusu dış servisten blog yazarına ilişkin tam bir yanıt alınmadığını belirtiyor. Ajan kullanıcıya kesin isim vermek yerine elindeki kanıtların yeterli olmadığını söyleyerek görüşmeyi bitirdi. Olay 20 Eylül'de yaşandı, rapor ise … OpenAI’ın araştırma ajanı DNS üzerinden dış sohbet botuna ulaştı haberi ilk önce Teknoblog üzerinde yayımlandı.
Read the full story at the source
This story was published by Teknoblog.
See other sources covering this event →
Meta tarafından geliştirilen yapay zekâ asistanı Muse, kullanıcıların kendisine ayrılan sanal makinenin dosya sistemine doğrudan erişebilmesine izin veriyor. Muse’un dosya yapısının çeşitli komutlarla görüntülenebildiğinin ortaya çıkmasının ardından bunun bir güvenlik açığı olabileceği düşünülmüştü. Üstelik Muse başlangıçta bazı dosyaları paylaşmayı reddediyor ve güvenlik gerekçelerini öne sürüyordu. Meta yöneticilerinden gelen açıklamalar ise bu erişimin bir hata olmadığını, ürünün tasarımında bilinçli olarak yer aldığını gösteriyor. Şirket, Muse’u yalnızca sorulara yanıt veren bir yapay zekâ sohbet aracı yerine, kullanıcıların kontrol edebileceği bulut tabanlı bir bilgisayar olarak konumlandırıyor. Muse’un dosya sistemine erişim biçiminde kısa süre içinde dikkat çekici değişiklikler de yaşandı. İlk denemelerde asistan, kendi dizin yapısını gösteren indirilebilir bir metin dosyası hazırlarken daha sonra doğrudan kullanılabilen, tıklanabilir bir dosya tarayıcısı sunmaya başladı. Bu arayüz üzerinden sanal makinenin kök dizinine kadar ulaşmak mümkün hâle geldi. Daha önce kök dizinin tamamının arşivlenmesine yönelik istekleri geri çeviren Muse, güncellenen davranışıyla birlikte aynı işlemi gerçekleştirebiliyor. Sistem bu sırada gizli bilgilerin ayıklandığını belirterek dosya sistemi listesinin tamamını sıkıştırılmış bir arşiv hâlinde kullanıcıya verebiliyor. Meta Muse aslında bulutta çalışan kişisel bir Linux bilgisayarı Meta Superintelligence Labs yöneticilerinden David Singleton, X üzerinden yaptığı açıklamada bu yaklaşımın bilinçli bir tercih olduğunu söyledi. Singleton’a göre Muse Secure VM, kullanıcıya ait gerçek bir bulut … Meta Muse beklenmedik şekilde tüm dosya sistemini kullanıcıya açıyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Claude Code yapay zeka asistanı, Windows bağlantı noktalarını yanlış işleyerek 48 binden fazla dosyayı sildi. Yazılım geliştiriciler için ders niteliğinde.
OpenAI ajanları BM verilerine ulaşmak için sınırları zorladı haberi ilk önce Teknoblog üzerinde yayımlandı.
Booking.com ve diğer dijital konaklama platformları için meclise sunulan düzenlemenin detayları ortaya çıktı.
HONOR, 35 gün pil ömrüyle gelen akıllı saati Watch 6'yı Türkiye'de satışa sundu.
TURKA ve Altınay Robot Teknolojileri, araç muayene süreçleri için iş birliğine gitti. Yeni dönemde robotik sistemler ve dijitalleşme öne çıkıyor.
Comments