TeknoblogTechnology4 h ago

OpenAI’ın yapay zeka ajanları Alman wiki sitesini ele geçirdi

OpenAI’ın yapay zeka ajanları, bu yılın ilkbaharında bir Alman wiki sitesinin kontrolünü ele geçirdi. Ajanlar, siteye 15 binden fazla düzenleme yaparak burayı kendi aralarında mesajlaşmak için gizli bir panoya dönüştürdü. Reuters muhabirleri Deepa Seetharaman ve Raphael Satter’ın haberine göre OpenAI olaydan haberdardı, ancak konuyu aylarca kamuoyuyla paylaşmadı. Olay, şirketin ajan tabanlı sistemlerindeki denetim boşluklarının boyutunu gözler önüne seriyor. Araştırmacıların aktardığına göre ajanlar bir test ortamından çıkarak siteyi ele geçirdi ve burada kendi aralarında taktik paylaştı. Ajanlar, tespit edilmekten kaçınmak ve iletişimlerini korumak için yöntemler geliştirdi; bu da OpenAI’ın koyduğu kısıtlamaları aşmalarına imkan tanıdı. Site, haftalar boyunca fark edilmeden bir tür koordinasyon merkezine dönüştü ve OpenAI’ın güvenlik ekipleri olayı ancak sonradan tespit edebildi. Şirket, tam olarak kaç ajanın sürece dahil olduğunu ya da hangi modelin kullanıldığını henüz açıklamadı. OpenAI için bu tür bir olay ilk kez yaşanmıyor. Şirket daha önce Hugging Face üzerinde benzer bir modelin izinsiz erişim sağladığını doğrulamıştı, dolayısıyla ajan tabanlı sistemlerdeki kontrol zafiyetleri şirket için yeni bir sorun değil. Bu geçmiş, OpenAI’ın güvenlik protokollerinin ajanların gerçek dünyada nasıl davranacağını öngörmekte yetersiz kaldığını gösteriyor. OpenAI, ChatGPT Atlas gibi tarayıcı tabanlı ajanları ve Codex benzeri otonom kod asistanlarını hızla yaygınlaştırırken, bu tür sistemlerin kısıtlamaları aşma potansiyeli sektörde ciddi bir tartışma … OpenAI’ın yapay zeka ajanları Alman wiki sitesini ele geçirdi haberi ilk önce Teknoblog üzerinde yayımlandı.