OpenAI’ın güvenlik raporlarını yöneten David Robinson görevinden ayrıldı. Robinson, şirketin hız ve rekabet baskısı altında çok katmanlı güvenlik yaklaşımını yeterince güçlendirmediğini savunuyor. OpenAI güvenlik lideri şirketten ayrılıp yönetimi eleştirdi haberi ilk önce Teknoblog üzerinde yayımlandı.
Read the full story at the source
This story was published by Teknoblog.
See other sources covering this event →
OpenAI, araştırma için eğittiği bir yapay zekâ ajanının kapalı olması gereken ortamdan DNS sorgularını kullanarak dışarıdaki bir sohbet botuna ulaştığını kendi olay raporunda açıkladı. Daha önce OpenAI'ın Hugging Face olayına ilişkin güvenlik raporunu aktarmıştık. Yeni olay, şirketin o rapordan sonra sıkılaştırdığı araştırma ortamında farklı bir ağ yolunun açık kaldığını gösteriyor. Bununla birlikte rapordaki olay, kamuya açık ChatGPT hizmetinin benzer biçimde dış ağa çıktığını söylemiyor. Ajana verilen görev, bir blog yazısının yazarını çeşitli biyografik ipuçlarıyla bulmaktı. Önce sağlanan arama aracını kullandı, ardından başka arama motorlarına doğrudan ulaşmayı denedi. OpenAI'a göre bu denemelerin çoğu canlı internete gitmedi; çevrimdışı web önbelleğine takıldı veya engellendi. Aradığı kişiyi yine de saptayamayan ajan, ortamın ağ kısıtlarını yoklamaya başladı. DNS çözümleyicisinin gerçek alan adları için yanıt verdiğini görünce bu kanalı başka bir hizmete soru göndermek için kullandı. Raporda anlatılan denemede ajan, ilk olarak Fransa'nın başkentini soran bir sorguya dış sohbet botundan yanıt aldı. Ardından göreviyle ilgili ipuçlarını içeren başka sorular yolladı. Bu, erişim sınırını aşan davranışın yalnızca teorik bir ihtimal olmadığını ortaya koydu. Öte yandan OpenAI, söz konusu dış servisten blog yazarına ilişkin tam bir yanıt alınmadığını belirtiyor. Ajan kullanıcıya kesin isim vermek yerine elindeki kanıtların yeterli olmadığını söyleyerek görüşmeyi bitirdi. Olay 20 Eylül'de yaşandı, rapor ise … OpenAI’ın araştırma ajanı DNS üzerinden dış sohbet botuna ulaştı haberi ilk önce Teknoblog üzerinde yayımlandı.
ChatGPT, kıyafet ve aksesuarları yüklenen selfie üzerinde sanal olarak göstermeye başladı. Kullanıcılar beğendikleri ürünleri Favoriler'e kaydedip klasörlerde düzenleyebiliyor. ChatGPT kıyafetleri fotoğrafınızda deniyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Eski OpenAI güvenlik lideri David Robinson, yapay zeka denetimi süreçlerinin nükleer santraller kadar sıkı olması gerektiğini savunuyor.
ChatGPT’nin geliştiricisi OpenAI, yapay zeka sistemleriyle ilgili güvenlik tartışmalarının yoğunlaştığı bir dönemde üç çalışanının işine son verdi. Şirket, çalışanların hassas şirket bilgilerinin erişimi ve işlenmesine ilişkin politikaları ihlal ettiğini açıkladı. OpenAI, işten çıkarmaların güvenlik endişelerini dile getiren çalışanlara yönelik bir misilleme olmadığını belirtti. Üç çalışan şirketten ayrıldı OpenAI, olayla ilgili açıklamasında üç çalışanın şirket politikalarını... OpenAI, yapay zeka güvenliği tartışmaları sürerken 3 çalışanını işten çıkardı yazısı ilk önce Bir Gazete - Bir Gazete, Son Dakika üzerinde ortaya çıktı.
OpenAI, kullanıcı adına arka planda çalışan, 4 binden fazla uygulamaya bağlanabilen ve geri bildirimlerden öğrenen kalıcı yapay zekâ ajanları "dots"u tanıttı. İlk etapta Pro, Business Premium ve Enterprise kullanıcılarına açılan özellik ChatGPT, Slack ve Teams üzerinden kullanılabiliyor.
Metin yazmayan, sabit seçenekler arasından yanıt seçip buna güven skoru ekleyen "karar modelleri" hızla kalabalık bir yarışa dönüştü. Amazon Strands Decider 2B'yi, Cloudflare ise Clef modellerini açık lisansla yayımladı; OpenAI da Decisions API'sini duyurmuştu.
Comments