OpenAI, Avrupa Birliği'nin yeni düzenlemeleri doğrultusunda ChatGPT ve Codex üzerinden üretilen içeriklere görünmez filigranlar eklemeye hazırlanıyor.
Read the full story at the source
This story was published by Megabayt.
See other sources covering this event →
OpenAI, AB'nin yapay zeka şeffaflığı kurallarına uyum için ChatGPT ve Codex çıktılarına görünmez filigran eklemeye başlıyor. Sistem ilk etapta Avrupa Birliği ile sınırlı olacak.
OpenAI, Avrupa Birliği kurallarına uyum sağlamak amacıyla ChatGPT’nin ürettiği metinlere görünmez filigranlar eklemeye başlıyor. İlk etapta Avrupa’da devreye girecek altyapı, yapay zekayla üretilen metinlerin tespitini kolaylaştıracak. Codex çıktılarını da kapsayan sistem, API tarafında bugünden itibaren dünya genelinde kullanıma açılıyor. Şirket bu süreçte “textGrain” adını verdiği bir filigranlama teknolojisinden yararlanıyor. Açıklamaya göre bu teknoloji yapay zeka modelinin kelime seçimlerine gözle görülmeyen istatistiksel bir sinyal yerleştiriyor, şirketin tespit aracı da bir metnin OpenAI filigranı taşıyıp taşımadığını bu sinyale bakarak anlayabiliyor. Bu alanda öncü ismin OpenAI olmadığını da hatırlatalım. Anthropic, geçtiğimiz aylarda Avrupa Birliği’nin hazırladığı Yapay Zeka Yasası’nın şeffaflık kuralları kapsamındaki taahhütleri doğrultusunda, yeni Claude modellerinin ürettiği içeriklere görünmez filigran eklemeye başlamıştı. OpenAI, ChatGPT’nin ürettiği metinlere görünmez filigran ekleyecek yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.
OpenAI, AB'de ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran entegre edeceğini duyurdu.
Yapay zeka modellerine "ahlak" öğretilmesi veya insan muhakemesinin bu araçlara "teslim edilmesine" yönelik çabalar, sektörün öncüleri arasında yeni bir tartışma yarattı.
ChatGPT’nin geliştiricisi OpenAI’dan istifa eden güvenlik uzmanı David Robinson, şirketin yapay zeka güvenliğine yaklaşımını eleştirerek hızlı geliştirmeye odaklanan kurum kültürünün hata riskini artırdığını söyledi. Yapay zeka şirketlerinin daha yetenekli sistemler geliştirmeden önce güvenlik uzmanlığına ve araştırmalarına çok daha fazla önem vermesi gerektiğinin altını çizen ve “deneme yanılma dönemi sona erdi” diyen Robinson, gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık gibi sektörlerdekine benzer koruma önlemleri gerektirdiğini vurguluyor. Robinson’a göre OpenAI, sistemleri önce kullanıma sunup koruma önlemlerini sorunlar ortaya çıktıkça devreye almaya yönelik bir yöntem izliyor ve bu yaklaşım ciddi riskler barındırıyor. OpenAI’da 3,5 yıl çalıştığını belirten Robinson, “Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım özen düzeyine ulaşamadı” ifadelerini kullanırken, OpenAI sözcüsü Robinson’un yorumlarına yönelik yaptığı açıklamada, “Modellerimizin, güvenli biçimde yönetebileceğimiz düzeyden daha yetenekli hale gelmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi duraklatıyor ya da modelleri bekletiyoruz” yanıtını verdi. OpenAI’dan istifa eden güvenlik uzmanı, şirketin yapay zeka güvenliğine yaklaşımını eleştirdi yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.
OpenAI, AB Yapay Zeka Yasası'na uyum sağlamak için ChatGPT ve Codex metin çıktılarına görünmez istatistiksel filigran eklemeye başlıyor.
Comments