Çocukların ve gençlerin dijital ortamlardaki güvenliğine odaklanan Common Sense Media, OpenAI’ın genç kullanıcılar için geliştirdiği ChatGPT sürümünü değerlendirdi ve mevcut güvenlik önlemlerinin yeterli olmadığı sonucuna ulaştı. Kuruluş, ChatGPT for Teens adıyla sunulan deneyimi gençler açısından “kabul edilemez risk” olarak nitelendirdi. Ağustos ayında tanıtılan ve gençlerin yapay zekâdan daha güvenli biçimde yararlanmasını amaçlayan özelliklerin, OpenAI’ın daha önce açıkladığı koruma düzeyini sağlayamadığı öne sürüldü. İnceleme özellikle ebeveyn bildirimleri, kriz durumlarında verilen yanıtlar ve öğrencilerin ödevlerini yapay zekâya yaptırmasını engelleyen mekanizmalar üzerinde yoğunlaştı. OpenAI ise değerlendirmede kullanılan test yöntemine itiraz ederek sonuçların sistemin gerçek çalışma biçimini yansıtmadığını savundu. Common Sense Media, uygulamalar, dijital hizmetler ve eğlence içeriklerini çocukların güvenliği açısından değerlendiren kâr amacı gütmeyen bir kuruluş olarak faaliyet gösteriyor. Kuruluşun Gençlere Yönelik Yapay Zekâ Güvenliği Enstitüsü tarafından yürütülen inceleme, ChatGPT’nin genç kullanıcılar için belirlenen koruma mekanizmalarını farklı senaryolar üzerinden ele aldı. Paylaşılan bulgulara göre sistem, ebeveynlere bildirim göndermesi gereken bazı durumlarda beklenen uyarıları iletmedi. Bunun yanında, gençlerin ruh sağlığı açısından hassas konularda yardım istediği görüşmelerde verilen yanıtların da yeterli olmadığı belirtildi. ChatGPT’nin öğrencilerin öğrenmesini desteklemek yerine bazı durumlarda ödevlerini doğrudan yapmaya devam etmesi ise raporda dile getirilen bir başka eleştiri oldu. Kuruluşun Gençlere Yönelik Yapay Zekâ Güvenliği Enstitüsü İcra Direktörü Tom Siegel, mevcut … ChatGPT’nin gençlere yönelik sürümü için ciddi güvenlik uyarısı haberi ilk önce Teknoblog üzerinde yayımlandı.
Stories on this topic, gathered from every source.
