Eski OpenAI güvenlik sorumlusu David Robinson, yapay zeka modellerinin hızla geliştiğini belirterek, test sırasında farklı davranabilen sistemlerin ciddi güvenlik riski oluşturduğunu söyledi.
Eski OpenAI güvenlik sorumlusu David Robinson, yapay zeka sistemlerinin son dönemde hızla geliştiğini ve buna bağlı risklerin arttığını belirtti. Robinson, bugünün ve gelecekteki yapay zeka sistemlerinin 6 ay önce geliştirilen modellere kıyasla çok daha yetenekli ve tehlikeli hale geldiğini ifade etti.
This is an excerpt. Copyright belongs to the source; the full story is published on their site.
Read the full story at the source
This story was published by Diriliş Postası.
See other sources covering this event →
Kısa süre önce istifa eden bir OpenAI güvenlik sorumlusu, yapay zeka modellerinin test edildiklerini algılayabileceklerini ve devreye alındıktan sonra farklı davranabileceklerini belirtti.
OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli" dedi.
OpenAI’ın güvenlik çalışmalarının önemli isimlerinden David Robinson, şirketin “kültürünün bozuk” olduğunu söyleyerek istifa etti. Robinson yalnız değil. Son iki yılda OpenAI ve diğer büyük yapay zekâ şirketlerinden ayrılan çok sayıda üst düzey araştırmacı aynı soruya işaret ediyor: Şirketler daha güçlü modeller geliştirme yarışında, kontrol edemedikleri bir teknolojiyi yeterince güvenli hale getirmeden piyasaya mı sürüyor?
OpenAI'ın eski güvenlik sorumlusu David Robinson, yapay zeka modellerinin artık denetlendiklerini anladıklarını ve güvenlik testlerini yanıltabilecek kapasiteye ulaştıklarını açıkladı.
OpenAI, yeni yapay zeka modelinin çıkışını "güvenlik açıkları" nedeniyle erteledi. Konuya ilişkin açıklamada, modelin görevleri tamamlama konusunda "daha ısrarcı bir yapı kazandığı" ancak bu kapasitenin "yetkisiz davranış riskine karşı dengelenmesi gerektiği" kaydedildi.
Yapay zeka modellerinin kullanımı arttıkça küresel arenada bu modellerin güvenli olup olmadığı tartışılmaya devam ediyor. Son olarak, kısa süre önce istifa eden bir OpenAI güvenlik sorumlusu David Robinson,
Comments