OpenAI’dan istifa eden güvenlik uzmanı, şirketin yapay zeka güvenliğine yaklaşımını eleştirdi

ChatGPT’nin geliştiricisi OpenAI’dan istifa eden güvenlik uzmanı David Robinson, şirketin yapay zeka güvenliğine yaklaşımını eleştirerek hızlı geliştirmeye odaklanan kurum kültürünün hata riskini artırdığını söyledi. Yapay zeka şirketlerinin daha yetenekli sistemler geliştirmeden önce güvenlik uzmanlığına ve araştırmalarına çok daha fazla önem vermesi gerektiğinin altını çizen ve “deneme yanılma dönemi sona erdi” diyen Robinson, gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık gibi sektörlerdekine benzer koruma önlemleri gerektirdiğini vurguluyor. Robinson’a göre OpenAI, sistemleri önce kullanıma sunup koruma önlemlerini sorunlar ortaya çıktıkça devreye almaya yönelik bir yöntem izliyor ve bu yaklaşım ciddi riskler barındırıyor. OpenAI’da 3,5 yıl çalıştığını belirten Robinson, “Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım özen düzeyine ulaşamadı” ifadelerini kullanırken, OpenAI sözcüsü Robinson’un yorumlarına yönelik yaptığı açıklamada, “Modellerimizin, güvenli biçimde yönetebileceğimiz düzeyden daha yetenekli hale gelmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi duraklatıyor ya da modelleri bekletiyoruz” yanıtını verdi. OpenAI’dan istifa eden güvenlik uzmanı, şirketin yapay zeka güvenliğine yaklaşımını eleştirdi yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.