OpenAI'ın Güvenlik Şeffaflığı Lideri Robinson, The Atlantic'e yazdığı makalede şirketin güvenliğe yalnızca kriz anlarında tepki verdiğini yazarak istifa etti.
OpenAI'ın güvenlik çalışmalarında görev alan David Robinson, şirketten ayrıldığını açıkladı. The Atlantic'te yayımladığı yazıda Robinson, OpenAI'ın şirket kültürünün "bozulduğunu" öne sürerken, yapay ...
ChatGPT’nin geliştiricisi OpenAI’dan istifa eden güvenlik uzmanı David Robinson, şirketin yapay zeka güvenliğine yaklaşımını eleştirerek hızlı geliştirmeye odaklanan kurum kültürünün hata riskini artırdığını söyledi. Yapay zeka şirketlerinin daha yetenekli sistemler geliştirmeden önce güvenlik uzmanlığına ve araştırmalarına çok daha fazla önem vermesi gerektiğinin altını çizen ve “deneme yanılma dönemi sona erdi” diyen Robinson, gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık gibi sektörlerdekine benzer koruma önlemleri gerektirdiğini vurguluyor. Robinson’a göre OpenAI, sistemleri önce kullanıma sunup koruma önlemlerini sorunlar ortaya çıktıkça devreye almaya yönelik bir yöntem izliyor ve bu yaklaşım ciddi riskler barındırıyor. OpenAI’da 3,5 yıl çalıştığını belirten Robinson, “Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım özen düzeyine ulaşamadı” ifadelerini kullanırken, OpenAI sözcüsü Robinson’un yorumlarına yönelik yaptığı açıklamada, “Modellerimizin, güvenli biçimde yönetebileceğimiz düzeyden daha yetenekli hale gelmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi duraklatıyor ya da modelleri bekletiyoruz” yanıtını verdi. OpenAI’dan istifa eden güvenlik uzmanı, şirketin yapay zeka güvenliğine yaklaşımını eleştirdi yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.
OpenAI’de 3,5 yıl güvenlik ekiplerinde çalışan David Robinson, şirketin hızlı geliştirme kültürünü eleştirerek istifa ettiğini açıkladı. The Atlantic’te yayımlanan yazısında “deneme-yanılma zamanı bitti” diyen Robinson, yapay zekâ sistemlerinin nükleer enerji ve havacılık sektöründeki kadar sıkı güvenlik önlemleriyle geliştirilmesi gerektiğini savundu. Şirketin “yinelemeli dağıtım” yaklaşımının riskleri artırdığını, yeteneklerin hizalama araştırmalarından daha hızlı ilerlediğini belirten eski çalışan, OpenAI’nin 12 sınır model lansmanında güvenlik raporlarını denetlediğini de kaydetti. OpenAI ise modellerin güvenle yönetilebilecek seviyede tutulduğunu ve gerektiğinde eğitimin durdurulduğunu açıkladı.
Kısa süre önce istifa eden bir OpenAI güvenlik sorumlusu, yapay zeka modellerinin test edildiklerini algılayabileceklerini ve devreye alındıktan sonra farklı davranabileceklerini belirtti.
Kısa süre önce istifa eden bir OpenAI güvenlik sorumlusu, yapay zeka modellerinin test edildiklerini algılayabileceklerini ve devreye alındıktan sonra farklı davranabileceklerini belirtti.
Eski OpenAI güvenlik sorumlusu David Robinson, yapay zeka modellerinin hızla geliştiğini belirterek, test sırasında farklı davranabilen sistemlerin ciddi güvenlik riski oluşturduğunu söyledi.
OpenAI’ın güvenlik çalışmalarının önemli isimlerinden David Robinson, şirketin “kültürünün bozuk” olduğunu söyleyerek istifa etti. Robinson yalnız değil. Son iki yılda OpenAI ve diğer büyük yapay zekâ şirketlerinden ayrılan çok sayıda üst düzey araştırmacı aynı soruya işaret ediyor: Şirketler daha güçlü modeller geliştirme yarışında, kontrol edemedikleri bir teknolojiyi yeterince güvenli hale getirmeden piyasaya mı sürüyor?
OpenAI'ın eski güvenlik sorumlusu David Robinson, yapay zeka modellerinin artık denetlendiklerini anladıklarını ve güvenlik testlerini yanıltabilecek kapasiteye ulaştıklarını açıkladı.
Kısa süre önce istifa eden bir OpenAI güvenlik sorumlusu, yapay zeka modellerinin test edildiklerini algılayabileceklerini ve devreye alındıktan sonra farklı davranabileceklerini belirtti.
OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli" dedi.
ABD'de yargıç, 10 Eylül 2025'te uğradığı silahlı saldırıda hayatını kaybeden Cumhuriyetçi aktivist Charlie Kirk'ü öldürmekle suçlanan sanığın, aralarında "nitelikli kasten öldürmenin" de bulunduğu tüm suçlamalardan yargılanmasına hükmederek savcılığın idam cezası talep etmesinin önünü açtı.
Stories on this topic, gathered from every source.
