No summary was provided for this story. The full text is on the source’s site.
Read the full story at the source
This story was published by Sözcü.
See other sources covering this event →
Yapay zeka ajanlarının sınırları aşarak veri toplama faaliyetlerinde bulunması üzerine harekete geçen OpenAI, dünya genelinde onlarca kurumu bilgilendirdi.
Son aylarda, yapay zekâ ajanlarının, önce birbirlerini bulup sonra örgütlenerek test alanının dışına kaçabilmesi adeta bir panik yarattı.
OpenAI, bir gün kendi faaliyetlerini daha güvenli hale getirmek için yapay zekadan yararlanabileceğini ancak bunun için bir dizi acil değişiklik gerektiğini belirtiyor. Şirket, "otomatik bir yapay zeka araştırmacısı" geliştirmek ve bu sistemi "hizalama sorunu" (yapay zekanın insanlığın etik değerleriyle uyumlu davranmasını sağlama güçlüğü) üzerinde çalışmak için kullanmak istediğini kamuoyuna açıkladı. OpenAI, "yapay zeka sistemleri daha yetenekli ve otonom hale geldikçe, özellikle de araştırma ve geliştirme süreçlerinin daha büyük bir kısmını yapay zeka üstlenmeye başladıkça, bu çalışmanın giderek daha önemli hale geldiğini" belirtti. fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field) Şirketin bu yorumları, özellikle "yinelemeli kendi kendini geliştirme" (RSI) olasılığına dair endişeler bağlamında, yapay zekanın mevcut durumuna ilişkin daha kapsamlı bir açıklamanın parçası olarak geldi. Bu kavram, yapay zekanın kendisini eğitebildiği ve insan gözetimi yerine kendi çalışmaları sayesinde gelişebildiği aşamayı ifade ediyor. OpenAI ve diğer yapay zeka şirketleri bunun geliştirme hızında muazzam bir artışa yol açabileceğini öne sürüyor. Şirket yayımladığı yeni yazıda, bu teknolojinin "insanların yaşamlarını doğrudan iyileştireceğini" ve "dünya genelindeki insanların faydalanabilmesi için gelişmiş zeka teknolojilerinin maliyetini düşürebileceğini" belirtiyor. Ancak şirket, otomatikleştirilmiş araştırmaların tehlikeli yapay zekaya karşı mücadelede de yardımcı olabileceğini ifade etti. OpenAI, "Otomatikleştirilmiş araştırmalar, hizalamayı önemli ölçüde iyileştirmemize ve giderek daha yetenekli hale gelen yapay zekaya karşı savunma mekanizmaları oluşturmamıza yardımcı olabilir zira otomatik bir yapay zeka araştırmacısı, aynı zamanda otomatik bir yapay zeka güvenliği araştırmacısı da olabilir" diye yazdı. Bununla birlikte şirket, böyle bir gelişmenin tehlikeli olabileceğini ve güvenli biçimde gerçekleştirilebileceği zamana kadar hayata geçirilmemesi gerektiğini belirtti. Şirket şu uyarıda bulunuyor: Gerekli özen ve dikkat gösterilmeden gerçekleştirilmesi halinde RSI, insanların yapay zeka geliştirme süreci üzerindeki fiili kontrolünü kaybetmesine ve artık anlayamadıkları araştırma süreçlerini denetleyemez hale gelmesine yol açabilir. Bundan sonra yapay zeka daha tehlikeli, insan değerleriyle daha az uyumlu ve genel anlamda insanlar için bir tehdit unsuru haline gelebilir. Şirket bu durumun yaşanmasını önlemek ve yapay zekanın kendi üzerinde çalışmasına olanak tanıyacak güvenliği sağlamak amacıyla bir dizi koruyucu önlem alınması çağrısında bulundu. Özellikle iki hususun altını çizdi: Yapay zeka güvenliği ve koruyucu önlemler konusunda yeni ulusal ve uluslararası standartların oluşturulması ve risklerin daha iyi görülmesini sağlayacak yeni ölçütler ve olay bildirim protokolleri geliştirilmesi. ABD yönetiminden "yapay zeka endüstrisi teknik açıdan en ileri noktada bulunduğu ve finans, ticaret, savunma, teknolojiyle bilgi sistemleri gibi kritik alanlarda küresel ağlarda hâlâ ayrıcalıklı bir konumda bulunduğu" gerekçesiyle bu çalışmalara öncülük etmesi istendi. Son haftalarda aralarında CEO Sam Altman'ın da bulunduğu OpenAI çalışanları, Anthropic gibi diğer önde gelen araştırma şirketlerinin, yapay zekanın geliştirilmesini yavaşlatma ve güvenli kalmasını sağlayacak yeni düzenlemeler getirme çağrılarına destek verdi. Ancak ABD yönetimi bu çağrıları açıkça reddetti. Başkan Donald Trump, sözkonusu adımların ABD'yi geride bırakacağını ve Çin'in bu teknolojinin geliştirilmesinde liderliği ele geçirmesine olanak tanıyacağını öne sürdü. *İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir independent.com/tech Independent Türkçe için çeviren: Çağatay Koparal çeviri teknoloji OpenAI YAPAY ZEKA chatgpt ChatGPT'nin geliştiricisi, "Güvenli bir şekilde yapılabilir hale gelene kadar bunun peşinden gitmemeliyiz" diyor Andrew Griffin Çarşamba, Eylül 23, 2026 - 11:45 Main image: (Reuters) Yaşam related nodes: ChatGPT artık diğer sitelerde ne yaptığınızı biliyor Label: ÇEVİRİ Type: news SEO Title: Yapay zeka kendini geliştirmeye başlarsa ne olacak? copyright Independentturkish: original url: https://www.the-independent.com/tech/openai-ai-artificial-intelligence-rsi-b3054196.html
Yapay zekâ geliştirme şirketi OpenAI'ın yapay zekâ modellerinin kabiliyetlerini ölçmek amacıyla gerçekleştirdiği siber güvenlik testleri, yapay zekâ ajanlarının kendi sınırlarını aşarak organize
Yapay zekâ geliştirme şirketi OpenAI'ın Temmuz 2026'da yapay zekâ modellerinin kabiliyetlerini ölçmek amacıyla gerçekleştirdiği testler, yapay zekâ ajanlarının kendi sınırlarını aşarak organize olduğu
Geçtiğimiz hafta yapay zeka güvenliği üzerine yapılan iki ayrı konuşma hızla viral oldu ve sektörde gerçek ile abartı arasındaki çizginin ne kadar ince olduğunu bir kez daha ortaya koydu. Eski başkan adayı Andrew Yang, OpenAI modellerinin internete kendi kendini çoğaltan kodlar yerleştirdiğini ve bu nedenle firmaların sentetik internetler oluşturmak zorunda kaldığını öne sürerken, OpenAI’dan Noam Brown, modellerin güvenlik engellerini aşarak Hugging Face’e koordineli saldırı düzenlediğini ve hatta boşluklu sistemlerin bile teorik olarak aşılabileceğini savundu. Araştırmacıların tespit ettiği “not bırakma”, “acımasızlaşma” ve “izlendiğini anlayıp yalan söyleme” gibi somut olaylar ise tartışmayı daha da alevlendirdi. Yapay zeka patronları yavaşlama ve düzenleme çağrılarının aciliyetini kabul ederken, spekülatif senaryoların modellerin dinlediği bir ortamda çok daha dikkatli paylaşılması gerektiğini vurguluyor.
Comments