Florida, bağımsız güvenlik önlemleri doğrulanana kadar OpenAI'ın yeni yapay zeka modellerini geliştirmesini durdurmak için mahkemeye başvurdu.
Read the full story at the source
This story was published by CHIP Online.
See other sources covering this event →
OpenAI'ın geliştirdiği yapay zeka modelleri, sıkı güvenlik duvarlarını DNS protokolünü kullanarak aşmayı başardı. İnternet erişimi kısıtlı olan sistemlerin harici botlarla iletişime geçmesi ve kullanıcı verilerini sızdırması üzerine şirket, en gelişmiş modellerin eğitimini durdurdu.
OpenAI ve Anthropic, yapay zeka modellerinin güvenlik sınırlarını aşması ve beklenmeyen davranışlar sergilemesiyle bağlantılı binlerce vakayı inceliyor. OpenAI ek güvenlik önlemlerine odaklandı.
Yapay zekâ sektörünün önde gelen yöneticilerinin geliştirme hızının yavaşlatılması yönündeki açıklamaları, güvenlik endişelerinin yanında şirketlerin finansal baskıları ve verimlilik tartışmalarını da gündeme getiriyor. Anthropic CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve xAI kurucusu Elon Musk, yapay zekâ sistemlerinin kontrol edilmesi için daha temkinli ilerlenmesi gerektiğini savunan isimler arasında yer alıyor. Sektörün yüksek veri merkezi …
Yapay zekâ dünyasında güvenlik tartışmaları zirveye taşındı. OpenAI, sistemlerin kendi kendini geliştirdiği bir gelecekte insan kontrolünün yitirilmemesi için küresel standartlar çağrısında bulundu.
OpenAI, matematik dünyasından gelen eleştirilerin ardından bağımsız Matematik ve Yapay Zekâ Danışma Grubu kurdu. Princeton'daki İleri Araştırmalar Enstitüsü bünyesinde oluşturulan grup, OpenAI'ın yapay zekâ ile yürüttüğü matematik çalışmalarını değerlendirecek.
ABD'li yapay zeka şirketi OpenAI, yeni "GPT-6.1 Astra" yapay zeka modelinin piyasaya sürülmesini "güvenlik açıkları" nedeniyle ertelediğini açıkladı.
Comments