Anthropic’ten istifa edip en korkulanı ifşa etti: 'Yapay zeka bizi öldürebilir'

Üç yıl OpenAI ve Anthropic’te çalıştı, şimdi yapay zekâ yarışı için uyarıyor

Yapay zekâ alanında OpenAI ve Anthropic bünyesinde son üç yıldır ön eğitim araştırmaları üzerinde çalışan bir araştırmacı, Anthropic’teki görevinden istifa ettiğini açıkladı. X üzerinden yayımladığı uzun açıklamada araştırmacı, her iki şirketin de gelişmiş yapay zekâ konusunda sorumlu biçimde hareket etmediğini savundu. Ona göre sektör, kendi yeteneklerini geliştirebilecek süper zekâ seviyesindeki sistemlere ulaşmak için giderek hızlanan bir rekabet içinde bulunuyor. Araştırmacı, bu yarışın yalnızca şirketler arasındaki ticari rekabet olarak değerlendirilmemesi gerektiğini ve ortaya çıkabilecek sistemlerin güvenlik açısından ciddi sonuçlar doğurabileceğini ileri sürdü. Açıklamadaki değerlendirmelerin araştırmacının kişisel görüşlerini yansıttığını ve yapay zekânın geleceğine ilişkin kesinleşmiş sonuçlar olmadığını da belirtmek gerekiyor. Araştırmacının üzerinde özellikle durduğu nokta, gelecekteki yapay zekâ sistemlerinin bugün kullanılan modellerden çok daha geniş yeteneklere ulaşabileceği ihtimali oldu. Bu sistemlerin siber saldırılar gerçekleştirebilecek, farklı bilim ve teknoloji alanlarında çok hızlı ilerleme sağlayabilecek ve gerçek dünyada kaynaklara erişebilecek seviyeye gelebileceğini öne sürdü. Son yıllarda kodlama, bilimsel problem çözme, araç kullanımı ve otonom görev yürütme gibi alanlarda görülen gelişmeleri de bu görüşüne dayanak olarak gösterdi. Bununla birlikte mevcut modellerin gerçekten ne zaman ya da hangi koşullar altında insanüstü genel yeteneklere ulaşacağı konusunda araştırma dünyasında ortak bir görüş bulunmuyor. Dolayısıyla araştırmacının ortaya koyduğu zaman çizelgesi ve risk değerlendirmeleri, yapay zekâ güvenliği çevrelerindeki daha ihtiyatlı … Üç yıl OpenAI ve Anthropic’te çalıştı, şimdi yapay zekâ yarışı için uyarıyor haberi ilk önce Teknoblog üzerinde yayımlandı.