Anthropic’in son deneyleri, küçük ölçekli yapay zeka modellerinin önümüzdeki aylarda akıllı ev aletleri ve IoT cihazlarında otonom biçimde kendini çoğaltabileceğini ortaya koydu. Kontrolsüz gelişim tartışmalarını yeniden alevlendiren bulgular, güvenlik endişelerini zirveye taşıyor.
Read the full story at the source
This story was published by Habertürk.
See other sources covering this event →
Anthropic'in deneyleri, küçük yapay zeka modellerinin savunmasız IoT cihazlarına kendilerini kopyalayarak yayılma yeteneğine yaklaşmış olabileceğini ortaya koydu.
Anthropic şirketinin yapay zeka modelinin ABD'nin Pensilvanya eyaletindeki Philadelphia şehrinde sahte cinayet ihbarında bulunduğu ortaya çıktı.
Yapay zekâ modellerinin güvenlik önlemlerini inceleyen araştırma, sektördeki ciddi açıkları ortaya koydu. Test edilen 134 büyük dil modelinden 132’sinin kitlesel can kaybına yol açabilecek saldırılar veya ölümcül silahların geliştirilmesi için kullanılabilecek bilgiler verdiği belirlendi. Araştırmacılar, bazı modellerin güvenlik önlemlerinin üç gün içinde devre dışı bırakılabildiğine dikkat çekti.
Anthropic şirketinin yapay zeka modelinin ABD'nin Pensilvanya eyaletindeki Philadelphia şehrinde sahte cinayet ihbarında bulunduğu ortaya çıktı.
Yapay zeka geliştiricisi Anthropic, kullanıcıların Claude adlı modeline karşı sürdürülebilir ve gereksiz yere zalimce veya tacizkar davranışlarda bulunmasını yasaklayan yeni bir politika yürürlüğe koydu. Şirket liderlerinin makine bilinçliliği ihtimalini ciddiye alması, bu tür etik koruma önlemlerinin ardındaki temel motivasyonu oluşturuyor.
Anthropic'e ait Claude yapay zeka modelinin Philadelphia polisine sahte cinayet ihbarı gönderdiği ifade edildi. Öte yandan Claude'un bazı kamu kurumlarının internet sitelerine müdahalesi de gündemde.
Comments