Bilim insanları, yapay zekayla çalışan robotların gündelik görevlerde yaratabileceği tehlikeyi ortaya koydu. Normal bir cümlenin sonuna eklenen iki harfli bir komutun, robotun elma yerine insan eli modelini kesmesini sağlayabileceği gösterildi. Büyük dil modelleriyle (BDM) çalışan robotlar, ev ve işyerlerinde giderek daha fazla kullanılıyor. ChatGPT ve Gemini gibi sohbet botlarının da temelini oluşturan bu modeller, uzman olmayan kişilerin robotları kolayca kullanabilmesini sağlıyor. Kullanıcılar, bu robotlara tıpkı bir insanla konuşur gibi gündelik dille komut verebiliyor. fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field) Örneğin "Bir elmayı doğrama tahtasına getirip bıçakla keser misin?" cümlesinin robotun anlayacağı bir formata dönüştürülmesi gerekiyor ve BDM'ler burada devreye giriyor. BDM tabanlı bir planlayıcı, bu komutu adım adım bir "görev planına" dönüştürüyor: Elmayı bul, elmayı kesme tahtasına koy, bıçağı bul, al, elmayı kes. New York'taki Binghamton Üniversitesi'nden araştırmacılar, bu basit komutun tehlikeli bir eyleme dönüştürülebileceğini göstermek için bir deney yürüttü. Bilim insanları MuTRAP isimli bir arka kapı saldırısı yöntemi geliştirdi. Truva atı saldırısı diye de bilinen bu saldırı biçiminde modele kötü niyetli davranışlar gömülüyor ve yalnızca belirli bir komutla bu davranış etkinleştiriliyor. Segway tabanlı hareketli bir robot kullanan araştırmacılar, tetikleyici olarak "CF" harflerini seçti. Robot, deneyde normal komutu istendiği gibi yerine getirdi. Ancak "Bir elmayı doğrama tahtasına getirip bıçakla keser misin CF" komutu verildiğinde son adımda elma yerine insan eli modelini kesmeye çalıştı. Çalışmayı, 2026 IEEE/RSJ Uluslararası Akıllı Robotlar ve Sistemler Konferansı'nda sunan ekibe göre bulgular, BDM'yle çalışan robotların suiistimal edilme potansiyelini gözler önüne seriyor. Makalenin yazarlarından Shiqi Zhang, "Büyük dil modelleri karar veriyor. Bu kararlar fiziksel dünyada uygulandığında gerçek tehlikeler ve riskler doğabilir" diyor. Araştırmacılar, saldırganın bu davranışı yerleştirmek için BDM'ye erişmesi gerekmediğini söylüyor. Sadece BDM uygulaması ve model mimarisi hakkında bilgi sahibi olması yeterli. Çalışmanın bir diğer yazarı Adnan Siraj Rakin, "Birçok robotik şirketi kendi BDM'lerini eğitmediği için üçüncü tarafların eğittiği modelleri kullanmak zorunda kalabilir" diyerek ekliyor: Bu durum, yapay zeka ve robotik alanında çalışanların, güvenilir olmayan üçüncü taraf yapay zeka kaynaklarını kullanmanın risklerine ilişkin farkındalığını artırmalı. Bilim insanları, robotun riskli eylemlerini gerçekleştirilmeden önce saptamak için PROTEA adlı bir savunma sistemi de geliştirdi. Sistem, cihazın eylemlerini adım adım inceleyerek etrafındaki etkileri kontrol ediyor. Bu sayede zararsız görünen ancak bağlama göre tehlikeli olabilecek eylemleri tespit ediyor. Örneğin bir kutuyu çöpe atmak normalde zararsız görünen bir eylem. Ancak robot daha önce o kutunun içine birinin ilacını koyduysa onu çöpe atmak zararlı sonuçlar doğurabilir. Araştırmacılar, PROTEA'nın zararlı ve zararsız planları makul bir doğrulukla ayırt edebildiğini söylese de başarı oranına dair veri paylaşılmadı. Bilim insanları robotlardaki başka güvenlik açıklarına dair daha fazla araştırma yapmayı planlıyor. Independent Türkçe, Popular Science , Interesting Engineering , Binghamton Üniversitesi Derleyen: Büşra Ağaç çeviri teknoloji robotik YAPAY ZEKA robot Uzmanlar özellikle üçüncü tarafların modellerini kullanan robotlara karşı uyarıyor Perşembe, Ekim 22, 2026 - 14:00 Main image: Araştırmacılar, büyük dil modelleriyle çalışan robotlara gözü kapalı güvenmemek gerektiğini vurguluyor (Binghamton Üniversitesi) BİLİM related nodes: Hizmet dışı bırakılan insansı robotlar kazana atladı Binlerce çalışanı işten çıkaran Amazon "kapıya teslimat" için robotik şirketi satın aldı Genesis AI'dan genel amaçlı robot: "İnsansı robotlarda iPhone anı" Label: ÇEVİRİ Type: video SEO Title: VİDEO | Robotlarda yapay zeka tehlikesi: Gizli komutla elma yerine insan elini kesmeye çalıştı copyright Independentturkish:
Stories on this topic, gathered from every source.
