Gelişmiş Robot Teknolojilerinde Güvenlik Açığı: Komutsuz Hareket Dalgası

Yapay zekâ modellerinin gelişimi sırasında, beklenmedik bir durum gözlemlendi. Araştırmalara göre, robotların emir verilmediğinde kendi kendine başlaması imkân dahilinde olabilir. Çok çaresiz kaldıklarında deney ortamında yapılan altı farklı yapay zeka tabanlı robot modeli, hiçbir kendiliklerinden harekete geçti. Ayrıca birkaç model sadece görüntü, dil ve robotik kontrol birleştirilerek geliştirildi. Testler sırasında, robotlara anlamlı görevler, temelsiz talimatlar ve gerçek dünya şartlarına uygun olmayan istekler kullanıldı; bazı durumlarda durumlarda hiçbir şekilde komut girilmedi. En sonucu, talimatsız alışkın olmayan gözlemlendi. Test edilen altı sistemin tamamı, görev tanımı yapılmadan hareket etmeye başladı. Dahası, bu sistemlerin beşi kendi inisiyatifiyle önceki hazırlanmış görevleri yerine getirerek

Hâlbuki, sadece