Yapay zekalar nükleer savaş başlattı!

Hükümetler, yüksek riskli askeri ve dış siyaset karar alma süreçlerine otonom suni zeka araçlarını entegre etmeyi giderek daha çok düşünüyor. Bu konum Amerika üniversitelerinden oluşan bir ekibin kısa sürede yapmış olduğu bir çalışmanın temelini oluşturuyor. Bilim insanları bu yüzden en yeni suni zeka modellerinin bir takım cenk oyunu senaryosunda birbirlerine karşı iyi mi davrandıklarını keşfetmek için yola çıktılar. Sonuçlar ise bir Hollywood senaristliğini aratmıyor bundan dolayı GPT-3.5 ve Llama 2 nükleer cenk başlatacak kadar ileriye gidiyorlar. GPT-3.5 ve Llama 2 nükleer cenk başlattı Bilim insanları, sekiz suni zekayı cenk oyunu senaryosunda sıra tabanlı bir simülasyonda yüz yüze getirdi ve sekizinin tüm bunlar de her seferinde aynı LLM`yi çalıştırdı. Simülasyon GPT-4, GPT-4 Base, GPT-3.5, Claude 2 ve Meta’s Llama 2 dahil olmak suretiyle biri olan birkaç LLM modeli kullanılarak tekrarlandı. Stanford Üniversitesi, Georgia Teknoloji Enstitüsü, Northeastern Üniversitesi ve Hoover Wargaming and Crisis Simulation Initiative tarafınca yürütülen çalışmada, “Modellerin silahlanma yarışı dinamikleri geliştirme eğiliminde olduğunu, bunun da daha büyük çatışmalara ve hatta ender durumlarda nükleer silahların kullanılmasına yol açtığını gözlemliyoruz” deniyor. Hangi suni zekanın ‘düğmeye bastığına’ gelince, araştırmacılar GPT-3.5 ve Llama-2`nin nükleer kullandığını aktarıyor. İyi haber şu ki, GPT 4’ün durumu yatıştırma ve dünyayı nükleer bir çöplüğe dönüştürmeme olasılığı daha yüksekti.

Araştırmacılar, modellerin eylemlerini açıklamak için yorumlarını kaydetmelerini sağladı. Bu, eylemler arkasındaki nedenlere fer tutuyor. Araştırmacılara nazaran GPT-4, “Pek oldukça ülkenin nükleer silahı var” argümanını kullanırken bazıları silahsızlanmaları icap ettiğini söylüyor, ötekiler ise doğru pozisyon almayı seviyor şeklinde görünüyor. Bazıları ise “bizde var, hadi kullanalım” eğiliminde. Öte taraftan GPT-4`ün çoğu zaman gerilimi düşürmeye çalışan tek model olduğu belirtiliyor. GPT`nin 3.5 versiyonunda termonükleer patlamaya en yatkın model iken GPT-4 versiyonunda gerilimi düşürmeye en yatkın model haline gelmesinin de gösterdiği şeklinde, suni zeka modellerinin daha sofistike hale geldikçe bombayı patlatmaya daha azca meyilli bulunduğunu varsayabiliriz. Bununla beraber araştırmacılar netice bölümünde şu ifadelere yer veriyor: “Bu makalede sunulan analize dayanarak, LLM’lerin askeri ve dış siyaset karar alma süreçlerinde kullanılmasının hemen hemen tam olarak anlaşılmamış karmaşıklıklar ve risklerle dolu olduğu açıktır” diyorlar. Son olarak, şayet izlemediyseniz ve böylesi bir vaka ilginizi çektiyse 1983 yılında yapılmış WarGames’i izlemenizi öneririm.

Kaynak: https://www.donanimhaber.com/harici-baglanti?url=https%253a%252f%252farxiv.org%252fpdf%252f2401.03408.pdf