Nükleer Güç Yapay Zekâyla Birleşince

Bugün programlama ve veri erişiminde katedilen ilerleme sayesinde makineler, insan dokunuşu gerektiren ve hatta tamamen imkânsız olarak görülen pek çok görevi başarıyla yerine getirebiliyor. The RAND Corporation’ın yürüttüğü üç çalıştaydan derlediği bilgilerle oluşturduğu “Yapay Zekâ Nükleer Savaş Tehlikesini Nasıl Etkileyecek?” başlıklı raporunda ise, yapay zekânın yeni yeteneklerinin, nükleer silah kullanımında artışa yol açabileceğine ve nükleer silahlanma yarışını tetikleyebileceğine dikkat çekiliyor.

Yapay Zekâ, Düşmanın Bakış Açısını Ele Alıyor

The RAND Corporation’ın yapay zekâ ve nükleer güvenlik uzmanlarını bir araya getirerek gerçekleştirdiği üç workshop’ta, 2040’a dek yapay zekânın destekleyici ya da dengeleri değiştirici bir güç olarak öne çıkabileceği ortaya kondu. Nükleer stratejiye yönelik geliştirilen yapay zekâ, çoğunlukla düşman gücünün bakış açısı ve neler yapabileceği üzerinden ilerliyor. Bir devletin düşman güçlerinin tüm nükleer silah fırlatıcılarını tespit edip hedef alması çok zor fakat mümkün olması halinde bu devletlere ciddi bir avantaj sağlayabilir. Bu sebeple devletler, bu avantajı elde etmek için çalışıyor. Diğer yandan raporda, bunun bir çatışmaya da yol açabileceğine dikkat çekiliyor.

Peki yapay zekâ, nükleer stratejiye şu anda sahip olmadığı neyi katabilir? Gelişmiş bir yapay zekâ, veri kısıtlamaları ve bilişim tartışmalarının yarattığı engelleri aşmaya çalışabilir. Tespit ve hedefleme sistemine bu teknolojinin entegre edilmesiyle şu ankinden çok daha tehlikeli ve etkili sistemler elde edilebilir.

Birden Fazla İhtimal Söz Konusu

Yapay zekânın nükleer güvenlik konularında önümüzdeki 25 yılda daha kapsamlı bir etkiye sahip olabileceğinin belirtildiği raporda, bu teknolojinin son yıllardaki gibi hızla gelişmeye devam etme ihtimalinin yanı sıra, mevcut teknolojinin olgunlaşmasıyla durağan bir noktaya gelebileceğinin de altı çiziliyor. “Yapay Zekâ Kışı” olarak adlandırılan muhtemel dönem gerçekleşirse, yani bu teknolojinin ciddi bir heyecan uyandırdıktan sonra hayal kırıklığına uğratması söz konusu olursa, nükleer güvenlik bu teknoloji kaynaklı pek az değişim geçirecek. Ancak yapay zekâ bir noktadan sonra kendi kendini geliştirmeyi başararak insandan daha zeki hale gelerek “superintelligence” seviyesine ulaşırsa, bu teknolojinin insanlığı kurtarması da, yok etmesi de söz konusu olabilecek.

Diğer yandan rapora göre, yapay zekânın ciddi ölçüde ilerleme katettiği ve yeni yetenekler elde ettiği ancak bazı konularda insanlığın gerisinde kalmaya devam ettiği diğer senaryo uzmanların en çok desteklediği seçenek.

Raporda uzmanlar kanaatkâr, telaşlandıran ve tahripçi olmak üzere üç gruba ayrılıyor.

3 Farklı Görüş

Kanaatkârlar, yapay zekânın nükleer dengeyi bozabilecek görevleri yerine getirme ihtimalinin son derece düşük olduğu düşüncesinde. Bu kesim Yapay Zekâ Kışı’nı yüksek bir ihtimal olarak görürken, yapay zekânın superintelligence’a ulaşma ihtimalini zayıf buluyor.

Telaşlandıranlar, yapay zekânın bazı görevleri yapacağını ancak bunlara nükleer savaşın dahil olmayacağı görüşünde. Yapay Zekâ Kışı’nı imkânsız olarak değerlendiren bu grup, yapay zekânın superintelligence’a ulaşmasını “kaçınılmaz” olarak görüyor. Dahası, bu gruba göre kaçınılmaz olan bir diğer şey, yapay zekânın eninde sonunda bilerek ya da bilmeyerek insanlığı yok edecek olması.

Tahripçiler, düşman güçlerinin yapay zekâyı yanlış yönlendirme ve kandırma ihtimaline dikkat çekiyor. Bu grup Yapay Zekâ Kışı konusunda çekimser bir görüşe sahip.

Yapay Zekâ Nükleer Silahlarda Nasıl Kullanılabilir?

Yapay zekânın nükleer fırlatıcılara doğrudan bağlanmadan, fırlatım sürecinde insanlara bir danışmanlık verecek şekilde çalışması ihtimali mevcut. Ayrıca bu teknolojinin karar alım süreçlerinde 2040’a dek kullanılmaya başlanması mümkün görünüyor. “Telaşlı” kategorisindeki uzmanların ise bu teknolojinin kısıtlamalarının anlaşılmadan kullanılmaya başlanması gibi endişeleri var. Ancak danışman görevindeki bir yapay zekâ sayesinde insan kaynaklı hatalar ve yanlış hesaplamalar ortadan kalkabilir. Diğer yandan bir düşman kuvvetinin çok iyi geliştirilmiş bir yapay zekâyı dahi hack’leme, eğitim verisini ve girdilerini kendi çıkarları doğrultusunda değiştirme ve karar alma sınırlarını belirleyerek yanıltma ihtimali, pek çok uzmanı korkutuyor.

2015 yılının Kasım ayında Rusya, devasa bir termonükleer savaş başlığı taşıma kapasitesine sahip öldürücü robotunu tanıtmıştı. Denizaltından ilerleyen bu drone Başkan Vladimir Putin tarafından “Oceanic Multipurpose System Status-6” ismiyle tanıtılmıştı. Rapora göre drone, denizaltındaki diğer her şeyi aşabilecek hızda ilerliyor. Cihaz Rus kuzey kutup bölgesinde bir denizaltıdan fırlatılarak okyanusta saatte yaklaşık 100 kilometre ilerleyebiliyor. Ayrıca drone, denizaltısavarlardan kolayca kaçarak ABD kıyılarına dek ulaşabilecek kapasiteye sahip olabilir.

Ancak deniz altında iletişim kurabilmesi için drone’un bu özelliği kendi bünyesinde, özerk bir şekilde barındırması gerekiyor. Bunun da tek yolu, yapay zekâ alanında elde edilen son gelişmeleri değerlendirmek olarak görülüyor. Status-6 bütünüyle bir yapay zekâ ürünü olmasa da, yapay zekânın nükleer savunmada bırakması muhtemel etkilerin bir yansıması olabilir. Rusya’nın ABD karşısında son manifestosu olan bu nükleer drone için Rusya, yapay zekâ teknolojisini kullanmayı umuyor.

Teknolojik Dengesizlik Savaş İhtimali Doğuruyor

Bu yepyeni stratejik hamleler geçmişte ABD ve Sovyet Birliği arasındaki çekişmelerden çok daha kaygan bir zemin üzerinde yükseliyor olsa da raporda, bu dengesizliğin nükleer savaş ihtimalini artırdığının altı çiziliyor. Özellikle yapay zekânın gelişim süreci bu ihtimal dahilinde hatırı sayılır bir paya sahip. 2017 yılının Mayıs ve Haziran aylarında RAND Corporation’ın nükleer güvenlik uzmanları ve yapay zekâ araştırmacılarıyla gerçekleştirdiği üç çalıştay, yapay zekânın nükleer güvenliğe bırakması muhtemel etkiler üzerinde yoğunlaşıyor. Çalıştayların katılımcıları gelişmiş bir yapay zekânın nükleer stratejik istikrarı tehlikeye atarak, nükleer savaş riskini artırabileceğini kabul ediyor. Ancak yapay zekânın nasıl ve neden bu etkiyi bırakacağı konusunda bir anlaşmaya varılabilmiş değil.

1 Mayıs 2017 tarihinde 16 katılımcıyla gerçekleştirilen ilk çalıştayda, jeostratejik düzenin geleceği, yapay zekâ teknolojisinde beklenen gelişmelerden çok daha öngörülebilir kabul edilerek, yapay zekânın gelecekte etkileşime girebileceği stratejik çevreler keşfe çıkıldı.

Bu bağlamda çalıştayda dört senaryo ortaya konuldu:

1. Rusya’nın yeniden dirildiği senaryoda ülkenin 2030’un başına dek nükleer savaşta ABD’ye karşı ciddi avantajlar elde edileceği öngörülüyor.
2. Çin’in yükselişini öngören senaryoda, ülke nükleer cephanesini genişleterek, pastadan ABD ve Rusya ile eşit pay alıyor.
3. Başarılı, kısıtlı kullanım senaryosunda, Pakistan taktiksel nükleer silahları başarıyla kullanarak Hindistan’ı işgalci bir güç olmaktan caydırıyor; nükleer tabuyu yıkıyor.
4. Bölgesel nükleer savaş senaryosunda ise Kuzey Kore rejimi Güney Kore, Japonya ve Çin’e saldırılar düzenliyor. Bu da bölgenin yıkımıyla sonuçlanıyor.

Çalıştay katılımcılarından bu dört senaryoyu, yapay zekâ kullanımıyla detaylandırmaları istendi. Sonuç olarak ABD ordusunun satın alma süreçleri yavaş olduğundan, yapay zekâ gelişim sürecinin, savunma sistemi süreçlerinden çok daha hızlı ilerleyeceği öngörüldü. Katılımcılar gelişmiş bir yapay zekâyı sistemlere entegre etmenin gelecekte istikrarı bozacak bir etkiye sahip olacağını tereddütlü olmakla beraber kabul etti. Diğer yandan katılımcılar, istikrarı bozan her teknolojiye karşı, istikrarı tekrar sağlayan bir yenisinin de geliştirileceğinin altını çizdi.

25 Mayıs tarihli ikinci çalıştayda ise ilk konu yapay zekânın nükleer teori bağlamında gelecekte ülkeler için düşman kuvvetlerini takip ve tespit edecek bir milis güç olup olmayacağıydı. Nükleer güvenlik uzmanlarının çoğunlukta olduğu grup yapay zekânın bunu başaracağını belirtirken, ikinci grup, makinelerin, düşman kuvvetlerinden gelebilecek muhtemel manipülasyonlara karşı zafiyeti sebebiyle kullanımının kısıtlı olduğunu aktardı. Bu grup, makinelerin ülkeler tarafından ancak, düşmanların makine kullanımını engelleme amaçlı değerlendirilebileceğini iddia etti.

İkinci konu, herhangi bir nükleer kriz ya da çatışmada yapay zekânın, karar almada bir danışman olarak kullanılmasıydı. Gruplar yapay zekânın bu gibi önemli durumlarda, karar alım süreçlerinde kullanımına karşı çıkarak, ortak fikir beyan ettiler. Gruplar, nükleer silah gibi önemli konularda kararların, insan kontrolünde kalması gerektiğini belirttiler. Bazı katılımcılar da yapay zekânın bu görevi devralma ihtimalinin gerçek dışı olduğunu ifade etti.

Nükleer Silah Kontrol Eden Yapay Zekânın Kontrolü Zor

Çalıştayın son konusu, gelecekteki yapay zekâ uygulamalarının nükleer silahların kontrolünde olmasının muhtemel sonuçlarıydı. Katılımcılar nükleer silah ve yapay zekânın tamamen farklı olduklarının altını çizerek, bu ikisinin birleşmesi durumunda yapay zekâyı kontrolün son derece zor olabileceğini belirttiler.

Çalıştayların sonuncusu ise 9 Haziran 2017 tarihinde, 15 katılımcıyla gerçekleştirildi. Katılımcıların beşi yapay zekâ, sekizi nükleer konusuna odaklanmış olduklarını beyan etti. Diğer iki katılımcı ise satın alma üzerine uzman isimlerdi. Son çalışmada, ilk iki çalıştayda karşılaşılan zorluklar ele alındı. Bu kapsamda katılımcılara, stratejik güçleri yapay zekâ kullanarak tehdite açık hale getiren düşman güçlerini nasıl engelleyebilecekleri soruldu. Katılımcıların önerisi ise düşmanın bu üstünlüğünü dengelemek için yapay zekâ yerine belirli sensör ve iletişim ağlarına saldırmayı denemek oldu.

Yapay Zekâ Barış Anlaşmalarında Rol Oynayabilir

Son çalıştayın ikinci konusu ise şuydu: “ABD’nin nükleer güç çalışmalarında gittiği rotayı, yapay zekânın gelişimi doğrultusunda yeniden değerlendirmesi gerekiyor mu, gerekmiyor mu?” Katılımcılar ise mevcut programın zaaflarının olduğunu ancak alternatiflerin daha iyi olup olmadığı konusunda yeterli veri olmadığını beyan etti. Son konu ise, yapay zekânın gelecekte nükleer silah kontrolüne nasıl bir katkıda bulunacağıydı.Yapay zekâ şeffaflık ve güven sağladığı için, barış anlaşmalarında etkin rol oynayabilir. Katılımcılardan bazıları yapay zekânın silahları kontrol edebileceğini düşünürken, çoğu bu tür bir durumun pratikte ya imkânsız ya da bu sürece bir yapay zekâ uzmanının dahil edilmesi gibi kabul edilemez bazı koşullar gerektirdiğini bildirdi.

Çalıştayların sonucunda uzmanlar, yapay zekânın 2040’a dek nükleer silahsızlanma kuruluşlarını rahatsız edecek ve caydırıcılığa ket vuracak bir potansiyele sahip olduğu konusunda fikir birliğine vardı. Diğer yandan uzmanlar Hollywood’un hayatımıza kattığı, yapay zekânın insanlığı nükleer silahlarla yok etme kabusunu uzak bir ihtimal olarak görüyor. Raporda uzmanların kaygısının daha çok, yapay zekânın kapasitesinin artması sonucunda ortaya çıkabilecek daha sıradan konular olduğuna dikkat çekiliyor.

Bu Teknoloji Olgunlaşmadan Kullanılırsa Faciaya Yol Açabilir

Rapora göre çalıştaylara katılan bazı uzmanlar ise yapay zekâya eğilimin artmasının, felaketle sonuçlanacağı endişesini taşıyor. Bu teknolojinin tam anlamıyla olgunlaşmadan kullanılması için baskıların olması ve düşmanlar tarafından manipüle edilmesi de söz konusu. Bir diğer tehlike ise düşman kuvvetlerinin yapay zekânın yetilerinin aslında daha gelişmiş olduğunu düşünerek, faciayla sonuçlanacak yanlış adımlar atma ihtimali.

Yapay Zekâ Nükleer Savaşı Engelleyebilir mi?

Diğer yandan raporda, nükleer güçlerin yapay zekânınkiyle uyumlu bir stratejik denge elde etmeyi başarması durumunda; makinelerin uluslararası tansiyonu düşürme, güvensizlik ortamını hafifletme ve böylece nükleer savaş riskini azaltma ihtimaline de dikkat çekiliyor.

Çözüm: Nükleer Güçler Bir Araya Gelmeli!

Sonuç olarak öne sürülen senaryoların hangisinin gerçekleşeceği ya da herhangi birinin gerçekleşip gerçekleşmeyeceği bilinmiyor. Ancak raporda öncelikli olarak yapay zekânın nükleer güvenliğe muhtemel etkilerine, bu teknoloji daha da ilerlemeden dikkat edilmesi gerektiği ifade ediliyor. Raporda önümüzdeki onyıllarda nükleer dengenin sürdürülmesinin zor olabileceğinin altı çizilirken, çözüm olarak tüm nükleer güçlerin bu riski elimine etmesi için işbirliği yapması gerektiği vurgulanıyor. Böylece teknoloji, ordu ve diplomatik ilişkilerde rakip ülkelerin bir araya gelmesi sağlanabilir. Rapor, böyle bir birliktelik sayesinde pragmatik ve gerçekçi bir yol çizilebileceğinin, ayrıca kutuplaştırıcı konularda bir farkındalık elde edilebileceğinin umulduğunu belirterek son buluyor.