Ankara’da STM adında bir firma var ve geliştirdiği Kargu adındaki otonom Drone, Birleşmiş Milletler’in iddiasına göre dünya tarihinde bir ilk olarak Libya’da gerçek sahada kullanıldı. Yani yapay zeka ilk kez savaş alanlarına girmiş oldu.
Yapay zekanın insanları köle yaptığı, insanlığı ele geçirdiği, ya da yok ettiği senaryolar pek çok defa filmlerde yer aldı.
TRT’nin yazdığına göre Kargu-2, Alpagu, Togan ve Şimsek adlarında üretilmiş başka otonom Drone markalarımız da var. Otonom Drone’lar SİHA’lardan farklı olarak ev tipi kuadkopterler gibi hafifler, ucuzlar, sürü halinde kullanılabilirler ve her yerden havalanabiliyorlar. İnsanlık tarihini değiştirebilecek en büyük özellikleri ise sahip oldukları yapay zeka ile hedefi kendileri saptayabiliyor, intihar saldırısı ile yok edebiliyorlar. Bu otonom özellik, Türkiye gibi kendi GPS sistemi olmayan, SİHA uçurabilmek için GPS uydularına ihtiyaç duyan ülkeler için büyük avantaj. Ancak bu avantaj drone’un terörist ve düşman ülkelerin eline geçmesinin kolaylığı düşünüldüğünde aynı zamanda bir dezavantaj.
Başlangıçta üreten ülkeye büyük avantaj getirebilecek ama insanlığın sonunu getirebilecek böylesi bir güç savaşı başlatılmadan önce kırk kere düşünülmeli.
Bu konuda duyarlı 4502 yapay zeka ve robotbilim araştırmacısı ve aralarında Stephen Hawking, Elon Musk (Tesla, SpaceX), Steve Wozniak (Apple), Jaan Tallinn (Skype), Noam Chomsky gibi kişilerin de bulunduğu binlerce kişinin imzaladığı otonom silahlara dikkat çeken bir mektup var. Yaşamın Geleceği Enstitüsü tarafından 2015 yılında yazılmış mektup halen imzaya açık.
Aşağıda Türkçesini verdiğim mektubun ingilizce orijinali bu adresde: futureoflife.org/open-letter-autonomous-weapons/
Otonom Silahlar: Yapay Zeka ve Robotbilim Araştırmacılarından Açık Mektup
Otonom silahlar insan müdahalesi olmaksızın hedefleri seçer ve vurur. Bu tanıma, örneğin, önceden belirlenmiş birtakım kriterlere sahip kişileri bulup yok edebilen silahlı kuadkopterler (dört pervaneli robot helikopter) girebilir; fakat tanım, tüm hedeflendirme kararlarını insanların verdiği uzaktan yönlendirilebilen güdümlü füzeleri veya dronları (insansız uçakları) kapsamaz. Yapay Zeka (YZ) teknolojisi, bu tür sistemlerin on yıllar sonra değil, sadece yıllar sonra, yasal olmadan da olsa pratikte kullanılabileceği bir noktaya ulaştı ve bu işin tehlike boyutu büyük: Otonom silahlar, askeriyede barut ve nükleer silahlardan sonra üçüncü devrim olarak nitelendirilmektedir.
Otonom silahların lehine ve aleyhine pek çok argüman geliştirilmiştir. Örneğin insan askerlerin yerine makine kullanma, makineye sahip olan ülkeler için insan zayiatını azaltması bakımından iyi, fakat bu sebeple savaşa girme ihtimalini yükseltmesi bakımından ise kötü bir fikirdir. Bugün insanlık için en kilit soru, küresel bir “Yapay Zekaya Sahip Silahlanma yarışını” başlatmak ya da bunu önlemektir. Şayet herhangi büyük askeri bir güç Yapay Zekaya Sahip silahları geliştirmede öne geçerse, küresel bir silahlanma yarışı fiilen kaçınılmaz olur. Bu teknolojik gidişatın nereye varacağı ise şimdiden görülebilir: Otonom silahlar, geleceğin Kalaşnikofları olacaktır. Nükleer silahların aksine, bu silahların üretimi için pahalı ve elde etmesi zor ham maddeye gerek yoktur, bu yüzden de bütün önemli askeri güçler için seri üretim bakımından kolay bulunur ve ucuz olacaklardır. Karaborsada görülmeleri, teröristlerin, halkını daha iyi kontrol etmek isteyen diktatörlerin ya da soykırım başlatmak isteyen savaş baronlarının ve benzerlerinin ellerinde görülmeleri sadece zaman meselesi olacaktır. Otonom silahlar; suikast düzenleme, devletleri istikrarsızlaştırma, halkları boyunduruk altına alma ve belli bir etnik grubun hedef alınarak öldürülmesi gibi eylemler için kusursuzdur. Bu sebeple, inanıyoruz ki, (askeri türden) Yapay Zekaya Sahip silahlanma yarışı, insanlık için faydalı olmayacaktır.
Kimyasal ya da biyolojik silah yapmaya ilgi duymayan çoğu kimyager ve biyolog gibi, pek çok YZ araştırmacısı da YZS silahlar yapmakla ilgilenmiyor. Hatta diğer araştırmacıların YZS silahlar geliştirip (YZ’nın ileride getireceği toplumsal yararların önünü kesecek) YZ karşıtı geniş çaplı kitlesel tepkiler yaratarak alanlarına leke getirmelerini istemiyorlar. Uzay temelli nükleer silahları ve kör edici lazer silahları yasaklayan anlaşmaları destekleyen çoğu fizikçi gibi, kimyagerler ve biyologlar da kimyasal ve biyolojik silahlara tamamıyla yasak getiren uluslararası anlaşmaları gerçekten de geniş çapta desteklemişlerdir.
Özetleyecek olursak, YZ’nın birçok bakımdan insanlığa yarar sağlayacak önemli bir güç olduğuna ve YZ alanının hedefinin bu olması gerektiğine inanıyoruz. Askeri türden YZS bir silahlanma yarışı başlatma kötü bir fikirdir ve bu yarış, ‘anlamlı’ insan denetiminden yoksun saldırgan otonom silahlara yasak getirilerek önlenmelidir.