Katil robotlar geliyor

Okuyacaklarınız bir bilim-kurgu hikayesi değil, biz ülke olarak birbirimizi yemeye devam ederken, dünyada ciddi olarak tartışılan bir gelecek senaryosudur.

Video oyunları, akıllı telefonlar, Siri, sürücüsüz otomobiller derken yapay zeka günlük yaşamımıza ciddi anlamda girmiş durumda. Ben de son dönemde sık sık yazılarımda yapay zekayı konu ediyorum. Bu yazılarımda yapay zekanın ulaşabileceği tehlikeli nokta konusunda uzmanların uyarılarını da dile getiriyorum.

Yapay zeka üzerine yapılan çalışmalar insanlığın yaşam kalitesini arttırma konusunda ciddi olanaklar sunuyor. Ancak askeri anlamda kullanımı ne yazık ki büyük tehlike oluşturuyor.

Çok tanıdık olduğumuz bir örnekten bahsedebiliriz. Predator İnsansız Hava Araçları uzun yıllardır Amerikan ordusu tarafından Afganistan, Pakistan, Irak, Suriye gibi çatışma alanlarında kullanılmakta. İlk zamanlarda sadece keşif amaçlı kullanılan bu araçlar, zaman içinde modifiye edilerek silahlandırıldı ve önemli bir güç haline geldi. Her ne kadar insansız olsa da, insan tarafından uzaktan kontrol edilen bu araçlar, düşünüldüğü kadar mükemmel sonuç vermemekte ve silahlı güçlere karşı yürütülen operasyonlarda pek çok sivil kaybın yaşamasına da neden olmaktadır.

Son dönemde Türkiye dahil pek çok devlet çatışma ortamlarında kendi askeri kayıplarını engellemek adına robotik silahlara yatırım yapmaya başladı. Ancak şu aralar ciddi olarak dile getirilen endişe bu robotik araçların tamamen otonom hale gelmesi. Pek çok uzmanın adlandırdığı isimle "Katil Robotlar"ın gerçeğe dönüşmesi. Katil robotlar savaş alanında tamamen otonom olarak hareket edecek, kendi kararlarını kendisi verecek makinalar. Kısacası henüz oldukça ilkel de olsa ilk Terminator'larımızı yaratmak üzereyiz. Ve cin şişeden bir kere çıktı mı, onu yerine koymak pek mümkün olmayabilir.

Burada bahsettiğim robotların insan zekasını geçmesi değil. Bu yakın zamanda pek mümkün olmayabilir. Ama burada bahsi geçen kendi kendine karar verebilen, öngörülemeyen hareketlerde bulunabilecek, vicdan muhasebesi yapması mümkün olmayan ve maalesef zaman zaman da yanlış karar verebilecek makinalar. Bu katil robotlar kendi hedeflerini kendisi seçecek ve bir insan kararı olmadan tetiğe basacaklar.

Geçtiğimiz Temmuz ayında Buenos Aires'te gerçekleşen Uluslararası Yapay Zeka Konferansı IJCAI 2015'te bir araya gelen uzmanlar bir açık mektup yayınladılar. Birleşmiş Milletler'e bir çağrı niteliği taşıyan mektupta kısaca şu düşünceler dile getiriliyor; Otonom silahlar (katil robotlar) savaş sahnesinde barut ve nükleer silahlardan sonraki üçüncü devrim olacak. Yapay zeka konusunda geldiğimiz nokta, bu silahların on yıllar değil, sadece birkaç yıl içinde gerçeğe dönüşeceğini göstermektedir.

Burada kilit soru şu: Devletler yepyeni bir teknolojik silahlanma yarışına mı girecektir, yoksa bu yarış hiç başlamadan buna dur mu diyecektir? Katil robotlar konusunda önemli bir nokta, nükleerden farklı olarak, bu teknolojinin çok pahalı olmamasıdır. Her geçen gün ucuzlayan teknoloji sayesinde, isteyen her devlet bu teknolojiye kolayca sahip olabilecek, hatta karaborsaya düşmesi, terörist grupların veya dikta rejimlerin eline geçmesi oldukça kolay olacaktır.

Mektup şöyle sona eriyor: "Pek çok kimyager ve biyolog nasıl kimyasal veya biyolojik silah üretmek istemiyorsa, biz yapay zeka uzmanları da otonom silahlar üretmek istemiyoruz. Yapay zeka insanlığa pek çok anlamda ciddi katkıda bulunabilir. Ama bu yeni teknolojiyle bir silahlanma yarışına girmek çok kötü bir fikir ve uluslararası bir kararla yasaklanmalı."

Temmuz ayında yayınlanan bu açık mektubun altında dünyanın sayılı Yapay Zeka uzmanının yanı sıra, çok yakından tanıdığımız isimlerin de imzası var; bu konudaki endişelerini sık sık dile getiren Tesla Motors'un sahibi Elon Musk ve ünlü fizikçi Stephen Hawking'inle beraber, Apple'ın yaratıcılarından Steve Wozniak, Skype'ın yaratcılarından Jaan Tallinn, ünlü filozof, iletişimci Naom Chomsky bu isimlerden bazıları. Şu ana kadar 20binin üzerinde imza atılmış ve sizin de bu konuda endişeleriniz ve devletlere çağrınız varsa, bu kampanyaya http://futureoflife.org/ai-open-letter/

Geçtiğimiz hafta Birleşmiş Milletler'de bir araya gelen Yapay Zeka uzmanları ve aktivistler konunun ciddiyetine vurgu yapıp, Otonom Silahların yasaklanması konusundaki çağrılarını yinelediler.

Bu ay içinde Birleşmiş Milletler Konvansiyonel Silahların Ticareti Anlaşması için bir kez daha Cenevre'de toplanacak. Açık mektupta imzası bulunan uzmanlar bu toplantıda "Otonom Silahlar"a karşı yasak fikrinin güçlüce dile getirilmesi ve kabul edilmesi umudu taşınıyor.

{$ item.Title $}
{$ item.Title $} © {$ item.Files[0].Sources[0] $}
{$ item.Title $}
ilgili haberler
 
LG
MD
SM
XS