Matematikçi I. J. Good'un 60 yıl önce ortaya attığı soru bugün hala güncel değil mi? Makineler bizden daha "zeki" hale gelirse, onları denetleyecek kadar "akıllı" davranabilecek miyiz?
Akıllı ev ve otomobillerin uzaktan kontrol edilebilmesi, akıllı aletlerin kamera ve sensörlerinin kötüye kullanılması, yapay zekanın yazılımlardaki güvenlik açıklarını tespit edebilir hale gelmesi...
Bilimkurgu senaryolarından fırlamış gibi duran bu ihtimaller son günlerde güvenlik uzmanlarının gündeminde.
Geçen hafta TUSAŞ Motor Sanayii (TEI) Genel Müdürü Mahmut Faruk Akşit, ASELSAN, ROKETSAN, HAVELSAN ve TEI kampüslerine güvenlik nedeniyle yabancı elektrikli araçların alınmadığını açıkladı.
İnternete bağlanan her cihaz, sağladığı kolaylıkların yanında yeni yeni güvenlik risklerini de beraberinde getiriyor. Geçen hafta yaşanan "PHP krizi" de bu kaygıları yazılım yönünden tetikledi.
Anthropic'in bilgi güvenliği sorumlusu Jason D. Clinton, ağustos ayında kritik altyapıları etkileyebilecek bir “güvenlik açığı tsunamisi” konusunda attığı X paylaşımını alıntılayarak tsunaminin başladığına işaret etti ve "yaklaşık 18 ay dayanmamız gerekiyor" dedi.
Clinton'un tahminine göre 18 ay boyunca "PHP krizi" benzeri çokça gelişme yaşanacak.
* * *
Matematikçi Irving John (I. J.) Good, bundan 60 yıl önce yayımladığı "İlk Üstün Zekalı Makine Üzerine Spekülasyonlar" başlıklı makalesinde şunları yazmıştı:
"Ultra zekalı bir makineyi, ne kadar zeki olursa olsun herhangi bir insanın bütün zihinsel faaliyetlerini çok büyük ölçüde aşabilen bir makine olarak tanımlayalım. Makinelerin tasarımı da bu zihinsel faaliyetlerden biri olduğuna göre, ultra zekalı bir makine kendisinden daha iyi makineler tasarlayabilir. Böylece kuşkusuz bir 'zeka patlaması' yaşanır ve insan zekası çok geride kalır. Dolayısıyla ilk ultra zekalı makine, bize onu nasıl denetim altında tutacağımızı söyleyecek kadar uysal olması koşuluyla, insanın yapacağı son icat olabilir. Bu meselenin bilim kurgu dışında bu kadar az dile getirilmesi ilginçtir. Bazen bilim kurguyu ciddiye almakta fayda vardır."
Good 1965 yılında, "insanın hayatta kalması, ultra-zeki bir makinenin erken inşasına bağlıdır" görüşündeydi. Ona göre uysal ve ultra zekalı makine insanlığa hizmet edecekti.
1998'de kaleme aldığı yayımlanmamış otobiyografik notunda ise I. J. Good, 1965'te söylediği sözdeki "hayatta kalma" kelimesinin "yok oluş" kelimesiyle değiş tokuş edilmesini öneriyordu, "uluslararası rekabet nedeniyle makinelerin kontrolü ele geçirmesini engelleyemeyiz" fikrine varmıştı. 2009 yılında hayatını kaybetti.
Neyse ki henüz uysalını da uysal olmayanını da tanımlayabileceğimiz bir ultra zekalı makinemiz yok. Şimdilik...
I. J. Good'un iki öngörüsünden hangisinin doğru çıkacağını tarih gösterecek.
Evet, yapay zeka bir gün bizden daha zeki hale gelebilir. Umarız biz de o güne kadar, bir şeyi yapabiliyor olmanın, onu illa yapmamız gerektiği anlamına gelmediğini öğrenecek kadar akıllanırız.
Nasıl mı?
Teknolojinin neler yapabileceğini keşfetmek kadar, neleri yapmaması gerektiğine de karar vererek. Üstelik bunu makineler bizden daha hızlı düşünmeye başlamadan önce... Ve hala karar verebiliyorken...
Sinan Acıoğlu
babaocagi.com.tr
