Yapay zekânın öncü isimlerinden, Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, teknolojinin kontrolsüz gelişmesinin insanlık açısından ciddi sonuçlar doğurabileceğine dikkat çekti. Yaklaşık 44 yıldır yapay zekâ üzerine çalışan Hinton, bu yılın sonlarında veya 2027'de yapay zekâ kaynaklı büyük çaplı bir olay yaşanabileceğini belirtti.
Hinton, böyle bir gelişmenin elektrik üretim sisteminde geniş çaplı kesintilere ya da finans sisteminin bir hafta boyunca çökmesine yol açabileceği uyarısını yaptı. Bilim insanı, yapay zekânın sunduğu büyük imkânları kabul etmekle birlikte teknolojinin geliştirilme biçimine ilişkin endişelerini de dile getirdi.
“BELKİ DE YAPAY ZEKÂYI HİÇ GELİŞTİRMEMEMİZ DAHA İYİ OLURDU”
Yapay zekânın babalarından biri olarak kabul edilen Hinton, teknolojinin insanlık için harika bir gelecek yaratma potansiyeli bulunduğunu ancak risklerin de göz ardı edilmemesi gerektiğini söyledi.
Hinton, “Belki de onu hiç geliştirmememiz daha iyi olurdu” ifadelerini kullandı.
Bilim insanı, kendisini yapay zekâ konusunda yalnızca felaket senaryoları üreten biri olarak görmediğini belirtirken, teknolojinin kontrolsüz ilerlemesinin ciddi tehlikeler yaratabileceğine dikkat çekti.
“ÇERNOBİL BENZERİ BİR OLAY YAŞANABİLİR”
Hinton, olası tehlikenin zamanlamasına ilişkin değerlendirmesinde şu uyarıda bulundu:
“Ya bu yılın sonlarında ya da gelecek yıl Çernobil'i göreceğiz ve bu, insanların gerçekten dikkat etmesi için yeterli olabilir.”
Hinton'ın sözünü ettiği Çernobil benzetmesinin nükleer bir felakete işaret etmediği belirtildi. Bilim insanı, yapay zekâ destekli bir saldırının elektrik üretim sisteminde büyük çaplı kesintiye yol açabileceğini veya finans sistemini bir hafta boyunca işlemez hale getirebileceğini ifade etti.
“SAM ALTMAN'A HİÇ GÜVENMİYORUM”
Hinton, yapay zekâ şirketlerinin giderek daha güçlü modeller geliştirmek için yürüttüğü rekabete de tepki gösterdi. Özellikle şirket yöneticilerinin güvenlik risklerini dikkate almadan hareket etmesinden endişe duyduğunu belirten Hinton, OpenAI CEO'su Sam Altman'a güvenmediğini söyledi.
Hinton, Elon Musk ve Sam Altman hakkında şu ifadeleri kullandı:
“Musk ve Sam Altman risklerin farkındalar ve umursamıyorlar. Parayı almayı tercih ediyorlar. Benim inancım bu.”
Altman'ın en güçlü yapay zekâyı geliştirmek için Çin ile yarışan öncü şirketlerden birinin başında bulunmasını da “son derece endişe verici” olarak değerlendirdi.
YAPAY ZEKÂ UYARILARIYLA GOOGLE'DAN AYRILMIŞTI
Yaklaşık 44 yıldır yapay zekâ alanında çalışmalar yürüten Hinton, 1970'lerde insanlar gibi öğrenebilen ve deneyim kazanabilen matematiksel sistemler olan sinir ağları üzerine öncü çalışmalar gerçekleştirdi.
2023 yılında yapay zekânın riskleri hakkında daha özgür konuşabilmek amacıyla Google'daki görevinden ayrılan Hinton, daha önce de sistemlerin kontrolü ele geçirme ihtimaline karşı uyarılarda bulunmuştu.
Hinton, “Eğer bu sistemler daha fazla kontrol elde etme konusunda aşırıya kaçarlarsa, başımız dertte demektir” değerlendirmesini yapmıştı.
