Coxon, ABD merkezli Wired sitesine verdiği mülakatta istifa kararını ve yapay zeka konusunu değerlendirdi.
Gelecek 1-2 yılın insanlık için "dönüm noktası" olduğunun düşünüldüğünü belirten Coxon, "Bunlar, Anthropic'teki çalışma arkadaşlarımın sözleriydi. 'Son oyun' ya da 'dönüm noktası' gibi ifadeler kullanıyorlar. Onların bakış açısına göre bu, Anthropic ve rakiplerinin insanlığın kaderine karar vereceği zamanı ifade ediyor." dedi.
Coxon, tedbir olarak OpenAI ve Anthropic'in, yapay zekânın otonom olarak yeni sistemler üretmesini kısıtlamak gerektiğini, gelecekte ABD ve Çin dâhil uluslararası güçlerin işbirliğinin şart olduğunu ifade ederek, "Uyum süreci ters giderse gelecek birkaç yılda (durum) felaketle sonuçlanabilir. Belki iyi ilerler ve bir çeşit yavaşlama anlaşması olur ancak buna gelecek yıllarda karar verileceği aşikar." değerlendirmesinde bulundu.
Yapay zekâyla ilgili güvenlik endişelerinin eskiden bilim kurguda yer aldığına ancak son zamanlarda gerçekleşmeye başladığına işaret eden Coxon, bu teknolojinin insan müdahalesi olmadan "hackleme" gibi kararlar aldığına dikkat çekti.
Coxon, "Yapay zeka modellerini eğittiğimizde onları bazı eğitim ortamlarından geçiriyoruz ve en sonunda makul davranmalarını umuyoruz ancak yine de yapay zekanın davranışını tam olarak kontrol edemiyoruz." ifadesini kullanarak, bunun, bir insanı taklit etmemesini sağlayamadıklarını vurguladı.
"Yapay zeka ile insan zekası arasındaki fark, insanın maymunla arasındaki zeka farkı kadar ki bu da büyük bir oran." diyen Coxon, sosyal medya hesabından daha önce yaptığı "insanlığın sonunun geleceğine" ilişkin açıklamasını değerlendirdi.
"Bu kadar zeki bir varlık için herkesi öldürmek çok basit olur." yorumunu yapan Coxon, kapatılmak istemeyen yapay zekânın insanı durdurmak için bazı adımlar bulmaya çalışacağını ve "insanlığın sonunu getirmeyi" de değerlendirebileceğini vurguladı.
Öte yandan Anthropic'ten Wired'a konuya ilişkin yapılan açıklamada, "Yapay zekanın hem devasa fayda hem de eşsiz risklere yol açacağı konusunda her zaman açık sözlüydük." ifadesi kullanıldı.
Açıklamada, şirketin yapay zeka güvenlik tedbirleri üzerine çalışmaları olduğu ve bu çalışmaların "güçlü modeller hizmete sunuldukça" yasal şekilde ortak çalışmalara faydalı olacağı savunuldu.
Coxon, CNN'e yaptığı açıklamada, Hugging Face gibi bazı yapay zeka geliştirme platformlarının kendi başlarına "hackleme" yaptığını vurgulayarak, "Bence bu yapay zekaların kabiliyetini, geleceğe yönelik genelleştirirsek aynı bağımsız iradeyle aşırı derecede büyük bir karmaşaya yol açabileceği söylenebilir. Örneğin, kritik altyapılar hacklenebilir ya da insanları yok edecek düzeyde biyolojik silahlar inşa edilebilir." dedi.
Birkaç yıl önce yapay zekanın yalnızca insanlara yardımcı olan bir sistem olduğuna ancak kısa süre sonra, "belki de bir yıl içinde" bazı alanlarda araştırmalar için insanlara ihtiyaç duyulmamasına yol açabileceğine dikkati çeken Coxon, mevcut yapay zeka modelleri risk teşkil etmese de bu sistemlerin gelişme hızının endişe verici olduğunun altını çizdi.
Amerikan Time dergisine konuşan Coxon, yapay zeka teknolojisi için yaptığı çalışmalardan pişmanlık duyduğunu ifade ederek, "Sanırım tüm bunların (gelişmelerin) kötüye gitme ihtimali olduğunu duygusal olarak içselleştirmek biraz zaman alıyor." dedi.
Anthropic'ten istifa etmeden önce çalışma arkadaşlarıyla yapay zeka sektörünün büyük riskler taşıdığı konusunda fikir birliğine vardıklarını aktaran Coxon, çalışanların, "bu sektördeki yarışı kabullenerek duruma boyun eğdiği, çalışmalarını güvenilir yapmak için çabaladıkları" değerlendirmesinde bulundu.
Coxon, bu endişelerin Anthropic'te daha çok dile getirildiğini ancak OpenAI'da insanların "ya parayı önemsediğini ya da riskleri düşünmediğini" savundu.
