Yapay zekâ alanında son dönemde hız kazanan teknolojik gelişmeler, güvenlik ve denetim tartışmalarını da büyüttü. Anthropic CEO’su Dario Amodei’nin gelişmiş yapay zekâ modellerinin geliştirilme hızının düşürülmesi çağrısının ardından sektörün önde gelen isimlerinden peş peşe açıklamalar geldi.
OpenAI CEO’su Sam Altman da San Francisco’da düzenlenen Salesforce konferansında yapay zekânın oluşturabileceği risklere ilişkin dikkat çeken değerlendirmelerde bulundu.
ALTMAN: “DÜNYA KORKMAKTA HAKLI”
Altman, yapay zekânın hızla gelişen yeteneklerinin oluşturduğu risklere ilişkin, “Bunun ne kadar yanlış gidebileceğini hayal etmek artık eskisi kadar zor değil. Bence dünya bundan korkmakta haklı” ifadelerini kullandı.
Bununla birlikte yapay zekâ şirketlerinin teknolojiyi güvenli şekilde geliştirebileceğine inandığını belirten Altman, kamuoyunun sektöre güvenmesi gerektiğini savundu.
Altman, “Dünya, doğru olanı yapacağımız konusunda bize güvenmeli. Çünkü bunun büyüklüğünün farkındayız” dedi.
OpenAI CEO’su ayrıca güvenlik çalışmalarının yapay zekânın gelişen kabiliyetlerinin gerisinde kalmasına izin vermeyeceklerini, bunu sağlayamamaları halinde ise geliştirme hızını düşüreceklerini veya çalışmaları durduracaklarını söyledi.
TARTIŞMAYI AMODEI BAŞLATTI
Sektördeki yeni tartışmanın fitilini Anthropic CEO’su Dario Amodei’nin hafta sonu yayımladığı yazı ateşledi.
Amodei, yapay zekâ şirketlerine en gelişmiş modellerin yeteneklerinin artış hızını düşürme çağrısında bulundu. Güvenlik önlemlerinin teknolojik gelişmelerin gerisinde kalmaması gerektiğini belirten Amodei; bağımsız güvenlik değerlendiricilerinin devreye alınmasını, önde gelen şirketler arasında ortak güvenlik standartları oluşturulmasını ve risklerin azaltılması için uluslararası iş birliği yapılmasını önerdi.
Bu çağrı, normalde yapay zekâ yarışında birbirleriyle rekabet eden bazı önemli isimlerden de destek gördü.
Google DeepMind CEO’su Demis Hassabis ile Elon Musk, Amodei’nin yaklaşımına destek verirken Musk, “Dario haklı” ifadesini kullandı.
TRUMP’TAN SERT TEPKİ
Teknoloji sektöründeki güvenlik çağrılarına karşı çıkan isimlerden biri ise ABD Başkanı Donald Trump oldu.
Trump, yapay zekânın dünyayı ele geçirerek insanlığı yok edebileceğine ilişkin endişeleri “aldatmaca” olarak nitelendirdi. Yapay zekâ ve veri merkezlerine karşı “hasta bir komplo” yürütüldüğünü öne süren Trump, yeni kısıtlamaların ABD’nin Çin karşısındaki rekabet gücünü zayıflatabileceğini savundu.
Trump, “Yapay zekâyı kim kazanırsa, kazanır” derken yeni güvenlik düzenlemelerine ihtiyaç olmadığını ve mevcut cezai ve düzenleyici yetkilerin yeterli olduğunu ileri sürdü.
NVIDIA CEO’SU DA YENİ DÜZENLEME İSTEMİYOR
Nvidia CEO’su Jensen Huang da yapay zekâ geliştirme sürecinin yavaşlatılmasına karşı çıkan isimler arasında yer aldı.
Huang, “Yeni yasalara veya düzenlemelere ihtiyacımız yok” diyerek yapay zekâ güvenliğinin esas olarak bir mühendislik problemi olduğunu savundu.
Şirketlerin mümkün olduğunca hızlı ilerlemesi gerektiğini söyleyen Huang, kendi geliştirdiği sistem üzerinde kontrolünü kaybettiğini değerlendiren şirketlerin ise ürünü piyasaya sürmemesi gerektiğini belirtti.
ŞİRKETLER KENDİ KENDİNİ DENETLEYEBİLECEK Mİ?
Tartışmanın önemli başlıklarından biri de yapay zekâ şirketlerinin kendi güvenlik kurallarını belirlemesinin yeterli olup olmayacağı oldu.
Sam Altman, şirketlerin güvenlik konusunda büyük ölçüde kendi kendilerini denetleyebileceğini savunurken, Anthropic’in kurucularından Jack Clark, yapay zekânın tamamen düzenlenmemiş bir sektör olarak bırakılmasının çok büyük riskler anlamına geldiğini söyledi.
ABD Senatörü Bernie Sanders ise yapay zekânın geleceğine ilişkin kararların Elon Musk, Meta CEO’su Mark Zuckerberg ve Amazon’un kurucusu Jeff Bezos gibi dünyanın en zengin isimlerinin elinde olmaması gerektiğini savundu.
Sanders, “Yapay zekâ konusunda kararları bu ülkenin halkı vermeli, yalnızca bir avuç oligark değil” ifadelerini kullandı.
Trump’ın eski başstratejisti Steve Bannon da teknoloji şirketlerinin kendi kendilerini denetlemesine karşı çıktı.
ZUCKERBERG’DEN FARKLI GÖRÜŞ
Meta CEO’su Mark Zuckerberg ise yapay zekâ laboratuvarlarının güvenliği sağlamak için hem gerekli imkanlara hem de ekonomik teşviklere sahip olduğunu savundu.
Zuckerberg, güvenliğe yeterince önem vermeyen şirketlerin zamanla geride kalacağını ileri sürdü.
Böylece yapay zekânın geleceği konusunda teknoloji dünyasında bir yanda geliştirme hızının düşürülmesini ve daha güçlü denetim mekanizmalarını savunanlar, diğer yanda mevcut sistemlerin yeterli olduğunu düşünenler arasında tartışma daha da büyüdü.
