Yapay zekâ sektöründeki rekabet, bu kez sektörün içinden gelen sert bir istifayla gündeme geldi. Daha önce OpenAI’da, son üç yıldır ise Claude’un geliştiricisi Anthropic’te çalışan Jacob Coxon, yapay zekâ şirketlerinin giderek hızlanan rekabetinin ciddi riskler taşıdığını belirterek görevinden ayrıldığını açıkladı.
Coxon, bundan sonra yapay zekâ sektöründe çalışmak istemediğini belirterek şirketlerin giderek daha güçlü ve kendi kendini geliştirebilen sistemleri ilk geliştiren taraf olmak için yarıştığını savundu.
“SEKTÖRDEKİ İNSANLAR TEHLİKENİN FARKINDA”
Coxon’a göre gelişmiş yapay zekâ sistemleri gelecekte yalnızca mevcut görevleri yerine getiren araçlar olmaktan çıkabilir. Araştırmacı, bu sistemlerin bilgisayar ağlarını hackleyebilmesi, farklı alanlarda çok hızlı ilerleme sağlayabilmesi ve giderek insanlardan daha güçlü hale gelmesi ihtimaline dikkat çekti.
Daha da çarpıcı olan ise Coxon’ın, sektörde çalışan bazı araştırmacı ve yöneticilerin bu risklerin farkında olduğunu öne sürmesi oldu.
Coxon, birçok kişinin gelişmiş yapay zekânın önümüzdeki yıllarda insanlık için varoluşsal bir tehdit oluşturabileceğine inandığını ancak şirketlerin rakiplerinin gerisinde kalmamak için bu yarıştan çekilmediğini savundu.
“BAŞKALARI YAPACAKSA BİZ DE YAPMALIYIZ” MANTIĞINA TEPKİ
OpenAI ve Anthropic arasında güvenlik yaklaşımı açısından fark bulunduğunu belirten Coxon, buna rağmen iki şirketin de aynı rekabet baskısının içinde olduğunu söyledi.
Coxon’a göre Anthropic’te yapay zekânın oluşturabileceği tehlikeler daha fazla dikkate alınıyor. Ancak şirketler, rakipleri daha ileri gitmeden önce kendilerinin daha güvenli bir sistem geliştirmesi gerektiği düşüncesiyle yarıştan çıkmıyor.
Araştırmacı, bunun tehlikeli bir kısır döngü yarattığını savunuyor. Bir şirket yavaşladığında diğerinin öne geçeceği düşüncesinin tarafları daha hızlı hareket etmeye zorladığını belirten Coxon, bu nedenle sürecin yalnızca özel şirketlerin kararlarına bırakılmaması gerektiğini ifade etti.
Coxon, devletlerin ortak hareket etmesi ve gerektiğinde yapay zekâ modellerinin geliştirilmesinin geçici olarak yavaşlatılması gerektiğini savundu.
YAPAY ZEKÂ ŞİRKETLERİNİ KARŞI KARŞIYA GETİREN MATEMATİK YARIŞI
Coxon’ın açıklamaları, OpenAI ile Anthropic arasında yaşanan başka bir tartışmanın hemen ardından geldi.
OpenAI’nin onlarca yıldır çözülemeyen Navier-Stokes matematik problemine yönelik çözüm geliştirdiğini açıklaması büyük yankı uyandırdı. Ancak kısa süre sonra, New York Üniversitesi’nden matematikçi Tristan Buckmaster ile Anthropic araştırmacısı Levent Alpöge’nin de aynı problem üzerinde çalıştıkları ortaya çıktı.
Buckmaster, OpenAI’nin kendi araştırmalarından haberdar olduğunu ve sonrasında benzer bir yönde ilerleyerek yüksek miktarda hesaplama gücü kullandığını öne sürdü.
“ÖZEL ÇALIŞMALARIMIZA ERİŞİLDİ Mİ?” SORUSU
Tartışmanın merkezinde araştırmacıların çalışmalarını OpenAI’nin Codex sistemi üzerinden yürütmüş olması da yer aldı.
Buckmaster, çalışmalarının özel Codex oturumlarında bulunduğunu belirterek OpenAI’ye bu oturumlara veya araştırmalara erişilip erişilmediğini sordu.
OpenAI ise araştırmacıların özel çalışmalarına ya da verilerine erişmediğini savundu. Şirket, kendi çözümüne Anthropic araştırmacılarının çalışmaları kamuoyuna açıklanmadan önce ulaşmadığını belirtti. Bununla birlikte, ürünlerin kullanımından elde edilen anonim verilerin modellerin geliştirilmesine dolaylı katkıda bulunmuş olabileceği ihtimalini tamamen dışlamadı.
OpenAI ayrıca geliştirdiği çözümün diğer araştırmacıların çalışmasından farklı olduğunu savundu.
10 BİN YAPAY ZEKÂ AJANIYLA ÇALIŞMA
OpenAI’nin açıklamasına göre şirket, 1 Eylül’de iki büyük matematik probleminin çözüldüğüne ilişkin bir söylenti aldıktan sonra çalışmaya başladı.
Yaklaşık 10 bin yapay zekâ ajanının kullanıldığı belirtilen çalışma sonucunda şirket, Navier-Stokes problemi için bir çözüm geliştirdiğini duyurdu.
Bu gelişme, OpenAI’nin Anthropic araştırmacılarının özel çalışmalarından yararlanıp yararlanmadığı tartışmasını da beraberinde getirdi. Ancak şu aşamada böyle bir erişimi kanıtlayan kesin bir delil bulunmadığı belirtildi.
COXON’IN UYARISI YENİDEN GÜNDEMDE
Matematik tartışması, Coxon’ın yapay zekâ şirketleri arasındaki rekabete ilişkin eleştirilerini de yeniden gündeme taşıdı.
Coxon’a göre bugün bir matematik problemini çözmek için kullanılan yapay zekâ sistemleri, gelecekte çok daha geniş yeteneklere sahip olabilir. Bu nedenle gelişmiş yapay zekâ yarışının “nasıl olsa herkes yapacak” düşüncesiyle hızlandırılmaması gerektiğini savunuyor.
Araştırmacının çağrısı ise şirketler arasındaki yarışın daha sıkı kurallarla denetlenmesi yönünde. Coxon, devletlerin ortak hareket etmesi, şirketlerin güvenlik konusunda birlikte çalışması ve gerektiğinde yapay zekâ geliştirme sürecinin hızının düşürülmesi gerektiğini düşünüyor.
