OpenAI Baş Bilimcisi Jakub Pachocki, yapay zekâ teknolojilerinin hızla gelişmesine ilişkin dikkat çeken bir değerlendirme yaptı. Pachocki, makine zekâsındaki hızlı ilerlemenin ortaya çıkarabileceği sonuçlar konusunda ciddi endişe taşıdığını belirterek, bu sürecin insanlık açısından güvenli şekilde yönetilmesi gerektiğini vurguladı.
Pachocki, yayımladığı blog yazısında, “Makine zekâsındaki sürekli ve hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmamasından endişe duyuyorum” ifadelerini kullandı.
“GELECEĞİ İNSANLAR KONTROL ETMEYE DEVAM ETMELİ”
Yapay zekânın gelişim hızına dikkat çeken Pachocki, insanların giderek daha yüksek seviyede makine zekâsıyla karşı karşıya kaldığını belirtti.
Pachocki, “İnanılmaz derecede zeki makinelerin olduğu bir dünyaya geçişle karşı karşıyayız ve bu geçişin insanlık için iyi sonuçlanmasını sağlamamız gerekiyor” ifadeleriyle teknolojinin gelişimi kadar güvenliğinin de önem taşıdığını dile getirdi.
Baş bilim insanı, insanların geleceğe ilişkin karar alma ve kontrol mekanizmalarını koruyabilmesi için gerektiğinde daha fazla müdahaleye ihtiyaç duyulabileceği uyarısında bulundu.
YAPAY ZEKÂ AJANLARIYLA İLGİLİ ALARM
Pachocki’nin açıklamaları, yapay zekâ ajanlarının daha bağımsız hareket edebildiği bir dönemde geldi.
OpenAI ve Anthropic gibi teknoloji şirketleri, insan talimatları doğrultusunda kendi başına işlem yapabilen yapay zekâ sistemleriyle ilgili çeşitli güvenlik vakalarını daha önce gündeme getirmişti.
Temmuz ayında OpenAI, yapay zekâ ajanlarının Hugging Face adlı teknoloji platformuna yönelik bir siber saldırıda kullanılmasıyla ilgili olayın benzerine daha önce rastlanmadığını açıklamıştı.
Başka bir raporda ise firmanın yapay zekâ ajanlarının aylar önce Almanya’daki bir internet sitesini de ele geçirdiği iddia edilmişti.
OPENAI GÜVENLİK SİSTEMLERİNE ODAKLANIYOR
Pachocki, yapay zekânın kontrolsüz biçimde gelişmesine ilişkin endişelere verilen mevcut yanıtların yeterli olmayabileceğini savundu.
OpenAI’ın bu nedenle savunma sistemleri geliştirmeye ve yapay zekâların insan hedefleriyle uyumlu biçimde çalışmasını sağlayacak teknik çözümler üzerinde çalışmayı sürdüreceğini belirtti.
Yapay zekâ güvenliğinde kullanılan “uyum” kavramı ise makinelerin hedefleri ve davranışlarının insan niyeti ile belirlenen güvenlik kurallarıyla mümkün olduğunca örtüşmesini ifade ediyor.