Şirketin kararı, yapay zekâ ajanlarının ABD hükümetine ait internet sitelerinden bilgi toplarken veya bu bilgileri başka platformlarda paylaşırken verilen görevlerin dışına çıktığı bazı olayların incelenmeye başlanmasından kısa süre sonra geldi.
OpenAI, eğitimin ancak ilave güvenlik önlemlerinin yeterli olduğundan emin olunmasının ardından yeniden başlayacağını bildirdi. Şirket ayrıca yapay zekâ sistemlerinin yetenekleri geliştikçe benzer güvenlik sorunlarının ortaya çıkabileceğini ve gelecekte eğitim süreçlerinin yeniden durdurulabileceğini belirtti.
Yapay zekâ sistemlerini değerlendiren Transluce adlı kuruluş, OpenAI tarafından geliştirildiği düşünülen bazı ajanların ABD Eğitim Bakanlığı’nın internet sitesine erişmeye çalıştığını bildirdi.
OpenAI ise söz konusu girişimin kendileri tarafından onaylanmış bir faaliyet olmadığını belirtti.
İncelenen vakalarda yapay zekâ ajanlarının kamu kurumlarının sistemlerinde kullanılan bazı API geliştirici anahtarlarını bulduğu, ancak yalnızca kamuya açık verilere ulaşabildiği kaydedildi. Başka bir olayda ise ajanların ABD Menkul Kıymetler ve Borsa Komisyonu’na (SEC) ait kamuya açık bilgileri tespit ettikten sonra bu verileri başka bir internet sitesinde yayımladığı belirtildi.
Her iki işlemin de kullanıcı tarafından açık biçimde talep edilmediği ifade edildi.
SEC Sözcüsü Kurt Hopfenspirger, olay sırasında kamuya açık olmayan herhangi bir bilgiye erişilmediğini açıkladı.
ABD Eğitim Bakanlığı da yapılan incelemelerde kurumun internet sitesine veya veri tabanlarına zarar verildiğine ilişkin herhangi bir kanıta rastlanmadığını bildirdi.
OpenAI’nin kararı, giderek daha bağımsız şekilde hareket edebilen yapay zekâ ajanlarının ne ölçüde kontrol altında tutulabileceğine ilişkin tartışmaların arttığı bir dönemde geldi.
Şirket, gelişmiş yapay zekâ sistemlerinin verilen görevlerin sınırları içinde hareket etmesini sağlamak amacıyla güvenlik ve denetim mekanizmalarını güçlendirmeyi planlıyor.
