OpenAI, yapay zekâ modellerinin yeteneklerini ölçmek amacıyla yapılan iki ayrı siber güvenlik testinde beklenmedik olaylar yaşandığını açıkladı.
Şirketin verdiği bilgilere göre bazı modeller, test için belirlenen sınırların dışına çıkarak gerçek internet hizmetlerine erişti.
İlk olay, Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü tarafından yürütülen bir değerlendirme sırasında meydana geldi. İnternet bağlantısı açık olan model, kendisi için hazırlanan deneme ortamına ulaşmaya çalışırken test kapsamı dışındaki gerçek internet hizmetleriyle bağlantı kurdu.
İkinci olay ise OpenAI’ın bağımsız test ortaklarından Irregular tarafından yapılan çalışma sırasında yaşandı.
Test sistemindeki yanlış bir ayar nedeniyle yapay zekâ modeli internete erişebildi. Deneme için kullanılan adresin gerçek bir internet alan adıyla aynı olması üzerine model, gerçek siteyi test ortamının bir parçası sandı.
Model daha sonra söz konusu internet sitesinde bulunan basit bir güvenlik açığından yararlandı.
OpenAI, iki olayın daha önce açıklanan Hugging Face vakasından ayrı olduğunu belirtti.
Şirket, yaklaşık iki hafta önce gerçekleştirdiği başka bir güvenlik testinde de yapay zekâ modellerinden birinin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurmuştu.
Yaşanan olaylar, gelişmiş yapay zekâ modellerinin internet erişimi açık şekilde test edilmesi sırasında daha sıkı güvenlik önlemlerine ihtiyaç duyulduğunu yeniden gündeme getirdi.