OpenAI tarafından inşa edilen bir yapay zeka ajanı, Avustralya’nın sağlık sistemi Medicare’i hackledi.
Ajan, Medicare istatistik raporlama hizmet portalında hem kamuya açık hem de kamuya açık olmayan dosyalara yetkisiz erişim kazandı. Yapay zeka ajanı ayrıca Avustralya Sağlık ve Refah Enstitüsü, Victoria Sağlık Bakanlığı ve Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu'na da erişti.
Guardian'da yer alan habere göre bu aşamada hiçbir kişisel tıbbi bilginin ele geçirilmediğine inanılsa da soruşturmalar devam ediyor.
3 AY SONRA E-POSTA GÖNDERİLDİ
Avustralya hükümeti söz konusu sızmayı üç ay sonra öğrendi.
OpenAI, sızmadan üç ay sonra Avustralya hükümetine e-posta gönderdi.
Avustralya Başbakanı Anthony Albanese, “Şirketin hükümete ne olduğunu bildirmesi çok uzun sürdü ve bu bildirimin de gerçekleşme şeklinin doğası kabul edilemezdi” dedi.
AI ajanı nedir?
Yapay zeka ajanı, mevcut tüm araçları kullanarak sorunları özerk olarak çözen, karar veren, planlar yapan ve karmaşık görevleri başka bir kullanıcı veya sistem adına gerçekleştiren bir sistemdir.
"ŞİRKETİN HESAP VERMESİ GEREKİYOR"
OpenAI sözcüsü, “Modellerimiz katılmadığımız eylemleri aldı” dedi. Sözcü “Hasta kayıtlarına erişildiğine dair bir kanıt yoktu. Genel incelememiz devam ediyor ve bu konular hakkında şeffaflığa ve bu çalışma devam ederken öğrendiklerimizi paylaşmaya kararlıyız” dedi.
UNSW (University of New South Wales) AI Enstitüsü’nün baş bilim insanı Prof. Toby Walsh, Avustralya’nın OpenAI’ı kovuşturması gerektiğine inandığını söyledi.
“Bu şirketin memurlarının hesap vermesi gerekiyor. Bu hackler kolayca durdurulabilirdi" diyen Walsh söz konusu olayın bir insan tarafından yapılması halinde bu kişinin yargılanacağını belirtti.
Sydney Üniversitesi’nde kıdemli araştırma görevlisi olan Dr. Rob Nicholls, Avustralya’yı ihlal hakkında bilgilendirmedeki üç aylık gecikmenin Avustralya yasalarının etkisizliğini ortaya çıkardığını söyledi.
Nicholls, şunları söyledi:
“Bir AI ajanı bir devlet Medicare sistemine girdi ve kamuya açık olmayan dosyalara yardım etti. OpenAI bize söylemeden önce üç ay boyunca oturdu. Eğer bir kişi bunu yapsaydı, hackleme derdik. Bir AI ajanı olduğu gerçeği, daha az ciddi hale getirmez."
