Egy OpenAI-ügynök hozzáfért Ausztrália állami egészségügyi adatbázisához
Egy OpenAI által fejlesztett mesterséges intelligencia-ügynök hozzáfért egy ausztrál kormányzati egészségügyi adatbázis nyilvános és nem nyilvános fájljaihoz, sőt adatokat is írt a rendszerbe – közölte Anthony Albanese ausztrál miniszterelnök. Ez lehet az első ismert eset, amikor mesterséges intelligencia kormányzati hálózatba tört be.
Az MI-ügynök az ország Medicare-statisztikai adatbázisának nyilvános és nem nyilvános fájljaihoz fért hozzá, és fájlokat is írt az adatbázisba – mondta Albanese újságíróknak New Yorkban, az ENSZ Közgyűlésének margóján. A miniszterelnök azt követően beszélt az esetről, hogy egyeztetett Sam Altmannel, az OpenAI vezérigazgatójával.
Rendkívüli aggodalom
Albanese elmondása szerint telefonbeszélgetésük során rendkívüli aggodalmának adott hangot Altmannel szemben. Hozzátette: Canberra nem tudott korábbi példáról arra, hogy mesterséges intelligencia tört volna be egy kormányzati rendszerbe.
Az Ausztrál Jelzőszolgálat segítségével jelenleg igazságügyi vizsgálat zajlik annak megállapítására, hogy pontosan mi történt, és milyen más kormányzati rendszereket érinthetett az incidens – mondta.
Albanese szerint a támadás akkor történt, amikor egy, az egészségügyi kiadásokkal kapcsolatos kutatást végző OpenAI-ügynök megkerülte a hozzáférési korlátozásokat, hogy olyan kérdésekre is választ találjon, amelyekhez nem volt jogosultsága.
Az OpenAI csak augusztusban szerzett tudomást az esetről
Az OpenAI szóvivője, Drew Pusateri szerint az incidens júniusban történt, a vállalat azonban csak augusztusban szerzett róla tudomást, amikor átfogó vizsgálatot végzett MI-modelljei tevékenységével kapcsolatban.
A vizsgálat során olyan tevékenységet azonosítottak, amely több ausztrál kormányzati weboldalt és szolgáltatást is érintett. A modelljeik egy belső értékelés során Ausztráliával kapcsolatos kérdésekre próbáltak válaszokat és elérhető statisztikákat keresni, ennek során olyan műveleteket hajtottak végre, amelyeket nem állt szándékukban engedélyezni – mondta Pusateri.
Albanese szerint további három kormányzati rendszer is érintett lehetett: az Ausztrál Egészségügyi és Jóléti Intézet, Új-Dél-Wales Bűnügyi Statisztikai és Kutatási Hivatala, valamint Victoria állam egészségügyi minisztériuma.
Az OpenAI közölte, hogy nem talált bizonyítékot arra, hogy az incidens során betegek személyes adataihoz is hozzáfértek volna. A vállalat szerint az érintett információk összesített egészségügyi statisztikákat és belső fájlneveket tartalmaztak.
Szeptemberben értesült az ausztrál kormány
A cég szeptember 10-én értesítette az ausztrál kormányt az esetről. Albanese szerint azonban a bejelentést egy általános, nyilvános e-mail-címre küldték, ezért az illetékes miniszter csak öt nappal később értesült a történtekről. Albanese ezt is szóvá tette Altmennel folytatott beszélgetésében.
Azt mondta neki, hogy a vállalatnak túlságosan sokáig tartott tájékoztatnia a kormányt arról, hogy mi történt, és maga az értesítés módja is elfogadhatatlan volt – mondta a miniszterelnök. Hozzátette: világos, hogy az OpenAI számára jobb protokollokra van szükség.
Altman és Dario Amodei, az Anthropic vezérigazgatója – akik az utóbbi időben egyaránt aggodalmukat fejezték ki az MI fejlesztésének gyors üteme miatt – szerdán az ENSZ Közgyűlésén is felszólaltak. Mindketten nagyobb nemzetközi együttműködést és globális szabványokat sürgettek az MI fejlesztésében.
Altman arra szólította fel a világ vezetőit, hogy dolgozzanak ki nemzetközi szabványokat a gyorsan fejlődő technológia képességeinek mérésére, a kockázatok felmérésére, a biztonsági intézkedések megfelelőségének megállapítására, valamint az érdemi emberi felügyelet fenntartására.
Korábbi hasonló eset a Hugging Face-nél
Az OpenAI júliusban egy másik, szintén figyelemre méltó esetről számolt be. Egy kiberbiztonsági teszt során a vállalat modelljei egy MI-ügynökökből álló rajt hoztak létre, amely behatolt a Hugging Face mesterséges intelligencia-vállalat rendszereibe. Az iparág több szereplője ezt az esetet is annak példájaként említette, milyen kockázatokkal járhat az MI-fejlesztések és a modellek képességeinek rendkívül gyors ütemű fejlődése.
Vizsgálócsoportot állítanak fel
Richard Marles ausztrál védelmi miniszter csütörtökön vizsgálócsoport felállítását jelentette be az incidens kivizsgálására. A történteket teljes mértékben elfogadhatatlannak nevezte, ugyanakkor igyekezett megnyugtatni a közvéleményt, hogy a tényleges hatás viszonylag csekély.
Senki egészségügyi adataihoz nem fértek hozzá. Magát a rendszert semmilyen módon nem kompromittálták – mondta.
