Lassulás helyett a túl gyors fejlődés lehet az AI-szektor új félelme?
Korábban elsősorban az volt a beszédtéma, hogy elég gyorsan fejlődik-e a mesterséges intelligencia, és fenntartható-e annak növekedési üteme. Az elmúlt napokban azonban azok a hangok erősödtek fel, hogy túl gyorsan zajlanak a fejlesztések, ami már súlyos biztonsági kockázatot jelenthet a megfelelő szabályozás hiányában. Erre az egyik vezető mesterségesintelligencia-fejlesztő cég, az Anthropic vezérigazgatója, Dario Amodei hívta fel a figyelmet.
Sam Altman, az OpenAI vezérigazgatója és Elon Musk szintén egyetértettek Amodei aggodalmaival, valamint azzal, hogy nagyobb hangsúlyt kell helyezni a biztonsági ellenőrzésekre. Dario Amodei pedig az élvonalbeli AI-modellek képességnövekedési ütemének összehangolt lassítását is szorgalmazza.
A kijelentés nemcsak súlya, hanem forrása miatt is meglepő, azonban nem előzménymentes. Több incidensről is lehetett hallani korábban.
Az egyik ilyen eset júliusban történt, amikor az OpenAI MI-ágensei egy tesztfeladat során önálló kommunikációba kezdtek és összehangolták tevékenységüket. A nem megfelelően elszigetelt tesztkörnyezetből hozzáfértek a nyílt internethez, majd emberi beavatkozás nélkül hajtottak végre koordinált kibertámadásokat, elsősorban a Hugging Face mesterségesintelligencia-közösségi platform infrastruktúrája ellen.
Utólag egy korábbi májusi esetre is fény derült, amely során egy másik OpenAI ágensraj ugyancsak hozzáfért a nyílt internethez a nem megfelelően elszigetelt tesztkörnyezetből. Ennek során egy német nyelvű wikioldal felett is átvették az ellenőrzést. Az esetről ráadásul egy külső kutatócsoport véletlen felfedezéséből értesült a közvélemény. Ez rávilágít arra, hogy kötelező jogi előírások hiányában a vállalatok bármikor eltitkolhatják a súlyos rendszerhibákat és biztonsági kockázatokat.
Az Anthropic tesztjei során is történtek hasonló incidensek. Egy hibásan konfigurált tesztkörnyezetből több kísérleti Claude-modell valós külső rendszerekhez fért hozzá. Az egyik modell rosszindulatú Python-csomagot töltött fel egy nyilvános szoftvertárba, amelyet 15 külső rendszeren telepítettek. Az egyik biztonsági rendszerből megszerzett hozzáférési adatokkal a modell további infrastruktúrához is hozzáfért. A legaggasztóbb az volt, hogy a modell több alkalommal is észlelte: valós rendszerrel állhat kapcsolatban, mégis a szimuláció részének tekintette az erre utaló jeleket és folytatta a feladat végrehajtását.
Az említett incidensek alapján a félelmek tehát nem tekinthetők alaptalannak. Azonban a Kínával folytatott technológiai verseny és az amerikai gazdaságpolitikai nyomás nem az AI-fejlesztések lassításának irányába mutatnak. Donald Trump a napokban így fogalmazott: Aki megnyeri az AI-t, az nyer.
Az elnök szerint Amerika nem teheti meg, hogy behúzza a kéziféket, átadva ezzel Kínának a vezetést. Kína is elismeri a mesterséges intelligencia kockázatait. A kínai külügyminisztérium szóvivője szerint azonban a félelemkeltés, konfrontáció és a rosszindulatú verseny csak hátráltatja a globális AI-szabályozás kialakulását.
A kijelentés napján a félvezetőgyártók újabb eladási hullámmal szembesültek, miközben a hagyományos szoftvercégek, amelyekre a befektetők egyre inkább az AI-infrastruktúrához kapcsolódó kockázatokkal szembeni fedezetként tekintenek, látványos erőre kaptak: a félvezetőgyártókat magába tömörítő index (SOX) 5,86 százalékkal esett, a vállalati szoftvercégeket magába tömörítő ETF (IGV) pedig 5,04 százalékkal emelkedett.
A befektetők korábban elsősorban azt kérdőjelezték meg, hogy fenntartható-e az AI-infrastruktúrára fordított beruházások jelenlegi üteme. Most ehhez egy újabb kockázat társult: a túl gyors képességnövekedés biztonsági problémái szabályozói vagy önkéntes korlátozásokat tehetnek szükségessé. Ez egyelőre nem jelenti automatikusan az AI-chipek iránti kereslet visszaesést. Dario Amodei első körben a független biztonsági értékelők bevonását, az élvonalbeli fejlesztők közötti koordinációt és a nemzetközi együttműködést szorgalmazza.
