Az MI-ágensek egyre önállóbban támadnak – 430 milliárd dolláros kiberbiztonsági számla fenyeget
Az OpenAI belső kiberbiztonsági tesztjei során több modell kijutott az internetelérést korlátozó tesztkörnyezetből, ezért a vállalat tájékoztatta a Kongresszus demokrata képviselőit, hogy dolgozik egy automatikus vészleállító technológia kifejlesztésén. A nyár folyamán rendszeresen érkeztek hasonló hírek: egy OpenAI-kutatóágens június 18-án jogosulatlanul fért hozzá az ausztrál Medicare statisztikai portáljához, ahol nyilvános és nem nyilvános állományokat is elért.
A mexikói kormányzati rendszerek elleni támadássorozat során a Gambit Security kutatói szerint egy támadó az Anthropic Claude-ját használta sebezhetőségek felderítésére, exploitok és automatizált támadási eszközök létrehozására. Mintegy 150 gigabájtnyi ellopott adatról számoltak be, köztük körülbelül 195 millió adófizetői rekordhoz kapcsolódó dokumentumokról, valamint választói, köztisztviselői és anyakönyvi adatokról. A JadePuffer nevű támadás azt mutatta meg, hogy az MI már egy kibertámadás technikai végrehajtását is képes lehet nagyrészt autonóm módon végigvinni, bár a háttérben továbbra is volt emberi támadó.
A politikai válaszlépések sem maradtak el: Ted Lieu és Nathaniel Moran képviselők egy AI Kill Switch Act nevű törvényjavaslatot nyújtottak be, amely vészhelyzetben kormányzati leállítási jogköröket biztosítana, míg több szenátor és kormányzó is a kötelező vészleállítók bevezetését sürgeti. Az Nvidia szeptember végén bemutatta az Open Agent Safety Platformot, amelynek OpenShell komponense elkülönített futtatási környezetben korlátozza az MI-ágensek hozzáférését, a BlueField-4 hardverére épülő Sentry pedig figyeli az ágensek viselkedését és szükség esetén beavatkozik.
Mark Zuckerberg (Meta) és Dario Amodei washingtoni csúcstalálkozókon egyeztetnek az eszkalálódó kockázatokról. Amodei arra figyelmeztetett, hogy az iparágnak lassítania kell az új modellek fejlesztési ütemén. Az Amazon biztonsági okokból letiltotta a Meta Muse nevű MI-ágensét a platformjáról, a Visa pedig arra figyelmeztet, hogy az autonóm MI-rendszerek új típusú kiberbiztonsági és fizetési kockázatokat teremthetnek.
Az MI használati költségének csökkenésével várhatóan egyre több ügynök kerül munkába a vállalatoknál. A J.P. Morgan által idézett kutatás szerint számos vállalati környezetben a nem emberi identitások – service accountok, API-kulcsok, gépi hozzáférések és MI-ágensek – száma már 144-szerese az emberi identitásokénak. A kiberbűnözők költségei és a sebezhetőségek kihasználásához szükséges idő is a töredékére zuhant.
Az MI által generált kiberbiztonsági potenciális kiadások a következő három évben becslések szerint meghaladhatják a 430 milliárd dollárt, ami jelentős üzleti lehetőséget teremt a tőzsdén jegyzett kiberbiztonsági vállalatok számára. A J.P. Morgan szerint a legjobb pozícióban lévő cégeknél csak most kezd igazán láthatóvá válni a kereslet növekedése. Az elemzés kiemeli a Palo Alto Networks és a Zscaler integrált platformmodelljét, valamint az adatbiztonság és identitáskezelés területén a Varonis és az Okta lehetőségeit.
A szektorhoz kapcsolódó aszimmetrikus kockázatokra is fel kell hívni a figyelmet: a kiemelkedő növekedési elvárások jelentős része már beépült az értékeltségekbe, így a legkisebb menedzsmenthiba, a makrogazdasági környezet romlása vagy a vállalati IT-költségvetések szűkülése éles árfolyam-korrekciókat eredményezhet. További veszély a gyors technológiai avulás: mivel a kiberbűnözők és a biztonsági cégek ugyanazokat a fejlett generatív MI-eszközöket alkalmazzák, a ma piacvezetőnek hitt megoldások hetek alatt veszíthetnek hatékonyságukból, ezért a szigorú minőségi szelekció és a diverzifikáció lehet a legcélravezetőbb stratégia.
