Kamikaze drónrajok vezérlésére próbálták meg felhasználni az egyik legfejlettebb mesterséges intelligenciát – új veszély les a világra
Az iráni, orosz, kínai és jemeni szereplők is megpróbálták katonai célokra felhasználni az Anthropic mesterségesintelligencia-modelljét, a Claude-ot – derül ki a cég fenyegetéselemző csapatának friss jelentéséből. A próbálkozások között kamikaze drónrajok, rakétairányítási rendszerek és biológiai fegyverek fejlesztését segítő feladatok is szerepeltek.
Az Anthropic szerint az elmúlt egy évben több országban is azonosítottak olyan felhasználókat, akik a vállalat fejlett modelljeit potenciálisan katonai – például harci drónok fejlesztése – vagy egyéb károkozó célokra próbálták alkalmazni. A cég ugyanakkor hangsúlyozta, hogy egyik vizsgált esetben sem használták a két legfejlettebb modelljét, a Fable-t és a Mythost.
Drónrajok és rakéták: ezeknél akarták munkára fogni az MI-t
„Ahogy a modellek egyre nagyobb teljesítményre képesek, a kockázataik is növekedni fognak, hacsak az MI-fejlesztők és a társadalom védelmezői nem tesznek lépéseket a biztonság javítására” – írta az Anthropic.
A jelentés szerint Oroszországhoz köthetőnek tartott, de a cég megállapítása szerint nem állami szereplők megpróbálták a Claude segítségével egy autonóm, úgynevezett FPV-kamikaze drónraj vezérléséhez szükséges szoftver fejlesztését. A rendszert ukrán harci felvételeken akarták betanítani.
Jemen északi, húszik által ellenőrzött területein működő szereplők ezzel párhuzamosan többféle rakétához fejlesztettek szoftvert a Claude segítségével. Az Anthropic azonban kiemelte: nincs bizonyítéka arra, hogy a fejlesztésekből működőképes fegyverrendszer született volna. A felhasználók több esetben megpróbálták kijátszani a Claude biztonsági korlátozásait, illetve elrejteni tényleges tartózkodási helyüket.
Biológiai fegyverek kutatásában is felmerült az MI
Az Anthropic öt olyan esetet is bemutatott, amelyekben a Claude használata hozzájárulhatott biológiai fegyverek fejlesztéséhez. Ezek között állami háttérrel rendelkező virológusok is szerepeltek, akik egy súlyos megbetegedést okozó, szúnyogok által terjesztett vírus, a chikungunya továbbfejlesztett változatán dolgozhattak.
Az ügyre egy olyan kérés hívta fel a figyelmet, amelyben a Claude segítségével egy katonai kutatóintézetben végzett kutatás finanszírozásához szükséges pályázatot akartak megírni. Az országot az Anthropic nem nevezte meg, és ott a vállalat nem is nyújt szolgáltatást. A cég ugyanakkor óvatosan fogalmazott: a biológiai ügyek mindegyikét „kétértelműnek” minősítette, vagyis a kutatásoknak lehetett ártalmatlan tudományos céljuk is.
Megfigyelési rendszerek és hackertámadások
Állami szereplőkhöz köthető kínai és iráni felhasználók a Claude-ot megfigyelési rendszerek fejlesztésére is megpróbálták felhasználni. Egy Kínához köthető műveletben a modellt ujgurok nyomon követésére, profilozására és beszervezésére használhatták a szíriai hadseregen belül. Egy iráni egység pedig olyan megfigyelési szoftver fejlesztésén dolgozott, amelyet imaidők nyilvántartására szolgáló eszköznek álcáztak.
Az Anthropic egy Maliban működő tanácsadó ügyét is feltárta. Egy ottani szakember valószínűleg egy állami hírszerző ügynökséggel dolgozott együtt, és olyan rendszert épített a Claude segítségével, amely mintegy 25 millió mobiltelefon megfigyelésére lehetett alkalmas. A rendszer egy megadott telefonszámhoz bírósági végzés nélkül is képes volt hírszerzési dossziét készíteni. Az Anthropic letiltotta a tanácsadó fiókját, a Claude-ra épülő platform azonban addigra helyben telepítve működött, így a vállalatnak már nem volt teljes kontrollja felette.
A jelentés szerint a mesterséges intelligenciát az állami hátterű hackercsoportoktól a kiberbűnözőkig egyre többen használják támadásaik felgyorsítására. A Microsoft által Midnight Blizzard néven azonosított, az orosz hírszerzéshez köthető csoport például a műveletek automatizálásával gyorsította munkáját. A ShinyHunters zsarolóbandával kapcsolatban pedig az Anthropic azt állapította meg, hogy a csoport MI segítségével keresett kiszivárgott hitelesítő adatokat, majd ezek felhasználásával próbált adatokat lopni az érintett szervezetektől.
Konfliktus a Pentagonnal
A vállalat biztonsági álláspontja közben egyre komolyabb konfliktushoz vezet az amerikai védelmi tárcával is: a Pentagon felfüggesztette együttműködését az Anthropiccal, miután a cég nem járult hozzá ahhoz, hogy a Claude-ot tömeges megfigyelésre vagy autonóm fegyverrendszerek működtetésére használják.
