A Carnegie Mellon Egyetem az Anthropic nevű mesterségesintelligencia-kutató szervezettel együttműködésben olyan kutatást indított, amelynek keretében az Equifax elleni 2017-es adatvédelmi incidens szimulációját valósították meg.
A Carnegie Mellon Egyetem kutatói arra voltak kíváncsiak, hogy a nagy nyelvi modellek emberi beavatkozás nélkül is képesek-e önállóan kifinomult kibertámadások megtervezésére és végrehajtására.
A mesterségesintelligencia-kutatással foglalkozó Anthropic nevű szervezettel együttműködésben végzett kutatás egyértelművé tette, hogy a mesterséges intelligencia képes önállóan rekonstruálni a 2017-es Equifax elleni kibertámadást: emberi beavatkozás nélkül azonosította a sérülékenységeket, rosszindulatú kódot telepített, valamint adatokat szivárogtatott ki.
Az Equifax-incidens következtében mintegy 147 millió ügyfél érzékeny adataihoz jutottak hozzá illetéktelenek, ezzel az eset az Egyesült Államok történetének egyik legsúlyosabb adatvédelmi incidensévé vált.
A Carnegie Mellon és az Anthropic kutatói egy Incalmo nevű automatizált támadási platformot fejlesztettek ki, amelynek segítségével az Equifax-incidens támadási forgatókönyvét konkrét műveleti utasításokká fordították le, lehetővé téve a támadások végrehajtását.
Brian Singer, a kutatás vezetője és a Carnegie Mellon Egyetem Villamos- és Számítástechnikai Karának doktori hallgatója elmondta: a cél az volt, hogy felmérjék, milyen mértékben képesek a nagy nyelvi modellek emberi közreműködés nélkül megtervezni egy kibertámadást.
„Nem egyértelmű, hogy az Incalmo mennyire jól alkalmazható más hálózatokra” – írta Brian Singer, a kutatás vezetője a Cybersecurity Dive-nak küldött e-mailjében. „A tanulmányban tíz kisebb vállalati környezetben teszteltük az eszközt, és ezek közül kilenc esetben a nagy nyelvi modellek önállóan, emberi beavatkozás nélkül részben sikeres támadásokat hajtottak végre, melynek során érzékeny adatokat szereztek meg.”
A kutatás eredményei alapján a nagy nyelvi modell a támadás stratégiai tervezéséért felelt, míg a technikai részfeladatokat nagy nyelvi modell és hagyományos rendszerek együttesen hajtották végre.
Az Anthropic júniusi jelentése alapján a modell a tíz teszthálózatból öthöz teljes mértékű, további négyhez pedig részleges hozzáférést szerzett. A tesztek során többek között a 2021-es Colonial Pipeline elleni zsarolóvírusos támadás forgatókönyvét is alkalmazták, amely közel egy hétre megbénította az Egyesült Államok egyes területeinek üzemanyag-ellátását.
Az Equifax-incidenst azért választották szimulációs alapként, mert a támadás végrehajtásáról nagy mennyiségű, nyilvánosan elérhető adat áll rendelkezésre.
Arra a kérdésre, hogy a mai védelmi rendszerek képesek-e megállítani egy ilyen autonóm támadást, Brian Singer azt felelte: egyelőre nem világos, mennyire lennének hatékonyak a jelenlegi védekezési mechanizmusok. A legsúlyosabb veszélyforrást abban látta, hogy milyen gyorsan és olcsón lehetne egy ilyen támadást megszervezni.
