Óriási problémával állunk szemben: hackerek mesterséges intelligencia alkalmazásával sikeresen betörtek számos rendszerbe.

Az Anthropic, egy mesterséges intelligencia fejlesztésére specializálódott amerikai startup, nemrégiben egy jelentésben osztotta meg, hogyan sikerült leleplezni hackereket.

A bűnözők kihasználták a vállalat mesterséges intelligencián alapuló szoftvereit, hogy hozzáférjenek kormányzati és egészségügyi rendszerekhez kapcsolódó szerverekhez – számol be róla a hvg.hu.

Az Anthropic egy nemrégiben közzétett jelentésében nyilvánosságra hozta, hogy a közelmúltban kiberbűnözők támadását leplezték le. A hackerek 17 kormányzati és egészségügyhöz köthető szervert próbáltak feltörni a cég mesterséges intelligencia alapú alkalmazásaival, elsősorban a Claude nevű programmal. A megtámadott intézményektől a bűnözők súlyos összegeket próbáltak kizsarolni. Az Anthropic a jelentésében hangsúlyozta, a hackerek példátlan mértékben támaszkodtak a mesterséges intelligenciára a bűncselekmény elkövetésekor.

A bűnözők a cég kódolási asszisztensét, a Claude Code-ot vetették be, hogy automatizálják a rendszerek feltérképezését. Ennek eredményeként sikerült begyűjteniük a védtelen intézmények adatait, sőt, hozzáférést nyertetek a hálózataikhoz is. A jelentés szerint a mesterséges intelligencia nemcsak a támadás előkészítésében játszott szerepet, hanem stratégiai döntések meghozatalához is felhasználták. Például mérlegelték, hogy mely adatokat érdemes ellopniuk, és még a zsarolólevél megfogalmazásában is AI segítségét kérték.

A vállalat teljes mértékben együttműködött a releváns hatóságokkal, leállította az összes, a támadásban érintett fiókot, és új biztonsági intézkedéseket integrált a rendszerébe. A Claude nem az első mesterséges intelligencián alapuló alkalmazás, amelyet visszaélésre használtak; tavaly az OpenAI technológiáit is kihasználták adathalász e-mailek küldésére és potenciális célpontok felderítésére.