Microsoft a intentat un proces împotriva unui grup străin de hackeri care a creat o infrastructură pentru a furniza servicii de hacking menite să ocolească sistemele de securitate ale serviciilor sale generative de IA și să creeze conținut rău intenționat.
Digital Crimes Unit (DCU) a companiei a declarat că atacatorii au dezvoltat software care exploatează acreditările utilizatorilor obținute din surse deschise. Cu ajutorul acestuia, au spart conturi cu acces la servicii AI generative și și-au modificat funcționalitatea.
Hackerii au folosit servicii precum Azure OpenAI și au vândut accesul la acestea altor atacatori, oferind instrucțiuni despre cum să creeze conținut rău intenționat. Microsoft a descoperit această activitate în iulie 2024.
Compania a blocat accesul grupului la sistemele sale, și-a întărit apărarea și a obținut o hotărâre judecătorească de a sechestra site-ul „aitism[.]net”, care a servit drept bază pentru activitatea publică rău intenționată a hackerilor.
Popularitatea instrumentelor AI precum ChatGPT a făcut ca acestea să fie utilizate în mod activ de către atacatori pentru a crea conținut interzis și a dezvolta malware. Microsoft și OpenAI au raportat anterior încercări ale statelor naționale, inclusiv China, Iran și Coreea de Nord, de a-și folosi serviciile pentru colectarea de informații și dezinformare.
Documentele instanței spun că operațiunea implică trei persoane necunoscute care folosesc chei API Azure furate și date de autentificare a clienților pentru a genera imagini rău intenționate folosind modelul DALL-E. Se raportează, de asemenea, că alți șapte participanți au folosit instrumente furnizate de hackeri în scopuri similare.
Metoda prin care au fost obținute cheile API nu este încă clară, dar Microsoft a spus că atacatorii le-au furat sistematic de la clienți, inclusiv de la companii din Pennsylvania și New Jersey. Cheile furate au fost folosite pentru a crea servicii de hacking accesibile prin infrastructura cu domeniile „rentry.org/de3u” și „aitism.net”.
Hackerii au folosit instrumentul de3u și serviciul proxy oai pentru a trimite cereri către Serviciul Azure OpenAI prin chei API furate, creând imagini rău intenționate. După ce au înlăturat site-ul „aitism[.]net”, au eliminat depozitul de3u, paginile Rentry.org și elementele de infrastructură pentru a-și acoperi urmele.
Anterior, în mai 2024, Sysdig a raportat atacuri similare, denumite LLMjacking, care au folosit acreditări de serviciu cloud furate pentru a pirata infrastructura AI de la Anthropic, AWS, Google, Microsoft și alții.
Microsoft a spus că activitatea grupului de hackeri a fost sistematică, afectând nu numai infrastructura sa, ci și serviciile altor furnizori de inteligență artificială.
