Aktuality  |  Články  |  Recenze
Doporučení  |  Diskuze
Grafické karty a hry  |  Procesory
Storage a RAM
Monitory  |  Ostatní
Akumulátory, EV
Robotika, AI
Průzkum vesmíru
Digimanie  |  TV Freak  |  Svět mobilně

Generativní AI začínají útočníci zneužívat k vytváření malware, takový virus se už našel

25.9.2024, Milan Šurkala, aktualita
Generativní AI začínají útočníci zneužívat k vytváření malware, takový virus se už našel
Generativní AI je vynikajícím nástrojem pro výuku programování. Dokáže vytvářet lekce přímo na míru a dobře vysvětlit vytvořený kód. Bohužel ji někteří zneužívají i k nekalým účelům. Objevují se první počítačové viry vytvoření s pomocí generativní AI.
Systémy generativní AI mohou být použity k mnoha účelům. Jejich poslední verze výborně slouží jako pomůcka pro programování. Snadno vytvoří kód přímo pro zadané téma, které mohou doplnit o jasné vysvětlení toho, jak funguje. Jednoduchost vytváření kódu se dá ale i využít hůře nebo rovnou i zneužít. Někteří toho mohou využívat k tomu, aby si nechali kód vytvořit, ale na vysvětlování a pochopení se vykašlou, takže se v takovém případě neposunou vpřed. Jinou negativní situací může být zneužití generativní AI k vytváření škodlivého kódu. Jeden takový našli v laboratořích HP v červnu letošního roku. Objevil se totiž zajímavý phishingový e-mail, což by na první pohled nebylo nic tak zvláštního. Byla zde ale využita neobvyklá kombinace šifrovacího klíče a kódu. To bylo jedním ze spouštěčů zevrubnějšího studování malwaru.
 
Škodlivý kód využíval veřejně přístupného malwaru AsyncRAT, nicméně zajímavý byl další kód ve VBScriptu. Byl nečekaně přehledně strukturovaný a dokonce řádně okomentovaný. To není zrovna obvyklé, většinou se malware snaží zamaskovat to, jak funguje, a ne to vysvětlovat pomocí komentářů. Netradiční bylo i to, že byl napsán ve francouzštině. Není to sice jisté, ale různé indicie zde nasvědčují tomu, že kód nebyl napsán člověkem, ale pro člověka pomocí generativní AI. Aby si to výzkumníci ověřili, pokusili se sami nechat generativní AI vyprodukovat kód, který měl fungovat podobně, a AI opravdu vytvořila malware s velmi podobnou strukturou i komentáři. Ani to sice není naprosto průkazné, že zde byla použita AI, pravděpodobnosti této teorie to ale dost nahrává.
 


Autor: Milan Šurkala
Vystudoval doktorský program v oboru informatiky a programování se zaměřením na počítačovou grafiku. Nepřehlédněte jeho seriál Fotíme s Koalou o základech fotografování.