7 hrozieb ofenzívnej AI
Úvodný obrázok zdroj: Gerd Altmann, Pixabay
AI začína byť zneužívaná pri kybernetických útokoch a podvodoch, a to aj kvôli svojim vlastnostiam, ktorými, oproti bežným metódam, vyniká.
Široký „výber“
Umelá inteligencia prekvapuje svojimi schopnosťami v úspešných medicínskych aplikáciách, v priemysle či zábave. Bohužiaľ, rovnaké „úspechy“ dosahuje aj pri jej zneužití, kde môže pomôcť napríklad pri podstrčení falošných údajov, ktoré útočník podhodí alebo pozmení v cudzej komunikácii a dokáže tak poškodiť pripravovaný obchod medzi spoločnosťami či policajné vyšetrovanie.
Vďaka algoritmom strojového učenia je ofenzívna technika schopná vypočítať čas, kedy sa má (škodlivý softvér) malvér spustiť, aby sa vyhol detekcii po spustení systému. Útočníci tak získavajú trvalý prístup do cieľového systému.
Audio a video nahrávky s použitím deep-fake, ktoré dokážu oklamať aj po dlhšom pozorovaní, už nie sú žiadnou novinkou. Zneužívajú sa hlavne pri finančných podvodoch. Krádež prihlasovacích údajov, napr. napodobnením biometrických údajov, ako sú falošné odtlačky prstov či rysy tváre, sa však môžu prihodiť aj bežnému používateľovi smartfónu.
Vynaliezavosť v oblasti AI dospela do takej formy, že sa používa napr. aj na sledovanie. Tajné informácie, o ktoré sa podelíte v kancelárii, ale aj zakódované prenosy správ, sú pre strojové učenie či hlboké strojové učenie maličkosťou.
zdroj:
Útoky môžu byť zamerané aj cielene na najslabšie články, napr. zamestnancov, ktorí obľubujú sociálne siete a zdieľajú tam aj citlivé firemné údaje, ktoré by nemali. Nemusia to byť však len útočníci, môže to byť aj samotný zamestnávateľ, ktorý takýmto softvérom získa informácie o nespokojných zamestnancoch.
Vývoj malvéru ide neustále dopredu, ale rovnako ide dopredu aj vývoj antivírusových programov, ktoré nás majú pred ním ochrániť. Útočníci preto musia stále hľadať spôsoby, ako sa vyhnúť odhaleniu. Jednou z techník je pozmenenie malvéru, kde útočník pomocou strojového učenia vloží do škodlivého programu niekoľko riadkov kódu, ktoré nijako neovplyvnia jeho správanie, ale odlákajú tak pozornosť od malvéru pri detekcii. Táto úloha vôbec nie je jednoduchá a vyžaduje šikovné ruky, no takých je už vo svete bohužiaľ dosť.
Dve tváre reverzného inžinierstva
Nepoužíva sa iba vo výrobe, ale bohužiaľ často aj v IT oblasti. Útočníci sa snažia nájsť zraniteľné miesta, ktoré by zneužili na prelomenie zabezpečenia, prípadne hľadajú dôležité či citlivé informácie vhodné napr. na vydieranie.
Kybernetický útok založený na umelej inteligencii býva často zničujúcejší. Svoj cieľ dosiahne za kratší čas, čím znižuje šancu odhalenia. AI algoritmy dokážu nájsť rýchlo ďalší cieľ, a tak v okamihu môžete prísť o všetky svoje dáta. Našťastie existuje aj tá „dobrá“ strana, a tak napr. reverzní inžinieri skúmajú malvér a snažia sa ochrániť napadnutú stranu.
Viac o hrozbách, ktoré identifikoval tím zástupcov Microsoft-u a šiestich svetových univerzít v rámci prieskumu, spolu s odozvami zástupcov z priemyslu a akademickej oblasti, nájdete v zdrojovom linku.
Zdroj:
Microsoft a známe univerzity : Hrozba útočnej AI voči organizáciám
