Podvody a propaganda
Technologické schopnosti štátov, organizovaného zločinu, ale aj jednotlivcov z radov hackerov, ktorých si môžu najať bežní občania, sa budú rozširovať. Až tak, že prakticky nikto nebude mať problém uskutočňovať pokročilé dezinformačné kampane – či už s finančnými, alebo politickými cieľmi.
Deepfake a novovznikajúce nástroje na báze AI technológie, akými sú Magisto, Animoto, Deep Art Effects, Auphonic, Versus a ich vzájomné kombinácie, uľahčujú tvorbu multimediálneho obsahu. Zohrajú rolu pri tvorbe presvedčivých videí a hlasových nahrávok, ale aj pri vytváraní personalizovaných odpovedí či reakcií v diskusiách, čo je kľúčová časť informačných kampaní na sociálnych sieťach.
Vylepšenie techník
Pri takzvanom spear phishingu poslúži AI na okamžitú analýzu verejne dostupných údajov. Následne potom na vytváranie špecifických útokov zameraných na odcudzenie veľmi citlivých dát, až do úrovne biometrických identifikátorov.
Ďalším rizikom AI je manipulácia algoritmov založených na strojovom učení s cieľom ovplyvniť automatizované rozhodnutia informačných systémov používaných širokou verejnosťou, čo bude spadať pod veľmi sofistikované útoky cez dodávateľské reťazce.
Až príliš veľa údajov
ENISA upozorňuje aj na nástup AI v súvislosti s možnosťami sledovania polohy, s údajmi z kamerových systémov, so zvýšeným dohľadom nad sociálnymi médiami, s biometrickými technológiami na identifikáciu osôb a s konceptom digitálnych identít. Tieto kombinácie údajov môžu viesť k obmedzovaniu osobných slobôd, a to paradoxne z dôvodu zvýšenia bezpečnosti a ochrany spoločnosti.
Rozsiahle dátové úložiská vytvárané bezpečnostnými službami a orgánmi činnými v trestnom konaní sa zároveň bezpochyby stanú atraktívnymi cieľmi pre organizovaný zločin. Ten, ktorý už dnes čulo obchoduje s osobnými údajmi získanými z rôznych online zdrojov.
Európa sa preberá
Možností zneužitia umelej inteligencie v kyberpriestore je oveľa viac. Otázky regulácie a usmerňovania AI sú preto nielen opodstatnené, ale aj naliehavé. Minimálne v Európskej únii je ich na stole niekoľko.
Pozornosť si zaslúži najmä Artificial Intelligence Act., teda regulácia umelej inteligencie, ktorej cieľom je nastavenie rámcov a zabezpečenie podmienok na vývoj a používanie tejto inovatívnej technológie. Cyber Ressilience Act. navrhuje reguláciu a zlepšenie kyberbezpečnosti a kyberodolnosti v EÚ prostredníctvom spoločných noriem kyberbezpečnosti pre produkty s digitálnymi elementmi vrátane prvkov umelej inteligencie.
Prísľubom regulácie je vytvorenie etických rámcov a presadzovanie transparentnosti a zodpovedného prístupu. Cieľom je lepšia ochrana súkromia a zvýšenie dôvery verejnosti voči AI. Problémom môže byť príliš rýchly technologický rozvoj, s ktorým regulátori nedokážu udržať krok, či globálne presadzovanie pravidiel, kde je nevyhnutná nadnárodná spolupráca a harmonizácia.
Nástrahy regulácie
Zle navrhnutá regulácia však môže mať aj neočakávané, nechcené následky a byť dokonca škodlivá. Ak budú pravidlá príliš striktné alebo vytvoria priveľké bremeno pre menšie firmy, udusia inovácie a budú brzdiť vývoj užitočných aplikácií. Zároveň to môže centralizovať moc a kontrolu do užšieho spektra konsolidovaných subjektov – či už štátov, politických zoskupení alebo nadnárodných korporácií.
V neposlednom rade – definovať univerzálne prijateľné etické štandardy môže byť mimoriadne zložité, keďže kultúrne, sociálne a geopolitické rozdiely generujú výrazne odlišné názory a spoločenské normy v jednotlivých krajinách.
Roman Čupka, hlavný konzultant spoločnosti Progress