Budíček! AI ako hrozba pre globálny finančný systém

Je piatok, 3:47 ráno. Ležím v tme a niečo mi nedá pokoj. Čo ak to, čo dnes považujeme za technologický pokrok, je len predohrou veľkého chaosu? Čo ak sme len pár týždňov alebo mesiacov od momentu, keď nové technológie v nesprávnych rukách otestujú krehkosť bánk, búrz cenných papierov, dôchodkových fondov a ďalších finančných inštitúcií? Čo ak sa jedno ráno prebudíme a v aplikácii, v ktorej máme uložené svoje úspory, bude svietiť nula? Čo ak nám bankomat jednoducho oznámi, že na účte nie je nič?

Možno to znie prehnane. Mne vôbec. Dokonca považujem pravdepodobnosť, že sa niečo podobné stane, za veľmi vysokú. Dôverujeme bankám, že nám uchovajú úspory. Dôverujeme trhom, že budú fungovať podľa pravidiel. Dôverujeme, že keď ráno vstaneme, svet bude stále fungovať. No ja neviem, či existuje dostatok dôvodov na takúto vieru.

Automatizované kybernetické útoky na banky a burzy

Predstavujem si scenár, kde niekto – alebo niečo – identifikuje slabinu v globálnom finančnom systéme. AI, schopná vykonať komplexné kybernetické útoky rýchlejšie, než by človek dokázal stlačiť klávesu. Sekundy by stačili na to, aby bankové siete skolabovali. Burzové platformy by sa preplnili príkazmi, ktoré by vyvolali chaos. Ľudia by sa prebudili do sveta, kde ich účty možno už ani neexistujú a trhy sú paralyzované.

Manipulácia trhov

V hlave mi bežia ďalšie scenáre. Čo ak AI zneužije algoritmické obchodovanie na vytvorenie umelých kríz? Nie je to nereálne – trhy sú dnes ovládané algoritmami, ktoré reagujú v milisekundách. Stačí malá chybná správa, „náhodne“ zverejnená. Stačí pár falošných grafov. Výsledkom by bol pád trhov, straty v miliardách a opäť strata dôvery – tej dôvery, na ktorej všetko stojí.

Predstavte si to: na sociálnych sieťach generovaný obsah od generovaných influencerov, na burzách obchodujú algoritmy poháňané tou istou AI. Máme tu niečo, čo dokáže manipulovať celým svetom a zároveň obchodovať na burze. Budíček!

Kolaps digitálnych mien a blockchain systémov

Niektorí veria, že digitálne meny a blockchain sú imúnne voči takýmto hrozbám. Mýlia sa. AI môže nájsť spôsob, ako narušiť aj tieto systémy. Koordinované útoky, ktoré by donútili siete blockchainu manipulovať s transakciami, by znamenali koniec dôvery v digitálne aktíva. Svet by sledoval, ako sa miliardy hodnôt prepadávajú do prázdna.

Pýtal som sa generatívnej AI, aké máme možnosti na prevenciu a obranu. Jej odpoveď mi len potvrdila môj vlastný názor: sú jednoducho nedostatočné. A úprimne, momentálne si neviem predstaviť, ako vytvoriť niečo, čo by skutočne prinieslo dôveru, ktorá je v tejto chvíli viac ilúziou než realitou.

Ak sa AI dostane do nesprávnych rúk, môže to byť začiatok najväčšej finančnej krízy, akú ľudstvo zažilo. Táto hrozba nie je hypotetická. Je skutočná, rastúca a potenciálne deštruktívna.