Článok
Budíček! AI ako hrozba pre globálny finančný systém
Je piatok, 3:55 ráno. Ležím v tme a niečo mi nedá pokoj. Čo ak to, čo dnes považujeme za technologický pokrok, je len predohrou veľkého chaosu? Čo ak sme len pár týždňov alebo mesiacov od momentu, keď nové technológie v nesprávnych rukách otestujú krehkosť bánk, búrz cenných papierov, dôchodkových fondov a ďalších finančných inštitúcií? Čo ak sa jedno ráno prebudíme a v aplikácii, v ktorej máme uložené svoje úspory, bude svietiť nula? Čo ak nám bankomat jednoducho oznámi, že na účte nie je nič?
Možno to znie prehnane. Mne vôbec. Dokonca považujem pravdepodobnosť, že sa niečo podobné stane, za veľmi vysokú. Dôverujeme bankám, že nám uchovajú úspory. Dôverujeme trhom, že budú fungovať podľa pravidiel. Dôverujeme, že keď ráno vstaneme, svet bude stále fungovať. No ja neviem, či existuje dostatok dôvodov na takúto vieru.
Automatizované kybernetické útoky na banky a burzy
Predstavujem si scenár, kde niekto, alebo niečo, identifikuje slabinu v globálnom finančnom systéme. AI, schopná vykonať komplexné kybernetické útoky rýchlejšie, než by človek dokázal stlačiť klávesu. Sekundy by stačili na to, aby bankové siete skolabovali. Burzové platformy by sa preplnili príkazmi, ktoré by vyvolali chaos. Ľudia by sa prebudili do sveta, kde ich účty možno už ani neexistujú a trhy sú paralyzované.
Manipulácia trhov
V hlave mi bežia ďalšie scenáre. Čo ak AI zneužije algoritmické obchodovanie na vytvorenie umelých kríz? Nie je to nereálne: trhy sú dnes ovládané algoritmami, ktoré reagujú v milisekundách (riziko dokumentované Bankou pre medzinárodné zúčtovanie). Stačí malá chybná správa, „náhodne“ zverejnená. Stačí pár falošných grafov. Výsledkom by bol pád trhov, straty v miliardách a opäť strata dôvery, tej dôvery, na ktorej všetko stojí.
Pokračovať v čítaní zadarmo
Zadajte e-mail a čítajte ďalej zadarmo. Prihláste sa tým aj na odber mesačného newslettera. Žiadny spam, kedykoľvek sa odhlásite.
Disclaimer
Tento článok slúži výhradne na informačné a vzdelávacie účely. Nepredstavuje investičné poradenstvo, odporúčanie na kúpu alebo predaj cenných papierov, ani záruku budúceho vývoja trhov. Vyjadruje osobné názory autora, ktorý môže byť zároveň investorom. Investovanie na finančných trhoch je spojené s rizikom a každý čitateľ by mal svoje rozhodnutia zakladať na vlastnom uvážení a prípadne po konzultácii s licencovaným odborníkom.
Zdroje
Zhrnutie
Ak máte nejaké otázky alebo spätnú väzbu, pokojne mi napíšte na mail@richardgolian.com.
LinkedIn
Súvisiace články
Čím viac nad tým premýšľam, tým viac si uvedomujem, o akú zásadnú tému ide.
Technológie môžu urobiť terorizmus anonymným a dostať ho do úplne iných rozmerov.
Pýtajme sa tie správne otázky, kým ešte máme možnosť hľadať odpovede a riešenia.
Ďalšie články
Jeden z mojich rodinných príslušníkov opisoval firmu, ktorá má dáta v niekoľkých rôznych nástrojoch a jej zamestnanci ich ešte dnes spájajú ručne, v tabuľkách. To je bežný stav firiem. Keď takým ľuďom niekto povie, nerobte to ručne, použite AI, nebudú mu rozumieť. Väčšina firiem nemá ani základné konektory medzi nástrojmi, ktoré používa. Takéto firmy potrebujú pomoc s firemnou AI transformáciou.
Ten istý audit, dva modely. Fable 5 proti Opusu 4.8. Na papieri je Fable lepší, má väčší kontext aj silnejšie parametre. A predsa prehral. Opus zvládol úlohu jedným kolom kontroly za 721-tisíc tokenov, kým Fable na to potreboval deväť kôl a spálil 2,78 milióna tokenov. Rozdiel nebol v modeli, ale v tom, ako som mu úlohu zadal. A viem to, lebo som to zmeral.
Pred pár týždňami som si na notebook nainštaloval malý lokálny AI model, ktorý sleduje živý obraz z kamery. Zapol som webkameru vo tme a v skoro úplnej tme rozoznal mňa aj predmety v miestnosti. Že takéto veci existujú, som vedel dávno. Oči mi otvorila dostupnosť. Nainštaloval som to na jeden prompt, zadarmo, beží celé na mojom stroji a nikam neposiela dáta.
V minulosti som písal o tom, ako som si vyvíjal vlastný analytický nástroj, ktorý je v súlade s ochranou osobných údajov. Mal detekciu botov už v prvej verzii, no nestačila. Návštevy z directu mali zvláštne vysoký podiel. Keď niekto tvrdí, že 20 % jeho návštev sú boti a 80 % ľudia, kedysi som si to myslel tiež. Dnes by som povedal, že bližšie k pravde je opačný pomer. Takto som k tomu dospel.
Mám pri sebe Heideggera a zápisník. Pýtam sa, kam to všetko smeruje, kam nás vedie umelá inteligencia.
Sedemdesiat percent. Tam začína prvý výstup AI, aj keď jej dáte celý firemný kontext aj najlepšie príklady z minulosti. Hovoríme o type výstupu, ktorý sa nedá zadefinovať programaticky. Je zložitejší. Často ide o kreatívnu prácu. Pri jednom opakovanom type výstupu som sa dostal na osemdesiat percent za týždeň. Každé jedno percento vyššie je ťažšie než to predošlé.
Internet sme dlho brali ako hlavný smer cesty, miesto, kde sa odohráva práca aj vzťahy. Lenže väčšina toho, čo na ňom dnes vidíme, už je alebo čoskoro bude AI-generovaná: text, obrázky, profily aj komentáre. Internet sa mení na online hru plnú botov, kde si pri ničom nemôžete byť istý, že na druhej strane je človek. A tak sa pýtam: bol online svet hlavná cesta, alebo len dočasná odbočka, z ktorej sa časť ľudí vráti späť do offline?
Pred pár dňami som mal pohovor so seniórnym marketérom. Skúsený človek, roky praxe. Spýtal som sa ho na AI. Povedal, že ju takmer nepoužíva. Mal jednu zlú skúsenosť s výstupom a usúdil, že je príliš skúsený na to, aby mu to dávalo hodnotu, keď to nie je stopercentné. Poznám aj druhú stranu: profíkov, ktorí si automatizujú všetko, čo sa automatizovať dá.
Európa nemá kapacity, aby čelila plnohodnotnej masívnej vojne dronov, takej akú vidíme na Ukrajine. Oslabujú ju tri závislosti: materiál pre obranné systémy dodáva Čína, vojenské schopnosti, ktoré Európa nemá, dodávajú USA, a dvadsaťsedem štátov sa nevie dohodnúť, ako rýchlo a za čo. Plány na prezbrojenie existujú, ich napĺňanie je však pomalé.
AI spraví grafiku, newsletter aj produktovú stránku rýchlejšie než človek. Tomu, kto to robil, zostáva jediné: posúdiť, či je výstup dobrý. Lenže väčšina ľudí má horší úsudok než AI. A kto nevie posúdiť kvalitu, nevie ani delegovať. Ako zistíš, či je tvoj úsudok ten, na ktorý sa firma spolieha, alebo ten nahraditeľný?
Štyri dni v Katalánsku. Bez počítača, bez AI, takmer bez sociálnych sietí. Kúpil som si tento zápisník, aby som doň písal to, o čom budem premýšľať, a to, na čo na tejto ceste narazím a čo sa naučím.
„Neospravedlniteľné, neobhájiteľné. Na toto sa nesmie nikdy zabudnúť.“