Článok
Strach je užitočný: AI a robotizácia ako hrozba pre našu bezpečnosť
Mnohí si dnes neuvedomujú riziká, ktoré so sebou prináša technologický vývoj v oblasti AI a robotizácie. Je na mieste klásť si zásadné otázky: Aké scenáre nás v budúcnosti môžu čakať? Ako sa na ne pripraviť a ako na ne reagovať?
Prvým krokom k riešeniu akéhokoľvek potenciálneho problému je jeho uvedomenie. A tak sa pýtam: čo ak fyzická kontrola – alebo dokonca eliminácia – vykonávaná robotmi poháňanými AI prestane byť len sci-fi?
Rád by som túto otázku považoval za smiešnu a nepodstatnú, ale viem, že jej ignorovanie alebo zľahčovanie nás pred nebezpečenstvom ani stratou osobnej slobody v budúcnosti neochráni.
Dnes už existujú systémy, v ktorých AI pomáha riadiť drony, vojenské operácie a analyzovať správanie ľudí v reálnom čase. Ale čo ak bude zajtra nejaký dron lietať pred vaším balkónom a nebude mať morálne dilemy, nebude cítiť ľútosť, nespochybní príkaz? A to sa bavíme len o situácii, keď ešte nejaký príkaz vôbec potrebuje. Ak sa takáto technológia dostane do nesprávnych rúk, kto ju zastaví? Naozaj si myslíme, že naše policajné zložky nás budú vedieť ochrániť pred množstvom malých lietajúcich objektov v čase, keď sa ich vývoj a výroba zlacňuje a sú voľne dostupné? Dnes musia teroristi riskovať svoju slobodu a život. Technológie môžu urobiť terorizmus anonymným a dostať ho do úplne iných rozmerov.
Ďalším krokom bude svet, kde sa podobné systémy a stroje rozhodujú samy. Ako vlastne definujeme „rozhodovanie“ v kontexte umelej inteligencie? Nejde len o vykonanie inštrukcie. Ide o výber medzi rôznymi možnosťami – často na základe dát, ktoré človek ani nevidí, ani im úplne nerozumie. A keď sa tieto rozhodnutia dejú v milisekundách, je vôbec možné do toho zasiahnuť zvonka?
Vstúpte do knižnice
Plný prístup k mojim myšlienkam, osobným príbehom, zisteniam a tomu, čo sa dozviem od ľudí, s ktorými sa stretávam.
Vstúpte do knižnice — €29,99 ročneZískajte celý článok e-mailom a neváhajte odpovedať, ak o ňom chcete ďalej diskutovať.
Zhrnutie
Ak máte nejaké otázky alebo spätnú väzbu, pokojne mi napíšte na mail@richardgolian.com.
Súvisiace články
Čím viac nad tým premýšľam, tým viac si uvedomujem, o akú zásadnú tému ide.
Pýtajme sa tie správne otázky, kým ešte máme možnosť hľadať odpovede a riešenia.
Čo ak to, čo dnes považujeme za technologický pokrok, je len predohrou veľkého chaosu?
Ďalšie články
Európa nemá kapacity, aby čelila plnohodnotnej masívnej vojne dronov, takej akú vidíme na Ukrajine. Oslabujú ju tri závislosti: materiál pre obranné systémy dodáva Čína, vojenské schopnosti, ktoré Európa nemá, dodávajú USA, a dvadsaťsedem štátov sa nevie dohodnúť, ako rýchlo a za čo. Plány na prezbrojenie existujú, ich napĺňanie je však pomalé.
AI spraví grafiku, newsletter aj produktovú stránku rýchlejšie než človek. Tomu, kto to robil, zostáva jediné — posúdiť, či je výstup dobrý. Lenže väčšina ľudí má horší úsudok než AI. A kto nevie posúdiť kvalitu, nevie ani delegovať. Ako zistíš, či je tvoj úsudok ten, na ktorý sa firma spolieha, alebo ten nahraditeľný?
V apríli som v prvej časti tejto série písal o AI predikčnom systéme, ktorý som začal vyvíjať na vlastnom počítači. Vtedy mal software pár hodín a záznam predpovedí bol prázdny. Odvtedy záznamy v systéme ukázali vec, ktorá sa na začiatku dala čakať — systém ešte nerozumie trhu, ktorý má predpovedať. Vie si nájsť makro kontext, účtovnú hodnotu firiem, zisky. Ale nevie si tie veci poskladať do niečoho, čo by mu pomáhalo porozumieť cene.
Praha, 13. mája 2026. Cestou do práce som začal premýšľať o niečom, čo mi zostalo v hlave celé dni. Ak väčšina rutinnej práce na počítači v nasledujúcich desiatich rokoch zmizne a s ňou aj veľká časť opakujúcej sa manuálnej práce, čo sa stane s tokom peňazí? Kto bude platiť komu a za čo? Aké ekonomické vrstvy budú existovať, aké budú veľké a aké vzťahy medzi nimi pobežia? Toto je šesťvrstvová mapa, ktorú som ako odpoveď načrtol.
Staviam AI systém na predpovedanie indexu S&P 500. Beží na mojom vlastnom počítači, používa verejne dostupné dáta zdarma — yfinance, FRED, Shillerov dataset — a každú predpoveď hodnotí oproti realite. Táto séria dokumentuje samotný vývoj: rozhodnutia, metodiku, chyby.
Včera večer som sa nevedel odtrhnúť od počítača. Keď som zdvihol hlavu, bolo pol deviatej. Na poschodí som už asi tri hodiny sedel sám.
Hodina. Päťdesiatpäť minút. To je čas, ktorý mi trvalo postaviť niečo, čo mi česká softvérová firma nacenila na viac ako 50 000 €. Postavil som to s Claude Code. Nie prototyp. Nie proof of concept. Funkčný nástroj — ten, ktorý firma reálne potrebovala. Ešte ten večer bežal na testovacom prostredí. Toto nie je o Claude Code. Je to o tom, čo Claude Code odhaľuje.
Za posledné štyri roky som viedol zhruba stopäťdesiat praktických pohovorov. Päťdesiat na pozície dátových špecialistov. Sto na špecialistov reklamy a výkonnostného marketingu. Takmer každý z nich znamenal sadnúť si s kandidátom nad praktickou úlohou — niečím blízkym reálnemu problému, ktorý v firme naozaj potrebujeme riešiť. Žiadna teória. Žiadne kvízy. Aplikované riešenie problémov. Postupom času som si začal všímať vzorec.
Predtým, než AI niečo naučíte, musíte vidieť, čo pred vami skrýva.
V momente, keď k nemu potrebovali prístup ďalší ľudia, problém sa úplne zmenil. Už nešlo o to, či sa agent dokáže učiť. Šlo o to, kto ho smie učiť.
Štyri dni v Katalánsku. Bez počítača, bez AI, takmer bez sociálnych sietí. Kúpil som si tento zápisník, aby som doň písal to, o čom budem premýšľať, a to, na čo na tejto ceste narazím a čo sa naučím.
„Neospravedlniteľné, neobhájiteľné. Na toto sa nesmie nikdy zabudnúť.“