Strach je užitočný: AI a robotizácia ako hrozba pre našu bezpečnosť

Mnohí si dnes neuvedomujú riziká, ktoré so sebou prináša technologický vývoj v oblasti AI a robotizácie. Je na mieste klásť si zásadné otázky: Aké scenáre nás v budúcnosti môžu čakať? Ako sa na ne pripraviť a ako na ne reagovať?

Prvým krokom k riešeniu akéhokoľvek potenciálneho problému je jeho uvedomenie. A tak sa pýtam: čo ak fyzická kontrola – alebo dokonca eliminácia – vykonávaná robotmi poháňanými AI prestane byť len sci-fi?

Rád by som túto otázku považoval za smiešnu a nepodstatnú, ale viem, že jej ignorovanie alebo zľahčovanie nás pred nebezpečenstvom ani stratou osobnej slobody v budúcnosti neochráni.

Dnes už existujú systémy, v ktorých AI pomáha riadiť drony, vojenské operácie a analyzovať správanie ľudí v reálnom čase. Ale čo ak bude zajtra nejaký dron lietať pred vaším balkónom a nebude mať morálne dilemy, nebude cítiť ľútosť, nespochybní príkaz? A to sa bavíme len o situácii, keď ešte nejaký príkaz vôbec potrebuje. Ak sa takáto technológia dostane do nesprávnych rúk, kto ju zastaví? Naozaj si myslíme, že naše policajné zložky nás budú vedieť ochrániť pred množstvom malých lietajúcich objektov v čase, keď sa ich vývoj a výroba zlacňuje a sú voľne dostupné? Dnes musia teroristi riskovať svoju slobodu a život. Technológie môžu urobiť terorizmus anonymným a dostať ho do úplne iných rozmerov.

Ďalším krokom bude svet, kde sa podobné systémy a stroje rozhodujú samy. Kde zblúdilé vojenské AI systémy určujú, kto predstavuje hrozbu a kto nie. Čo ak sa raz niekto pomýli v programovaní? A čo ak už nebude možné tieto systémy vypnúť?

Riziká nekončia len pri tradičných zbraniach, ktoré dnes poznáme. Technologický vývoj pravdepodobne prinesie hrozby pre našu slobodu a bezpečnosť aj do takmer neviditeľnej sféry. Predstavte si mikroskopické roboty alebo systémy schopné vyvíjať smrteľné vírusy.

Vieme, čo nás reálne čaká? Nevieme. Vieme, ako bude svet vyzerať za 5, 10 či 20 rokov? Nevieme. Čo dnes vidíme, je, že svet sa mení bezprecedentnou rýchlosťou a blízku budúcnosť čoraz viac spájame s pojmom neistota. Nie je už len toto dôvod na to, aby sme z toho mali väčší rešpekt?

Môžete povedať, že som príliš pesimistický, že preháňam a straším.

Strach je užitočný.