Článok
Strach je užitočný: AI a robotizácia ako hrozba pre našu bezpečnosť
Mnohí si dnes neuvedomujú riziká, ktoré so sebou prináša technologický vývoj v oblasti AI a robotizácie. Je na mieste klásť si zásadné otázky: Aké scenáre nás v budúcnosti môžu čakať? Ako sa na ne pripraviť a ako na ne reagovať?
Prvým krokom k riešeniu akéhokoľvek potenciálneho problému je jeho uvedomenie. A tak sa pýtam: čo ak fyzická kontrola – alebo dokonca eliminácia – vykonávaná robotmi poháňanými AI prestane byť len sci-fi?
Rád by som túto otázku považoval za smiešnu a nepodstatnú, ale viem, že jej ignorovanie alebo zľahčovanie nás pred nebezpečenstvom ani stratou osobnej slobody v budúcnosti neochráni.
Dnes už existujú systémy, v ktorých AI pomáha riadiť drony, vojenské operácie a analyzovať správanie ľudí v reálnom čase. Ale čo ak bude zajtra nejaký dron lietať pred vaším balkónom a nebude mať morálne dilemy, nebude cítiť ľútosť, nespochybní príkaz? A to sa bavíme len o situácii, keď ešte nejaký príkaz vôbec potrebuje. Ak sa takáto technológia dostane do nesprávnych rúk, kto ju zastaví? Naozaj si myslíme, že naše policajné zložky nás budú vedieť ochrániť pred množstvom malých lietajúcich objektov v čase, keď sa ich vývoj a výroba zlacňuje a sú voľne dostupné? Dnes musia teroristi riskovať svoju slobodu a život. Technológie môžu urobiť terorizmus anonymným a dostať ho do úplne iných rozmerov.
Ďalším krokom bude svet, kde sa podobné systémy a stroje rozhodujú samy. Ako vlastne definujeme „rozhodovanie“ v kontexte umelej inteligencie? Nejde len o vykonanie inštrukcie. Ide o výber medzi rôznymi možnosťami – často na základe dát, ktoré človek ani nevidí, ani im úplne nerozumie. A keď sa tieto rozhodnutia dejú v milisekundách, je vôbec možné do toho zasiahnuť zvonka?
Vstúpte do knižnice
Plný prístup k mojim myšlienkam, osobným príbehom, zisteniam a tomu, čo sa dozviem od ľudí, s ktorými sa stretávam.
Vstúpte do knižnice — €29,99 ročneZískajte celý článok e-mailom a neváhajte odpovedať, ak o ňom chcete ďalej diskutovať.
Zhrnutie
Ak máte nejaké otázky alebo spätnú väzbu, pokojne mi napíšte na mail@richardgolian.com.
Súvisiace články
Čím viac nad tým premýšľam, tým viac si uvedomujem, o akú zásadnú tému ide.
Pýtajme sa tie správne otázky, kým ešte máme možnosť hľadať odpovede a riešenia.
Čo ak to, čo dnes považujeme za technologický pokrok, je len predohrou veľkého chaosu?
Ďalšie články
Staviam AI systém na predpovedanie indexu S&P 500. Beží na mojom vlastnom počítači, používa verejne dostupné dáta zdarma — yfinance, FRED, Shillerov dataset — a každú predpoveď hodnotí oproti realite. Táto séria dokumentuje samotný vývoj: rozhodnutia, metodiku, chyby.
Včera večer som sa nevedel odtrhnúť od počítača. Keď som zdvihol hlavu, bolo pol deviatej. Na poschodí som už asi tri hodiny sedel sám.
Hodina. Päťdesiatpäť minút. To je čas, ktorý mi trvalo postaviť niečo, čo mi česká softvérová firma nacenila na viac ako 50 000 €. Postavil som to s Claude Code. Nie prototyp. Nie proof of concept. Funkčný nástroj — ten, ktorý firma reálne potrebovala. Ešte ten večer bežal na testovacom prostredí. Toto nie je o Claude Code. Je to o tom, čo Claude Code odhaľuje.
Za posledné štyri roky som viedol zhruba stopäťdesiat praktických pohovorov. Päťdesiat na pozície dátových špecialistov. Sto na špecialistov reklamy a výkonnostného marketingu. Takmer každý z nich znamenal sadnúť si s kandidátom nad praktickou úlohou — niečím blízkym reálnemu problému, ktorý v firme naozaj potrebujeme riešiť. Žiadna teória. Žiadne kvízy. Aplikované riešenie problémov. Postupom času som si začal všímať vzorec.
Predtým, než AI niečo naučíte, musíte vidieť, čo pred vami skrýva.
V momente, keď k nemu potrebovali prístup ďalší ľudia, problém sa úplne zmenil. Už nešlo o to, či sa agent dokáže učiť. Šlo o to, kto ho smie učiť.
Chcel som postaviť agenta, ktorý nielen asistuje, ale aj samostatne koná.
Toto som sa naučil o lokálnej vs cloudovej AI a prečo som prešiel na Claude Code.
Čo by mohlo situáciu zmeniť?
Deje sa to každý deň. Deje sa to práve teraz.
Štyri dni v Katalánsku. Bez počítača, bez AI, takmer bez sociálnych sietí. Kúpil som si tento zápisník, aby som doň písal to, o čom budem premýšľať, a to, na čo na tejto ceste narazím a čo sa naučím.
„Neospravedlniteľné, neobhájiteľné. Na toto sa nesmie nikdy zabudnúť.“