Článok
Nezodpovedné zdieľanie citlivých údajov s AI
V posledných rokoch sa umelá inteligencia (AI) čoraz viac začleňuje do nášho každodenného života a jej vplyv neustále rastie. Chatboty a AI asistenti nám pomáhajú riešiť úlohy, automatizovať procesy a zefektívňovať prácu. Ale je neuveriteľné, ako bezmyšlienkovite s nimi zdieľame firemné aj osobné údaje, bez toho, aby sme sa nad tým zamysleli! Naozaj si neuvedomujeme, čo všetko tým riskujeme?
AI a nezodpovedné úniky firemných údajov
Viem, že je to lákavé: nahodiť tabuľku do ChatGPT alebo Gemini a nechať AI, aby nám pomohla s analýzou. Najnovším hitom je čínsky chatbot DeepSeek, ktorý si rýchlo získava popularitu. Lenže mnohí zamestnanci absolútne neriešia, že do týchto nástrojov kopírujú celé databázy zákazníkov, interné reporty, obchodné stratégie, údaje o predajoch produktov a ďalšie citlivé marketingové údaje, a pritom vôbec netušia, kam tie dáta vlastne idú!
Prečo je to obrovský problém?
- Strata kontroly nad údajmi: Fakt si myslíme, že AI len tak zabudne, čo sme jej poslali? Dáta sa môžu stať súčasťou jej znalostnej databázy.
- Geopolitické riziká: DeepSeek je čínska AI, a všetci vieme, ako to v Číne funguje. Firmy sú pod drobnohľadom vlády, a ak si myslíte, že vaše dáta nemôžu skončiť v nesprávnych rukách, radšej sa zobuďte.
- Porušenie GDPR a regulácií: Mnohí si vôbec neuvedomujú, že tým môžu porušiť GDPR a vystaviť firmu mastným pokutám. Stačí jediný zle premyslený krok a problém je na svete.
- Konkurenčné ohrozenie: Ak si myslíme, že naša konkurencia nespí a nebude hľadať spôsoby, ako tieto informácie získať, tak sme na omyle.
Zamestnanci by si mali uvedomiť, že každá interakcia s AI môže mať dôsledky. Je dôležité, aby:
- Rozmýšľali predtým, než niečo zdieľajú: Pred vložením akýchkoľvek údajov do AI nástroja by mali zvážiť, či ich naozaj potrebujú spracovať týmto spôsobom.
- Konzultovali firemné smernice: Firmy by mali mať jasne definované pravidlá, aké dáta môžu zamestnanci spracovávať pomocou AI. Ak takéto smernice neexistujú, je v záujme aj samotných zamestnancov, aby sa o ich vytvorenie zasadili. Predísť tak môžu situáciám, v ktorých by neúmyselne spôsobili problém ohrozujúci nielen firmu, ale aj ich vlastné pracovné miesto.
- Využívali interné riešenia: Ak je to možné, mali by preferovať AI modely spravované a kontrolované firmou namiesto verejných chatbotov.
- Zvyšovali svoju digitálnu gramotnosť: Čím viac budú zamestnanci rozumieť fungovaniu AI, tým lepšie budú schopní chrániť citlivé údaje.
AI a nezodpovedné zdieľanie osobných údajov
Zdieľanie údajov s AI nie je len o databázach a firemných stratégiách. Každou otázkou, ktorú položíme chatbotom, im poskytujeme detaily o našom myslení, záujmoch a hodnotách. V budúcnosti môžu tieto údaje byť predané firmám na ešte agresívnejšie cielenie reklamy alebo politickým stranám na manipuláciu verejnej mienky.
Nie je to len o tom, čo do AI vkladáme vedome. Aj naša interakcia s chatbotmi ukazuje, aké máme vedomosti, aké sú naše schopnosti riešiť problémy a ako rozmýšľame. V podstate tak vzniká databáza inteligencie celej ľudskej populácie. Ani moja predstavivosť nestačí na to, ako sa to v budúcnosti môže zneužiť, ale pravdepodobnosť, že to niekto využije proti určitej skupine ľudí, je veľmi vysoká.
Toto je obrovský problém a je najvyšší čas, aby sme sa začali správať zodpovedne. Nenechajme sa uniesť pohodlnosťou a nemyslime si, že nás sa to netýka. Ak sa teraz neprebudíme, môže byť neskoro.
Zhrnutie
Ak máte nejaké otázky alebo spätnú väzbu, pokojne mi napíšte na mail@richardgolian.com.
LinkedIn
Súvisiace články
Čím viac nad tým premýšľam, tým viac si uvedomujem, o akú zásadnú tému ide.
Technológie môžu urobiť terorizmus anonymným a dostať ho do úplne iných rozmerov.
Pýtajme sa tie správne otázky, kým ešte máme možnosť hľadať odpovede a riešenia.
Ďalšie články
Ten istý audit, dva modely. Fable 5 proti Opusu 4.8. Na papieri je Fable lepší, má väčší kontext aj silnejšie parametre. A predsa prehral. Opus zvládol úlohu jedným kolom kontroly za 721-tisíc tokenov, kým Fable na to potreboval deväť kôl a spálil 2,78 milióna tokenov. Rozdiel nebol v modeli, ale v tom, ako som mu úlohu zadal. A viem to, lebo som to zmeral.
Pred pár týždňami som si na notebook nainštaloval malý lokálny AI model, ktorý sleduje živý obraz z kamery. Zapol som webkameru vo tme a v skoro úplnej tme rozoznal mňa aj predmety v miestnosti. Že takéto veci existujú, som vedel dávno. Oči mi otvorila dostupnosť. Nainštaloval som to na jeden prompt, zadarmo, beží celé na mojom stroji a nikam neposiela dáta.
V minulosti som písal o tom, ako som si vyvíjal vlastný analytický nástroj, ktorý je v súlade s ochranou osobných údajov. Mal detekciu botov už v prvej verzii, no nestačila. Návštevy z directu mali zvláštne vysoký podiel. Keď niekto tvrdí, že 20 % jeho návštev sú boti a 80 % ľudia, kedysi som si to myslel tiež. Dnes by som povedal, že bližšie k pravde je opačný pomer. Takto som k tomu dospel.
Mám pri sebe Heideggera a zápisník. Pýtam sa, kam to všetko smeruje, kam nás vedie umelá inteligencia.
Sedemdesiat percent. Tam začína prvý výstup AI, aj keď jej dáte celý firemný kontext aj najlepšie príklady z minulosti. Hovoríme o type výstupu, ktorý sa nedá zadefinovať programaticky. Je zložitejší. Často ide o kreatívnu prácu. Pri jednom opakovanom type výstupu som sa dostal na osemdesiat percent za týždeň. Každé jedno percento vyššie je ťažšie než to predošlé.
Internet sme dlho brali ako hlavný smer cesty, miesto, kde sa odohráva práca aj vzťahy. Lenže väčšina toho, čo na ňom dnes vidíme, už je alebo čoskoro bude AI-generovaná: text, obrázky, profily aj komentáre. Internet sa mení na online hru plnú botov, kde si pri ničom nemôžete byť istý, že na druhej strane je človek. A tak sa pýtam: bol online svet hlavná cesta, alebo len dočasná odbočka, z ktorej sa časť ľudí vráti späť do offline?
Pred pár dňami som mal pohovor so seniórnym marketérom. Skúsený človek, roky praxe. Spýtal som sa ho na AI. Povedal, že ju takmer nepoužíva. Mal jednu zlú skúsenosť s výstupom a usúdil, že je príliš skúsený na to, aby mu to dávalo hodnotu, keď to nie je stopercentné. Poznám aj druhú stranu: profíkov, ktorí si automatizujú všetko, čo sa automatizovať dá.
Európa nemá kapacity, aby čelila plnohodnotnej masívnej vojne dronov, takej akú vidíme na Ukrajine. Oslabujú ju tri závislosti: materiál pre obranné systémy dodáva Čína, vojenské schopnosti, ktoré Európa nemá, dodávajú USA, a dvadsaťsedem štátov sa nevie dohodnúť, ako rýchlo a za čo. Plány na prezbrojenie existujú, ich napĺňanie je však pomalé.
AI spraví grafiku, newsletter aj produktovú stránku rýchlejšie než človek. Tomu, kto to robil, zostáva jediné: posúdiť, či je výstup dobrý. Lenže väčšina ľudí má horší úsudok než AI. A kto nevie posúdiť kvalitu, nevie ani delegovať. Ako zistíš, či je tvoj úsudok ten, na ktorý sa firma spolieha, alebo ten nahraditeľný?
V apríli som v prvej časti tejto série písal o AI predikčnom systéme, ktorý som začal vyvíjať na vlastnom počítači. Vtedy mal software pár hodín a záznam predpovedí bol prázdny. Odvtedy záznamy v systéme ukázali vec, ktorá sa na začiatku dala čakať. Systém ešte nerozumie trhu, ktorý má predpovedať. Vie si nájsť makro kontext, účtovnú hodnotu firiem, zisky. Ale nevie si tie veci poskladať do niečoho, čo by mu pomáhalo porozumieť cene.
Štyri dni v Katalánsku. Bez počítača, bez AI, takmer bez sociálnych sietí. Kúpil som si tento zápisník, aby som doň písal to, o čom budem premýšľať, a to, na čo na tejto ceste narazím a čo sa naučím.
„Neospravedlniteľné, neobhájiteľné. Na toto sa nesmie nikdy zabudnúť.“