Veľký problém veľkých korporácií v ére AI

Šestnásť z dvadsiatich siedmich zdrojov nesedelo. Neexistovali, viedli na nefunkčné stránky alebo tvrdili niečo, čo v nich nebolo. Tú správu vydala jedna z najväčších poradenských firiem na svete. Mala byť o kybernetickej bezpečnosti. Stiahli ju.

Štúdia, ktorá nikdy nevyšla

V správe bolo jedno konkrétne číslo. Malo byť z jednej štúdie svetoznámej poradenskej firmy. Taká štúdia ale nikdy nevyšla. To číslo v skutočnosti pochádza z nejakého blogového príspevku. Niekto ho z toho blogu prebral, pripísal ho tej neexistujúcej štúdii a tú dal do správy ako zdroj. Odtiaľ ho prevzal článok v jednom denníku a rozšíril sa do vyše šesťdesiatich novín. Dnes to isté vymyslené číslo opakujú bežné AI modely ako fakt.

Je to chyba AI? Nie. Za výstup mal zodpovednosť človek. Niekto, kto AI nechal pracovať, a výstup po nej neprečítal.

Nie je to jedna firma

Pár mesiacov predtým odovzdala iná firma z veľkej štvorky vláde správu za zhruba 440 000 dolárov. Boli v nej vymyslené akademické zdroje a vymyslený citát sudcu. Firma vrátila 97 000 dolárov a do opravenej verzie dopísala, že použila generatívnu AI.

Dve nezávislé firmy. Oba prípady verejné. To nie je výnimka. Je toho stále viac a viac.

Prečo si to nikto neprečítal?

Otázka nie je, prečo to AI vygenerovala zle. AI odhaduje ďalšie slovo textu, neoveruje reálnu pravdivosť, a keď tvrdí, že áno, aj vtedy len pomocou predikovania ďalšieho slova. Otázka je, prečo to nikto nezachytil. A tu je problém, ktorý veľké korporácie len tak nevyriešia.

Veľká korporácia produkuje obrovské množstvo výstupov. Prechádza nimi množstvo ľudí, z ktorých veľká časť je pohodlná a robí prácu, ktorá im nedáva veľký zmysel. AI im dáva bezprecedentný nástroj na to, aby tú prácu mohli urobiť za minimum času, pričom tá práca na prvý pohľad vyzerá kvalitne.

Odpad, ktorý vyzerá ako hotová práca

Predtým sa podobný prístup k práci poznal na prvý pohľad. Prázdny dokument, chýbajúce čísla, zjavne nedorobená práca. Dnes AI vyrobí text, ktorý vyzerá ako hotový. Má správny formát, akademický tón, tabuľku zdrojov. Vyzerá presne ako poctivá práca. Ale nie je.

Značka, ktorá to odnesie, nie je jeho

Pre toho človeka je cena nízka. Keď sa to prevalí, neutrpí jeho meno. Utrpí značka firmy, ku ktorej necíti väčšiu väzbu. Výplatu dostane rovnako. Je dokonca vysoko pravdepodobné, že sa na to nikdy nepríde. A keď príde, môže povedať, že ich predsa podnecovali k tomu, aby všetko robili pomocou AI rýchlejšie a boli produktívnejší, ešte to môže zvaliť na svojich nadriadených a urobiť zo seba obeť.

Korporácia takéto nekvalitné výstupy dokáže len veľmi ťažko ustrážiť. Nie preto, že by jej to bolo jedno. Preto, že pri jej veľkosti a množstve procesov a výstupov by musela po každom človeku kontrolovať každý zdroj v každej správe. To sa nedá.

Takáto kontrola by nahrádzala chýbajúcu osobnú zodpovednosť určitého človeka, tá je dnes jadro problému.

Kto ide sám za seba

Na rozdiel od veľkej firmy, jednotlivec, ktorý ide sám za seba, to má v tomto jednoduchšie.

Keď je podpísaný vlastným menom, cena za nekvalitne odvedenú prácu je pre neho vyššia. Nie je to poistka, nezaručuje to nič, aj on môže niečo neskontrolovať. Ale je väčšia pravdepodobnosť, že si dá pozor a prečíta to po sebe.

Za čo sme veľkým firmám doteraz platili

Za veľkú značku si priplácame preto, aby sme mali štandardný kvalitný výstup: za to, že za výstup niekto ručí. To sa čím ďalej tým viac rozpadá. Dôveru má dnes skôr ten, kto za prácu ručí vlastným menom. Nie je to 100-percentná záruka, ale má k nej bližšie.