Článok
Ekonomika pozornosti: manipulácia pozornosti cez pobúrenie, hnev a strach
Vidíte to, počujete, čítate. Každý deň.
Vyvoláva to pobúrenie. Hnev. Alebo strach.
Vzápätí niečo nové, ešte silnejšie. A potom znovu, znovu a znovu.
Veľmi často to nie je náhoda.
Je to systém.
Systém práce s pozornosťou, postavený na poznaní slabín ľudskej povahy, o ktorých som už písal, a na detailných dátach o tom, ako sa správame a rozhodujeme.
Nejde o to, aby ľudia uverili konkrétnej veci.
Ide o to, aby nemali priestor sústrediť sa na určitú vec.
Dennodenne sa to využíva politickými, ekonomickými a inými záujmovými skupinami aj mocnými jednotlivcami. Rieši sa to na vedeckej a expertnej úrovni s množstvom dát. Je to systém manipulácie, bez ohľadu na to, ako to znie, inak to pomenovať neviem. Sme neustále systematicky manipulovaní.
Agenda setting, ekonomika pozornosti a obsah vyvolávajúci pobúrenie
V odborných kruhoch sa tento mechanizmus opisuje kombináciou viacerých konceptov.
- Agenda-setting znamená, že médiá neurčujú, čo si myslíme, ale o čom premýšľame.
- Attention economy označuje prostredie, kde je ľudská pozornosť najvzácnejším zdrojom.
- Outrage-driven content je obsah navrhnutý tak, aby vyvolal silnú emocionálnu reakciu, najčastejšie hnev alebo strach.
Systematická manipulácia založená na dátach
Potom sú tu dáta.
Dáta o tom, čo ľudia vyhľadávajú, čítajú a na čo reagujú, sa vo veľkom zbierajú, obchodujú a rozdeľujú do segmentov, skupín definovaných spoločnými záujmami, obavami a vzorcami správania.
Tieto dáta je možné analyzovať a cieliť. Ukazujú, na čo sa ľudia sústreďujú, čoho sa obávajú a ako budú pravdepodobne reagovať.
Komunikáciu je potom možné prispôsobiť týmto vzorcom, nie náhodne, ale na základe dát.
Ako a prečo manipulácia funguje
Keď prichádza stále nový emotívny obsah, vzniká jednoduchý efekt: pozornosť sa neustále presúva medzi podnetmi a nedokáže sa sústrediť na niečo podstatné.
Typicky sa opakujú tieto vzorce:
- kontroverzné vyjadrenia, ktoré okamžite dominujú mediálnemu priestoru,
- rýchle striedanie tém, ktoré nedovolí diskusii ísť do hĺbky,
- silné emocionálne rámovanie: „hrozba“, „útok“, „kríza“,
- presúvanie pozornosti v momentoch, keď by sa mali riešiť systémové problémy,
- vytváranie dojmu neustáleho konfliktu a naliehavosti.
V týchto prípadoch nejde len o obsah.
Ide o načasovanie, opakovanie a emóciu.
Manipulácia bez pocitu manipulácie
Najefektívnejšia manipulácia dnes nespočíva v tom, čo si myslíme.
Spočíva v tom, čomu venujeme pozornosť.
Ak niekto dokáže rozhodnúť, aké témy vidíme, v akom poradí, v akom emočnom rámci a ako dlho pri nich zostaneme, potom už nemusí priamo meniť naše názory.
Stačí mu formovať prostredie, v ktorom si ich vytvárame.
A my máme pocit, že sme sa rozhodli sami.
Tento mechanizmus existuje a funguje. Jeho poznanie je prvý predpoklad toho, aby sme mali proti nemu šancu.
Ako sa pri manipulácii pracuje s dátami: príklad Cambridge Analytica
Cambridge Analytica pracovala s dátami desiatok miliónov používateľov Facebooku, ktoré boli využité na politické účely. Spôsob zberu dát sa stal predmetom oficiálnych vyšetrovaní. Britský úrad na ochranu osobných údajov potvrdil, že osobné údaje boli získané a spracované bez dostatočného súhlasu, a americká Federálna obchodná komisia následne udelila Facebooku rekordnú pokutu 5 miliárd dolárov za porušenie ochrany súkromia.
Nešlo len o základné demografické údaje. Išlo o dáta o správaní: čo ľudia lajkujú, zdieľajú a aký obsah sledujú. Výskum ukázal, že práve z takýchto digitálnych stôp je možné pomerne presne odhadnúť osobnostné črty človeka. To znamená, že z online správania je možné odhadnúť, na aký typ obsahu bude konkrétny človek reagovať.
Na tomto základe bolo možné vytvárať psychologické profily jednotlivcov a prispôsobovať im komunikáciu. Tento prístup, známy ako mikrotargeting, bol zdokumentovaný napríklad v správe britského parlamentu o dezinformáciách a politickej reklame.
V praxi to znamenalo, že ten istý politický obsah mohol existovať v rôznych verziách, pričom každá verzia bola prispôsobená konkrétnemu typu človeka. Rôznym skupinám ľudí sa zobrazovali odlišné varianty správ: niektoré zdôrazňovali hrozbu alebo riziko, iné stratu, nespravodlivosť alebo otázky identity. Každý videl niečo iné, nie preto, že by realita bola odlišná, ale preto, že komunikácia bola prispôsobená očakávanej reakcii.
Kľúčová nebola samotná personalizácia, ale spôsob optimalizácie. Podľa výpovedí bývalých zamestnancov a zistení vyšetrovaní sa obsah testoval a upravoval podľa toho, ako naň ľudia reagovali, nie podľa pravdivosti alebo kvality, ale podľa schopnosti vyvolať reakciu.
Výskumy ukazujú, že obsah vyvolávajúci silné emócie, najmä hnev a strach, sa šíri rýchlejšie a generuje viac reakcií než neutrálny obsah.
Tento prípad preto nie je len o dátach alebo o jednej firme. Je to konkrétny príklad mechanizmu, ktorý umožňuje prepojiť dáta o správaní, psychologické modely a digitálne platformy do systému, ktorý optimalizuje obsah na vyvolanie reakcie. Pozornosť ľudí sa nedá udržať dlhodobo, ale dá sa opakovane zachytávať, a najjednoduchší spôsob, ako ju zachytiť, je emócia.
Ak niekto vie, čo človek sleduje, na čo reaguje a čoho sa obáva, vie mu zobrazovať obsah, ktorý túto reakciu vyvolá. Nie jednorazovo, ale opakovane. Takýto systém nefunguje tak, že presvedčí každého o jednej veľkej myšlienke. Funguje tak, že každému ukáže niečo, čo ho zasiahne, a tým si získa jeho pozornosť.
Cambridge Analytica tak neukazuje len problém ochrany súkromia. Ukazuje niečo podstatnejšie. Obsah môže byť navrhnutý tak, aby neinformoval, ale vyvolával reakciu. A ak je optimalizovaný na hnev, strach a pobúrenie, stáva sa nástrojom, ktorý výrazným spôsobom ovplyvňuje našu pozornosť, to, čomu ju venujeme.
Emocionálna nákaza: ako Facebook experimentoval s emóciami
V roku 2014 Facebook realizoval experiment, neskôr publikovaný v Proceedings of the National Academy of Sciences, v ktorom upravil obsah zobrazovaný približne 700 000 používateľom bez ich vedomia. Nešlo o zmenu funkcií alebo dizajnu, ale o zmenu toho, aký typ príspevkov sa používateľom zobrazoval v ich feede. Niektorým bolo systematicky zobrazovaných menej negatívnych príspevkov, iným naopak viac. Cieľom bolo zistiť, či sa zmena obsahu premietne do toho, ako budú sami komunikovať a aké emócie budú vyjadrovať.
Vstúpte do knižnice
Plný prístup k mojim zisteniam, osobným príbehom a tomu, čo sa dozviem od ľudí, s ktorými sa stretávam.
Vstúpte do knižnice · €29,99 ročne Fable 5 vs Opus: Lacnejší model vyhral. Prečo? S AI je možné všetko Ako analyzovať návštevnosť webu v… Závislí od umelej inteligencie: sme… Ktorú prácu AI nenahradí? Zatiaľ… Teória mŕtveho internetu sa stáva realitou. Vrátime sa do…Získajte celý článok e-mailom a neváhajte odpovedať, ak o ňom chcete ďalej diskutovať.
Zdroje
Štúdia o šírení morálne-emočného obsahu na sociálnych sieťach: Proceedings of the National Academy of Sciences (PNAS)
Zhrnutie
Časté otázky k téme článku
Čo je agenda-setting a ako sa používa na manipuláciu pozornosti?
Čo je ekonomika pozornosti (attention economy)?
Ako Cambridge Analytica využila osobné dáta na politickú manipuláciu?
Môžu algoritmy sociálnych sietí ovplyvňovať naše emócie bez nášho vedomia?
Čo je stratégia firehose of falsehood?
Ako rozpoznám, že moja pozornosť je manipulovaná?
Súvisiace články
Európa nemá kapacity, aby čelila plnohodnotnej masívnej vojne dronov, takej akú vidíme na Ukrajine. Oslabujú ju tri závislosti: materiál pre obranné systémy dodáva Čína, vojenské schopnosti, ktoré Európa nemá, dodávajú USA, a dvadsaťsedem štátov sa nevie dohodnúť, ako rýchlo a za čo. Plány na prezbrojenie existujú, ich napĺňanie je však pomalé.
To, čo nás kedysi posilňovalo, nás dnes oslabuje.
Je to jednoduché: druhá svetová vojna sa začala inváziou do Poľska, na ktorej sa podieľal aj Sovietsky zväz, pričom svoje úsilie koordinoval s Nemeckom.
Ďalšie články
Ten istý audit, dva modely. Fable 5 proti Opusu 4.8. Na papieri je Fable lepší, má väčší kontext aj silnejšie parametre. A predsa prehral. Opus zvládol úlohu jedným kolom kontroly za 721-tisíc tokenov, kým Fable na to potreboval deväť kôl a spálil 2,78 milióna tokenov. Rozdiel nebol v modeli, ale v tom, ako som mu úlohu zadal. A viem to, lebo som to zmeral.
Pred pár týždňami som si na notebook nainštaloval malý lokálny AI model, ktorý sleduje živý obraz z kamery. Zapol som webkameru vo tme a v skoro úplnej tme rozoznal mňa aj predmety v miestnosti. Že takéto veci existujú, som vedel dávno. Oči mi otvorila dostupnosť. Nainštaloval som to na jeden prompt, zadarmo, beží celé na mojom stroji a nikam neposiela dáta.

V minulosti som písal o tom, ako som si vyvíjal vlastný analytický nástroj, ktorý je v súlade s ochranou osobných údajov. Mal detekciu botov už v prvej verzii, no nestačila. Návštevy z directu mali zvláštne vysoký podiel. Keď niekto tvrdí, že 20 % jeho návštev sú boti a 80 % ľudia, kedysi som si to myslel tiež. Dnes by som povedal, že bližšie k pravde je opačný pomer. Takto som k tomu dospel.

Mám pri sebe Heideggera a zápisník. Pýtam sa, kam to všetko smeruje, kam nás vedie umelá inteligencia.
Sedemdesiat percent. Tam začína prvý výstup AI, aj keď jej dáte celý firemný kontext aj najlepšie príklady z minulosti. Hovoríme o type výstupu, ktorý sa nedá zadefinovať programaticky. Je zložitejší. Často ide o kreatívnu prácu. Pri jednom opakovanom type výstupu som sa dostal na osemdesiat percent za týždeň. Každé jedno percento vyššie je ťažšie než to predošlé.
Internet sme dlho brali ako hlavný smer cesty, miesto, kde sa odohráva práca aj vzťahy. Lenže väčšina toho, čo na ňom dnes vidíme, už je alebo čoskoro bude AI-generovaná: text, obrázky, profily aj komentáre. Internet sa mení na online hru plnú botov, kde si pri ničom nemôžete byť istý, že na druhej strane je človek. A tak sa pýtam: bol online svet hlavná cesta, alebo len dočasná odbočka, z ktorej sa časť ľudí vráti späť do offline?
Pred pár dňami som mal pohovor so seniórnym marketérom. Skúsený človek, roky praxe. Spýtal som sa ho na AI. Povedal, že ju takmer nepoužíva. Mal jednu zlú skúsenosť s výstupom a usúdil, že je príliš skúsený na to, aby mu to dávalo hodnotu, keď to nie je stopercentné. Poznám aj druhú stranu: profíkov, ktorí si automatizujú všetko, čo sa automatizovať dá.
AI spraví grafiku, newsletter aj produktovú stránku rýchlejšie než človek. Tomu, kto to robil, zostáva jediné: posúdiť, či je výstup dobrý. Lenže väčšina ľudí má horší úsudok než AI. A kto nevie posúdiť kvalitu, nevie ani delegovať. Ako zistíš, či je tvoj úsudok ten, na ktorý sa firma spolieha, alebo ten nahraditeľný?
V apríli som v prvej časti tejto série písal o AI predikčnom systéme, ktorý som začal vyvíjať na vlastnom počítači. Vtedy mal software pár hodín a záznam predpovedí bol prázdny. Odvtedy záznamy v systéme ukázali vec, ktorá sa na začiatku dala čakať. Systém ešte nerozumie trhu, ktorý má predpovedať. Vie si nájsť makro kontext, účtovnú hodnotu firiem, zisky. Ale nevie si tie veci poskladať do niečoho, čo by mu pomáhalo porozumieť cene.

Štyri dni v Katalánsku. Bez počítača, bez AI, takmer bez sociálnych sietí. Kúpil som si tento zápisník, aby som doň písal to, o čom budem premýšľať, a to, na čo na tejto ceste narazím a čo sa naučím.

„Neospravedlniteľné, neobhájiteľné. Na toto sa nesmie nikdy zabudnúť.“

