Tagged: Amazon

Astroturfing

Tridelno poročilo portala »Pod črto« o pojavu Astroturfinga v Sloveniji. Na Twitterju se pojavljajo profili z ukradenimi profilnimi slikami, ki praktično izključno širijo ideje največje vladne stranke. Njihovo delovanje vzbuja sum, da gre za neavtentično politično delovanje.

Astroturfing (1. del): lažni Twitter profili, ki napadajo kritike stranke SDS

https://podcrto.si/astroturfing-1-del-lazni-twitter-profili-ki-napadajo-kritike-sds/

Astroturfing (2. del): kako potekajo napadi na kritike stranke SDS

https://podcrto.si/astroturfing-2-del-kako-potekajo-napadi-na-kritike-stranke-sds/

Astroturfing (3. del): sovraštvo pod taktirko politikov in mnenjskih voditeljev SDS

https://podcrto.si/astroturfing-3-del-sovrastvo-pod-taktirko-politikov-in-mnenjskih-voditeljev-sds/

Astroturfing: od orodja za marketing do političnih zlorab

O pojavu astroturfinga se v medijih in družbi nasploh v zadnjih letih precej govori. V ZDA so pričeli pojav bolj sistematično analizirati po zmagi Baracka Obame na predsedniških volitvah leta 2008. Obamovi nasprotniki so takrat pričeli uporabljati astroturfing za podžiganje upora med volivci proti Obamovim politikam. To so bile predvsem korporacije in gospodarske lobistične skupine, ki so poskušale preprečiti sprejetje nove zakonodaje na področju zdravstvenega varstva in varovanja okolja. Ta zakonodaja in z njo nove omejitve ter regulacija so namreč za korporacije predstavljale dodatne stroške pri poslovanju.

Ponoven pospešek je debata o astroturfingu dobila ob volitvah leta 2016, ko je množica lažnih Facebook profilov podpirala bodisi izvolitev Donalda Trumpa bodisi Hillary Clinton in s tem po mnenju političnih analitikov želela vnesti čim več razdora v ameriško družbo. Za precej lažnimi profili posameznikov naj bi po ugotovitvah ameriških obveščevalcev v resnici stale ruske tajne službe.

A na samem začetku astroturfing ni bil orodje političnega vplivanja na ljudi. Bil je predvsem način podjetij za pridobivanje novih strank – oziroma poskus spreminjanja navad potrošnikov.

Izvor astroturfinga strokovna literatura prepoznava v kampanji Hugha Moora iz leta 1909. V tistem času je bilo običajno, da so ljudje pri pitju vode iz javnih vodnjakov ali pitnikov uporabljali isti pločevinasti kozarec. Kozarec je bil priklenjen na verižico ob pitniku, ljudje pa so si ga podajali iz roke v roko. Moore je pričel izdajati pamflet, ki je opozarjal na zdravstvena tveganja deljenja javnega kozarca ob pitnikih pri prenosu različnih bolezni. Poimenoval ga je kar »kozarec smrti«.

A Hugh Moore je bralcem pamfleta zamolčal pomembno informacijo. Pamflet ni bil produkt nekega posameznika, ki ga je skrbelo javno zdravje. Moore je bil solastnik podjetja, ki je prodajalo papirnate kozarce za enkratno uporabo. Uporaba takšnih kozarcev namesto pločevinastega ob pitnikih bi pomenila več zaslužka za njegovo podjetje.

Astroturfing je bil na začetku torej način, kako za nek komercialen produkt ustvariti lažno podporo pri ljudeh. Potrošniki seveda precej bolj zaupajo mnenju ostalih potrošnikov kot pa mnenju podjetja, ki produkt prodaja. Lažna pozitivna mnenja pri potrošnikih pa pomenijo več prodanih izdelkov.

Iz te lažnosti oziroma zavajanja izhaja tudi izraz astroturfing. Gre za nekoliko teže prevedljivo besedno igro. »Astroturf« je angleška beseda za znamko umetne trave – takšne, ki jo na primer najdemo na umetnih igriščih za nogomet. Takšno travo je treba »od zgoraj« položiti na igrišče – v nasprotju s pravo travo, ki raste iz zemlje in korenin »od spodaj navzgor«. Podobno velja za družbena gibanja. »Pristna« (»grassroots«) gibanja naj bi se začela »od spodaj«, saj črpajo iz najnižjih, najbolj osnovnih gradnikov družbe – navadnih državljanov, ki so kot posamezniki brez političnega vpliva, moč pa jim daje prav njihova združitev v želji po izpolnitvi nekega točno določenega cilja. Takšna »grassroots« gibanja zato ostali državljani pojmujejo kot nekaj pristnega in iskrenega – nekaj, česar ne dirigirajo vplivni politični ali gospodarski interesi »od zgoraj«, temveč dejanski interesi ljudstva. Če bi želeli sloveniti besedo astroturfing, bi bil primeren izraz »ustvarjanje lažne javnosti«.

Ker grassroots gibanja uživajo visoko stopnjo legitimnosti, so izjemno vabljiva za korporacije ali politične vplivne posameznike. Posnemanje takšnega gibanja lahko slednjim prinese precejšnjo družbeno moč. Eden izmed najbolj znanih primerov takšnega lažnega gibanja so najrazličnejša društva za branjenje svobode kadilcev. Ta društva izgledajo kot skupnost navadnih državljanov, ki jih moti preveliko poseganje države v njihovo svobodo pri kajenju. V resnici pa delovanje mnogih takšnih gibanj finančno podpira tobačna industrija. Oziroma v nekaterih primerih je industrija celo skriti ustanovitelj teh gibanj.

Anže Voh Boštic

Vir: https://podcrto.si/astroturfing-1-del-lazni-twitter-profili-ki-napadajo-kritike-sds/

Množična prodaja lažnih ocen izdelkov na Amazonu

Razkrili množično prodajo lažnih ocen izdelkov na Amazonu, kar je strogo v nasprotju z Amazonovimi pogoji uporabe. Koliko je mogoče zaslužiti kot “ocenjevalec”?

Spletni prodaji posel cveti. Zaradi pandemije se najrazličnejši izdelki vse bolj številčno prodajajo prek interneta, največji spletni trgovec Amazon pa ima v ponudbi več kot dvanajst milijonov izdelkov, skupaj z drugimi ponudniki, ki svoje izdelke prodajajo prek njihove platforme, pa celo več kot 350 milijonov artiklov. A zaradi velike konkurence morajo prodajalci za boljšo prodajo uporabiti različne prijeme. Treba je izstopati.

Eden od načinov, kako to doseči, so pozitivni opisi izdelkov. To je sicer povsem legitimna in tudi za kupca koristna stvar, a le, če se ta lahko zanese na resničnost zapisanega. Kar so uporabniki že dlje časa namigovali, pa zdaj potrjuje skupina Which?, ki je odkrila organizirano in predvsem množično prodajo lažnih ocen za izdelke na Amazonu. Lažne petice pomenijo višjo uvrstitev na seznamu, to pa posledično več klikov in nakupov. Prodaja lažnih ocen izdelkov na Amazonu je sicer strogo v nasprotju z Amazonovimi pogoji uporabe.

Denar in brezplačni izdelki

Pri Which? so našli deset spletnih strani, ki so ocenjevalcem ponujale v povprečju dobrih pet evrov zaslužka za pozitivni opis, poroča Sky News. K oddaji pozitivne ocene so uporabnike spodbujali tudi tako, da so jim v zameno ponudili brezplačne izdelke. Amazonov predstavnik se je sicer na očitke odzval, da “spletni trgovec nemudoma umakne lažne ocene in ukrepa zoper vsakogar, ki je vpleten v zlorabo”.

Kako prepoznati lažen opis

• Bodite skeptični, še posebno, če opazite, da izbrani izdelek v določeni kategoriji zelo izstopa po številu komentarjev z drugimi izdelki.
• Vzemite si čas in komentarje preberite večkrat in vedno znova. Bodite pozorni, če so si med seboj zelo podobni.
• Pri blagovnih znamkah, ki jih ne poznate, preverite, ali imajo svojo uradno spletno stran z jasnimi kontaktnimi podatki.
• Previdni bodite pri izdelkih z veliko slikami ali video posnetki. Prodajalci lahko spodbujajo lažne ocenjevalce, da k opisom dodajajo več fotografij in videoposnetkov.

Prodajalci so lahko v enem koraku kupili celo pakete lažnih pozitivnih ocen in opisov. Za posamezni opis, tako BBC, pa so morali odšteti približno 17 evrov. Če so želeli več, so lahko izbirali med ponudbo dobrih 700 evrov za 50 kupljenih ocen ali slabih 9200 evrov za 1000 najbolj sladkih opisov izdelka, ki morda še zdaleč ni vreden svojega denarja. A to so ocenjevalci seveda morali zamolčati. Kako velika je industrija lažnih ocen, govori številka, da je peterica od omenjenih desetih prodajalcev storitve lažnega ocenjevanja v svojih evidencah, lahko rečemo na svoji plačilni listi, imela več kot 702.000 ocenjevalcev izdelkov.

Pisci po nareku

Ocenjevalci, ki so zaslužili od enega do več kot deset evrov za posamezni komentar, so lahko sodelovali celo v shemah zvestobe, s katerimi so si za nagrado prislužili premium izdelke, kot so otroške igrače ali športnorekreacijski pripomočki. Posredniki, ki jih je Which? vzel pod drobnogled, so svojim priložnostnim ocenjevalcem ponujali celo brezplačno izobraževanje, natančne napotke, kako spisati pozitivni komentar, da se Amazonu ne bo zdel sumljiv. Svetovali so jim denimo, da morajo izdelek oceniti oziroma opisati z vsaj dvema stavkoma in priložiti kakšno fotografijo.

Natalie Hitchins z Which? je angleško vladno upravo za konkurenco in trge (CMA) pozvala, da se nemudoma lotijo problema, ki ga povzročajo lažni opisi. Meni, da mora regulator poiskati te “pisce po nareku” in k odgovornosti zavezati spletna mesta, ki ne bodo zaščitila svojih uporabnikov. “Če tega vlada ne bo mogla storiti, mora nujno okrepiti spletno zaščito potrošnikov,” je dejala Hitchinsova. Prejšnja preiskava potrošniške skupine je namreč odkrila tudi na desetine facebook skupin s prodajalci, ki so ponujali plačilo ali druge ugodnosti v zameno za lažne pozitivne ocene in komentarje. Po razkritju sta Facebook in Ebay s CMA podpisala sporazum, s katerim sta se družbi zavezali, da se bosta trudili bolje prepoznati, raziskati in se odzvati na lažne in zavajajoče ocene. Hitchinsova je prepričana, da bi morali več v tej smeri storiti tudi Amazon in drugi spletni trgovci. “Proaktivno bi morali preprečiti, da na njihova spletna mesta ne bi prodrli lažni komentarji in bi potrošniki lahko zaupali njihovim mnenjem.”

Pri Amazonu sicer navajajo, da s tehnološkimi podjetji sodelujejo pri identifikaciji spornih uporabnikov, a izpostavljajo, da problemu prodajalci prek spleta sami nikakor niso kos. Pri RepricerExpress so izračunali, da obiskovalci spletnega trgovca vsako uro ustvarijo za 17 milijonov prometa.

V pomoč uporabnikom pri odkrivanju lažnih ocen je lahko spletna aplikacija ReviewMeta, ki na podlagi različnih kriterijev oceni, ali je ocena lažna ali pristna. Upošteva dolžino opisa, preveri, kako pogosto uporabnik ocenjuje izdelke, ali redno podeljuje pet zvezdic, če so v njegovem opisu besede, ki jih uporablja tudi prodajalec izdelka na svoji spletni strani, je izdelek tudi sam kupil na Amazonu ali ne. Morda vam bo pri naslednjem nakupu v pomoč. Raziskave, narejene konec lanskega leta, namreč razkrivajo, da je kar 43 odstotkov opisov in ocen na Amazonu lažnih.

Gregor Grosman

Vir: https://www.vecer.com/svet/placani-ocenjevalci-na-amazonu-mnozicna-prodaja-laznih-ocen-izdelkov-na-amazonu-koliko-je-mogoce-zasluziti-kot-ocenjevalec-10235573

Kam vodijo manipulacije oglaševalskotehnoloških platform?

V želji po čim večji dobičkonosnosti si oglaševalskotehnološki velikani prepogosto zatiskajo oči, ko gre za vse pogostejše prevare in goljufije na njihovih platformah. Kaj to pomeni za oglaševalce in (spletno) oglaševalsko industrijo? Je še čas, da si ta povrne svoj ugled?

Internet naj bi v svoji osnovi demokratiziral in racionaliziral informacije ter tako ustvaril trge, na katerih neodvisne metrike samodejno dajejo prednost prikazom najverodostojnejših idej in najboljših izdelkov oziroma storitev. Vendar spletne prevare in nepravilnosti, o katerih skoraj vsakodnevno poročajo svetovni mediji, kažejo prav nasprotno. Beremo lahko o ruskih botih, ki se pretvarjajo, da so ameriški ljudje. Ali o ameriških boti, ki se pretvarjajo, da so človeški troli. Pa tudi o ljudeh, ki se pretvarjajo, da so boti. ReviewMeta, neodvisno spletno mesto, ki spremlja verodostojnost spletnih komentarjev, poroča, da se je v zadnjem času na platformi Amazon izjemno povečalo število lažnih recenzij. Te so namreč napisali uporabniki, ki niti niso opravili nakupa izdelka (unverified purchasers), ki ga ocenjujejo. (Ne)presenetljivo pa so jih ocenili s kar petimi zvezdicami. So ti primeri dovolj zgovorni, da bi lahko podvomili tudi o verodostojnosti podanih prijav o ponarejenih izdelkih? Kaj je torej res? Se maje ključna dodana vrednost platforme, katere neposredna prodaja temelji na priporočilih svojih uporabnikov? So kratkoročni zaslužki platforme vredni tovrstnih praks, da se jih niti ne trudi ustaviti?

Oglaševalski model, dovzeten za goljufije

Poslovni modeli velikih tehnoloških platform (kot so Google, Facebook, Apple, Amazon) so načeloma preprosti. Služijo z oglaševalskim denarjem v zameno za zagotovljene oglede zakupljenega prostora. Svoj poslovni model gradijo predvsem na unovčevanju podatkov svojih uporabnikov preko lastnega oglaševalskega sistema. Obljuba v ozadju je, da so ti oglasi natančno ciljani in izmerjeni, tako da blagovna znamka dejansko plačuje samo za oglede, ki jih želi doseči. Pri tem lahko neprestano nadzira svoje ciljno občinstvo in ima celo možnost dostopa do podrobnega vpogleda v to, kako dolgo gledajo njihove oglase, pa tudi druge metrike, in to vse v realnem času. Ta oglaševalski model je v svoji osnovi ekonomska premisa sodobnega interneta. Vendar pa je žal, kot se izkazuje vse pogosteje, tudi zelo dovzeten za goljufije; poln je namreč navideznih ogledov in lažnih klikov.

Leta 2016 je Facebook »ugotovil«, da je dve leti močno precenjeval, kako dolgo ljudje v povprečju gledajo videoposnetke na njihovi platformi. A brez skrbi; ta »napaka« naj ne bi vplivala na oglaševalski denar, kot sta sveto zatrdila tako Facebookova služba za odnose z javnostmi kot seveda tudi šef Mark Zuckerberg osebno. Afera se je nadaljevala z dodatno tožbo leta 2018, ki jo je vložilo več manjših oglaševalcev. Ti so trdili, da so dejanske številke še bolj napihnjene od priznane »napake« in, kar je še bolj skrb vzbujajoče, da so pri Facebooku za to vedeli že veliko prej, a so s prakso nadaljevali.

Medtem se je posel, ki ustvarja lažne (t. j. navidezne, ponarejene) oglede, močno razcvetel. Lani se je izkazalo, da so bile nekatere aplikacije v trgovini Google Play, vključno z orodjem za urejanje fotografij in nekaterimi igrami, dejansko »trojanski konji« za zlonamerno programsko opremo. Tako imenovani »botneti« so v ozadju telefona neprestano klikali na oglase, z namenom višanja metrik ogledov in posledično dohodka za razvijalce aplikacij. Oglaševalci lahko tako le »ugibajo«, koliko resničnih ljudi si je dejansko ogledalo določen njihov video.

Sta verodostojnost in transparentnost na spletu le mita?

Predpostavka o verodostojnosti in transparentnosti spleta postaja mit in fama. Že uporabniki sami v osnovi predpostavljamo, da je vse na spletu »lažno«. Postajamo družba, v kateri je nezaupanje primarno dejstvo. Zato (vsaj bolj ozaveščeni?) sprejemamo in podpiramo zaprte skupnosti ter tam (vsiljena?) pravila velikih, ki jih omogočajo. Kot nas ti prepričujejo, naj bi to vendarle bilo v naše dobro in zaščito. Posledično smo prišli do stanja, ko Google popolnoma nadzoruje vsebino znotraj svojega ekosistema, Apple z jekleno roko upravlja svojo trgovino aplikacij, Amazon pogojuje sprejetje politike vračil od svojih oglaševalcev, večina družbenih omrežij pa dopušča pravico odstraniti kogar koli s svoje platforme, ki ne upošteva njenih pravil. Medtem ko vas izključitev s Facebookovega ali Twtitterjevega računa lahko stane prijateljev, zaveznikov in drugega občinstva, pa je lahko rezultat izgube poslovnega računa na Amazonu ali v Applovi trgovini celo konec vašega poslovanja, če je to eden od vaših glavnih distribucijskih kanalov. Še posebej, če ste jim vsaj deloma ali potencialno konkurenčni, si lahko kaj hitro obetate »nespodobno« povabilo za prevzem in posledično (sovražno-partnersko) pripojitev »k velikim«.

Kako premagati ta val zlorab in ustaviti spiralo splošnega nezaupanja? Je možna povrnitev v dobo poštenih, uspešnih in odprtih družb? Revija Wired v eni od zadnjih številk predlaga vzpostavitev boljših pravil in tehnologije, ki potrjuje spletne transakcije, izgradnjo na spletne goljufije odpornejšo oglaševalsko tehnologijo, ki resnično poskrbi za našo zasebnost, ter nenazadnje regulacijo, ki tovrstne spremembe predpisuje v zakone, saj se jih brez tega preprosto ne spoštuje.

[…]

Pravo vedno caplja za razvojem tehnologije

Jelena Burnik, vodja mednarodnega sodelovanja in nadzora pri Informacijskem pooblaščencu RS,opozarja, da se vse večji avtomatizaciji procesov oglaševanja v oglaševalskotehnološki industriji pridružujejo vedno bolj prefinjene metode analize podatkov uporabnikov, uporaba algoritmov, strojnega učenja in umetne inteligence. Rezultat so posameznikom bolj prilagojene vsebine, zanje relevantni zadetki v spletnih trgovinah, lažje povezovanje in iskanje informacij, prihranek časa in denarja, vendar pa na drugi strani tudi veliko večje možnosti diskriminacije in družbene segregacije ter zapiranje možnosti, ki so posamezniku na voljo izven njegovega zabeleženega in predvidenega »profila«. Kot ugotavlja, je velika težava algoritmičnega, avtomatiziranega odločanja njegova prikritost oz. netransparentnost. Pogosto je namreč komercialni nadzor nad posamezniki neviden oziroma ga ljudje kot takšnega težko prepoznajo; po eni strani zato, ker je težko razumeti te tehnično kompleksne procese, in po drugi, ker nas vedno vodijo notranji predsodki, zaradi katerih relativno slabo skrbimo za svojo zasebnost. Ker se nam »ne more zgoditi nič hudega, saj nimamo česa skrivati«, ne spreminjamo nastavitev storitev, dopuščamo deljenje svojih podatkov med podjetji in za popolnoma drugačne namene. Vsaka naprava interneta stvari, zapestnice, ure, pametni pomočniki in telefoni pomenijo podatkovne točke, ki jih industrija s pridom uporablja za nadgrajevanje svojih storitev, monetizacijo in dobiček. Še večja težava pa nastane, ko to preskoči na področje države, na odločanje o pravicah, posojilih ali višini zavarovanja. Ne pobrskajte za svojo diagnozo na spletu, pravijo, velike možnosti so (vsaj v ZDA), da bo ta podatek pridobila zavarovalnica in prilagodila premijo. Že odraslemu, izobraženemu človeku je težko razumeti obseg tveganj, ki smo mu izpostavljeni v podatkovni industriji, kaj šele ranljivejšim skupinam, manj izobraženim, starejšim, mladostnikom, otrokom.

»Stanje ni rožnato in regulacija tega področja je nujna, tako zaradi zaščite posameznikov in družbenih demokratičnih procesov kot tudi zaradi oblikovanja bolj ‘zdrave’ industrije, manj podvržene notranjim zlorabam in prevaram. Prav netransparentnost praks industrije in slabo poznavanje s strani posameznikov sta razloga, zakaj samo regulacija na tem področju do zdaj ni bila učinkovita,« meni Burnikova.

Po njenih besedah z vidika varovanja posameznikov v EU na tem področju največ prispeva zakonodaja o varstvu osebnih podatkov in zasebnosti v elektronskih komunikacijah, ki predstavlja otipljive omejitve, kaj sme podatkovna industrija početi s podatki posameznikov, za kaj potrebuje njihove privolitve in kako mora podatke varovati pred zlorabami. Mreža nadzornih organov za varstvo osebnih podatkov v EU je tesno prepletena, tudi z novimi zmožnostmi formalnega sodelovanja v inšpekcijskih postopkih pri čezmejnih podjetjih, ki nam jih daje splošna uredba za varstvo osebnih podatkov (GDPR). Večina velikih tehnoloških podjetij ima svoje EU sedeže na Irskem, pa tudi na Nizozemskem in v Belgiji, in morajo spoštovati relativno strogo zakonodajo, pripoveduje Burnikova. »Trenutno potekajo postopki nadzora za vse te velikane, tudi glede njihov praks monetizacije s pomočjo svojih oglaševalskih platform, kjer informacijski pooblaščenec na dnevni ravni sodeluje z drugimi organi v EU. Že v naslednjem letu je pričakovati zaključke nekaterih največjih primerov in potencialne izreke glob. Veliko je pričakovanj tudi glede preoblikovanja nove uredbe o e-zasebnosti, ki naj bi še dodatno zaostrila pogoje za ponudnike te vrste oglaševalskih storitev,« pravi Burnikova.

Ob tem opozarja, da le akcija na področju varstva osebnih podatkov še zdaleč ne zadošča. Po njenem mnenju so veliki tehnološki velikani problematični tudi z vidika varovanja konkurence, zasedajo praktično monopolne položaje in se jim posamezniki ne morejo izogniti v svojem zasebnem, poslovnem, šolskem življenju, hkrati pa so bili dolgo izven radarja in so nemoteno gradili svoje poslovne imperije.

»Nedavne odločitve pristojnih organov v EU in ZDA tudi na tem področju kažejo premike. Tudi na davčnem področju se napovedujejo spremembe glede obdavčitve tehnoloških velikanov. Zaradi vseh negativnih daljnosežnih posledic pa je na sporne prakse potrebno pogledati tudi z etičnega vidika. Pravo vedno caplja za razvojem tehnologije in potrebni so etični premisleki o tem, v kakšni družbi želimo živeti, do katere mere želimo biti podvrženi manipulaciji s strani velikih tehnoloških velikanov in tistih, ki imajo finančne zmožnosti za komercialni nadzor, kako daleč bomo dovolili družbi nadzora in do kod se bo lahko tehnologija sama odločala namesto nas,« je za MM še povedala Burnikova.

Članek je bil prvotno objavljen v  461. številki Marketing magazina.

Vir: http://www.marketingmagazin.si/novice/mmarketing/17475/kam-vodijo-manipulacije-oglasevalskotehnoloskih-platform?

Avtorica: Urška Saletinger

Na pragu digitalne diktature: brez zasebnosti in brez svobode

Iskanje informacij in drugo brskanje po spletu sta že tako močno ukoreninjeni v naše sebstvo, da vsakodnevnim “googlanjem” ne posvečamo sploh nobene pozornosti. Ne z vidika varnosti, še manj izgube svobode.

In ko prek spleta opravljamo nakupe, plačujemo račune na spletnih bankah, naročamo taksije, potrjujemo udeležbe na dogodkih, objavljamo fotografije in všečkamo nam prijetne stvari, zelo malo razmišljamo o tem, kaj se z vsemi temi našimi dejanji dogaja.

Nadaljevanje na: https://www.rtvslo.si/mmc-podrobno/na-pragu-digitalne-diktature-brez-zasebnosti-in-brez-svobode/489378

Aljoša Masten

Pot v totalitarizem je tlakovana z všečki

Pred več kot desetimi leti so v modni svetovalnici britanskega dnevnika The Guardian odgovarjali na vprašanje, kako se obleči za Facebook. »Končno sem se pridružila Facebooku,« je poveda­la bralka Lauren. »A sem se znašla v hudi modni zadregi. Kako naj se oblečem za svojo profilno fotografijo? Naj sledim svojemu odštekanemu modnemu slogu ali mi priporočate kaj bolj umir­jenega?«

Odgovora se ne spomnim več, toda nekaj mesecev pozneje sem na srečanju novomedijskih podjetnikov izvedel, da sta lon­donska študenta – ameriški novinarski fotograf in modna obli­kovalka – prav v Laurenini zadregi zaslutila rešitev svojih težav. Padec vrednosti ameriškega dolarja jima je v preteklih nekaj mesecih zelo oklestil študentska kredita, ki sta zaradi visokih lon­donskih cen skopnela že pred koncem prvega semestra. Vedela sta, da si bosta morala do pomladi poiskati delo, če bosta hotela ostati v Evropi. Kaj pa, ko bi združila znanje in upala, da je na spletu še dovolj podobnih modnih zadreg?

Uredila sta si manjši fotografski studio. Študijski kolega je postavil spletno stran, na voljo sta imela tudi skladišče z obleka­mi preteklih študentskih modnih revij. Storitev je bila preprosta: fotografiramo za družabna omrežja. Potrebujete resno, zabavno, elegantno ali ekstravagantno fotografijo? Se ne znate odločiti in vam mi izberemo pravo podobo? Čez nekaj mesecev nista več razmišljala o kreditu, toda študija tisto leto nista končala, saj sta imela preveč dela s fotografiranjem in modnim svetovanjem. Sprva sta se specializirala za Facebook, nato sta v ponudbo doda­la še druga družabna omrežja: za iskalce službe, zmenkarske plat­forme in osebne predstavitve.

Pri delu sta se morala najprej prilagoditi precej drugačni fotografski psihologiji. Tradicionalni portretni fotograf je moral pravilno ugotoviti, s kakšno podobno bo zadovoljen naročnik – na kateri fotografiji si bo najbolj všeč. Pri tem si je lahko pomagal s pogovorom in skupnim pregledovanjem preskusnih fotografij, ki so razkrile pričakovanja portretirane osebe. Ta niso bila odvi­sna samo od okusa, temveč tudi od spola, starosti, družbenega položaja, poklica in vloge, ki jo je uprizarjal posameznik. Foto­grafija je morala utrjevati to vlogo in dober portretni fotograf jo je znal uprizoriti.

»Fotografiranje za Facebook« je bilo drugačno. Sprva se je zdelo, da je družabno omrežje predvsem spletna preslikava ana­lognega predhodnika – šolskega zbornika s fotografijami in opisi, ki so ga ob koncu letnika prejeli sošolci in sošolke. Takšne so bile tudi profilne fotografije na Facebooku. Uporabniki so objavlja­li, kar so pač imeli: podobe iz družinskih albumov, portrete iz osebnih dokumentov, izrezke iz skupinskih fotografij, simbolne podobe in ilustracije ali, če so imeli srečo, nekoliko boljše posnet­ke, ki jih je posnel kolega s »pravim« fotoaparatom. Toda digital­ni zborniki so ponujali možnost, ki je zelo hitro postala najpo­membnejše merilo za novi družbeni status: števec elektronskih prijateljev in možnost všečkanja objav.

Uredniki lastnega tabloida

V knjigi Zasvojeni (Hooked, 2014) je ameriški publicist in poz­navalec internetne industrije Nir Eyal pojasnil, da so se snovalci družabnih omrežij zgledovali po igrah na srečo. Igralni avtomati in druge igre na srečo morajo igralcu ponuditi ravno pravo raz­merje med nagradami, naključjem, ugodjem in frustracijo, da težko prekinejo igro. Igralnice imajo za takšno pogojevanje eko­nomski interes, saj jim vsaka dodatna minuta za igralnim avto­matom ali mizo povečuje dohodek. Podobno načelo upoštevajo računalniške igre in elektronska družabna omrežja, ki uporabni­ško pozornost (»angažiranost«) preprodajajo oglaševalcem. Poi­skati morajo načine, s katerimi bodo »igralce« čim dlje obdržali pred elektronskimi zasloni in jih prepričali, da se vedno znova vrnejo.

S preskušanjem uporabniškega vedenja so ugotovili, da jav­no viden števec prijateljev (že poimenovanje vseh elektronskih stikov za »prijatelje« ni naključno) spodbuja pridobivanje novih prijateljev. To pomeni tako hitrejše in manj premišljeno dodaja­nje novih stikov – oseb, ki jih niti zares ne poznamo – kot tudi vedenje, zaradi katerega nas v svoje sezname dodajajo drugi. Pri tem ima zelo pomembno vlogo všečkanje, saj z všečkanjem tujih objav povečujemo verjetnost, da bomo sprejeti v njihovo omrež­je, in hkrati možnost, da bomo tudi sami uživali v nagradi, ki jo prinese tuja pozornost. Če bi se pred dvajsetimi leti vsakih nekaj minut oglasili na pošti in vprašali, ali nas čaka kaka nova poši­ljka, bi nas imeli za nore, ugotavlja Eyal. Če vsakih nekaj minut preverimo dogajanje na družabnih aplikacijah, je to postala nova normalnost, ki pa ni brez posledic.

Londonska študenta sta kmalu ugotovila, da za njune naroč­nike ni pomembno predvsem lastno zadovoljstvo s fotografijami, temveč odzivi, ki jih je objava sprožila na družabnem omrežju. Je prejela dovolj pohvalnih komentarjev in všečkov? Je pritegni­la nove prijatelje? Jo je pohvalil ali pograjal kak vplivnik – ose­ba z višjim statusom in razvejenim družabnim omrežjem? Zato sta se problema lotila podatkovno. Sledila sta spletnim objavam fotografij, ki sta jih posnela, in za vsako izračunala »uspešnostni indeks«. Na vseh družabnih omrežjih in fotografskih knjižnicah sta iskala in analizirala najbolj deljene, komentirane in priljublje­ne fotografije, da bi morda našla pravi recept za idealno družabno fotografijo.

Ugotovila sta, da imajo najbolj komentirane fotografije neka­tere podobne sestavine. Mogoče jih je razvrstiti v nekaj značil­nih zvrsti, od »zabavnih« (posnetih v šibki svetlobi in pogosto od zgoraj) in »zasanjanih« (prevladujejo mehkejše barve in svetli toni) do »avanturističnih« (šport in potovanja) in »romantičnih« (v paru). Pozitivna čustva (nasmejani obrazi) so veliko privlač­nejša od nevtralnih podob, ekstrovertiran videz ima prednost pred umirjenim. A sta trčila ob podobno oviro kot razvijalci algoritmov za iskanje glasbenih uspešnic. Algoritmi znajo zelo dobro pokazati, zakaj je bila priljubljena skladba priljubljena, saj v veliki večini uspešnic najdejo podobne prvine: harmonije, ritme, prehode in razmerja med refreni. Precej manj uspešni pa so poskusi ustvarjalcev in producentov, ki hočejo z algoritemsko pomočjo in analizo preteklih skladb sestaviti novo uspešnico, ugotavlja Christopher Steiner v knjigi Avtomatiziraj tole (Auto­mate This, 2012). Popularna glasba je postala zaradi uporabe algoritmov vse bolj uniformirana, saj je začel velik del ustvarjal­cev slediti enakim pravilom všečnosti. To pa velja tudi za fotogra­fije (in fotografe) na družabnih omrežjih.

Dodajanje povratne zanke – števcev, komentarjev in všečkov – je na družabne platforme vplivalo precej drugače, kakor so upa­li in verjeli zgodnji teoretiki interneta. Neskončne možnosti objav in osebnega izražanja, ki jih ponujajo blogi in osebni profili, v res­nici niso tako neskončne. Tim Wu v knjigi Trgovci s pozornostjo (The Attention Merchants, 2016) pojasnjuje, da morajo lastniki družabnih platform upoštevati enaka pravila industrije pozor­nosti kot pred njimi lastniki množičnih medijev in oglaševalskih agencij. Če so hotela komercialna medijska podjetja preprodajati pozornost oglaševalcem, so morala pritegniti čim večje občinstvo v demografskih skupinah z največjo porabniško močjo. Zato so brez vsakršne cenzure ali zunanjega ukaza večinoma ponudila podobno razmerje zabavnega, šokantnega in strašljivega, iz česar so zrasli tabloidi – tiskani in pozneje televizijski -, ali, drugače rečeno, sredinskega in očiščenega vsakršne skrajnosti, ki bi lahko odvrnila porabnike.

Spletne platforme so od medijskih podjetij prevzele poslov­ni model in glavni vir dohodkov – oglase, vendar s pomembno razliko. Večine vsebin niso prispevali plačani profesionalci, torej uredniki, novinarji in publicisti, temveč uporabniki družabnih omrežij. Zato so uspešna spletna podjetja postopoma razvila sis­teme spodbud in omejitev, ki so usmerjali uporabniško vedenje v oglaševalcem prijazne načine. Uporabniki Facebooka, Snapcha­ta, Instagrama in drugih družabnih omrežij se zelo hitro nauči­jo, katere objave jim prinesejo večji družabni izkupiček. Podob­no kot lastniki elektronskih platform tudi oni merijo uspešnost objav, odstranijo manj uspešne vsebine in ponudijo več tistega, kar prinaša nagrado. Enakim pravilom sledijo spletni iskalniki in oglasni algoritmi, ki pomembnost določene objave ovrednotijo predvsem z njeno zmožnostjo, da spodbuja odzive uporabnikov. Bolj deljene, komentirane in všečkane vsebine imajo prednost pred tistimi, ki pritegnejo manj pozornosti uporabnikov, ne glede na vsebino. Tudi na spletu so se razvili zelo podobni žanri kot v komercialnih medijih. Namesto državljanskega novinarstva in debatnih idealov starogrške agora sta prevladali tabloidnost in utrjevanje porabniškega družbenega reda, ki jih brezplačno sou­stvarjajo uporabniki – in hkrati porabniki – spletnih platform.

Ujetniki mehurčka

Idealistično obdobje spletnih študij so zato nadomestili precej bolj realistični, kritični ali pesimistični pogledi, ki jih v knjigi Vi­deni povzema opazovalec in hkrati udeleženec elektronskih druž­benih fenomenov Dan Podjed.

Ker se družabni algoritmi učijo iz preteklega uporabniške­ga obnašanja in nam skušajo »ustreči«, nas neopazno zapirajo v »mnenjske mehurčke«, kjer nas obdajo z znanim in predvidlji­vim. Ali pa nas, nasprotno, obkrožijo z enako mislečimi, kar lahko radikalizira izolirane posameznike in krepi teorije zaro­te; pojav, ki ga je med prvimi opisal Eli Pariser v knjigi Filtrirni mehurček (The Filter Bubble, 2011). Nenehna elektronska pove­zanost in poudarjenost nista povečali vidnosti in bližine, ampak imata pogosto nasproten učinek – odtujenost in osamljenost. Življenje na Facebooku in drugih družabnih omrežjih je zato vse bolj podobno neskončni resničnostni oddaji, kjer je vsaka objava neizprosna bitka za košček pozornosti, primerjanje in strah pred izgubo pridobljenega družbenega statusa.

Takšna izguba ima za posameznika negativne psihološke učinke, saj povzroča stres, zbuja tesnobo in povzroči negativno samopodobo. Toda načrtno izkoriščanje človeške potrebe po raz­kazovanju in nagradah nima samo psiholoških posledic. Spletni oder, na katerem posamezniki igrajo svoje družbene vloge, je predvsem velikansko zbirališče podatkov, je laboratorij, v kate­rem smo vsi opazovanci.

Za ponazoritev spletne vidnosti nista več primerni prispo­dobi, ki so jih uporabili ustvarjalci nemškega filma Življenje dru­gih (2006), ko so predstavili delo anonimnega uslužbenca nek­danje vzhodnonemške varnostne službe Stasi – posameznika, ki z mikrofoni in kamerami spremlja vsako besedo oporečniškega para, ali podoba popolnega zapora, panoptika, ki ga je v 18. sto­letju predvidel britanski filozof Jeremy Bentham in pozneje v romanu 1984 nadgradil George Orwell. Oba sta domnevala, da je občutek nenehne vidnosti najučinkovitejša oblika nadzora, pri katerem sploh ne potrebujemo več dejanskih zaporniških pazni­kov ali človeških tajnih agentov, ki v ‘avtoritarnih režimih pre­ganjajo problematične posameznike. Živela sta v časih, ko si še noben režim ni mogel privoščiti toliko nadzorovalcev, kolikor je bilo nadzorovancev, zato sta za uresničitev družbe nadzora pot­rebovala utvaro nenehnega nadzora, v katero so verjeli nadzoro­vani. Vendar si je danes že mogoče predstavljati prihodnost brez takšne omejitve.

Velika številka je vsota vseh atomov v vesolju, mi je spomla­di 2016 v pogovoru povedal nekdanji tehnični direktor ameriške nacionalne varnostne agencije NSA Bill Binney in dodal, da je osem milijard Zemljanov za računske zmožnosti današnjih raču­nalnikov razmeroma majhna podatkovna zbirka. Tudi če zapiše­mo in analiziramo prav vsa sporočila, klice, lokacije, posnetke, spletna iskanja in elektronske interakcije omreženih posamezni­kov, še nismo dosegli tehničnih zmogljivosti računskih strojev, ki zmorejo s pomočjo strojnega učenja in algoritmov vse učinkovi­teje analizirati veliko podatkovje. To pomeni, da je postala teh­nično in operativno uresničljiva tudi dejanska družba nadzora.

Bo tudi uresničena?

Veliko podatkovje in strojno učenje, ki ga pogosto uporablja­mo kot sopomenko za umetno inteligenco, je mogoče primerjati z dvema preteklima iznajdbama, ki sta popolnoma spremeni­li zgodovino znanosti in človeške vednosti – s teleskopom in z mikroskopom. Prvi je približal svetove, ki so preveč oddaljeni za človeška čutila, drugi je razkril premajhne. Oba sta zahtevala dru­gačno razlago sveta in morda bodo imela podoben učinek tudi orodja, ki zmorejo celotno družbo opisati kot preplet podatkov­nih točk in njihovih interakcij. Strojni pogled namreč ne sestav­ljajo samo izjemno natančna tipala, ki lahko skoraj z roba veso­lja preberejo drobno pisavo, spoznajo obraze ali zaznajo drobne spremembe v temperaturi – znanilce bolezni ali skrite človeške dejavnosti. Podatkovni telemikroskopi omogočajo tudi spozna­vanje, povezovanje in analizo vzorcev, ki jih prej ni bilo mogoče zaznati.

Gospodarji podatkovnega mikroskopa

Vsak uporabnik elektronskih komunikacijskih orodij pušča uni­katen podatkovni prstni odtis, je povedal Binney. Med milijar­dami Zemljanov ni nobenega drugega posameznika, ki bi se ob enakem času zadrževal na istih lokacijah kot jaz, ki bi imel v ime­nikih iste stike, ki bi redno komuniciral z istimi osebami, ki bi na spletu iskal enake pojme, kupoval enake izdelke in prebiral iste vsebine.

Nihče drug nima mojega prstnega odtisa, s katerim odkle­pam pametni mobilnik, ali enakega obraza, kakor je objavljen na mojem družabnem profilu. Stroji na zapestju, na mizi in v žepih preštevajo srčne utripe in korake, poslušajo glasovne ukaze in zaznavajo razlike v govoru, ki lahko opozarjajo na stres, vzne­mirjenost ali prve znake degenerativne bolezni. Zbrani podatki bi lahko zelo koristili družboslovju, medicinski diagnostiki, napo­vedovanju naravnih nesreč, sodstvu ali lovcem na korupcijo in kriminal. Vendar imajo nekatere bistvene slabosti, zaradi kate­rih utegnejo njihovi negativni družbeni učinki prevladati nad pozitivnimi.

Prva je izjemno veliko nesorazmerje med opazovalci in opazovanimi. Za omrežno ekonomijo in strojno učenje je najpo­membnejša velikost. Več podatkov omogoča uspešnejše učenje algoritmov in natančnejše rezultate. Največ podatkov pa so zbra­le nacionalne države in velika zasebna podjetja, ki so pridobila monopolne ali močno prevladujoče tržne položaje v digitalni ekonomiji: Google, Amazon, Facebook, Apple, Microsoft in dru­gi. Ti podatki niso javna dobrina, ki bi bila dostopna vsem. Drža­ve jih hranijo zaradi strateških in varnostnih razlogov, korporaci­je jih skrivajo za poslovnimi skrivnostmi in varujejo kot zasebno lastnino. To hkrati povečuje moč lastnikov podatkov in jih varuje pred morebitnimi tekmeci, saj je postala cena vstopa v podatkov­no ekonomijo izjemno visoka.

Pri razvoju umetne inteligence bo skoraj nemogoče tekmo­vati z Googlom, ki je na računalniške strežnike shranil skoraj celoten splet, digitaliziral knjige, zbral velik del človeške pisne komunikacije (v medijih, blogih in elektronski pošti), izdelal natančne zemljevide celotnega planeta in se z operacijskim siste­mom Android naselil na večini pametnih mobilnikov. Le države z velikim obveščevalnim proračunom in dolgo vohunsko tradicijo zmorejo ustanoviti in financirati spletne agencije z več deset tisoč zaposlenimi, ki po zgledu Rusije in Kitajske pregledujejo vsebine na spletu in izvajajo propagandne kampanje, s katerimi skušajo vplivati na politične razmere po svetu. Samo največje politične stranke si lahko privoščijo zelo drage storitve analitskih družb, ki si prizadevajo, da z analizami družabnih omrežij, porabniških podatkov in osebnostnih vzorcev volivcev usmerjajo kampanjo ter zboljšajo volilni rezultat. Najmočnejša podatkovna orodja in umetna inteligenca bodo zato – podobno kot nekoč jedrske koni­ce – dosegljiva samo velesilam.

Takšna asimetrija moči morda pomeni konec demokracije, meni izraelski zgodovinar Noah Yuval Harari, ki je v zbirki esejev z naslovom 21 lekcij za 21. stoletje (21 Lessons for the 21st` Century, 2018) premišljal tudi o razmerju med informacijsko tehnologijo in totalitarizmom. Trditve, da nas družabna omrežja morda že poznajo bolje, kakor se poznamo sami, je treba razumeti dobese­dno. Naši digitalni prstni odtisi razkrivajo vse intimne podrobno­sti, osebnostne lastnosti, strahove, misli in čustvena stanja. Leta 2014 so morali pri Facebooku zaradi javnih kritik prekiniti študi­jo, v kateri so ugotavljali psihološke vplive izpostavljenosti dolo­čenim vsebinam, in ugotovili, da prikazovanje negativnih vsebin dejansko vpliva na slabše počutje in razpoloženje uporabnikov.

Harari meni, da se bo natančnost takšnega vplivanja z novimi podatki in analitičnimi orodji še izboljševala. To lahko v priho­dnosti prinese predvidevanje in oblikovanje človeških odloči­tev, konec svobodne volje in s tem demokratičnega političnega procesa.

Takšni scenariji niso omejeni samo na visokotehnološke avtokracije, kakršni sta Singapur in Kitajska, kjer preskusno uva­jajo sistem družbenega točkovanja, ki bo iz vseh zbranih podat­kov izračunaval družbeno sprejemljivost vsakega državljana. Tudi v zahodnih demokracijah je od komentarjev na družab­nih omrežjih, objavljenih fotografij in videov, lokacije in drugih podatkov vse bolj odvisno, na katero fakulteto se bo posameznik vpisal, katero delo bo opravljal, koliko kredita bo dobil, s kom bo šel na zmenek in kako visoko premijo življenjskega zavarovanja bo plačeval. Toda teh podatkov večinoma ne pregledujejo ljud­je, temveč stroji, kar je druga velika slabost nekritične uporabe podatkovnih telemikroskopov.

Države ne uvajajo informacijskih sistemov samo zaradi nad­zora, ampak tudi zaradi obljube večje učinkovitosti in prihran­kov. Politiki se odločajo za nakupe videonadzornih sistemov, da bi zmanjšali stroške za policijo in druge človeške programe za zmanjševanje kriminala. A jih nato zaupajo upravljavcem, ki hočejo prav tako zmanjšati stroške za človeške zaposlene in jih nadomestiti z algoritmi. Ti so v praksi še premalo natančni in jim ni mogoče zaupati pomembnih nalog. Najboljši sistemi za prepoznavanje obrazov se zmotijo v najmanj nekaj odstotkih primerov. Če takšen sistem namestimo na železniško postajo ali letališče, kjer je vsak dan milijon potnikov, to pomeni več deset tisoč napačnih prepoznav na dan, kar je povsem neuporabno za preganjanje terorizma in organiziranega kriminala. Toda brez ustreznih varoval lahko napačna strojna prepoznava naključne­mu posamezniku zelo zagreni življenje. Uvrsti ga na seznam tero­ristov ali celo posreduje vojaškemu brezpilotnemu letalniku, ki ga bo prepoznal in razstrelil.

Odgovor na takšne pomisleke je vedno enak. Potrebujemo še več podatkov in natančnejše algoritme, ki ne bodo delali napak.

Vse to kaže na dva možna scenarija za prihodnost. Prvega je v sklepu knjige Videni predvidel tudi Dan Podjed. Vsemogoč­ne elite bodo s podatkovnimi orodji nadzorovale in obvladovale svet, a pri tem ne bodo potrebovale represije ali uporabljale skoraj božjih moči, temveč se jim bodo ljudje podredili prostovoljno: zaradi udobja, popustov in narcistične potrebe po razkazovanju. V drugem bodo človeške usode preračunavali stroji, ki jim bodo politiki, uradniki in menedžerji postopoma prepustili večino odločanja ter jih s pomanjkljivimi podatki programirali za kar največjo učinkovitost. Takšni prihodnosti izbiramo vsakič, ko skušamo – podobno kot nekoč Lauren – z videzom pritegniti kar največ odobravanja na Facebooku ali drugih družabnih omrežjih. Za drugačne prihodnosti pa bo treba morda najprej postati manj družaben in bolj neviden: obrniti razmerje med nadzorovalci in nadzorovanimi, zahtevati dostop do podatkovnih orodij in nad­zor nad njimi, si prisvojiti lastništvo nad lastnimi podatki ter si prizadevati za pravico do zasebnosti. In vztrajati, čeprav za takšne zahteve ni mogoče pričakovati nagrad, prijateljstev ali všečkov – ne na spletu ne v družbi.

Lenart J. Kučič

Prispevek je izvirno objavljen kot spremna beseda knjigi Dana Podjeda, »Videni: Zakaj se vse več opazujemo in razkazujemo«, ki je izšla pri založbi ZRC.

Vir: Podjed, D. (2019). Videni: zakaj se vse več opazujemo in razkazujemo. Založba ZRC. Ljubljana

Napotila:
https://zalozba.zrc-sazu.si/sl/publikacije/videni#v
https://www.bukla.si/knjigarna/druzbene-vede/videni.html
http://www.lenartkucic.net

Gradimo distopijo, samo da bi ljudje klikali na oglase

We’re building a dystopia just to make people click on ads (Zeynep Tufecki, TED 2017) 

Klik za klikom gradimo distopijo, ki jo poganja umetna inteligenca, pravi turška tehnološka sociologinja Zeynep Tufecki. V TED predstavitvi podrobneje opisuje, kako se algoritmi podjetij kot so Facebook, Google in Amazon, s katerimi nas želijo prepričati, da bi kliknili na oglas, uporabljajo tudi za dostop do političnih in vitalnih družbenih informacij. In stroji pri tem niti niso glavna grožnja. Kar moramo razumeti je, kako lahko močni uporabijo umetno inteligenco za nadzor – in kaj lahko proti temu naredimo.

Odlomek:

»Kot javnost in kot državljani ne vemo več ali vsi gledamo iste informacije oz. kaj lahko vidijo drugi. Brez dostopnih skupnih informacij malo po malo javna razprava postaja nemogoča in mi se trenutno nahajamo na začetku tega procesa. Ti algoritmi lahko zelo enostavno zgolj na podlagi všečkov na Facebooku pridejo do informacij o vaši etnični pripadnosti, religioznih in političnih pogledih, osebnostnih lastnostih, inteligenci, srečnosti, uporabi prepovedanih substanc, starosti, spolu, spolni usmerjenosti itd. Ti algoritmi lahko identificirajo protestnike tudi če so njihovi obrazi delno prikriti.

Vse to so lahko sicer samo verjetnostna ugibanja in ne morejo biti 100% zanesljiva, a zaradi nekaj napačnih rezultatov se močni ne bodo nič kaj bolj uprli skušnjavi po uporabi teh tehnologij, kar bo seveda ustvarilo celo vrsto drugih težav. Predstavljajte si, kaj lahko država stori s tako veliko količino podatkov, ki jih ima o svojih državljanih. Kitajska že uporablja tehnologijo detektiranja obrazov za prepoznavanje in aretacijo ljudi. In v tem je tragedija: gradimo infrastrukturo avtoritarnega nadzora samo zato, da bi ljudje klikali na oglase. To ne bo Orwellov avtoritarizem. To ni »1984«. Če avtoritarni režim uporablja zastraševanje, da bi nas teroriziral, smo prestrašeni, toda to bomo vedeli in ga bomo za to sovražili ter se mu upirali. Če pa ljudje na oblasti uporabljajo te algoritme, da nas v miru gledajo, nas presojajo in usmerjajo, predvidevajo in identificirajo tiste, ki bi lahko delali težave ter upornike, uporabljajo obsežno arhitekturo prepričevanja in manipulirajo posameznike, vsakega posebej, z uporabo njihovih osebnih, za njih značilnih pomanjkljivosti in ranljivosti, in če to v velikem obsegu delajo preko naših zasebnih zaslonov, ​​tako da ne vemo niti tega, kaj od tega lahko vidijo naši sodržavljani in sosedje, nas bo takšen avtoritaren režim obkolil kot pajkova mreža in morda sploh ne bomo vedeli, da smo se vanjo ujeli.

Facebook služi milijarde, ker deluje kot odlična prepričevalna arhitektura. Toda struktura te arhitekture je enaka ne glede na to ali prodajate čevlje ali politiko. Algoritmi ne poznajo razlike. Isti algoritmi, ki povzročajo, da smo bolj dojemljivi za oglase, organizirajo prav tako naše politične, osebne in družbene tokove informacij in to moramo spremeniti.

Ne razumite me narobe, digitalne platforme uporabljamo, ker nam ponujajo veliko dodano vrednost. Facebook uporabljam za stike s prijatelji in družino po vsem svetu. Pisala sem že o tem, kako pomembni so socialni mediji za socialna gibanja. Študirala sem, kako je po vsem svetu mogoče te tehnologije uporabiti za izogibanje cenzuri. Ne gre za to, da bi bili ljudje, ki vodijo Facebook ali Google zlobni ali da bi namerno poskušali narediti državo ali svet bolj polariziran ter spodbujati ekstremizem. Prebrala sem veliko njihovih dobronamernih izjav. Toda pri tem ni pomemben namen ali izjave, ki jih ti ljudje dajejo, ampak strukture in poslovni modeli, ki jih gradijo. In to je jedro problema. Bodisi oglasi na spletnem mestu ne delujejo kot prepričevalna arhitektura ali pa je njihova moč zelo zaskrbljujoča. Eno ali drugo.

Kaj lahko storimo? To se mora spremeniti. Ne morem ponuditi preprostega recepta, ker moramo prestrukturirati celoten način kako deluje naša digitalna tehnologija. Vse od načina kako tehnologijo razvijamo do načina kako so v sistem vgrajene ekonomske in druge spodbude. Soočiti se moramo in poskusiti odpraviti pomanjkanje preglednosti, ki jo ustvarjajo lastniški algoritmi, strukturno moramo izzvati nejasnosti okoli strojnega učenja in vseh podatkov, ki jih zbirajo o nas. Pred nami je velika naloga. Mobilizirati moramo tehnologijo, našo ustvarjalnost in da, politiko, da bomo lahko gradili umetno inteligenco, ki nas bo podpira v naših človeških ciljih in ki jo bodo omejevale tudi naše človeške vrednote. Razumem, da to ne bo enostavno. Morda se ne bomo strinjali niti glede tega, kaj ti izrazi pomenijo. Toda, če bomo vzeli resno kako ti sistemi, od katerih smo tako odvisni, delujejo, ne vidim, kako bi lahko ta pogovor še kako preložili. Te strukture organizirajo kako delujemo in nadzirajo, kar lahko in česa ne moremo početi. Številne od teh platform, ki jih poganja oglaševalski denar se ponašajo, da so brezplačne. V tem kontekstu to pomeni, da smo mi izdelek, ki ga prodajajo. Potrebujemo digitalno ekonomijo, kjer naši podatki in naša pozornost ne bo na prodaj diktatorju ali demagogu, ki zanje ponudi največ denarja.«

Več na:
https://www.ted.com/talks/zeynep_tufekci_we_re_building_a_dystopia_just_to_make_people_click_on_ads

Napotilo:
https://tehtnica.wordpress.com/2017/10/01/tako-se-strah-in-jeza-prodajajo-za-dobicek/