Gradimo distopijo, samo da bi ljudje klikali na oglase

We’re building a dystopia just to make people click on ads (Zeynep Tufecki, TED 2017) 

Klik za klikom gradimo distopijo, ki jo poganja umetna inteligenca, pravi turška tehnološka sociologinja Zeynep Tufecki. V TED predstavitvi podrobneje opisuje, kako se algoritmi podjetij kot so Facebook, Google in Amazon, s katerimi nas želijo prepričati, da bi kliknili na oglas, uporabljajo tudi za dostop do političnih in vitalnih družbenih informacij. In stroji pri tem niti niso glavna grožnja. Kar moramo razumeti je, kako lahko močni uporabijo umetno inteligenco za nadzor – in kaj lahko proti temu naredimo.

Odlomek:

»Kot javnost in kot državljani ne vemo več ali vsi gledamo iste informacije oz. kaj lahko vidijo drugi. Brez dostopnih skupnih informacij malo po malo javna razprava postaja nemogoča in mi se trenutno nahajamo na začetku tega procesa. Ti algoritmi lahko zelo enostavno zgolj na podlagi všečkov na Facebooku pridejo do informacij o vaši etnični pripadnosti, religioznih in političnih pogledih, osebnostnih lastnostih, inteligenci, srečnosti, uporabi prepovedanih substanc, starosti, spolu, spolni usmerjenosti itd. Ti algoritmi lahko identificirajo protestnike tudi če so njihovi obrazi delno prikriti.

Vse to so lahko sicer samo verjetnostna ugibanja in ne morejo biti 100% zanesljiva, a zaradi nekaj napačnih rezultatov se močni ne bodo nič kaj bolj uprli skušnjavi po uporabi teh tehnologij, kar bo seveda ustvarilo celo vrsto drugih težav. Predstavljajte si, kaj lahko država stori s tako veliko količino podatkov, ki jih ima o svojih državljanih. Kitajska že uporablja tehnologijo detektiranja obrazov za prepoznavanje in aretacijo ljudi. In v tem je tragedija: gradimo infrastrukturo avtoritarnega nadzora samo zato, da bi ljudje klikali na oglase. To ne bo Orwellov avtoritarizem. To ni »1984«. Če avtoritarni režim uporablja zastraševanje, da bi nas teroriziral, smo prestrašeni, toda to bomo vedeli in ga bomo za to sovražili ter se mu upirali. Če pa ljudje na oblasti uporabljajo te algoritme, da nas v miru gledajo, nas presojajo in usmerjajo, predvidevajo in identificirajo tiste, ki bi lahko delali težave ter upornike, uporabljajo obsežno arhitekturo prepričevanja in manipulirajo posameznike, vsakega posebej, z uporabo njihovih osebnih, za njih značilnih pomanjkljivosti in ranljivosti, in če to v velikem obsegu delajo preko naših zasebnih zaslonov, ​​tako da ne vemo niti tega, kaj od tega lahko vidijo naši sodržavljani in sosedje, nas bo takšen avtoritaren režim obkolil kot pajkova mreža in morda sploh ne bomo vedeli, da smo se vanjo ujeli.

Facebook služi milijarde, ker deluje kot odlična prepričevalna arhitektura. Toda struktura te arhitekture je enaka ne glede na to ali prodajate čevlje ali politiko. Algoritmi ne poznajo razlike. Isti algoritmi, ki povzročajo, da smo bolj dojemljivi za oglase, organizirajo prav tako naše politične, osebne in družbene tokove informacij in to moramo spremeniti.

Ne razumite me narobe, digitalne platforme uporabljamo, ker nam ponujajo veliko dodano vrednost. Facebook uporabljam za stike s prijatelji in družino po vsem svetu. Pisala sem že o tem, kako pomembni so socialni mediji za socialna gibanja. Študirala sem, kako je po vsem svetu mogoče te tehnologije uporabiti za izogibanje cenzuri. Ne gre za to, da bi bili ljudje, ki vodijo Facebook ali Google zlobni ali da bi namerno poskušali narediti državo ali svet bolj polariziran ter spodbujati ekstremizem. Prebrala sem veliko njihovih dobronamernih izjav. Toda pri tem ni pomemben namen ali izjave, ki jih ti ljudje dajejo, ampak strukture in poslovni modeli, ki jih gradijo. In to je jedro problema. Bodisi oglasi na spletnem mestu ne delujejo kot prepričevalna arhitektura ali pa je njihova moč zelo zaskrbljujoča. Eno ali drugo.

Kaj lahko storimo? To se mora spremeniti. Ne morem ponuditi preprostega recepta, ker moramo prestrukturirati celoten način kako deluje naša digitalna tehnologija. Vse od načina kako tehnologijo razvijamo do načina kako so v sistem vgrajene ekonomske in druge spodbude. Soočiti se moramo in poskusiti odpraviti pomanjkanje preglednosti, ki jo ustvarjajo lastniški algoritmi, strukturno moramo izzvati nejasnosti okoli strojnega učenja in vseh podatkov, ki jih zbirajo o nas. Pred nami je velika naloga. Mobilizirati moramo tehnologijo, našo ustvarjalnost in da, politiko, da bomo lahko gradili umetno inteligenco, ki nas bo podpira v naših človeških ciljih in ki jo bodo omejevale tudi naše človeške vrednote. Razumem, da to ne bo enostavno. Morda se ne bomo strinjali niti glede tega, kaj ti izrazi pomenijo. Toda, če bomo vzeli resno kako ti sistemi, od katerih smo tako odvisni, delujejo, ne vidim, kako bi lahko ta pogovor še kako preložili. Te strukture organizirajo kako delujemo in nadzirajo, kar lahko in česa ne moremo početi. Številne od teh platform, ki jih poganja oglaševalski denar se ponašajo, da so brezplačne. V tem kontekstu to pomeni, da smo mi izdelek, ki ga prodajajo. Potrebujemo digitalno ekonomijo, kjer naši podatki in naša pozornost ne bo na prodaj diktatorju ali demagogu, ki zanje ponudi največ denarja.«

Več na:
https://www.ted.com/talks/zeynep_tufekci_we_re_building_a_dystopia_just_to_make_people_click_on_ads

Napotilo:
https://tehtnica.wordpress.com/2017/10/01/tako-se-strah-in-jeza-prodajajo-za-dobicek/

2 comments

  1. Pingback: Ciljno oglaševanje uničuje internet in ruši svet | Oglaševanje na tehtnici
  2. Pingback: Velika vloga YouTuba v radikalizaciji uporabnikov interneta | Oglaševanje na tehtnici

Oddajte komentar

Fill in your details below or click an icon to log in:

WordPress.com Logo

Komentirate prijavljeni s svojim WordPress.com računom. Odjava /  Spremeni )

Google photo

Komentirate prijavljeni s svojim Google računom. Odjava /  Spremeni )

Twitter picture

Komentirate prijavljeni s svojim Twitter računom. Odjava /  Spremeni )

Facebook photo

Komentirate prijavljeni s svojim Facebook računom. Odjava /  Spremeni )

Connecting to %s