Tekniikan vastareaktio alkoi kirjoista. 2010-luvulla, kun Googlen motto "Älä ole paha" tuntui epäironiselta ja TED-puheenvuorot, jotka ylistivät Internetiä suurena sosiaalisena taajuusmuuttajana, houkuttelivat edelleen herkkäuskoisia yleisöjä, kirjat, kuten Eli Pariserin "The Filter Bubble" ja Shoshana Zuboffin "The Age of Surveillance". Kapitalismi” olivat määritteleviä termejä, jotka muuttivat massiivisesti yleistä mielipidettä. Seuraavan vuosikymmenen aikana teknologiaa tai tarkemmin sanottuna ohjelmistoja aletaan nähdä vähemmän innovatiivisena käyttötarkoituksena, vaan enemmän yhteiskunnallisen myllerryksen esikuvana.
Vuonna 2022 anti-tech on valtavirtaa. Ideat, jotka saivat alkunsa kirjoista siitä, kuinka alustat ja niiden taustalla olevat tekoälyalgoritmit uhkaavat yhteiskuntaa, ovat päässeet tiensä Netflixin dokumentteihin, op-edeihin, kahden puolueen lainsäädäntöön ja jopa uusimpaan "Space Jamiin" (superroisto Al-G Rhythm, jota näyttelee Don Cheadle). Teknologiatutkijat, kuten Lina Khan ja Meredith Whittaker, joita pidettiin aikoinaan teknologian rakenteellisia haittoja koskevan kritiikin vuoksi, ovat huomanneet Bidenin hallinnossa merkittäviä nimityksiä. Maailma kuuntelee vihdoin teknologiakriitikkoja. Joten nyt kysymys kuuluu: Mistä heidän pitäisi kirjoittaa seuraavaksi?
Helppo vastaus on ratsastaa tekniikan uuden epäsuosion aallolla, ja tämän vaihtoehdon NBC Newsin teknologiakirjeenvaihtaja Jacob Ward valitsi kirjoittaessaan "The Loop: Kuinka teknologia luo maailmaa ilman valintoja ja miten taistelemaan takaisin." Kirja väittää, että kapitalistiset tekoälyteknologiat "saalistelevat psykologisia heikkouksiamme" ja uhkaavat luoda "maailman, jossa valinnat ovat kapeat, ihmisten toimivuus on rajoitettua ja pahimmat tiedostamattomat impulssimme hallitsevat yhteiskuntaa". Enemmän kuin kertoa lukijoille mitään uutta tekniikan vaaroista, "The Loop" tarjoaa kuitenkin todisteita siitä, että tekninen kritiikki itsessään on kalkkeutumassa valtavirran genreksi.
Nimellinen "silmukka", josta Ward varoittaa lukijoitaan, juontaa juurensa tiedostamattoman mielemme voimasta, ennustettavuudesta ja tyhmyydestä. Kun ihmiset tekevät päätöksiä, aivomme ottavat nopeasti oikoteitä. Näin tehdessään teemme ennakoitavissa olevia, systemaattisia virheitä, kuten riskin väärin laskemista ja auktoriteetin yliluottamusta. Ward väittää, että teknologiayritykset käyttävät algoritmeja kaapatakseen nämä tiedostamattomat mallit voittoa tavoittelemaan. "Silmukka" on Wardin spekulaatio, että jatkuvasti lisääntyvä riippuvuutemme tekoälytuotteista – Spotifysta musiikkisuosituksiin, sosiaalisen median algoritmeihin uutisille, automatisoiduille aseille sodan käymiseen – ajaa ajattelemattomuuttamme, mikä puolestaan tekee meistä riippuvaisempia tekoälystä ja niin edelleen. päällä. "Sukupolven tai kahden kuluttua", Ward väittää, "olemme täysin eri laji - hajamielisiä, tottelevaisia, avuttomia vastustamaan tekniikoita, joita käytämme tehdäksemme valintojamme puolestamme, vaikka ne olisivat vääriä valintoja."
Kirjassa Ward haastattelee teknologeja, tutkijoita ja jokapäiväisiä käyttäjiä ymmärtääkseen, kuinka erilaiset tekoälytuotteet ovat erottamattomasti kietoutuneet ihmisten elämään. Yhdessä osiossa hän puhuu ihmisille, jotka ovat riippuvaisia "sosiaalisista kasinopeleistä", ilmaispelaavista uhkapelisimulaattoreista, jotka tuudittavat usein köyhät ja elämänsä pimeissä paikoissa olevat käyttäjät käyttämään kymmeniä tuhansia oikeita dollareita pelin sisäiseen valuuttaan. . Toisessa Ward ratsastaa yhdessä poliisien kanssa, kun he partioivat PredPolin (nykyisin Geolitica) sanelemaa rytmiä. Tämä on pahamaineisen rodullisesti puolueellinen algoritmi, joka ennustaa, missä rikoksia tapahtuu menneiden tapahtumien perusteella. Ward kysyy: "Mitä tapahtuu, kun poliisin budjetit ja aikataulut perustuvat olettamukseen, että ohjelmistotilaus voi korvata tarpeen maksaa etsivien ylitöitä?" Sekä ihmisten että instituutioiden kannalta tekoälyn käyttöönoton jälkeen sitä on vaikea poistaa.
Useimmiten Wardin esimerkit eivät kuitenkaan sovi hänen siistiin käsitykseensä tekoälystä pahan voimana. Tarkastellaan hänen keskusteluaan United Airlinesin lennolla 3411 tapahtuneesta vuonna 2017 tapahtuneesta tapauksesta, kun turvapäälliköt raahasivat fyysisesti lääkärin David Daon pois ylivaratusta koneesta. hän oli kieltäytynyt lähtemästä sen jälkeen, kun hänet valittiin enemmän tai vähemmän satunnaisesti tahattomaan poistoon. Ward kuvailee Daoa ei väkivaltaisen huonon asiakaspalvelun uhrina vaan valistunutta vapaustaistelijaa, joka vastusti diktatorista algoritmia. "Kaikki – lentoemännät, jotka vaativat Daoa vaihtamaan lentoa potilaille aiheutuneista seurauksista huolimatta, nuori pari, joka nousi pyydettäessä, ja Daoa poistamaan kutsutut poliisit – toimivat suuremman, salaperäisen koneen ohjauksessa." Ward olisi voinut käyttää Unitedin tapausta pohtiakseen vaikeita kysymyksiä siitä, milloin algoritmeja tulisi käyttää päätösten tekemiseen ja kuinka nämä päätökset tulisi viestiä. Sen sijaan hän käyttää sitä toisena tilaisuutena puristaa nyrkkiään tietokoneella, joka tuhosi kaiken.
Ostosuhrit toimivat yhtä voimakkaasti tekoälyä vastaan, mikä parantaa todistetusti ihmisten elämää. Hän haastattelee Yacquelinea, eronnutta naista, jolla on vaikeuksia hallita vihamielisyyttä exään kohtaan heidän neuvotellessaan ajasta 5-vuotiaan poikansa kanssa. Tuomari määrää hänen ja hänen entisen aviomiehensä kommunikoimaan eronneille vanhemmille tarkoitetun coParenter-viestisovelluksen kautta, joka käyttää tekoälyä havaitsemaan ja lieventämään vihamielistä kieltä. Yacqueline kuvailee sovellusta jumalan lahjaksi, mutta Ward näkee vain vaaran. ”Ovatko Yacqueline ja hänen exänsä mallina [poikansa] hyväksi ylipäänsä mitään, lukuun ottamatta sitä tylsää kollegiaalisuutta, jota he lukevat rivi riviltä tekoälyn ohjaamista kehotuksista? . . . Onko tämä koulutus? Vai ovatko nämä harjoituspyörät, jotka eivät koskaan irtoa?" Kaikki päinvastaiset todisteet, kuten se, että Yacqueline ei koskaan oppinut sellaisia konfliktinhallintataitoja omilta, tekoälyttömältä eronneilta vanhemmiltaan, Ward jättää huomiotta.
"The Loop" sisältää oikeat anekdootit painiskella tekoälyn eettisen moniselitteisyyden kanssa, mutta sen sijaan se yrittää todistaa, että tekoäly on lähes poikkeuksetta huono. Ward näyttää ottaneen väärät opetukset häntä edeltäneiltä techlash-kirjoittajilta: Sen sijaan, että noudattaisi heidän menetelmiään pohtia kaikkia näkökulmia ja kyseenalaistaa status quon, hän ajaa uutta status quoa, jonka he auttoivat luomaan.
Tänään tekoälyvetoisen kapitalismin ja laajan teknologian kritisoinnin haaste on se, että on vaikea keksiä argumenttia, jonka mukaan lukijat, joiden aivot ovat tarpeeksi vääntyneet Internetin vaikutuksesta, eivät pystyisi ymmärtämään itseään. . Jotkut viimeaikaiset kirjat ovat vastanneet haasteeseen – esimerkiksi Kate Crawfordin "Atlas of AI" ja Logic Magazinen äskettäinen neljän kirjan sarja teknologiateollisuudesta valaisevat uutta valoa tekoälyn ympäristövaikutuksiin ja hämäräisiin työkäytäntöihin. Mutta "The Loop", kuten monet kirjat, jotka pyrkivät todistamaan, että tekniikka on yksiselitteisesti huonoa, ei ole juurikaan uutta tarjottavaa. Sen sijaan se jatkaa tekniikan vastaisen kiihottamisen kellon soimista, äänen, jonka olemme kaikki kuulleet ennenkin, eikä meidän tarvitse kuulla uudelleen.
Gabriel Nicholas on tutkija Center for Democracy & Teknologia ja yhteinen stipendiaatti NYU Information Law Institutessa ja NYU:n kyberturvallisuuskeskuksessa.
silmukka
Miten teknologia luo maailmaa ilman valintoja ja kuinka taistella takaisin
Kirjoittaja Jacob Ward
Hachette. 320 sivua 29 dollaria
