Неприятната реакция срещу технологиите започна в книгите. През 2010 г., когато мотото на Google „Не бъди зъл“ изглеждаше неиронично и TED лекции, възхваляващи интернет като велик социален еквалайзер, все още привличаха лековерна публика, книги като „The Filter Bubble“ на Ели Парисър и „The Age of Surveillance“ на Шошана Зубоф Капитализъм” дефинираха термини, които масово биха променили общественото мнение. През следващото десетилетие технологията или по-точно софтуерът ще започне да се разглежда по-малко като иновативно удобство и повече като предвестник на обществени сътресения.
През 2022 г. антитехнологиите са мейнстрийм. Идеи, възникнали в книги за това как платформите и техните алгоритми за изкуствен интелект застрашават обществото, са си проправили път в документални филми на Netflix, статии, двупартийно законодателство и дори най-новия „Space Jam“ (със суперзлодея Al-G Rhythm, изигран от Don Чийдъл). Технологични учени като Лина Хан и Мередит Уитакър, някога смятани за маргинални заради критиките си към структурните вреди на технологиите, се оказаха с видни назначения в администрацията на Байдън. Светът най-накрая се вслушва в технологичните критици. Така че сега въпросът е: Какво трябва да пишат след това?
Лесният отговор е да яхнете вълната на новата непопулярност на технологиите и това е опцията, която техническият кореспондент на NBC News Джейкъб Уорд избра, като написа „The Loop: Как технологията създава свят без избор и как да отвърне на удара.” В книгата се твърди, че капиталистическите AI технологии „използват нашите психологически слабости“ и заплашват да създадат „свят, в който нашите избори са стеснени, човешката свобода на действие е ограничена и нашите най-лоши несъзнателни импулси доминират в обществото“. Повече от това да каже на читателите нещо ново за опасностите от технологиите, обаче, „Примката“ предоставя доказателство, че самата технологична критика се превръща в мейнстрийм жанр.
Титулярният „примка“, за която Уорд предупреждава своите читатели, се корени в силата, предвидимостта и глупостта на нашите подсъзнателни умове. Когато хората вземат решения, мозъците ни бързо избират преки пътища. Правейки това, ние допускаме предсказуеми, систематични грешки като неправилно изчисляване на риска и предоверяване на авторитета. Технологичните компании, твърди Уорд, използват алгоритми, за да отвлекат тези несъзнателни модели за печалба. „Примката“ е спекулацията на Уорд, че нашата непрекъснато нарастваща зависимост от AI продукти – Spotify за музикални препоръки, алгоритми на социалните медии за новини, автоматизирани оръжия за водене на война – води до нашето безмислие, което от своя страна ни прави по-зависими от AI, и така На. „След поколение или две“, твърди Уорд, „ние ще бъдем съвсем различен вид – разсеяни, послушни, безпомощни да се противопоставим на технологиите, които използваме, за да направим избора си вместо нас, дори когато изборът е грешен.“
В цялата книга Уорд интервюира технолози, академици и обикновени потребители, за да разбере как различните AI продукти са станали неразривно вплетени в живота на хората. В един раздел той говори с хора, пристрастени към „социални казино игри“, безплатни симулатори на хазарт, които приспиват потребителите, често бедни и на тъмни места в живота си, да харчат десетки хиляди реални долари за валута в играта . В друг Уорд язди заедно с полицаи, докато патрулират в ритъм, продиктуван от PredPol (сега Geolitica), скандално расово предубеден алгоритъм, който предвижда къде ще се случи престъпление въз основа на минали инциденти. Уорд пита: „Какво се случва, когато бюджетите и графиците за полицейска дейност са изградени въз основа на предположението, че абонаментът за софтуер може да замени необходимостта от заплащане на извънреден труд за детективите?“ Както за хората, така и за институциите, веднъж въведен AI, е трудно да се премахне.
По-често обаче примерите на Уорд не се вписват в неговата чиста концепция за ИИ като сила за зло. Вземете неговото обсъждане на инцидента от 2017 г. на борда на полет 3411 на United Airlines, когато служители по сигурността физически измъкнаха Дейвид Дао, лекар, от препълнен самолет; той беше отказал да напусне, след като беше избран повече или по-малко произволно за принудително отстраняване. Уорд описва Дао не като жертва на изключително лошо обслужване на клиентите, а като просветен борец за свобода, който се изправи срещу диктаторски алгоритъм. „Всички – от стюардесите, които настояваха Дао да смени полета въпреки последствията за пациентите му, до младата двойка, която слезе, когато беше помолена, до служителите, призовани да отстранят Дао – действаха под ръководството на по-голяма, мистериозна машина.“ Уорд можеше да използва инцидента с Юнайтед, за да се заеме с трудни въпроси за това кога трябва да се използват алгоритми за вземане на решения и как тези решения трябва да бъдат съобщени. Вместо това той го използва като още една възможност да размаха юмрук срещу компютъра, който съсипа всичко.
Ward се бори с еднаква сила срещу ИИ, който видимо подобрява живота на хората. Той интервюира Яклин, разведена жена, която има проблеми с овладяването на враждебността към бившия си, докато преговарят за време с 5-годишния им син. Съдия нарежда тя и бившият й съпруг да общуват чрез coParenter, приложение за съобщения за разведени родители, което използва AI за откриване и смекчаване на враждебния език. Яклин описва приложението като божи дар, но Уорд вижда само опасност. „Дали Яклин и нейният бивш модел изобщо нещо за [сина си], освен скучната колегиалност, която четат ред по ред от поредица от подкани, управлявани от AI? . . . Това обучение ли е? Или това са тренировъчни колела, които никога не се свалят?“ Всяко доказателство за противното, като например как Яклин никога не е научила такива умения за управление на конфликти от собствените си, без ИИ разведени родители, Уорд игнорира.
„The Loop“ има правилните анекдоти, за да се бори с етичната неяснота на AI, но вместо това се опитва да докаже, че AI е, почти без изключение, лош. Уорд изглежда е извлякъл грешни уроци от авторите на techlash, които са дошли преди него: Вместо да следва техните методи за разглеждане от всички ъгли и поставяне под съмнение на статуквото, той язди новото статукво, което те помогнаха да установят.
Днес предизвикателството да критикуваш управлявания от изкуствен интелект капитализъм и технологии като цяло е, че е трудно да се измисли аргумент, че читателите, чиито мозъци са били достатъчно изкривени от интернет, не са могли да интуитивират . Някои скорошни книги се справиха с предизвикателството – „Атласът на изкуствения интелект“ на Кейт Крауфорд и скорошната поредица от четири книги на списание Logic за технологичната индустрия например хвърлят нова светлина върху въздействието на изкуствения интелект върху околната среда и сенчестите трудови практики. Но „The Loop“, подобно на много книги, които имат за цел да докажат, че технологията е недвусмислено лоша, няма какво да предложи. Вместо това, той продължава да бие камбаната на анти-технологичното подбуждане, звук, който всички сме чували преди и не е нужно да чуваме отново.
Габриел Никълъс е изследовател в Center for Democracy & Технологии и сътрудник в Института по информационно право на NYU и Центъра за киберсигурност на NYU.
Примката
Как технологиите създават свят без избор и как да отвърнем на удара
От Джейкъб Уорд
Hachette. 320 стр. $29
