Odpor proti technologiím začal v knihách. V roce 2010, kdy se motto Google „Nebuď zlý“ zdálo být neironické a TED talks chválil internet jako skvělý sociální ekvalizér, stále přitahovaly důvěřivé publikum, knihy jako Eli Pariser „The Filter Bubble“ a Shoshana Zuboff „The Age of Surveillance“ Kapitalismus“ byly pojmy, které by masivně posunuly veřejné mínění. Během příští dekády budou technologie, nebo přesněji software, považovány méně za inovativní vymoženost a více za předzvěst společenského otřesu.
V roce 2022 je anti-tech mainstream. Nápady, které pocházejí z knih o tom, jak platformy a jejich základní algoritmy umělé inteligence ohrožují společnost, se dostaly do dokumentárních filmů Netflix, op-ed, dvoustranné legislativy a dokonce i do nejnovějšího „Space Jam“ (se superpadouchem Al-G Rhythm, kterého hraje Don Cheadle). Technologičtí vědci jako Lina Khan a Meredith Whittaker, kteří byli kdysi považováni za okrajové pro svou kritiku strukturálních škod technologií, se ocitli s významnými funkcemi v Bidenově administrativě. Svět konečně naslouchá technologickým kritikům. Teď je tedy otázka: O čem by měli psát dál?
Snadnou odpovědí je svézt se na vlně nové neoblíbenosti technologií, a to je možnost, kterou si technologický korespondent NBC News Jacob Ward zvolil při psaní „Smyčka: Jak technologie vytváří svět bez možností a jak bránit se." Kniha tvrdí, že kapitalistické technologie umělé inteligence „kořisťují naše psychologické slabosti“ a hrozí vytvořením „světa, ve kterém jsou naše volby zúžené, lidská činnost omezená a naše nejhorší nevědomé impulsy ovládají společnost“. Více než to, že čtenářům řekne něco nového o nebezpečích technologií, však „The Loop“ poskytuje důkaz, že samotná technická kritika se kalcifikuje v mainstreamový žánr.
Titulní „smyčka“, před kterou Ward své čtenáře varuje, má kořeny v síle, předvídatelnosti a hlouposti naší nevědomé mysli. Když se lidé rozhodují, náš mozek rychle volí zkratky. Při tom děláme předvídatelné, systematické chyby, jako je nesprávný výpočet rizika a přehnaná důvěra v autoritu. Technologické společnosti, tvrdí Ward, používají algoritmy k tomu, aby se zmocnily těchto nevědomých vzorců za účelem zisku. „Smyčka“ je Wardova spekulace, že naše stále rostoucí závislost na produktech umělé inteligence – Spotify pro hudební doporučení, algoritmy sociálních médií pro zprávy, automatické zbraně pro vedení války – pohání naši bezmyšlenkovitost, což nás zase činí více závislými na umělé inteligenci, a tak na. "Za jednu nebo dvě generace," tvrdí Ward, "budeme úplně jiný druh - roztržití, poslušní, bezmocní vzdorovat technologiím, které používáme k tomu, abychom se rozhodovali za nás, i když jsou to špatné volby."
V celé knize vede Ward rozhovory s technologiemi, akademiky a běžnými uživateli, aby pochopili, jak se různé produkty umělé inteligence neoddělitelně vetkly do lidských životů. V jedné části hovoří s lidmi závislými na „sociálních kasinových hrách“, bezplatných simulátorech hazardních her, které uživatele, často chudé a na temných místech v jejich životech, ukolébávají k utrácení desítek tisíc skutečných dolarů za měnu ve hře. . V dalším jede Ward spolu s policisty, kteří hlídkují v rytmu diktovaném PredPol (nyní Geolitica), neslavně rasově zaujatým algoritmem, který na základě minulých incidentů předpovídá, kde dojde ke zločinu. Ward se ptá: "Co se stane, když jsou rozpočty a plány pro policii postaveny na předpokladu, že předplatné softwaru může nahradit nutnost platit přesčasy detektivům?" Pro lidi i instituce platí, že jakmile je AI zavedena, je těžké ji odstranit.
Většinou však Wardovy příklady nezapadají do jeho čistého pojetí umělé inteligence jako síly zla. Vezměte si jeho diskusi o incidentu z roku 2017 na palubě letu United Airlines 3411, kdy bezpečnostní důstojníci fyzicky vyvlekli Davida Daa, lékaře, z přeplněného letadla; odmítl odejít poté, co byl vybrán víceméně náhodně k nedobrovolnému odstranění. Ward popisuje Dao ne jako oběť násilně špatného zákaznického servisu, ale jako osvíceného bojovníka za svobodu, který se pevně postavil proti diktátorskému algoritmu. "Všichni - od letušek, které trvaly na tom, aby Dao změnil let navzdory následkům pro jeho pacienty, přes mladý pár, který vystoupil, když byl požádán, až po důstojníky, kteří byli povoláni k odstranění Daa - jednali pod vedením většího záhadného stroje." Ward mohl využít incident United k tomu, aby se zabýval těžkými otázkami o tom, kdy by měly být algoritmy použity k rozhodování a jak by tato rozhodnutí měla být sdělována. Místo toho to využije jako další příležitost zatřást pěstí u počítače, který všechno zničil.
Ward se staví stejně rázně proti umělé inteligenci, která prokazatelně zlepšuje životy lidí. Vyzpovídá Yacqueline, rozvedenou ženu, která má problém zvládat nepřátelství vůči svému bývalému, když vyjednávají o čase se svým 5letým synem. Soudce nařídí, aby ona a její bývalý manžel komunikovali prostřednictvím coParenter, aplikace pro zasílání zpráv pro rozvedené rodiče, která používá AI k detekci a zmírnění nepřátelského jazyka. Yacqueline popisuje aplikaci jako dar z nebes, ale Ward vidí pouze nebezpečí. „Jsou Yacqueline a její bývalý model pro [svého syna] vůbec něco, kromě nevýrazné kolegiality, kterou čtou řádek po řádku ze série výzev řízených umělou inteligencí? . . . Je to školení? Nebo jsou to tréninková kolečka, která nikdy nesejmou?" Ward ignoruje jakýkoli důkaz o opaku, například jak se Yacqueline nikdy nenaučila takové dovednosti zvládání konfliktů od svých vlastních rozvedených rodičů bez AI.
„The Loop“ má ty správné anekdoty, jak zápasit s etickou nejednoznačností AI, ale místo toho se snaží dokázat, že AI je téměř bez výjimky špatná. Zdá se, že Ward si vzal špatné ponaučení od autorů techlashů, kteří před ním přišli: Místo aby následoval jejich metody zvažování ze všech úhlů a zpochybňování status quo, řídí se novým status quo, který pomohli vytvořit.
Kritizovat kapitalismus a technologie řízené umělou inteligencí je dnes výzvou v tom, že je těžké přijít s argumentem, který by čtenáři, jejichž mozky byly dostatečně pokřivené internetem, nedokázali intuitivně pochopit. . Některé nedávné knihy se této výzvě postavily vstříc – například „Atlas AI“ od Kate Crawfordové a nedávná série čtyř knih časopisu Logic Magazine o technologickém průmyslu vrhají nové světlo na dopad AI na životní prostředí a stinné pracovní postupy. Ale „The Loop“, stejně jako mnoho knih, které si kladou za cíl dokázat, že technologie je jednoznačně špatná, nabízí jen málo nového. Místo toho pokračuje v cinkání zvonu anti-tech burácení, zvuku, který jsme všichni už slyšeli a nepotřebujeme ho slyšet znovu.
Gabriel Nicholas je výzkumný pracovník v Centru pro demokracii & Technologie a spolupracovnice NYU Information Law Institute a NYU Center for Cybersecurity.
The Loop
Jak technologie vytváří svět bez možností a jak se bránit
Od Jacoba Warda
Hachette. 320 str. 29 $
