NATÁLIE KÁČOVÁ nkacova@mail.muni.cz

Už jste si pomocí umělé inteligence (AI) vyrobili plakátek na míru pro další autorské čtení či lekci v knihovně? Nechali na AI, ať za vás sestaví zdvořilou odpověď na email, na který se vám za každou cenu nechce odepisovat? Pohotově s pomocí AI odpověděli na zvídavé dětské dotazy, na které vaše porozumění fyzice, vesmíru a životu nestačí? Nástroje generativní umělé inteligence v posledním roce vstoupily do každodennosti mnoha z nás.

Tyto nástroje otevírají nové možnosti, jak si zpříjemnit rutinní i kreativní práci, utvářet digitální obsah bez znalostí programování nebo grafických editorů. Nová uplatnění AI zároveň přinášejí změny, které úroveň jednotlivce překračují a mohou se stát hybnými silami širších, společensko-kulturních proměn – ať už v oblasti práce a uplatnění, (dalšího) vzdělávání nebo životních stylů a návyků.

Již řadu let vznikají scénáře, které nastiňují, jak automatizace, digitalizace a robotizace promění naši společnost. Jak jednou budeme skutečně žít, s jakými problémy a radostmi, trefně odhadne málokterá predikce. Místo definitivních rámců tak na predikce můžeme pohlížet spíše jako na vodítka, která nám pomáhají témata budoucnosti zachycovat, inspirovat se jimi a rozvíjet naši imaginaci o budoucnosti nebo i knihovně jako aktérovi budoucnosti.

Protože je budoucnost otevřeným a nejistým polem, dobré úvahy o budoucnosti jsou takové, které tuto otevřenost aktivně reflektují (Frick 2015). Vzpomeňme, co se o umělé inteligenci tvrdilo před popularizací AI generátorů na podzim 2022 – pro většinu z nás to byla technologie, která se zásadně vyhýbá sférám kreativců, bílých límečků, vysokoškoláků a lidí s vysokou kvalifikací. Podobu AI systémů, které si poradí s kreativními a kvalifikovanými úkoly, předvídal málokdo – a přece jsou to dnes pozice, které vnímáme jako nejvíce „ohrožené” a „vystavené přímému vlivu AI” (Cain Miller a Cox 2023).

Z překotného vývoje posledních dvou let lze extrahovat cennou lekci: ani dnes bychom neměli příliš lpět na představách pevně svázaných s aktuálně platnými, mainstreamovými podobami umělé inteligence. Tvář AI se do několika let (nebo i měsíců) s největší pravděpodobností opět promění – díky novým produktům, zdokonalování stávajících modelů, nové legislativě, integraci AI agentů mezi sebou nebo s dalšími technologiemi, jako je virtuální nebo augmentovaná realita. Vzniknou nové problémy, nová epicentra diskuzí a naší pozornosti, nové predikce.

V následujících odstavcích otevírám prostor k zamyšlení nad tím, co AI znamená pro budoucnost knihoven, specificky pak pro společenskou odpovědnost knihoven. Jsem přesvědčená, že knihovny by měly nejen pomáhat s přípravou společnosti na technologické změny, ale že by tak měly činit s jasným myšlenkovým a strategickým zadáním – rozvíjet takovou pomoc, která narovnává příležitosti napříč společností, cíleně podporuje znevýhodněné skupiny populace a přispívá k budování občanské společnosti. Jelikož budoucnost (knihoven) nechci uzavírat do příliš konkretizovaných podob, výzvy a příležitosti, které AI knihovnám klade, načrtnu spíše do rozvolněnějších kontur, úvah a otázek.

„Babičko, vyprávěj nám o klávesnici!“
příběh obratu k technologické přirozenosti

O AI často slýcháváme jako o technologii, která bude utvářet a prohlubovat sociální rozdíly či digitální propasti. Uvažovat ale můžeme i o opačné roli, kdy AI technologické bariéry neposiluje, ale pomáhá je překonávat. Stačí navštívit libovolný kurz počítačové gramotnosti, abychom viděli, že ovládání počítače je pro mnoho z nás neintuitivní, nepřirozené a stresující. Kdo s počítačem nevyrůstal a chce s ním pracovat, se vydává na poměrně strastiplnou cestu. Učí se, jak psát na klávesnici, klikat na ikonky a používat internet. Snaží se zapomenout na první omyly, kdy zprávu zamýšlenou jako soukromou olajkovalo deset přátel veřejně na timeline Facebooku. Viděno očima uživatelů-nováčků: dnešní mainstreamové technologie jsou poměrně složitými rozhraními a dovedou odrazovat a zastrašovat.

Zajímavý obrat v otázce přístupnosti technologií by mohl přinést směr inkluzivní umělé inteligence, usilující o design otevřený a přívětivý pro co nejvíce uživatelů. Příkladem inkluzivní inovace jsou hlasoví AI asistenti, které řada z nás používá. Místo zadávání dotazu do vyhledávacího pole se asistenta stačí zeptat stejně, jako kdybychom se ptali člověka stojícího vedle nás. Díky přirozenému a intuitivnímu ovládání si nový způsob vyhledávání informací mohou vyzkoušet lidé nezávisle na dovednostech a zkušenostech. AI asistenta navíc mohu poprosit nejen o dohledání informace, ale i o pomoc s překladem do cizího jazyka, s tvorbou obsahu – textového i audiovizuálního – nebo kódu. Takto umělá inteligence dovoluje přemostit další dovednostní propasti a zároveň uvádí na scénu novou metadovednost promptování (zadávání příkazů botům).

Pokusíme-li se o radikální imaginaci, spatříme variantu budoucnosti, kdy na dny, které jsme strávili shrbení u monitorů, budeme vzpomínat jako na střípek dávno pohřbené kolektivní paměti a o zamotaných drátech klávesnice a zaprášených PC bednách budeme jako o kuriozitě vykládat vnoučatům, která vyrůstala v metaverzním prostoru s hologramy svých lidských kamarádů a AI asistentů.

Inkluzivní AI v sobě obsahuje zajímavý paradox – pomocí emergentní technologie se snaží zlepšit situaci lidí, kteří z debaty o technologických inovacích typicky vypadávají a sami nemívají pocit, že se jich nové technologie osobně týkají. Otázkou pro knihovny je, jak se stát místy, která inkluzivní potenciál umělé inteligence posilují. Třeba tím, že pomáhají zpřístupňovat nové technologie těm, kterým by inovátorský design pomohl nejvýrazněji. Jak tušíme z dřívějších studií digitálního vyloučení (viz Nadace OSF 2023; Ehrlich, Michalová a Prokop 2018), nízká úroveň digitálních kompetencí znevýhodňuje nejen starší, ale i mladší ročníky a často je příznakem dalších znevýhodnění, jako je sociální vyloučení.

„Pamatujete, jaká to bývala dřina?”
příběh o (znovu)nalézání lidského potenciálu

Oblíbeným tématem predikcí je, jak velký objem lidské práce AI zvládne do budoucna zautomatizovat – „sebrat” lidským pracovníkům. Bude to magických 51 %, jak se pro Česko do příštích deseti let (do roku 2033) odhaduje (Deloitte 2018)? A jaké profese a pracovní úkony se vlivem automatizace nejvíce promění?

Proměna práce je téma, které tradičně vyvolává nelibé pocity úzkosti a nejistoty. Snad je to tím, že – slovy socioložky Kateřiny Nedbálkové – o práci „jsme si navykli přemýšlet jako o něčem, co nás definuje” (2022, s. 174). Nejen že se práce stala pevnou součástí našich identit, ale tvoří základní stavební kameny (kapitalistického) sociálního řádu. Z historických hledisek se ale práce proměňovala odjakživa, a to velmi výrazně – na změnu tak můžeme pohlížet jako na jednu ze základních vlastností a kategorií práce.

Pokud za změnami na poli práce stojí technologická inovace, můžeme být svědky toho, jak řada expertů a komentátorů sahá do šuplíků a oprašuje termín tzv. kreativní destrukce. Ten odkazuje na historickou zkušenost s technologickými revolucemi: posílení nové technologie část lidské práce vymýtilo, zároveň ale utvořilo podmínky pro vznik nové pracovní náplně a nových profesí. Kreativní destrukce vysílá uklidňující zprávu: stejně jako se nyní horníci rekvalifikují na programátory, až umělá inteligence převezme práci programátorů, bude stále na co se rekvalifikovat. Třeba na designéra vzdělávacích zážitků ve virtuální realitě, komunitního kurátora, kodéra emocí terapeutických botů nebo pěstouna, jelikož institucionální péče o děti do budoucna (doufejme) zanikne.

Teorie kreativní destrukce je zároveň ve své podstatě problematická, jelikož se spoléhá na historickou zkušenost, která se nemusí opakovat. Od jiných technologií se AI výrazně odlišuje tím, že se pomocí algoritmů strojového učení učí ze svých vlastních zkušeností. Pokud bude pokrok v této oblasti dále akcelerovat (nepřijde tzv. AI winter), pak tato technologie může poměrně rychle způsobit přerod, ale i rozvrat odvětví napříč trhem práce (McKinsey Global Institute 2018). V případě nepřipravenosti systému hrozí, že budeme svědky nové deprivace, zbrusu nových tříd ohrožených strukturálními změnami, zahlcení sociální záchranné sítě a řady nezamýšlených důsledků.

Takové výhledy budoucnosti zrcadlí klíčové téma pro současnost – je jím problematika prevence a schopnosti systému připravovat zavčas pracovní sílu a společnost na očekávané a předpokládané změny. V kontextu preventivní podpory dává smysl se spíše než zánikem práce zaobírat tematikou přerodu dovedností (tzv. skill shift), tedy přemýšlet, jak se proměňují nároky na naše dovednosti, jak lze předcházet riziku zastarávání dovedností a propadům do pasti nízkých dovedností (Willcocks 2024). Nejen v kontextu umělé inteligence se ukazuje, že vedle technických znalostí bude dále posilovat význam lidského potenciálu, který (prozatím) naprogramovat a zautomatizovat nelze – tvoří jej, mimo jiné, mezilidská komunikace, empatie, intuice, sociální cítění, ale i zápal pro věci, na kterých nám záleží, sdílení lidské kultury a kolektivních vzpomínek (McKinsey Global Institute 2018). Místo lynčování umělé inteligence jako zlodějky práce se proto můžeme snažit o budování pozitivní imaginace, co nás lépe připraví na budoucnost sdílenou s novými technologiemi, ptát se:

— Co knihovník budoucnosti umí a jak naplňuje svůj lidský potenciál? Co za něj převzala AI? Jak spolupráce lidského a AI knihovníka vypadá?

— Jaké hodnoty knihovny generují pro (místní) komunity? Pomáhají s rozvojem lidského potenciálu, a to i těm, kteří postrádají podporu od svého okolí nebo systému?

— Mohou knihovny přispět k tomu, aby i budoucím generacím záleželo na lidském kontaktu a podpoře – na přítomnosti lidského potenciálu? A jak?

„Počkej, jen si to rychle ověřím s mou AI.“
příběh o dobré a zlé umělé inteligenci

Fotografie papeže v bundě Balenciaga, svlékací aplikace, paralýza online diskuzí algoritmickým zálivem konspirací a relativizace (Vincent 2023; ČAUI 2023; Freedom House 2023) – to vše jsou indicie nastupující, v mnoha aspektech však už probíhající éry dezinformací, která AI zneužívá k setření dalších pater rozdílů mezi fikcí a realitou.

Při pohledu na fotorealistické, AI-generované obrazy se může zdát, že naše kognitivní schopnosti v boji proti dezinformacím degradovaly na zcela „prehistorickou” výbavu a že nám nezbývá nic jiného než přenechat bojové pole AI agentům – zlým (dezinformace produkujícím a šířícím) a hodným (dezinformace odhalujícím a eliminujícím). Podle novinářky O'Brien (2023) je ale skepse a podceňování lidské invence ve skutečnosti spíše rizikem, které nás může do budoucna poškodit. I v éře dokonalých dezinformací dává perfektní smysl pěstovat řemeslo ověřování informací, ukazovat, jak do pátrání po zdroji zapojovat lidskou nápaditost, zvídavost a nadšení z detektivní práce, rozvíjet, jak můžeme s verifikačními AI nástroji spolupracovat, ne se jimi nechat nahrazovat. Odolnost vůči dezinformacím může navýšit i přímá zkušenost s používáním AI nástrojů a dobré porozumění tomu, jak umělá inteligence funguje. S lepší znalostí technologie se přirozeně stáváme citlivější k obsahu, který je jejím produktem (tamtéž).

Vedle otázky dezinformací by neměly zaniknout další potemnělé kouty třpytivých AI nástrojů. Některé z nich shrnuje IFLA (2023) v dokumentu, který vznikl v rámci rozvíjení knihovnické AI strategie: jazykové modely, které v posledních měsících nabyly na popularitě, posilují stereotypy ve společnosti, „halucinují” zavádějící nebo lživý obsah, obchází autorská práva, netransparentně nakládají se zdrojovými daty. Méně často pak slýcháváme o environmentální stopě AI nebo o prekarizované práci v zákulisí vývoje umělé inteligence (tamtéž).

Move fast and break things, to je podle iniciativy Not my A. I. mantra vývoje řady technologických inovací (viz Varon a Peña 2022). Mantra, která zcela nepochybně akceleruje dění a přeje odvážným, zároveň však dovoluje, aby nové produkty pronikaly na trh bez toho, že bychom měli šanci zvážit jejich rizika a dopady. Otázky, jak inovace promění naše prožívání a co se jejím vlivem z našich životů vytratí, si klademe až zpětně, tedy pozdě.

Od big tech korporací garanci pomalých a odpovědných inovací očekávat nemůžeme. Snad i proto by knihovna mohla hledat cesty, jak se přidat mezi aktivní „hlídací psy” technologických inovací – jak rozvíjet debatu o dopadech nových technologií, povzbuzovat, zprostředkovávat a šířit hlasy veřejnosti, které by měly být její nedílnou součástí.

Příběhy budoucnosti: Proč je sbírat, poznávat, aktivně utvářet?

Z pohledu západní epistemologie budoucnost ještě neexistuje. Každý z nás ale něco, co bychom budoucností mohli nazvat – skládačku představ, očekávání, přání i nejistot, která se k budoucnosti upínají – nosíme v hlavách. Od Sheily Jasanoff (2015) víme, že představy o budoucnosti nejsou naivními obrázky bez reálného vlivu, ale mají performativní charakter – naši realitu (spolu)utváří. Dominantní sociotechnické vize budoucnosti budují očekávání a motivaci u důležitých aktérů, přitahují materiální kapitál a finanční investice. Až jednoho dne zjistíme, že budoucnost, o které jsme si doposud jen povídali, skutečně prožíváme.

Pokud je imaginace tak důležitou hybnou silou pro tvorbu budoucnosti, měli bychom v případě umělé inteligence znejistit. AI totiž zůstává nešťastně zakleta do reprezentací, které jsou zavádějící, vyvolávají paniku a šíří stereotypy. Iniciativa Better images of AI například nedoporučuje používat obrázky, které AI asociují s chladně modrými odstíny, lidským mozkem nebo se směsicí abstraktních kódů jako z Matrixu (viz Dihal a Duarte 2023). Naopak vybízí k tomu, abychom vynalézali novou představivost o AI, která nám lépe pomůže této technologii porozumět, transparentně ukazuje konkrétní uplatnění AI, přibližuje uživatelské příběhy a zkušenosti.

Pokud knihovny chtějí naplňovat roli průvodců novými technologiemi a působit nadále jako odpovědné instituce, musí zvládnout udržet tempo s ostatními inovátory a udržovat si náskok nad většinou svých uživatelů. Pomoci mohou zdánlivě drobné, ale důležité kroky:

— Zmapujte si vlastní dojmy a myšlenky týkající se umělé inteligence. V čem mohou být zaujaté, ať už pozitivně, nebo negativně?

— Vyzkoušejte si AI nástroje různého zaměření, jako je Chat-GPT, Midjourney, Adobe Firefly, Synthesia, Poe, ChatPDF, Replika, Muzify.ai, Sudowrite, Plot Factory, Automated Combat.

— Inspirujte se sdílenými knihovnami a databázemi promptů, jako je např. LearnPrompt.org.

— Projeďte si vzdělávací materiály od AI dětem a Elements of AI a manuály od Better images of AI a Not My A. I. o tom, jak o AI komunikovat i přemýšlet.

— Popovídejte si o umělé inteligenci s kolegy, s dětmi a pedagogy, s kreativci, pokladní nebo řidičem autobusu. Co o AI ví? Jak si budoucnost (s AI) představují?

— Vpašujte umělou inteligenci do vašeho kurzu, kroužku nebo dílny a překvapte návštěvníky. Nebo uspořádejte lekci o AI podle metodiky AI dětem.

— Ukotvěte se: Co se vám v knihovně daří a dělá vám radost? Co chcete lidem přinášet a umožňovat v kontextu nových technologií? Jak vašim přáním můžete jít či už jdete naproti?

Zdroje

CAIN MILLER, Claire a COX, Courtney (2023). In Reversal Because of A.I., Office Jobs Are Now More at Risk. Online. The New York Times. 24.8. Dostupné z: https://www.nytimes.com/2023/08/24/upshot/artificial-intelligence-jobs.html. [citováno 2024-01-06].

ČAUI. (2023). Varování: Svlékací aplikace a AI deepnude! Jak reagovat v případě zneužití fotografie? Online. 22.10. https://asociace.ai/varovani-svlekaci-aplikace-a-ai-deepnude-jak-reagovat-v-pripade-zneuziti-fotografie/. [citováno 2024-01-06].

DELOITTE (2018). Automatizace práce v ČR. Dostupné z: https://www2.deloitte.com/content/dam/Deloitte/cz/Documents/strategy-operations/Automatizace-prace-v-CR.pdf. [citováno 2024-01-06].

DIHAL, Kanta a DUARTE, Tania (2023). Better Images of AI: A Guide for Users and Creators. Online. The Leverhulme Centre for the Future of Intelligence and We and AI. Dostupné z: https://blog.betterimagesofai.org/better-images-of-ai-guide/. [citováno 2024-01-06].

EHRLICH, Matěj, MICHALOVÁ, Lea a PROKOP, Daniel (2018). Segmentace a typologie osob digitálně vyloučených a osob ohrožených digitálním vyloučením. Online. Dostupné z: https://portaldigi.cz/segmentace/pdf/Metodika-Segmentace.pdf. [citováno 2024-01-06].

FREEDOM HOUSE (2023). The freedom on the net 2023. Online. Dostupné z: https://freedomhouse.org/sites/default/files/2023-11/FOTN2023Final.pdf. [citováno 2024-01-06].

FRICK, Walter (2015). What research tells us about making accurate predictions. Online. Harvard Business Review. 2.2. Dostupné z: https://hbr.org/2015/02/what-research-tells-us-about-making-accurate-predictions. [citováno 2024-01-06].

IFLA (2023). Developing a library strategic response to artificial intelligence. Online. 20.11. Dostupné z: https://www.ifla.org/developing-a-library-strategic-response-to-artificial-intelligence/. [citováno 2024-01-06].

JASANOFF, Sheila a KIM, Sang-Hyun (2015). Dreamscapes of modernity: Sociotechnical imaginaries and the fabrication of power. University of Chicago Press.

MCKINSEY GLOBAL INSTITUTE (2018). Skill shift: Automation and the future of the workforce. Online. McKinsey & Company. Dostupné z https://www.mckinsey.com/~/media/mckinsey/industries/public%20and%20social%20sector/our%20insights/skill%20shift%20automation%20and%20the%20future%20of%20the%20workforce/mgi-skill-shift-automation-and-future-of-the-workforce-may-2018.pdf. [citováno 2024-01-06].

NADACE OSF. (2023). Studie: V Česku chybí data o digitálně vyloučených osobách a osobách ohrožených digitálním vyloučením. Online. 13.6. Digitálně a férově. Dostupné z: https://osf.cz/2023/06/13/studie-v-cesku-chybi-data-o-digitalne-vyloucenych-osobach-a-osobach-ohrozenych-digitalnim-vyloucenim/. [citováno 2024-01-06].

NEDBÁLKOVÁ, Kateřina (2022). Pracovat. Display.

O'BRIEN, Alex (2023). How to spot an AI cheater. Online. BBC. 21.7. Dostupné z: https://www.bbc.com/future/article/20230720-how-to-spot-an-ai-cheater-artificial-intelligence-large-language-models. [citováno 2024-01-06].

VARON, Joana a PEÑA, Paz (2022). Not my A.I.: Towards critical feminist frameworks to resist oppressive A.I. systems. Online. Carr Center for Human Rights Policy. Harvard Kennedy School. 12.9. Dostupné z: https://carrcenter.hks.harvard.edu/files/cchr/files/22_varon.pdf. [citováno 2024-01-06].

VINCENT, James (2023). The swagged-out pope is an AI fake – and an early glimpse of a new reality. Online. The Verge. 27.3. Dostupné z: https://www.theverge.com/2023/3/27/23657927/ai-pope-image-fake-midjourney-computer-generated-aesthetic. [citováno 2024-01-06].

WILLCOCKS, Leslie (2024). No, robots aren't destroying half of all jobs. Online. The London School of Economics and Political Science. Dostupné z: https://www.lse.ac.uk/study-at-lse/online-learning/insights/no-robots-arent-destroying-half-of-all-jobs. [citováno 2024-01-06].