I'm sorry, Dave. I'm afraid I can't do that

Forgjeves forsøker jeg å få Alexa til å skru av musikken, jeg vil konsentrere meg om artiklene som ligger nyprintede på spisebordet, men jeg har munnen full av pannekaker, snøvler ordene, og Alexa er sjelden særlig kjapp i oppfatningen. Musikken fortsetter ufortrødent. Dessuten løfter det seg en skjærende gråt fra barnevogna fordi den automatiske vuggefunksjonen plutselig er ute av drift, antagelig fordi den mistet kontakten med mobiltelefonen idet jeg satte en av dem til lading, litt for langt unna til at Bluetooth-teknologien lenger var i stand til å opprettholde en god dialog. Samtidig lyder et spørsmål fra min kone, uvisst hva egentlig, så jeg heiser på skuldrene. Om jeg vil ha kaffe? Nei, om jeg har laget kaffe? Ja, kannen står på bordet, prøver jeg å svare, men hunden vår har fått ferten av to rådyr på jordet nedover mot sjøen – nå gjør og hyler hun om hverandre, enten det er av begeistring eller det er av frustrasjon. Jeg gir opp og kommer med en bemerkning som lyder mer oppgitt enn ironisk, selv om jeg hadde til hensikt å være morsom. Men ingen hører meg uansett. Vel, bortsett fra Siri, som spør om jeg er redd, og om hun skal ringe noen.

Etter en halv time har vi noenlunde kontroll over situasjonen: Vår tre måneder gamle sønn ligger ved sin mors bryst, jeg har ryddet av kjøkkenbordet, lest artiklene ferdig, musikken er avskrudd, og hunden vår går for å hente en av joggeskoene mine i gangen. Kommunikasjon er stadig vanskelig, men akkurat dette signalet skjønner jeg. Jeg finner frem hundesele og løpesele, høretelefoner og astmamedisin. Kroppen er skrøpelig, men jeg løper like fullt.

Mens jeg snører joggeskoene, tenker jeg på hvor teknologioptimisme egentlig kommer fra, for fra det virkelige liv kan det ikke være, og fra den dystopiske sci-fi-litteraturen burde det heller ikke være, med mindre det er litteraturens vrengebilde som har manifestert seg i de pubertale gutterommenes mørke. Like fullt gjør den seg gjeldende, troen på at fremtiden skal være en teknologisk utopi, med sine flyvende farkoster, sin skinnende og uniforme arkitektur og med datamaskiner som tenker og handler som om de var mennesker. Og så høyt de snakker, teknologioptimistene, når de lovpriser alt sammen, enten det er snakk om elektriske fremkomstmidler, trådløse signaler, batteriteknologi, fiber, kryptovaluta eller ikke minst kunstig intelligens. Men å høre teknologifolk uttale seg om kunstig intelligens, er som å høre en tonedøv ingeniør snakke om akustikken i operaen etter en oppsetning av Puccini: Det mest vesentlige unnslipper. Sagt på en annen måte: Det er en fordel å vite hva som kjennetegner ekte intelligens, før man uttaler seg om den som er kunstig.

De siste kloke

En som derimot vet hva han snakker om, er lingvisten Noam Chomsky, antagelig en av vår tids mest intelligente mennesker. Dersom man som forfatter frykter at kunstig intelligens skal overta skrivearbeidet, finnes det en tilsynelatende trøst i Chomskys New York Times-artikkel «The False Promise of ChatGPT», som er en av de artiklene jeg har forsøkt å lese midt oppe i alt levenet. Den kunstige intelligensen er ikke intelligent, skriver Chomsky og belegger det med å vise til hvordan KI blant annet mangler moralske avveininger og evnen til ikke bare å si hva noe betyr, men også hva det ikke betyr, og å sette ethvert utsagn inn i en større sammenheng hvor hele den menneskelige historie ligger og dirrer under de spesifikke ordene. Det er nettopp fordi vi som intelligente mennesker har disse ferdighetene at vi evner å gi utsagnet en dypere mening og forklaring. Hvert ord og uttrykk rommer mer enn sin overflate og er uendelig mye mer enn en statistisk beregning av hva som bør være det neste ordet i rekken. Som mennesker er vi i stand til å skape ubegrenset mye med begrensede midler til rådighet. Dette kan regnes som et avgjørende kjennetegn ved ekte intelligens.

Filosofen og kulturkritikeren Slavoj Žižek er inne på noe av det samme i artikkelen «Artificial Idiocy». Den menneskelige språkforståelsen kjennetegnes blant annet ved evnen til å skjelne mellom ulike meningslag, ironi, undertekst, nyanser – alt dette som faller utenom språk som sannsynlighetsmodeller. Ordet «fuck» tjener som et eksempel, skriver Žižek. Selv om det er en aktivitet de fleste av oss har et visst utbytte av, er vi også lydhøre for de negative betydningene av ordet («Fuck you!»). Selv om en KI antagelig lar seg programmere til å skjelne mellom ulike kontekster, og dermed til en viss grad fange opp nyanser i bruken av et ord som «fuck», vil den ikke kunne fange det komplekse språkspillet, hvor ikke bare kontekst, men også blant annet avsender, mottaker, referanser, musikalitet («Bloody Mother Fucking Asshole») hører hjemme, i alle fall ikke slik maskinlæring fungerer i dag, hvor forståelsen til enhver tid baserer seg på et sett historiske data. KI-en vil derfor ikke kunne tilby noen fortolkning av de betydningene som er i ferd med å utvikle seg mer organisk i språket, siden den baserer seg på språket som var, ikke hva språket er eller er i ferd med å utvikle seg til.

Når Mark Zuckerberg og hans like fremstår som KI-ens apostler, mistenker jeg at det også har noe med deres egen språkforståelse å gjøre. Er man mer vant til å forholde seg til (programmerings)språk som et verktøy for å utføre beregninger og kommandoer, enn man er – jeg bare gjetter – til å fordype seg i litteraturhistorien, vil også evnen til å forstå for eksempel ironi virke mindre viktig. Dette er noe av det jeg frykter aller mest med KI, helt på linje med hva Žižek skriver: «[…] ikke at folk forveksler en chatbot med et ekte menneske, men at det å kommunisere med chatboter også får virkelige mennesker til å uttrykke seg på samme vis.» Dette er kanskje det mest realistiske dommedagsscenarioet dersom vi fortsetter å bruke KI med like hodeløs begeistring som vi har gjort til nå.

Klodenes kamp

Vi løper inn i skogen ved den nedlagte butikken, krysser feristen, og så er vi der, i alt det virkende grønne, hvor trær kommuniserer med trær gjennom sporstoffer i lufta eller det intrikate nettverket av mycel under jorda, uten at jeg av den grunn vil kalle systemet intelligent. Organisk, komplekst, uoverskuelig? Utvilsomt. Uerstattelig? Ja, definitivt. Og antagelig står det i fare for å gå tapt i takt med alle fremskrittene innen moderne skogsdrift: selvkjørende maskiner som omtales som intelligente. Trær som rives effektivt opp av jorden uten hverken moralske eller estetiske avveininger. Jeg har ingen problemer med å forestille meg en postapokalyptisk virkelighet hvor trærne bare finnes på museum. Likevel er det ikke dommedagsprofetiene vi vanligvis forbinder med kunstig intelligens, jeg frykter mest. Jeg forsøker, tross alt, å bevare roen og leve i håpet. Derfor setter jeg på en podkast-episode av Trygdekontoret som jeg har gledet meg til. Temaet er kunstig intelligens, og gjesten i studio er Torgeir Waterhouse, direktør for Internett og nye medier i IKT-Norge, og han er der for å snakke om KI-ens muligheter, hvorfor det er grunn til å være forsiktige optimister, men også om fallgruver og farer. Waterhouse er en fremragende formidler av teknologi, og hans arbeid med blant annet immaterielle rettigheter har jeg fulgt med stor begeistring. I tillegg er det god grunn til å berømme ham for kritikken av det nye datalagringsdirektivet, som truer både person- og kildevern.

Forventningsfull setter jeg høretelefonene på hodet før jeg justerer selen til min trofaste og nokså intelligente løpekamerat, og så bærer det innover på stien – om ikke i et håp om å søke skogens ro denne gangen, så for å høre noen beroligende ord, i det minste. Men roen er kortvarig, snart setter skrekken inn, og av helt andre grunner enn først antatt. For jo da, Waterhouse evner å tøyle de verste marerittene ganske kjapt. Han viser blant annet til «Skynet» og tilsvarende apokalyptiske scenarioer innen sci-fi-sjangeren og omtaler det som usannsynlig at en kunstig intelligens skal bestemme seg for å vende seg mot menneskene. Det velkjente scenarioet hvor maskinene forsøker å redde jorda fra den største trusselen, altså oss – vi dumme, dumme mennesker – stemples raskt som en forestilling i populærkulturen mer enn en sannsynlig fremtid. I Terminator-filmene, hvor Skynet-intelligensen forsøker å sprenge den menneskelige sivilisasjonen tilbake til steinalderen, kan man kanskje si at KI-en har mer egennyttige motiver, men budskapet er fortsatt like entydig: Menneskeheten er dr. Frankenstein, og KI-en er Frankensteins monster som vender seg mot sin egen skaper. Advarselen er selvfølgelig eldre enn som så og synes å gå hånd i hånd med alle tenkelige fremskritt: Utøv aktsomhet, for vi skuer neppe konsekvensene av våre egne oppfinnelser.

Likevel er alle disse scenarioene, i hvert fall de mest bokstavelige representasjonene av dem, neppe noe å frykte, uansett hvor visuelt sterkt det er å se menneskeheten bli utslettet av atombomber eller bli forvandlet til en slags organiske batterier (The Matrix), om ikke også å se Hal 9000 nekte å slippe Dr. David «Dave» Bowman tilbake om bord i romskipet (2001: A Space Odyssey): «I’m sorry, Dave. I’m afraid I can’t do that.» Som litterat vil jeg likevel minne om at det er bilder vi snakker om, og at den overførte betydningen av disse scenariene kan ha en langt bredere gyldighet. Det er ingen grunn til å lese science fiction som fanden leser Bibelen.

Vidunderlige nye verden

De største farene ved KI handler snarere om hvordan verktøyet benyttes av mennesker, slik også Waterhouse synes å mene. «Big data» utgjør allerede en stor trussel mot privatvernet, og man kan enkelt forestille seg hvordan stadig mer avanserte KI-er kan utføre beregninger og predikasjoner som er krenkende for privatlivet. «Pre-crime» er et av områdene som nevnes i podkasten, med det kjente scenarioet fra Minority Report (2002) som illustrerende eksempel på hvordan kriminalitet bekjempes før den er begått, og hvordan fremtidige gjerningsmenn fengsles før ugjerningen har funnet sted. Medaljens forside er derimot preventive tiltak, at man ved hjelp av KI for eksempel kan kartlegge såkalte sårbarhets- eller risikofaktorer og bekjempe disse på samfunnsplan samtidig som man beholder et godt data- og personvern.

Det er også mye annet å glede seg over. Jeg tror, som Waterhouse, at KI allerede redder liv – for eksempel i form av bedre billeddiagnostikk for å oppdage kreftsvulster på et tidlig tidspunkt, bedre sikkerhetssystemer innen transport samt komplekse beregninger innen miljøovervåkning. I tillegg er en rekke innovasjoner innen helsesektoren nær forestående, oppfinnelser som inntil nylig bare var for en fantasi å regne: insulinpumper og blodsukkermålere som gjør selvstendige og treffsikre målinger med nøyaktige og automatiske doseringer, deteksjon av tidlige tegn på hjerte- og karsykdommer og DNA-analyser. Man kan også forestille seg hvordan KI i kombinasjon med stamcelleteknologi åpner for å kurere det hittil uhelbredelige. Vi aner bare konturene, og så lenge vi hegner tilstrekkelig om personvernet, er jeg forsiktig optimist. Samtidig viser vel historien at veien er kort fra nettopp datalagring til overvåking og misbruk. Eller som Waterhouse uttalte til Nettavisen i forbindelse med innføringen av datalagringsdirektivet: «Det fremstår som opplagt at dette overvåkningsregimet har klare negative konsekvenser for personvernet når absolutt alle skal overvåkes. Det var kanskje dette Arbeiderpartiet mente med 'Alle skal med'.»

Like fullt fremstår Waterhouse som en litt for stor optimist på teknologiens vegne, i alle fall til å ha en beroligende effekt på en kulturpessimist som meg. På spørsmål om hvorvidt KI vil gjøre en rekke yrker overflødige, trekker Waterhouse frem bussjåføren som eksempel og påpeker at KI også frigjør arbeidskapasitet slik at den tidligere sjåføren kan få et rent serviceyrke om bord i den samme bussen. Her tror jeg Waterhouse forveksler utopien med hvordan verden faktisk fungerer, slik teknologioptimister gjerne gjør når de forestiller seg fremtiden. Jeg ser ingen tegn til at dagens nyliberalistiske virkelighet kommer til å forsvinne med KI, snarere er jeg overbevist om at den frigjorte arbeidskraften ikke fører til opprettelsen av andre stillinger, men utelukkende til en bedre bunnlinje for busselskapets eiere.

Et annet og potensielt mer overgripende problem med KI som et verktøy for menneskene, og i alle fall mer i tråd med de apokalyptiske scenarioene fra populærkulturen, er det såkalte «alignment problem». Det kanskje mest kjente eksempelet dreier seg om en KI som blir bedt om å effektivisere fisket i et oppdemmet vann, redegjør Waterhouse. KI-en gjør det den kan best, og regner på effektiviteten ved ulike metoder. Den soleklart beste fremgangsmåten er selvfølgelig å rive demningen og tappe dammen, for så å plukke døde fisk på land. At maskinen ikke tar høyde for en bærekraftig forvaltning, kan forklares med manglende rammeverk for beregningen: Regneprogrammet har ikke fått matet inn nødvendige premisser. Altså: shit in er stadig ensbetydende med shit out, og det er den menneskelige bruken av KI som igjen er trusselen.

Et slikt forsvar for KI er det lett å si seg enig i, men da tror jeg man raskt glemmer hvor vanskelig det vil være å gi maskinen alle nødvendige premisser. Som mennesker skuer vi bare over de mest åpenbare, men det betyr ikke at vi ikke kjenner de andre på et mer intuitivt plan, like lite som vi er i stand til å fortrenge enhver impuls om å utøve aktsomhet. Mennesket blir som kjent menneske blant mennesker, med alt hva det innebærer av å se farer og tilegne oss empati. Allerede i våre tidligste utviklingstrinn sammenkodes språk med kroppslig erfaring, med smerte og dens fravær. Å se og gjenkjenne smerte, å føle den på kroppen, er langt på vei det som gjør oss i stand til å ta moralske valg. Maskinlæring (slik den er i dag) kan ikke erstatte disse utviklingstrinnene, og KI vil derfor ikke kunne operere med moral – og av den grunn heller ikke med en ekte intelligens. Det rent rasjonelle vil med andre ord aldri bli intelligent i den egentlige betydningen av ordet, så lenge det ikke finnes en form for overordnet bevissthet bak ord og handlinger.

Det finnes også en rekke historiske eksempler som kan hevdes å underbygge påstanden om hvordan systemtenkning, det programmerbare, fører til både onde og uintelligente handlinger, uansett hvor rasjonelt de måtte fremstå innenfor de forhåndsgitte rammene. Veien er, som Chomsky poengterer, kort fra «the banality of evil» (slik Hannah Arendt brukte begrepet om Adolf Eichmann) til «the banality of AI»: «ChatGPT fremviser noe som ligner ondskapens banalitet: plagiat og apati og unnvikelse. Den oppsummerer standardargumentene som finnes i litteraturen [den søker i] med en slags super-auto-fullfør, nekter å ta stilling til noe som helst, erklærer seg ikke bare uvitende, men også uintelligent, tilbyr ikke noe annet standpunkt enn at den ‘bare følger ordre’, og skyver ansvaret over på sine oppfinnere», skriver han. Eller for å snu på det: Menneskeheten er også full av kunstig intelligente mennesker.

Et første skritt, eller et sprang

Et ekte intelligent menneske, verdt å dvele ved, er mannen på Oslos byvåpen, Sankt Hallvard. Før han ble en sankt, var han en bondesønn som agerte mot urett: Han så en gravid trellkvinne bli forfulgt etter beskyldninger om å ha stjålet fra en av nabogårdene, og ville at trellkvinnen skulle få en mulighet til å forsvare seg. Man kan tenke seg at Hallvard så seg selv i den andre, følte hennes frykt og smerte på sin egen kropp, og derfor forsøkte å gripe inn. For dette ble han drept med tre piler og senere senket i sjøen med en møllestein som lodd. Innenfor datidens rettssystem (år 1043) var det uhørt at treller skulle kunne forsvare seg. En beskyldning fra en storbonde var et godt nok bevis på ugjerningen. Det rent rasjonelle var dermed å steine trellkvinnen til døde, men Hallvard Vebjørnssons forsøk på inngripen – hvor liten virkning den enn hadde i det spesifikke tilfellet – kan regnes som et første skritt, eller et sprang, mot en ny og forbedret moral. Slik er hele vår historie skrevet, med overskridelser. Litteraturhistorien også. Skal man snakke om kunstig intelligens, enten det dreier seg om moral eller evnen til å uttrykke seg litterært, må man derfor måle KI-en mot menneskets evne til å bryte med konvensjonene, og ikke basere seg på dem, altså stikk i strid med hvordan ChatGPT baserer seg på et historisk arkiv, det til enhver tid gamle.

Skal jeg beskrive (språklig) intelligens innenfor mitt fagfelt, litteraturen, vil jeg si at den er kjennetegnet ved nettopp overskridelser – eller originalitet. Waterhouse (og andre teknologioptimister) overser derimot elementær kunnskap om språk og litteratur i sin vurdering av ChatGPT (og tilsvarende tjenester) når de lovpriser KI-en for dens effektive og velartikulerte formuleringsevne og fremhever hvordan «det primært er det gode språket som er formålet».

For en som har viet livet til litteraturen, er formuleringsevnen ikke like imponerende. Rett nok finnes det mange eksempler på hvordan KI effektivt kan formulere seg grammatikalsk riktig. At KI-en blir tatt i faktafeil, er heller ikke en legitim kritikk av dens metode, men av dens betingelser for læring. Kritikken må derimot være tuftet på hvordan KI-en bruker språk som et verktøy for handling eller formidling, og med det hvordan den reduserer språket til å være bærer av et innhold (content).

Er det noe vi som arbeider med litteratur er bevisste på, så er det at språk endrer seg over tid, og at språket aldri står i et én-til-én-forhold til virkeligheten. Vi lærer oss med andre ord å skille mellom tegnenes (f.eks. ordenes) uttrykksside og deres betydning, og vet at denne betydningen stadig er under press. Betydningen kan oppfattes forskjellig av ulike mottagere, samtidig som tegnene eller ordene også får ulik valør i ulike sammenhenger og av ulike avsendere (jf. Roman Jakobsons kommunikasjonsmodell).

Jeg har allerede vært inne på dette med kontekst («fuck») – men hva med avsender eller forfatter? På et spørsmål om hvorvidt Waterhouse foretrekker et menneske eller en KI som opphavsperson for et åndsverk, svarer han at det ikke spiller noen rolle. Dette er nedslående av helt andre grunner enn at holdningen truer med å gjøre sånne som meg arbeidsløse. For det spiller en rolle hvem som snakker, for å si det med en referanse som en KI kan være i stand til å identifisere (intertekstuelt), i alle fall hvis ordlyden ligner det originale utsagnet, men likevel ikke kan gjengi betydningen utover det rent overfladiske.

Jeg skal ikke redegjøre for den strukturalistiske/poststrukturalistiske forståelsen av autonomiestetikken, eller for den saks skyld gjengi polemikken mellom Roland Barthes og Michel Foucault om forfatter-begrepet. Jeg nøyer meg med å si at sistnevnte forstod forfatternavnet som en slags garantist og sekkebetegnelse for forfatterens litterære ytringer, selv om han også forfektet idealer om verket løsrevet fra opphavsmannen. For selv om intensjonene bak verket var betraktet som – og stadig er – uten relevans, slik Barthes også hadde poengtert, trodde ikke Foucault at det var mulig å overse hvordan forfatternavnet virker inn på verket, ikke ulikt hvordan et bestemt tonefall kan virke inn på et utsagn og gi det ulik valør. Når vi som lesere for eksempel leser en ny bok av Jon Fosse, er det antagelig med forventninger og et sett fordommer vi møter teksten. Tidligere utgivelser, både de vi har lest og den rådende oppfatningen av forfatterskapet, er med andre ord med på å farge teksten vi har foran oss, og gi enhver setning en annen betydning enn om vi hadde overhørt den samme ordlyden på nattbussen på en fjellovergang.

Judgment Day

Langt inni Hurdalsskogene, hvor stien krysser Hegga, ligger brua med den usannsynlige påskriften: «Every word is like an unnecessary stain on silence and nothingness.» Bokstavene er skrevet med tykk sprittusj, og selv om det kan fremstå meningsløst med tagging her, så langt unna allfarvei, så var det kanskje nettopp det som virket forlokkende på den pubertale bygde-gangsteren da han skjelvende dro sprittusjen opp av sekken på et sted han trodde seg usett (bare en vill gjetning fra min side). Det er i alle fall hit jeg løper, for å beundre den usannsynlige tilsynekomsten av et Samuel Beckett-sitat mellom gran og asketrær. Vi stanser på nedsiden av brua, hiver etter pusten, det vil si det er jeg som strever med lungene, mens hunden min bare vil videre. «I must go on, I can't go on, I'll go on», sier jeg høyt, før vi fortsetter over på den andre siden og innover i naturreservatet, beskyttet fra skogsmaskiner og taggere med høy lesekompetanse.

Å skrive godt fordrer å kunne lese godt. Derfor kommer jeg også til å tenke på et annet viktig bidrag fra strukturalismen, det litteraturteoretikeren Jonathan Culler har kalt gjenkjenning – evnen til å lese en tekst på flere plan, holde flere tolkningsmuligheter åpne og betone teksten som tekst, gi den (litterær) mening – slik han redegjør for i Structuralist Poetics (1975). På mange måter kan strukturalismens tilnærming til litteratur ses på som en reaksjon til en ren fortolkende praksis, siden et av hovedpoengene med strukturalismen var å avdekke bakenforliggende strukturer, altså hvordan tekster betyr, fremfor hva de målbærer – noe som tilsynelatende kan minne om en systemtenkning som en KI kan nyttiggjøre seg når den skriver. Men som Culler tydeliggjorde lenge før KI var noe annet enn en fantasi innen sci-fi-sjangeren, er det tilnærmet umulig å oppholde seg i de meningsbærende strukturene uten å fortolke. Et av poengene hans blir derfor å vise hvordan forståelsen av den litterære strukturen henger nøye sammen med fortolkningen av teksten. En av analogiene han benytter seg av, tar utgangspunkt i en generell språkforståelse. Når en språkbruker hører en setning bli formulert, skriver Culler, så evner vedkommende å gi setningen mening nettopp fordi mennesket er utstyrt med et repertoar av bevisst og ubevisst kunnskap. Mestringen av det lydlige, det syntaktiske og det semantiske systemet gjør oss i stand til å omforme lydene til distinkte bestanddeler, deretter til å gjenkjenne ord, tillegge setningen struktur og til sist forstå hva den ferdige setningen betyr, selv om den er aldri så ny eller original. Uten implisert kunnskap, en slags internalisert grammatikk (ikke helt ulikt det Chomsky kaller en universell grammatikk), vil ikke lydsekvensen oppfattes som språk.

På tilsvarende vis møter vi ikke litteraturen med blanke ark eller tomme hoder, altså uten forutsetninger for å forstå, men med erfaring som baserer seg på tidligere lesing. Å lese et verk på verkets egne premisser er derfor en urimelig påstand. I virkeligheten bærer vi med oss en implisitt forståelse av den litterære diskursens verktøy og strategier, som igjen gjør oss i stand til å vite, forhåpentligvis, fornemme i det minste, hva vi bør se etter i møte med tekst. Enhver som derimot mangler denne kunnskapen, enhver som (hypotetisk sett) ikke er fortrolig med litteratur, litteraturens virkemidler eller hvordan litteratur skal (eller bør eller kan) leses, kan bli temmelig fortumlet om vi presenterer ham for enkelte dikt. Kunnskapen om språk vil selvfølgelig gjøre enhver i stand til å forstå bruddstykker, blant annet gjenkjenne ord og uttrykksmåter, men vedkommende ville neppe evnet å nyttiggjøre seg den merkelige sammenstillingen av abrupte setningsledd, metaforene eller sammenstilling av to ulike motiver, for eksempel.

Det er med bakgrunn i en slik systemtenkning at Culler forstår graden av lesekompetanse som ulike nivåer av gjenkjenning (som igjen danner grunnlaget for fortolkning). Det uforståelige gjøres med andre ord kjent, og man blir fortrolig med det hittil ukjente. Slik leser og fortolker vi, kritikere, bokanmeldere, forfattere og alminnelige lesere. Fremfor å gjengi hvordan Culler deler inn de ulike formene for gjenkjenning, vil jeg kort bemerke at en av forutsetningene dreier seg om menneskelig erfaring, hva det vil si å være en kropp i verden. I tillegg er det nødvendig å gjenkjenne kulturelle koder, ha en sjangerforståelse og kunne gjenkjenne intertekstuelle forbindelser.

For en KI vil de ulike nivåene trolig være snudd på hodet. En intertekstuell referanse er søkbar og enkel å oppdage, i alle fall hvis ordlyden ligner det opprinnelige utsagnet, de mer subtile hintene vil derimot være vanskelige å oppdage. At det kan være sjangerforståelse å finne hos en KI, finnes det mange eksempler på. Men dette vil (innenfor dagens maskinlæring) kun være en karikert versjon av sjangeren, siden den baserer seg på historiske data og ikke er i stand til å bryte med konvensjonene og foreta det kreative spranget som kjennetegner all god litteratur. For hva er å skrive skjønnlitteratur om ikke et stadig forsøk på å opponere mot sjangre, konvensjoner og etablerte sannheter? Man kan si, igjen med en parafrase av Chomsky, at KI-en mangler den kreative språkevnen – enten det gjelder å forstå og fortolke en tekst, eller det gjelder å skrive den – som alle mennesker (i ulik grad) besitter. Litteratur er, som språk, ikke bare et historisk arkiv, men en stadig forhandling mellom mennesker – og en forhandling mellom språkets praktiske nytteverdi, språket som middel for å oppnå erkjennelser og ren estetikk. Kun en menneskelig intelligens er i stand til å operere på alle disse nivåene samtidig.

Kjukegruppa neste

En noe spissformulert holdning, som hverken er uvanlig eller uhørt blant litterater, er å betrakte den kvalitetsmessig gode skjønnlitteraturen som et språkspill hvor nettopp evnen til (eller umuligheten av) å gjengi virkeligheten er blant det viktigste som tematiseres. I alle fall må for eksempel en roman også arbeide på dette planet, om den skal kunne betegnes som god (dette kriteriet synes mange bokanmeldere å ha glemt når de ukritisk hyller «sterke historier»). Dette er en pågående strid, en kamp hvor frontlinjen stadig forskyves. Sjangre utvikler seg, språket utvikler seg, mening utvikler seg – nettopp gjennom overskridelser, eller originalitet.

Bøker som er skrevet av en KI, kan derfor ikke være gode, siden de er skrevet ved hjelp av statistikk, eksisterende eksempler og sannsynlighetsberegning. De er med andre ord reproduksjoner. Men dette er selvfølgelig ikke et problem som er begrenset til KI, for nøyaktig det samme kan sies om de fleste romaner som utgis i dag: De er bleke kopier, formelbaserte, dårlig gjenbruk av romanformen slik den utviklet seg på 1800-tallet. Men denne innvendingen vil teknologioptimister, med mindre de er ivrige lesere av kvalitetslitteratur, trolig møte med et skuldertrekk – for det er vel ikke så farlig hvis vi samtidig vinner bedre helse og lar oss underholde av simpel litteratur? Og så lenge det selger? I seg selv er det i utgangspunktet ikke så farlig, men i en tid hvor litteraturen stadig er truet av svekket konsentrasjonsevne, rastløs scrolling og sterke farger fra den mer flyktige skjermunderholdningen, er jeg redd dette også vil svekke oss som lesere, ja, rett og slett gjøre oss mindre intelligente.

I møte med en nyliberalistisk virkelighet hører jeg ofte at det som selger, er bra, og at jeg som forfatter må skrive mer salgbart. Gjerne mer sånn som Jo Nesbø, er en bemerkning jeg gjerne får kastet etter meg fra fulle onkler når jeg forviller meg inn i et familieselskap. La meg si det i klartekst: Det finnes ingen sammenheng mellom høye salgstall og kvalitet. Det som selger best, er det konvensjonelle, det som er uten noen former for virkelige overskridelser. Det originale vil alltid falle utenfor. (Men det er ingen trøst for alle oss som har lave salgstall, for det finnes selvfølgelig mye dritt som heller ikke selger.)

Og her nærmer vi oss det dommedagsscenarioet jeg anser som mest sannsynlig: I en nær fremtid, kanskje allerede i morgen eller i neste uke, spyr KI-ene ut et uendelig antall slike reproduksjonsromaner, mer og mer tilpasset den spesifikke leser. Man kan til slutt lese om seg selv, hvis det er simpel identifikasjon man søker. Gradvis blir leseevnen svekket, og selve fortolkningen foregår på stadig færre plan. Romaner blir mer og mer entydige instrumenter, lesingen står plutselig i en én-til-én-relasjon med virkeligheten, språket forvitrer, mens kvalitetslitteraturen ender som en liten nisje for de spesielt interesserte, på lik linje med det fellesskapet jeg er en del av når jeg møter i kjukegruppa i Sopp- og nyttevekstforbundet for å mikroskopere et sjeldent funn på et ospetre i denne skogen som jeg nå lunter igjennom.

Og igjen er det som om jeg hører denne innvendingen fra teknologioptimistene: Hvorfor er det så farlig? Jo, fordi jeg er overbevist om at det er den gode litteraturen som er med på å skape bevissthet, som sørger for åndelig utvikling, om den ikke også fungerer som premissleverandør for alle andre disipliner. Litteraturens død vil ha uoverskuelige og katastrofale følger for andre fagområder. Språk er ikke bare makt, men alle tings grunnleggende bestanddel. Eller som historikeren Yuval Noah Harari skriver i The Economist: «Menneskerettigheter er ikke innskrevet i vårt DNA. De er isteden kulturprodukter som vi har skapt gjennom å fortelle historier og skrive lovtekster.» Og det er samme sak med penger, poengterer han, verdien blir til ved at bank, regjering og finansfolk utveksler historier – og gjennom vår tillit til historiefortellerne, må jeg få legge til.

Harari gjør dessuten et lignende poeng knyttet til religion. Gudene finnes ikke som fysisk realitet, skriver han, de er derimot artefakter som har blitt til gjennom overlevering av myter og gode historier. Det mest interessante med utsagnet er likevel ikke religionsdebatten det åpner for, men resonnementet som følger, hvordan alle verdens religioner har hevdet å være nedtegnet av en ikke-menneskelig kilde. For Harari er denne forestillingen snart en realitet, nå som KI kan være opphavskilden til alle slags tekster. Men selv om det er lett å la seg overbevise av denne tankegangen, så elegant som den virker, er den feil. For slik hellige tekster er nedskrevet av mennesker, er det igjen mennesker som er den bakenforliggende kilden til  KI-tekster, all den tid KI baserer seg på et historisk arkiv og konvensjonelle uttrykksmåter. Hva angår religiøse tekster, derimot, er de for det meste overskridende i sitt uttrykk, ofte stor poesi, og ikke så rent sjelden originale.

Et nytt håp

Jeg kunne stanset her, satt meg på en stubbe og skrevet en nedslående konklusjon om fraværet av originalitet og dårlig språkforståelse hos KI. Jeg kunne dessuten kommet med en syrlig bemerkning om språkforståelsen hos teknologioptimistene som Waterhouse (noe urettferdig) har blitt representant for i denne sammenhengen (men mobildekningen er dårlig, jeg har begrenset tilgang på andre kilder og må ta til takke med allerede nedlastet innhold). Jeg kunne sagt noe om at han insisterer på å kalle det AI, og ikke KI, ettersom vi også sier PC på norsk (og ikke PD). Jeg skal ikke si noe om at han med dette misforstår hva språk er, når han søker etter et konsekvent regelverk for oversettelser og forkortelser. Jeg kunne kalt holdningen rigid, oppfatningen av språk for matematisk, ja, om ikke også kunstig intelligent, men jeg skal forsøke å la være. For er det ikke to spurvehauker som kretser over meg, så lette på vingene, med blikket søkende etter små bevegelser i skogbunnen her nede?

Jo da, kvalitetslitteraturen vil trolig ende som en liten nisje, og kanskje er det greit. Det har vel allerede vært slik lenge, så oversvømmet den litterære offentlighet er av sukkerdrasjert underholdningslitteratur – ja, jeg snakker om Jo Nesbø og lignende. Men i så måte øyner jeg et håp. For dersom KI-ene spyr ut slike reproduksjoner av noen romaner, så vil vel også det gjøre den tilsvarende underholdningslitteraturen overflødig? For er det noe jeg har merket meg de gangene jeg har forsøkt å lese denne typen litteratur, så er det at den kun består av sjangerkonvensjoner, utslitte grep, stereotype karakterer, språklige klisjeer. Med KI-ens inntog vil denne typen litteratur bli overflødig. Til sist er det bare kvalitetslitteraturen, skrevet av mennesker, som vil stå igjen, original og overskridende.

Før jeg reiser meg fra stubben og følger stien hjem igjen, noterer jeg noen punkter på mobilen. Rettere sagt så staver jeg dem, vel vitende om at det er en slags kunstig intelligens som fortolker det jeg sier høyt, og forvandler talen til tegn på skjermen.

En kollega mener at AI ikke burde stå for artificial intelligens, sier jeg høyt, men alternativ intelligens. Han har et poeng, selv om jeg er usikker på om han mener å betone første eller andre ord av forkortelsen. Jeg har derfor et annet forslag. KI bør stå for kunstig imitasjon, siden vi snakker om et verktøy som imiterer, og som er blitt i stand til å forlede menneskene til å tro at den er ekte. Det hele minner om hvordan min tre måneder gamle sønn så smått har begynt å tillegge objektene rundt seg om ikke mening, så en avgrenset form og et innhold. Han kjenner igjen ansiktet mitt og smiler når han ser meg. Han gjenkjenner tåteflasken og smiler når han ser den. Og i går så jeg at han oppfattet den store, snakkende teddybjørnen som et ansikt, nesten på lik linje med oss menneskene. Illusjonen varer ikke lenge, men i noen måneder vil han kanskje se på bamsen som et levende vesen, ikke fordi det finnes noe intelligent liv i denne bamsen, men fordi han – uten å vite at det er det han gjør – besjeler den. Nøyaktig slik tror jeg vi som voksne, mer eller mindre intelligente mennesker, står i fare for å gi KI egenskaper som ikke finnes. Vi vet at det ikke er en bevissthet til stede, likevel innbiller vi oss at ordene som strømmer nedover skjermen, er blitt til av en intelligent skaper, ikke ulik oss selv.