Da jeg vokste opp på 70-tallet, dro sekulære profeter fulle hus og kom høyt på bestselgerlisten når de forkynte at verden ville gå under, enten ved miljøkrise, overbefolkning eller atomkrig. Det var naturlig å melde seg inn i Fremtiden i våre hender og lese Ikkevold, bladet til Folkereisning mot krig.
Imidlertid hadde de én ting felles: Ingen av profetiene slo til.
Seneste skrekkscenario er AI, kunstig og selvlærende intelligens slik jeg skrev om i Dagen i november i fjor. Jeg avsluttet med et kall til at vi – og kristen etikk – er i forkant. Det er imidlertid ikke enkelt, så fort dette kan utvikle seg, selv om det også er lett å overdrive tempoet.
Dermed ser vi advarsler fra hold som Elon Musk, gründeren bak Tesla og Space X, og den israelske forfatteren Yuval Harari med hans mange spådommer om mennesket på bestselgerlistene. Nå sier han rett ut at «Jeg vet ikke om mennesker kan overleve AI. For første gang har vi funnet opp noe som tar makten fra oss».
Tonen er tydelig: Når AI kommer, går mennesket under. Vi blir enten overflødige stakkarer AI i sin godhet likevel vil gjøre lykkelige, eller mest skadelige og dermed noe AI i sin jakt etter effektivitet, energiøkonomisering eller annet vil fjerne.
Musk og Harari er ikke alene med advarsler. Det mangler ikke på frykt på Facebook. Noen er bekymret for kvisslaget – hvor mange gidder å lære fakta, når AI kan alt? Andre er opptatt av skolen. Hvordan styrke nysgjerrigheten, jakten på å lære, bearbeide, evaluere og gjøre seg nytte av kunnskap? Hva når oppgaver og besvarelser kan lages av AI, med individuelle forskjeller, slik at ingen tas for plagiat?
Det er lett å tegne lyse og mørke bilder hvis AI kan løse alle slags utfordringer, som den fullkomne seniorrådgiver. Vil vi slutte å anstrenge oss, skjerpe oss, vokse i forstand og modenhet? Vil vi unngå å ta viktige avgjørelser før AI gir svar? Bør jeg bli ateist hvis AI sier det er rett? Eller kristen, om det er svaret?
I dag er AI nøytral. Språkprogrammet ChatGPT vil ikke ta stilling til livssyn – eller politikk: «Det er opp til deg å bestemme hva du vil tro på og hva som gir mest mening for deg i livet ditt.»
For et par måneder siden spurte jeg hvem som gikk i bresjen mot slaveriet. ChatGPT skilte lite mellom kristne, muslimer og ateister. Det var ikke mulig å få den til å fortelle hvem som bidro mest til å avskaffe det, men inntrykket var at kristne hadde vært de verste slaveeierne.
For her kommer vi til en helt annen og langt viktigere utfordring: Hvordan kan vi vite at AI har rett, hvis vi tror programvaren er allvitende og vi ikke på noen måte kan sjekke den?
Det som ofte kalles liberale demokratier, altså land med gode valgordninger, demokratiske institusjoner og beskyttelse av individuelle rettigheter, krever deltakelse av informerte borgere. Hvis stadig flere henter stadig mer informasjon fra AI, er spørsmålet hvor individuelle vi blir, hvor mye vi finner det bryet verdt å stille opp, og om det ikke i praksis er programvare som tar over.
Det er lettere å spå undergang enn å se løsninger. Samtidig er det ofte greit å ta noen steg til siden. Det er ikke sikkert truslene er helt nye. Utfordringen for kviss er noe av den samme som da søkemotorene kom: All verdens info ble tilgjengelig med få tastetrykk. Dermed ble det allerede på 1990-tallet forbudt å google i slike konkurranser, selv om noen fortsetter å jukse, til og med i sjakk.
Skolen kan ikke legge opp til at elever har leksika eller Google for hånden. Elever må få jobbe med stoff og tekster selv, uten andre hjelpemidler enn læremidler og andre typer fagbøker.
Nettopp derfor er det så viktig at de har mest mulig korrekt informasjon, som ballast mot AI og andre kilder til potensiell desinformasjon. Det krever også en helt annet håndtering for å sikre kvalitet.
Kort sagt bør læremidler slutte å formidle fordummende fordommer som at kirken før opplysningstiden hentet svar på vitenskapelige spørsmål fra – av alle ting – liturgien, slik fylkeskommunenes digitale læringsarena NDLA fortsatt gjør i fagartikkelen «Vitenskap og fornuft».
Barnebøker som Norgeshistorien på 1-2-3 må ikke fremstille 11-1200-tallet som en over hundre år lang borgerkrig mellom kongen og en «krigerbiskop, ikke en from prest». Tilsvarende bør slike bøker fortelle når og hvordan slaveriet ble opphevet, og ikke bare la være å omtale dette etter vikingtiden.
For å peke på bare toppen av isfjellet. Jeg håper at AI henter kunnskap fra mer enn læremidler.
Mye handler om bevisstgjøring på utfordringer og ulike typer trusler, selv om AI ikke skulle få god tilgang til styringssystemer for industri eller våpensystemer. Skal liberale demokratier overleve, trenger vi innsikt i hva som faktisk er kunnskap, hvordan den utvikles og evalueres. Det er ikke sikkert løsningen er AI-systemer som etterprøver annen AI.
Samtidig er erfaringen at skrekkscenarioer ikke slår til. Det hjelper at verken demokrater eller diktatorer ønsker å overlate beslutninger til programvare vi ikke aner hvordan jobber eller «tenker».
At det er grunn til håp, betyr ikke at vi kan satse på at det går bra, denne gangen også. Skrekkscenarioer har en funksjon. Motivene er ofte gode. De er et kall til å vende om, enten det handler om vekkelser, om å endre moral eller maktforhold.
Vi trenger dommedagsprofetier, så lenge de ikke gjør at vi lammes av angst.
