Svaret var like direkte: «Ja, nå finnes en Gud!» Han kastet seg frem for å koble ut. Et lyn fra klar himmel traff ham og smeltet bryteren i vranglås.
I seneste nummer av magasinet Strek (4/2022) oppsummerer jeg Fredric Browns snart 70 år gamle novelle Svaret på denne måten. Den understreker paradokset og dilemmaet: I en stadig mer kompleks verden er det fristende å utvikle simulerte intelligenser som kan hjelpe oss. Men hvordan kan vi ha nok kunnskap og intelligens til å kontrollere dem? Kan de bli bevisste? Og hvilken etikk skal de følge?
For her mangler det ikke spørsmål.
Hva er en maskin? Hva er et menneske? Hva kan tenke, føle, elske og ha verdi?
I filmer er det blitt stadig vanskeligere å se forskjell. Noen ganger blir det selve plottet. Allerede for førti år siden arbeidet Harrison Fords rollefigur i Bladerunner-filmen med å avsløre hvem som var simulerte mennesker – androider – selv om alle så ut som oss.
I Star Wars-universet er to avgjort tenkende roboter blant heltene – vi liker dem og ler av dem. I den geniale TV-serien Star Trek: The Next Generation strever androiden Data med å få til å føle noe. Det oppstår bisarre situasjoner når han prøver seg på humor.
Sminke og spesialeffekter åpner for emosjonell manipulasjon. Vi blir rørt og rystet av filmer som AI, om roboten som ser ut som og oppfører seg som en gutt. Mine barn lot seg begeistre av Josefine-spillet på 1990-tallet. Men ble det for lang tid før de trykket på tastene ropte hun til dem. Vi skvatt stadig når middagen ble avbrutt av Josefines triste «Har dere glemt meg?».
Selv om programmerte stemmer kan være søte, er spørsmålet hvordan unngå at de blir mer umenneskelige enn å forstyrre middager? Hvordan hindre at de manipulerer eller utrydder oss?
På 1950-tallet så science fiction-forfatteren Isaac Asimov behovet for tre robotlover:
- En robot har ikke lov til å skade et menneske eller passivt la et menneske komme til skade
- En robot må følge ordre fra mennesker bortsett fra når slike ordrer bryter med første lov
- En robot må verne om sin egen eksistens så lenge det ikke bryter med første og andre lov
Men hva kan forplikte simulerte intelligenser? Kan vi virkelig programmere dem til alltid å følge gode lover? Vil de alltid forstå situasjonen? Hva om de får vrangforestillinger – blir sinnsforvirret, som med HAL i storfilmen 2001: En romodyssé?
Selvsagt med forbehold om at bevisste maskiner i det hele tatt er mulig. Jeg ser ingen mulighet for det, men det mangler ikke miljøer som prøver å utvikle noen. Og det er nok ingenting i veien for å lage simulerte intelligenser som er så avanserte at noen vil tro de er bevisste.
På mange måter fungerer dette som et rustningskappløp. Der logikken blir at vi må utvikle dem først, ellers gjør kineserne det, eller yakuza-mafiaen i Tokyo.
Matematikeren Alan Turing foreslo en test på om maskiner kan tenke, omtrent samtidig med Browns novelle jeg innledet med: Stiller du maskinen spørsmål, og den svarer slik at du tror den er intelligent, da er den det. Mens Brown tenkte at svarer den som Gud, bør du slå den av.
Ser vi på oss selv, er det liten tvil om at vi kan resonnere, se helhetsbilder, kjenne igjen ordspill, antydninger, forsnakkelser, håndtere usikkerhet, bruke sunn fornuft og lære av feil. Dette er ikke lett å beskrive i dataprogrammer. Likevel drømmer noen om selvlærende maskiner som i all fremtid kan forbedre seg og få stadig mer kunnskap, hinsides hva som er mulig for noe menneske.
Hvis en slik drøm kan realiseres, blir den imidlertid fort et mareritt. Hvem skal kontrollere maskinene? Hvilken rolle skal de ha? Hvis de er mer intelligente enn oss, hvordan kan vi vite om løsningene, moralen og valgene, de kommer frem til er rette?
Hvordan vite om vi har skapt guder eller djevler?
Fortsatt er bevissthet en gåte. En av transhumanismens drømmer er å lastes opp i programvare og leve i en simulert virkelighet til universet går under. Det er imidlertid umulig å være sikker på at det går an. Selv om en slik programvare bedyrer at den er bevisst, hvordan vite at det ikke er bløff?
Og er noe slik mulig, hvor lang tid vil det ta før det oppstår en feil? Hva om det går i loop? Hva om maskinen streiker? Hva om noen stjeler alle som er lastet opp og utpresser dem eller familien for ikke å slette dem?
Og så har vi autoritære regimer. Det er ikke gitt at opposisjonelle lastes opp i en evig sydenferie.
Kunstige intelligenser er fortsatt en drøm – og et mareritt. Ja, det er flott og spennende med smale ekspertsystemer i alt fra medisin til overvåkning av gassledninger. Men det kan bli langt i overkant spennende å utvikle brede selvlærende kunstige intelligenser.
Antagelig slipper vi ikke unna. Regimer har en egeninteresse av å utvikle dette – også for å komme andre i forkjøpet. Resultatet vil være internasjonale avtaler, oppfølging og overvåkning, som for atomvåpen. Vi får bare håpe at det ikke også krever selvlærende maskiner som holder nøye kontroll med oss.
Dess raskere teknologien utvikler seg, jo viktigere å ligge i forkant – også for kristen etikk.
Først publisert i Dagen.
