T?ka ligger tungt nedover fjellsidene i Valldal p? Sunnm?re. Men i en hytte i skogen er det liv. Et helt nytt og annerledes liv. Den kunstige intelligensen Ava er i ferd med ? utman?vrere sine motspillere i et komplisert, psykologisk spill. P? kynisk vis manipulerer hun sin sparringpartner Caleb til ? hjelpe henne med ? r?mme. Til slutt dreper hun sin skaper Nathan.
Denne scenen er ikke virkelig. Joda, det foreg?r p? sett og vis p? Sunnm?re. Men historien er fra filmen ?Ex Machina?, og innspillingstedet Valldal skal antakelig forestille naturen i Alaska.?
Poenget i Alex Garlands film fra 2015 er derimot h?yest reelt. Kan kunstige intelligenser oppf?re seg som personer p? en m?te som gj?r dem umulig ? skille fra oss mennesker? Og enda videre, kan det hende vi blir manipulert til ? hjelpe dem ut i verden – og i siste instans ta over styringen?
– Dette er det store sp?rsm?let om singulariteten, sier filosof Einar Duenger B?hn.
Singulariteten er ideen om at kunstig intelligens skal overg? oss mennesker i intelligens.?
– Da vil de ikke lenger se det som hensiktsmessig at vi styrer over dem, akkurat som vi ikke syns det er fornuftig at dyr styrer over oss.
B?hn har mastergrad i filosofi fra Universitetet i Oslo og doktorgrad fra Universitetet i Massachusetts Amherst. I dag er han professor ved Universitetet i Agder der han forsker ved Senter for kunstig intelligens (CAIR).
I dag er ingen maskin engang i n?rheten av ? v?re en person, men kanskje vi etter hvert kan lage en maskin som er eller blir en person?
Personer trenger ikke v?re mennesker
Filosof B?hn er s? fascinert av filmen ?Ex Machina? og karakteren Ava, at han har skrevet en egen artikkel med tittelen ?Is Ava a Person??.
– Denne filmen er et mesterverk – virkelig et kunstverk. Den tar opp alle de relevante problemstillingene knyttet til kunstig intelligens, tenking og bevissthet, mener B?hn.
I artikkelen som er en del av antologien ?Minding the Future: Contemporary Issues in Artificial Intelligence? som blir gitt ut neste ?r, diskuterer B?hn hvorvidt noe annet enn mennesker kan bli personer.?
For ? besvare det m? vi f?rst trekke opp grensene mellom person og menneske. Er ikke det en og samme ting?
– Alle personer vi har observert fram til i dag har v?rt menneskelige organismer. Men det betyr ikke at alle personer er menneskelige organismer.
Sp?rsm?let blir da: kan en maskin bli en person?
– I dag er ingen maskin engang i n?rheten av ? v?re en person, men kanskje vi etter hvert kan lage en maskin som er eller blir en person? sp?r B?hn.
Faktisk er de fleste av kriteriene filosofen setter opp for ? v?re en person, uavhengige av om det vi diskuterer er et menneske. (Se egen faktaboks)
S? hvilke ikke-mennesker kan v?re personer? B?hn ser for seg to hovedscenarioer.?
– For det f?rste at vi m?ter romvesener fra det ytre rom som er personer, men ikke menneskelige organismer. For det andre at lager vi former for kunstig generell intelligens, eller en ny art hvis du vil, la oss kalle den Homo Machina, som er personer, men ikke menneskelige organismer.?
En stor Turing-test
Historier om roboter eller andre konstruerte skikkelser som tar over verden har lang fartstid i kulturen. Ett eksempel er Mary Shelleys n? over 200 ?r gamle fortelling om Frankenstein som lagde et menneskeliknende monster.?
Mannen som knekte nazistenes enigma-kode under den andre verdenskrig, Alan Turing, jobbet ogs? med ideer om intelligente maskiner. Turing som ble portrettert i den norskregisserte filmen ?The Imitation Game? i 2014, lagde en egen test som skulle avsl?re kunstige intelligenser. Turing kalte selv denne testen nettopp ?The Imitation Game?. Den er senere blitt kjent som Turing-testen.
Filmen ?Ex Machina? kan sees p? som en eneste stor Turing-test. Caleb er hentet til Nathans avsidesliggende forskningsanlegg for ? unders?ke Avas kompleksitet som kunstig intelligens.?
– Dessverre er filmen uklar om hva denne varianten av Turing-testen faktisk skal unders?ke. Vi f?r inntrykk av at imitasjonsspillet tester for intelligens, men ogs? at det tester for evnen til ? tenke, eller til og med tester for fullverdige, mentale tilstander, inkludert bevissthet, sier B?hn og legger til:
– Men intelligens, tenking og bevissthet er tre forskjellige ting.
Dersom Siri ikke klarer en oppgave, b?r du ikke bli irritert p? henne, men p? utviklerne til Apple som ikke har laget et godt nok program. ?
?Jeg tenker, derfor …?
Det kanskje mest s?regent menneskelige kravet man m? oppfylle for ? v?re en person, er nettopp bevissthet. Jeg ?er?, det er noe de fleste mennesker kjenner p?.?
– Du trenger ikke v?re bevisst hele tiden, som n?r du sover eller er i et midlertidig koma, men du m? ha v?rt bevisst, og m? kunne bli det igjen, for ? v?re en person.
Enkelte dyr har bevissthet om ? v?re i ulike tilstander, for eksempel smerte, uten at de er personer. I filosofisk sjargong sier man da at selv om bevissthet virker som et n?dvendig krav for ? v?re en person, er det ikke et tilstrekkelig krav.
Men hvordan kan man sl? fast hvorvidt noe ikke-menneskelig har bevissthet? Er det det hele tatt mulig ? sl? fast hvem som er bevisste??
– Bevissthet er f?rst og fremst en personlig erfaring av ? befinne seg i en mental tilstand. Vi har ?yeblikkelig tilgang til v?re egne erfaringer, men ingen andre har det. ?? ?
– Kan det ikke tenkes en annen type bevissthet enn den menneskelige??
– Bevissthet er en erfaring av hvordan det er ? v?re. Hvis vi skal se for oss en annen bevissthet, er det veldig vanskelig ? se hva det skulle v?re. Det blir ren gjetning i m?rket, sier B?hn.?? ??
Er telefonen din en person? Mange av oss omg?s allerede dingser som har visse persontrekk. Alle med Iphone har for eksempel karakteren ?Siri? i lomma. Selv om Siri kan gj?re enkle oppgaver, er hun langt unne ? kunne kalles en person.?
– Hun har det vi kan beskrive som l?nt intensjonalitet, men ikke sin egen. Uten kapasitet til intensjonalitet ser det ut til at du ikke kan v?re en person.
Et annet kjennetegn p? personer er at de kan ansvarliggj?res.?
– Dersom Siri ikke klarer en oppgave, b?r du ikke bli irritert p? henne, men p? utviklerne til Apple som ikke har laget et godt nok program. ?
Det virker ?penbart at vi m? forholde oss annerledes til en bevisst, tenkende maskin enn vi gj?r til datamaskina v?r i dag. Men har det egentlig noe ? si om den kunstige intelligensen er bevisst s? lenge den etter hvert kan oppf?re seg akkurat som oss? Ja, mener B?hn.
– Det har masse ? si. Dersom den ikke er bevisst, kan vi sl? av eller ?delegge den, uten at det har moralske konsekvenser. Dersom den er bevisst, m? vi forholde oss moralsk til den, som vi gj?r til dyr eller andre mennesker.?
– Kan det i s? fall v?re aktuelt ? gi maskinene personvern, eller i siste instans menneskerettigheter?
– Ja, hvis de f?r bevissthet m? vi begynne ? tenke i de baner. Men det tviler jeg p? at de kan f? med dagens metoder.
?
Hawkings dommedagsscenario
Ava er filosofisk interessant. Men hun er dobbelt kunstig – et kunstig individ i en fiksjonsfilm. Det er en virkelighet som ligger noen ?r fram i tid, minst.
Tilbake til v?r virkelighet. Kan man lage en kunstig person, for eksempel som Ava?
– Jeg ser ingen filosofiske hindringer for ? skape kunstig intelligens, ikke engang kunstig generell intelligens. Men jeg ser store hindringer for ? skape kunstige personer. Filmens Ava tilfredsstiller mange av kravene til ? v?re en person, men til slutt kan vi alle se at hun likevel er en person bare hvis hun er bevisst.
Noe av det siste den verdensber?mte fysikeren Stephen Hawking gjorde f?r han d?de i 2018, var ? advare verden mot konsekvensene av kunstig intelligens.?
Jeg ser ingen filosofiske hindringer for ? skape kunstig intelligens, ikke engang kunstig generell intelligens. Men jeg ser store hindringer for ? skape kunstige personer.
Den svenske filosofen Nick Bostr?m ved Oxford har tegnet opp scenarier der menneskeheten g?r under p? grunn av kunstig intelligens. Blant annet ser Bostr?m for seg en framtid der mennesket har funnet opp en intelligens som kan videreutvikle sin egen intelligens lynraskt. I dette scenariet har intelligensen f?tt i oppgave ? regne ut tallet pi med s? mange desimaler som mulig. Maskina g?r i gang med oppgaven uten andre hensyn, og ender med ? dekke hele jordoverflaten med superdatamaskiner som skal regne ut det uendelige tallet.?
Elbileiernes kj?ledegge Elon Musk har hevdet at kunstig intelligens ville kunne ?skape en ud?delig diktator som vi aldri ville klare ? unnslippe?.?
B?hn har lite sans for advarslene fra Stephen Hawking og Elon Musk om at kunstige intelligenser kan ta over verden.
– Det virker ganske tullete.
Stephen Hawking sa at kunstig intelligens enten er det beste som har skjedd menneskeheten, eller det verste.?
B?hn er skeptisk til slike utsagn.
– Hva betyr det egentlig? Hvis man tenker over det, er det utsagnet tomt for innhold.
?
?
?