Kunstig intelligens (KI) er langt bedre enn mennesker til ? ta visse typer beslutninger. S?rlig n?r det gjelder omr?der av samfunnet der det m? gj?res strategiske valg basert p? en stor mengde informasjon fra ulike hold, er maskinene overlegne.
Hvilke deler av samfunnet kan dette minne om?
– Det er en temmelig presis beskrivelse av politikken, sier f?rsteamanuensis Henrik Skaug S?tra p? Institutt for informatikk ved Universitetet i Oslo.
– Politikken er den delen av samfunnet der det tas viktige beslutninger basert p? en lang rekke ulike hensyn. Som menneske er det fort gjort ? miste oversikt.
Kunstig intelligens som gj?r beslutninger for oss, er ikke science fiction. Vi er alt kommet dit.
– Store deler av forvaltningen bruker eller snuser allerede kunstig intelligens, s?rlig i helsesektoren.
Men ogs? andre er p? ballen.
– NAV har lenge arbeidet med KI. Etaten ?nsker ? bruke KI til ? klassifisere s?knader, prioritere brukere for oppf?lging og forberede vedtak, forteller S?tra.
Og mer skal det bli. F?r sommeren sa digitaliseringsminister Karianne Tung (Ap) at 80 prosent av offentlig sektor skal ta i bruk KI innen 2025.
?Vi trenger ? frigj?re arbeidskapasitet til det som faktisk er viktig?, sa Tung til NRK, og hevdet at KI-toget har forlatt perrongen og at det er ?viktigere enn noensinne ? passe p? at vi ikke blir hengende etter, eller st?ende igjen p? stasjonen.
Digitaliseringsministerens tog som g?r, kan minne om det S?tra kaller ?AI creep? – KI kommer krypende inn i stadig flere deler av styre og forvaltning.
– I forskningen min beskriver jeg en utvikling som allerede er godt i gang. KI er n? etablert i alle deler av forvaltningen.
Den magiske boksen
Hvordan en KI fungerer i praksis er for teknisk komplisert og heller ikke det sentrale i denne sammenhengen. Derfor ber S?tra oss bli med p? et lite tankesprang.
– Det kan h?res litt for enkelt ut, men det er en god grunn til det. Jeg gir dere et tankeeksperiment kalt ?Den magiske beslutningsboksen?.
I artikkelen ?A shallow defence of a technocracy of artificial intelligence?, bruker S?tra ?boksen? til ? teste teoretiske argumenter for og mot bruk av KI i politikk og forvaltning.
– Boksen er en KI som mates med data og spytter ut en l?sning p? problemet.
Heller ikke dette er sci-fi. Det snakkes allerede om at de nye intelligensene er som svarte bokser. Som menneske er vi ikke i stand til ? forst? hvordan de kommer fram til l?sningene som dukker opp p? den andre siden.
– KIs vei inn i beslutningstukturene kan skje p? flere m?ter – alt fra datamaskiner som hjelper mennesker ? ta beslutninger til at de i stor grad erstatter dem. Jeg har unders?kt den siste muligheten, som jeg kaller et KI-teknokrati, forteller S?tra.
Ordet gir umiddelbart en emmen smak i munnen. Ideen om et f?tallsstyre av de mest kyndige, forbinder vi gjerne med autorit?r ideologi, eller med overgangsordninger for stater som har havnet i et alvorlig ?konomisk eller politisk uf?re. Mest kjent fra nyere tid er regjeringen til Mario Monti som ledet Italia i halvannet ?r fra 2011 til 2013.
Da var tanken at teknokratene skulle ta t?mmene en s? kort stund som mulig f?r et fullverdig demokrati blir gjeninnf?rt.
D?rlig rykte til tross, teknokrati et ord som stadig oftere er p? forskeres lepper i diskusjonen om KI.
– ?rsaken er nettopp, som vi har v?rt inne p?, at KI i visse tilfeller er langt bedre enn mennesker til ? fatte beslutninger.
Ideelt sett er det imidlertid fortsatt mennesket som tar den siste avgj?relsen, s?rlig i politiske sp?rsm?l som f?r konsekvenser for befolkningen, mener S?tra.
– Dette kaller vi ?human in the loop? – alts? at mennesket fortatt har en sentral rolle i saksgangen – at for eksempel en saksbehandler i NAV kan gripe inn og endre et KI-generert saksgrunnlag.
Men det at KI-ene blir stadig mer ?magiske?, gj?r at menneskene st?r i fare for ? bli tilskuere.
– N?r beslutningene overg?r v?r fatteevne, ligger det litt i sakens natur at menneskets reelle involvering kan bli litt illusorisk.
Kan vi stole p? maskinene?
Hvis vi i det hele tatt skal dr?mme om ? gi reell politisk makt til kunstige intelligens, m? vi svare p? ett, stort sp?rsm?l: Kan vi stole p? dem?
Henrik Skaug S?tra sp?r om maskinene har etos – et begrep han har l?nt fra de gamle grekerne.
– Aristoteles foreslo at vi har tre retoriske virkemidler n?r vi skal pr?ve ? overbevise noen: Logos, patos og etos.
En enkel m?te ? skj?nne hvordan etos kan oppst? p?, er ? se for seg tidligere NRK- korrespondent Hans Wilhelm Steinfeld si: ?Da eeeg intervjuet Mikael Gorbatsjov hjemme i stuen hans i 1986?. Hvis noen f?r lurte, er det n? ingen tvil om at denne mannen vet hva han snakker om n?r det gjelder Russland. Vi stoler p? alt han sier etter den ene setningen – han har etos.
Men hvordan kan maskiner v?re som Steinfeld?
Dersom utviklingen f?r fortsette kan vi sitte igjen med et KI-teknokrati uten at det er politisk st?ttet eller demokratisk bestemt. Det bare skjedde liksom. Uten debatt
Det er temaet for artikkelen ?A Machine’s ethos? An inquiry into artificial ethos and trust?.
– Der viser jeg hvordan vi ikke trenger ? stole p? maskinene i seg selv, dersom vi har reguleringer i samfunnet som gj?r at vi kan ha tro p? personene og organisasjonene som utvikler og anvender KI-systemer.
S?tra etterlyser derfor politikere som ikke bare ?kaster seg p? toget?. I stedet b?r de g? skikkelig inn i problemstillingene.
– Dersom utviklingen f?r fortsette kan vi sitte igjen med et KI-teknokrati uten at det er politisk st?ttet eller demokratisk bestemt. Det bare skjedde liksom. Uten debatt. Uten at vi som samfunn har tatt stilling til om det er det vi ?nsket.
Han avviser ikke en form for KI-teknokrati. Men det m? v?re et teknokrati p? menneskenes premisser.
– Et fungerende KI-teknokrati m? s?rge for at folket beholder makten til ? definere det grunnleggende m?let for politikken, hva v?re grunnleggende verdier er, og hvordan vi forestiller oss det gode samfunn.
Hvis velgerne beholder denne rollen, er ikke n?dvendigvis KI noe vi b?r frykte. Tvert imot.
– Min klare anbefaling er at vi tar debatten om KI sin rolle i politikk og forvaltning n?, og ikke senere. Slik kan vi gi teknologien n?yaktig den rollen vi ?nsker, verken mer eller mindre. I et slikt scenario kan KI bidra til ? forbedre demokratiet, ikke forringe det, sier S?tra.
Er det bedre ? bestemme selv?
Det neste store sp?rsm?let er: Vil vi egentlig overlate beslutningsmakt til datamaskiner, selv om vi kan stole p? at de tar bedre beslutninger enn vi klarer selv?
Slik en middag vi har lagd sammen med venner kan smake bedre enn en med tre michelinstjerner, kan en politisk l?sning vi som samfunn har tatt i fellesskap, v?re mer tilfredsstillende enn en fasit som er spyttet ut av en datamaskin.
En idé fra politisk teori sier er at mennesker er avhengig av politisk aktivitet for ? trives. Det har igjen r?tter tilbake til filosofen Aristoteles som mente at mennesket av natur var et politisk vesen.
Den tyske filosofen Jürgen Habermas mener, nesten 2500 ?r senere, at demokratiet i sin ?nd er deliberativt – dr?ftende og vurderende.
– At en beslutning er tatt i fellesskap gj?r at den f?r legitimitet. Hvis vi legger vekt p? legitimitet gjennom deltakelse, vil ulempene ved en teknisk ?bedre? l?sning v?re st?rre enn fordelene, mener S?tra.
Kort sagt: Hva er vitsen med en optimal l?sning p? et samfunnssp?rsm?l hvis vi sp?rsm?let gjelder, ikke er engasjerte eller har investert noe i det?
– Satt p? spissen kan det sammenliknes med et diktatur. Selv om en diktator tar de beste valgene, vil de ikke ha noen legitimitet om folket ikke har noe de skulle sagt.
En sentral del av Habermas’ teori er at v?re meninger ogs? kan og vil forandre seg underveis i en debatt.
– Uten debatten mister vi kontroll over meningsdannelsen i samfunnet. Overveielse og r?dslagning er viktig, deliberasjonen som Habermas s? fint kalte det. Det handler ikke om ideelle utfall – men om prosess og hvordan vi kom dit.
Henrik Skaug S?tra sl?r et slag for den gode, gamle politiske samtalen.
– Vi m? snakke sammen om hva det er du og jeg foretrekker. Da oppdager jeg kanskje at du setter pris p? noe som jeg syns er veldig rart, men n?r vi m?tes i samtale kan jeg forst? hvorfor. Og kanskje jeg synes det er interessant, og sammen kan vi finne fram til en felles forst?else – konsensus.
Dype usannheter i mediene
Demokrati forutsetter god informasjon til s? mange som mulig. Uten et godt faktagrunnlag kan ikke vi velgere og politikerne vi delegerer makten til, fatte gode beslutninger.
Hvis vi ?nsker ? holde p? deliberasjonen er vi som velgere avhengig av p?litelig informasjon.
– Vi har sett at KI kan hjelpe til med dette i tilfeller som handler om ? bed?mme komplekse samfunnssp?rsm?l med mye informasjon.
Men den nye intelligensen er ogs? en del av problemet.
– Den siste tiden har det v?rt mye debatt om s?kalte deep fakes. Plutselig dukker det opp videoer i sosiale medier av politikere som sier helt h?rreisende ting.
S?kalt generativ KI, kan lage tekst, bilder og video som framst?r helt ekte, men i virkeligheten er ren fiksjon. Den danske statsministeren st?r plutselig og sier at den muslimske eid-h?ytiden skal v?re den eneste nasjonale helligdagen. Mens den amerikanske presidenten hevder at tilhengerne hans ikke trenger ? stemme fordi det ?gj?r det mulig for republikanerne ? n? m?let sitt om ? velge Donald Trump igjen.?
– Tidligere var det slik at hvis vi s? en video av noen, eller h?rte et lydopptak, kunne vi med n?rmere 100 prosent sikkerhet selv sl? fast om vedkommende faktisk hadde sagt det som kom fram i videoen.
Slik er det ikke lenger.
– Ingen b?r stole p? noe de ser eller h?rer lenger. Teknologien er blitt for flink til ? lure oss. Det er en ny situasjon i menneskehetens historie.
Vi har i dag ressurser som Faktisk.no som gj?r sitt ytterste for rydde opp i hva som er sant og hva som er fake.
– Som regel er det allerede for sent. De som ?nsker ? tro p? det falske innholdet, har f?tt bekreftet sitt verdenssyn. At det da kommer en rapport en uke senere, har dessverre begrenset effekt.
Sannheten blir relativ. Vi er ikke lenger i stand til ? si om noe er sant eller ikke.
– Grunnlaget for ? ha en felles verdensforst?else smuldrer opp, mener S?tra.
Han sl?r et slag for ? holde seg med medier med, nettopp, etos.
– Vi m? finne noen anerkjente autoriteter som vi stoler p?. Det kan minne litt om hvordan alle f?r i tiden s? p? og stolte p? NRK. Selv om det selvsagt hadde andre ulemper.
Noen tenker at vi skal l?se problemet med mer teknologi – s?kalte ?vannmerker? eller KI-detektorer.
En utfordring er at sv?rt mange unge i dag er s?kalte nyhetsunnvikere. De velger for det meste bort tradisjonelle medier til fordel for KI-styrt innhold i sosiale medier.
– Det er imidlertid langt fra sikkert at dette vil gi fullgode l?sninger. Derfor tror jeg vi trenger institusjoner i samfunnet som vi kjenner og kan stole p?, sier S?tra.
Forskeren mener redakt?rstyrte medier er viktige, men det langt fra gitt at de vil v?re i stand til ? fylle denne rollen uten betydelig st?tte.
– En utfordring er at sv?rt mange unge i dag er s?kalte nyhetsunnvikere. De velger for det meste bort tradisjonelle medier til fordel for KI-styrt innhold i sosiale medier.
Han mener politikerne m? demme opp for KI og ?big tech? sin innflytelse, ogs? her.
– Det er ikke nok ? oppfordre individer til ? ta ansvar ved ? tegne abonnementer. I stedet b?r det vurderes ? styrke den offentlige finansieringen av seri?se medieakt?rer.