Et av de store problemene med kunstig intelligens er at den ikke gir noen som helst forklaringer p? konklusjonene sine. Du kan sammenligne dette hemmelighetskremmeriet med en mystisk og uh?ndgripelig svart boks som ingen kommer p? innsiden av.
Et klassisk problem med kunstig intelligens er n?r kreftlegen i fremtiden skal bruke den nye teknologien til ? dobbeltsjekke en diagnose. Hvis legen er overbevist om at pasienten er frisk, kan det bli et stort dilemma om teknologien mener n?yaktig det motsatte. Hvem skal kreftlegen tro p?; seg selv eller den kunstige intelligensen? Uansett hva legen bestemmer seg for, kan konsekvensene bli alvorlige hvis pasienten f?r feil behandling.
Professor Kent-Andre Mardal p? Matematisk institutt ved UiO skal n?, i 澳门葡京手机版app下载 med sju andre forskere, utvikle helt ny matematikk for ? avsl?re hvordan den kunstige intelligensen tar beslutningene sine. Den nye matematikken deres skal gj?re det mulig for kreftlegen, og alle oss andre, ? vurdere hvem som har rett: Den menneskelige hjernen eller den kunstige intelligensen.
Manipulasjon
Den samme matematikken skal ogs? kunne brukes til ? l?se et annet stort problem. I dag er det uheldigvis mulig ? manipulere den kunstige intelligensen slik at den kommer med fullstendig gale svar.
Et eksempel er n?r kunstig intelligens brukes til ? gjenkjenne dyr p? bilder. Tenk deg at du har et bilde av en panda. Da kan programvaren med stor sannsynlighet sl? fast at dyret p? bildet nettopp er en panda. Men hvis du legger et st?yfilter opp? bildet, vil den kunstige intelligensen g? bananas og kanskje hevde at pandaen er en apekatt.
Forklaringen p? dette fenomenet er at kunstig intelligens trenes opp til ? tolke en mengde bilder av pandaer og andre dyr ved ene og alene ? ta hensyn til hver av de enkelte pikslene, alts? bildepunktene, i alle bildene. Jo flere bilder maskinen trenes til ? gjenkjenne, desto sikrere kan den sl? fast hvilket dyr som er avbildet. Problemet er at maskinen ikke er trent opp til ? tolke bilder p? samme m?te som oss mennesker.
St?yfilteret gj?r at en del av pikslene blir annerledes selv om bildene ser helt like ut for oss. Mens st?yen er usynlig for oss mennesker, trigger den datamaskinen til ? ta feil avgj?relser.
Hacking
Du lurer kanskje p? hvorfor noen skulle finne p? ? legge st?y p? bilder? Det lille og for oss usynlige st?ylaget kan ?delegge mye for samfunnet. Det virker da totalt un?dig?
– St?y p? bilder kan brukes med ondsinnet hensikt.
Mulighetene er bedr?velig mange. Tenk deg et samfunn der selvkj?rende biler er hacket til ? misforst? omgivelsene sine. Rent teoretisk er det mulig ? legge st?yfilter p? bilskilt, slik at de automatiske bomstasjonene ikke oppdager bilnummeret. Hvis du klistrer gaffatape p? en helt spesiell m?te p? et stoppskilt, kan dataprogrammet uheldigvis tolke for budsskiltet som et fartsgrenseskilt.
– Vi kan ikke ha biler som oppf?rer seg galt og i verste fall forveksler en person i veien med litt t?ke. Ved ? lure systemet kan den kunstige intelligensen gj?re feil som er helt unaturlige for oss mennesker ? gj?re. Hvis ingen makter ? hindre dette, kan vi bare glemme slike ting som selvkj?rende biler. Selv om den kunstige intelligensen er trent opp og i snitt konkluder- er bedre enn vi mennesker gj?r, har den grunnleggende problemer som vi mennesker ikke har tenkt p? og som tilsynelatende kan dukke opp helt ut av det bl?, p?peker Kent-Andre Mardal.
Ny matematikk
Mardal poengterer at det b?de er viktig ? kunne garantere at den kunstige intelligensen tolker rett og at det skal v?re mulig ? forst? hvordan den har kommet frem til konklusjonene sine.
Det han skal gj?re helt spesifikt, og her er det lurt for deg, kj?re leser, ? rette deg opp i ryggen, for den neste setningen er overhodet ikke av det enkle slaget: Mardal skal bruke konsepter fra elementmetoden, en kj?r metode for dem som ?nder for ? l?se partielle diffensialligninger, som kort fortalt er den matematiske beskrivelsen av fysiske prosesser.
– Den samme teknikken skal vi bruke til ? analysere hvor robuste algoritmene i kunstig intelligens er. Vi ?nsker b?de at det ikke skal bli mulig ? lure systemet, samtidig som vi vil avsl?re innholdet i den svarte boksen. Poenget er ? kunne forst? strukturene i den svarte boksen matematisk.
Den nye matematikken skal med andre ord brukes til ? sikre at svarene fra kunstig intelligens, med st?rst mulig sannsynlighet, blir korrekte. Kent-Andre Mardal mener at de matematiske utfordringene med kunstig intelligens er sv?rt viktige for allmennheten. – Dette er den mest tidsriktige anvendelsen av matematikk i dag.
Demens
Den matematiske forskningen er st?ttet med 16 millioner kroner av IKT Pluss, som er en av 澳门葡京手机版app下载sr?dets store satsinger. Et av de store problemene som Mardal skal l?se gjennom denne satsingen, er, i 澳门葡京手机版app下载 med Oslo universitetssykehus, ? bruke kunstig intelligens til ? diagnostisere demens.
Mens vi er v?kne, samles det i l?pet av dagen en del giftstoffer i hjernen. Hjernen renses n?r man sover. Rensefunksjonen er dessverre d?rligere hos demente.
Kunstig intelligens skal brukes til ? sl? fast om en person har demens ved ? se p? hvordan hjernen blir renset. For ? klare dette blir den kunstige intelligensen trent opp p? et testmateriale. Det best?r av en serie MR-bilder av 100 pasienter. Her har alle pasientene f?tt kontrastv?ske. S? er det tatt ti runder med MR-bilder av hjernen i l?pet av 48 timer.
Ved ? trene opp den kunstige intelligensen, der de sammenligner endringene i hjernen hos pasienter med og uten demens, h?per forskerne at denne metoden i fremtiden b?de kan brukes til ? diagnostisere demens og sl? fast hvor langt demensen er kommet.
Per Kristian Eide, professor ved Universitetet i Oslo og hjernekirurg p? Oslo universitetssykehus, poengterer at 澳门葡京手机版app下载et med matematikerne gir ny og verdifull kunnskap.
– Den nye metoden kan, sammen med bildediagnostikk, brukes til ? unders?ke hvor godt stoffer skilles ut av hjernen hos mennesker. I neste omgang kan dette gi informasjon om personer er i faresonen for ? utvikle demens, bekrefter Per Kristian Eide.