sosiale verdier

Kunstig skjønn er farlig presist

De første dommene hvor forbryteren fikk ekstra lang straff på grunn av synsing fra en datamaskin, er en realitet. Utrolig nok kan det ligge treffsikkert skjønn bak.

IMG 0049Science fiction-filmen Minority Report fra 2002: En kunstig intelligens mener å vite på forhånd at en politimann (spilt av Tom Cruise) kommer til å begå et drap - i 2056. Systemet har aldri tatt feil før. Så da må det vel være riktig?

Virkeligheten slik den faktisk ble: En dommer i Wisconsin dømmer i 2013 Eric Loomis til seks års fengsel for å stikke av fra politiet og kjøre en bil uten eierens tillatelse - en ganske bagatellmessig forbrytelse. En hemmelig algoritme, i realiteten en datamaskin med en form for kunstig intelligens, mener nemlig å vite at Loomis har høy gjentagelsesfare.

Når forsvareren forsøker å få innsikt i algoritmens begrunnelse, får han avslag. Algoritmen er nemlig en forretningshemmelighet. Dessuten er den bare et av flere argumenter dommeren har vurdert. Ikke så rart, kanskje, at forsvareren anket saken til høyesterett, for å få vurdert om den strider med grunnlovens rett til rettferdig rettergang. Nå i sommer har høyesterett kommet til at det ikke bryter med grunnloven dersom dommeren lytter til algoritmen, og det er heller ikke grunnlag for å gi innsikt i begrunnelsen.

Det virker urimelig, men ...

Har verden gått helt av hengslene? Hvordan kom vi dit at en maskin langt på vei fikk overta en av de mest menneskelige oppgavene man kan tenke seg, en oppgave som virkelig krever klokskap, nemlig dommerens vurdering?

Kanskje er grunnen at vi hverken helt forstår menneskelig skjønn eller kunstig intelligens. Å kalle den omveltningen vi nå står midt oppe i for en kunstig intelligens-revolusjon, er i hvert fall ikke helt treffsikkert. Intelligens er et ord vi forbinder med IQ-tester, med logikk og riktige svar. Svarene på en IQ-test er enten riktige eller gale. Men de nye dataprogrammene som ofte kalles kunstige intelligenser er ikke laget for å bestå IQ-tester, og de ville heller ikke klart dem.

Programmene, som gjerne er basert på en teknologi kalt maskinlæring, er laget for å synse. Eller sagt på en mer presis måte: Utvise skjønn. Deres styrke er at de kan ta tusener eller millioner av faktorer, veie dem opp mot hverandre, og se mønstre i dem som det i praksis er umulig for mennesker å se.

Kommer som en flodbølge

Det spesielle med moderne maskinlæring er at teknologien gir helt nye muligheter på en helt enormt mengde ulike områder. Her er noen eksempler bare fra den siste ukens nyheter:

Forskere ved Princeton har brukt maskinlæring for å finne ut hvilke gener som sannsynligvis kan være involvert iautisme.

Ved Carnegie Mellon har forskerne brukt teknikken til å finne ut hvordan en abstrakt tanke ser ut. Ja, faktisk er det nå mulig for en fMRi-skanner å se om en forsøksperson tenker på avanserte og abstrakte konsepter som «diffraksjon» eller «energiflyt». Mønstrene som dannes i hjernen er universelle. Tankene til en person som aldri har ligget i skanneren før er også leselige.

Tesla-gründer Elon Musk sier at han tror folk flest vil bli overveldet over at helt selvkjørende biler vil bli realisert «langt raskere enn noen tror». Musk har tidligere antydet at Tesla vil ha slik teknologi, som også er basert på maskinlæring, klar allerede mot slutten av neste år.

Eller hva med denne: Microsofts søketjeneste Bing kan nå brukes til å forutsi bukspyttkjertelkreft FØR diagnosen blir stilt av en lege. Diagnosen kan stilles bare ved å analysere pasientenes søkehistorikk. Personer med slik kreft har tydeligvis noe med sin måte å søke på som gjør dem gjenkjennelige - før de selv er klar over diagnosen. Systemet fanger langt fra opp alle tilfeller, men det vanvittige er at maskinlæringen hevdes å ha en feilrate på bare et av 100.000 tilfeller.

Felles for alle disse problemstillingene er ikke at de krever en ekstrem intelligens. Derimot er de tåkete. De er kaotiske. Og svarene er på mange måter subjektive. Synsete. Som når vi utviser skjønn.

Brukes i alle retninger

Før du lar raseriet over mannen som ble dømt av en algoritme få fullt utløp, skal du også vite dette: Politiet i Nord-Carolina har med suksess begynt å bruke maskinlæring for å begrense politivold. Det viser seg nemlig at politifolk som utøver vold på forhånd viser en rekke ulike tegn på stress og overbelastning. Et system utviklet ved Universitetet i Chicago er foreløpig bare brukt retrospektivt, men klarte å plukke ut over halvparten av betjentene som skulle begå politivold - før de rakk å gjøre det.

I få andre deler av vår sivilisasjon er vi så avhengige av skjønn som i rettssystemet. Hvor treffsikkert er vårt beste, menneskelige skjønn egentlig? En undersøkelse av israelske dommere som skulle vurdere prøveløslatelse for domfelte viste ganske urovekkende resultater. De innsatte som ble vurdert like etter frokost hadde en 65 prosents sjanse for løslatelse. Like før lunsj derimot, da blodsukkeret til dommeren var på det laveste, var muligheten for å få en ny sjanse omtrent lik null.

Vårt skjønn svinger altså farlig mye. Til nå har det likevel vært det beste vi har hatt .

Dataskjønn er ordløst

Har vi nå fått noe som er bedre? Forsvareren til den «algoritmedømte» Eric Loomis påpekte at det kunstige skjønnet som bidro til å dømme klienten var helt ubegrunnet og dermed umulig å forsvare seg mot. Problemet er at kunstige intelligenser oftest umulig kan begrunne sine beslutninger og råd. Ikke engang ekspertene som har programmert dem kan gjenskape begrunnelsene. Årsaken er at systemene er bygget opp på grovt sett samme måte som menneskehjernen. De består av nivå på med nivå av kunstige, sterkt forenklede nevroner som er i stand til å oppdage mønstre og sammenhenger i enorme datamengder.

Det er slik de klarer å se en kreftdiagnose der vi mennesker bare ser et hav av tilsynelatende likegyldige søkehistorikker. Men begrunnelsen for beslutningen er bare av millioner av nuller og ettall. Det lar seg simpelthen ikke omforme til ord.

Preget av fordommer

Heller ikke den menneskelige hjerne er gjennomsiktig. Vi kan bare forholde oss til hva den selv uttaler etter en beslutning. Vi må nøye oss med etterrasjonalisering. En dommer som møysommelig skriver ut en dom får det til å virke som om det hele er et strengt byggverk med den logiske avgjørelsen til slutt. Men som undersøkelsen av de israelske dommerne viser, har ikke engang det mennesket som selv utviser skjønn egentlig full tilgang til sine beveggrunner.

Derfor blir det viktig å finne ut om det kunstige skjønnet faktisk er bedre enn det menneskelige. For eksempel har en gravejournalist i ProPublica dokumentert at også kunstig skjønn i rettssystemet er preget av fordommer som minner mistenkelig om ubevisst rasisme. Det kommer også frem at denne typen kunstig skjønn tas i bruk uten at det faktisk er grundig dokumentert om det kunstige er mer treffsikkert enn et rent menneskelig skjønn. Det gir grunn til alvorlig uro for rettssikkerheten.

Kan være uslåelig

Likevel vet vi at kunstig skjønn på noen felter kan bli ubestridelig bedre enn mennesker. Den lege finnes neppe som er i stand til bare å analysere en søkehistorikk og korrekt plukke ut kreftdiagnoser med en feilrate på bare en av 100.000.

Det er også kunstig skjønn og maskinlæring som ligger bak når Elon Musk hevder (på Norgesbesøk i vår) at førerne av hans biler halverer antall ulykker hvis de overlater kjøringen til autopiloten.

Dessverre betyr ikke det at bilene er helt ufeilbarlige. Den første dødsulykken med en selvkjørende Tesla viste det i mai, med grusom tydelighet.

Men den første dødsulykken med en selvkjørende Tesla kom etter at autopilotene hadde kjørt 209 millioner kilometer uten dødsfall. Biler med bare mennesker bak rattet har én dødsulykke pr. 160 millioner kilometer i USA. Musk regner på sikt med å kunne redusere antall bilulykker med vanvittige 90 prosent ved bruk av autopilot. Det tilsvarer utrolige 3000 liv spart hver eneste dag på verdensbasis.

Alle må lære det

Hvis det er ubestridelig at maskinene på et gitt felt har bedre skjønn enn mennesker, kan vi da la være å ta dem i bruk? Vil vi heller ha dårlige rettsavgjørelser, farlige veier og upresise kreftdiagnoser enn å overlate dem til maskiner? Selvsagt ikke.

Men nettopp fordi entusiasmen nå er så stor for en lovende teknologi, er det en fare for at vi kaster oss hodeløst over mulighetene før vi kan dokumentere at utfallet av å bruke maskiner faktisk er bedre enn med menneskelig skjønn.

Fremtiden kommer uansett kjapt nok. Uansett om vi bremser litt, kommer maskinlæring til å ta over stadig nye felter av samfunnet som en stormvind.

PER KRISTIAN BJØRKENG



Sendt fra min iPad

Du er her: Home filosofi geo-sosial sosiale verdier Kunstig skjønn er farlig presist