»Kan robotter og kunstig intelligens erstatte anklagere?«

Sådan lød spørgsmålet fra rigsadvokat Ole Hasselgaard til de tre deltagere i Anklagerforum 2017s indledende paneldebat om anklagerrobotter og algoritmer.

Svarene fra en robotforsker, en direktør fra Microsoft og en dommer vakte henholdsvis latter, stille undren og klapsalver.

CEO og grundlægger af Foundation Autonomous, Henrik Schärfe, fik hele Øksnehallen til at grine, da han svarede ganske kort.

»Det er et morsomt spørgsmål. Svaret er nemlig nogenlunde indlysende: Ja. Det gælder også alle de andre personer, som er omkring det danske retssystem,« sagde Henrik Schärfe, der på Aalborg Universitet har forsket i robotter og samspillet mellem mennesker og maskiner.

Den anden paneldeltager Nana Bule fik salen til at undre sig. Microsoftdirektøren for Marketing og Operations opridsede en situation, hvor hun i 2025 skal alene i retten.

»Jeg har ingen forsvarer ved min side, for der er en tablet. Dommeren er en skærm. Dommer, anklager og forsvarer er afløst af kunstig intelligens. Det er et skræmmende billede, der virker etisk hult. Men hvis vi vender os mod hospitalerne, så er jeg tryg ved, at lægen bliver assisteret af en robot, og kunstig intelligens er bedre til at se forstadier til kræft på røntgenbilleder,« sagde Nana Bule.

Den tredje paneldeltager fik salen til at klappe. Lene Sadolin-Holst er dommer i Københavns Byret, og hun havde op til Anklagerforum 2017 tænkt meget over spørgsmålet.

»Jeg nåede frem til, at vi ikke kan erstattes. Jeg er ikke bange for robotter, for de har deres begrænsninger. De er mindre velegnede til at udøve individuelle skøn, for eksempel om forsæt. Der skal populært sagt kigges ind i gerningsmandens hjerne, og selv om nogle objektive kriterier giver en rettesnor, så beror det på en vurdering hos den enkelte anklager og dommer. Og vi mennesker er bedst til at vurdere andre menneskers handlinger,« sagde Lene Sadolin-Holst.

Robotter kan hjælpe anklagere og dommere

Dermed var debatten godt i gang. Ved første øjekast havde de tre paneldeltagere en ret forskellig tilgang til robotter og kunstig intelligens i danske retssale. Men de var enige på flere punkter: Den kunstige intelligens kan blive en stor hjælp, men det kræver, at lovgiverne gør et kæmpe arbejde med at afgrænse opgaverne mellem mennesker og maskiner.

Dommer Lene Sadolin-Holst forestillede sig robotten som et softwareprogram, ikke en fysisk robot med menneskelige træk. Og det ville hun gerne bruge.

»Jeg ser robotten som et program på min pc, der kan gennemgå og strukturere et stort datamateriale. For eksempel et efterforskningsmateriale i en sag om økonomisk kriminalitet eller i en narkosag, hvor der er mange indgreb i meddelelseshemmeligheden. Det vil gøre det nemmere for anklageren at skrive anklageskriftet og føre bevis ved retten. Det vil også gøre det nemt at søge informationer om lovgivning og retspraksis,« sagde Lene Sadolin-Holst, der godt kan se en robot hjælpe dommeren i at forberede præmisser til en dom ved at skrive paragraffer ind i en skabelon og citere fra dem.

Henrik Schärfe gik væsentlig længere. Han mente, at man kan sætte computere til at udføre de fleste handlinger i en retssal. Spørgsmålet er så, om vi ønsker det.

»Når du kan beskrive processer, kan du automatisere dem. Det gælder også, når dommer skønner om for eksempel forsæt. Vi kan interviewe dommerne om, hvad de gør. Ser de mønstre i nogle handlinger? En del af skønsprocessen kan sikkert beskrives, så det vil den blive. Derfor kan vi sætte en robot til at udføre den,« sagde Henrik Schärfe.

Det fik Nana Bule til at indskyde, at robotter kan øge retssikkerheden.

»Mange ting i en retssag afgøres i dag ved individuelle skøn, og det er vel ikke ubetinget trygt for den anklagede,« sagde Nana Bule.

Men her ramte hun en klar afvisning hos dommeren.

»Jeg er ikke enig. Mange ting kan en maskine ikke. Vores hjerne er udviklet over 6-8 millioner år, og vi har empati, som en maskine ikke kan opnå. I retten skal enhver tvivl komme den anklagede til gode, og det kan en maskine ikke håndtere i dag.«

Robotter udfordrer med etiske problemer

På et punkt var de tre deltagere ret enige. Alle tre mente, at lovgiverne har et stort arbejde foran sig med at definere, hvilke opgaver robotter og kunstig intelligens kan overtage.

»Der ligger fantastiske muligheder i big data, men det giver os et problem med retssikkerheden, for det kan blive svært at dokumentere, hvordan robotten når frem til svaret. Nogle gange er svaret større end hele Facebook,« sagde Henrik Schärfe.

»Det er meget vigtigt, at vi finder ud af, hvor mennesker skal være til stede i retsprocessen. Lovgiverne må udføre forsøg i sandkasser og uddrage, hvad vi kan lære af dem. Den nye lov om selvkørende biler er ikke et godt eksempel, for den siger intet om, hvad der skal ske, når kørslen digitaliseres,« sagde Henrik Schärfe.

Lene Sadolin-Holst var også bekymret for, om politikerne magter det. Hun så farer ved at overlade retsopgaver til robotter:

»Vores vurdering sker altid i en social og samfundsmæssig kontekst, der ændrer sig, og det stiller store krav til lovgiverne. Den, der fodrer robotten med data, bestemmer over den. Hvis magthaverne kan programmere en anklager- eller en dommerrobot, så er det et kvantespring i den forkerte retning. Lovgiverne kan måske se en fordel i at indrette love efter maskinerne og ikke menneskene. For eksempel ved at afskaffe forsætsbegrebet, fordi en maskine ikke kan håndtere det.«

Nana Bule var enig i, at robotter kræver en fast hånd fra lovgivernes side, men hun blev også utålmodig over snakken om de store etiske spørgsmål.

»Jeg frygter, at vi ikke kommer nogen steder, fordi vi først vil finde svaret på det helt store problem. Der er så meget godt, som vi ikke udnytter. Hvor mange ville sige nej til at få en sekretær, der laver al ens research? Robotter er bedre til at finde de tre mest relevante sager. Og til at transskribere det, I siger. Jeg kan som skatteborger ærgre mig over, at vi ikke udnytter dem og får en kortere sagsbehandling,« sagde Nana Bule.

Tre forskellige fremtidsscenarier

Microsoftdirektøren mente, at anklagernes arbejde bliver mere spændende, når robotterne kommer til.

»Om fem eller ti år bliver jeres arbejde mere interessant. I kommer til at lave vurderinger og det kedelige skrivearbejde er væk.«

Henrik Schärfe trak et mere provokerende scenarie op.

»Til den tid kan I holde dette møde i en lille gymnastiksal, for der er kun 5-10 procent af jer tilbage. Resten vil være en slags ombudsmænd, og de vil være vigtige for retssikkerheden.«

Lene Sadolin-Holst så frem til at få en hjælpende, elektronisk hånd.

»Vi dommere skal være der i retssalen for at sikre en fair trial. Og der vil være software på min pc, der fortæller mig, når jeg er træt, sulten eller tørstig, og måske også at jeg skal udsætte retssag til næste dag.«

Anklager ser frem til kunstig intelligens

På brostenene uden for Øksnehallen var anklagerfuldmægtig Anders Lunden begejstret for udsigten til at få hjælp fra robotter.

»Jeg kan som ny anklager godt tænke mig nogle af de redskaber, som den kunstige intelligens kan give, for eksempel en algoritme over alle byretsdomme. Vi kan i dag ikke søge i alle domme, men må kigge i udvalgte domme i Ugeskrift for Retsvæsen og Tidsskrift for Kriminalret. Det kan blive meget bedre,« sagde anklageren fra anklagemyndigheden ved Sydsjællands- og Lolland-Falsters Politi.

Han sammenlignede med at købe en brugt bil i Den Blå Avis.

»Der kan jeg krydse af i en række felter. For eksempel salgssted, farve, kilometerstand og pris. Jeg vil gerne kunne søge på samme måde i alle byretsafgørelser,« sagde Anders Lunden.

Han hæftede sig især ved Henrik Schärfes tilgang til kunstig intelligens.

»Det var en øjenåbner. At man i en ikke så fjern fremtid kan sætte robotter til at udføre nogle af de arbejdsopgaver, som dommere varetager, hvis man kan beskrive dem, f.eks. indenfor færdselsområdet.«

Robotter foreslår kautioner

Under Anklagerforum 2017s paneldebat nævnte de tre deltagere flere eksempler på kunstig intelligens:

• Amerikanske myndigheder har i 10 år brugt robotten Compas til at vurdere risici ved at løslade sigtede mod kaution. Robotten vurderer risikoen for, at den sigtede begår ny kriminalitet ud fra store mængder kriminalitetsdata, lige som den rådgiver om kautionens størrelse. Robotten har fået kritik for at favorisere hvide frem for sorte borgere.

• Den engelske robot donotpay.co.uk har rådgivet 250.000 borgere, der har klaget over p-bøder. Flere end 60 procent af brugerne har fået helt eller delvist ret i deres klager.

• Amerikanske advokater bruger robotten ROSS, som er en videreudvikling af IBM’s supercomputer Watson, til at vurdere due diligence ved overtagelse af virksomheder. Robotten kan levere juridiske argumenter til brugerne og dermed spare tid.