Er zitten serieuze fouten in het algoritme dat de reclassering gebruikt om te berekenen wat de kans is dat verdachten en criminelen opnieuw in de fout gaan. Dat concludeert de Inspectie Justitie en Veiligheid. De inspectie zegt dat de reclassering moet stoppen met het gebruik van de systemen of ze zo snel mogelijk moet aanpassen.

In bijna een kwart van de gevallen pakt de berekening te hoog of te laag uit. Bij het grootste deel van de fouten wordt het risico te laag ingeschat dat iemand opnieuw een misdrijf pleegt. "De reclassering adviseert onder meer de rechter en het zou dus kunnen zijn dat de rechter op basis van de reclassering verkeerde besluiten heeft genomen", zegt Arjen Schmidt van de inspectie.

Bij een te lage risico inschatting kan het gebeuren dat de maatschappij niet voldoende beschermd wordt. Bij een te hoge inschatting kan dat nadelige gevolgen hebben voor een verdachte.

Gedetineerden en verdachten omgewisseld

Een ernstig voorbeeld van hoe wetenschappelijke inzichten verkeerd in het algoritme terecht zijn gekomen, is bijvoorbeeld dat de categorieën veroordeelde en verdachte verkeerd om zijn ingevoerd. Hierdoor is aan veroordeelden die juist meer kans hebben om de mist in te gaan, een lager risico toebedeeld. Ook is voor drugsgebruikers het risico op herhaling (recidive) in de formule te laag ingevoerd.

Er zijn daarnaast variabelen uit het systeem weggelaten, zoals of iemand een migratieachtergrond of psychische aandoening heeft. Hoewel er volgens de inspectie goede redenen kunnen zijn om dit soort gevoelige data niet te gebruiken, is het model hier ook niet goed op aangepast. De gegevens die ingevoerd zijn, zijn in het algemeen ook verouderd. Ze komen uit bijvoorbeeld Zweedse en Amerikaanse onderzoeken en worden niet geactualiseerd.

Meer dan 40.000 keer per jaar

Het systeem wordt al jaren veelvuldig gebruikt, in de onderzochte periode van 2023-2024 meer dan 40.000 keer per jaar. Omdat het algoritme slechts een deel uitmaakt van de totale risico-inschatting, kan de inspectie niets zeggen over in hoeveel gevallen dit ook echt tot verkeerde uitkomsten heeft geleid. Want medewerkers maken ook nog een eigen afweging, die een rechter weer meeneemt in het eindoordeel. Maar het risico is aanwezig dat mensen te kort of te lang vastzaten of de verkeerde behandeling kregen.

Volgens de inspectie wordt veel waarde aan de uitkomst van het algoritme gehecht bij de beoordeling. "Naar onze inschatting vertrouwen ze daar te veel op", zegt Schmidt. Omdat medewerkers niet goed snappen hoe het werkt, is dat extra risicovol.

Dat dit allemaal zo lang niet is opgemerkt, is volgens Schmidt te verklaren doordat de systemen niet worden gecontroleerd. "Wat we bij de reclassering eigenlijk zien, is dat er onvoldoende expertise in de organisatie aanwezig is om hier verantwoord mee om te gaan."

Risico op discriminatie

Bovendien is ook het risico van discriminatie door het systeem niet uitgesloten. Twee kenmerken waarmee gerekend wordt, postcode en inkomen, kunnen namelijk een relatie hebben met iemands afkomst. Indirect kan er volgens het College voor de Rechten van de Mens bij zo'n wisselwerking sprake zijn van discriminatie. Zulke kenmerken mogen alleen onder voorwaarden gebruikt worden. Er moet dan duidelijk gemaakt worden dat het gebruik proportioneel is en hoe discriminatie voorkomen wordt. Ook dat is in dit geval niet gebeurd.

Het onderzoek naar de reclassering is het eerste in een groter onderzoek naar het gebruik van algoritmes bij de overheid, dat werd opgestart na problemen met het gebruik van algoritmes in de toeslagenaffaire en bij DUO. De inspectie onderzocht de reclassering omdat bekend is dat algoritmes daar veel worden gebruikt.

Kunnen sociale media verantwoordelijk worden gehouden voor psychische klachten van langdurige gebruikers? Dat is de vraag waar een jury in Los Angeles de komende weken een antwoord op moet vinden.

Instagram-baas Adam Mosseri, die als eerste techbaas getuigde in de zaak, vindt van niet. "Het is belangrijk om onderscheid te maken tussen een klinische verslaving en problematisch gebruik", zei hij. "Ik heb ook weleens een serie op Netflix tot diep in de nacht doorgekeken, maar dat is volgens mij geen klinische verslaving."

Mosseri zei dat zijn bedrijf liever de term "problematisch gedrag" gebruikt bij "mensen die meer tijd op Instagram doorbrengen dan ze zelf goed achten, en dat gebeurt zeker". Hij vindt dat eerder een "persoonlijke afweging" voor gebruikers.

Verslaafd gemaakt

De rechtszaak in Los Angeles is aangespannen door een 20-jarige vrouw die socialemediabedrijven verantwoordelijk houdt voor psychische klachten als depressie en een verminderd zelfbeeld. Deze anonieme 'KGM' zegt dat ze, sinds ze op haar negende sociale media ontdekte, door de bedrijven bewust verslaafd is gemaakt aan hun apps.

De zaak wordt gezien als een belangrijk proefproces voor honderden andere soortgelijke aanklachten. Platforms als TikTok en Snapchat schikten met de vrouw, maar Googles YouTube en Meta (van Instagram en Facebook) lieten het op een rechtszaak aankomen. Later deze maand staat een verhoor van Meta-topman Mark Zuckerberg gepland.

Techbedrijven kampen wereldwijd met kritiek. Zo verbood Australië als eerste land socialemediagebruik onder de 16 en denken andere landen daarover na. De EU oordeelde vorige week hard over het algoritme van TikTok, dat ook ongezond verslavend zou zijn.

Huilen verboden

Bij de zitting met Instagram-baas Mosseri waren veel ouders aanwezig van kinderen die schade ondervonden na intensief socialemediagebruik. Verschillende ouders van kinderen die stierven door zelfdoding kregen het te kwaad tijdens Mosseri's getuigenis. De rechter waarschuwde hen uit de zaal te zullen zetten als hun verdriet verstorend zou werken.

Mosseri noemde het problematisch dat de anonieme vrouw in de zaak ooit 16 uur op een dag op zijn app had gezeten, maar wilde dat niet typeren als verslaafd gedrag. De vraag hoeveel tijd op Instagram gezond is, was niet aan hem om te beantwoorden, vond Mosseri.

In het verhoor werd Mosseri ook aan de tand gevoeld over Instagram-filters waarmee gebruikers plastische chirurgie konden fingeren. In interne mails onderkende het bedrijf de mogelijke psychische gevolgen daarvan, maar men vreesde dat een verbod gebruikers naar concurrenten zou drijven. Toenmalig topman Nick Clegg pleitte daar toch voor, "omdat we anders - terecht - worden beschuldigd van groei boven verantwoordelijkheid te kiezen".

Mosseri, die Instagram sinds 2018 leidt, zag in die discussie het bewijs dat zijn bedrijf al doende ethische kwesties moest zien op te lossen. "De wereld verandert snel en Instagram moet meeveranderen om relevant te blijven", redeneerde hij. "Natuurlijk kun je in de loop der jaren terugkijken en functionaliteiten aanwijzen die we nog niet hadden. We blijven onszelf verbeteren."

Move fast, break things

Mosseri sprak tegen dat Instagram eropuit is om kinderen aan zich te binden. Die klikken volgens hem nauwelijks op reclames en hebben maar weinig geld te besteden. KGM's advocaat wierp tegen dat gebruikers die vroeg lid worden, ook op latere leeftijd trouw blijven aan hun medium. "Keuzes maken die geld opleveren maar mensen benadelen, zijn op de lange termmijn ook het bedrijf niet goed", wierp Mosseri tegen.

Victoria Hinks, van wie de dochter op haar zestiende zelfmoord pleegde, gelooft dat niet. Zij verwees naar het officieuze motto van Silicon Valley: move fast and break things. "Onze kinderen waren de eerste proefkonijnen", zei ze buiten het gerechtsgebouw.

Mosseri zei die slogan inmiddels liever niet meer te gebruiken.

Hulp nodig?

Denk je aan zelfdoding of maak je je zorgen om iemand? Praten erover helpt en kan anoniem via de chat op www.113.nl of telefonisch op 113 of 0800-0113.

Defensie wil tientallen treinstellen kopen voor het vervoer van gewonde Nederlandse militairen bij een eventueel groot conflict. Dat bevestigen bronnen na berichtgeving van De Telegraaf. In de zomer werden daar al verkennende gesprekken over gevoerd met de NS.

De treinstellen worden omgebouwd tot een soort rijdende ziekenhuizen die tot aan de oostgrens van het NAVO-gebied kunnen komen. Gewonde militairen kunnen vanaf daar veilig en snel vervoerd worden naar ziekenhuizen waar zij aanvullende specialistische zorg kunnen krijgen.

Aanleiding is de verslechterde veiligheidssituatie in Europa en de kans dat Rusland NAVO-landen aanvalt. Defensie houdt rekening met het scenario dat er meer dan duizend gewonden per dag afgevoerd moeten worden.

De treinen moeten zowel op stroom als op diesel kunnen rijden en geschikt zijn voor de verschillende spoortypes in Europa. De aanschafkosten worden geschat op honderden miljoenen euro's.