Weapons of math destruction

Abstract

Dit is het percentage strafbeschik kingen dat in 2016 onterecht werd opgelegd door het Openbaar Minis terie, blijkt uit interne rapporten van het OM en onderzoek van NRC.Het ontbrak aan bewijs of de onderzoekers konden door incomplete dossiers niet zien of de schuld juist was vastgesteld.Soms bleek een straf voor het verkeerde feit opgelegd.CIJfErS D e heren van de Britse rock band MUSE waarschuwen in hun track 'algorithm' voor artificiële intelligentie (AI).Bestseller auteur Cathy O'Neil vindt algorit mische besluitvorming (AB) net zo gevaarlijk als kernwapens.AI/AB leidt tot strijdigheid met de Grondwet en internationaalrechtelijke verdrags bepalingen.Deze angst zal in 2019 en de jaren daarna toenemen, maar wordt schromelijk overdreven.Nederland loopt voorop in de algorit mische fanfarevanpaniek.Van Eck, Bovens en Zouridis constateren in NJB (40) dat toezicht op besluitvor ming van de overheid verschuift naar systeemontwikkelaars, softwareen gineers en dataprofessionals.Help! De rechtsstaat is in gevaar.Gelukkig denkt ons parlement rustig en even wichtig na over wetgeving.Bijvoor beeld over artikel 22 AVG dat regelt dat een persoon niet onderworpen hoeft te zijn aan besluiten louter gebaseerd op AI/AB.Maar hoe dan?Grootschalige AB bij de overheid vindt plaats bij onder meer de Belas tingdienst, het UWV en de DUO.In de private sector maken financiële instellingen veelvuldig gebruik van premiedifferentiatie op basis van postcode bij het verstrekken van hypotheken.En de meeste zieken huizen in Nederland werken met geavanceerde planningspakketten voor medewerkers en patiënten.Niels Jak en Steven Bastiaans conclu deren in NJB (40) dat controleerbaarheid en transparantie de toverwoor

Cite this work

No public copy is stored for this record, so only the metadata is cited.

Stored only when both papers are in the corpus — 188 citations exist upstream.