Wat is AI Governance?
6 september, 2023
Masoed Shakori
“Het belang van AI Governance wordt steeds duidelijker. Daarom trappen organisaties nu op de AI rem, totdat ze er klaar voor zijn. “
Inhoudsopgave
Wat is AI Governance?
Het belang van AI Governance wordt steeds duidelijker, helaas vaker door misstanden dan anders. Daarom trappen organisaties zoals de overheid, politie, maar ook de Rabobank op de AI rem, totdat ze er klaar voor zijn. Bovendien wordt AI Governance een Europese wet, onder de naam ‘AI Act’. Lees hier meer over in ons artikel: De nieuwe Europese regelgeving voor AI.
De kinderopvangtoeslagaffaire is misschien wel het bekendste voorbeeld in Nederland. Een voorbeeld van hoe het mis kan gaan met algoritmen. Want algoritmen kunnen grote invloed hebben op het leven van mensen. Dit had misschien wel voorkomen kunnen worden met een goede AI Governance van de betrokken instanties. Dus wat is AI governance precies?
AI governance verwijst naar het beheer, de regulering en het toezicht op kunstmatige intelligentie (AI) binnen organisaties, gemeenschappen en maatschappijen. Het betreft hier niet alleen om AI, maar eigenlijk alle algoritmen. Je hoeft dus geen Google of Facebook te zijn die de nieuwste AI of Machine Learning modellen inzet. Bijna iedere organisatie maakt gebruik van automatisering en dus van een algoritme. AI governance heeft tot doel richtlijnen en verantwoordelijkheden vast te stellen voor het ontwikkelingsproces, de implementatie en het gebruik van AI-technologieën. Het omvat verschillende aspecten die ervoor zorgen dat AI op een ethische, verantwoordelijke en transparante manier wordt toegepast.
Dit is er eerder misgegaan in Nederland.
Het toepassen van AI governance is van cruciaal belang om verschillende redenen, gezien de complexiteit en impact van kunstmatige intelligentie (AI)-technologieën. Helaas zijn er genoeg voorbeelden te vinden waar dit mis is gegaan. En zo zullen er vast nog veel meer gevallen zijn die nog niet bekend zijn of openlijk bekritiseerd. Hieronder een aantal bekende gevallen in Nederland.
Kinderopvangtoeslagaffaire
Dit was een ernstig geval waarbij duizenden ouders onterecht werden beschuldigd van fraude bij het aanvragen van kinderopvangtoeslag. Het algoritme dat werd gebruikt om fraude op te sporen, bleek defect te zijn en resulteerde in onterechte terugvordering van toeslagen. Dit leidde tot grote financiële problemen voor getroffen gezinnen en een politiek schandaal.
DUO fraude detectie
Dienst Uitvoering Onderwijs (DUO) gebruikte voor het controleren op fraude met studiefinanciering een algoritme met automatische controles. Door die automatische controles werden opvallend vaak studenten met een migratieachtergrond beschuldigd van fraude, bleek dit jaar (2023) uit onderzoek van NOS op 3 en Investico. Onderwijsminister Robbert Dijkgraaf heeft bepaald dat DUO direct moet stoppen met het algoritme. DUO mag nu alleen nog controles op studenten uitvoeren op basis van een willekeurige steekproef.
Politie algortime RTI-G
Na kritische berichtgeving van Follow the Money over de toepassing van het Risicotaxatie Instrument Geweld (RTI-G), stopt de politie per direct (25 augustus 2023) met het gebruik van dit algoritme. Het algoritme, dat sinds 2014 in gebruik was, voorspelde of iemand in de toekomst gewelddadig zou worden. Er waren echter twijfels over de betrouwbaarheid en discriminatoire effecten van het algoritme. Het RTI-G keek naar factoren als geslacht, leeftijd en strafblad om een risicoscore te berekenen. Mensen met een hoge risicoscore werden gezien als een ‘veiligheidsrisicosubject’ en zouden vaker gecontroleerd worden.
SyRI
Systeem Risico Indicatie was een systeem dat door de Nederlandse overheid werd gebruikt om gegevens van burgers uit verschillende bronnen te koppelen om mogelijke fraude op te sporen. Het werd echter bekritiseerd vanwege privacy- en discriminatiezorgen, en in 2020 verklaarde de rechter het systeem onrechtmatig vanwege de inbreuk op de privacy van burgers.
Waarom AI Governance?
De voorbeelden in het vorige hoofdstuk benadrukken de complexiteit en uitdagingen die gepaard gaan met het gebruik van algoritmes en AI in verschillende sectoren. Ze benadrukken ook het belang van transparantie, verantwoording, ethiek en regelgeving bij het ontwikkelen en implementeren van dergelijke technologieën om negatieve gevolgen te voorkomen. Hieronder vind je in detail waarom je als organisatie AI Governance wil inzetten.
Ethiek en verantwoordelijkheid
AI-systemen kunnen beslissingen nemen die aanzienlijke invloed hebben op individuen, gemeenschappen en maatschappijen. Het implementeren van AI governance helpt ervoor te zorgen dat deze beslissingen worden genomen op een ethische en verantwoorde manier, rekening houdend met menselijke waarden en belangen.
Proportionaliteit
Is het redelijk om massasurveillance in te zetten en de privacy van burgers op het spel te zetten om winkeldiefstal tegen te gaan? Of is het redelijk om een gezichtsscanner te gebruiken om mensen makkelijker toegang te geven (of juist te ontzeggen) tot de campingzwembad? De inzet van AI moet wel overwogen worden, waarbij de risico’s afgezet moeten worden tegen de te behalen voordelen.
Vooroordelen en eerlijkheid
AI-algoritmen kunnen inherente vooroordelen bevatten die resulteren in ongelijke behandeling van verschillende groepen. AI governance richt zich op het minimaliseren van deze vooroordelen en het waarborgen van eerlijkheid en gelijke kansen voor iedereen.
Transparantie en vertrouwen
AI-systemen zijn vaak complex en moeilijk te begrijpen. Het implementeren van AI governance omvat het bevorderen van transparantie over hoe deze systemen werken en hoe beslissingen worden genomen. Dit helpt het vertrouwen van gebruikers en het publiek in AI-technologieën te vergroten.
Risicobeheer
AI-technologieën brengen potentiële risico’s met zich mee, zoals privacyinbreuken, beveiligingslekken en misbruik. AI governance helpt bij het identificeren en beheren van deze risico’s, waardoor organisaties proactieve maatregelen kunnen nemen om schade te voorkomen.
Juridische naleving
De ontwikkeling en implementatie van AI kan worden beïnvloed door juridische en regelgevende vereisten, zoals de nieuwe Europese AI wet. AI governance zorgt ervoor dat organisaties voldoen aan relevante wetten en voorschriften, wat potentiële juridische problemen kan voorkomen.
Positieve impact maximaliseren
Door AI governance toe te passen, kunnen organisaties ervoor zorgen dat AI-technologieën worden gebruikt om positieve impact te genereren. Dit omvat gebieden zoals gezondheidszorg, onderwijs, milieu, en meer, waar AI kan bijdragen aan oplossingen voor complexe uitdagingen.
Reputatie en maatschappelijk draagvlak
Organisaties die verantwoordelijk omgaan met AI en rekening houden met bredere maatschappelijke belangen, kunnen hun reputatie verbeteren en een sterker maatschappelijk draagvlak creëren voor hun activiteiten.
Lange-termijnstrategieën: AI governance helpt organisaties bij het ontwikkelen van lange-termijnstrategieën voor AI gebruik. Dit omvat het evalueren van risico’s, het implementeren van waarborgen en het plannen van toekomstige ontwikkelingen.
Kortom, AI governance is van cruciaal belang om ervoor te zorgen dat AI technologieën op een verantwoorde en ethische manier worden ontwikkeld, geïmplementeerd en gebruikt, en dat de voordelen van AI worden gemaximaliseerd terwijl potentiële negatieve gevolgen worden beperkt.
AI Governance toepassen in jouw organisatie?
AI Governance doe je niet in je eentje, maar met de gehele organisatie. Van de individuele medewerker tot leidinggevenden. Hiervoor is een basis van datageletterdheid nodig en bewustzijn over privacy en risico’s. School of Data Science leidt organisaties op en ondersteunt ze met het implementeren van datagedreven werken op een verantwoorde manier. Lees meer over onze Data Qualified programma of neem meteen hieronder contact met ons op voor een vrijblijvend adviesgesprek.
Houd ook onze kennisbank en LinkedIn pagina in de gaten voor toekomstige artikelen over AI Governance. De volgende gaat over AI Governance frameworks en hoe je deze toepast.