Aanbevelingen voor AI&A in de Enterprise Architectuur
Wat moet een overheidsorganisatie allemaal doen om AI en Algoritmen goed toe te passen in haar dienstverlening en bedrijfsvoering?
Hieronder geven we handvatten voor een Enterprise Architect.
De 1e vraag is natuurlijk: Binnen welke wet- en regelgeving en beleid moet onze organisatie handelen qua AI en Algoritmen?
Momenteel is er nog geen vastgestelde Wet die specifiek is voor AI en Algoritmen. Wel zijn al veel Kamerstukken beschikbaar waarin de eventueel benodigde kaders voor het gebruik van AI en Algoritmen worden verkend. Zie <verwijzing opnemen>
Wel moet je natuurlijk rekening houden met de AVG_(Algemene_Verordening_Gegevensbescherming) (privacy, data-minimalisatie e.d.).
De Algemene Rekenkamer heeft het rapport ‘Aandacht voor algoritmes’ geschreven en een toetsingskader ontwikkeld voor het auditen van AI en algoritmen. De kennis uit dit toetsingskader is uiteraard ook goed in te zetten bij het maken van ontwerpen van dienst die gebruik maken van AI en algoritmen.
Aandacht voor algoritmes
In de ‘Nationale Datapodcast’ van VKA legt Miranda Pirkovski van de AR uit waar het rapport over gaat en hoe het te gebruiken is.
Aandacht voor algoritmes Algemene Rekenkamer
Ook de beroepsvereniging voor IT-auditors (NOREA) heeft een handreiking opgesteld (in review fase) voor het auditen van AI.
NOREA Guiding Principles Trustworthy AI-Investigations
Een handig hulpmiddel om ethische problemen in dataprojecten, datamanagement en databeleid te herkennen is de Ethische Data Assistent (DEDA). Deze is bedoeld voor data-analisten, projectmanagers en beleidsmakers. DEDA is ontwikkeld in samenwerking met de gemeente Utrecht.
De Ethische Data Assistent (DEDA)
Bij het gebruik van algoritmen in dienstverlening is het van belang dat er transparantie wordt gegeven over de werking van het algoritme. Er wordt inmiddels ook al gesproken over het opzetten van een algoritmeregister. De gemeente Amsterdam heeft als eerste organisatie hier een bèta versie van ontwikkeld. Het algoritmeregister van de gemeente Amsterdam is een eerste opzet van hoe zo'n register eruit zou kunnen zien. Het onderwerp transparantie en hoe (en aan wie) je daar inzicht in kan geven is nog volop in beweging.
Amsterdam Algoritmeregister Beta
Welke AI- en A-functies zijn nodig in de architectuur van jouw organisatie?
Wie bepaalt eigenlijk wanneer AIenA goed genoeg is geregeld?
En welke normen en waardenstelsels hanteer je daarbij?
Nog uit te werken !