Over de implicaties van AI en het debat dat we daarover moeten voeren.
Freeze! Onder invloed van negatieve nieuwsberichten over AI hebben we soms de neiging te verstijven en de AI-doos van Pandora stevig dicht te houden. Maar vroeg of laat sluipt AI de organisatie toch binnen. Tijd voor een debat dus. Een AI-debat.
Niet altijd rozengeur en maneschijn
Bezorgdheden over privacy, banenverlies en afhankelijkheden van buitenlandse technologie. Het zijn de minder mooie kanten van AI. Bovendien zijn ze niet ongegrond.
Moeten we bezorgd zijn over privacy? Zeker. Zo kondigde Meta aan hun modellen te trainen op basis van je foto’s en berichten, zette Smartschool een AI-project op pauze nadat er kritiek kwam op het gebruik van persoonlijke data van kinderen en bleken de gebruikersdata van Deepseek op straat te liggen.
Banenverlies is nog zo iets. We durven het vaak nog niet echt luidop zeggen, maar AI zal er ongetwijfeld voor zorgen dat bepaalde banen zullen verdwijnen. Andere jobs zullen radicaal veranderen en ook nieuwe jobs zullen het levenslicht zien.
Ook op het geopolitieke schaakbord is AI op dit moment een belangrijke pion. De AI-bonzen gaan op de koffie in Het Witte Huis, chips die gebruikt worden om AI-modellen te trainen zijn goud waard en strategische partnerschappen rond AI-infrastructuur worden gesmeed op het hoogste niveau.
Het AI-debat in drie stappen
We moeten het dus over AI hebben en de implicaties voor onze organisatie. Het is een debat dat we moeten voeren met het management, het bestuur en de gemeenteraad. De standpunten die hieruit voortkomen, zijn de handvaten voor een verdere AI-strategie. Hoe pak je dit het best aan?
- AI-geletterdheid: zorg ervoor dat de mensen rond de tafel een gemeenschappelijk begrip hebben over wat AI is en wat het niet is. Licht de kansen en bedreigingen van AI toe.
- Start het debat: hieronder vind je 12 stellingen terug die het debat richting geven. Laat deelnemers een standpunt in nemen via bv. een Mentimeter. Bespreek de resultaten plenair.
- Elke AI-toepassing binnen de gemeente moet binnen één jaar aantoonbare kostenbesparing of kwaliteitsverbetering opleveren.
- Om bij te blijven, moeten bestuurders en medewerkers verplicht worden om training in AI te volgen.
- Inwoners hebben het recht om behandeld te worden door een mens, niet door een AI-systeem, ongeacht de kosten.
- Onze organisatie wil innoveren en accepteert dat er ook projecten mislukken.
- Het vervangen van menselijke medewerkers door AI is acceptabel als het de efficiëntie en kostenbesparing vergroot.
- Wij willen AI inzetten om op detailniveau gedrag of behoefte vroeger te signaleren, bijvoorbeeld bij criminele ondermijning, jeugdzorg of het toekennen van leefloon.
- Het is niet erg als we, binnen onze organisatie, niet precies begrijpen hoe AI tot een beslissing komt. Als het resultaat maar goed is.
- Wij willen inwoners betrekken bij de invoering van AI.
- Onze organisatie moet een ethische commissie instellen die gaat over AI en data.
- Onze organisatie kiest ervoor om terughoudend te zijn met AI in domeinen waar fundamentele rechten op het spel staan, zoals zorg, veiligheid en handhaving.
- In deze onzekere tijden is met de invoering van AI de digitale soevereiniteit van groot belang.
- Wij accepteren een beperkt privacyrisico bij het gebruik van generatieve AI.
- Handvaten voor de AI-strategie: vat de input op de stellingen samen en streef voor ieder van de stellingen naar een concreet standpunt. Deze output vormt de handvaten voor je AI-strategie.
In al ons enthousiasme willen we vaak volop met AI aan de slag omdat we de ongelofelijke meerwaarde ervan inzien. Maar Pandora weet het al heel lang: nieuwsgierigheid leidt soms tot negatieve gevolgen. Een AI-debat kan helpen om onze standpunten ten opzichte van deze negatieve gevolgen helder te krijgen. En dat is echt geen sisyfusarbeid.
Dit artikel verscheen eerder in de AImbtenaar-nieuwsbrief en kwam tot stand in samenwerking met Kees van den Tempel. Een Linkedin-post van Kees over de 12 stellingen vormde de basis van dit artikel.
