Module 1 · AI in de architectuur
Waar AI-initiatieven misgaan
Circa 6 minuten.
De meeste AI-initiatieven die stranden, stranden niet op het model. Vier patronen die je als architect leert herkennen, met wat eraan schort:
De eeuwige pilot. Het initiatief begint als proef, levert een demo op, en komt nooit in productie. Herkenbaar aan: geen eigenaar in de lijn, geen koppeling met een bestaand systeem, geen meetbare waarde afgesproken. De pilot bewijst dat iets kan, niet dat het iets oplevert.
Het model zonder data. Er is een leverancier gekozen en een contract getekend voordat iemand heeft gekeken of de benodigde gegevens er zijn, schoon zijn en gebruikt mogen worden. Herkenbaar aan: de datavraag komt pas in de bouwfase aan de orde, en blijkt dan het grootste werk.
Risico als sluitstuk. De toepassing is gebouwd, en dan komt de vraag of het mag. Herkenbaar aan: een privacyfunctionaris of jurist die aan het eind "nee" zegt, of een toepassing die live gaat zonder dat de verplichtingen zijn ingevuld. Bij AI bepaalt de risicoklasse wat er mag; die vraag hoort aan het begin.
Niemand kijkt ernaar. De toepassing draait, werkt aanvankelijk goed, en niemand meet of dat zo blijft. Herkenbaar aan: geen basismeting, geen monitoring, geen eigenaar die verantwoordelijk is voor de kwaliteit na livegang. De kwaliteit daalt stil, tot een incident het zichtbaar maakt.
Alle vier zijn te herleiden tot een overgeslagen laag uit 1.3 of een ontbrekend principe uit 1.5. Dat is de reden dat deze cursus lagen en principes vooropzet: ze zijn geen theorie, maar de checklist tegen deze vier patronen.
Verwerkingsmoment. Een buurgemeente heeft twee jaar geleden een voorspelmodel voor fraudesignalen gebouwd. Het werkte in de eerste maanden goed. Inmiddels negeren de medewerkers de signalen, omdat "er te veel onzin tussen zit". Niemand weet precies wanneer dat is begonnen. Welk patroon zie je, en welke laag is overgeslagen?
Richting. "Niemand kijkt ernaar": er is geen basismeting en geen monitoring, dus niemand kan zeggen wanneer de kwaliteit is gaan dalen of waardoor. De overgeslagen laag is technologie en beheer, en daarachter governance, omdat niemand eigenaar was van de kwaliteit na livegang. Let ook op het onderwerp: fraudesignalen over inwoners zijn een toepassing in de zwaarste risicoklasse, dus "risico als sluitstuk" speelt waarschijnlijk ook.
Waar AI-initiatieven misgaan
Lees het transcript
De meeste AI-initiatieven die stranden, stranden niet op het model. Ze stranden op iets dat aan het begin is overgeslagen. Vier patronen kom je steeds weer tegen. Het eerste patroon is de eeuwige pilot. Het initiatief begint als proef, levert een demo op, en komt nooit in productie. Je herkent het aan: geen eigenaar in de lijn, geen koppeling met een bestaand systeem, geen meetbare waarde die is afgesproken. De pilot bewijst dat iets kán, niet dat het iets oplevert. Het tweede patroon is het model zonder data. Er is een leverancier gekozen en een contract getekend, voordat iemand heeft gecontroleerd of de benodigde gegevens er zijn, schoon zijn en gebruikt mogen worden. Je herkent het aan: de datavraag komt pas in de bouwfase aan de orde, en blijkt dan opeens het grootste werk. Het derde patroon is risico als sluitstuk. De toepassing is al gebouwd, en dán pas komt de vraag of het eigenlijk wel mag. Je herkent het aan een privacyfunctionaris of jurist die aan het eind "nee" zegt — of erger, aan een toepassing die live gaat zonder dat de verplichtingen zijn ingevuld. Bij AI bepaalt de risicoklasse wat er mag, en die vraag hoort aan het begin, niet aan het eind. Het vierde patroon is niemand kijkt ernaar. De toepassing draait, werkt in het begin goed, en niemand meet of dat zo blijft. Je herkent het aan: geen basismeting, geen monitoring, geen eigenaar die verantwoordelijk is voor de kwaliteit ná livegang. De kwaliteit daalt stil, totdat een incident het zichtbaar maakt. Al deze vier patronen zijn terug te leiden tot een overgeslagen laag uit de vorige video, of een ontbrekend principe uit de volgende. Dat is precies de reden dat deze cursus met lagen en principes begint: ze zijn geen theorie, ze zijn de checklist tegen deze vier patronen. Belangrijk daarbij: deze patronen sluiten elkaar niet uit. Een initiatief kan tegelijk een eeuwige pilot zijn én risico als sluitstuk hebben. Hoe meer lagen zijn overgeslagen, hoe meer patronen je tegelijk ziet optreden, en hoe lastiger het wordt om het initiatief achteraf nog te redden zonder helemaal opnieuw te beginnen. Een buurgemeente van Middelveen heeft twee jaar geleden een voorspelmodel voor fraudesignalen gebouwd. Het werkte in de eerste maanden goed. Inmiddels negeren de medewerkers de signalen, omdat er "te veel onzin tussen zit". Niemand weet precies wanneer dat is begonnen. Neem de tijd om je antwoord te formuleren. De laatste video van deze module zet de acht principes neer die je in de rest van de cursus blijft gebruiken.
Terug naar het moduleoverzicht
Verder met de volledige training?
In de volledige training werk je door aan de vervolgmodules en bewaar je je voortgang op je account.
Bekijk de volledige training