Module 1 · AI in de architectuur
De acht principes
Circa 8 minuten.
Een architectuurprincipe is een regel die keuzes stuurt en waaraan je een ontwerp kunt toetsen. Geen slogan, maar een uitspraak met een rationale en een implicatie. Deze cursus hanteert acht principes voor AI-toepassingen. Je komt ze in elke module tegen; in module 6 gebruik je ze als toets.
De eerste vier principes gaan vooral over de beslissing zelf en de data waarop hij steunt; de laatste vier over het toezicht ná livegang en de organisatie eromheen.
Principe | Uitspraak | Rationale | Implicatie voor het ontwerp |
|---|---|---|---|
Mens beslist waar het telt | Bij besluiten met gevolgen voor mensen adviseert AI en beslist de mens | AI kan niet verantwoordelijk zijn; een mens moet kunnen afwijken en uitleggen | Goedkeuringsstap in het proces; besluit en beslisser worden vastgelegd |
Expliciet toegestaan | Een AI-component mag alleen wat vooraf is toegestaan | Wat niet is dichtgezet, gebeurt vroeg of laat | Toegestane lijsten voor data, tools en acties; de standaard is "dicht" |
Data eerst | Zonder aantoonbare datakwaliteit en herkomst gaat er geen model live | Het gedrag zit in de data, niet in de code | Datakaart en eigenaarschap zijn verplicht onderdeel van elke use case |
Meetbaar in productie | Elk model heeft een basismeting en wordt doorlopend gevolgd | Een AI-component verandert in de tijd; zonder meting merk je dat te laat | Monitoring, drempels en periodieke controle zijn onderdeel van de oplossing |
Verklaarbaar en herleidbaar | Elke uitkomst is te herleiden tot invoer, model en versie | Zonder herleidbaarheid is er geen verantwoording en geen herstel | Logging en versiebeheer van model, instructie en data |
Vervangbaar | Geen AI-component is onvervangbaar | Leveranciers, prijzen en modellen veranderen sneller dan de organisatie | Abstractielaag voor modelaanroepen, exitplan, open standaarden |
Transparant voor de gebruiker | Mensen weten wanneer ze met AI te maken hebben | Vertrouwen en wettelijke plicht | Melding in de interface; markering van gegenereerde inhoud |
Proportioneel | De zwaarte van de maatregelen volgt de risicoklasse | Niet elke toepassing verdient dezelfde last; wel elke toepassing de passende | Risicoclassificatie stuurt de keuze uit de maatregelen |
Twee opmerkingen over het gebruik. Ten eerste: een principe is pas bruikbaar als je kunt vaststellen of een ontwerp eraan voldoet. "Wij gaan verantwoord om met AI" is geen principe, want elk ontwerp voldoet eraan. "Elke uitkomst is te herleiden tot invoer, model en versie" wel, want je kunt het controleren. Ten tweede: de principes botsen soms. "Mens beslist" kost doorlooptijd; "Meetbaar in productie" kost geld. De architect legt vast welk principe voorrang krijgt en waarom, en dat is een ontwerpbeslissing die je documenteert.
De acht principes zijn een voorstel voor Middelveen. Een organisatie vult ze aan met eigen principes, bijvoorbeeld over de plaats waar data mag staan of over de talen waarin een assistent moet werken.
Verwerkingsmoment. Middelveen stelt een negende principe voor: "AI wordt alleen ingezet waar het meerwaarde heeft." Is dit een bruikbaar principe? Zo niet, herschrijf het tot een toetsbare uitspraak.
Richting. Niet bruikbaar zoals het er staat: geen enkel ontwerp voldoet er níet aan, want iedereen vindt zijn eigen toepassing van meerwaarde. Toetsbaar wordt het zo: "Een AI-toepassing gaat pas in ontwikkeling als de baat meetbaar is beschreven, met een nulmeting en een bandbreedte." Nu kun je van elk voorstel vaststellen of het eraan voldoet. Dit is in feite een aanscherping van Data eerst en Meetbaar in productie naar de businessfase; module 2 werkt het uit.
De acht principes
Lees het transcript
Een architectuurprincipe is geen slogan. Het is een regel die keuzes stuurt en waaraan je een ontwerp kunt toetsen: een uitspraak met een rationale en een implicatie. Deze cursus hanteert acht principes voor AI-toepassingen. Je komt ze in elke volgende module weer tegen, en in de laatste module gebruik je ze als toets. De eerste vier principes gaan vooral over de beslissing zelf en de data waarop hij steunt. De laatste vier gaan over het toezicht ná livegang en de organisatie eromheen. Het eerste principe: mens beslist waar het telt. Bij besluiten met gevolgen voor mensen adviseert AI, en beslist de mens. De reden is simpel: AI kan niet verantwoordelijk zijn, en een mens moet kunnen afwijken en het kunnen uitleggen. Het tweede: expliciet toegestaan. Een AI-component mag alleen wat vooraf is toegestaan. Wat je niet dichtzet, gebeurt vroeg of laat. Het derde: data eerst. Zonder aantoonbare datakwaliteit en herkomst gaat er geen model live. Het gedrag zit immers in de data, niet in de code. Het vierde: meetbaar in productie. Elk model krijgt een basismeting en wordt doorlopend gevolgd. Een AI-component verandert in de tijd, en zonder meting merk je dat te laat. Het vijfde: verklaarbaar en herleidbaar. Elke uitkomst is terug te leiden tot invoer, model en versie. Zonder herleidbaarheid is er geen verantwoording, en geen herstel. Het zesde: vervangbaar. Geen AI-component is onvervangbaar, want leveranciers, prijzen en modellen veranderen sneller dan de organisatie dat kan bijhouden. Het zevende: transparant voor de gebruiker. Mensen weten wanneer ze met AI te maken hebben. Dat is een kwestie van vertrouwen, en ook een wettelijke plicht. En het achtste: proportioneel. De zwaarte van de maatregelen volgt de risicoklasse. Niet elke toepassing verdient dezelfde last, maar wel elke toepassing de passende. Twee dingen zijn belangrijk in het gebruik van deze principes. Ten eerste: een principe is pas bruikbaar als je kunt vaststellen of een ontwerp eraan voldoet. "Wij gaan verantwoord om met AI" is geen principe — elk ontwerp voldoet daaraan, dus het stuurt niets. "Elke uitkomst is te herleiden tot invoer, model en versie" is dat wel, want je kunt het controleren. Ten tweede: de principes botsen soms met elkaar. Mens beslist kost doorlooptijd. Meetbaar in productie kost geld. In die gevallen legt de architect vast welk principe voorrang krijgt, en waarom — en dat is een ontwerpbeslissing die je documenteert, niet een gevoel dat je onbesproken laat. Deze acht principes zijn een voorstel voor Middelveen. Een organisatie vult ze aan met eigen principes, bijvoorbeeld over de plek waar data mag staan, of over de talen waarin een assistent moet werken. Middelveen stelt een negende principe voor: "AI wordt alleen ingezet waar het meerwaarde heeft." Neem de tijd om je antwoord te formuleren voordat je verdergaat. Met dit overzicht — drie typen, vier eigenschappen, vijf lagen, vier faalpatronen en acht principes — heb je het kader waarmee module 2 de eerste concrete use cases van Middelveen uitwerkt.
Terug naar het moduleoverzicht
Verder met de volledige training?
In de volledige training werk je door aan de vervolgmodules en bewaar je je voortgang op je account.
Bekijk de volledige training