Video — De acht principes

Een architectuurprincipe is geen slogan. Het is een regel die keuzes stuurt en waaraan je een ontwerp kunt toetsen: een uitspraak met een rationale en een implicatie. Deze cursus hanteert acht principes voor AI-toepassingen. Je komt ze in elke volgende module weer tegen, en in de laatste module gebruik je ze als toets. De eerste vier principes gaan vooral over de beslissing zelf en de data waarop hij steunt. De laatste vier gaan over het toezicht ná livegang en de organisatie eromheen. Het eerste principe: mens beslist waar het telt. Bij besluiten met gevolgen voor mensen adviseert AI, en beslist de mens. De reden is simpel: AI kan niet verantwoordelijk zijn, en een mens moet kunnen afwijken en het kunnen uitleggen. Het tweede: expliciet toegestaan. Een AI-component mag alleen wat vooraf is toegestaan. Wat je niet dichtzet, gebeurt vroeg of laat. Het derde: data eerst. Zonder aantoonbare datakwaliteit en herkomst gaat er geen model live. Het gedrag zit immers in de data, niet in de code. Het vierde: meetbaar in productie. Elk model krijgt een basismeting en wordt doorlopend gevolgd. Een AI-component verandert in de tijd, en zonder meting merk je dat te laat. Het vijfde: verklaarbaar en herleidbaar. Elke uitkomst is terug te leiden tot invoer, model en versie. Zonder herleidbaarheid is er geen verantwoording, en geen herstel. Het zesde: vervangbaar. Geen AI-component is onvervangbaar, want leveranciers, prijzen en modellen veranderen sneller dan de organisatie dat kan bijhouden. Het zevende: transparant voor de gebruiker. Mensen weten wanneer ze met AI te maken hebben. Dat is een kwestie van vertrouwen, en ook een wettelijke plicht. En het achtste: proportioneel. De zwaarte van de maatregelen volgt de risicoklasse. Niet elke toepassing verdient dezelfde last, maar wel elke toepassing de passende. Twee dingen zijn belangrijk in het gebruik van deze principes. Ten eerste: een principe is pas bruikbaar als je kunt vaststellen of een ontwerp eraan voldoet. "Wij gaan verantwoord om met AI" is geen principe — elk ontwerp voldoet daaraan, dus het stuurt niets. "Elke uitkomst is te herleiden tot invoer, model en versie" is dat wel, want je kunt het controleren. Ten tweede: de principes botsen soms met elkaar. Mens beslist kost doorlooptijd. Meetbaar in productie kost geld. In die gevallen legt de architect vast welk principe voorrang krijgt, en waarom — en dat is een ontwerpbeslissing die je documenteert, niet een gevoel dat je onbesproken laat. Deze acht principes zijn een voorstel voor Middelveen. Een organisatie vult ze aan met eigen principes, bijvoorbeeld over de plek waar data mag staan, of over de talen waarin een assistent moet werken. Middelveen stelt een negende principe voor: "AI wordt alleen ingezet waar het meerwaarde heeft." Neem de tijd om je antwoord te formuleren voordat je verdergaat. Met dit overzicht — drie typen, vier eigenschappen, vijf lagen, vier faalpatronen en acht principes — heb je het kader waarmee module 2 de eerste concrete use cases van Middelveen uitwerkt.