Module 1 · AI in de architectuur
Wat een AI-component anders maakt
Circa 7 minuten.
Een klassieke softwarecomponent doet wat er in de code staat. Dezelfde invoer geeft dezelfde uitvoer, een fout is te herleiden tot een regel code, en de component verandert niet tenzij iemand hem wijzigt. Vier eigenschappen van een AI-component breken met dat beeld:
- Niet-deterministisch. Dezelfde vraag kan een ander antwoord opleveren. Testen betekent dus niet "klopt de uitkomst" maar "hoe vaak klopt de uitkomst, en hoe erg is het als hij niet klopt".
- Data-afhankelijk. Het gedrag zit niet in de code maar in de data waarop is getraind of waaruit wordt geput. Een verandering in de data verandert het gedrag zonder dat er een regel code is aangepast.
- Veranderlijk in de tijd. De wereld verandert, de data verandert mee, en het model dat vorig jaar goed werkte, doet dat nu misschien niet meer. Dit heet drift; module 5 behandelt hoe je het meet.
- Kosten per gebruik. Bij generatieve modellen betaal je per aanroep. Een toepassing die goed werkt en populair wordt, kost daardoor meer naarmate hij succesvoller is. Dat is bij klassieke software omgekeerd.
De gevolgen voor het ontwerp zijn direct. Een niet-deterministische component vraagt om een meetbare kwaliteitseis vooraf ("in minstens 95% van de gevallen…") en om een vangnet voor de rest. Een data-afhankelijke component vraagt om een eigenaar van de data, niet alleen van de code. Een veranderlijke component vraagt om monitoring als onderdeel van de oplossing, niet als nazorg. En kosten per gebruik vragen om een schatting van het gebruik vóórdat de business case wordt goedgekeurd.
Wie een AI-component behandelt als een gewone bouwsteen, ontdekt deze vier eigenschappen na livegang. Dat is de duurste manier.
Verwerkingsmoment. Een half jaar na livegang wil Middelveen een nieuwe rubriek toevoegen aan de website waarmee de chatassistent zijn antwoorden onderbouwt. Een medewerker van het KCC past de content zelf aan, zonder de architect te informeren: "dat is toch alleen tekst, niet de assistent zelf." Welke eigenschap weerlegt die redenering, en wat verandert hier zonder dat er één regel code is aangepast?
Richting. Data-afhankelijk: het gedrag van de assistent zit niet in code maar in de content waaruit hij put. Wie die content wijzigt, wijzigt het gedrag van de assistent net zo goed als wie de code zou aanpassen — alleen zonder release, zonder test en zonder dat de architect het ziet. De vraag die hieruit volgt: wie is eigenaar van deze content, en loopt een wijziging via dezelfde controle als een codewijziging?
Wat een AI-component anders maakt
Lees het transcript
Een klassieke softwarecomponent doet wat er in de code staat. Dezelfde invoer geeft dezelfde uitvoer. Een fout is terug te leiden tot een regel code. En de component verandert niet, tenzij iemand hem wijzigt. Dat beeld gaat bij AI niet op. Vier eigenschappen breken ermee. De eerste eigenschap: niet-deterministisch. Dezelfde vraag kan een ander antwoord opleveren. Dat verandert wat testen betekent. Het gaat niet meer om de vraag "klopt de uitkomst", maar om "hoe vaak klopt de uitkomst, en hoe erg is het als hij een keer niet klopt". De tweede eigenschap: data-afhankelijk. Het gedrag zit niet in de code, maar in de data waarop getraind is of waaruit het model put. Verander de data, en het gedrag verandert mee — zonder dat er ook maar één regel code is aangepast. De derde eigenschap: veranderlijk in de tijd. De wereld verandert, de data verandert mee, en een model dat vorig jaar goed werkte, doet dat nu misschien niet meer. Dat heet drift. Hoe je drift meet, komt uitgebreid terug in module 5. De vierde eigenschap: kosten per gebruik. Bij generatieve modellen betaal je per aanroep. Dat is opvallend: een toepassing die goed werkt en populair wordt, kost daardoor juist méér naarmate hij succesvoller is. Bij klassieke software is dat precies andersom. Wat betekenen deze vier eigenschappen voor het ontwerp? Ze zijn geen technische bijzaak, ze zijn ontwerpeisen. Een niet-deterministische component vraagt om een meetbare kwaliteitseis vooraf, bijvoorbeeld "in minstens vijfennegentig procent van de gevallen…", en om een vangnet voor de rest. Een data-afhankelijke component vraagt om een eigenaar van de data, niet alleen om een eigenaar van de code. Een veranderlijke component vraagt om monitoring als onderdeel van de oplossing, niet als iets dat je er later bij verzint. En kosten per gebruik vragen om een schatting van het verwachte gebruik, en wel vóórdat de business case wordt goedgekeurd. Vier eigenschappen, vier vragen die in een klassiek software-ontwerp meestal niet gesteld worden. Dat is precies waarom een architect ze niet kan overlaten aan de bouwfase: als je pas bij oplevering ontdekt dat niemand de kwaliteitseis heeft vastgelegd, of dat niemand eigenaar is van de brondata, is het te laat om het ontwerp nog bij te sturen zonder vertraging. Wie een AI-component behandelt als een gewone bouwsteen, ontdekt deze vier eigenschappen pas na livegang. Dat is de duurste manier om ze te leren kennen — duurder dan de tijd die het kost om ze vooraf te doordenken. Een half jaar na livegang wil Middelveen een nieuwe rubriek toevoegen aan de website waarmee de chatassistent zijn antwoorden onderbouwt. Een medewerker van het KCC past de content zelf aan, zonder de architect te informeren: "dat is toch alleen tekst, niet de assistent zelf." Denk daar even over na voordat je doorgaat. In de volgende video zie je dat deze eigenschappen niet op één plek in de architectuur landen, maar op alle lagen tegelijk.
Terug naar het moduleoverzicht
Verder met de volledige training?
In de volledige training werk je door aan de vervolgmodules en bewaar je je voortgang op je account.
Bekijk de volledige training