Video — Wat een AI-component anders maakt

Een klassieke softwarecomponent doet wat er in de code staat. Dezelfde invoer geeft dezelfde uitvoer. Een fout is terug te leiden tot een regel code. En de component verandert niet, tenzij iemand hem wijzigt. Dat beeld gaat bij AI niet op. Vier eigenschappen breken ermee. De eerste eigenschap: niet-deterministisch. Dezelfde vraag kan een ander antwoord opleveren. Dat verandert wat testen betekent. Het gaat niet meer om de vraag "klopt de uitkomst", maar om "hoe vaak klopt de uitkomst, en hoe erg is het als hij een keer niet klopt". De tweede eigenschap: data-afhankelijk. Het gedrag zit niet in de code, maar in de data waarop getraind is of waaruit het model put. Verander de data, en het gedrag verandert mee — zonder dat er ook maar één regel code is aangepast. De derde eigenschap: veranderlijk in de tijd. De wereld verandert, de data verandert mee, en een model dat vorig jaar goed werkte, doet dat nu misschien niet meer. Dat heet drift. Hoe je drift meet, komt uitgebreid terug in module 5. De vierde eigenschap: kosten per gebruik. Bij generatieve modellen betaal je per aanroep. Dat is opvallend: een toepassing die goed werkt en populair wordt, kost daardoor juist méér naarmate hij succesvoller is. Bij klassieke software is dat precies andersom. Wat betekenen deze vier eigenschappen voor het ontwerp? Ze zijn geen technische bijzaak, ze zijn ontwerpeisen. Een niet-deterministische component vraagt om een meetbare kwaliteitseis vooraf, bijvoorbeeld "in minstens vijfennegentig procent van de gevallen…", en om een vangnet voor de rest. Een data-afhankelijke component vraagt om een eigenaar van de data, niet alleen om een eigenaar van de code. Een veranderlijke component vraagt om monitoring als onderdeel van de oplossing, niet als iets dat je er later bij verzint. En kosten per gebruik vragen om een schatting van het verwachte gebruik, en wel vóórdat de business case wordt goedgekeurd. Vier eigenschappen, vier vragen die in een klassiek software-ontwerp meestal niet gesteld worden. Dat is precies waarom een architect ze niet kan overlaten aan de bouwfase: als je pas bij oplevering ontdekt dat niemand de kwaliteitseis heeft vastgelegd, of dat niemand eigenaar is van de brondata, is het te laat om het ontwerp nog bij te sturen zonder vertraging. Wie een AI-component behandelt als een gewone bouwsteen, ontdekt deze vier eigenschappen pas na livegang. Dat is de duurste manier om ze te leren kennen — duurder dan de tijd die het kost om ze vooraf te doordenken. Een half jaar na livegang wil Middelveen een nieuwe rubriek toevoegen aan de website waarmee de chatassistent zijn antwoorden onderbouwt. Een medewerker van het KCC past de content zelf aan, zonder de architect te informeren: "dat is toch alleen tekst, niet de assistent zelf." Denk daar even over na voordat je doorgaat. In de volgende video zie je dat deze eigenschappen niet op één plek in de architectuur landen, maar op alle lagen tegelijk.