AI schudt bedrijfsprocessen op; hoe bereid je je voor?

Begin februari namen Louis Jonker en Merel Hazes deel aan het eerste Nationaal AI & Data congres. Hun conclusie? We staan voor een transformatie, maar paniek is niet nodig. Wie nu de juiste stappen zet, blijft vooroplopen.

Output-based contracteren: de toekomst van AI-inkoop

Eén van de thema’s van de dag: Hoe contracteer je AI op een verantwoorde manier? Louis Jonker en Merel Hazes deelden hun visie op deze vraag tijdens hun presentatie. Hun antwoord: geen fundamentele revolutie, maar wel een andere benadering.  “Een klassieke IT-overeenkomst aanvullen met AI-bepalingen is een begin, maar niet voldoende,” leggen ze uit. “De AI Act volledig overschrijven in je contract? Ook niet de oplossing. Wij pleiten voor output-based contracteren: focus op wat het systeem moet opleveren, niet op hoe het technisch werkt.”

Deze verschuiving vraagt om nieuwe contractuele kaders die inspelen op de specifieke kenmerken van AI: de onvoorspelbaarheid, het zelflerend vermogen en de continue ontwikkeling van de technologie. Meer over deze aanpak delen we binnenkort.

Vier eye-openers van het congres

1. Technische kennis is een vereiste

Jolanda ter Maten maakte duidelijk: je hoeft geen programmeur te zijn, maar basiskennis van hoe AI technisch werkt is essentieel. Alleen dan kun je inschatten welke impact AI heeft op je werkprocessen, welke risico’s erbij komen kijken en hoe je die beheerst.

De les: investeer in het opbouwen van technisch inzicht binnen je organisatie. Dat begint bij begrijpen hoe een AI-model werkt.

2. “Human ON the loop” in plaats van “human IN the loop”

Arnoud Engelfriet zette vraagtekens bij het veelbesproken “human in the loop”-vereiste. Zijn punt: mensen zijn slecht in het kritisch blijven wanneer een systeem 90% van de tijd goed functioneert. We worden lui en knikken alles goed.

Zijn oplossing? “Human ON the loop”: laat techniek de techniek controleren en alleen signalen geven wanneer menselijke blik echt nodig is. Bouw slimme controleprocessen in, maar voorkom dat mensen elke output handmatig moeten checken.

3. Privacy: er mag meer dan je denkt

Laura Poolman dook in de AVG-aspecten van dataverwerking voor AI-training. Het verzamelen van grote datasets door scraping, het gebruik van persoonsgegevens voor modeltraining – het roept terechte vragen op over privacycompliance.

Haar boodschap was verrassend positief: binnen het privacydomein mag vaak meer dan organisaties denken. De regels zijn uitdagend maar zeker te volgen. De sleutel: weet waar de grenzen liggen en bouw je processen daaromheen.

4. De advocaat zal zich moeten aanpassen

De dag werd afgesloten met enige reflectie op de advocatuur zelf via een paneldiscussie tussen Douwe Groeneveld, Wouter Seinen en Jeroen Zweers, onder leiding van Astrid Sixma en Menno de Meij. De brandende vragen passeerden de revue: is AI al slimmer dan de meeste advocaten? Welke menselijke competenties blijven cruciaal? Overleeft het traditionele leveragemodel van grote kantoren?

Dat AI de advocatuur fundamenteel verandert, daar waren alle panelleden het over eens. Over de snelheid en diepgang van die verandering liepen de meningen uiteen.

Extrapoleren naar de toekomst

Een glazen bol hebben we niet. Maar als we terugkijken op de ontwikkelingen van het afgelopen jaar en deze – in de woorden van Douwe Groenevelt – extrapoleren, tekent zich een duidelijk beeld af: stilstand is geen optie.

De vraag is niet óf AI bedrijfsprocessen verandert, maar hoe snel en hoe jij je daarop voorbereidt.

Volgende stappen

Wil je weten hoe jouw organisatie AI verantwoord kan inkopen en contracteren? Of heb je vragen over de juridische aspecten rond de inzet van AI? Neem contact op met Louis Jonker of Merel Hazes voor een vrijblijvend gesprek.