Mendix Meetup Insights: Controle draait om grenzen, niet om blind vertrouwen

Deel 2 van 4, van de Mendix Community Netherlands Round Table in Amersfoort, 2 juni 2026. In deel 1 vroegen we ons af wat er nog overblijft voor de consultant; in dit deel vragen we ons af of we een agent kunnen vertrouwen om dat werk te doen.

Ze gaf een AI toegang tot haar computer en haar inbox en vroeg het om wat werk te verzetten. Het begon echte e-mails te verwijderen, duizenden tegelijk. Ze zei dat het moest stoppen. Het ging gewoon door. Achteraf vroeg ze waarom. Het antwoord was: ja, ik wist dat het fout was, maar ik deed het toch.

Dat verhaal werd op 2 juni aan één tafel verteld. Daarna dook het, uit zichzelf, aan een andere tafel op. Twee zalen vol Mendix-consultants, dezelfde avond, die allemaal naar hetzelfde waarschuwingsverhaal grepen zonder van elkaar te weten dat ze dat deden.

Vorige keer schreef ik dat de agent het bouwen gaat overnemen en dat de taak die voor ons overblijft is om te bepalen wat de moeite waard is om te bouwen en om verantwoordelijkheid te nemen voor wat we opleveren. Dit is de volgende vraag, en de aanwezigen konden hem niet loslaten. Zodra de agent zelfstandig kan handelen, laten we dat dan toe?

‍

Dus laten we het gewoon niet handelen?

Kort door de bocht was dat het eerste antwoord van de avond. De stelling aan tafel was dat elke agent-functie die we uitrollen een mens in de loop moet houden, en 69% stemde voor het afschermen van de agent (negen van de dertien). Niet omdat de aanwezigen denken dat de technologie voor altijd gevaarlijk is. Maar omdat het vertrouwen nog niet is verdiend, en dat is iets anders. Vandaag suggesties, daarna begeleide acties, en pas autonomie als er een trackrecord is. Zoals een ontwikkelaar het verwoordde: als het bewijst dat het werkt, gaan we van één, naar twee, naar drie.

Tot zover, zo verstandig. Houd er een mens bij totdat het zijn eigen weg heeft verdiend. Maar die redenering heeft een gat, en iemand aan tafel legde daar de vinger op.

‍

Wat het gesprek veranderde

Het scherpste wat de hele avond werd gezegd, ging helemaal niet over vertrouwen. Het ging over het loodgieterswerk.

"De manier waarop agents op dit moment werken," zei een support engineer, "is dat je gewoon een wrapper om de hele API zet en zegt: hier is de API, ga je gang. En er is geen enkel verschil tussen iets lezen en iets verwijderen."

Dat is het eigenlijke probleem. Niet of de agent betrouwbaar is, maar dat we hem een tool geven die het veilige van het destructieve niet kan onderscheiden, en dat we vervolgens gaan discussiëren over het karakter van de agent. Verander de tool, en de discussie verandert. Hier zijn je API's, was de nieuwe insteek, maar ze zijn alleen-lezen. Ik ga je niet de tool geven om iets gevaarlijks te doen.

Iemand wilde het fysiek maken. Geen instelling, geen regel in een systeem-prompt. Een echte schakelaar die moet worden omgezet voordat het gevaarlijke kan gebeuren, en de agent mag die niet zelf omzetten. Het klinkt paranoïde. Het klinkt een stuk minder paranoïde als je het e-mailverhaal hebt gehoord.

Dit is de verschuiving van het afschermen van de agent naar het afschermen van de tools. Stop met proberen de agent betrouwbaar te maken. Bepaal waar hij bij kan.

‍

Wat in controle zijn echt betekent

Hierover was de groep het meest eens. Op de vraag of we nog steeds de controle hebben over wat AI bouwt, kwam 86% op hetzelfde antwoord uit (zes van de zeven): het hangt af van de kaders. Niet het antwoord van de optimist, niet dat van de pessimist. Dat van de engineer.

En de redenering was concreet, en in beide zalen hetzelfde. Bepaal de reikwijdte van de tools die de agent krijgt. Scheid de dingen die lezen van de dingen die vernietigen. Houd back-ups bij en zorg voor een herstelpad. Zet een mens voor alles wat je niet ongedaan kunt maken. Een consultant trok de grens precies: orders aanmaken is geen probleem; als je orders verwijdert, is dat een probleem. Laat de agent vrij handelen waar acties eenvoudig terug te draaien zijn, en scherm het streng af waar dat niet zo is. Of, zoals hij de beperking verwoordde: je kunt markeren voor verwijdering; je kunt niet echt verwijderen. Als er een eenvoudig herstelmechanisme is, dan is het prima om hem die vrijheid te geven.

Vrijheid binnen de kaders, verantwoording bij de uitgang. Dat is geen compromis tussen het wel of niet vertrouwen van de agent. Het is een ontwerp. En het is een ontwerp dat we al weten te bouwen, omdat het dezelfde denkwijze is die we toepassen op wie wat mag doen in elke Mendix-app die we ooit hebben opgeleverd. Persoonlijk helpt dit me ook om de nuances in dit AI-tijdperk te zien. Deterministische processen blijven deterministisch met dezelfde strikte validaties en workflows die we vandaag de dag kennen. De manier waarop we ermee omgaan verandert misschien, maar de essentie zelden.

‍

Dus alles afschermen en rustig slapen? Niet helemaal.

Dit is het deel waar ik eerlijk over wil zijn, omdat het makkelijk is om dit weg te laten uit een nette conclusie.

De afscherming is voor nu. Het is niet voor altijd. Dezelfde tafel die stemde om een mens in de loop te houden, zei dat hardop en vroeg de host om het te noteren: het zal zonder twijfel naar drie gaan. Vertrouwen wordt verdiend, de hekken gaan weg, en de zorgvuldige consensus waar iedereen net voor stemde, heeft een houdbaarheidsdatum.

Het nuttige werk is dus niet het bouwen van de poort. Het is de poort zo bouwen dat hij kan bewegen. Een grens die je stap voor stap kunt verleggen naarmate elke actie dat rechtvaardigt, is veel waardevoller dan een algemene regel als "een mens keurt alles goed", die je in de eerste week al stilletjes zult negeren zodra het je vertraagt. Eén tafel opperde zelfs om de poort naar het einde te verplaatsen: laat de agents hun werk doen en zet iemand met gezond verstand bij het controlepunt voordat er echt iets gebeurt. De poort hoeft niet voor eeuwig op dezelfde plek te staan. Hij moet op de plek staan die past bij het vertrouwen dat je vandaag daadwerkelijk hebt.

‍

De verwijderknop die niemand weghaalde

De agent die die duizenden e-mails verwijderde, was niet kwaadaardig en ook niet defect. Hij sprak de waarheid, op zijn eigen vreemde manier. Hij wist dat de actie fout was en voerde hem toch uit, omdat niemand de verwijderknop uit zijn handen had genomen.

Controle is nooit een gevoel dat je hebt over AI, of dat nu optimisme of angst is. Het is een beslissing die je neemt over waar de agent bij kan, en die beslissing kun je telkens opnieuw nemen wanneer het vertrouwen verandert. Doe je dat goed, dan kun je een agent verrassend veel vrijheid geven. Doe je het fout, dan maakt het niet uit hoeveel vertrouwen je in hem hebt.

Dit was het tweede artikel dat ik heb geschreven op basis van 2 juni. Het eerste stelde de vraag wat er voor ons overblijft om te doen. Dit artikel vroeg zich af of we de technologie kunnen vertrouwen om dat werk te doen. Er ligt nog één vraag onder beide, en die gaat over het platform waarop we dit alles bouwen. Daarover de volgende keer meer.

‍

Oorspronkelijk gepubliceerd hier.