AI-agents controleren: zo houd je grip zonder rem

Je team bouwt een agent in een paar dagen. Daarna komt de vraag die langer duurt: klopt het wat hij doet? Wie elke wijziging laat wachten op een grote review, verliest het tempo waarvoor je AI inzette. Wie niets controleert, merkt pas in maand zes wat er misging. Er zit iets tussen.

Wat controleer je eigenlijk?

Bij gewone software controleer je of de code doet wat hij moet doen. Bij een agent komt er iets bij. Hij kiest zelf welke stap hij zet, op basis van een vraag die je niet van tevoren kent.

Je controleert daarom drie dingen:

• Het antwoord. Klopt het, is het volledig en past het bij je toon?
• De keuze. Koos de agent de juiste subagent en de juiste actie?
• De grens. Bleef hij binnen zijn rechten, ook bij een vreemde vraag?

Het derde is het belangrijkste. Een fout antwoord is vervelend. Een agent die een order annuleert die hij niet mocht aanraken, is een incident.

Hoe test je een agent voordat hij live gaat?

Met scenario's, net als bij flows. In Salesforce doe je dat in het Agentforce Testing Center. Je draait een reeks testvragen in één keer, en het Testing Center meet onder meer:

• of het antwoord klopt en volledig is;
• of de agent de juiste subagent en actie koos;
• of hij zijn instructies volgde;
• hoe lang een antwoord duurde.

De testvragen kun je laten genereren, ook uit je Knowledge-artikelen. Ontwikkelaars doen hetzelfde met Agentforce DX en de Testing API.

Sinds Dreamforce 2026 komt er meer bij. Eigen beoordelingscriteria zijn via de API beschikbaar. Gesprekken over meerdere beurten testen en A/B-proeven in Builder zijn in bèta.

Hoe merk je dat je goed test? Je hebt een vaste set vragen die je na elke wijziging opnieuw draait. Daar zitten ook vragen in die de agent moet weigeren. Valt er iets om, dan zie je het voordat een klant het ziet.

Voor flows werkt het op dezelfde manier. Dat lees je in Flows testen en rechten in Winter '27.

Wie kijkt bij een wijziging?

Niet elke wijziging heeft dezelfde aandacht nodig. Een aangepaste zin in een instructie is iets anders dan een nieuwe actie die orders wijzigt. Laat je alles langs dezelfde grote review lopen, dan staat het kleine werk stil.

Wij werken met drie kleuren:

• Groen gaat automatisch door. De controles zijn schoon en de wijziging raakt niets buiten zijn eigen hoek. De review loopt na, zonder dat je team wacht.
• Oranje gaat langs een specialist. Die komt terug met wat er beter kan.
• Rood gaat naar een architect. Dat geldt voor rechten, nieuwe acties op gevoelige data en alles wat diep in koppelingen grijpt.

Wie bepaalt de kleur? Vooraf afgesproken regels, niet de bouwer zelf. Een nieuwe actie op klantgegevens is altijd rood. Een nieuwe testvraag is altijd groen.

Het resultaat: je team bouwt in hetzelfde tempo door. Alleen wat echt risico heeft, wacht op iemand. En die iemand heeft er tijd voor, omdat de rest niet langs hem hoeft.

Wat doe je nadat hij live is?

Meekijken. Een agent krijgt vragen die je niet hebt getest. Daarom wil je zien wat hij doet.

In Salesforce heet dat Agentforce Observability. Je ziet per agent hoe vaak hij gebruikt wordt, waar gesprekken vastlopen en welke vragen hij niet kon beantwoorden. Agent Health Monitoring geeft een melding als een waarde afwijkt. Elke sessie is terug te volgen, met de stappen die de agent zette.

Plan er een vast ritme voor:

• Wekelijks kort kijken naar afwijkingen en vastgelopen gesprekken.
• Maandelijks inhoudelijk: klopt het geheel nog, en welke testvragen komen erbij?
• Per kwartaal de vraag of de agent meer of minder mag.

Wat bewaar je, en waarom?

Bewaar genoeg om later te kunnen uitleggen wat er gebeurde. Wie de agent wijzigde, wie het goedkeurde, wat de test liet zien en wat de agent deed.

In Salesforce staat een deel daarvan al vast. De audit trail van de Trust Layer bewaart prompts en antwoorden. Het Session Tracing Data Model legt de stappen vast in Data 360. Wat er vaak ontbreekt, is het menselijke deel: wie keek, wat vond die persoon en waarom ging het toch live.

Dat is wat Harvest Verified toevoegt. Per oplevering krijg je een reviewrapport, de bevindingen met hoe zwaar ze wegen, en een releaseadvies. Het spoor van wijzigingen laat zien wat er veranderde en hoe je terug kunt naar wat werkte. Dat kun je laten zien aan je directie of een auditor.

Hoe wordt controleren goedkoper in plaats van duurder?

Door wat je vindt terug te schrijven in de regels. Vindt een review twee keer dezelfde fout, dan wordt het een vaste controle. Daarna vangt het systeem die fout, voordat een mens hoeft te kijken.

Zo wordt de review na een paar maanden lichter in plaats van zwaarder. Meer wijzigingen worden groen. De specialist kijkt naar wat nieuw is. Waarom wij de review als het eigenlijke product zien, lees je in Wie tekent ervoor? Review als product.

Waar begin je?

Pak de agent die je als eerste live wilt zetten. Schrijf twintig testvragen op, waarvan vijf die hij moet weigeren. Spreek af welke wijzigingen groen, oranje en rood zijn. En zet een naam bij de wekelijkse blik op Observability.

Hoe je vooraf vastlegt wat een agent mag, lees je in AI governance in Salesforce: wie bepaalt wat een agent mag?

Wil je weten hoe dat er bij jou uitziet? In de gratis check kijken we in 45 minuten naar één agent of één proces. Je hoort wat je al controleert en wat er ontbreekt. Past het? Dan krijg je een voorstel met een vaste prijs.

Salesforce en Agentforce zijn handelsmerken van Salesforce, Inc. Dit artikel is van Harvest. Salesforce heeft het niet gemaakt of goedgekeurd.