Guardrails: wat je AI-assistent wel en niet mag

Elke organisatie die met AI bouwt, ontdekt hetzelfde. Het bouwen gaat hard, de twijfel komt bij de grens. Mag de assistent bij klantdata? Mag dit stuk code naar productie? Wie controleert dat eigenlijk?

Guardrails zijn geen beleidsdocument maar werkende afspraken. Ze staan in de omgeving zelf en gelden vóór de menselijke review. Wat de assistent mag zien, is begrensd per rol. Welke data in een prompt mag, is vastgelegd, niet afgesproken. En de stap naar productie loopt altijd langs een review.

Wat is een guardrail, concreet?

Een guardrail is een regel die een machine controleert, niet een mens. Het verschil zit in het moment. Een afspraak in een document helpt pas als iemand hem leest en eraan denkt. Een guardrail geldt op het moment dat het misgaat.

Vijf voorbeelden die we vaak vastleggen:

• Rechten per rol. Een assistent die code schrijft voor de serviceafdeling, ziet geen salarisvelden. Ook niet als de ontwikkelaar die ze gebruikt dat wel mag.
• Geen klantdata in een prompt. Je kunt vastleggen dat een prompt met een BSN of een IBAN wordt tegengehouden voordat hij het model bereikt.
• Geen release zonder review. Een wijziging die naar productie wil zonder goedgekeurde review, loopt vast.
• Vaste grenzen voor agents. Een agent mag een retour aanmelden, maar boven een bepaald bedrag gaat het naar een mens.
• Versies die terug kunnen. Elke wijziging in de regels krijgt een versie. Gaat er iets mis, dan zet je de vorige terug.

Hoe merk je dat het werkt? Je hoeft niemand meer te vragen of hij aan de regel dacht. Het systeem laat het niet toe, en meldt waarom.

Welke data hoort nooit in een prompt?

Alles wat je niet in een mail aan een onbekende zou zetten. Bij de meeste organisaties zijn dat vier soorten:

• Persoonsgegevens zoals namen, adressen, telefoonnummers en geboortedata van klanten of medewerkers.
• Bijzondere persoonsgegevens zoals gezondheid, BSN en gegevens over strafzaken. Hier zijn de AVG-regels strenger.
• Financiële gegevens zoals IBAN's, salarissen en marges per klant.
• Geheimen zoals wachtwoorden, API-sleutels en de inhoud van contracten.

Dat betekent niet dat AI nooit met klantdata mag werken. Een agent in Salesforce die orders opzoekt, ziet klantgegevens. Het verschil zit in de route. In Salesforce bewaren externe modellen via de Trust Layer prompts en antwoorden niet, en trainen ze er niet op. Data masking staat voor agents wel uit. Daarom bepaal je met rechten wat de agent überhaupt kan zien.

Een ontwikkelaar die een echte klantrecord in een openbare AI-tool plakt om een fout te vinden, is een ander verhaal. Daar is de guardrail: testen met gemaskeerde of verzonnen data, en een melding als een prompt toch iets herkenbaars bevat.

Waarom worden guardrails beter van gebruik?

Omdat elke review iets oplevert. Vindt een reviewer een fout die vaker kan voorkomen, dan wordt het een nieuwe regel. Dezelfde fout krijgt de volgende keer minder kans, en een mens hoeft er niet meer naar te zoeken.

Een voorbeeld. Een review vindt een flow die met meer rechten draait dan de gebruiker heeft. Dat wordt een vaste controle: elke nieuwe flow met gevoelige acties moet de rechten van de gebruiker afdwingen. De volgende oplevering met hetzelfde probleem wordt tegengehouden voordat iemand kijkt.

Bij één team is dat discipline. Over veel teams heen wordt het een systeem dat niemand meer inhaalt. Na een paar maanden worden de reviews lichter, omdat de bekende fouten al gevangen zijn. De reviewer kijkt naar wat nieuw is.

Wat regel je zelf en wat regelen wij?

Jouw team bouwt vrij tot en met acceptatie. Componenten, schermen, automatiseringen, in je eigen tempo. Wat bij ons blijft, is de architectuur, de integraties en de stap naar productie. Waarom die grens daar ligt, lees je in Wat je zelf mag en wat wij houden.

De regels zelf zet Harvest Guardrails in je Salesforce-omgeving. De plug-in legt vast welke agents draaien, welke vaardigheden ze hebben en welke regels gelden. In Fix leggen we de regels aan, in Scale worden ze elke dag gebruikt en in Win worden ze scherper.

De review daarboven is Harvest Verified. Per oplevering krijg je een reviewrapport, de bevindingen en een releaseadvies. Wat de review vindt, gaat terug in de regels.

Hoe past dit bij de AI Act?

De AI Act vraagt onder meer dat mensen weten dat ze met een AI praten, en dat je mensen genoeg weten van de AI die ze gebruiken. Voor hoog-risicosystemen komen er vanaf december 2027 zwaardere plichten bij, zoals toezicht en het bewaren van logs. Guardrails maken het makkelijker om te laten zien wat je hebt geregeld. Wat de wet precies vraagt, lees je in De AI Act en AI-agents: wat moet je regelen?

Waar begin je?

Schrijf vijf regels op die je nu in een document of in iemands hoofd hebt staan. Kijk welke daarvan een machine kan controleren. Dat zijn je eerste guardrails. Hoe de lagen in Salesforce samenwerken, lees je in AI governance in Salesforce.

Hoe dat er bij ons uitziet, staat op de way of work: inclusief wat je zelf mag en wat wij bewust bij ons houden.

Salesforce is een handelsmerk van Salesforce, Inc. Dit artikel is van Harvest.