De AI Act en AI-agents: wat moet je regelen?

Je team zet een agent in die klantvragen beantwoordt. Of een agent die leads kwalificeert in Salesforce. Dan komt de vraag vanzelf: wat zegt de AI Act daarover? Het korte antwoord: minder dan je vreest, maar meer dan niets. En een deel ervan geldt al.

Dit artikel is uitleg, geen juridisch advies. Voor jouw situatie kijk je samen met je jurist of functionaris gegevensbescherming.

Wat geldt er nu al?

De AI Act gaat in stappen in. Drie daarvan zijn al voorbij.

• Sinds 2 februari 2025 zijn een paar toepassingen verboden, zoals manipulatie die mensen schaadt en social scoring. Sinds die datum moet je ook werken aan AI-geletterdheid van je mensen (artikel 4).
• Sinds 2 augustus 2025 gelden regels voor de makers van grote AI-modellen. Dat raakt de leveranciers, niet jou als gebruiker.
• Sinds 2 augustus 2026 geldt artikel 50 over transparantie. Wie met een AI praat, moet dat weten.

Wat nog niet geldt, zijn de zware regels voor hoog-risicosystemen. Die zouden in augustus 2026 ingaan. De Digital Omnibus, Verordening (EU) 2026/1744, heeft dat verschoven naar 2 december 2027.

Ben jij aanbieder of gebruiker?

De AI Act verdeelt de plichten over twee rollen. De aanbieder maakt het AI-systeem. De gebruiksverantwoordelijke zet het in onder eigen gezag. In het Engels heet die rol deployer.

Gebruik je Agentforce, dan is Salesforce de aanbieder van het platform. Jouw organisatie is gebruiksverantwoordelijke van de agent die je inzet.

Dat kan omslaan. Volgens artikel 25 word je zelf aanbieder van een hoog-risicosysteem als je het onder eigen naam aanbiedt, het wezenlijk wijzigt, of het inzet voor een doel dat hoog risico is. Of het configureren van een agent met eigen instructies en acties al een wezenlijke wijziging is, zegt de wet niet. Dat hangt af van het geval.

Is jouw agent hoog risico?

Meestal niet. Bijlage III van de AI Act noemt de toepassingen die hoog risico zijn. Daar staan onder meer in:

• werving en selectie, en beslissingen over personeel;
• het beoordelen van kredietwaardigheid;
• risico en premie bij levens- en ziektekostenverzekeringen;
• toegang tot uitkeringen en andere essentiële publieke diensten.

Een agent die klantvragen beantwoordt, een order opzoekt of een afspraak plant, staat daar niet bij. Hetzelfde geldt voor een agent die leads sorteert voor je salesteam. Bouw je een agent die bepaalt of iemand krediet krijgt of welke premie hij betaalt, dan ligt dat anders.

Er is ook een uitzondering. Doet een systeem alleen een smalle, voorbereidende taak zonder echte invloed op de uitkomst, dan is het volgens artikel 6 geen hoog risico. Maakt het profielen van personen, dan wel.

Wat vraagt artikel 50 van je agent?

Mensen moeten weten dat ze met een AI praten. Uiterlijk bij het eerste contact, en duidelijk. De uitzondering is als het voor een redelijk geïnformeerde persoon al overduidelijk is.

Formeel rust die plicht op de aanbieder. In de praktijk bepaal jij wat je agent zegt. Laat hem zich daarom bij de eerste zin voorstellen als AI-assistent. Dat kost één regel in de instructies en het voorkomt discussie.

Maakt je agent teksten over onderwerpen van algemeen belang, of beelden die echt lijken? Dan gelden extra regels voor de gebruiksverantwoordelijke (artikel 50, lid 4). Voor een service- of salesagent komt dat zelden voor.

Wat betekent AI-geletterdheid in de praktijk?

Artikel 4 vraagt dat je mensen genoeg weten van de AI die ze gebruiken. De Digital Omnibus heeft de formulering verzacht: je neemt maatregelen om AI-geletterdheid te ondersteunen. De vorm kies je zelf.

Hoe merk je dat het op orde is? Wie een agent beheert, weet wat hij mag en wat hij niet mag. Wie met de uitkomst werkt, weet wanneer hij die moet controleren. En je kunt laten zien wie welke uitleg heeft gehad.

Wat als je toch een hoog-risicosysteem inzet?

Dan krijg je vanaf 2 december 2027 de plichten uit artikel 26. Een paar daarvan:

• je gebruikt het systeem volgens de gebruiksaanwijzing van de aanbieder;
• bekwame mensen houden toezicht en kunnen ingrijpen;
• je monitort het systeem en meldt ernstige incidenten;
• je bewaart de automatische logs minstens zes maanden;
• je informeert werknemers en de mensen over wie het systeem beslist.

Ben je een overheidsorganisatie, lever je publieke diensten of beoordeel je krediet of verzekeringen? Dan doe je ook een grondrechteneffectbeoordeling (artikel 27). Die vult je DPIA onder de AVG aan.

Wie houdt toezicht in Nederland?

Het kabinet legde in april 2026 een concept voor de Uitvoeringswet AI-verordening voor. Daarin wordt de Autoriteit Persoonsgegevens de centrale toezichthouder. De Rijksinspectie Digitale Infrastructuur coördineert. Sectortoezichthouders houden toezicht in hun eigen sector.

Die wet is nog niet in werking. Dat betekent niet dat de AI Act niet geldt: de verordening werkt rechtstreeks. De boetes staan in artikel 99. Voor overtreding van artikel 26 of 50 is dat tot 15 miljoen of 3 procent van de wereldwijde jaaromzet. Voor het mkb geldt het laagste van de twee.

Hoe laat je zien wat je agent doet?

Hier zit voor de meeste organisaties het echte werk. Niet omdat de wet het al eist, maar omdat je het wilt kunnen uitleggen. Aan je directie, aan een klant, en straks misschien aan een toezichthouder.

Vier vragen helpen:

1. Wat mag de agent? Welke onderwerpen, welke acties, welke data. Leg het vast in de omgeving, niet alleen in een document.
2. Wie heeft hem gecontroleerd? Voordat hij live ging, en na elke wijziging.
3. Wat heeft hij gedaan? Gesprekken en acties zijn terug te vinden.
4. Wie grijpt in? Er is een naam, geen afdeling.

In Salesforce leg je een deel daarvan vast met rechten, onderwerpen en acties per agent. Hoe dat werkt, lees je in Agentforce staat aan. Wie bepaalt wat het mag? Met Harvest Guardrails staan die regels in je omgeving zelf, zodat ze ook gelden als niemand kijkt.

Het tweede deel is bewijs. Met Harvest Verified gaat elke oplevering langs een review. Je krijgt per oplevering een reviewrapport, een releaseadvies en een spoor van wijzigingen. Dat is geen juridisch oordeel. Het is wel precies wat je nodig hebt om te laten zien wie keek, wat er gevonden is en wat er veranderde.

Waar begin je?

Begin klein. Maak een lijst van de agents die je inzet of wilt inzetten. Zet bij elke agent wat hij doet, met welke data, en of dat in bijlage III valt. Voor de meeste agents is het antwoord nee. Dan regel je transparantie, AI-geletterdheid en de vier vragen hierboven.

Wil je weten hoe dat er bij jou uitziet? In de gratis check kijken we in 45 minuten naar één agent of één proces. Je hoort wat er al goed staat en wat je eerst regelt. Past het? Dan krijg je een voorstel met een vaste prijs.

Salesforce en Agentforce zijn handelsmerken van Salesforce, Inc. Dit artikel is van Harvest en geen juridisch advies.