EU AI Act voor chat agents: twaalf plichten die je vendor mist

Het is dinsdagochtend in Eindhoven. De compliance lead bij een SaaS-bedrijf van veertig man heeft twee tabs open. De ene is de "EU AI Act readiness"-pagina van haar chat-vendor: zes groene vinkjes en een logomuur. De andere is de geconsolideerde tekst van Verordening (EU) 2024/1689. Ze telt verplichtingen op een geel notitieblok. De vendor komt op zes. Haar notitieblok staat op twaalf en blijft groeien.

Het grootste deel van dat gat moet zij zelf dichten.

De vorm van de truc

Compliance-pagina's van vendors worden geschreven door marketing, gereviewd door legal, goedgekeurd door sales. Ze zijn niet onjuist. Ze zijn onvolledig. Het patroon bij de chat-vendors die we elk kwartaal auditen is consistent: veel tekst over wat de vendor regelt, weinig over wat bij de klant blijft liggen. De Verordening noemt die klant de deployer. De deployer draagt ongeveer de helft van de verplichtingen, ook als een ander bedrijf de provider is, en alle verplichtingen als de agent in-house is gebouwd.

Hier dus de veldgids. Twaalf verplichtingen die raken aan een klantgerichte chat agent bij een Nederlands bedrijf van minder dan vijftig mensen in juni 2026, gerangschikt naar hoe vaak de compliance-pagina van de vendor ze stilletjes laat vallen. Artikelnummers verwijzen naar de geconsolideerde tekst van de AI Act op EUR-Lex. Voor data en scope blijft de onafhankelijke AI Act explorer actueel.

Twaalf verplichtingen, op volgorde van vendor-ontwijking

1. AI-geletterdheid voor je mensen (Art. 4). Van kracht sinds 2 februari 2025. De vendor kan dit niet voor je doen. Iedereen die prompts schrijft, transcripts beoordeelt, escalatie ontwerpt of een launch goedkeurt heeft gedocumenteerde training nodig, in verhouding tot rol en risico van het systeem. Vendor-pagina's noemen "AI-geletterdheidsmateriaal beschikbaar" en stoppen daar. De plicht ligt bij de deployer, elke keer.

2. Openbaarmaking dat de gebruiker met een AI praat (Art. 50(1)). Van toepassing vanaf 2 augustus 2026, op het moment van schrijven nog acht weken weg. De openbaarmaking moet duidelijk zijn aan het begin van de interactie, niet weggemoffeld in een footer. Een vervagend "AI-assistent"-label dat verdwijnt bij scrollen zakt voor de test. Wat slaagt: een sticky header-label, een blijvende avatar en een bevestigende zin in de eerste turn van de bot.

3. Labelen van synthetische content (Art. 50(2)). Als de agent tekst, beeld, audio of video genereert die door kan gaan voor mensenwerk, moet de output machine-leesbaar gemarkeerd zijn (provenance-metadata, watermerk of equivalent). Weinig chat-vendors watermerken hun output-tekst. C2PA-achtige provenance op gegenereerde afbeeldingen is jouw verantwoordelijkheid zodra de output de UI van de vendor verlaat en in een e-mail of PDF belandt.

4. Logging en traceerbaarheid (Art. 12, met Art. 19 voor high-risk systemen). Standaard retentie bij vendors is dertig tot negentig dagen. High-risk systemen vereisen logs voor minstens zes maanden. Ook buiten high-risk wil je logs lang genoeg om een AVG-verzoek van een betrokkene, een vraag van een toezichthouder of een klantgeschil af te kunnen handelen. Check de retention-instelling. Check het export-pad. Check wie het nog meer juridisch kan opvragen.

5. Menselijk toezicht (Art. 14). Vendors zetten "human handover beschikbaar" op de lijst. De Verordening eist dat die mens competent is, geïnstrueerd, en in staat om het systeem te onderbreken of te overrulen, niet alleen om achteraf een transcript te ontvangen. Dat betekent een aangewezen rooster, een geschreven runbook, een meetbare reactietijd en de bevoegdheid om de agent terug te draaien. Geen Slack-kanaal waar op vrijdagmiddag niemand naar kijkt.

6. GPAI provider-documentatie (Art. 53). Van kracht sinds 2 augustus 2025. Providers van general-purpose modellen zijn deployers een technische samenvatting, een samenvatting van de trainingsdata en een auteursrechtbeleid verschuldigd. Veel wrapper-vendors weigeren het basismodel achter hun chat agent te noemen en behandelen dat als bedrijfsgeheim. Zonder de model card kun je je eigen risicodossier niet rondkrijgen. Vraag het schriftelijk op vóór je tekent.

7. Verboden manipulatie (Art. 5(1)(a) en (b)). Van kracht sinds februari 2025. Dark-pattern upsells, kunstmatig urgentiegevoel, uitbuiten van cognitieve kwetsbaarheid. Vendor-pagina's vinken dit af met één zin. Het risico zit in jouw prompts en conversiedoelen, niet in de defaults van de vendor. Een system prompt die zegt "als de gebruiker twijfelt, benadruk dat het aanbod vanavond afloopt" is een compliance-probleem dat jij hebt geschreven, niet het model.

8. Provider-door-aanpassing-regel (Art. 25). Als je de agent wezenlijk aanpast of onder je eigen naam op de markt zet, word je zelf provider en erf je het volledige plichtenpakket van een provider. Doorverkopen, white-labelen of insluiten in je eigen SaaS gaat hier vaak overheen. Vendor-pagina's begraven dit, want het verandert het antwoord op "wie is aansprakelijk?" op een manier die ze liever pas bij de verlenging laten landen.

9. Impactanalyse fundamentele rechten (Art. 27). Geldt voor publieke organen en voor private deployers van high-risk systemen die publieke diensten leveren (denk zorg, onderwijs, basisbankieren, energie). De meeste B2B SaaS valt erbuiten. Op het moment dat je chat agent medische vragen triëert, cijfers geeft op huiswerk of een leningaanvraag screent, wordt het zwijgen van de vendor over Art. 27 een gat dat jij moet dichten.

10. Melden van ernstige incidenten (Art. 73). Voor high-risk systemen meldt de deployer ernstige incidenten binnen vijftien dagen aan de nationale markttoezichthouder. In Nederland is de coördinerende instantie de Rijksinspectie Digitale Infrastructuur (RDI), met de Autoriteit Persoonsgegevens voor biometrie en bepaalde andere uitzonderingen. Vendor-pagina's vermelden "security incident notification". Ze noemen zelden het meldpad naar de toezichthouder.

11. Openbaarmaking sub-verwerkers en data-provenance. Ligt in het samenspel van AI Act Art. 53(1)(d) en AVG Art. 28. Je hebt de hele keten op papier nodig (vendor, hosting-provider, model-provider, evaluator, fine-tuning partij). De meeste vendor-pagina's linken door naar het beleid van de upstream-provider en noemen dat voldoende. Dat is een doorverwijzing, geen flow-down.

12. Overlap met AVG Art. 22. Strikt genomen geen AI Act, maar in de praktijk niet los te zien. Een chat agent die een refund toekent, een contract wijzigt, krediet goedkeurt of een account sluit raakt het recht van de klant om niet aan een puur geautomatiseerd besluit onderworpen te worden, plus het recht op een zinnige uitleg. Vendor-pagina's zetten dit op "buiten scope". Het is in jouw scope, en het is de meest gebruikte klachtroute waarlangs een toezichthouder bij je aanklopt.

Wat vendors meestal wél afdekken

Voor het evenwicht: compliance-pagina's van vendors zijn meestal solide op drie punten. De lijst met verboden praktijken uit Art. 5, bijna woordelijk gekopieerd. Data residency voor gehoste modellen, doorgaans Frankfurt of Dublin. Bewijs van SOC 2 of ISO 27001. Die zijn nodig en moet je niet overslaan. Het zijn ook de items die het makkelijkst uit een template komen, en daarom staan ze vooraan. Behandel ze als de minimumlat die ze zijn, niet als de veldgids.

Wat er verandert op 2 augustus 2026

Twee maanden na deze post gaan de transparantie-plichten van Art. 50 aan, samen met het leeuwendeel van het high-risk regime uit Bijlage III. De meeste klantgerichte chat agents zijn op zichzelf geen Bijlage III high-risk (de Bijlage is strak afgebakend rond werk, onderwijs, essentiële diensten, biometrie, rechtshandhaving en migratie). Maar de openbaarmakings- en labelplichten uit Art. 50 gelden breed voor elk AI-systeem dat met een persoon interacteert of content genereert, en het toezichtsapparaat (aangewezen instanties, het AI Office, nationale autoriteiten) staat dan in de hele Unie aan. Het raam voor "we pakken het na de zomer op" sluit op de eerste werkdag van augustus.

Een audit van vijf stappen voor maandagochtend

Je hebt geen consultant nodig om te beginnen. Je hebt een uur nodig, de vendor-pagina, de Verordening en de bereidheid om het gat op te schrijven.

1. Open de compliance-pagina van de vendor. Print 'm uit, of plak 'm in een document.
2. Nummer elke belofte. De meeste pagina's hebben er tussen de vier en acht.
3. Zet de twaalf bovenstaande verplichtingen in de linkerkolom van een vel. Zet de vendor-beloftes in de rechterkolom. Trek de lijnen ertussen.
4. Markeer elke rij: door vendor afgedekt, gedeeld of alleen van jou. In die derde bak zit meestal het werk.
5. Wijs voor elke alleen van jou-rij een eigenaar en een datum aan. Zelfs "we besluiten vóór 30 juni" telt als voortgang.

Op vrijdag heb je een verdedigbaar antwoord op de vraag die elke toezichthouder en elk procurement-team van een grote klant binnenkort gaat stellen: wie is verantwoordelijk voor welke verplichting onder de AI Act, en waar is het bewijs?

Waarom dat gat bestaat

Het is geen kwade wil. De meeste vendors zijn zelf early-stage, navigeren dezelfde Verordening, en hun compliance-pagina's geven weer wat ze geloofwaardig kunnen beloven op eigen kracht. De gedeelde-verantwoordelijkheidslogica van de Act (provider, deployer, importeur, distributeur, plus de provider-door-aanpassing-regel) is echt ingewikkeld, en een marketing-pagina is de verkeerde plek om dat te tonen. De juiste plek is je eigen interne register, geschreven in de taal van je eigen use case, bijgewerkt elke keer dat de prompt-set of het model van de agent verandert.

De andere reden: tot begin 2026 was er geen echte handhavingsdruk op nationaal niveau. De RDI was nog aan het werven. Het AI Office bracht nog concept-richtlijnen uit. De vendors voelden geen druk. Nu wel, en procurement-teams bij grotere klanten zijn degenen die duwen, omdat ze de flow-down nodig hebben om aan hun verplichtingen te voldoen.

Toen we vorig kwartaal een klantsupport chat agent bouwden voor een Nederlandse fintech, was de verplichting die de go-live bijna vertraagde punt 6 hierboven. De upstream-vendor wilde het basismodel niet noemen, wat een gat liet in ons Art. 53-dossier. We hebben het opgelost door een self-hosted fallback toe te voegen met een gedocumenteerde model card, zodat het risicoregister van de deployer compleet was, ongeacht welke route de request bediende. Het moeilijkste van dat traject was niet de techniek. Het was de contracttaal naar beneden geregeld krijgen. Bouw of koop je AI-agents in dit regelgevingsvenster, reken erop dat de juridische lus met je vendor de bottleneck wordt.

Print de twaalf. Markeer de plichten die je vendor-pagina niet noemt. Dat is je week.