De AI Act is er. Is je chatbot klaar?
De EU AI Act is in 2024 in werking getreden, met handhaving vanaf 2025. Het is 's werelds eerste uitgebreide AI-regelgeving en is van toepassing op elk AI-systeem dat in de EU wordt gebruikt, ongeacht waar de aanbieder gevestigd is. Voor klantenserviceteams betekent dit nieuwe transparantie-eisen, risicobeoordelingen en documentatieverplichtingen. Dit is wat je daadwerkelijk moet doen.
De meeste klantenservice-chatbots zijn 'beperkt risico' onder de AI Act en vereisen transparantie (vertel gebruikers dat het AI is) en registratie. Een hogere risicoclassificatie geldt als de bot consequentiële beslissingen neemt. Belangrijkste acties: label je AI, log gesprekken, zorg voor menselijk toezicht en documenteer je AI-systeem.
- ✓Klantenservice-chatbots zijn doorgaans 'beperkt risico': transparantie is de belangrijkste verplichting.
- ✓Gebruikers moeten geïnformeerd worden dat ze met AI communiceren, niet met een menselijke agent.
- ✓Gesprekslogging en menselijke escalatieroutes zijn aanbevolen best practices.
- ✓Boetes voor niet-naleving kunnen oplopen tot €35 miljoen of 7% van de wereldwijde jaaromzet.
AI Act-risicoclassificatie voor chatbots
De AI Act definieert vier risiconiveaus: onacceptabel (verboden), hoog, beperkt en minimaal. De meeste klantenservice-chatbots vallen onder 'beperkt risico' omdat ze direct met mensen communiceren. De belangrijkste eis: informeer gebruikers duidelijk dat ze met een AI-systeem praten, niet met een mens. Als je bot verzekeringsclaims, kredietbeslissingen of toegang tot essentiële diensten afhandelt, kan het als 'hoog risico' worden geclassificeerd met strengere verplichtingen.
Transparantieverplichtingen
Voor AI-systemen met beperkt risico zoals klantenservice-chatbots vereist Artikel 50 van de AI Act dat gebruikers geïnformeerd worden dat ze met een AI communiceren. Dit betekent: een zichtbaar label op de chatwidget, een disclaimer aan het begin van gesprekken en duidelijke beschikbare documentatie over hoe de AI werkt. Het doel is ervoor te zorgen dat niemand misleid wordt in de veronderstelling dat ze met een mens praten.
Registratie en controleerbaarheid
Hoewel niet strikt verplicht voor systemen met beperkt risico, wordt het loggen van AI-interacties sterk aanbevolen. Als een klantklacht escaleert naar een regelgevend onderzoek, wil je registraties van wat de AI zei, welke bronnen het citeerde en wanneer het escaleerde naar een mens. Keloa logt alle AI-gesprekken met bronverwijzingen en betrouwbaarheidsscores, wat je standaard een audit trail geeft.
Eisen voor menselijk toezicht
De AI Act benadrukt menselijk toezicht over AI-systemen. Voor klantenservice betekent dit het onderhouden van een duidelijk pad van AI naar menselijke agent. Je chatbot moet beschikken over: instelbare betrouwbaarheidsdrempels, automatische escalatie naar mensen, de mogelijkheid voor klanten om een mens te vragen en regelmatige beoordeling van AI-prestaties door je team.
Praktische stappen voor compliance
1) Label je chatbot als AI-gedreven in de widget en het eerste bericht. 2) Log alle AI-gesprekken en sla ze op in de EU. 3) Stel menselijke escalatie in met betrouwbaarheidsdrempels. 4) Documenteer hoe je AI-systeem werkt, welke data het gebruikt en welke beslissingen het neemt. 5) Beoordeel AI-prestaties maandelijks. 6) Kies een leverancier die deze functies al ingebouwd heeft. Keloa heeft dit allemaal standaard.
topics.ai-act-customer-service.faq.h2
Wanneer treedt de AI Act in werking?
De AI Act is op 1 augustus 2024 in werking getreden. Verboden AI-praktijken zijn verboden sinds februari 2025. Transparantieverplichtingen voor systemen met beperkt risico (inclusief chatbots) gelden vanaf augustus 2025. Eisen voor systemen met hoog risico gelden vanaf augustus 2026.
Geldt de AI Act voor niet-EU-bedrijven?
Ja. De AI Act is van toepassing op elk AI-systeem dat in de EU wordt gebruikt, ongeacht waar de aanbieder of gebruiker gevestigd is. Als je in de VS gebouwde chatbot EU-klanten bedient, is de wet van toepassing. Vergelijkbaar met hoe de AVG geldt voor bedrijven die data van EU-inwoners verwerken.
Wat is de straf voor niet-naleving?
Boetes voor verboden AI-praktijken: tot €35 miljoen of 7% van de wereldwijde omzet. Boetes voor andere overtredingen: tot €15 miljoen of 3% van de omzet. Voor MKB's geldt het lagere van de twee bedragen. In de praktijk wordt verwacht dat toezichthouders beginnen met waarschuwingen en begeleiding voor zware boetes.
Moet ik mijn chatbot registreren?
Alleen AI-systemen met hoog risico moeten worden geregistreerd in de EU-database. Systemen met beperkt risico zoals de meeste klantenservice-chatbots hoeven niet te worden geregistreerd. Je moet echter interne documentatie bijhouden over hoe je AI-systeem werkt en hoe het wordt gemonitord.
Hoe voldoet Keloa aan de AI Act?
Keloa labelt alle AI-interacties, logt gesprekken met bronverwijzingen en betrouwbaarheidsscores, biedt instelbare menselijke escalatie en gebruikt geen klantdata voor modeltraining. Dit voldoet aan de transparantie- en toezichteisen voor AI-systemen met beperkt risico onder de wet.
topics.ai-act-customer-service.finalcta.title
topics.ai-act-customer-service.finalcta.body