Wanneer AI meeluistert, moet de uitleg kloppen

Dit is het eerste deel van een tweeluik over wat de AI Act praktisch betekent voor AI in klantcontact.

Begin augustus veranderde de AI Act terwijl hij arriveerde. Zes dagen voordat het grootste deel van de verordening van toepassing werd, schoof de AI Omnibus een aantal belangrijke verplichtingen door naar 2027 en 2028. De transparantieverplichtingen uit artikel 50 kwamen wel aan.

Dat nieuws maakte een ogenschijnlijk kleine productvraag ineens praktisch: is het voldoende wanneer een AI-systeem zich bekendmaakt als een ‘virtuele assistent’? Ik ging daarover in gesprek met Enreach. Het leverde materiaal op voor twee artikelen, omdat de vraag niet alleen juridisch is. Zij raakt ook aan productontwerp, aan de rol van leverancier en partner, en aan wat een gesprekspartner werkelijk begrijpt.

Tijdens dat gesprek probeerde Andries Burghgraef, Head Product Management voor Enreach Contact & AI, een melding hardop uit:

“Door een virtuele assistent wordt een samenvatting gemaakt van dit gesprek.”

De zin klinkt eenvoudig. Maar begrijpt een gesprekspartner daaruit dat AI wordt gebruikt? En dat het gesprek daarvoor wordt opgenomen en getranscribeerd?

Dit eerste artikel volgt die vragen tot aan de melding die iemand daadwerkelijk hoort. In het tweede artikel kijk ik een stap terug in de keten: naar de leverancier, partner en klant die samen bepalen of zulke uitleg en instellingen ook werkelijk beschikbaar en bruikbaar zijn.

Om die vragen te beantwoorden, moesten we in het gesprek eerst uit elkaar halen wat Shomi precies doet.

Drie handelingen

Shomi is de virtuele assistent in Enreach Contact. Wanneer een gebruiker de assistent activeert, wordt het gesprek opgenomen. Een transcriptiemodule zet de audio om in tekst. Vervolgens gebruikt een AI-component het transcript om een samenvatting en actiepunten te genereren.

Voor een gebruiker kan dat als één functie voelen: na het gesprek ligt er een verslag klaar. Juridisch en organisatorisch is het minder compact. Opname en transcriptie raken aan privacyregels en de informatie die deelnemers vooraf moeten krijgen. Artikel 50 van de AI Act richt zich onder meer op situaties waarin mensen rechtstreeks met een AI-systeem interacteren en dat niet vanzelfsprekend duidelijk is.

Die twee lijnen kunnen in hetzelfde klantcontact samenkomen, maar ze vallen niet automatisch samen. Een medewerker kan zelf het gesprek voeren terwijl AI op de achtergrond transcribeert. Een virtuele agent kan ook zelfstandig met iemand spreken. In het eerste geval praat de klant met een mens en verwerkt AI het gesprek. In het tweede geval is AI zelf gesprekspartner. De benodigde uitleg moet dat verschil volgen.

Begrijpelijke taal

Daarmee wordt transparantie ook een kwestie van gebruikservaring. Een organisatie kan formeel iets melden en de gesprekspartner toch in het ongewisse laten. ‘Virtuele assistent’ klinkt vriendelijk, maar zegt niet voor iedereen hetzelfde. ‘AI luistert mee’ is directer, maar kan meer suggereren dan technisch gebeurt. Een lange juridische tekst is preciezer en mist het moment waarop de uitleg nodig is.

“Het moet kort, vriendelijk en niet afschrikkend zijn.”

Dat uitgangspunt van Andries is praktisch. De melding moet het gesprek niet blokkeren. Tegelijkertijd mag vriendelijkheid de betekenis niet verdunnen. Een bruikbare formulering vertelt in gewone taal welke handeling plaatsvindt en met welk doel: het gesprek wordt opgenomen en getranscribeerd om een samenvatting en actiepunten te maken.

Het doel hoort bij de uitleg. Een transcript dat voor een gespreksverslag wordt gemaakt, kan niet zonder meer voor ieder later doel worden gebruikt. Ook wanneer een samenvatting naar een CRM-systeem gaat, moet duidelijk zijn waarom die daar terechtkomt en wie er toegang toe heeft. Transparantie aan het begin van het gesprek werkt alleen wanneer het proces erachter dezelfde uitleg blijft volgen.

Een productkeuze

Enreach onderzoekt daarom productmogelijkheden waarmee klanten en partners deze uitleg beter kunnen organiseren. In de interne FAQ worden onder meer een instelbare gesproken melding en meer controle over het beluisteren of downloaden van opnames genoemd. Dit zijn ideeën in ontwikkeling, geen functies die al als beschikbaar mogen worden beschreven.

Dat onderscheid is belangrijk. Wetgeving vertaalt zich niet rechtstreeks naar één universele knop. Een leverancier kan wel zorgen dat organisaties niet voor iedere implementatie opnieuw hoeven uit te vinden waar, wanneer en in welke woorden zij uitleg geven. Instellingen, voorbeeldteksten en documentatie maken een abstracte verplichting hanteerbaar.

Aan de lijn

De vraag waarmee dit artikel begon, is dus niet welke woorden juridisch veilig zijn. De werkelijke vraag is of het product kan waarmaken wat de melding zegt.

Wanneer AI een gesprek opneemt, transcribeert en samenvat, moet het product die werkelijkheid op het juiste moment zichtbaar kunnen maken, in woorden die de gesprekspartner begrijpt. De melding is dan geen losse juridische toevoeging aan een bestaande functie. Zij is onderdeel van wat die functie goed maakt.

Daar begint transparantie in klantcontact: niet bij de langste uitleg, maar bij een product dat eerlijk kan laten zien wat het doet.

Dit is het eerste deel van het tweeluik. De uitleg aan de gesprekspartner is maar één kant van de praktijk. In het tweede deel kijk ik een stap terug in de keten: naar de leverancier, partner en klant die samen bepalen of zulke uitleg en instellingen ook werkelijk beschikbaar en bruikbaar zijn.