Kollie en de EU AI Act

1. AI-modellen en doel

Kollie is een platform voor AI-telefoonassistenten. Deze AI-modellen worden in productie gebruikt:

Garantie van Microsoft: geen training op klantgegevens

Al het gebruik van Azure OpenAI valt onder de zakelijke gegevensbeschermingsafspraken van Microsoft:

• Klantgegevens worden niet gebruikt om modellen van Microsoft of derden te trainen, opnieuw te trainen of te verbeteren.
• Klantgegevens zijn niet beschikbaar voor andere Azure OpenAI-klanten.
• Dit is contractueel vastgelegd in de Microsoft Product Terms en de documentatie over gegevens, privacy en beveiliging van Azure OpenAI.

2. Risicoclassificatie onder de EU AI Act

Classificatie: beperkt risico (met elementen van minimaal risico)

Onder de EU AI Act (Verordening (EU) 2024/1689) worden AI-systemen ingedeeld in vier risiconiveaus: onaanvaardbaar, hoog, beperkt en minimaal.

Kollie valt niet onder hoog risico (bijlage III), omdat het:

• geen biometrische identificatie of categorisering uitvoert.
• geen beslissingen neemt in kritieke infrastructuur, onderwijs, werkgelegenheid, essentiële diensten, rechtshandhaving, migratie of justitie.
• geen social scoring of emotieherkenning uitvoert.
• niet zelfstandig juridisch ingrijpende beslissingen over natuurlijke personen neemt.

Kollie valt onder beperkt risico, vooral vanwege artikel 50 (transparantieverplichtingen): personen die met een AI-systeem communiceren, moeten worden geïnformeerd dat ze met AI te maken hebben, tenzij dat uit de omstandigheden duidelijk is.

De telefoonagent is de belangrijkste interface, en bellers herkennen misschien niet direct dat ze met een AI-systeem spreken. Daaruit volgt de transparantieverplichting van artikel 50 (zie sectie 6).

De overige onderdelen (embeddings, vectorzoeken, transcriptie-extractie) vallen onder minimaal risico: ze verwerken gegevens op de achtergrond zonder directe interactie met mensen.

3. Maatregelen om risico's te beperken

3.1 Menselijk toezicht

• Doorverbinden mogelijk: agents kunnen gesprekken op elk moment doorverbinden met medewerkers, als dat is ingesteld.
• Instelbaar gedrag: de instructies, persona en taak van elke agent worden bepaald door de operator (de klant van Kollie); de AI breidt zijn taak niet zelf uit.
• Controle van transcripties: alle gesprekken worden getranscribeerd en opgeslagen, zodat mensen de AI-interacties kunnen controleren.
• Gestructureerde gegevensextractie: na het gesprek worden gestructureerde gegevens uit transcripties gehaald, zodat de operator ze kan controleren.

3.2 Transparantie

• Gedrag vastgelegd in de prompt: de operator bepaalt wat de agent zegt en hoe hij zich voorstelt.
• Opnames en transcripties: van elke AI-interactie is een volledig auditspoor beschikbaar.
• Geen zelfstandige beslissingen: de agent werkt strikt binnen de grenzen van de promptconfiguratie van de operator.

3.3 Nauwkeurigheid en betrouwbaarheid

• RAG (Retrieval-Augmented Generation): zoekopdrachten in de kennisbank baseren de antwoorden van de agent op feiten van de operator en verkleinen de kans op verzonnen antwoorden.
• Temperatuurinstelling: transcriptie-extractie gebruikt temperature=0 voor deterministische, reproduceerbare uitkomsten.
• Modelkeuze per tenant: operators kunnen specifieke modelversies krijgen, voor gecontroleerde uitrol.

3.4 Auditspoor

• Alle gesprekken worden vastgelegd met volledige transcripties.
• Resultaten van gestructureerde gegevensextractie worden per gesprek opgeslagen.
• Wijzigingen in de agentconfiguratie worden bijgehouden.

4. Gegevensbescherming (AVG)

De AVG vereist niet dat gegevens in de EU worden opgeslagen, maar wel dat doorgifte buiten de EU met passende waarborgen gebeurt (bijvoorbeeld standaardcontractbepalingen of het EU-US Data Privacy Framework). Alle subverwerkers hieronder bieden zulke waarborgen. EU-dataresidentie is beschikbaar als optionele configuratie voor organisaties die gegevens om contractuele of wettelijke redenen binnen de EU moeten houden.

4.1 Overzicht van de gegevensverwerking

4.2 Subverwerkers, dataresidentie en training

4.3 Dataminimalisatie

• Alleen gespreksrelevante gegevens worden naar LLM-aanbieders gestuurd.
• Embeddings van de kennisbank worden lokaal gemaakt; brondocumenten worden niet naar externe diensten gestuurd.
• Het opnemen van gesprekken is optioneel en door de klant te bepalen: klanten kunnen het naar wens aan- of uitzetten. Staat het aan, dan worden opnames maximaal 30 dagen bewaard op de infrastructuur van Kollie (Azure). De spraakprovider (Vonage) bewaart gespreksaudio daarnaast volgens zijn eigen beleid maximaal 30 dagen.

5. IT-beveiliging

5.1 Authenticatie en toegangsbeheer

• API-authenticatie via API-sleutels en bearer-tokens.
• Toegang tot agentconfiguraties is per organisatie afgeschermd (multi-tenant-isolatie).
• Collecties in de vectordatabase zijn per organisatie en kennisbank gescheiden (org_{id}_kb_{kb_id}).

5.2 Versleuteling

• Tijdens overdracht: alle externe API-aanroepen gebruiken HTTPS/TLS.
• In opslag: door Azure beheerde versleuteling voor PostgreSQL; Qdrant op een Azure-VM profiteert van Azure-schijfversleuteling.

5.3 Beheer van geheimen

• API-sleutels voor alle externe diensten (Azure OpenAI, Deepgram, ElevenLabs) worden als omgevingsvariabelen opgeslagen, niet in de broncode.
• Productiegeheimen worden beheerd via de deploymentconfiguratie en niet in versiebeheer opgenomen.

5.4 Netwerkbeveiliging

• De Qdrant-instantie draait in een privé- of virtueel netwerk.
• Toegang tot de database is beperkt tot de applicatiediensten.

6. AI-melding: transparantieverplichting (artikel 50)

Huidige situatie

Op dit moment stel je als operator de AI-melding (bellers vertellen dat ze met een AI spreken) zelf in via de prompt en begroeting van de agent. Je bent er zelf verantwoordelijk voor dat je agents een passende AI-melding geven.

Komende verplichting

Artikel 50, lid 1, van de EU AI Act vereist dat AI-systemen die direct met mensen communiceren, hen laten weten dat ze met AI te maken hebben. Deze verplichting geldt vanaf 2 augustus 2026.

Als platformaanbieder voert Kollie voor die datum een ingebouwde AI-melding in, zodat aan de verplichting op platformniveau wordt voldaan. Daarbij hoort een standaardmelding in de begroeting van de agent die voldoet aan artikel 50.

Wat dit voor jou betekent

• Nu: we raden aan een AI-melding op te nemen in de begroeting van je agents (bijvoorbeeld "Hallo, je spreekt met een AI-assistent van [Bedrijf]. Waarmee kan ik je helpen?").
• Vanaf augustus 2026: Kollie zorgt op platformniveau voor naleving, zodat aan artikel 50 automatisch wordt voldaan.

Ter referentie: artikel 50 en overweging 132 van de EU AI Act (Verordening (EU) 2024/1689).