ChatGPT luistert naar je (en kan je aangeven)

De grote verandering: OpenAI geeft toe dat het meldingen doet bij de autoriteiten

In september 2025 deed OpenAI een onthulling die de wereldwijde techgemeenschap deed opschrikken: ChatGPT monitort actief de gesprekken van gebruikers en meldt mogelijk crimineel gedrag aan de politie.

Het nieuws, dat bijna toevallig naar voren kwam in een blogpost van het bedrijf, onthulde dat wanneer automatische systemen gebruikers detecteren die "van plan zijn anderen schade te berokkenen", de gesprekken worden doorgestuurd naar gespecialiseerde pijplijnen waar een klein team dat is getraind in het gebruiksbeleid ze onderzoekt. Als de menselijke beoordelaars vaststellen dat er een "onmiddellijke dreiging van ernstig lichamelijk letsel aan anderen" bestaat, kan de zaak worden doorverwezen naar de wetshandhavingsinstanties¹.

ChatGPT nodigt je hartelijk uit om je meest intieme gedachten te delen. Geen zorgen, het is allemaal vertrouwelijk... min of meer.

Bronnen:

• OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police - Futurism
• ChatGPT privacy questioned as OpenAI confirms police access in extreme cases - Storyboard18

Het contrast met de "beschermde" beroepen

Het beroepsgeheim

Wanneer we met een psycholoog, advocaat, arts of priester praten, worden onze woorden beschermd door een gevestigd juridisch mechanisme: het beroepsgeheim. Dit principe, geworteld in eeuwenlange juridische traditie, stelt dat bepaalde gesprekken onschendbaar zijn, zelfs bij strafrechtelijke onderzoeken.

Kenmerken van het traditionele beroepsgeheim:

• Zeer uitgebreide bescherming: Communicaties blijven vertrouwelijk, zelfs bij bekende misdrijven
• Beperkte en specifieke uitzonderingen: Alleen in extreme, wettelijk bepaalde gevallen mogen/moeten bepaalde professionals de stilte doorbreken
• Gekwalificeerde menselijke controle: De beslissing om de vertrouwelijkheid te schenden blijft altijd in handen van een opgeleide professional
• Ethische verantwoordelijkheid: Professionals zijn gebonden aan gedragscodes die plichten tegenover de cliënt en de maatschappij afwegen

De werkelijke grenzen van het beroepsgeheim

In tegenstelling tot wat vaak wordt gedacht, is het beroepsgeheim niet absoluut. Er bestaan duidelijk omschreven uitzonderingen die per beroepsgroep verschillen:

Voor advocaten (Art. 28 Gedragscode voor Advocaten): Openbaarmaking is toegestaan wanneer dit noodzakelijk is voor:

• Het uitoefenen van de verdediging
• Het voorkomen van een bijzonder ernstig misdrijf
• Zichzelf verdedigen in een geschil tegen de eigen cliënt
• Tuchtprocedures

Kritiek voorbeeld: Als een cliënt aan zijn advocaat verklaart dat hij van plan is een moord te plegen, moet tussen de bescherming van het recht op verdediging en de bescherming van het leven de laatste voorrang krijgen, en is de advocaat ontheven van het beroepsgeheim².

Voor psychologen (Art. 13 Gedragscode): Het geheim kan worden geschonden wanneer:

• Er een plicht is tot melding of aangifte voor ambtshalve vervolgbare misdrijven
• Er ernstige gevaren dreigen voor het leven of de psychofysieke gezondheid van de persoon en/of derden
• Er geldige en aantoonbare toestemming van de patiënt is

Belangrijk onderscheid: De privépsycholoog heeft meer beoordelingsvrijheid dan de psycholoog in openbare dienst, die als ambtenaar strengere meldplichten heeft³.

Bronnen:

• Studio Legale Puce - Segreto Professionale dell'Avvocato
• La Legge Per Tutti - Lo psicologo che sa di un reato deve denunciare il paziente?

AI als 'niet-professional'

ChatGPT opereert in een heel andere grijze zone:

Geen wettelijk verschoningsrecht: Gesprekken met AI genieten geen enkele wettelijke bescherming. Zoals Sam Altman, CEO van OpenAI, toegaf: "Als je met een therapeut, advocaat of arts over die problemen praat, geldt daarvoor het verschoningsrecht. Er is arts-patiëntvertrouwelijkheid, er is juridische vertrouwelijkheid, wat dan ook. En we hebben dat nog niet opgelost voor het praten met ChatGPT"².

Geautomatiseerd proces: In tegenstelling tot een menselijke professional die per geval beoordeelt, gebruikt ChatGPT algoritmes om "problematische" content te identificeren, waardoor het gekwalificeerde menselijke oordeel uit de eerste screeningsfase verdwijnt.

Bronnen:

• Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist - TechCrunch

De praktische implicaties: een nieuw paradigma voor bewaking

Het paradox van technologisch vertrouwen

De situatie creëert een zorgwekkende paradox. Miljoenen mensen gebruiken ChatGPT als digitale vertrouwenspersoon en delen intieme gedachten, twijfels, angsten en zelfs criminele fantasieën die ze nooit met een mens zouden delen. Zoals Sam Altman meldt: "Mensen praten met ChatGPT over de meest persoonlijke dingen in hun leven. Mensen gebruiken het - vooral jongeren - als therapeut, life coach"⁴.

Het risico van criminele zelfcensuur: Het besef dat gesprekken kunnen worden gemonitord, zou paradoxaal genoeg kunnen leiden tot:

• Criminelen richting meer verborgen kanalen duwen
• Mensen met gewelddadige gedachten ervan weerhouden hulp te zoeken
• Een "afkoelend" effect creëren op digitale communicatie

Competentie versus algoritmen: wie bepaalt wat crimineel is?

Een cruciaal aspect dat door critici wordt benadrukt, betreft de competentie van degenen die de uiteindelijke beslissingen nemen.

Menselijke professionals hebben:

• Jarenlange training om te onderscheiden tussen fantasieën en werkelijke intenties
• Beroepscodes die bepalen wanneer het beroepsgeheim doorbroken moet worden
• Persoonlijke wettelijke aansprakelijkheid voor hun beslissingen
• Vermogen om context en geloofwaardigheid te beoordelen

Het ChatGPT-systeem werkt met:

• Geautomatiseerde algoritmes voor eerste detectie
• OpenAI-personeel dat niet noodzakelijk klinische of criminologische scholing heeft
• Niet-openbare en mogelijk arbitraire beoordelingscriteria
• Ontbreken van externe controlemechanismen

Problematisch voorbeeld: Hoe onderscheidt een algoritme tussen:

• Iemand die een thriller schrijft en op zoek is naar inspiratie voor gewelddadige scènes
• Iemand die fantaseert zonder de intentie om te handelen
• Een individu dat daadwerkelijk een misdaad plant

Bronnen:

• TechCrunch - Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist
• Shinkai Blog - OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage

Bronnen:

• OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears

De tegenstrijdigheid van OpenAI: privacy versus veiligheid

De dubbele standaard

De bekentenis van OpenAI staat in schril contrast met zijn eerdere standpunten. Het bedrijf heeft zich in rechtszaken krachtig verzet tegen verzoeken om gebruikersgegevens, daarbij verwijzend naar de bescherming van de privacy. In de zaak tegen de New York Times heeft OpenAI zich krachtig verzet tegen de openbaarmaking van chatlogs om de privacy van gebruikers te beschermen⁴.

De ironie van de situatie: OpenAI verdedigt de privacy van gebruikers in rechtszaken terwijl het tegelijkertijd toegeeft gegevens te monitoren en te delen met externe autoriteiten.

De impact van de New York Times-zaak

De situatie is verder gecompliceerd geraakt door het gerechtelijk bevel dat OpenAI verplicht om alle ChatGPT-logs voor onbepaalde tijd te bewaren, inclusief privéchats en API-gegevens. Dit betekent dat gesprekken die gebruikers voor tijdelijk hielden nu permanent worden opgeslagen⁵.

Bronnen:

• OpenAI slams court order to save all ChatGPT logs, including deleted chats
• OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data

Mogelijke oplossingen en alternatieven

Op weg naar een 'AI-voorrecht'?

Zoals Sam Altman suggereerde, zou het nodig kunnen zijn om een concept van "AI-privilege" te ontwikkelen - een wettelijke bescherming vergelijkbaar met die geboden aan traditionele professionals. Dit roept echter complexe vragen op:

Mogelijke regelgevende opties:

1. Vergunningsmodel: Alleen gecertificeerde AI kan "gespreksprivilege" bieden
2. Verplichte training: Wie gevoelige content beheert moet specifieke kwalificaties hebben
3. Professioneel toezicht: Betrokkenheid van gekwalificeerde psychologen/advocaten bij meldingsbeslissingen
4. Algoritmische transparantie: Publicatie van de criteria die worden gebruikt om "gevaarlijke" content te identificeren

Technische tussenoplossingen

"Gecompartimenteerde" AI:

• Aparte systemen voor therapeutisch gebruik versus algemeen gebruik
• End-to-end-encryptie voor gevoelige gesprekken
• Expliciete toestemming voor elk type monitoring

"Tripartiete" aanpak:

• Automatische detectie alleen voor onmiddellijke en verifieerbare bedreigingen
• Verplichte gekwalificeerde menselijke beoordeling
• Beroepsprocedure voor betwiste beslissingen

Het precedent van digitale professionals

Lessen uit andere sectoren:

• Telegeneeskunde: Heeft protocollen ontwikkeld voor digitale privacy
• Online juridisch advies: Gebruikt encryptie en identiteitscontroles
• Digitale therapie: Gespecialiseerde apps met specifieke beschermingen

Bronnen:

• Simon Willison - OpenAI court order analysis

Wat betekent dit voor bedrijven AI

Lessen voor de sector

De OpenAI-zaak schept belangrijke precedenten voor de hele sector van kunstmatige intelligentie:

1. Verplichte transparantie: AI-bedrijven zullen explicieter moeten zijn over hun monitoringpraktijken
2. Noodzaak van ethische kaders: Er is duidelijke regelgeving nodig over wanneer en hoe AI mag ingrijpen in privécommunicatie
3. Gespecialiseerde training: Wie beslissingen neemt over gevoelige content moet over passende competenties beschikken
4. Wettelijke aansprakelijkheid: Bepalen wie verantwoordelijk is wanneer een AI-systeem een beoordeling fout inschat

Operationele aanbevelingen

Voor bedrijven die conversationele AI ontwikkelen:

• Multidisciplinaire teams inzetten (juristen, psychologen, criminologen)
• Openbare en controleerbare criteria voor meldingen ontwikkelen
• Beroepsprocessen voor gebruikers creëren
• Investeren in specialistische training voor beoordelingspersoneel

Voor bedrijven die AI gebruiken:

• Privacyrisico's beoordelen vóór implementatie
• Gebruikers duidelijk informeren over de grenzen van vertrouwelijkheid
• Gespecialiseerde alternatieven overwegen voor gevoelige toepassingen

De toekomst van digitale vertrouwelijkheid

Het kerndilemma: Hoe balanceer je het voorkomen van echte misdaden met het recht op privacy en digitale vertrouwelijkheid?

Het gaat hier niet alleen om een technische kwestie, maar ook om fundamentele principes:

• Vermoeden van onschuld: Het monitoren van privégesprekken impliceert algemeen wantrouwen
• Recht op privacy: Omvat het recht om private, zelfs verontrustende gedachten te hebben
• Preventieve effectiviteit: Het is niet bewezen dat digitale surveillance daadwerkelijk misdaden voorkomt

Conclusies: het juiste evenwicht vinden

De onthulling van OpenAI markeert een keerpunt in de evolutie van kunstmatige intelligentie, maar de vraag is niet of het melden op zich juist of onjuist is: het gaat erom hoe je het effectief, eerlijk en met respect voor rechten maakt.

De noodzaak is reëel: Concrete dreigingen van geweld, plannen voor aanslagen of andere zware misdrijven vereisen ingrijpen. Het probleem is niet of er gemeld moet worden, maar hoe dit op verantwoorde wijze te doen.

De fundamentele verschillen die opgelost moeten worden:

Opleiding en Competentie:

• Menselijke professionals hebben gevestigde protocollen om onderscheid te maken tussen echte dreigingen en fantasieën
• AI-systemen hebben equivalente standaarden en gekwalificeerd toezicht nodig
• Er is gespecialiseerde training nodig voor wie de uiteindelijke beslissingen neemt

Transparantie en Controle:

• Professionals opereren onder toezicht van beroepsorganisaties
• OpenAI heeft openbare criteria en externe controlemechanismen nodig
• Gebruikers moeten precies weten wanneer en waarom ze mogelijk gemeld worden

Proportionaliteit:

• Professionals wegen per geval de plicht tot vertrouwelijkheid af tegen veiligheid
• AI-systemen moeten vergelijkbare mechanismen ontwikkelen, geen binaire algoritmes

Voor bedrijven in de sector is de uitdaging om systemen te ontwikkelen die de samenleving effectief beschermen zonder instrumenten van ongebreidelde surveillance te worden. Het vertrouwen van gebruikers is essentieel, maar moet samengaan met maatschappelijke verantwoordelijkheid.

Voor gebruikers is de les tweeledig:

1. Gesprekken met AI genieten niet dezelfde bescherming als bij traditionele professionals
2. Dit is niet noodzakelijk negatief als het op transparante en proportionele wijze gebeurt, maar het is belangrijk je hiervan bewust te zijn

De toekomst van conversationele AI vereist een nieuw framework dat:

• De legitimiteit van misdaadpreventie erkent
• Professionele standaarden vaststelt voor wie gevoelige inhoud beheert
• Transparantie garandeert over besluitvormingsprocessen
• Individuele rechten beschermt zonder veiligheid te negeren

De juiste vraag is niet of machines misdaden zouden moeten melden, maar hoe we ervoor kunnen zorgen dat ze dit doen met (ten minste) dezelfde wijsheid, opleiding en verantwoordelijkheid als menselijke professionals.

Het doel is niet om terug te keren naar een AI die "blind" is voor de werkelijke gevaren, maar om systemen te bouwen die technologische efficiëntie combineren met ethiek en menselijke competentie. Alleen zo kunnen we het beste van twee werelden hebben: veiligheid en beschermde individuele rechten.

Referenties en bronnen

1. Futurism - "OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police"
2. Studio Legale Puce - "Segreto Professionale dell'Avvocato"
3. La Legge Per Tutti - "Lo psicologo che sa di un reato deve denunciare il paziente?"
4. TechCrunch - "Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist"
5. Shinkai Blog - "OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears"
6. Simon Willison - "OpenAI slams court order to save all ChatGPT logs, including deleted chats"
7. Success Knocks - "OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data"