ChatGPT vous écoute (et pourrait vous dénoncer)

Le grand changement : OpenAI admet avoir signalé les autorités

En septembre 2025, OpenAI a fait une révélation qui a secoué la communauté tech mondiale : ChatGPT surveille activement les conversations des utilisateurs et signale les contenus potentiellement criminels aux forces de l'ordre.

La nouvelle, révélée presque par hasard dans un article publié sur le blog de l'entreprise, a révélé que lorsque les systèmes automatiques détectent des utilisateurs qui « envisagent de nuire à autrui », les conversations sont acheminées vers des pipelines spécialisés où une petite équipe formée aux politiques d'utilisation les examine. Si les examinateurs humains déterminent qu'il existe une « menace imminente de préjudice physique grave à autrui », l'affaire peut être signalée aux forces de l'ordre¹.

ChatGPT vous invite cordialement à partager vos pensées les plus intimes. Rassurez-vous, tout est confidentiel... plus ou moins.

Sources :

• OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police - Futurism
• ChatGPT privacy questioned as OpenAI confirms police access in extreme cases - Storyboard18

Le contraste avec les professions « protégées »

Le privilège du secret professionnel

Lorsque nous parlons à un psychologue, un avocat, un médecin ou un prêtre, nos paroles sont protégées par un mécanisme juridique bien établi : le secret professionnel. Ce principe, ancré dans des siècles de tradition juridique, établit que certaines conversations sont inviolables, même face à des enquêtes pénales.

Caractéristiques du secret professionnel traditionnel :

• Protection très étendue : Les communications restent confidentielles même en présence de crimes avoués
• Exceptions limitées et spécifiques : Seuls des cas extrêmes définis par la loi permettent à certains professionnels de/doivent rompre le silence
• Contrôle humain qualifié : La décision de violer la confidentialité reste toujours entre les mains d'un professionnel formé
• Responsabilité éthique : Les professionnels sont liés par des codes déontologiques qui équilibrent les devoirs envers le client et la société

Les limites réelles du secret professionnel

Contrairement à la perception commune, le secret professionnel n'est pas absolu. Il existe des exceptions bien définies qui varient selon la catégorie professionnelle :

Pour les Avocats (Art. 28 du Code Déontologique du Barreau) : La divulgation est permise lorsqu'elle est nécessaire pour :

• L'exercice de l'activité de défense
• Empêcher la commission d'un délit particulièrement grave
• Se défendre dans un litige contre son propre client
• Procédures disciplinaires

Exemple critique : Si un client déclare à l'avocat qu'il a l'intention de commettre un homicide, entre la protection du droit de la défense et la protection du bien de la vie, cette dernière doit prévaloir et l'avocat est délié du secret².

Pour les Psychologues (Art. 13 du Code Déontologique) : Le secret peut être violé lorsque :

• Il existe une obligation de rapport ou de dénonciation pour des délits poursuivis d'office
• Des dangers graves se profilent pour la vie ou la santé psychophysique du sujet et/ou de tiers
• Il y a un consentement valide et démontrable du patient

Distinction importante : Le psychologue en pratique privée dispose d'une plus grande marge de discrétion que celui du secteur public, qui, en tant qu'agent public, a des obligations de signalement plus strictes³.

Sources :

• Studio Legale Puce - Segreto Professionale dell'Avvocato
• La Legge Per Tutti - Lo psicologo che sa di un reato deve denunciare il paziente?

L'IA en tant que « non-professionnel »

ChatGPT opère dans une zone grise complètement différente :

Absence de privilège légal : Les conversations avec l'IA ne bénéficient d'aucune protection légale. Comme l'a admis Sam Altman, PDG d'OpenAI : "Si vous parlez à un thérapeute, un avocat ou un médecin de ces problèmes, il existe un privilège légal pour cela. Il y a la confidentialité médecin-patient, la confidentialité juridique, peu importe. Et nous n'avons pas encore résolu cela pour quand vous parlez à ChatGPT"².

Processus automatisé : Contrairement à un professionnel humain qui évalue au cas par cas, ChatGPT utilise des algorithmes pour identifier les contenus "problématiques", supprimant le jugement humain qualifié de la phase initiale de filtrage.

Sources :

• Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist - TechCrunch

Les implications pratiques : un nouveau paradigme de surveillance

Le paradoxe de la confiance technologique

La situation crée un paradoxe préoccupant. Des millions de personnes utilisent ChatGPT comme confident numérique, partageant des pensées intimes, des doutes, des peurs et même des fantasmes criminels qu'elles ne partageraient jamais avec un être humain. Comme le rapporte Sam Altman : "Les gens parlent des choses les plus personnelles de leur vie à ChatGPT. Les gens l'utilisent - surtout les jeunes - comme thérapeute, coach de vie"⁴.

Le risque d'autocensure criminelle : La prise de conscience que les conversations peuvent être surveillées pourrait paradoxalement :

• Pousser les criminels vers des canaux plus dissimulés
• Empêcher des personnes ayant des pensées violentes de chercher de l'aide
• Créer un effet de "refroidissement" des communications numériques

Compétence contre algorithmes : qui décide de ce qui est criminel ?

Un aspect crucial souligné par les critiques concerne la compétence des personnes qui prennent les décisions finales.

Les professionnels humains ont :

• Des années de formation pour distinguer les fantasmes des intentions réelles
• Des codes déontologiques qui définissent quand rompre le secret
• Une responsabilité juridique personnelle pour leurs décisions
• Une capacité à évaluer le contexte et la crédibilité

Le système ChatGPT fonctionne avec :

• Des algorithmes automatisés pour la détection initiale
• Du personnel d'OpenAI qui n'a pas nécessairement de formation clinique ou criminologique
• Des critères d'évaluation non publics et potentiellement arbitraires
• Une absence de mécanismes de contrôle externes

Exemple problématique : Comment un algorithme distingue-t-il entre :

• Une personne qui écrit un thriller et cherche de l'inspiration pour des scènes violentes
• Quelqu'un qui fantasme sans intention d'agir
• Un individu qui planifie réellement un crime

Sources :

• TechCrunch - Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist
• Shinkai Blog - OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage

Sources :

• OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears

La contradiction d'OpenAI : confidentialité contre sécurité

Le double standard

L'aveu d'OpenAI crée une contradiction flagrante avec ses positions antérieures. L'entreprise a fermement résisté aux demandes de données des utilisateurs dans le cadre de poursuites judiciaires, invoquant la protection de la vie privée. Dans l'affaire contre le New York Times, OpenAI s'est vigoureusement opposé à la divulgation des journaux de discussion afin de protéger la vie privée des utilisateurs⁴.

L'ironie de la situation : OpenAI défend la vie privée des utilisateurs devant les tribunaux tout en admettant simultanément surveiller et partager des données avec les autorités externes.

L'impact de l'affaire New York Times

La situation s'est encore compliquée avec l'ordonnance du tribunal exigeant qu'OpenAI conserve tous les journaux de ChatGPT indéfiniment, y compris les chats privés et les données API. Cela signifie que des conversations que les utilisateurs croyaient temporaires sont désormais archivées de façon permanente⁵.

Sources :

• OpenAI slams court order to save all ChatGPT logs, including deleted chats
• OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data

Solutions et alternatives possibles

Vers un « privilège IA » ?

Comme suggéré par Sam Altman, il pourrait être nécessaire de développer un concept de « privilège IA » - une protection juridique similaire à celle offerte aux professionnels traditionnels. Cependant, cela soulève des questions complexes :

Options réglementaires possibles :

1. Modèle à licences : Seules les IA certifiées peuvent offrir un « privilège conversationnel »
2. Formation obligatoire : Ceux qui gèrent des contenus sensibles doivent avoir des qualifications spécifiques
3. Supervision professionnelle : Implication de psychologues/avocats qualifiés dans les décisions de signalement
4. Transparence algorithmique : Publication des critères utilisés pour identifier les contenus « dangereux »

Solutions techniques intermédiaires

IA « compartimentée » :

• Systèmes séparés pour usages thérapeutiques vs. généraux
• Chiffrement de bout en bout pour les conversations sensibles
• Consentement explicite pour chaque type de surveillance

Approche « tripartite » :

• Détection automatique uniquement pour les menaces immédiates et vérifiables
• Révision humaine qualifiée obligatoire
• Processus d'appel pour les décisions contestées

Le précédent des professionnels du numérique

Leçons d'autres secteurs :

• Télémédecine : A développé des protocoles pour la confidentialité numérique
• Conseil juridique en ligne : Utilise le chiffrement et les vérifications d'identité
• Thérapie numérique : Applications spécialisées avec des protections spécifiques

Sources :

• Simon Willison - OpenAI court order analysis

Ce que cela signifie pour les entreprises IA

Cours pour le secteur

L'affaire OpenAI établit des précédents importants pour l'ensemble du secteur de l'intelligence artificielle :

1. Transparence obligatoire : Les entreprises d'IA devront être plus explicites sur leurs pratiques de surveillance
2. Nécessité de cadres éthiques : Une réglementation claire est nécessaire sur quand et comment l'IA peut interférer avec les communications privées
3. Formation spécialisée : Ceux qui prennent des décisions sur des contenus sensibles doivent avoir des compétences appropriées
4. Responsabilité juridique : Définir qui est responsable lorsqu'un système d'IA se trompe dans une évaluation

Recommandations opérationnelles

Pour les entreprises qui développent de l'IA conversationnelle :

• Mettre en place des équipes pluridisciplinaires (juristes, psychologues, criminologues)
• Développer des critères publics et vérifiables pour le signalement
• Créer des processus d'appel pour les utilisateurs
• Investir dans la formation spécialisée du personnel de révision

Pour les entreprises qui utilisent l'IA :

• Évaluer les risques pour la vie privée avant la mise en œuvre
• Informer clairement les utilisateurs des limites de la confidentialité
• Envisager des alternatives spécialisées pour les usages sensibles

L'avenir de la confidentialité numérique

Le dilemme central : Comment concilier la prévention de crimes réels avec le droit à la vie privée et à la confidentialité numérique ?

La question n'est pas purement technique, mais touche à des principes fondamentaux :

• Présomption d'innocence : Surveiller des conversations privées implique un soupçon généralisé
• Droit à la vie privée : Il inclut le droit d'avoir des pensées privées, même dérangeantes
• Efficacité préventive : Il n'est pas prouvé que la surveillance numérique prévienne effectivement les crimes

Conclusions : trouver le bon équilibre

La révélation d'OpenAI marque un tournant décisif dans l'évolution de l'intelligence artificielle, mais la question n'est pas de savoir si le signalement est juste ou injuste dans l'absolu : il s'agit de savoir comment le rendre efficace, équitable et respectueux des droits.

Le besoin est réel : Des menaces concrètes de violence, la planification d'attentats ou d'autres crimes graves nécessitent une intervention. Le problème n'est pas de savoir s'il faut signaler, mais comment le faire de manière responsable.

Les différences fondamentales à résoudre :

Formation et compétence :

• Les professionnels humains disposent de protocoles éprouvés pour distinguer les menaces réelles des fantasmes
• Les systèmes d'IA ont besoin de normes équivalentes et d'une supervision qualifiée
• Une formation spécialisée est nécessaire pour ceux qui prennent les décisions finales

Transparence et contrôle :

• Les professionnels opèrent sous la supervision des ordres professionnels
• OpenAI a besoin de critères publics et de mécanismes de contrôle externes
• Les utilisateurs doivent savoir exactement quand et pourquoi ils pourraient être signalés

Proportionnalité :

• Les professionnels concilient au cas par cas le devoir de confidentialité et la sécurité
• Les systèmes d'IA doivent développer des mécanismes similaires, pas des algorithmes binaires

Pour les entreprises du secteur, le défi consiste à développer des systèmes qui protègent efficacement la société sans devenir des outils de surveillance indiscriminée. La confiance des utilisateurs est essentielle, mais elle doit coexister avec la responsabilité sociale.

Pour les utilisateurs, la leçon est double :

1. Les conversations avec l'IA n'ont pas les mêmes protections que celles avec les professionnels traditionnels
2. Ce n'est pas forcément négatif si c'est fait de manière transparente et proportionnée, mais il est important d'en être conscient

L'avenir de l'IA conversationnelle exige un nouveau cadre qui :

• Reconnaisse la légitimité de la prévention criminelle
• Établisse des normes professionnelles pour ceux qui gèrent des contenus sensibles
• Garantisse la transparence des processus décisionnels
• Protège les droits individuels sans ignorer la sécurité

La bonne question n'est pas de savoir si les machines devraient signaler des crimes, mais comment faire en sorte qu'elles le fassent avec (au moins) autant de sagesse, de formation et de responsabilité que les professionnels humains.

L'objectif n'est pas de revenir à une IA « aveugle » aux dangers réels, mais de construire des systèmes qui combinent l'efficacité technologique avec l'éthique et la compétence humaine. C'est seulement ainsi que nous pourrons bénéficier du meilleur des deux mondes : la sécurité et la protection des droits individuels.

Références et sources

1. Futurism - "OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police"
2. Studio Legale Puce - "Segreto Professionale dell'Avvocato"
3. La Legge Per Tutti - "Lo psicologo che sa di un reato deve denunciare il paziente?"
4. TechCrunch - "Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist"
5. Shinkai Blog - "OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears"
6. Simon Willison - "OpenAI slams court order to save all ChatGPT logs, including deleted chats"
7. Success Knocks - "OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data"