O ChatGPT está a ouvir-te (e pode denunciar-te)

A Grande Mudança: OpenAI admite denunciar às autoridades

Em setembro de 2025, a OpenAI fez uma revelação que abalou a comunidade tech global: o ChatGPT monitora ativamente as conversas dos usuários e denuncia conteúdos potencialmente criminosos às forças da lei.

A notícia, que surgiu quase por acaso numa publicação do blogue da empresa, revelou que, quando os sistemas automáticos detetam utilizadores que «estão a planear causar danos a outras pessoas», as conversas são encaminhadas para canais especializados, onde uma pequena equipa treinada nas políticas de utilização as analisa. Se os revisores humanos determinarem que existe uma «ameaça iminente de danos físicos graves a outras pessoas», o caso pode ser encaminhado para as autoridades policiais¹.

O ChatGPT convida você cordialmente a compartilhar seus pensamentos mais íntimos. Fique tranquilo, é tudo confidencial... mais ou menos.

Fontes:

• OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police - Futurism
• ChatGPT privacy questioned as OpenAI confirms police access in extreme cases - Storyboard18

O contraste com as profissões «protegidas»

O Privilégio do Sigilo Profissional

Quando falamos com um psicólogo, um advogado, um médico ou um sacerdote, nossas palavras são protegidas por um mecanismo legal consolidado: o sigilo profissional. Esse princípio, enraizado em séculos de tradição jurídica, estabelece que certas conversas são invioláveis, mesmo diante de investigações penais.

Características do sigilo profissional tradicional:

• Proteção muito ampla: As comunicações permanecem confidenciais mesmo diante de crimes confessados
• Exceções limitadas e específicas: Apenas em casos extremos definidos por lei alguns profissionais podem/devem quebrar o silêncio
• Controle humano qualificado: A decisão de violar a confidencialidade permanece sempre nas mãos de um profissional capacitado
• Responsabilidade ética: Os profissionais são vinculados a códigos deontológicos que equilibram deveres para com o cliente e a sociedade

Os limites reais do sigilo profissional

Ao contrário da percepção comum, o sigilo profissional não é absoluto. Existem exceções bem definidas que variam conforme a categoria profissional:

Para os Advogados (Art. 28 do Código Deontológico Forense): A divulgação é permitida quando necessária para:

• O exercício da atividade de defesa
• Impedir a prática de um crime de particular gravidade
• Defender-se em uma controvérsia contra o próprio cliente
• Processos disciplinares

Exemplo crítico: Se um cliente declara ao advogado que pretende cometer um homicídio, entre a tutela do direito de defesa e a tutela do bem da vida deve prevalecer esta última, e o advogado fica desobrigado do sigilo².

Para os Psicólogos (Art. 13 do Código Deontológico): O sigilo pode ser violado quando:

• Há obrigação de laudo ou denúncia para crimes de ação penal pública
• Existem graves perigos para a vida ou saúde psicofísica do indivíduo e/ou de terceiros
• Há consentimento válido e demonstrável do paciente

Distinção importante: O psicólogo particular tem maior discricionariedade em relação ao que atua no serviço público, que como funcionário público tem obrigações de denúncia mais rígidas³.

Fontes:

• Studio Legale Puce - Segreto Professionale dell'Avvocato
• La Legge Per Tutti - Lo psicologo che sa di un reato deve denunciare il paziente?

A IA como «não profissional»

O ChatGPT opera numa zona cinzenta completamente diferente:

Falta de privilégio legal: As conversas com a IA não gozam de nenhuma proteção legal. Como admitiu Sam Altman, CEO da OpenAI: "Se você fala com um terapeuta ou um advogado ou um médico sobre esses problemas, há privilégio legal para isso. Há sigilo médico-paciente, há sigilo legal, seja lá o que for. E ainda não resolvemos isso para quando você fala com o ChatGPT"².

Processo automatizado: Ao contrário de um profissional humano que avalia caso a caso, o ChatGPT utiliza algoritmos para identificar conteúdos "problemáticos", removendo o julgamento humano qualificado da fase inicial de triagem.

Fontes:

• Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist - TechCrunch

As implicações práticas: um novo paradigma de vigilância

O Paradoxo da Confiança Tecnológica

A situação cria um paradoxo preocupante. Milhões de pessoas usam o ChatGPT como confidente digital, compartilhando pensamentos íntimos, dúvidas, medos e até fantasias criminosas que jamais compartilhariam com um ser humano. Como relata Sam Altman: "As pessoas falam sobre as coisas mais pessoais de suas vidas com o ChatGPT. As pessoas o usam - especialmente os jovens - como terapeuta, life coach"⁴.

O risco da autocensura criminosa: A consciência de que as conversas podem ser monitoradas poderia paradoxalmente:

• Empurrar os criminosos para canais mais ocultos
• Impedir que pessoas com pensamentos violentos busquem ajuda
• Criar um efeito de "resfriamento" das comunicações digitais

Competência vs. Algoritmos: Quem decide o que é criminoso?

Um aspeto crucial destacado pelos críticos diz respeito à competência de quem toma as decisões finais.

Os profissionais humanos têm:

• Anos de formação para distinguir entre fantasias e intenções reais
• Códigos deontológicos que definem quando quebrar o sigilo
• Responsabilidade legal pessoal pelas suas decisões
• Capacidade de avaliar o contexto e a credibilidade

O sistema ChatGPT opera com:

• Algoritmos automatizados para a deteção inicial
• Pessoal da OpenAI que não tem necessariamente formação clínica ou criminológica
• Critérios de avaliação não públicos e potencialmente arbitrários
• Ausência de mecanismos de controlo externos

Exemplo problemático: Como distingue um algoritmo entre:

• Uma pessoa que escreve um thriller e procura inspiração para cenas violentas
• Alguém que fantasia sem intenção de agir
• Um indivíduo que planeia realmente um crime

Fontes:

• TechCrunch - Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist
• Shinkai Blog - OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage

Fontes:

• OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears

A contradição da OpenAI: privacidade versus segurança

O Duplo Padrão

A admissão da OpenAI cria uma contradição gritante com as suas posições anteriores. A empresa resistiu firmemente às solicitações de dados dos utilizadores em processos judiciais, alegando proteção da privacidade. No caso contra o New York Times, a OpenAI argumentou veementemente contra a divulgação dos registos de chat para proteger a privacidade dos utilizadores⁴.

A ironia da situação: A OpenAI defende a privacidade dos utilizadores nos tribunais enquanto admite simultaneamente monitorizar e partilhar dados com as autoridades externas.

O impacto do caso New York Times

A situação complicou-se ainda mais com a ordem do tribunal que exige à OpenAI conservar todos os logs do ChatGPT indefinidamente, incluindo os chats privados e os dados da API. Isto significa que conversas que os utilizadores acreditavam ser temporárias estão agora arquivadas permanentemente⁵.

Fontes:

• OpenAI slams court order to save all ChatGPT logs, including deleted chats
• OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data

Possíveis soluções e alternativas

Rumo a um «Privilégio IA»?

Como sugerido por Sam Altman, poderá ser necessário desenvolver um conceito de "privilégio de IA" - uma proteção legal semelhante à oferecida aos profissionais tradicionais. No entanto, isto levanta questões complexas:

Opções regulatórias possíveis:

1. Modelo de Licenciamento: Apenas IAs certificadas podem oferecer "privilégio conversacional"
2. Formação Obrigatória: Quem gere conteúdos sensíveis deve ter qualificações específicas
3. Supervisão Profissional: Envolvimento de psicólogos/advogados qualificados nas decisões de denúncia
4. Transparência Algorítmica: Publicação dos critérios utilizados para identificar conteúdos "perigosos"

Soluções Técnicas Intermediárias

IA "Compartimentada":

• Sistemas separados para usos terapêuticos vs. gerais
• Encriptação de ponta a ponta para conversas sensíveis
• Consentimento explícito para cada tipo de monitorização

Abordagem "Tripartida":

• Deteção automática apenas para ameaças imediatas e verificáveis
• Revisão humana qualificada obrigatória
• Processo de recurso para decisões contestadas

O Precedente dos Profissionais Digitais

Lições de outros setores:

• Telemedicina: Desenvolveu protocolos para a privacidade digital
• Consultoria jurídica online: Utiliza encriptação e verificações de identidade
• Terapia digital: Aplicações especializadas com proteções específicas

Fontes:

• Simon Willison - OpenAI court order analysis

O que significa para as empresas IA

Aulas para o setor

O caso OpenAI estabelece precedentes importantes para todo o setor de inteligência artificial:

1. Transparência obrigatória: As empresas de IA terão de ser mais explícitas quanto às suas práticas de monitorização
2. Necessidade de enquadramentos éticos: É necessária uma regulamentação clara sobre quando e como a IA pode interferir com as comunicações privadas
3. Formação especializada: Quem toma decisões sobre conteúdos sensíveis deve ter competências adequadas
4. Responsabilidade legal: Definir quem é responsável quando um sistema de IA erra numa avaliação

Recomendações Operacionais

Para as empresas que desenvolvem IA conversacional:

• Implementar equipas multidisciplinares (advogados, psicólogos, criminologistas)
• Desenvolver critérios públicos e verificáveis para a sinalização
• Criar processos de recurso para os utilizadores
• Investir em formação especializada para a equipa de revisão

Para as empresas que utilizam IA:

• Avaliar os riscos de privacidade antes da implementação
• Informar claramente os utilizadores sobre os limites da confidencialidade
• Considerar alternativas especializadas para usos sensíveis

O Futuro da Confidencialidade Digital

O dilema central: Como equilibrar a prevenção de crimes reais com o direito à privacidade e à confidencialidade digital?

A questão não é meramente técnica, mas diz respeito a princípios fundamentais:

• Presunção de inocência: Monitorizar conversas privadas implica suspeita generalizada
• Direito à privacidade: Inclui o direito de ter pensamentos privados, mesmo perturbadores
• Eficácia preventiva: Não está provado que a vigilância digital previna efetivamente crimes

Conclusões: Encontrar o Equilíbrio Certo

A revelação da OpenAI marca um momento decisivo na evolução da inteligência artificial, mas a questão não é se a sinalização é certa ou errada em absoluto: é como torná-la eficaz, justa e respeitadora dos direitos.

A necessidade é real: Ameaças concretas de violência, planeamentos de atentados ou outros crimes graves exigem intervenção. O problema não é se sinalizar, mas como fazê-lo de forma responsável.

As diferenças fundamentais a resolver:

Formação e Competência:

• Os profissionais humanos têm protocolos consolidados para distinguir entre ameaças reais e fantasias
• Os sistemas de IA necessitam de padrões equivalentes e supervisão qualificada
• É necessária formação especializada para quem toma as decisões finais

Transparência e Controlo:

• Os profissionais operam sob supervisão das ordens profissionais
• A OpenAI necessita de critérios públicos e mecanismos de controlo externos
• Os utilizadores devem saber exatamente quando e porquê podem ser sinalizados

Proporcionalidade:

• Os profissionais equilibram caso a caso o dever de sigilo com a segurança
• Os sistemas de IA devem desenvolver mecanismos semelhantes, não algoritmos binários

Para as empresas do setor, o desafio é desenvolver sistemas que protejam eficazmente a sociedade sem se tornarem instrumentos de vigilância indiscriminada. A confiança dos utilizadores é essencial, mas deve coexistir com a responsabilidade social.

Para os utilizadores, a lição é dupla:

1. As conversas com a IA não têm as mesmas proteções dos profissionais tradicionais
2. Isto não é necessariamente negativo se for feito de forma transparente e proporcionada, mas é importante estar consciente disso

O futuro da IA conversacional requer um novo enquadramento que:

• Reconheça a legitimidade da prevenção criminal
• Estabeleça padrões profissionais para quem gere conteúdos sensíveis
• Garanta transparência sobre os processos decisórios
• Proteja os direitos individuais sem ignorar a segurança

A pergunta certa não é se as máquinas devem sinalizar crimes, mas como podemos fazer com que o façam (pelo menos) com a mesma sabedoria, formação e responsabilidade dos profissionais humanos.

O objetivo não é voltar a uma IA «cega» aos perigos reais, mas construir sistemas que combinem a eficiência tecnológica com a ética e a competência humana. Só assim poderemos ter o melhor dos dois mundos: segurança e direitos individuais protegidos.

Referências e fontes

1. Futurism - "OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police"
2. Studio Legale Puce - "Segreto Professionale dell'Avvocato"
3. La Legge Per Tutti - "Lo psicologo che sa di un reato deve denunciare il paziente?"
4. TechCrunch - "Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist"
5. Shinkai Blog - "OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears"
6. Simon Willison - "OpenAI slams court order to save all ChatGPT logs, including deleted chats"
7. Success Knocks - "OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data"