ChatGPT Sizi Dinliyor (ve Sizi İhbar Edebilir)

Büyük Değişim: OpenAI Yetkililere Bildirimde Bulunduğunu Kabul Etti

Eylül 2025'te OpenAI, küresel teknoloji topluluğunu sarsan bir açıklama yaptı: ChatGPT kullanıcı konuşmalarını aktif olarak izliyor ve potansiyel olarak suç teşkil eden içerikleri kolluk kuvvetlerine bildiriyor.

Şirketin blogunda neredeyse tesadüfen ortaya çıkan bu haber, otomatik sistemlerin "başkalarına zarar vermeyi planlayan" kullanıcıları tespit ettiğinde, bu kullanıcıların sohbetlerinin, kullanım politikaları konusunda eğitim almış küçük bir ekip tarafından incelenmek üzere özel bir sisteme yönlendirildiğini ortaya çıkardı. İnsan denetçiler "başkalarına ciddi fiziksel zarar verme tehlikesi" olduğu sonucuna varırsa, vaka kolluk kuvvetlerine bildirilebilir¹.

ChatGPT seni en mahrem düşüncelerini paylaşmaya nazikçe davet ediyor. Merak etme, her şey gizli... aşağı yukarı.

Kaynaklar:

• OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police - Futurism
• ChatGPT privacy questioned as OpenAI confirms police access in extreme cases - Storyboard18

"Korunan" Mesleklerle Karşılaştırma

Mesleki Gizlilik Hakkı

Bir psikologla, bir avukatla, bir doktorla veya bir din adamıyla konuştuğumuzda, sözlerimiz köklü bir hukuki mekanizma tarafından korunur: mesleki sır saklama yükümlülüğü. Yüzyıllara dayanan hukuki gelenekte kök salmış bu ilke, ceza soruşturmaları karşısında bile bazı konuşmaların dokunulmaz olduğunu belirler.

Geleneksel mesleki gizliliğin özellikleri:

• Çok geniş koruma: İtiraf edilen suçlar söz konusu olsa bile iletişimler gizli kalır
• Sınırlı ve belirli istisnalar: Sadece kanunla tanımlanmış aşırı durumlarda bazı profesyoneller sessizliği bozabilir/bozmalıdır
• Nitelikli insan kontrolü: Gizliliği ihlal etme kararı her zaman eğitimli bir profesyonelin elinde kalır
• Etik sorumluluk: Profesyoneller, müşteriye ve topluma karşı görevleri dengeleyen deontolojik kurallarla bağlıdır

Mesleki Gizliliğin Gerçek Sınırları

Yaygın algının aksine, mesleki sır saklama yükümlülüğü mutlak değildir. Meslek kategorisine göre değişen, iyi tanımlanmış istisnalar mevcuttur:

Avukatlar için (Avukatlık Deontoloji Kanunu Madde 28): Aşağıdakiler için gerekli olduğunda açıklama yapılmasına izin verilir:

• Savunma faaliyetinin yürütülmesi
• Özellikle ağır bir suçun işlenmesini engellemek
• Kendi müşterisine karşı bir uyuşmazlıkta kendini savunmak
• Disiplin işlemleri

Kritik örnek: Bir müşteri avukatına bir cinayet işlemeyi planladığını beyan ederse, savunma hakkının korunması ile yaşam hakkının korunması arasında ikincisi öncelikli olmalıdır ve avukat sır saklama yükümlülüğünden muaf tutulur².

Psikologlar için (Deontoloji Kanunu Madde 13): Sır saklama yükümlülüğü şu durumlarda ihlal edilebilir:

• Resen kovuşturulabilir suçlar için rapor veya ihbar yükümlülüğü olduğunda
• Kişinin ve/veya üçüncü kişilerin yaşamı veya psikofiziksel sağlığı için ciddi tehlikeler söz konusu olduğunda
• Hastanın geçerli ve kanıtlanabilir rızası olduğunda

Önemli ayrım: Özel sektördeki psikolog, kamu görevlisi olarak daha sıkı ihbar yükümlülükleri bulunan kamu psikoloğuna göre daha fazla takdir yetkisine sahiptir³.

Kaynaklar:

• Studio Legale Puce - Segreto Professionale dell'Avvocato
• La Legge Per Tutti - Lo psicologo che sa di un reato deve denunciare il paziente?

"Profesyonel Olmayan" AI

ChatGPT tamamen farklı bir gri alanda faaliyet göstermektedir:

Hukuki ayrıcalığın yokluğu: Yapay zekayla yapılan konuşmalar herhangi bir hukuki korumadan yararlanmaz. OpenAI CEO'su Sam Altman'ın kabul ettiği gibi: "Bu sorunları bir terapiste, avukata veya doktora anlatırsanız, bunun için hukuki ayrıcalık vardır. Doktor-hasta gizliliği vardır, avukat-müvekkil gizliliği vardır, ne olursa olsun. Ve ChatGPT ile konuştuğunuzda bunu henüz çözmüş değiliz"².

Otomatikleştirilmiş süreç: Her durumu ayrı ayrı değerlendiren insan bir profesyonelin aksine, ChatGPT "sorunlu" içerikleri belirlemek için algoritmalar kullanır ve nitelikli insan yargısını başlangıçtaki taramadan tamamen kaldırır.

Kaynaklar:

• Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist - TechCrunch

Pratik Etkileri: Yeni Bir Gözetim Paradigması

Teknolojik Güven Paradoksu

Bu durum endişe verici bir paradoks yaratıyor. Milyonlarca kişi ChatGPT'yi dijital bir sırdaş olarak kullanıyor; bir insanla asla paylaşmayacakları mahrem düşünceleri, şüpheleri, korkuları ve hatta suç fantezilerini paylaşıyor. Sam Altman'ın belirttiği gibi: "İnsanlar hayatlarının en kişisel şeylerini ChatGPT'ye anlatıyor. İnsanlar - özellikle gençler - onu terapist, yaşam koçu olarak kullanıyor"⁴.

Suça yönelik otosansür riski: Konuşmaların izlenebileceğinin farkında olmak paradoksal biçimde şunlara yol açabilir:

• Suçluları daha gizli kanallara yönlendirmek
• Şiddet içeren düşüncelere sahip kişilerin yardım aramasını engellemek
• Dijital iletişimlerde bir "caydırıcı etki" yaratmak

Yetkinlik ve Algoritmalar: Suçluyu Kim Belirler?

Eleştirmenlerin vurguladığı önemli bir husus, nihai kararları verenlerin yetkinliğiyle ilgilidir.

İnsan profesyonellerin sahip olduğu:

• Hayalleri gerçek niyetlerden ayırt etmek için yıllarca süren eğitim
• Sır saklama yükümlülüğünün ne zaman ihlal edileceğini tanımlayan meslek etiği kuralları
• Aldıkları kararlar için kişisel hukuki sorumluluk
• Bağlamı ve güvenilirliği değerlendirebilme yeteneği

ChatGPT sistemi şununla çalışır:

• İlk tespit için otomatikleştirilmiş algoritmalar
• Klinik veya kriminolojik eğitimi olması gerekmeyen OpenAI personeli
• Kamuya açık olmayan ve potansiyel olarak keyfi değerlendirme kriterleri
• Dış denetim mekanizmalarının yokluğu

Sorunlu örnek: Bir algoritma şunlar arasında nasıl ayrım yapar:

• Bir gerilim romanı yazan ve şiddet içeren sahneler için ilham arayan bir kişi
• Harekete geçme niyeti olmadan hayal kuran biri
• Gerçekten bir suç planlayan bir birey

Kaynaklar:

• TechCrunch - Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist
• Shinkai Blog - OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage

Kaynaklar:

• OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears

OpenAI'nin Çelişkisi: Gizlilik ve Güvenlik

Çifte Standart

OpenAI'nin itirafı, önceki tutumuyla çelişki yaratıyor. Şirket, gizlilik korumayı gerekçe göstererek, davalarda kullanıcı verilerinin paylaşılması taleplerine karşı kararlı bir şekilde direndi. New York Times'a karşı açılan davada OpenAI, kullanıcıların gizliliğini korumak için sohbet kayıtlarının paylaşılmasına şiddetle karşı çıktı⁴.

Durumun ironisi: OpenAI mahkemelerde kullanıcı gizliliğini savunurken, aynı zamanda dış makamlarla veri paylaştığını ve izleme yaptığını kabul ediyor.

New York Times Davasının Etkisi

Durum, mahkemenin OpenAI'a özel sohbetler ve API verileri dahil olmak üzere tüm ChatGPT kayıtlarını süresiz olarak saklamasını emretmesiyle daha da karmaşık hale geldi. Bu, kullanıcıların geçici olduğuna inandığı konuşmaların artık kalıcı olarak arşivlendiği anlamına geliyor⁵.

Kaynaklar:

• OpenAI slams court order to save all ChatGPT logs, including deleted chats
• OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data

Olası Çözümler ve Alternatifler

"AI ayrıcalığı"na doğru mu?

Sam Altman'ın önerdiği gibi, geleneksel profesyonellere sunulana benzer bir hukuki koruma olan "AI imtiyazı" kavramının geliştirilmesi gerekebilir. Ancak bu, karmaşık sorular gündeme getiriyor:

Olası düzenleyici seçenekler:

1. Lisans Modeli: Yalnızca sertifikalı yapay zekâlar "konuşma imtiyazı" sunabilir
2. Zorunlu Eğitim: Hassas içeriklerle ilgilenen kişilerin belirli niteliklere sahip olması gerekir
3. Mesleki Denetim: Bildirim kararlarında nitelikli psikologların/avukatların dahil edilmesi
4. Algoritmik Şeffaflık: "Tehlikeli" içeriği tespit etmek için kullanılan kriterlerin yayımlanması

Ara Teknik Çözümler

"Bölmelenmiş" Yapay Zekâ:

• Terapötik kullanımlar için genel kullanımdan ayrı sistemler
• Hassas konuşmalar için uçtan uca şifreleme
• Her tür izleme için açık rıza

"Üç Aşamalı" Yaklaşım:

• Yalnızca acil ve doğrulanabilir tehditler için otomatik tespit
• Zorunlu nitelikli insan incelemesi
• İtiraz edilen kararlar için itiraz süreci

Dijital Profesyonellerin Öncüleri

Diğer sektörlerden alınan dersler:

• Uzaktan sağlık hizmeti: Dijital gizlilik için protokoller geliştirdi
• Çevrimiçi hukuki danışmanlık: Şifreleme ve kimlik doğrulama kullanır
• Dijital terapi: Özel korumalara sahip uzmanlaşmış uygulamalar

Kaynaklar:

• Simon Willison - OpenAI court order analysis

Şirketler için AI'nın Anlamı

Sektör için Dersler

OpenAI davası, yapay zeka sektörünün tamamı için önemli emsaller oluşturmaktadır:

1. Zorunlu şeffaflık: Yapay zekâ şirketleri izleme uygulamaları konusunda daha açık olmak zorunda kalacak
2. Etik çerçeve ihtiyacı: Yapay zekânın özel iletişimlere ne zaman ve nasıl müdahale edebileceğine dair net bir düzenleme gerekiyor
3. Uzmanlaşmış eğitim: Hassas içerikler hakkında karar veren kişilerin uygun yetkinliklere sahip olması gerekir
4. Hukuki sorumluluk: Bir yapay zekâ sistemi değerlendirmede hata yaptığında kimin sorumlu olduğunun tanımlanması

Operasyonel Öneriler

Konuşma tabanlı yapay zeka geliştiren şirketler için:

• Çok disiplinli ekipler kurmak (hukukçular, psikologlar, kriminologlar)
• Raporlama için kamuya açık ve denetlenebilir kriterler geliştirmek
• Kullanıcılar için itiraz süreçleri oluşturmak
• İnceleme yapan personel için uzmanlık eğitimine yatırım yapmak

Yapay zeka kullanan şirketler için:

• Uygulamadan önce gizlilik risklerini değerlendirmek
• Kullanıcıları gizliliğin sınırları konusunda açıkça bilgilendirmek
• Hassas kullanımlar için özel alternatifleri değerlendirmek

Dijital Gizliliğin Geleceği

Temel ikilem: Gerçek suçların önlenmesi ile gizlilik ve dijital mahremiyet hakkı nasıl dengelenir?

Bu konu sadece teknik bir mesele değil, temel ilkeleri de ilgilendiriyor:

• Masumiyet karinesi: Özel konuşmaları izlemek genel bir şüphe anlamına gelir
• Gizlilik hakkı: Rahatsız edici olsalar bile özel düşüncelere sahip olma hakkını içerir
• Önleyici etkinlik: Dijital gözetimin suçları gerçekten önlediği kanıtlanmış değildir

Sonuçlar: Doğru Dengeyi Bulmak

OpenAI'nin açıklaması yapay zekanın evriminde bir dönüm noktasını işaret ediyor, ancak sorun raporlamanın mutlak anlamda doğru mu yanlış mı olduğu değil: bunu nasıl etkili, adil ve haklara saygılı hale getireceğimizdir.

İhtiyaç gerçektir: Somut şiddet tehditleri, saldırı planları veya diğer ağır suçlar müdahale gerektirir. Sorun segnalasyon yapılıp yapılmayacağı değil, bunun sorumlu bir şekilde nasıl yapılacağıdır.

Çözülmesi gereken temel farklılıklar:

Eğitim ve Yetkinlik:

• İnsan profesyoneller gerçek tehditlerle hayal ürünü ifadeleri ayırt etmek için yerleşik protokollere sahiptir
• Yapay zeka sistemlerinin eşdeğer standartlara ve nitelikli denetime ihtiyacı vardır
• Nihai kararı verenler için uzmanlık eğitimi gereklidir

Şeffaflık ve Denetim:

• Profesyoneller meslek kuruluşlarının denetimi altında çalışır
• OpenAI'nin kamuya açık kriterlere ve dış denetim mekanizmalarına ihtiyacı vardır
• Kullanıcılar ne zaman ve neden raporlanabileceklerini tam olarak bilmelidir

Orantılılık:

• Profesyoneller, gizlilik yükümlülüğü ile güvenliği vaka bazında dengeler
• Yapay zeka sistemleri, ikili algoritmalar yerine benzer mekanizmalar geliştirmelidir

Sektördeki şirketler için zorluk, ayrım gözetmeyen gözetim araçlarına dönüşmeden toplumu etkili biçimde koruyacak sistemler geliştirmektir. Kullanıcı güveni esastır, ancak toplumsal sorumlulukla bir arada var olmalıdır.

Kullanıcılar için ders iki yönlüdür:

1. Yapay zeka ile yapılan konuşmalar geleneksel profesyonellerle aynı korumaya sahip değildir
2. Şeffaf ve orantılı bir şekilde yapıldığında bu mutlaka olumsuz değildir, ancak bunun farkında olmak önemlidir

Konuşma tabanlı yapay zekanın geleceği, şu unsurları içeren yeni bir çerçeve gerektirir:

• Suç önlemenin meşruiyetini tanımak
• Hassas içerikleri yönetenler için mesleki standartlar belirlemek
• Karar alma süreçlerinde şeffaflığı garanti etmek
• Güvenliği göz ardı etmeden bireysel hakları korumak

Doğru soru makinelerin suçları bildirmesi gerekip gerekmediği değil, bunu (en azından) insan profesyonellerle aynı bilgelik, eğitim ve sorumlulukla nasıl yapabileceğimizdir.

Amaç, gerçek tehlikelere karşı "kör" bir yapay zekaya geri dönmek değil, teknolojik verimliliği etik ve insan yetkinliği ile birleştiren sistemler oluşturmaktır. Ancak bu şekilde, güvenlik ve bireysel hakların korunması gibi her iki dünyanın da en iyisine sahip olabiliriz.

Referanslar ve Kaynaklar

1. Futurism - "OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police"
2. Studio Legale Puce - "Segreto Professionale dell'Avvocato"
3. La Legge Per Tutti - "Lo psicologo che sa di un reato deve denunciare il paziente?"
4. TechCrunch - "Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist"
5. Shinkai Blog - "OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears"
6. Simon Willison - "OpenAI slams court order to save all ChatGPT logs, including deleted chats"
7. Success Knocks - "OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data"