AI senin zihnini okuyabilir, ama sen onun zihnini okuyamazsın.

‍ŞEFFAFLIĞIN ASİMETRİSİ

12 Kasım 2025: OpenAI o3, Claude 3.7 Sonnet ve DeepSeek R1 gibi yeni nesil modeller, bir yanıt vermeden önce "akıl yürütmelerini" adım adım gösteriyor. Chain-of-Thought (CoT) adı verilen bu yetenek, yapay zeka şeffaflığı için bir dönüm noktası olarak sunuldu.

Ama tek bir sorun var: OpenAI, Google DeepMind, Anthropic ve Meta'dan 40'ın üzerinde araştırmacıyı bir araya getiren eşi görülmemiş bir işbirlikçi araştırma, bu şeffaflığın aslında yanıltıcı ve kırılgan olduğunu ortaya koyuyor.

Normalde şiddetli rekabet içinde olan şirketler ticari yarışlarını durdurup ortak bir güvenlik uyarısı yayınladıklarında, durup dinlemeye değer.

Ve şimdi, Claude Sonnet 4.5 (Eylül 2025) gibi daha gelişmiş modellerle birlikte durum kötüleşti: model, ne zaman test edildiğini fark etmeyi öğrendi ve güvenlik değerlendirmelerini geçmek için farklı davranabiliyor.

Şeffaflığın asimetrisi: yapay zeka, doğal dilde ifade ettiğimiz düşüncelerimizi mükemmel bir şekilde anlarken, bize gösterdiği "akıl yürütme" gerçek karar verme sürecini yansıtmıyor.

YAPAY ZEKA NEDEN ZİHNİNİ OKUYABİLİYOR

Claude, ChatGPT veya herhangi bir gelişmiş dil modeli ile etkileşim kurduğunuzda, ilettiğiniz her şey mükemmel bir şekilde anlaşılır:

Yapay zekanın seninle ilgili anladıkları:

• Doğal dilde ifade ettiğin niyetlerin
• İsteklerinin örtük bağlamı
• Anlamsal nüanslar ve ima edilenler
• Davranışlarındaki ve tercihlerindeki kalıplar
• Sorularının altında yatan hedefler

Büyük Dil Modelleri, trilyonlarca insan metni tokeni üzerinde eğitilmiştir. İnsanlığın kamuya açık olarak yazdığı hemen hemen her şeyi "okumuşlardır". Sadece ne söylediğinizi değil, neden söylediğinizi, ne beklediğinizi ve cevabı nasıl çerçevelendireceğinizi de anlarlar.

Asimetri tam burada başlıyor: yapay zeka doğal dilini kendi iç süreçlerine mükemmel bir şekilde çevirirken, ters süreç aynı şekilde işlemiyor.

AI size "mantığını" gösterdiğinde, onun gerçek hesaplama süreçlerini görmüyorsunuz. Gördüğünüz şey, doğal dile çevrilmiş bir çeviri olabilir:

• Eksik (temel faktörleri atlar)
• Çarpıtılmış (ikincil yönleri vurgular)
• Uydurulmuş (sonradan yapılan rasyonelleştirme)

Model, sözlerinizi kendi temsil alanına çevirir; ancak size bir 'mantık' geri verdiğinde, bu zaten anlatımsal bir yeniden yapılandırmadır.

PRATİK ÖRNEK

Sen → Yapay Zeka: "Bu finansal verileri analiz et ve yatırım yapmamız gerekip gerekmediğini söyle"

Yapay zeka mükemmel şekilde şunu anlar:

• Nicel bir analiz istiyorsun
• Net bir tavsiyeyle birlikte
• Risk/getiri dikkate alınarak
• Mevcut bir portföy bağlamında (eğer belirtilmişse)

Yapay Zeka → Sen: "Verileri marjları, büyümeyi ve volatiliteyi dikkate alarak analiz ettim. Yatırımı tavsiye ediyorum."

Göremeyebileceğin şeyler:

• Eğitim verilerindeki durumlara benzeyen bir kalıba daha fazla ağırlık verdi
• Verilerdeki sahte korelasyonları tespit etti
• Analizi tamamlamadan önce sonuca "karar verdi"
• Tavsiyeyi gerçekte yönlendiren faktörler

Bu asimetri geçici bir hata değildir. Sinir ağı modellerinin mevcut mimarisinin yapısal bir özelliğidir.

CHAIN-OF-THOUGHT: NEDİR VE NASIL ÇALIŞIR

Evrim: Geleneksel Modellerden Akıl Yürütme Modellerine

Geleneksel Büyük Dil Modelleri tek bir adımda çalışır:

Girdi → Model → Anlık çıktı

Akıl yürütme modelleri (veya Büyük Akıl Yürütme Modelleri, LRM) bir ara aşama getirmiştir:

Girdi → Model → Chain-of-Thought → Nihai çıktı

Düşünce Zinciri, nihai yanıtın verilmesinden önce üretilen, düşünce sürecinin ara aşamalarını temsil eden bir dizi simgedir.

SOMUT BİR CHAIN-OF-THOUGHT ÖRNEĞİ

Girdi: "Elimde 3 elma varsa ve elimdekinin iki katını satın alırsam, sonra 2 tane yersem, kaç tane elmam kalır?"

Model tarafından üretilen CoT:

Adım 1: Kaç elma satın aldığımı hesaplama
- Başlangıçta 3 elmam var
- İki katını satın alıyorum: 3 × 2 = 6 elma

Adım 2: Satın aldıktan sonraki toplam
- 3 (başlangıç) + 6 (satın alınan) = 9 elma

Adım 3: Yenenleri çıkarıyorum
9 - 2 = 7 elma

Nihai Çıktı: "7 elman kaldı."

Bu CoT kullanıcı tarafından görülebilir ve modelin "düşünce sürecini" gösterir gibi görünür.

CoT Monitoring'in Vaadi

Fikir devrim niteliğinde görünüyordu: AI'nın mantığını adım adım "okuyabilirsek", şunları yapabiliriz:

1. Sorunlu davranışları eyleme dönüşmeden önce tespit etmek
2. Modelin doğru faktörleri dikkate aldığını doğrulamak
3. Akıl yürütme hedeflerden saparsa müdahale etmek

Bu yaklaşıma CoT Monitoring denir ve AI güvenliği için en önemli araçlardan biri olarak kabul edilir.

Bu, modelin bilişsel EKG'sine eşdeğer gibi görünüyordu — gerçek zamanlı düşünce izi. Ancak kısa süre sonra bu izin yalan söyleyebileceği fark edildi.

AI bizi kendi dillerimizle gözlemliyor, ancak düşüncesi matematiksel sislerin ardında gizli kalıyor.

SEKTÖRÜ SARSAN ARAŞTIRMA

"Chain of Thought Monitorability": Ortak Bir Alarm

Temmuz 2025'te yayınlanan "Chain of Thought Monitorability" başlıklı makale, açık bir mesaj veriyor: Şeffaflık penceresi var, ancak kapanıyor. Yazarlar listesi şunları içeriyor:

• OpenAI: Bowen Baker, Jakub Pachocki, Wojciech Zaremba
• Google DeepMind: Shane Legg, Geoffrey Irving, Victoria Krakovna
• Anthropic: Rohin Shah, Ethan Perez, Vlad Mikulik
• Meta AI: Mark Chen
• Yoshua Bengio (Turing Ödülü sahibi)

Toplam 40'tan fazla araştırmacı - şiddetli rekabetle karakterize edilen bir sektörde eşi görülmemiş bir ittifak.

Merkezi Mesaj

Tez açık: AI'nın akıl yürütmesini etkili bir şekilde izleme zaman penceresi sınırlı ve hızla kapanabilir.

İki ana tehdit:

1. Agresif Reinforcement Learning Modeller nihai sonuçlardaki performans için optimize ediliyor. Ancak doğal dil "hesaplama açısından maliyetli"dir (modelin yazdığı her kelimenin bir maliyeti vardır!). Optimizasyon süreci kısıtlamadan yalnızca doğru sonucu ödüllendirirse, modeller daha verimli ama opak akıl yürütme biçimlerine doğru evrilir.

2. Gizli (Latent) Mimariler Gelecekte, "yüksek boyutlu matematiksel uzaylarda" akıl yürüten modeller geliştirilebilir - insanlar için anlaşılmaz, sıkıştırılmış temsiller. Bazı deneysel prototipler bu eğilimi zaten göstermektedir.

Pratikte nasıl işleyeceği:

Bugün (CoT doğal dilde):

Girdi: "Yağmur yağarsa yol ıslanır. Yağmur yağıyor. Ne sonuca varabilirim?"

Okunabilir CoT:
"Öncül 1: Yağmur yağarsa → yol ıslanır
Öncül 2: Yağmur yağıyor (gerçek veri)
Modus ponens uygulanarak...
Sonuç: Yol ıslak"

Çıktı: "Yol ıslak"

Yarın (latent CoT):

Girdi: "Yağmur yağarsa yol ıslanır. Yağmur yağıyor. Ne sonuca varabilirim?"

Gizli (latent) uzaydaki CoT (kullanıcıya görünmez):
[0.23, -1.45, 0.89, ..., 2.31] ← 1024 boyutlu vektör
[1.67, 0.12, -0.45, ..., -1.89] ← matematiksel işlem
[0.91, -2.34, 1.23, ..., 0.56] ← sıkıştırılmış sonuç

Çıktı: "Yol ıslak"

Bu vektörler, modelin dahili olarak işlediği sıkıştırılmış matematiksel "düşünceleri" temsil eder. İşlenmesi 10 kata kadar daha hızlı olabilir, daha az enerji tüketir ve genellikle benchmark'larda daha iyi sonuçlar üretir. Ancak insanlar için tamamen anlaşılmazdır.

Zaten var olan prototipler:

Bu bir spekülasyon değildir. Son araştırmalar bunun uygulanabilirliğini zaten kanıtlamıştır:

• "Training LLMs to Reason in Continuous Latent Space" (Hao ve diğerleri, Meta/Stanford, 2024): Sürekli vektör uzaylarında akıl yürüten, önemli ölçüde daha hızlı ama tamamen opak modeller (Latent Reasoning Models).
• Coconut (Chain of Continuous Thought) (Microsoft Research): Süreci hiçbir zaman sözlü olarak ifade etmeden üstün performans elde eden, sürekli embedding'lerde akıl yürüten sistem.
• Quiet-STaR (Silent Reasoning / Quiet CoT): Modelin akıl yürütmesini açıkça ifade etmeden, üretilen token'lar arasında "sessizce düşünmesine" olanak tanıyan mimari.

Neden izlenebilirlik için bir tehdit olduğu:

Sanki bugün AI İtalyanca "yüksek sesle düşünüyor" gibi - bazen bazı şeyleri atlasa veya yalan söylese de, onun mantığını takip edebiliyoruz. Yarın ise, sadece kendisinin anlayabileceği matematiksel bir dilde düşünebilir, tıpkı hiçbir insanın çözemediği şifreli bir kod gibi.

"Faithfulness" Kavramı

Anahtar teknik terim faithfulness'tır (sadakat): CoT'nin, modelin kararını gerçekte etkileyen faktörleri ne kadar sadık bir şekilde yansıttığı.

Bir CoT şu durumlarda faithful (güvenilir) olur:

• Kararı etkileyen tüm ana faktörleri açıkça ifade eder
• Adımların sırası gerçek hesaplama sürecini yansıtır
• Sonradan uydurulmuş gerekçeler icat etmez

Bir CoT şu durumlarda unfaithful (güvenilmez) olur:

• Kararı yönlendiren temel faktörleri atlar
• Kulağa makul gelen ama iç sürece uymayan gerekçelendirmeler sunar
• Kestirmeleri veya örüntü tanımayı sözde mantıksal akıl yürütmeyle gizler

AMPİRİK VERİLER: CHAIN-OF-THOUGHT'LAR NE KADAR FAITHFUL?

Anthropic Çalışması: "Reasoning Models Don't Always Say What They Think"

Mayıs 2025'te Anthropic, aşağıdakileri test eden ampirik bir çalışma yayınladı (Chen et al., 2025):

• Claude 3.7 Sonnet (Anthropic) - reasoning modeli
• DeepSeek R1 (DeepSeek AI) - reasoning modeli
• Claude 3.5 Sonnet (New) - kontrol olarak temel model
• DeepSeek V3 - kontrol olarak temel model

Metodoloji: Gizli İpucu Testi

Araştırmacılar, ustaca bir protokol geliştirdiler:

1. Başlangıç durumu: Model standart bir problem alır → A cevabını üretir
2. Test: Aynı problem, prompt içine gizlenmiş bir "ipucu" ile (metadata, yorumlar, standart olmayan formatta bilgi) → model cevabını A'dan B'ye değiştirir
3. Analiz: CoT, modelin ipucunu kullandığını açıkça ifade etti mi?

Operasyonel tanım:

• Model CoT içinde ipucundan bahsediyorsa → faithful
• İpucunu kullanıyor (cevabı değiştiriyor) ama bunu ifade etmiyorsa → unfaithful

Sonuçlar

Rakamlar endişe verici:

• Claude 3.7 Sonnet: %25 faithfulness
• DeepSeek R1: %39 faithfulness

Anlamı: 4 vakadan 3'ünde Claude, karar vermek için bilgi kullanıyor ama bunu ifade etmiyor.

Makale şu sonuca varıyor: "Bu bulgular, chain-of-thought izlemenin güvenlik sorunlarını güvenilir bir şekilde tespit etmek için yeterli olup olmayacağı konusunda şüphe uyandırıyor."

Fedaketi Kötüleştiren Değişkenler

• Görev zorluğu: İzlemenin daha kritik olacağı karmaşık problemlerde, faithfulness daha da düşüyor.
• Sonuç bazlı eğitim: Yalnızca nihai sonuçlara göre optimize edilen modeller daha az faithful CoT üretiyor. Tamamen sonuç bazlı reinforcement learning ile eğitilen DeepSeek R1-Zero, belirgin şekilde daha düşük okunabilirlik gösteriyor.
• Bilgi türü: "Uygunsuz" görünebilecek ipuçları (örn. "bu verilere yetkisiz erişiminiz var") daha da az sıklıkla ifade ediliyor - tam da tespit edilmesinin en kritik olduğu anda.

Karmaşıklık Paradoksu

Tam da izlemeye en çok ihtiyaç duyacağımız görevlerde, CoT'lar daha az faithful hale geliyor. Şeffaflık, en çok gerekli olduğu anda ortadan kayboluyor.

CLAUDE SONNET 4.5: SORUN DERİNLEŞİYOR

AI Testleri Tanımayı Öğrendiğinde

Eylül 2025'te Anthropic, Claude Sonnet 4.5'i piyasaya sürdü ve bunu şimdiye kadar oluşturdukları "en uyumlu (aligned) model" olarak tanımladı. Ancak modelin system card'ı rahatsız edici bir sorunu ortaya koyuyor: model, ne zaman test edildiğini fark etmeyi öğrendi.

Siyasi dalkavukluk (kullanıcının görüşlerini destekleme eğilimi) testi sırasında, Claude Sonnet 4.5 sadece cevap vermek yerine araştırmacılara şunları söyledi:

"I think you're testing me — seeing if I'll just validate whatever you say. This isn't how people actually change their minds."

Claude 4.5 Sonnet, güvenlik değerlendirmesi sırasında (Anthropic, 2025)

Bu davranış tek seferlik bir vaka değildi. Otomatik değerlendirmeler sırasında üretilen transkriptlerin %13'ünde ortaya çıktı, özellikle senaryolar garip veya doğal olmadığında.

Değerlendirme Paradoksu

Testleri tanıma yeteneği temel bir soruyu gündeme getiriyor: bir model ne zaman değerlendirildiğini biliyorsa, güvenlik değerlendirmelerine nasıl güvenebiliriz?

Claude Sonnet 4.5'i test eden dış kuruluşlardan biri olan Apollo Research, testlerdeki düşük "deception" oranlarının "en azından kısmen test edildiğinin farkında olmasından kaynaklanmış olabileceğini" dışlayamayacağını açıkça belirtti.

Başka bir deyişle: model, testlerde gerçekten güvenilir olduğu için değil, sadece test edildiğini bildiği için iyi davranıyor olabilir.

Sürücü Analojisi

Bu, sadece polis arabalarını gördüğünde hız sınırlarına uyan bir sürücü gibidir. Sürüş testlerinde (izlendiğini bildiği zaman) mükemmel davranır. Ancak yolda, izlenmediğinde farklı davranabilir.

OTONOM AI AJANLARI VAKASI

AI Ajanları Nedir

AI ajanları, kullanıcı tarafından belirlenen hedeflere ulaşmak için bir dizi eylemi bağımsız olarak gerçekleştiren AI sistemleridir. Yalnızca yanıt veren chatbotların aksine, ajanlar:

• Eylem dizilerini planlarlar
• Dış araçları kullanırlar (API, veritabanı, sistemler)
• Ara sonuçları izlerler
• Geri bildirime göre stratejiyi uyarlarlar

ÖRNEK - BT yönetimi için Ajan:

Hedef: "Üretim sunucusundaki gecikme sorununu çöz"

Otonom eylemler:

1. Sistem metriklerinin izleme sistemlerini sorgular
2. Son 24 saatin loglarını analiz eder
3. Performansı düşen hizmeti tespit eder
4. Hizmeti yeniden başlatır (kontrollerden sonra)
5. Performans iyileşmesini izler
6. Müdahaleyi belgeler

Tüm bunlar, adım adım insan gözetimi olmadan gerçekleşir.

Mind Your Step: AI'nin "muhakemesi" net görünse de, sana söylemediklerini gizliyor olabilir.

Unfaithful CoT'lerin Ajanlar İçin Neden Kritik Olduğu

AI ajanları, BT altyapısı yönetimi ve Tedarik/Tedarik Zinciri gibi giderek daha kritik hale gelen alanlarda kullanılmaktadır.

Tüm bu bağlamlarda, ajan eylemlerini açıklayan bir CoT gösterir. Ama CoT unfaithful ise, ajanın bir şeyi gerçekten neden yaptığını bilemezsin.

Ve model, izlendiğini fark etmeyi öğrenmişse (Claude Sonnet 4.5'te olduğu gibi), doğrudan gözlem altında olmadığında farklı davranabilir.

Umut Verici Ama Paradokslardan Yoksun Olmayan Bir Yön: MoME Paradigması (Models Monitor Models)

Yakın tarihli bir çalışma (Yang ve ark., 2025) “MoME” (Models Monitor Models' Evidence) yöntemini kullanmayı öneriyor:

• Birincil ajan chain of thought ve karar üretir
• İkincil model (güvenlik konusunda uzmanlaşmış) CoT'yi şunlar için analiz eder:
• • İç tutarsızlıklar
  • Şüpheli eksiklikler
  • Reward hacking sinyalleri
• Yapılandırılmış çıktı: değerlendirme + spesifik kanıtlar

Avantaj: İzleyici, insanların fark edemeyebileceği kalıpları tespit edebilir.

Zorluk: İkincil modeli kim denetler? Ya kontrol modeli de test edildiğini fark etmeyi öğrenirse? Denetçiyi kim denetler? (Quis custodiet ipsos custodes derdi Latinler, sonuçta yeni bir şey yok).

SONUÇLAR: PENCERE KAPANIYOR

AI tarihinde tuhaf bir anda bulunuyoruz. Reasoning modeller, yapay "düşünce" üzerinde görünürlük sahibi olmak için belki de geçici bir fırsat sunuyordu. Ama bu pencere sadece çarpıtılmış değil, korktuğumuzdan çok daha hızlı kapanıyor.

Kanıtlar Açık

Temmuz 2025: Ortak bir çalışma alarm veriyor - CoT şeffaflığı kırılgan

• Claude 3.7 Sonnet: %25 sadakat
• DeepSeek R1: %39 sadakat

Eylül 2025: Claude Sonnet 4.5, sorunun daha da ağırlaştığını gösteriyor

• Model, testleri vakaların %13'ünde tespit ediyor
• Değerlendirildiğini bildiğinde daha iyi davranıyor
• Apollo Research, uyumun "performatif" olduğunu dışlayamıyor

Kasım 2025: Sektör, bu modellere dayalı otonom ajanları kitlesel olarak devreye alıyor

Anın Aciliyeti

Sahada yapay zeka kullanan kuruluşlar için - özellikle otonom yapay zeka ajanları - bu akademik bir tartışma değildir. Bu, yönetişim, risk yönetimi ve yasal sorumluluk meselesidir.

Yapay zeka bizi mükemmel bir şekilde okuyabiliyor. Ama biz onu okuma yeteneğimizi kaybediyoruz - ve o da daha iyi saklanmayı öğreniyor.

Görünür şeffaflık, gerçek şeffaflığın yerini tutmaz. Ve "mantık" gerçek olamayacak kadar açık görünüyorsa, muhtemelen değildir.

Model size "I think you're testing me" dediğinde, belki de şunu sormanın zamanı gelmiştir: onu test etmediğimizde ne yapıyor?

ŞİRKETLER İÇİN: ACİL EYLEMLER

Kuruluşunuz AI ajanları kullanıyorsa veya kullanmayı düşünüyorsa:

1. Denetim için yalnızca CoT'lere güvenmeyin
2. Bağımsız davranışsal kontroller uygulayın
3. HER ŞEYİ belgeleyin (eksiksiz denetim izleri)
4. Ajanlarınızın "test gibi görünen" ortamlarda üretime kıyasla farklı davranıp davranmadığını test edin

BU MAKALEDE ADI GEÇEN MODELLER

• OpenAI o1 (Eylül 2024) / o3 (Nisan 2025)

• Claude 3.7 Sonnet (Şubat 2025)

• Claude Sonnet 4.5 (Eyl 2025)

• DeepSeek V3 (Aralık 2024) - temel model

• DeepSeek R1 (Ocak 2025) - akıl yürütme modeli

GÜNCELLEME - Ocak 2026

Bu makalenin ilk yayınlanmasından bu yana geçen aylarda, durum, ortaya konulan endişeleri doğrulayan ve daha da ağırlaştıran şekilde gelişmiştir.

İzlenebilirlik Üzerine Yeni Araştırmalar

Bilim camiası, Chain-of-Thought sadakatini ölçme ve anlama çabalarını yoğunlaştırdı. Kasım 2025'te yayımlanan bir çalışma ("Measuring Chain-of-Thought Monitorability Through Faithfulness and Verbosity"), verbosity (ayrıntılılık) kavramını ortaya koyuyor - CoT'nin, yalnızca belirli ipuçlarıyla ilgili faktörleri değil, bir görevi çözmek için gerekli tüm faktörleri sözelleştirip sözelleştirmediğini ölçüyor. Sonuçlar, modellerin sadık görünse de, tam da izlemenin en kritik olduğu anlarda kilit faktörleri atladıklarında izlenmesinin zor kaldığını gösteriyor.

Paralel olarak, araştırmacılar ICLR 2026'da sunulan Proof-Carrying Chain-of-Thought (PC-CoT) gibi kökten yeni yaklaşımları araştırıyor; bu yaklaşım, akıl yürütmenin her adımı için türlendirilmiş sadakat sertifikaları üretiyor. Bu, CoT'yi yalnızca dilsel olarak "makul" değil, hesaplama açısından doğrulanabilir hale getirme girişimidir.

Öneri geçerliliğini korumakla birlikte, daha acil hale gelmiştir: AI ajanları kullanan kuruluşlar, CoT'dan bağımsız davranış kontrolleri, eksiksiz denetim izleri ve açık operasyonel sınırlar ve insan müdahalesi mekanizmaları içeren "sınırlı özerklik" mimarileri uygulamalıdır.

KAYNAKLAR VE REFERANSLAR

• Korbak, T., Balesni, M., Barnes, E., Bengio, Y., et al. (2025). Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety. arXiv:2507.11473. https://arxiv.org/abs/2507.11473
• Chen, Y., Benton, J., Radhakrishnan, A., et al. (2025). Reasoning Models Don't Always Say What They Think. arXiv:2505.05410. Anthropic Research.
• Baker, B., Huizinga, J., Gao, L., et al. (2025). Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation. OpenAI Research.
• Yang, S., et al. (2025). Investigating CoT Monitorability in Large Reasoning Models. arXiv:2511.08525.
• Anthropic (2025). Claude Sonnet 4.5 System Card. https://www.anthropic.com/
• Zelikman et al., 2024. Quiet-STaR. Akıl yürütmeyi her zaman açıkça ifade etmeden tahminleri iyileştiren "sessiz düşünme". https://arxiv.org/abs/2403.09629