Ilusi Penalaran: Perdebatan yang Mengguncang Dunia AI
Apple menerbitkan dua makalah yang menghancurkan - 'GSM-Symbolic' (Oktober 2024) dan 'The Illusion of Thinking' (Juni 2025) - yang menunjukkan bagaimana LLM gagal pada variasi kecil dari masalah klasik (Menara Hanoi, penyeberangan sungai): 'kinerja menurun ketika hanya nilai numerik yang diubah'. Tidak ada keberhasilan pada Menara Hanoi yang kompleks. Namun Alex Lawsen (Open Philanthropy) membalas dengan "The Illusion of Thinking" yang menunjukkan metodologi yang gagal: kegagalannya adalah batas keluaran token bukan runtuhnya penalaran, skrip otomatis salah mengklasifikasikan keluaran yang benar sebagian, beberapa teka-teki tidak dapat dipecahkan secara matematis. Dengan mengulangi pengujian dengan fungsi rekursif alih-alih membuat daftar gerakan, Claude/Gemini/GPT memecahkan Menara Hanoi 15 catatan. Gary Marcus merangkul tesis Apple tentang 'pergeseran distribusi', tetapi makalah waktu pra-WWDC menimbulkan pertanyaan strategis. Implikasi bisnis: seberapa besar kita bisa mempercayai AI untuk tugas-tugas penting? Solusi: pendekatan neurosimbolik jaringan saraf untuk pengenalan pola + bahasa, sistem simbolik untuk logika formal. Contoh: Akuntansi AI memahami "berapa banyak biaya perjalanan?" tetapi SQL/perhitungan/audit pajak = kode deterministik.