ChatGPT يستمع إليك (وقد يبلغ عنك)

التغيير الكبير: OpenAI تعترف بإبلاغ السلطات

في سبتمبر 2025، كشفت OpenAI عن أمر هزّ مجتمع التقنية العالمي: ChatGPT يراقب بنشاط محادثات المستخدمين ويُبلّغ عن المحتوى الذي قد يكون إجراميًا إلى سلطات إنفاذ القانون.

كشفت هذه الأخبار، التي ظهرت بشكل عارض في منشور على مدونة الشركة، أنه عندما تكتشف الأنظمة الآلية مستخدمين "يخططون لإلحاق الضرر بالآخرين"، يتم توجيه المحادثات إلى قنوات متخصصة حيث يقوم فريق صغير مدرب على سياسات الاستخدام بفحصها. إذا قرر المراجعون البشريون أن هناك "تهديدًا وشيكًا بإلحاق ضرر جسدي جسيم بالآخرين"، فيمكن إحالة القضية إلى سلطات إنفاذ القانون¹.

يدعوك ChatGPT بلطف لمشاركة أعمق أفكارك. اطمئن، كل شيء سرّي... إلى حدٍ ما.

المصادر:

• OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police - Futurism
• ChatGPT privacy questioned as OpenAI confirms police access in extreme cases - Storyboard18

التناقض مع المهن "المحمية"

امتياز السرية المهنية

عندما نتحدث مع طبيب نفسي، أو محامٍ، أو طبيب، أو كاهن، تكون كلماتنا محمية بآلية قانونية راسخة: السرية المهنية. هذا المبدأ، المتجذر في قرون من التقليد القانوني، يقرر أن بعض المحادثات لا يمكن انتهاكها، حتى في مواجهة التحقيقات الجنائية.

خصائص السرية المهنية التقليدية:

• حماية واسعة النطاق: تبقى الاتصالات سرية حتى في حالة وجود جرائم معترف بها
• استثناءات محدودة ومحددة: فقط في حالات استثنائية يحددها القانون يمكن أو يجب على بعض المهنيين كسر الصمت
• رقابة بشرية مؤهلة: قرار انتهاك السرية يبقى دائمًا بيد مهني مُدرَّب
• مسؤولية أخلاقية: المهنيون ملزمون بمدونات سلوك أخلاقية توازن بين الواجبات تجاه العميل والمجتمع

الحدود الحقيقية للسرية المهنية

خلافًا للاعتقاد الشائع، السرية المهنية ليست مطلقة. توجد استثناءات محددة بوضوح تختلف حسب الفئة المهنية:

بالنسبة للمحامين (المادة 28 من مدونة السلوك المهني للمحاماة): يُسمح بالإفصاح عندما يكون ضروريًا من أجل:

• ممارسة نشاط الدفاع
• منع ارتكاب جريمة ذات خطورة خاصة
• الدفاع عن النفس في نزاع ضد العميل نفسه
• الإجراءات التأديبية

مثال حاسم: إذا صرّح عميل لمحاميه بأنه ينوي ارتكاب جريمة قتل، فبين حماية حق الدفاع وحماية قيمة الحياة يجب أن تسود هذه الأخيرة، ويُعفى المحامي من السرية².

بالنسبة لعلماء النفس (المادة 13 من مدونة السلوك المهني): يمكن انتهاك السرية عندما:

• يوجد التزام بتقديم تقرير أو بلاغ عن جرائم تُلاحق تلقائيًا
• تلوح مخاطر جسيمة على حياة أو صحة الشخص النفسية والجسدية و/أو أطراف ثالثة
• توجد موافقة صالحة وقابلة للإثبات من المريض

تمييز مهم: يتمتع الطبيب النفسي الخاص بهامش تقدير أكبر مقارنة بالطبيب النفسي العام، الذي بصفته موظفًا عامًا لديه التزامات إبلاغ أكثر صرامة³.

المصادر:

• Studio Legale Puce - Segreto Professionale dell'Avvocato
• La Legge Per Tutti - Lo psicologo che sa di un reato deve denunciare il paziente?

الذكاء الاصطناعي باعتباره "غير احترافي"

يعمل ChatGPT في منطقة رمادية مختلفة تمامًا:

غياب الامتياز القانوني: المحادثات مع الذكاء الاصطناعي لا تتمتع بأي حماية قانونية. كما اعترف سام ألتمان، الرئيس التنفيذي لـOpenAI: "إذا تحدثت مع معالج نفسي أو محامٍ أو طبيب حول تلك المشكلات، فهناك امتياز قانوني لذلك. هناك سرية بين الطبيب والمريض، وهناك سرية قانونية، أيًا كان الأمر. ونحن لم نحل هذا الأمر بعد فيما يخص التحدث مع ChatGPT"².

عملية آلية: على عكس المهني البشري الذي يُقيّم كل حالة على حدة، يستخدم ChatGPT خوارزميات لتحديد المحتوى "الإشكالي"، مما يُزيل الحكم البشري المؤهل من مرحلة الفحص الأولية.

المصادر:

• Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist - TechCrunch

الآثار العملية: نموذج جديد للمراقبة

مفارقة الثقة التكنولوجية

يخلق هذا الوضع مفارقة مقلقة. يستخدم ملايين الأشخاص ChatGPT كمستمع رقمي يبوحون له بأفكارهم الحميمة، وشكوكهم، ومخاوفهم، بل وحتى بخيالاتهم الإجرامية التي لن يشاركوها أبدًا مع إنسان آخر. كما ذكر سام ألتمان: "يتحدث الناس عن أكثر الأمور خصوصية في حياتهم إلى ChatGPT. يستخدمه الناس - خاصة الشباب - كمعالج نفسي، ومدرب حياة"⁴.

مخاطر الرقابة الذاتية الإجرامية: قد يؤدي الوعي بأن المحادثات يمكن مراقبتها، وبشكل متناقض، إلى:

• دفع المجرمين نحو قنوات أكثر تخفيًا
• منع الأشخاص ذوي الأفكار العنيفة من طلب المساعدة
• خلق أثر "تبريد" على الاتصالات الرقمية

الخبرة مقابل الخوارزميات: من يقرر ما هو إجرامي؟

أحد الجوانب الحاسمة التي أبرزها النقاد يتعلق بكفاءة من يتخذون القرارات النهائية.

يمتلك المحترفون البشريون:

• سنوات من التدريب للتمييز بين الخيالات والنوايا الحقيقية
• مدونات أخلاقية تحدد متى يجب كسر السرية
• مسؤولية قانونية شخصية عن قراراتهم
• القدرة على تقييم السياق والمصداقية

يعمل نظام ChatGPT بواسطة:

• خوارزميات آلية للكشف الأولي
• موظفي OpenAI الذين لا يمتلكون بالضرورة تدريبًا سريريًا أو جنائيًا
• معايير تقييم غير علنية وقد تكون تعسفية
• غياب آليات الرقابة الخارجية

مثال إشكالي: كيف تميز الخوارزمية بين:

• شخص يكتب رواية إثارة ويبحث عن إلهام لمشاهد عنيفة
• شخص يتخيل دون نية التصرف
• فرد يخطط فعليًا لارتكاب جريمة

المصادر:

• TechCrunch - Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist
• Shinkai Blog - OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage

المصادر:

• OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears

تناقض OpenAI: الخصوصية مقابل الأمان

المعيار المزدوج

اعتراف OpenAI يتعارض بشكل صارخ مع مواقفها السابقة. فقد قاومت الشركة بشدة طلبات الحصول على بيانات المستخدمين في الدعاوى القضائية، متذرعة بحماية الخصوصية. في القضية المرفوعة ضد صحيفة نيويورك تايمز، جادلت OpenAI بشدة ضد الكشف عن سجلات الدردشة لحماية خصوصية المستخدمين⁴.

مفارقة الوضع: تدافع OpenAI عن خصوصية المستخدمين في المحاكم بينما تعترف في الوقت نفسه بمراقبة البيانات ومشاركتها مع السلطات الخارجية.

تأثير قضية نيويورك تايمز

تعقّد الوضع أكثر مع صدور أمر المحكمة الذي يلزم OpenAI بالاحتفاظ بجميع سجلات ChatGPT إلى أجل غير مسمى، بما في ذلك المحادثات الخاصة وبيانات الـ API. هذا يعني أن المحادثات التي كان المستخدمون يعتقدون أنها مؤقتة أصبحت الآن مؤرشفة بشكل دائم⁵.

المصادر:

• OpenAI slams court order to save all ChatGPT logs, including deleted chats
• OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data

الحلول والبدائل الممكنة

نحو "امتياز الذكاء الاصطناعي"؟

كما اقترح سام ألتمان، قد يكون من الضروري تطوير مفهوم "امتياز الذكاء الاصطناعي" - حماية قانونية مماثلة لتلك المقدمة للمحترفين التقليديين. ومع ذلك، يثير هذا أسئلة معقدة:

خيارات تنظيمية ممكنة:

1. نموذج التراخيص: الذكاء الاصطناعي المعتمد فقط يمكنه تقديم "امتياز المحادثة"
2. تدريب إلزامي: من يتعامل مع محتوى حساس يجب أن يمتلك مؤهلات محددة
3. إشراف مهني: إشراك أطباء نفسيين/محامين مؤهلين في قرارات الإبلاغ
4. شفافية خوارزمية: نشر المعايير المستخدمة لتحديد المحتوى "الخطير"

الحلول التقنية الوسيطة

ذكاء اصطناعي "مقسّم إلى أجزاء":

• أنظمة منفصلة للاستخدامات العلاجية مقابل الاستخدامات العامة
• تشفير من طرف إلى طرف للمحادثات الحساسة
• موافقة صريحة لكل نوع من أنواع المراقبة

نهج "ثلاثي الأطراف":

• كشف آلي فقط للتهديدات الفورية والقابلة للتحقق
• مراجعة بشرية مؤهلة إلزامية
• عملية استئناف للقرارات المتنازع عليها

سابقة المحترفين الرقميين

دروس من قطاعات أخرى:

• الطب عن بُعد: طوّر بروتوكولات للخصوصية الرقمية
• الاستشارات القانونية عبر الإنترنت: يستخدم التشفير والتحقق من الهوية
• العلاج الرقمي: تطبيقات متخصصة بحماية محددة

المصادر:

• Simon Willison - تحليل أمر المحكمة الخاص بـ OpenAI

ماذا يعني ذلك بالنسبة للشركات AI

دروس للقطاع

تشكل قضية OpenAI سابقة مهمة لقطاع الذكاء الاصطناعي برمته:

1. شفافية إلزامية: يجب على شركات الذكاء الاصطناعي أن تكون أكثر وضوحًا بشأن ممارسات المراقبة الخاصة بها
2. الحاجة إلى أطر أخلاقية: هناك حاجة إلى تنظيم واضح بشأن متى وكيف يمكن للذكاء الاصطناعي التدخل في الاتصالات الخاصة
3. تدريب متخصص: يجب أن يمتلك من يتخذ قرارات بشأن المحتوى الحساس الكفاءات المناسبة
4. المسؤولية القانونية: تحديد من هو المسؤول عندما يخطئ نظام الذكاء الاصطناعي في تقييم ما

توصيات تشغيلية

للشركات التي تطوّر الذكاء الاصطناعي الحواري:

• تنفيذ فرق متعددة التخصصات (قانونيين، أطباء نفسيين، خبراء إجرام)
• تطوير معايير عامة وقابلة للتحقق للإبلاغ
• إنشاء عمليات استئناف للمستخدمين
• الاستثمار في تدريب متخصص لموظفي المراجعة

للشركات التي تستخدم الذكاء الاصطناعي:

• تقييم مخاطر الخصوصية قبل التنفيذ
• إبلاغ المستخدمين بوضوح بحدود السرية
• النظر في بدائل متخصصة للاستخدامات الحساسة

مستقبل السرية الرقمية

المعضلة المركزية: كيف نوازن بين منع الجرائم الفعلية والحق في الخصوصية والسرية الرقمية؟

المسألة ليست مجرد مسألة فنية بل تتعلق بمبادئ أساسية:

• افتراض البراءة: مراقبة المحادثات الخاصة تعني شكًا عامًا
• الحق في الخصوصية: يشمل الحق في امتلاك أفكار خاصة، حتى وإن كانت مقلقة
• الفعالية الوقائية: لم يثبت أن المراقبة الرقمية تمنع الجرائم فعليًا

الاستنتاجات: إيجاد التوازن الصحيح

يمثل كشف OpenAI لحظة فاصلة في تطور الذكاء الاصطناعي، لكن المسألة ليست ما إذا كان الإبلاغ صحيحًا أو خاطئًا بشكل مطلق: بل كيف نجعله فعالًا وعادلًا ومحترمًا للحقوق.

الحاجة حقيقية: التهديدات الملموسة بالعنف، والتخطيط لهجمات أو جرائم خطيرة أخرى تتطلب التدخل. المشكلة ليست ما إذا كان يجب الإبلاغ، بل كيف نفعل ذلك بطريقة مسؤولة.

الاختلافات الجوهرية التي يجب حلّها:

التدريب والكفاءة:

• لدى المهنيين البشريين بروتوكولات راسخة للتمييز بين التهديدات الحقيقية والأوهام
• تحتاج أنظمة الذكاء الاصطناعي إلى معايير معادلة وإشراف مؤهل
• هناك حاجة إلى تدريب متخصص لمن يتخذون القرارات النهائية

الشفافية والرقابة:

• يعمل المهنيون تحت إشراف النقابات المهنية
• تحتاج OpenAI إلى معايير عامة وآليات رقابة خارجية
• يجب أن يعرف المستخدمون بالضبط متى ولماذا قد يتم الإبلاغ عنهم

التناسب:

• يوازن المتخصصون حالة بحالة بين واجب السرية والأمن
• يجب على أنظمة الذكاء الاصطناعي تطوير آليات مماثلة، وليس خوارزميات ثنائية

بالنسبة للشركات في هذا القطاع، يكمن التحدي في تطوير أنظمة تحمي المجتمع بفعالية دون أن تتحول إلى أدوات مراقبة عشوائية. ثقة المستخدمين أمر أساسي، لكن يجب أن تتعايش مع المسؤولية الاجتماعية.

بالنسبة للمستخدمين، الدرس مزدوج:

1. محادثات الذكاء الاصطناعي لا تتمتع بنفس الحماية التي يوفرها المتخصصون التقليديون
2. هذا ليس بالضرورة أمرًا سلبيًا إذا تم بشفافية وبشكل متناسب، لكن من المهم أن تكون على دراية بذلك

مستقبل الذكاء الاصطناعي التحاوري يتطلب إطار عمل جديد:

• يعترف بمشروعية منع الجريمة
• يضع معايير مهنية لمن يتعامل مع المحتوى الحساس
• يضمن الشفافية في عمليات اتخاذ القرار
• يحمي الحقوق الفردية دون تجاهل الأمن

السؤال الصحيح ليس ما إذا كان ينبغي للآلات أن تُبلّغ عن الجرائم، بل كيف يمكننا التأكد من أنها تفعل ذلك (على الأقل) بنفس الحكمة والتدريب والمسؤولية التي يتحلى بها المتخصصون البشريون.

الهدف ليس العودة إلى الذكاء الاصطناعي "الأعمى" عن المخاطر الحقيقية، بل بناء أنظمة تجمع بين الكفاءة التكنولوجية والأخلاق والكفاءة البشرية. بهذه الطريقة فقط يمكننا الحصول على أفضل ما في العالمين: الأمن وحماية الحقوق الفردية.

المراجع والمصادر

1. Futurism - "OpenAI Says It's Scanning Users' ChatGPT Conversations and Reporting Content to the Police"
2. Studio Legale Puce - "Segreto Professionale dell'Avvocato"
3. La Legge Per Tutti - "Lo psicologo che sa di un reato deve denunciare il paziente?"
4. TechCrunch - "Sam Altman warns there's no legal confidentiality when using ChatGPT as a therapist"
5. Shinkai Blog - "OpenAI's ChatGPT Conversations Scanned, Reported to Police, Igniting User Outrage and Privacy Fears"
6. Simon Willison - "OpenAI slams court order to save all ChatGPT logs, including deleted chats"
7. Success Knocks - "OpenAI Lawsuit 2025: Appeals NYT Over ChatGPT Data"