تتحول وكالات الذكاء الاصطناعي من مرحلة تجريبية إلى بنية تحتية تشغيلية. والمشكلة الأساسية هي أن العديد من الشركات لا تزال تعاملها وكأنها مجرد روبوتات دردشة متطورة، في حين أنها في الواقع تصل إلى البيانات وتستخدم التطبيقات المؤسسية، كما أنها قادرة على تنفيذ الإجراءات بدرجة من الاستقلالية تغير ملامح المخاطر.
أقوى مؤشر يأتي من الأرقام. ففي عام 2026، أفادت 88% من الشركات بوقوع حوادث أمنية مرتبطة بوكلاء الذكاء الاصطناعي خلال العام السابق، في حين لم يُخصص سوى 6% من ميزانيات الأمن لمواجهة هذا الخطر، وفقًا لهذا التحليل الذي يتناول الفجوة بين الحوادث والميزانيات المخصصة لوكلاء الذكاء الاصطناعي. هذه ليست مشكلة نظرية. إنها مشكلة تتعلق بالحوكمة والأولويات والرقابة التشغيلية.
بالنسبة لقادة الشركات، فإن الرسالة ليست «أوقفوا وكلاء الذكاء الاصطناعي». بل العكس تمامًا. استخدموها وفقًا لقواعد واضحة وحدود تقنية وإشراف فعلي. فعندما يغيب ذلك، تؤدي الأتمتة إلى تسريع الأخطاء. أما عندما تكون الحوكمة مصممة بشكل جيد، يصبح الذكاء الاصطناعي عاملًا موثوقًا في تعزيز الإنتاجية والتحليل واتخاذ القرار.
هناك حقيقة يجب أن تلفت انتباه الإدارة: فالحوادث المرتبطة بوكلاء الذكاء الاصطناعي تتزايد بوتيرة أسرع من الإجراءات الرقابية التي تتبعها الشركات لإدارتها. والمشكلة، بالنسبة للعديد من الشركات، لا تكمن في إدراك وجود المخاطر، بل في اكتشافها متأخراً جداً، بعد أن يكون وكيل يتمتع بصلاحيات تشغيلية قد تسلل بالفعل إلى العمليات، حيث يؤثر أي خطأ على البيانات والأموال والعملاء والامتثال.
تدخل وكلاء الذكاء الاصطناعي في العمليات المؤسسية بسرعة لا تستطيع سوى برامج أمان قليلة استيعابها. فهم يحللون البيانات، ويعدون التقارير، ويستعلمون عن الأنظمة، ويشغلون سير العمل، وفي بعض الحالات، يتفاعلون مع العملاء أو العمليات الحساسة دون إشراف مستمر. وبالنسبة لمن يقيّمون حلول وكلاء الذكاء الاصطناعي للعمليات التشغيلية وعمليات اتخاذ القرار، فإن المسألة لا تكمن في كبح وتيرة اعتمادها. بل إن الهدف هو تحديد أولاً المجالات التي تخلق فيها الاستقلالية قيمة، والمجالات التي تتطلب فيها حدوداً واضحة.
وهذا ما يفسر لماذا لا يقتصر موضوع " مخاطر أمن وكلاء الذكاء الاصطناعي في المؤسسات " على فريق تكنولوجيا المعلومات فحسب. بل إنه يهم مجلس الإدارة، والمدير المالي، ومسؤول الامتثال، ومن يوافق على أتمتة العمليات الحيوية. فإذا كان بإمكان الوكيل قراءة نظام إدارة علاقات العملاء (CRM)، واستخدام الأدوات المالية، والاطلاع على مستودعات الوثائق، وتنفيذ الإجراءات عبر منصات متعددة، فإن أي خطأ في التهيئة لن يقتصر على أداة واحدة فقط.
هناك سبب محدد وراء كون الأزمة صامتة. فالعديد من المشكلات لا تبدأ بهجوم واضح، بل بتصريح مفرط، أو واجهة برمجة تطبيقات (API) مُنحت على عجل، أو مطالبة أسيء تفسيرها، أو سير عمل تمت الموافقة عليه دون تسجيل مناسب. وفي الشركات الصغيرة والمتوسطة الإيطالية، حيث غالبًا ما يتولى المورد نفسه إدارة أنظمة تخطيط موارد المؤسسات (ERP) والبريد الإلكتروني وتحليلات الأعمال (BI) وعمليات الأتمتة، يتضخم هذا التأثير: فالفعالية تتزايد على الفور، بينما تأتي الحوكمة وفصل الأدوار في وقت لاحق.
وهناك فرصة ملموسة في هذا الصدد. لا تمتلك الشركات الصغيرة والمتوسطة الميزانية التي تتمتع بها الشركات الكبرى، لكنها تستطيع التحرك بسرعة أكبر إذا وضعت عددًا قليلاً من القواعد الواضحة: جرد الوكلاء النشطين، وتقييد الوصول إلى الحد الأدنى، والموافقة البشرية على المهام ذات التأثير الكبير، والتحقق التعاقدي من الموردين. إنها منهجية لإدارة المخاطر ذات عائد قابل للقياس، لأنها تقلل من الأخطاء المكلفة دون إعاقة الأتمتة.
لا ينبغي النظر إلى وكيل الذكاء الاصطناعي في الشركة على أنه مجرد روبوت دردشة يجيب على الأسئلة. بل إنه أقرب إلى زميل عمل رقمي فعال. فهو يتلقى مهمة، ويستعرض البيانات، ويختار الأدوات، وينفذ الخطوات الوسيطة، ويحقق النتيجة المرجوة. ويمكنه العمل في مجالات مثل التنبؤات، والتسويات، وتصنيف المستندات، وإدارة التذاكر، وتحليل العروض الترويجية، أو مراقبة المخاطر.
من الأمثلة المفيدة على ذلك " المتدرب الخارق" الذي يحمل شارة "الوصول الشامل". فإذا أعطيته تعليمات دقيقة، وحقوق وصول محدودة للغاية، ومشرفاً، فسوف يقدم لك مساعدة كبيرة. أما إذا سمحت له بفتح الخزائن، ونسخ الوثائق، واتخاذ القرارات بمفرده، فإن المشكلة لا تكمن في سوء النية، بل في غياب الحدود.
وللتعرف على كيفية تطبيق هذا النموذج في عمليات التحليل، يكفي النظر إلى دور وكلاء الذكاء الاصطناعي في عمليات اتخاذ القرار والتحليل.
في البرمجيات التقليدية، غالبًا ما يرتبط الخطر بالوظائف المتوقعة. فالتطبيق يقوم بما تم برمجته من أجله. أما وكيل الذكاء الاصطناعي، فيقوم بتفسير السياق والأهداف. وهذا ما يجعله مفيدًا، ولكنه يصعب أيضًا التحكم فيه باستخدام أدوات التحكم التقليدية.
الخصائص الثلاث التي تؤثر على المخاطر هي التالية:
قاعدة عملية: إذا كان النظام قادراً على القراءة واتخاذ القرارات والتصرف، فيجب التعامل معه ككيان ذي صلاحيات خاصة، وليس كمجرد وظيفة برمجية.
تطبق العديد من الشركات على الوكلاء نفس الضوابط المستخدمة في تكامل واجهة برمجة التطبيقات (API) أو روبوتات الأتمتة. وهذا خطوة أولى، لكنها غير كافية. فالوكلاء يجمعون بين اللغة الطبيعية والذاكرة التشغيلية والتكاملات والاستقلالية. وهذا يعني أن المدخلات نفسها قد تؤدي إلى نتائج مختلفة حسب السياق والتعليمات الحالية والأدوات المتاحة.
بالنسبة لقائد شركة، فإن السؤال الصحيح ليس «هل الوكيل آمن؟». السؤال الصحيح هو سؤال آخر:
إذا لم تكن هناك إجابة واضحة على أي من هذه النقاط الثلاث، فإن الخطر يكون قد بدأ بالفعل.
تتبع الهجمات التي تستهدف الوكلاء الآليين منطقاً بسيطاً: فهي تستهدف النقطة التي يقوم فيها الوكيل بالمراقبة أو التفسير أو اتخاذ الإجراءات. وبالنسبة لشركة إيطالية صغيرة أو متوسطة الحجم، فإن هذه المشكلة ليست مجرد مسألة نظرية. فالوكيل الواحد المرتبط بنظام إدارة علاقات العملاء (CRM) أو البريد الإلكتروني المعتمد (PEC) أو تخطيط موارد المؤسسة (ERP) أو نظام الطلبات يمكن أن يركز في مسار واحد المخاطر التي كانت في السابق موزعة بين عدة تطبيقات وعدة أدوار.
لا يزال السبب المباشر الأكبر هو الكشف غير المبرر عن المعلومات الحساسة. ولا حاجة إلى اختراق متطور. يكفي وجود شخص لديه صلاحية الوصول الشامل إلى البيانات، وطلب صيغته غامضة، وضوابط ضعيفة على النتائج.
ومن الأمثلة النموذجية على ذلك فريق المبيعات. حيث يقوم الموظف بمراجعة نظام إدارة علاقات العملاء (CRM) والتذاكر المفتوحة والوثائق التعاقدية لإعداد ملخص عن العميل. وإذا دفعت الطلبات النظام إلى «تضمين كل ما قد يكون مفيدًا»، فقد يجمع الناتج بين بيانات كانت مشروعة كل على حدة، لكنها تصبح مفرطة عند جمعها معًا: مثل الشروط المالية، والملاحظات التشغيلية، والمراجع الشخصية، والاستثناءات التعاقدية.
بالنسبة لشركة متوسطة الحجم، فإن هذا الخطر ينطوي على تكلفة ملموسة. فقد يؤدي إلى انتهاك الخصوصية، أو كشف معلومات تجارية، أو إثارة خلافات مع العملاء أو الموردين. والمشكلة لا تكمن فقط في البيانات التي يتم عرضها، بل في قدرة الموظف على جمع المعلومات من مصادر كانت المؤسسة قد فصلت بينها لسبب محدد.
تعمل "حقن الأوامر" كتعليمة مخفية داخل المواد التي يتعامل معها الموظف يوميًا. وقد توجد في رسالة بريد إلكتروني، أو مرفق، أو قاعدة معارف، أو وصف منتج، أو رد من واجهة برمجة تطبيقات خارجية. ويقوم الموظف بتفسيرها على أنها جزء من السياق التشغيلي، مما يؤدي إلى تغيير سلوكه.
وإذا استخدم الموظف أدوات أخرى، فإن المشكلة تتفاقم. فقد يؤدي إدخال بيانات خاطئة إلى تشويه نتائج البحث عن المستندات، أو التأثير على التصنيف، أو بدء سير عمل، أو نقل خطأ إلى موظف آخر. وفي الشركات التي تعتمد عمليات مبسطة، يكون هذا التأثير خفيًا، لأن السرعة والأتمتة تقللان من الوقت المتاح لاكتشاف هذا الانحراف.
الضوابط الأكثر فعالية في الممارسة العملية هي التالية:
الاعتماد فقط على المطالبة الأولية للنظام هو خيار ضعيف. تساعد التعليمات الثابتة، لكنها لا تكفي إذا استمر الوكيل في قراءة محتويات غير موثوقة خلال العملية.
يُشكل الوكيل المرتبط بعدة أدوات نقطة ضعف موزعة. فكل عملية تكامل تضيف نقطة جديدة يجب مراقبة.
هذا هو أحد المخاطر الأكثر إهمالاً في المشاريع الفعلية. يبدأ الوكيل بامتيازات محدودة. ثم يأتي «موصل» جديد «مؤقت»، أو اختصار لتسريع اختبار ما، أو تكامل عاجل تطلبه الإدارة. وفي غضون بضعة أشهر، ينتهي الأمر بالوكيل إلى امتلاك امتيازات أكثر مما يتذكره الفريق أو يستطيع تبريره.
أفادت شركة Obsidian Security أن العديد من الوكلاء في الشركات يعملون بالفعل خارج نطاق الصلاحيات المحددة في البداية، كما هو موضح في هذا التقرير التفصيلي حول تراكم الصلاحيات لدى وكلاء الذكاء الاصطناعي.
الآلية متكررة:
| الوضع | التأثير التشغيلي | المخاطر |
|---|---|---|
| تكامل جديد لنظام SaaS | يحصل العميل على نطاقات جديدة | زيادة مساحة الملامسة |
| عدم إجراء المراجعة الدورية | تظل التصاريح سارية حتى لو لم تعد هناك حاجة إليها | تتزايد الامتيازات غير المجدية |
| التوكينات أو بيانات الاعتماد المعرضة للخطر | يرث المهاجم الدخول المفتوحة بالفعل | احتمال حدوث حركة جانبية |
بالنسبة للشركات الصغيرة والمتوسطة، لا يكمن الهدف في إنشاء جهاز بيروقراطي ثقيل. بل يكمن الهدف في منع الموظف الذي تم تعيينه لقراءة الفواتير من أن ينتهي به الأمر إلى تعديل البيانات الشخصية أو إنشاء الطلبات أو الموافقة على الاستثناءات. إن التدابير الأكثر فعالية هي تلك التي يسهل تحديدها وتتطلب الثبات في تطبيقها:
لا ينشأ جزء كبير من المخاطر عن هجوم مباشر. بل ينشأ عن موظفين يؤدون المهمة الموكلة إليهم بشكل جيد، ولكن بطريقة لا تتناسب مع سياق الشركة.
ومن الأمثلة الواقعية على ذلك قطاع التجزئة أو التوزيع. يُكلف أحد الوكلاء بمهمة تقليل المخزون الراكد وتحسين معدل تحويل العروض الترويجية. فإذا لم يتم توضيح القيود المتعلقة بالهامش الربحي أو وضع العلامة التجارية أو الموسمية بشكل واضح، فقد يقترح خصومات مفرطة، أو يروج للمنتجات الخاطئة، أو يعتمد على بيانات غير كاملة. ومن الناحية الفنية، يكون قد أدى عمله بشكل صحيح. أما من الناحية التشغيلية، فقد تسبب في ضرر.
هناك ثلاث إشارات تستحق الاهتمام الفوري:
ولهذا السبب، يجب التعامل مع أمن الموظفين باعتباره أحد مجالات الإدارة التشغيلية. فمن الضروري تحديد الأهداف والحدود وإجراءات التصعيد والضوابط اللاحقة. وفي الشركات الإيطالية الأصغر حجماً، حيث تعمل أقسام تكنولوجيا المعلومات والعمليات والأعمال في تعاون وثيق، يمكن أن يصبح هذا الأمر ميزة تنافسية. فمن الممكن صياغة القواعد بسرعة أكبر، وتصحيح العمليات في وقت أبكر، كما أن عائد الاستثمار يكون أكثر وضوحاً إذا انطلقنا من حالات الاستخدام التي تتعلق بالبيانات والمدفوعات وعمليات الموافقة.
في شركة مالية، يقوم وكيل يعمل بالذكاء الاصطناعي بدعم فريق إدارة المخاطر من خلال جمع المعلومات من المعاملات وبيانات العملاء والتقارير الداخلية. وتتمثل مهمته في إحالة الحالات التي تستحق الاهتمام إلى المراجعين. ومن الناحية النظرية، فإن ذلك يسرع العمل. لكن في الواقع، إذا تلقى بيانات مزورة أو كان يعمل بأذونات واسعة النطاق للغاية، فقد يؤدي ذلك إلى تغيير أولويات عمليات المراجعة أو تقديم صورة غير كاملة.
نادراً ما يقتصر الضرر في هذا القطاع على قسم تكنولوجيا المعلومات. بل يمتد ليشمل الامتثال، والتدقيق، والسمعة، ووقت الاستجابة للسلطات أو للعملاء. ولهذا السبب، يمثل فقدان البيانات وتسريبها الشاغل الرئيسي لـ 83% من مسؤولي أمن المعلومات (CISO)، في حين تشير 53% من المؤسسات إلى أن وكلاء الذكاء الاصطناعي يتجاوزون صلاحياتهم، كما يتضح من استطلاع CSA-Zenity حول أمن وكلاء الذكاء الاصطناعي.
في قطاع التجزئة، يتخذ الخطر شكلاً مختلفاً. فقد يكون الوكيل مرتبطاً بالتسعير والمخزون وتحليلات التجارة الإلكترونية والحملات الترويجية. فإذا أخطأ في تفسير إحدى التعليمات، أو إذا تلاعب أحدهم ببياناته المدخلة، فإن ذلك يؤدي سريعاً إلى خصومات غير مجدية، أو تشكيلات غير متوازنة، أو كشف بيانات العملاء في التقارير ولوحات المعلومات.
هنا، تُعد السرعة عاملاً مضاعفاً. فإذا وقع خطأ في إجراء يدوي واحد، يظل تأثيره محدوداً. أما إذا وقع خطأ في وكيل متصل بعدة قنوات، فسوف يتكرر تأثيره على الكتالوج والمخزون والعروض الترويجية على مدار ساعات.
في قطاعي التمويل والتجزئة، لا يؤدي اختيار الوكيل غير المناسب إلى مجرد عطل تقني فحسب، بل يؤدي إلى اتخاذ قرار تجاري خاطئ، على نطاق أوسع وبشكل أسرع.
أولاً، يجب أن تكون حدود الصلاحيات محددة بدقة. فلا ينبغي أن يكون للموظف الذي يقوم بالتحليل صلاحية الموافقة أو النشر أو التعديل دون ضوابط إضافية.
والثاني هو أن الأمر يتطلب مراقبة السلوك، وليس فقط السجلات الفنية. ففي مجال الخدمات المالية، يعني ذلك مراقبة أي انحرافات في الأولويات، وحالات الاستثناء، وسير العمل الحساس. أما في مجال البيع بالتجزئة، فيعني مراقبة الأنماط الشاذة في الأسعار والمخزون والعروض الترويجية وعمليات الوصول إلى بيانات العملاء.
في النقاش الدائر حول المخاطر الأمنية المرتبطة بالذكاء الاصطناعي في المؤسسات، غالبًا ما يُتحدث وكأن جميع الشركات تمتلك مراكز عمليات أمنية (SOC) ناضجة، وعمليات منظمة، وميزانيات مخصصة. لكن الشركات الصغيرة والمتوسطة الإيطالية تعمل في واقع مختلف. فهي تعاني من نقص في الموظفين والوقت، وتستخدم مجموعات تطبيقات متنوعة، وتواجه ضغوطًا شديدة لتحقيق عائد سريع على الاستثمار.
ولهذا السبب، فإن الخطر ليس تقنيًا فحسب، بل تنظيمي أيضًا. وفقًا لتقرير صادر عن «كونفيندوستريا ديجيتالي» (Confindustria Digitale) عن الربع الأول من عام 2026، تستخدم 67% من الشركات الصغيرة والمتوسطة الإيطالية وكلاء الذكاء الاصطناعي، لكن 22% منها فقط طبقت نظامًا لإدارة الهويات الخاصة بهم. علاوة على ذلك، لاحظت AGID أن 45% من انتهاكات الذكاء الاصطناعي في الشركات الصغيرة والمتوسطة في لومباردي تنشأ عن وكلاء غير خاضعين للمراقبة، مع خسائر متوسطة تبلغ 150,000 يورو لكل حادثة، كما ورد في هذا التحليل المتعمق حول مخاطر وكلاء الذكاء الاصطناعي والآثار المحلية.
تُوضح هذه الأرقام توتراً إيطالياً نموذجياً. فالتبني يسير بخطى أسرع من الحوكمة. وعندما تنعدم أدنى درجات الانضباط فيما يتعلق بالهوية والرصد والملكية، تصبح الأتمتة مصدرَ مخاطر يصعب اكتشافه إلى أن يحدث عطل ما.
في الممارسة العملية، أواجه أربع نقاط ضعف متكررة:
بالنسبة للشركات الصغيرة والمتوسطة الإيطالية، من المفيد النظر إلى مسألة الحوكمة في ضوء التطورات التنظيمية الأوروبية، بما في ذلك الإطار الذي تمت مناقشته في تعليق ELECTE على قانون الذكاء الاصطناعي الأوروبي.
لا تحتاج الشركات الصغيرة والمتوسطة إلى نسخة من نموذج الشركات الكبرى. بل تحتاج إلى ضوابط سهلة الإدارة ومتناسبة مع حجمها. والأسئلة الصحيحة هي أسئلة ملموسة للغاية:
وإذا كانت هذه الإجابات غامضة، فإن الخطر ليس مجرد افتراض. بل إنه موجود بالفعل في الحل.
لا يهدف إطار العمل الجاد إلى إعاقة عملية التبني، بل إلى منعها من أن تصبح عملية يصعب التحكم فيها. فعندما تكون الحوكمة مبنية بشكل سليم، تكتسب الأعمال مزيدًا من السرعة لأنها تعرف العوامل التي يمكنها استخدامها، والبيانات التي يمكنها التعامل معها، والقيود المفروضة على ذلك.
القاعدة الأولى بسيطة: لا يمكنك التحكم في ما لا تعرف بوجوده. لا تكتشف العديد من الشركات وجود الوكلاء إلا عندما تضطر إلى التحقيق في سلوك غير عادي. يكون الوقت قد فات.
يجب أن يتضمن الجرد ما يلي:
القائمة المفيدة ليست مجرد قائمة ثابتة. يجب أن تتضمن أربعة عناصر على الأقل: المالك، ومصادر البيانات، والأدوات المرتبطة بها، ومستوى الأهمية.
هذا هو جوهر التحكم. يجب أن يكون لكل وكيل هويته الخاصة، منفصلة عن هوية المستخدم الذي أنشأه. فإذا حصل الوكيل على صلاحيات واسعة للغاية، فإن كل إجراء يقوم به ينطوي أيضًا على مخاطر.
القرارات السليمة في هذا الصدد عملية للغاية:
| خيار الحوكمة | التأثير |
|---|---|
| هوية مميزة لكل وكيل | تحديد واضح للمسؤوليات |
| الحد الأدنى من الأذونات لكل مهمة | تقليل الأثر في حالة حدوث خطأ |
| المراجعة الدورية لحقوق الوصول | الحد من توسع الصلاحيات |
ما لا يجدي نفعاً هو استخدام الحسابات المشتركة، أو الرموز الطويلة دون تغييرها، أو الأدوار العامة «للسهولة». فالراحة المبدئية تأتي على حساب فقدان الرؤية.
المبدأ التوجيهي: يجب أن يتمتع الموظف بحقوق وصول كافية لأداء عمله، وليس بحقوق وصول عامة «لتجنب التعطل».
السجلات الفنية مفيدة، لكنها لا تكفي. فالمطلوب هو نظام مراقبة يراقب السلوكيات. فإذا بدأ أحد الموظفين في الرجوع إلى مصادر غير معتادة، أو زاد حجم الطلبات، أو غيّر نمط عمله، فيجب أن يُطلق ذلك إنذارًا حتى لو كانت جميع بيانات الاعتماد صالحة من الناحية الشكلية.
يتضمن خطة التدقيق الجيدة ما يلي:
كما أن سهولة القراءة تلعب دوراً مهماً هنا. فإذا كان هناك فقط فني متمرس قادر على تفسير بيانات القياس عن بُعد، فإن الحوكمة تظل هشة.
أغلى خطأ هو الاعتقاد بأن مصطلح «تدخل الإنسان» يعني الموافقة على كل شيء يدويًّا. فهذا الأمر غير قابل للاستمرار. ولا تنجح الإشراف البشري إلا عندما يحدد عتبات للتدخل.
على سبيل المثال، يمكن للوكيل العمل بمفرده في المهام ذات التأثير المحدود، ولكن عليه التوقف عندما:
يجب تضمين هذا الإشراف في السياسات وتطبيقه في سير العمل. فلا يمكن أن يظل مجرد نية حسنة.
إذا كان فريقك لا يعرف من يحق له مقاطعة أحد الموظفين، فهذا يعني أنه لا توجد لديك حوكمة. ما لديك سوى أمل منظم.
في الشركات الصغيرة والمتوسطة الإيطالية، يجب أن تظل إجراءات الحد من المخاطر المتعلقة بوكلاء الذكاء الاصطناعي متناسبة. فالرقابة الخفيفة للغاية تعرض الشركة للخطر، بينما الرقابة المفرطة تعرقل المشروع قبل أن يحقق أي قيمة. والهدف الصحيح هو الحد من المخاطر التشغيلية من خلال تدابير يستطيع الفريق فعلاً الحفاظ عليها على المدى الطويل.
ولتحقيق ذلك، يجب أن يعمل قسم الأعمال وقسم تكنولوجيا المعلومات على أساس مشترك. فالقسم الفني على دراية بعمليات التكامل والسجلات والأذونات، بينما تتولى الإدارة تحديد الأولويات ومستويات المخاطر والميزانية. وإذا غاب أحد هذين القسمين، فإن الموظف ينتهي به الأمر إلى العمل في منطقة رمادية.
من المفيد البدء بمبادئ واضحة، مثل نهج "الأمان بدون ثقة" المطبق على الأنظمة الرقمية الحديثة، وترجمتها إلى ضوابط يسهل التحقق منها.
تُعد هذه القائمة أساسًا جيدًا كحد أدنى للوكلاء الذين يقرؤون بيانات الشركة، أو يستعلمون عن الأنظمة الداخلية، أو يُشغِّلون سير العمل.
هناك مجالان يتطلبان اهتمامًا مستمرًا. الأول هو «حقن المطالبات» (prompt injection)، الذي يغير سلوك الوكيل من خلال مدخلات تبدو مشروعة. والثاني هو التأثير المتسلسل بين الأدوات والأنظمة المتصلة. عمليًا، يمكن لخطأ بسيط في البداية أن ينتشر إلى أنظمة إدارة علاقات العملاء (CRM) أو تخطيط موارد المؤسسات (ERP) أو أنظمة إدارة التذاكر أو القنوات الخارجية، في حالة عدم وجود مرشحات أو قيود على التنفيذ أو عمليات تحقق من تدفق البيانات.
بالنسبة إلى الرئيس التنفيذي أو مدير العمليات أو مدير أحد الأقسام، فإن السؤال الصحيح لا يقتصر على ما إذا كان الموظف يؤدي مهامه أم لا. بل السؤال هو ما إذا كان هامش الخطأ لديه متوافقًا مع العملية التي يعمل ضمنها.
بالنسبة للعديد من الشركات الصغيرة والمتوسطة الإيطالية، فإن هذا الجانب هو الذي يحدد نجاح المشروع. لا داعي لتقليد نموذج الحوكمة الذي تتبعه البنوك الدولية. بل يجب فهم المجالات التي قد يؤدي فيها أي خطأ إلى خسارة مالية أو الإضرار بالسمعة أو عدم الامتثال، ووضع ضوابط أكثر صرامة في تلك المجالات.
يجب أن تُطرح ثلاثة أسئلة في كل لقاء مع الموردين أو شركات تكامل الأنظمة أو الفرق الداخلية:
لا يكون وكيل الذكاء الاصطناعي مفيدًا إلا إذا ظل قابلاً للتحكم حتى في حالة حدوث أخطاء أو تحت ضغط العمليات أو عند تلقي مدخلات معادية.
تعمل أنظمة الذكاء الاصطناعي بالفعل على تغيير الطريقة التي تحلل بها الشركات البيانات وتتخذ القرارات وتنفذ الأنشطة التشغيلية. ولا ينشأ الخطر من وجودها في حد ذاته، بل ينشأ عندما تتطور الاستقلالية وحقوق الوصول والحوكمة بسرعات مختلفة.
ولهذا السبب، يجب التعامل مع موضوع " مخاطر أمن وكلاء الذكاء الاصطناعي في المؤسسات " باعتباره مجالاً إدارياً بالإضافة إلى كونه مجالاً تقنياً. فوجود قائمة جرد واضحة، وهويات محددة بدقة، ومراقبة السلوك، والإشراف البشري الانتقائي، هي العناصر الأربعة التي تميز مشروعاً قابلاً للتطوير عن مصدر مستمر للتعرض للمخاطر.
تواجه الشركات الصغيرة والمتوسطة الإيطالية تحديًا إضافيًا. فهي بحاجة إلى تحقيق القيمة بسرعة دون إنشاء هياكل إدارية مرهقة. والحل لا يكمن في تقليد نماذج الشركات متعددة الجنسيات الكبرى، بل في تطبيق ضوابط أساسية وواضحة ومستدامة.
إخلاء المسؤولية: يقدم هذا المقال معلومات عامة ولا يُعد استشارة قانونية أو استشارة في مجال الامتثال.
إذا كنت ترغب في اعتماد حلول التحليلات ووكلاء الذكاء الاصطناعي بطريقة أكثر تحكماً، يمكنك الاطلاع على كيفية قيام ELECTE، وهي منصة تحليل بيانات مدعومة بالذكاء الاصطناعي مخصصة للشركات الصغيرة والمتوسطة، بمساعدة الفرق على تحويل البيانات إلى رؤى عملية من خلال تجربة سهلة الاستخدام، مصممة لتعزيز النمو دون إضافة تعقيدات لا داعي لها.
.svg)
.svg)
.svg)
