يحتاج وكلاء الذكاء الاصطناعي إلى سجلات تدقيق لأنهم لا يكتفون بتوليد النصوص؛ بل يمكنهم البحث في المعرفة الداخلية، واستدعاء واجهات API، وتحديث السجلات، وإرسال الرسائل، وتشغيل تدفقات العمل. سجل التدقيق المفيد يجب أن يوضح من بدأ المهمة، وما الهدف، وما الأدوات والبيانات التي وصل إليها الوكيل، وما الإجراءات التي حاول تنفيذها، وما الموافقات التي صدرت، وما النتيجة، وكيف انتهت المهمة. ولا ينبغي أن يفترض حفظ كل سؤال أو مستند أو حقل بيانات شخصية.

ما هو سجل تدقيق وكيل الذكاء الاصطناعي؟

سجل التدقيق هو الأدلة التي تسمح بإعادة بناء ما حدث في تشغيل الوكيل بعد انتهاء المهمة.

في روبوت محادثة بسيط، قد يكون نص المحادثة كافياً. أما في وكيل يستطيع التنفيذ، فلا يكفي. تحتاجون أيضاً إلى تسلسل استدعاءات النموذج، واستدعاءات الأدوات، والموافقات، وردود الأنظمة، والنتيجة النهائية.

توضح إرشادات OpenTelemetry حول مراقبة الذكاء الاصطناعي التوليدي المنشورة في 14 مايو 2026 أن الطلب الواحد قد يمر عبر عدة استدعاءات للنموذج والأدوات. ويمكن للتتبّع ربط هذه العمليات. كما يمكن تسجيل محتوى الأسئلة عند تفعيله صراحة، وهو مفيد للتشخيص لكنه يضيف مخاطر للخصوصية والأمن.

ما الحقول التي ينبغي تسجيلها في كل تشغيل؟

ابدؤوا ببيانات وصفية منظمة قبل التفكير في حفظ المحتوى الكامل.

في كل تشغيل، سجلوا:

  1. هوية التشغيل: معرف التتبّع ووقت البداية والنهاية والبيئة.
  2. الجهة والغرض: من بدأ المهمة وما عملية الأعمال المطلوبة.
  3. النموذج والأدوات: مسار النموذج وكل نظام أو وظيفة استُدعيت.
  4. هدف الإجراء: السجل أو المستلم أو المورد المتأثر.
  5. أحداث الموافقة: من وافق أو رفض ومتى.
  6. النتيجة: نجاح أو نجاح جزئي أو رفض أو مهلة أو فشل تحقق أو إلغاء.
  7. بيانات الأخطاء وإعادة المحاولة: ما يكفي لمنع تكرار الإجراء.
  8. إشارات السياسات: هل فُعلت قواعد أمان أو بيانات أو مراجعة أعلى؟

هل نسجل الأسئلة الكاملة والمستندات المسترجعة وإجابات النموذج؟

في العادة لا ينبغي أن يكون ذلك افتراضياً.

المحتوى الكامل مفيد عند تشخيص عطل معقد، أو تقييم الجودة، أو التحقيق في حادثة. لكنه قد يحتوي أيضاً أسماء عملاء، وأرقام هواتف، وعقوداً، وبيانات اعتماد، وأسعاراً داخلية، وبيانات صحية أو معلومات محمية أخرى.

تجعل إرشادات الخصوصية السعودية هذه المفاضلة واضحة. توضح إرشادات سدايا الحالية لنظام حماية البيانات الشخصية أن جهة التحكم ينبغي أن تجمع الحد الأدنى من البيانات الشخصية اللازمة للغرض، وأن تحتفظ بها فقط للمدة اللازمة، مع تطبيق الضمانات المناسبة والاحتفاظ بسجلات تثبت الالتزام. يمكن الرجوع إلى مركز المعرفة لحماية البيانات الشخصية والأنظمة واللوائح الحالية.

حوّلوا ذلك إلى قواعد هندسية: سجلوا الأداة ومعرف السجل والنتيجة أولاً، ولا تحفظوا المحتوى الكامل إلا لغرض محدد للتشخيص أو التقييم أو الالتزام، واحذفوا الأسرار والحقول الشخصية غير الضرورية، واجعلوا الآثار الأعلى حساسية أقصر احتفاظاً وأضيق صلاحية.

كيف تظهر الموافقات في السجل؟

يجب أن تكون الموافقة حدثاً مستقلاً وواضحاً، لا ملاحظة عامة تقول «تمت مراجعة بشرية».

تصف إرشادات OpenAI الحالية حول أمان ChatGPT agent التأكيد قبل الإجراءات عالية الأثر كإحدى وسائل الحماية. ويمكن تطبيق المبدأ نفسه على وكلاء الأعمال.

إذا كان الوكيل على وشك إرسال بريد، أو تغيير سجل عميل، أو تقديم طلب، فسجلوا:

  • الإجراء المقترح بدقة؛
  • النظام والسجل أو المستلم المستهدف؛
  • الحقول المهمة التي ستتغير؛
  • هوية صاحب الموافقة؛
  • قرار الموافقة وتوقيته؛
  • نتيجة التنفيذ بعد الموافقة.

بهذا يمكن التمييز بين اقتراح رفضه شخص، وإجراء تمت الموافقة عليه ثم فشل downstream، وإجراء نُفذ دون الموافقة المطلوبة—وهي مسارات حوادث مختلفة تماماً.

ماذا نتتبّع عبر الأدوات والأنظمة؟

امنحوا التشغيل معرف ارتباط واحداً، ومرروه عبر الوكيل وطبقة الأدوات والأنظمة المتصلة كلما كان ذلك عملياً.

مثلاً قد يستقبل وكيل خدمة العملاء تذكرة، ثم يسترجع مقالة معرفة، ويتحقق من طلب، ويقترح رداً مالياً، ويرسل الحالة إلى مشرف. يجب أن يربط التتبّع هذه الخطوات من دون أن يضطر المهندس إلى البحث في خمسة سجلات منفصلة.

يوضح عمل OpenTelemetry في 2026 كيف يمكن أن تظهر استدعاءات النموذج وعمليات execute_tool داخل التتبّع نفسه. لا يلزم اعتماد OpenTelemetry للاستفادة من الفكرة، لكن المعيار المشترك قد يقلل القياس المخصص. سجلوا أسماء العمليات والمعرفات بدلاً من نسخ الحمولة كاملة في كل حدث.

كيف تتعامل المنشآت السعودية مع الاحتفاظ والسجلات السحابية؟

تعاملوا مع بيانات قياس الوكلاء كبيانات أعمال خاضعة للحوكمة.

إذا كان التتبّع قد يحتوي بيانات شخصية أو مستندات داخلية أو أسراراً، فيجب أن يرث تصنيف البيانات وضوابط الوصول وفترات الاحتفاظ المطبقة على الأنظمة التي يراقبها.

كما يهم موقع الخدمة السحابية وطريقة إعدادها. تحدد ضوابط الأمن السيبراني للحوسبة السحابية (CCC–2:2024)، التي حُدثت في 31 يوليو 2025 الحد الأدنى من المتطلبات الأمنية لمقدمي الخدمات السحابية والمستفيدين منها، بما في ذلك تحديثات مرتبطة بمتطلبات توطين البيانات. كما أصدرت الهيئة الوطنية للأمن السيبراني ضوابط الأمن السيبراني لجهات القطاع الخاص من غير ذوات البنى التحتية الحساسة (NCNICC–1:2025) في 28 ديسمبر 2025 كحد أدنى لهذه الجهات.

الالتزامات الدقيقة تختلف بحسب المنشأة والقطاع ونوع البيانات. قبل الإنتاج، حددوا أين تُخزن بيانات التتبّع، ومن يستطيع قراءتها، وكم تبقى، وكيف تُحذف. هذه إرشادات تقنية وليست استشارة قانونية أو تنظيمية.

مثال افتراضي: وكيل للحسابات المدينة

تخيلوا موزعاً سعودياً يستخدم وكيلاً لمراجعة الفواتير المتأخرة وإعداد رسائل متابعة.

التصميم الضعيف يحفظ سجل CRM كاملاً، وملف الفاتورة، وتاريخ رسائل العميل، وكل أسئلة النموذج لمدة 12 شهراً.

أما التصميم الأفضل فيسجل معرف التشغيل، والموظف الذي طلب المهمة، ومعرف العميل، ومعرف الفاتورة، ومسار النموذج، والأدوات التي استُدعيت، وما إذا كان استرجاع الفاتورة نجح، وفئة المبلغ، وما إذا تم إعداد مسودة بريد، وهل وافق شخص عليها، وهل نجح API الإرسال، ومعرف الرسالة النهائي. وتبقى الفاتورة ونص البريد في أنظمتهما الأصلية.

إذا احتاج الفريق إلى تشخيص أعمق، يستطيع محقق مخول استرجاع المصدر باستخدام المعرفات أو تفعيل تتبّع عالي التفاصيل لفترة قصيرة خلال اختبار مضبوط. وهكذا يبقى سجل التدقيق مفيداً من دون أن يصبح نسخة ثانية من قاعدة العملاء.

متى نطلق تنبيهاً؟

تصبح سجلات التدقيق أكثر فائدة عندما تقود إلى الاكتشاف، لا إلى التحقيق بعد الحادث فقط.

أنشئوا تنبيهات لأنماط مثل تكرار استدعاءات الأدوات المرفوضة، أو محاولة الوصول إلى أنظمة خارج النطاق المعتاد، أو ارتفاع غير طبيعي في التصدير، أو غياب حدث الموافقة، أو تكرار المحاولة بعد عملية كتابة غير مؤكدة، أو ارتفاع مفاجئ في أخطاء الأدوات، أو تغير مسار النموذج، أو سلاسل إجراءات طويلة بشكل غير معتاد.

يشدد مركز موارد الذكاء الاصطناعي لدى NIST على الاختبار والتقييم والتحقق والتحقق من الصحة. ومراجعة التتبّع تساعد على معرفة ما إذا كانت ضوابط الوكيل تعمل فعلاً في الاستخدام.

قائمة عملية قبل الإطلاق

قبل التشغيل، تأكدوا من حصول كل مهمة على معرف تتبّع فريد؛ وإمكانية إسناد الهوية؛ وتسجيل الأدوات والنتائج؛ ووضوح أحداث الموافقة؛ وأن إعادة المحاولة لا تكرر الإجراءات؛ وحذف الأسرار؛ وتقليل الحقول الشخصية؛ وتحديد الاحتفاظ حسب تصنيف البيانات؛ وتقييد الوصول إلى السجلات الحساسة؛ ووجود تنبيهات للسلوك غير الطبيعي.

ثم اختبروا السجل نفسه. اختاروا تشغيلًا ناجحاً، وإجراءً مرفوضاً، وانتهاء مهلة، وتشغيلاً ألغاه شخص. هل يستطيع مهندس إعادة بناء ما حدث من دون كشف بيانات عميل لا يحتاج إليها؟ إذا لم يستطع، فتصميم التسجيل غير مكتمل.

أسئلة شائعة

هل نحتاج نص المحادثة كاملاً لأغراض الالتزام؟

ليس بالضرورة. نوع السجل يعتمد على الغرض والالتزامات المطبقة. في أنظمة كثيرة توفر بيانات الأحداث المنظمة مع مراجع للسجلات الأصلية مساءلة أفضل مع تكرار أقل للبيانات.

هل ينبغي أن يقرأ المطورون كل سجلات الوكلاء؟

لا. يجب أن يتبع الوصول الدور والحاجة. آثار الإنتاج التي قد تحتوي بيانات شخصية أو سرية لا ينبغي أن تتحول إلى قناة تصحيح متاحة للجميع.

هل المراقبة هي نفسها سجل التدقيق؟

بينهما تداخل، لكنهما ليسا الشيء نفسه. المراقبة تساعد على تفسير سلوك النظام وأدائه؛ أما سجل التدقيق فيركز على الأحداث القابلة للمساءلة. ويمكن لمنصة وكيل جيدة أن تستخدم معرف التتبّع نفسه في الاثنين مع تطبيق سياسات مختلفة للاحتفاظ والوصول.

كيف يمكن لمسار نيكست المساعدة؟

إذا كنتم تصممون مساعداً داخلياً أو سير عمل لوكيل، يمكن لخدمة حلول الذكاء الاصطناعي من مسار نيكست المساعدة في تحديد حدود التكامل ونموذج الموافقة ومتطلبات المراقبة. وإذا كان الوكيل يجيب من مستندات داخلية، فراجعوا أيضاً دليلنا حول اختبار المصادر في مساعد RAG ثنائي اللغة.

ناقشوا سير عمل الذكاء الاصطناعي مع مسار نيكست.

المصادر

ملاحظة تحريرية: أُعدت هذه المقالة بمساعدة الذكاء الاصطناعي، وتم التحقق من المعلومات الواردة فيها مقابل المصادر الأولية المرتبطة أعلاه. ولا يُدّعى أنها خضعت لمراجعة خبير بشري أو مراجعة قانونية أو تنظيمية.