يعد إطلاق الناطق الرقمي (فرح) خطوة مهمة في توظيف الذكاء الاصطناعي في العمل الحكومي، لكنها تفتح سؤالاً لا يقل أهمية عن التقنية نفسها: ماذا لو أخطأت (فرح) في معلومة؟ أو فسّرت قراراً حكومياً بصورة خاطئة؟ أو نسبت إلى الحكومة سياسة لم تعتمدها؟ وهنا تبدأ المسألة القانونية فالذكاء الاصطناعي، مهما بلغت قدرته، لا يملك شخصية قانونية مستقلة يمكن مساءلتها، وبالتالي، لا يمكن أن تكون الإجابة: فرح أخطأت وانتهى الأمر، فالآلة أداة تستخدمها الإدارة، وليس بديلاً عن المسؤولية البشرية والمؤسسية.

لكن المسؤولية أيضاً لا تُلقى تلقائياً على الجهة الحكومية لمجرد حدوث الخطأ؛ بل ينبغي البحث في سلسلة المسؤولية: من أدخل المعلومة؟ من اعتمدها؟ من كان مسؤولاً عن مراجعتها؟ من سمح للنظام بتقديمها للجمهور؟ وهل ترتب على الخطأ ضرر فعلي؟ وما علاقة ذلك الضرر بالمعلومة الخاطئة؟

وتزداد حساسية المسألة عندما تتحدث (فرح) باسم الحكومة، فالمواطن لا يتعامل مع كلام الناطق الرقمي الحكومي باعتباره رأياً صادراً عن آلة، بل باعتباره معلومة رسمية، ومن هنا لا ينبغي أن تتحول عبارة الذكاء الاصطناعي أخطأ إلى ذريعة للتنصل من المسؤولية.

لذلك، فإن نجاح تجربة(فرح) الذي نتمناه، لا يقاس فقط بقدرتها على الإجابة بسرعة، وإنما بوجود منظومة واضحة للحوكمة مثل مراجعة بشرية للمعلومات الحساسة، تحديث مستمر للمعلومات، تصحيح سريع للأخطاء، وحق المواطن في معرفة الجهة التي يلجأ إليها إذا ترتب على الخطأ ضرر، السؤال الحقيقي إذن ليس: هل يمكن أن يخطئ الذكاء الاصطناعي؟ نعم، يمكن، بل السؤال الأهم هو: هل حددنا مسبقاً من يتحمل المسؤولية عندما يخطئ؟

فالذكاء الاصطناعي قد يجعل الإدارة أكثر كفاءة، لكنه يجب ألا يجعل المسؤولية أكثر غموضاً، كلما زادت قدرة الآلة على الحديث باسم الدولة، وجب أن تكون المسؤولية البشرية والمؤسسية خلفها أكثر وضوحاً.