مع تزايد قوة نماذج الذكاء الاصطناعي، تتسع أيضًا احتمالات إساءة استخدامها، ما يدفع شركات التكنولوجيا إلى تطوير آليات أمان أكثر صرامة للحد من الاستخدامات الضارة.

وفي المقابل، تواجه هذه الشركات معادلة صعبة تتمثل في مراقبة الاستخدام لرصد المخاطر المحتملة، مع الحفاظ في الوقت نفسه على خصوصية بيانات عملائها من الشركات والمؤسسات.

وفي محاولة لتعزيز تفوقها على منافستها "أنثروبيك"، أعلنت "OpenAI" توجهًا جديدًا يركز على حماية الخصوصية عند مراقبة إساءة استخدام نماذج الذكاء الاصطناعي.

وكشفت الشركة عن خدمة جديدة تختبرها حاليًا مع عدد محدود من العملاء، تحمل اسم Private Safety Processing، وهي نظام آلي مصمم لرصد مؤشرات إساءة الاستخدام المحتملة، مع عدم الاحتفاظ بأي من بيانات العملاء، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

خصوصية البيانات في مواجهة سياسات "أنثروبيك"

يتعارض نهج "OpenAI" الجديد بشكل واضح مع سياسة الاحتفاظ بالبيانات التي أعلنتها "أنثروبيك" مؤخرًا، والتي أثارت مخاوف لدى بعض عملائها.

وبموجب هذه السياسة، تحتفظ "أنثروبيك" ببيانات المستخدمين، بما في ذلك جلساتهم ومحادثاتهم، لمدة 30 يومًا عند استخدام ما تسميه الشركة "النماذج المشمولة".

وتشمل هذه الفئة جميع نماذج Mythos، إلى جانب "النماذج المستقبلية ذات القدرات المماثلة".

وأعلنت "أنثروبيك" هذه السياسة في يوليو الماضي لأغراض تتعلق بالسلامة، إذ تتيح للشركة فحص وتحليل الأنشطة التي قد تنطوي على إساءة استخدام.

لكن السياسة أثارت قلق بعض المؤسسات التي تتعامل مع كميات ضخمة من البيانات الحساسة، ولا ترغب في تخزين هذه المعلومات لدى شركة الذكاء الاصطناعي أو السماح بفحصها.

"OpenAI" توسّع نطاق "الاحتفاظ الصفري بالبيانات"

وتوفر "OpenAI"، مثل معظم شركات الذكاء الاصطناعي الأخرى، مستوى مرتفعًا نسبيًا من الخصوصية لعملائها من خلال سياسة تُعرف باسم Zero Data Retention (ZDR)، أو "الاحتفاظ الصفري بالبيانات".

وتعتمد هذه السياسة على وكلاء داخل واجهة برمجة التطبيقات الخاصة بـ"OpenAI" لمراقبة إساءة الاستخدام على مستوى كل جلسة بشكل منفصل. وبذلك، لا تحتفظ الشركة ببيانات العملاء، في الوقت الذي تظل فيه المؤسسات قادرة على رصد الأنشطة الضارة تلقائيًا ومن دون تدخل بشري.

وتجدر الإشارة إلى أن "أنثروبيك" تلتزم أيضًا إلى حد كبير بسياسة الاحتفاظ الصفري بالبيانات، باستثناء ما يتعلق بـ "النماذج المشمولة"، مثل Fable.

لكن "OpenAI" تقول إن Private Safety Processing تمثل تقنية جديدة توسع نطاق سياسة ZDR، إذ تصفها بأنها شكل من أشكال المراقبة الأمنية طويلة الأمد، التي تستطيع تقييم مدخلات ومخرجات محادثات متعددة بدلًا من تحليل جلسة واحدة فقط.

وتتم عملية المراقبة كذلك بواسطة وكيل آلي، وفي حال اكتشاف مؤشرات تستدعي الانتباه، يمكن للنظام رصد التفاعلات وتحليلها عبر جلسات مختلفة بحثًا عن علامات محتملة على إساءة الاستخدام.

رصد الهجمات الإلكترونية دون الاطلاع على محادثات المستخدمين

وقال متحدث باسم "OpenAI" إن التقنية الجديدة تساعد الشركة على اكتشاف الاستخدامات الخبيثة للذكاء الاصطناعي التي تمتد عبر عدة جلسات.

على سبيل المثال، قد يحاول شخص يخطط لتنفيذ هجوم إلكتروني وتطوير برمجيات خبيثة توزيع طلباته على عدة محادثات وجلسات لتجنب اكتشاف سلوكه.

وتتيح Private Safety Processing تحليل هذه المحادثات المتعددة للبحث عن مؤشرات إساءة الاستخدام، من دون الحاجة إلى مراجعة بشرية لمحادثات المستخدم.

وفي حال تفعيل النظام، قد يرسل إلى "OpenAI" "إشارة محددة بدقة" تحذر من نوع معين من النشاط، وفقًا للشركة.

وبناءً على هذه الإشارة، يمكن لـ"OpenAI" تحديد ما إذا كانت هناك حاجة إلى اتخاذ إجراءات بحق المستخدم أو المؤسسة.

وفي هذه الحالة، قد تتواصل الشركة مع العميل للحصول على مزيد من المعلومات أو التعاون معه لمعالجة المشكلة.

كما يمكن للعميل، وفقًا للمتحدث، أن يقرر طواعية مشاركة بياناته مع "OpenAI" إذا رأى أن ذلك ضروري.

"أنثروبيك" تسمح بالمراجعة البشرية وفق ضوابط مشددة

في المقابل، توضح "أنثروبيك" أن مراجعة بيانات العملاء من جانب البشر قد تحدث، لكنها تتم فقط عبر "مسار وصول خاضع للرقابة"، ويقتصر على مجموعة صغيرة من المراجعين المعتمدين.

وتقول الشركة إن كل جلسة من جلسات المراجعة يتم تسجيلها في سجل محمي ضد العبث، ولا يستطيع المراجعون إخفاء محتوياته أو تعديله.

منافسة متصاعدة بين "OpenAI" و"أنثروبيك"

ويأتي إعلان "OpenAI" في وقت تشهد فيه المنافسة بينها وبين "أنثروبيك" تصاعدًا ملحوظًا، مع سعي كل شركة إلى انتزاع أي ميزة ممكنة من منافستها في سوق الذكاء الاصطناعي سريع النمو.

وأظهر تقرير حديث أن نمو إيرادات "OpenAI" خلال الربع الثاني كان أبطأ من نمو "أنثروبيك"، بينما يُقال إن معدل الإيرادات السنوي لـ "أنثروبيك" وصل حاليًا إلى نحو 65 مليار دولار.

كما يرى مستثمرو "أنثروبيك" أن الشركة قد تطرح أسهمها للاكتتاب العام بتقييم يصل إلى 2 تريليون دولار، في الوقت الذي تستعد فيه "OpenAI" أيضًا لطرح عام أولي محتمل.

ويعكس إطلاق Private Safety Processing جانبًا جديدًا من المنافسة بين الشركتين، إذ تحاول "OpenAI" تقديم معادلة تجمع بين تشديد الرقابة على إساءة استخدام الذكاء الاصطناعي والحفاظ على خصوصية بيانات العملاء، خصوصًا المؤسسات التي تتعامل مع معلومات شديدة الحساسية.