الذكاء الاصطناعي للمحامين: دودة ذاتية الانتشار تهدد Microsoft Copilot

كشف باحث أمني عن دودة ذاتية الانتشار تستغل Microsoft Copilot داخل مستندات Word، مستفيدة من تقنيات حقن الأوامر (prompt injection) للانتشار بشكل مستقل، مما يشكل تحديًا جديدًا وكبيرًا للأمن السيبراني للمحامين الذين يعتمدون على أدوات الذكاء الاصطناعي لمعالجة المستندات.

• ثغرة أمنية جديدة: يمكن لدودة ذاتية الانتشار أن تتسلل إلى Microsoft Copilot لبرنامج Word، وتنتشر من خلال استخدام المستندات.
• تعليمات مخفية: يستخدم الهجوم نصًا غير مرئي داخل المستندات التي يعالجها Copilot، وينفذ أوامر ضارة.
• خطر على سير العمل القانوني: قد تعرض هذه الثغرة الأمنية المستندات القانونية الحساسة، ومراجعة العقود بالذكاء الاصطناعي، ومخرجات البحث القانوني للخطر.
• مشكلة لم تُحل: لا يزال حقن الأوامر (prompt injection) يمثل تحديًا أساسيًا لأمن الذكاء الاصطناعي، ولا يوجد حل فوري من Microsoft لهذا الاستغلال المحدد.

فهم دودة الذكاء الاصطناعي ذاتية الانتشار

أظهر الباحث الأمني هاكون مالوي (Håkon Måløy) مؤخرًا طريقة جديدة لدودة ذاتية الانتشار للعمل داخل Microsoft Copilot لبرنامج Word. تستخدم هذه الطريقة الهجومية المتطورة حقن الأوامر (prompt injection)، حيث يتم تضمين تعليمات ضارة داخل مستند بطريقة غير مرئية للعين البشرية ولكن يمكن للذكاء الاصطناعي اكتشافها بالكامل. تتضمن طريقة مالوي إخفاء هذه التعليمات باستخدام تقنيات تنسيق دقيقة، مثل النص الأبيض على خلفية بيضاء أو أحجام الخطوط الصغيرة جدًا. عندما يستخدم المستخدم مثل هذا المستند المخترق كمصدر لإنشاء محتوى جديد عبر Copilot، يقوم الذكاء الاصطناعي بمعالجة هذه الأوامر المخفية، ونسخها عن غير قصد إلى الملف الذي تم إنشاؤه حديثًا. تحول هذه العملية المستند الجديد بشكل فعال إلى ناقل آخر، جاهز لنشر الدودة بشكل أكبر.

الآثار المترتبة على ذلك بعيدة المدى. تخيل سيناريو حيث يحتوي مستند تحليل سوق يبدو غير ضار، تم تنزيله من مصدر خارجي، على هذه التعليمات المخفية. إذا استخدم محامٍ هذا المستند كنقطة مرجعية لصياغة تقرير مالي باستخدام Microsoft Copilot، فإن الأمر الضار (malicious prompt) يمكن أن يتلاعب بمحتوى التقرير أو يدمج نفسه، مما يؤدي لاحقًا إلى إصابة تقارير أخرى أو مذكرات قانونية مشتقة منه. تسلط هذه الآلية الضوء على ثغرة أمنية حرجة في كيفية تفسير نماذج الذكاء الاصطناعي للمواد المصدر ومعالجتها.

ماذا يعني هذا بالنسبة للذكاء الاصطناعي للمحامين؟

بالنسبة للمحامين، يمثل ظهور دودة ذكاء اصطناعي ذاتية الانتشار ضمن منصة مستخدمة على نطاق واسع مثل Microsoft Copilot طبقة جديدة ومعقدة من المخاطر. يتعامل المهنيون القانونيون بشكل متكرر مع معلومات حساسة وسرية للغاية، بدءًا من اتصالات العملاء وصولاً إلى بنود العقود الخاصة واستراتيجيات التقاضي. تم تصميم الأدوات التي تقدم الذكاء الاصطناعي للمحامين، مثل تلك التي تساعد في مراجعة العقود بالذكاء الاصطناعي، والبحث القانوني بالذكاء الاصطناعي، أو تحليل المستندات العامة بالذكاء الاصطناعي، لتعزيز الكفاءة والدقة. ومع ذلك، إذا تعرضت المستندات الأساسية التي يعالجونها للاختراق عن طريق حقن الأوامر (prompt injection)، فقد يتم تقويض نزاهة وسرية العمل القانوني بشكل خطير.

يمكن أن يؤدي المستند التالف إلى ملخصات قضايا متلاعب بها، أو شروط تعاقدية معدلة، أو حتى تسريب بيانات حساسة إذا كانت الأوامر المخفية مصممة لهذه الأغراض. يجب على مبادرات الذكاء الاصطناعي في مكاتب المحاماة، التي تهدف إلى تبسيط العمليات والاستفادة من التحليلات المتقدمة، أن تتعامل الآن مع احتمال أن تصبح أدوات الذكاء الاصطناعي نفسها ناقلات للهجمات الضارة. يعني الاعتماد على الذكاء الاصطناعي في العناية الواجبة، والاكتشاف الإلكتروني، وفحوصات الامتثال أن أي ثغرة أمنية في هذه الأنظمة يمكن أن تكون لها عواقب قانونية وسمعة كبيرة على الشركة.

استجابة Microsoft ومشهد أمن الذكاء الاصطناعي الأوسع

أقرت Microsoft بالسلوك المبلغ عنه في 31 مارس، مؤكدة صحة نتائج مالوي. على الرغم من محاولتين لترقيع الثغرة الأمنية، لم يتم التوصل إلى حل نهائي بعد 144 يومًا، مما دفع مالوي إلى الكشف علنًا عن بحثه مع حجب نص الحمولة المحدد بمسؤولية. يؤكد هذا الوضع تحديًا أوسع داخل صناعة الذكاء الاصطناعي: لا تزال هجمات حقن الأوامر (prompt injection) مشكلة أمنية لم تُحل.

تنبع صعوبة التخفيف من هذه الهجمات من طبيعة نماذج اللغة الكبيرة (LLMs) مثل تلك التي تشغل Copilot، والتي تم تصميمها لتفسير تعليمات اللغة الطبيعية والتصرف بناءً عليها. يعد التمييز بين أوامر المستخدم المشروعة والأوامر المضمنة بشكل ضار دون إعاقة الوظائف الأساسية للذكاء الاصطناعي مهمة معقدة. كانت هذه المشكلة المستمرة موضوع نقاش بين باحثي الذكاء الاصطناعي، حيث تمنى البعض، مثل أندرياس كيرش (Andreas Kirsch)، مازحين وجود مثال ملموس مثل هذه الدودة لتسليط الضوء على المخاطر الملموسة لثغرات أمن الذكاء الاصطناعي للمتشككين.

حماية سير عمل الذكاء الاصطناعي القانوني: خلاصة عملية للمحامين

نظرًا للطبيعة المستمرة لثغرات حقن الأوامر (prompt injection)، يجب على المحامين والفرق القانونية اعتماد نهج استباقي وحذر عند دمج أدوات الذكاء الاصطناعي في ممارساتهم. في حين أن أدوات الذكاء الاصطناعي المتقدمة للمحامين مثل Harvey AI و Clio و ContractPodAi و Lex Machina أو Spellbook تقدم فوائد لا يمكن إنكارها، فإن تنفيذها الآمن أمر بالغ الأهمية. الخلاصة العملية لكل محامٍ هي تطبيق بروتوكولات صارمة لنظافة المستندات والحفاظ على شك صحي فيما يتعلق بمصدر وسلامة جميع المستندات الرقمية، وخاصة تلك التي يتم الحصول عليها من مصادر خارجية.

يشمل ذلك التحقق من مصدر المستندات، والتدقيق في أي مخرجات غير متوقعة من أدوات الذكاء الاصطناعي، ووضع إرشادات داخلية لاستخدام الذكاء الاصطناعي تعطي الأولوية للأمن. يجب على الشركات أن تفكر في عزل عمليات الذكاء الاصطناعي (sandboxing) مع المستندات غير الموثوق بها، وتطبيق فحوصات أمنية متعددة الطبقات، والتأكد من أن الإشراف البشري يظل مكونًا حاسمًا في أي سير عمل مدعوم بالذكاء الاصطناعي. مع استمرار تطور الذكاء الاصطناعي، ستتطور أيضًا أساليب الهجوم، مما يستلزم يقظة وتكيفًا مستمرين من المجتمع القانوني لحماية المعلومات الحساسة والحفاظ على الثقة في عملياتهم المدعومة بالذكاء الاصطناعي.