التنقل في مراقبة الذكاء الاصطناعي: دليل للمهنيين الحكوميين

تقترب إدارة إصلاحيات مدينة نيويورك (NYC DOC) من تجديد عقد اتصالات بقيمة 23 مليون دولار مع Securus Technologies، وهي خطوة تسلط الضوء على اعتبارات حاسمة لجميع المهنيين الحكوميين الذين يستفيدون من أدوات الذكاء الاصطناعي. وقد أثار هذا التجديد، الخاص بخدمات مكالمات الصوت والفيديو للسجناء، جدلاً كبيراً بسبب استخدام Securus للذكاء الاصطناعي لمراقبة المكالمات بحثًا عن نشاط إجرامي، مما يثير مخاوف واسعة النطاق بشأن الخصوصية والمراقبة الشاملة التي تمتد إلى أصدقاء وأفراد عائلة الأفراد.

ما يعنيه هذا للمهنيين الحكوميين: تمثل مفاوضات العقد الجارية هذه دراسة حالة حيوية للمهنيين الحكوميين عبر مختلف الإدارات، من السلامة العامة والمشتريات إلى الخدمات القانونية والاجتماعية. وهي تؤكد على التوازن المعقد بين الكفاءة التشغيلية، وتفويضات السلامة العامة، وحماية الحريات المدنية في العصر الرقمي. بالنسبة للمهني المهني الحكومي، فإن فهم آثار نشر أدوات الذكاء الاصطناعي يعني التنقل في التدقيق العام، وضمان الامتثال القانوني، والحفاظ على ثقة الجمهور.

العقد المقترح لمدة 5 سنوات بقيمة 23,235,000 دولار، والذي سيستمر حتى عام 2031، يثير أسئلة حرجة حول استراتيجية الذكاء الاصطناعي طويلة الأجل، ومسؤولية البائعين، والتأثير الاجتماعي والأخلاقي لحلول الذكاء الاصطناعي، خاصة في البيئات الحساسة. وأشار المتحدث باسم إدارة الإصلاحيات إلى أن التمديد يهدف إلى “ضمان قدرة الأشخاص الذين في رعايتنا على الحفاظ على الروابط مع أحبائهم”، مما يدل على الغرض المزدوج المرتبط غالبًا بهذه التقنيات.

أدانت جماعات المناصرة مثل مشروع الإشراف على تكنولوجيا المراقبة (STOP) و Brooklyn Defender Services بشدة العقد، مؤكدة أن خدمات مراقبة المكالمات بالذكاء الاصطناعي التابعة لـ Securus توسع قدرات المراقبة إلى ما وراء مرافق الإصلاح لاستهداف المجتمعات. ومما يزيد الأمر تعقيدًا تكامل Securus مع Palantir، وهي شركة تحليل بيانات الذكاء الاصطناعي معروفة بشراكاتها مع وكالات مثل دائرة الهجرة والجمارك (ICE). يثير هذا الارتباط مخاوف خاصة بالنسبة للبلديات التي تم تعريفها كمدن ملاذ، مما يجبر المهنيين الحكوميين على النظر فيما إذا كانت تطبيقات الذكاء الاصطناعي الخاصة بهم تتماشى مع سياسات المدينة الأوسع وقيم المجتمع.

يوضح النقاش الحاجة الماسة إلى إشراف قوي وأطر أخلاقية شفافة عند دمج أدوات الذكاء الاصطناعي المتقدمة للعمليات الحكومية، لا سيما تلك التي تتضمن بيانات شخصية حساسة أو قد تنتهك حقوق الخصوصية.

أدوات الذكاء الاصطناعي التي يجب معرفتها: في عالم الذكاء الاصطناعي في القطاع العام، تقدم العديد من المنصات وظائف قد يواجهها المهنيون الحكوميون أو يفكرون فيها. Palantir، كما هو مذكور، هو منصة لتحليل البيانات تستخدم على نطاق واسع للتكامل المعقد وتحليل البيانات، وغالبًا في قطاعات الدفاع والاستخبارات، ولكن تطبيقها في سياقات الإصلاح يثير علامات حمراء خاصة تتعلق بالخصوصية.

بالنسبة للوكالات التي تبحث عن أدوات ذكاء اصطناعي أكثر تحكمًا وتوجيهًا أخلاقيًا، توفر منصات مثل IBM Watson Government و Microsoft Azure Government AI بيئات سحابية آمنة مصممة للاستخدام الحكومي. تؤكد هذه الخدمات على الامتثال، وسيادة البيانات، وغالبًا ما تتضمن ميزات للذكاء الاصطناعي القابل للتفسير، والذي يمكن أن يكون حاسمًا للشفافية والمساءلة عند نشر أدوات الذكاء الاصطناعي للقرارات الحكومية.

في حين أن التخطيط الحضري بالذكاء الاصطناعي قد يركز على التحليلات التنبؤية لحركة المرور أو تخصيص الموارد، والذكاء الاصطناعي للمدن الذكية على البنية التحتية، فإن المبادئ الأساسية لحوكمة البيانات، وحماية الخصوصية،