Навигация в сфере надзора с помощью ИИ: Руководство для государственных служащих

Департамент исправительных учреждений Нью-Йорка (NYC DOC) приближается к продлению телекоммуникационного контракта на 23 миллиона долларов с Securus Technologies, что подчеркивает важные моменты для всех государственных служащих, использующих инструменты искусственного интеллекта. Это продление, касающееся услуг голосовой и видеосвязи для заключенных, вызвало значительные споры из-за использования Securus ИИ для мониторинга звонков на предмет преступной деятельности, что вызвало широкие опасения по поводу конфиденциальности и повсеместного надзора, распространяющегося на друзей и членов семей заключенных.

Что это означает для государственных служащих. Эти продолжающиеся переговоры по контракту служат важным примером для государственных служащих различных ведомств, от общественной безопасности и закупок до юридических и социальных служб. Они подчеркивают сложный баланс между операционной эффективностью, мандатами общественной безопасности и защитой гражданских свобод в цифровую эпоху. Для государственного служащего понимание последствий использования инструментов ИИ означает навигацию в общественном внимании, обеспечение соответствия законодательству и поддержание общественного доверия. Предлагаемый 5-летний контракт на сумму 23 235 000 долларов США, рассчитанный до 2031 года, вызывает критические вопросы о долгосрочной стратегии ИИ, ответственности поставщиков и социально-этическом воздействии решений ИИ, особенно в чувствительных средах. Представитель DOC указал, что продление срока действия необходимо «для обеспечения того, чтобы люди, находящиеся под нашей опекой, могли поддерживать связь с близкими», демонстрируя двойное назначение, часто связанное с такими технологиями.

Группы по защите прав, такие как Surveillance Technology Oversight Project (STOP) и Brooklyn Defender Services, решительно осудили контракт, утверждая, что услуги мониторинга звонков с использованием ИИ от Securus расширяют возможности наблюдения за пределами исправительных учреждений, нацеливаясь на сообщества. Ситуацию еще больше осложняет интеграция Securus с Palantir, компанией, занимающейся анализом данных с помощью ИИ, известной своим сотрудничеством с такими агентствами, как Иммиграционная и таможенная служба (ICE). Эта связь вызывает особые опасения у муниципалитетов, обозначенных как города-убежища, заставляя государственных служащих рассматривать, соответствуют ли их внедрения ИИ более широким городским политикам и ценностям сообщества. Дискуссия иллюстрирует критическую потребность в надежном надзоре и прозрачных этических рамках при интеграции передовых инструментов ИИ для государственных операций, особенно тех, которые связаны с конфиденциальными личными данными или потенциально нарушают права на конфиденциальность.

Инструменты ИИ, которые стоит знать. В сфере ИИ государственного сектора существует несколько платформ, предлагающих функциональные возможности, с которыми государственные служащие могут столкнуться или рассмотреть. Palantir, как отмечалось, является платформой для аналитики данных, широко используемой для сложной интеграции и анализа данных, часто в оборонном и разведывательном секторах, но ее применение в исправительных учреждениях вызывает определенные опасения по поводу конфиденциальности. Для агентств, ищущих более контролируемые и этически управляемые инструменты искусственного интеллекта, платформы, такие как IBM Watson Government и Microsoft Azure Government AI, предоставляют безопасные облачные среды, адаптированные для государственного использования. Эти услуги подчеркивают соответствие требованиям, суверенитет данных и часто включают функции для объяснимого ИИ, что может иметь решающее значение для прозрачности и подотчетности при развертывании инструментов ИИ для принятия государственных решений. В то время как городское планирование с использованием ИИ может быть сосредоточено на предиктивной аналитике для распределения трафика или ресурсов, а ИИ для умных городов — на инфраструктуре, основополагающие принципы управления данными, защиты конфиденциальности,