Navegando la Vigilancia con IA: Una Guía para Profesionales Gubernamentales

El Departamento de Corrección de la Ciudad de Nueva York (NYC DOC) está cerca de renovar un contrato de telecomunicaciones de $23 millones con Securus Technologies, una medida que resalta consideraciones cruciales para todos los Profesionales Gubernamentales que utilizan herramientas de inteligencia artificial. Esta renovación, para servicios de llamadas de voz y video para reclusos, ha generado un debate significativo debido al uso de IA por parte de Securus para monitorear llamadas en busca de actividades delictivas, lo que plantea preocupaciones generalizadas sobre la privacidad y la vigilancia omnipresente que se extiende a amigos y familiares de los individuos.

Qué Significa Esto para los Profesionales Gubernamentales Esta negociación de contrato en curso sirve como un estudio de caso vital para Profesionales Gubernamentales de varios departamentos, desde seguridad pública y adquisiciones hasta servicios legales y sociales. Subraya el intrincado equilibrio entre la eficiencia operativa, los mandatos de seguridad pública y la protección de las libertades civiles en la era digital. Para un Profesional Gubernamental, comprender las implicaciones de implementar herramientas de IA significa navegar el escrutinio público, garantizar el cumplimiento legal y mantener la confianza pública. El contrato propuesto de 5 años y $23,235,000, programado para ejecutarse hasta 2031, plantea preguntas críticas sobre la estrategia de IA a largo plazo, la rendición de cuentas de los proveedores y el impacto socioético de las soluciones de IA, especialmente en entornos sensibles. El portavoz del DOC indicó que la extensión es para “asegurar que las personas bajo nuestro cuidado puedan mantener conexiones con sus seres queridos”, demostrando el doble propósito a menudo asociado con tales tecnologías.

Grupos de defensa como el Surveillance Technology Oversight Project (STOP) y Brooklyn Defender Services han condenado enérgicamente el contrato, afirmando que los servicios de monitoreo de llamadas con IA de Securus amplían las capacidades de vigilancia más allá de las instalaciones correccionales para apuntar a comunidades. Complicando aún más las cosas está la integración de Securus con Palantir, una empresa de análisis de datos de IA conocida por sus asociaciones con agencias como Immigration and Customs Enforcement (ICE). Esta conexión plantea preocupaciones particulares para los municipios designados como ciudades santuario, obligando a los Profesionales Gubernamentales a considerar si sus implementaciones de IA se alinean con políticas de ciudad más amplias y valores comunitarios. El debate ilustra la necesidad crítica de una supervisión sólida y marcos éticos transparentes al integrar herramientas avanzadas de IA para operaciones gubernamentales, particularmente aquellas que involucran datos personales sensibles o que potencialmente infringen los derechos de privacidad.

Las Herramientas de IA a Conocer En el ámbito de la IA en el sector público, varias plataformas ofrecen funcionalidades que los Profesionales Gubernamentales podrían encontrar o considerar. Palantir, como se mencionó, es una plataforma de análisis de datos ampliamente utilizada para la integración y el análisis de datos complejos, a menudo en sectores de defensa e inteligencia, pero su aplicación en contextos correccionales plantea señales de alerta específicas sobre la privacidad. Para las agencias que buscan herramientas de inteligencia artificial más controladas y guiadas éticamente, plataformas como IBM Watson Government y Microsoft Azure Government AI brindan entornos de nube seguros adaptados para uso gubernamental. Estos servicios enfatizan el cumplimiento, la soberanía de los datos y a menudo incluyen características para IA explicable, que pueden ser cruciales para la transparencia y la rendición de cuentas al implementar herramientas de IA para la toma de decisiones gubernamentales. Si bien la planificación urbana con IA puede centrarse en análisis predictivos para tráfico o asignación de recursos, y la IA de ciudades inteligentes en infraestructura, los principios subyacentes de gobernanza de datos, protección de la privacidad.