Navigation de la surveillance par IA : Un guide pour les professionnels du gouvernement

La Department of Correction de New York City (NYC DOC) approche du renouvellement d’un contrat de télécommunications de 23 millions de dollars avec Securus Technologies, une décision qui met en évidence des considérations cruciales pour tous les professionnels du gouvernement utilisant des outils d’intelligence artificielle. Ce renouvellement, pour les services d’appels vocaux et vidéo des détenus, a suscité un débat important en raison de l’utilisation par Securus de l’IA pour surveiller les appels à la recherche d’activités criminelles, soulevant des préoccupations généralisées concernant la vie privée et une surveillance omniprésente s’étendant aux amis et aux membres de la famille des individus.

Ce que cela signifie pour les professionnels du gouvernement. Cette négociation de contrat en cours sert d’étude de cas essentielle pour les professionnels du gouvernement de divers départements, de la sécurité publique et des achats aux services juridiques et sociaux. Elle souligne l’équilibre complexe entre l’efficacité opérationnelle, les mandats de sécurité publique et la protection des libertés civiles à l’ère numérique. Pour un professionnel du gouvernement, comprendre les implications du déploiement d’outils d’IA signifie naviguer sous le regard du public, assurer la conformité légale et maintenir la confiance du public.

Le contrat proposé de 5 ans, d’une valeur de 23 235 000 $, qui devrait s’étendre jusqu’en 2031, soulève des questions critiques sur la stratégie à long terme de l’IA, la responsabilité des fournisseurs et l’impact socio-éthique des solutions d’IA, en particulier dans les environnements sensibles. Le porte-parole du DOC a indiqué que la prolongation vise à « garantir que les personnes dont nous avons la charge puissent maintenir des liens avec leurs proches », démontrant le double objectif souvent associé à de telles technologies.

Des groupes de défense tels que le Surveillance Technology Oversight Project (STOP) et Brooklyn Defender Services ont vivement condamné le contrat, affirmant que les services de surveillance d’appels par IA de Securus étendent les capacités de surveillance au-delà des établissements correctionnels pour cibler les communautés. La situation est encore compliquée par l’intégration de Securus avec Palantir, une entreprise d’analyse de données d’IA connue pour ses partenariats avec des agences comme l’Immigration and Customs Enforcement (ICE). Cette connexion soulève des préoccupations particulières pour les municipalités désignées comme villes sanctuaires, obligeant les professionnels du gouvernement à se demander si leurs déploiements d’IA sont alignés sur les politiques municipales plus larges et les valeurs communautaires.

Le débat illustre le besoin critique d’une surveillance robuste et de cadres éthiques transparents lors de l’intégration d’outils d’IA avancés pour les opérations gouvernementales, en particulier ceux impliquant des données personnelles sensibles ou potentiellement une violation des droits à la vie privée. Les outils d’IA à connaître. Dans le domaine de l’IA dans le secteur public, plusieurs plateformes offrent des fonctionnalités que les professionnels du gouvernement pourraient rencontrer ou envisager. Palantir, comme mentionné, est une plateforme d’analyse de données largement utilisée pour l’intégration et l’analyse de données complexes, souvent dans les secteurs de la défense et du renseignement, mais son application dans les contextes correctionnels soulève des drapeaux rouges spécifiques en matière de vie privée.

Pour les agences recherchant des outils d’intelligence artificielle plus contrôlés et guidés par l’éthique, des plateformes comme IBM Watson Government et Microsoft Azure Government AI offrent des environnements cloud sécurisés adaptés à l’usage gouvernemental. Ces services mettent l’accent sur la conformité, la souveraineté des données et incluent souvent des fonctionnalités pour l’IA explicable, ce qui peut être crucial pour la transparence et la responsabilité lors du déploiement d’outils d’IA pour les décisions gouvernementales. Alors que l’urbanisme par IA peut se concentrer sur l’analyse prédictive du trafic ou de l’allocation des ressources, et l’IA des villes intelligentes sur l’infrastructure, les principes sous-jacents de gouvernance des données, de protection de la vie privée.