Responsabilidad por Alucinaciones de IA: La Lección de Deloitte de $440K

A finales de 2025, se desarrolló una historia de advertencia para toda la industria de servicios profesionales. Deloitte Australia entregó un informe al gobierno australiano como parte de un contrato de AU$440,000 (US$290,000) para revisar el sistema informático de sanciones de bienestar del país. Surgió un problema cuando un profesor de derecho leyó el informe e identificó «referencias fabricadas», incluyendo un libro inexistente y una cita completamente inventada de un juez.

Deloitte reeditó posteriormente el informe con una nueva divulgación —había utilizado Azure OpenAI— y acordó reembolsar la parte final de sus honorarios. El incidente no fue un fallo del modelo de IA, que funcionó según lo diseñado al generar texto plausible. Fue un fallo de supervisión profesional. Este caso ofrece una lección contundente: cuando se utiliza IA en el trabajo con clientes, se es propietario del resultado, incluidos sus errores. Para los consultores, cuya moneda es la confianza y la precisión, gestionar esta nueva capa de responsabilidad no es opcional.

En ZEKAI, revisamos herramientas y flujos de trabajo para profesionales, y este artículo proporciona un marco práctico para que las empresas de consultoría gestionen el riesgo de las alucinaciones de IA. No somos abogados, y esto no es asesoramiento legal, sino una guía sobre las salvaguardas operativas y basadas en herramientas que su empresa puede implementar hoy mismo. Este es un desafío central para todo profesional en servicios profesionales.

¿Qué es la Responsabilidad por Alucinaciones de IA?

La responsabilidad de la IA se refiere a la obligación legal y financiera por los daños causados por un sistema de inteligencia artificial. Fundamentalmente, los principios legales actuales en EE. UU., Reino Unido y la UE no tratan a la IA como una personalidad jurídica que pueda ser demandada. La responsabilidad recae en los humanos y las empresas que desarrollan, implementan o utilizan la IA. Para una empresa de consultoría, esto significa que si una herramienta de IA produce un análisis defectuoso, un dato fabricado o una recomendación sesgada que provoca pérdidas al cliente, la empresa de consultoría —no el proveedor de IA— es probablemente la responsable por negligencia profesional.

Las alucinaciones —cuando un modelo de IA genera información falsa, engañosa o sin sentido, pero la presenta como un hecho— son la fuente más directa de este riesgo. No son casos raros o excepcionales. Dependiendo de la complejidad de la tarea, las tasas de alucinación de los LLM pueden oscilar entre menos del 3% y más del 80%. Un estudio de 2025 encontró que las noticias falsas y la desinformación costaron a la economía global un estimado de $78 mil millones anualmente. Si bien esa cifra cubre un amplio impacto social, señala el inmenso daño financiero que puede derivarse de una sola pieza de información incorrecta.

El principio legal fundamental es que la IA es solo una herramienta, como una hoja de cálculo o una base de datos de investigación. Si utiliza una calculadora defectuosa para dar asesoramiento financiero a un cliente, usted es responsable del error. Lo mismo se aplica a la IA. Los tribunales ya han sancionado a abogados por presentar escritos legales que contenían jurisprudencia fabricada por IA. El caso Deloitte simplemente extiende este precedente al ámbito de la consultoría.

Las Cuatro Capas de Riesgo de IA para su Empresa

La responsabilidad no es un problema único, sino un conjunto de riesgos interconectados. Para una empresa de consultoría, la exposición proviene de cuatro áreas distintas. Comprenderlas es el primer paso para mitigarlas.

1. Riesgo de Entrada de Datos (Confidencialidad y Privacidad): El primer riesgo ocurre incluso antes de que usted le dé una instrucción a la IA. Introducir información sensible del cliente —datos financieros, planes estratégicos, PII— en una herramienta de IA pública puede violar acuerdos de confidencialidad y leyes de privacidad de datos como el GDPR. A menos que su contrato con un proveedor de IA garantice explícitamente un modelo de instancia privada con cero retención de datos, debe asumir que sus entradas podrían usarse para entrenar el modelo.
2. Riesgo de Salida del Modelo (Alucinaciones e Inexactitud): Este es el riesgo resaltado por el caso Deloitte. La IA puede producir información plausible pero fácticamente incorrecta, análisis defectuosos o conclusiones sesgadas. Si este resultado llega a un entregable para el cliente, se convierte en una representación directa del producto de trabajo de su empresa y una base clara para una reclamación por negligencia profesional.
3. Riesgo de Acción del Empleado (Mal Uso y Excesiva Dependencia): Sus empleados son los principales usuarios de estas herramientas. El riesgo aquí es doble: mal uso intencional (por ejemplo, usar IA para tareas para las que no es adecuada) y dependencia excesiva no intencional (confiar ciegamente en la salida de la IA sin verificación). Sin una gobernanza y capacitación claras, un empleado apurado por cumplir un plazo puede fácilmente copiar y pegar una estadística alucinada en un informe final, haciendo que la empresa sea responsable.
4. Riesgo de Contrato con el Proveedor (Transferencia de Responsabilidad): Los proveedores de IA a menudo utilizan sus términos de servicio para transferir la responsabilidad por los resultados al usuario. Su contrato con su proveedor de IA puede contener cláusulas que los indemnicen contra cualquier daño causado por su herramienta. Esto deja a su empresa con toda la carga si un cliente demanda por un error generado por IA.

Herramientas para un Trabajo de Consultoría más Seguro Impulsado por IA

Si bien el proceso es la primera línea de defensa, las herramientas diseñadas específicamente pueden reducir significativamente el riesgo de responsabilidad en comparación con el uso de chatbots de propósito general. Las herramientas diseñadas para flujos de trabajo profesionales a menudo incluyen características de verificación, fundamentación de fuentes y privacidad de datos que están ausentes en la IA de grado de consumidor.

Recomendamos que las empresas evalúen las herramientas en función de su capacidad para mitigar los riesgos específicos del trabajo de consultoría. Aquí, comparamos dos herramientas relevantes para tareas comunes de consultoría: generación de propuestas y visualización de datos. Nuestros criterios de clasificación son: Precisión y Verificabilidad, Seguridad y Privacidad de Datos, Integración de Flujo de Trabajo y Valor por Costo. ZEKAI revisa todas las herramientas de forma independiente.

Desliza la tabla →

Cómo Construir una Política de IA Defendible

Una herramienta es tan buena como el proceso que soporta. Para gestionar la responsabilidad de la IA de manera efectiva, toda empresa de consultoría, independientemente de su tamaño, necesita una política de uso de IA clara y aplicable. Una política de verificación humana se considera ampliamente una mejor práctica para demostrar un estándar de diligencia razonable, aunque su peso legal preciso dependería de los detalles de cualquier reclamación.

1.  **Datos del Cliente Prohibidos en IA Pública:** Ningún empleado podrá introducir información que identifique al cliente, datos confidenciales o material no público en ninguna herramienta de IA pública (por ejemplo, las versiones gratuitas de ChatGPT, Claude, Gemini). Todo el trabajo relacionado con el cliente debe realizarse utilizando herramientas de IA de grado empresarial aprobadas por la empresa que garanticen la privacidad de los datos y hayan sido verificadas por TI.
2.  **Toda Salida de IA Debe Ser Verificada:** Cada afirmación, estadística, cita o pieza de análisis generada por una IA debe ser verificada de forma independiente por un humano para asegurar su precisión antes de ser incluida en cualquier entregable dirigido al cliente. El empleado que utiliza la IA es responsable de esta verificación.
3.  **Divulgar el Uso de IA Cuando Sea Requerido:** Cumpla con todas las obligaciones contractuales y requisitos regulatorios con respecto a la divulgación del uso de IA en el trabajo con clientes. En caso de duda, opte por la transparencia con el cliente.
4.  **El Juicio Final es Humano:** La IA es una herramienta para la redacción y el análisis, no para la toma de decisiones finales. El juicio profesional final sobre cualquier recomendación o conclusión recae en el consultor humano, quien sigue siendo totalmente responsable.
5.  **Lista de Herramientas Aprobadas:** La empresa mantendrá una lista de herramientas de IA aprobadas que han sido verificadas en cuanto a seguridad, privacidad y fiabilidad. El uso de herramientas no aprobadas para el trabajo con clientes está prohibido.

Implementar esta política requiere más que simplemente enviar un memorándum. Implica capacitación, actualizar las cartas de compromiso con los clientes para aclarar el uso de la IA y discutir la gobernanza de la IA con su proveedor de seguros de responsabilidad profesional. Las aseguradoras están examinando cada vez más cómo las empresas gestionan el riesgo de la IA, y tener una política sólida implementada puede ser fundamental.

La IA es un acelerador innegable para el trabajo de consultoría, pero no es un oráculo. El caso Deloitte no fue una condena de la IA; fue un recordatorio de que la diligencia profesional, la verificación y la rendición de cuentas no pueden automatizarse. Al adoptar un marco claro de conciencia del riesgo, políticas internas sólidas y las herramientas adecuadas diseñadas para un propósito específico, las empresas de consultoría pueden aprovechar el poder de la IA sin apostar su reputación a una caja negra. Para obtener más orientación sobre herramientas y estrategias, visite nuestro centro de servicios profesionales.