A continuaciónSiguiente guía
Responsabilidad por negligencia cuando los médicos utilizan IA
sociedad
GUÍA de sociedad
¿Quién es responsable cuando la IA causa daño?
Cuando la IA causa daño, la responsabilidad suele recaer en las personas y las empresas y no en la IA.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Puede ser la empresa que lo implementó, el desarrollador o fabricante de un producto defectuoso, o un profesional que confió en él descuidadamente, y el reclamo generalmente se presenta bajo la ley existente, como negligencia, tergiversación y responsabilidad del producto. Es importante porque los tribunales y los legisladores están decidiendo ahora cómo se aplican estas viejas reglas al software que aprende y cambia. En la UE, las normas sobre responsabilidad de productos se han reescrito para incluir el software, incluida la IA.
Buceo profundo
La mayoría de las reclamaciones por daños a la IA encajan en tres rutas legales familiares. La negligencia se refiere a si alguien no tuvo un cuidado razonable, por ejemplo, al implementar un sistema sin las pruebas o el monitoreo adecuados. La tergiversación cubre declaraciones falsas que hace una empresa, incluidas las declaraciones realizadas a través de su chatbot. La responsabilidad del producto puede responsabilizar estrictamente a los fabricantes por productos defectuosos, lo que significa que la persona perjudicada no tiene que demostrar la culpa, sólo el defecto, el daño y el vínculo causal. El caso de Air Canada muestra el principio más simple. En febrero de 2024, el Tribunal de Resolución Civil encontró a la aerolínea responsable de tergiversación negligente después de que su chatbot dijera erróneamente que las tarifas por duelo podían reclamarse retroactivamente. La recompensa fue pequeña, aproximadamente 800 dólares canadienses, incluidos intereses y tarifas, pero el razonamiento es claro: una empresa es responsable de toda la información de su sitio web, ya sea que provenga de una página estática o de un chatbot. En la UE, la Directiva sobre responsabilidad de productos (UE) 2024/2853 revisada entró en vigor en diciembre de 2024 y se aplica a los productos comercializados a partir de diciembre de 2026. Trata explícitamente el software, incluidos los sistemas de inteligencia artificial, como un producto. Queda excluido el software gratuito y de código abierto desarrollado fuera de la actividad comercial. Los daños cubiertos ahora incluyen daños psicológicos médicamente reconocidos y la destrucción o corrupción de datos no utilizados con fines profesionales. Los tribunales pueden ordenar la divulgación de pruebas y presumir defecto o causalidad cuando la complejidad técnica haga que la prueba sea excesivamente difícil. La Directiva separada sobre responsabilidad de la IA, propuesta en 2022 para aliviar las reclamaciones por culpa, se abandonó después de que la Comisión anunciara en febrero de 2025 que no esperaba ningún acuerdo. Un error común es pensar que la IA crea un vacío legal. En la práctica, se aplican las doctrinas existentes, aunque sigue siendo difícil demostrar la causalidad de los sistemas opacos.
Implementación en el mundo real
En Moffatt v. Air Canada (2024), un tribunal de Columbia Británica responsabilizó a la aerolínea después de que el chatbot de su sitio web proporcionara información errónea sobre las tarifas por duelo. Rechazó el argumento de que el chatbot era responsable de sus propias declaraciones.
En Mata v. Avianca (2023), abogados de Nueva York fueron sancionados por presentar un escrito con citaciones de casos falsos producido por ChatGPT. El tribunal responsabilizó a los profesionales de comprobar sus expedientes.
Según la Directiva revisada de responsabilidad del producto de la UE, una persona lesionada por un dispositivo médico o robot defectuoso con IA puede reclamar una compensación al fabricante sin demostrar culpa.
En García contra Character Technologies, una familia alegó que el diseño de un chatbot contribuyó a la muerte de un adolescente. En 2025, un juez federal de EE. UU. permitió que las demandas por responsabilidad de productos procedieran más allá de una moción anticipada de desestimación, probando si las aplicaciones de chatbot pueden tratarse como productos.
¿El futuro de quién es responsable cuando la IA causa daño?
Espere más litigios que prueben si los resultados de la IA generativa cuentan como productos, cuánta protección otorga la Sección 230 de EE. UU. al contenido generado por la IA y cómo los tribunales manejan la causalidad de los sistemas opacos. En la UE, la Directiva revisada sobre responsabilidad por productos defectuosos comenzará a aplicarse a los nuevos productos a partir de finales de 2026, y los tribunales nacionales comenzarán a interpretar sus presunciones. La retirada de la Directiva sobre responsabilidad de la IA deja por ahora las reclamaciones basadas en culpas a la legislación nacional, por lo que los resultados pueden variar entre países. Para las organizaciones, es probable que la documentación cuidadosa y la supervisión humana sean más importantes que cualquier nueva ley.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the Who Is Liable When AI Causes Harm? quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Quién es responsable cuando la IA causa daño?
Cuando la IA causa daño, la responsabilidad suele recaer en las personas y las empresas y no en la IA. Puede ser la empresa que lo implementó, el desarrollador o fabricante de un producto defectuoso, o un profesional que confió en él descuidadamente, y el reclamo generalmente se presenta bajo la ley existente, como negligencia, tergiversación y responsabilidad del producto. Es importante porque los tribunales y los legisladores están decidiendo ahora cómo se aplican estas viejas reglas al software que aprende y cambia. En la UE, las normas sobre responsabilidad de productos se han reescrito para incluir el software, incluida la IA.
¿Qué decidió el tribunal en el caso Moffatt contra Air Canada?
El tribunal encontró tergiversación negligente y sostuvo que una empresa es responsable de toda la información contenida en su sitio web, incluidas las respuestas del chatbot.
¿Qué significa responsabilidad estricta del producto?
La responsabilidad objetiva elimina la necesidad de demostrar negligencia, lo que facilita que las personas lesionadas obtengan una indemnización.
¿Cómo trata el software la Directiva revisada de responsabilidad de productos de la UE?
La Directiva (UE) 2024/2853 incluye el software dentro de la responsabilidad del producto. Queda excluido el software gratuito y de código abierto desarrollado fuera de la actividad comercial.
¿Qué pasó con la propuesta de Directiva de responsabilidad de la IA de la UE?
La Comisión abandonó la propuesta, que deja por ahora las reclamaciones de IA basadas en fallos a las leyes nacionales.
¿Qué nuevos tipos de daños cubre la directiva europea revisada?
Los daños cubiertos ahora incluyen la pérdida o corrupción de datos no utilizados con fines profesionales, así como los daños psicológicos médicamente reconocidos.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.