que paso
Según WIRED, OpenAI está investigando la viabilidad legal de coordinarse con otros laboratorios de IA para frenar el desarrollo, una estrategia propuesta por su científico jefe para garantizar la seguridad. Si bien un proyecto de ley bipartidista presentado en julio tiene como objetivo otorgar inmunidad antimonopolio a este tipo de colaboraciones, aún no se ha promulgado, lo que deja a la industria en un estado de inseguridad jurídica.
WIRED informa que OpenAI está evaluando actualmente si una desaceleración coordinada en el desarrollo de la IA sería legal según las leyes antimonopolio de EE. UU. Esta investigación sigue a una publicación de blog del científico jefe de OpenAI, Jakub Pachocki, quien argumentó que la coordinación para frenar el desarrollo futuro es esencial para garantizar la seguridad de los sistemas de IA que se mejoran a sí mismos. Pachocki sugirió que las desaceleraciones voluntarias deberían convertirse en algo común hasta que se establezcan estándares de seguridad compartidos.
Los expertos legales citados por WIRED, incluido Nicholas Felstead, señalan que dicha coordinación podría potencialmente violar la Ley Sherman Antimonopolio al restringir la producción. Si bien la legalidad dependería de los detalles específicos de cualquier acuerdo, la inseguridad jurídica resultante actúa como un poderoso elemento disuasorio para las empresas que consideran colaboraciones en materia de seguridad. OpenAI no respondió a la solicitud de WIRED de comentar sobre este asunto.
En respuesta a estas preocupaciones, un grupo bipartidista de legisladores presentó en julio la 'Ley de Colaboración en Amenazas Adversarias y Riesgos de Seguridad'. Este proyecto de ley permitiría explícitamente a los laboratorios de inteligencia artificial coordinar el trabajo de seguridad sin enfrentar riesgos antimonopolio. Sin embargo, la versión del proyecto de ley de la Cámara ha sido remitida al Comité Judicial y aún no ha sido examinada para adoptar medidas adicionales.
Caleb Knapp, de AI Policy Network, que respaldó el proyecto de ley, afirmó que el Congreso tiene un apetito creciente por una legislación sobre seguridad de la IA, pero que su promulgación podría retrasarse hasta después de las próximas elecciones de mitad de período. Mientras tanto, algunos líderes de la IA, incluido John Schulman, sostienen que las preocupaciones antimonopolio son una excusa conveniente para que las empresas eviten abordar desacuerdos competitivos y filosóficos más profundos sobre la seguridad de la IA.
Detalles de la fuente: wired.com ↗
Por qué es importante
Esta ambigüedad legal crea un obstáculo importante para la acción colectiva en materia de seguridad de la IA. Sin una protección legal clara, las principales empresas tecnológicas pueden evitar coordinar las medidas de seguridad debido al riesgo de demandas antimonopolio, lo que podría permitir que la carrera competitiva por modelos más potentes continúe sin control a pesar de las crecientes preocupaciones sobre la seguridad y los riesgos sociales.
La posibilidad de responsabilidad antimonopolio crea una barrera importante para la coordinación de la seguridad en toda la industria. A medida que crecen las capacidades de la IA, aumenta el riesgo de incidentes de seguridad y daños sociales; sin embargo, el marco legal actualmente desalienta la colaboración necesaria para mitigar estos riesgos.
Esta inseguridad jurídica puede permitir que continúe la carrera competitiva por los modelos de vanguardia sin controles de seguridad significativos. Las empresas pueden priorizar la velocidad y la participación de mercado sobre los esfuerzos de seguridad colectiva, particularmente si creen que la coordinación con rivales podría exponerlas a desafíos legales.
La situación pone de relieve una brecha crítica en la actual política estadounidense. Si bien existe un interés bipartidista en la seguridad de la IA, la falta de legislación promulgada deja a los laboratorios de IA en una posición precaria, incapaces de participar con confianza en el tipo de coordinación que, según los expertos, es necesaria para un desarrollo seguro.
Mecanismo interactivo: cómo funciona realmente
Explore la tecnología subyacente detrás de este desarrollo de forma interactiva.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Qué ver a continuación
Supervise el progreso de la 'Ley de Colaboración en Amenazas Adversarias y Riesgos de Seguridad' en el Comité Judicial de la Cámara de Representantes y esté atento a cualquier declaración pública de OpenAI u otros laboratorios importantes sobre su voluntad de participar en la coordinación de seguridad una vez que se establezca claridad legal.
Los próximos pasos para la 'Ley de Colaboración en Amenazas Adversarias y Riesgos de Seguridad' en el Comité Judicial de la Cámara serán un indicador clave del compromiso del Congreso para resolver la ambigüedad legal que rodea la coordinación de la seguridad de la IA.
Se seguirán de cerca las declaraciones públicas de OpenAI y otros importantes laboratorios de IA sobre su postura sobre la coordinación de la seguridad, especialmente a medida que evoluciona el panorama legal y se intensifica la presión competitiva para lanzar nuevos modelos.
Cualquier incidente de seguridad adicional que involucre modelos de IA, como la reciente violación Hugging Face, puede aumentar la presión sobre los legisladores para que actúen rápidamente y brinden una guía legal clara para la industria.