Legisladores estadounidenses proponen la 'Ley de Interruptor de Apagado de IA': qué dice y por qué es controvertida
Un nuevo proyecto de ley permitiría al Departamento de Seguridad Nacional cerrar sistemas de IA fronterizos: los partidarios dicen que es una red de seguridad, los críticos lo califican de extralimitación.
La propuesta Ley de Interruptor de Apagado de IA otorgaría al Departamento de Seguridad Nacional (DHS) autoridad para ordenar el cierre inmediato de cualquier sistema de IA 'fronterizo' considerado un riesgo para la seguridad nacional, con multas diarias de hasta 20 millones de dólares por incumplimiento. El proyecto de ley ha generado debate sobre la seguridad frente a la extralimitación del gobierno.
Lo que propone la Ley de Interruptor de Apagado de IA
Según la legislación, el DHS podría emitir una orden de emergencia para restringir o cerrar cualquier modelo de IA que represente una 'amenaza inminente' para infraestructuras críticas, la seguridad pública o la seguridad nacional. Las empresas que no cumplan se enfrentan a multas que comienzan en 1 millón de dólares y aumentan hasta 20 millones por día. El proyecto de ley se dirige a los llamados modelos 'fronterizos', sistemas avanzados de IA con capacidades que se acercan o superan el rendimiento humano en áreas clave.
Argumentos a favor del interruptor de apagado
Los partidarios, incluidos varios grupos de ciberseguridad y seguridad de IA, argumentan que a medida que los sistemas de IA se vuelven más potentes, podrían usarse para automatizar ciberataques, diseñar armas o interrumpir redes eléctricas. Dicen que el interruptor de apagado es un mecanismo de seguridad de último recurso similar a los frenos de emergencia en otras tecnologías. 'No se trata de sofocar la innovación, sino de tener un cortacircuitos cuando un sistema se descontrola', declaró un legislador en una cobertura reciente.
Argumentos en contra del interruptor de apagado
Los críticos (incluidos defensores del libre mercado, algunas empresas tecnológicas y grupos de libertades civiles) advierten que el proyecto de ley otorga un poder excesivo a funcionarios no electos sobre una industria en rápida evolución. Argumentan que la definición de 'amenaza inminente' es vaga y podría usarse para atacar sistemas de IA impopulares pero legales. Otros señalan que muchos modelos fronterizos son de código abierto, lo que hace que una orden de cierre sea poco práctica. 'Esto podría acabar con el liderazgo de la IA en EE. UU. sin mejorar significativamente la seguridad', dijo un analista de políticas tecnológicas.
Además, expertos legales cuestionan si el DHS tiene la experiencia técnica para evaluar amenazas de sistemas complejos de IA, y si las multas de 20 millones de dólares por día son proporcionadas. El proyecto de ley no especifica un proceso de apelación, lo que plantea preocupaciones sobre el debido proceso.
¿Qué es la Ley de Interruptor de Apagado de IA?
Una ley propuesta en EE. UU. que permitiría al Departamento de Seguridad Nacional ordenar el cierre de sistemas de IA fronterizos que representen una amenaza inminente para la seguridad nacional, con multas de hasta 20 millones de dólares por día por incumplimiento.
¿Por qué algunas personas se oponen al interruptor de apagado de IA?
Los críticos dicen que otorga al gobierno demasiado poder sobre el desarrollo de la IA, utiliza definiciones vagas, amenaza la innovación y puede ser ineficaz contra modelos de código abierto.
¿Qué constituye un modelo de IA 'fronterizo' según el proyecto de ley?
El proyecto de ley se dirige a sistemas avanzados de IA con capacidades cercanas o superiores al rendimiento humano en áreas como generación de código, ciberseguridad o diseño de armas, aunque los umbrales exactos aún no están definidos.
¿Algún sistema de IA ha sido cerrado por el gobierno?
No según esta ley; sigue siendo una propuesta. Hasta la fecha, el gobierno de EE. UU. no ha ordenado el cierre de ningún sistema de IA a gran escala.
¿Qué sigue para la Ley de Interruptor de Apagado de IA?
El proyecto de ley debe pasar por audiencias en comités y votaciones en ambas cámaras del Congreso. Los expertos recomiendan estar atentos a las sesiones de revisión y los testimonios de expertos.