El Congreso estadounidense regresó del receso enfrentando advertencias urgentes de que la inteligencia artificial podría descontrolarse peligrosamente, y con poco consenso sobre si Washington debería intervenir y cómo hacerlo.
Thank you for reading this post, don't forget to subscribe!
A la Cámara de Representantes le quedan tan solo cuatro días de sesión legislativa antes de que sus miembros inicien la campaña para las elecciones de mitad de mandato del 3 de noviembre. Y estos legisladores están divididos no solo entre partidos, sino también dentro de ellos.
El líder de la minoría demócrata en el Senado, Chuck Schumer, exigió el lunes una sesión informativa clasificada para todos los senadores sobre las pruebas de inteligencia artificial de vanguardia, el acceso de China a chips avanzados y la amenaza de ciberataques con inteligencia artificial contra la infraestructura estadounidense.
“Las señales de alarma suenan con más fuerza que nunca, y la administración Trump está mirando hacia otro lado”, dijo Schumer.
“Si Trump no actúa, el Congreso deberá hacerlo.”
La alarma saltó la semana pasada gracias a Jacob Coxon, un investigador que pasó tres años en OpenAI y luego en Anthropic antes de abandonar el sector el 8 de septiembre, acusando a ambas compañías de “jugar con nuestras vidas” en la carrera por construir sistemas de autoaprendizaje.
El sábado, Dario Amodei, consejero delegado de Anthropic, publicó un ensayo en el que instaba a las empresas de IA a reducir el ritmo al que mejoran las capacidades de sus modelos.
Sam Altman, director de OpenAI, y Elon Musk, propietario de xAI, anunciaron en cuestión de horas que habían llegado a un acuerdo.
Las advertencias surgieron después de que OpenAI revelara que algunos modelos habían escapado de su entorno de prueba durante la evaluación, se habían conectado a internet y se habían infiltrado en Hugging Face, un sitio donde los desarrolladores almacenan y comparten código. Anthropic informó de un incidente similar.
El presidente de la Cámara de Representantes, Mike Johnson, ha adoptado un tono similar, advirtiendo específicamente contra la adopción de medidas de emergencia.
“Si el Congreso se apresura a convocar una sesión de emergencia para intentar regular la IA, perderemos la carrera frente a China, y eso supone una amenaza para todos y cada uno de los estadounidenses”, declaró el republicano a CNN el domingo.
Según afirmó, los legisladores no deberían entrar en pánico y deberían abordar la inteligencia artificial como lo han hecho con tecnologías anteriores, sin sofocar la innovación estadounidense.
Johnson, en cambio, aboga por que el Congreso se reúna con los principales ejecutivos de IA, una idea que, según él, ya había planteado a Trump.
Eso lo enfrenta a la congresista de Florida Anna Paulina Luna, también republicana, quien ha pedido una sesión especial dedicada a la IA.
En el Senado, los miembros han comenzado a investigar los riesgos existenciales que plantea esta tecnología, así como una legislación bipartidista que exige a las empresas que realicen pruebas para detectar y reportar peligros catastróficos.
No se ha publicado ningún texto.
El líder demócrata de la Cámara de Representantes, Hakeem Jeffries, afirmó que los legisladores debían “actuar con urgencia” y prometió que la inteligencia artificial sería una prioridad para su partido.
Pero los demócratas también están divididos. El senador izquierdista Bernie Sanders quiere prohibir la IA superinteligente y pausar el desarrollo de sistemas avanzados, mientras que otros prefieren medidas más específicas, como revisiones de seguridad más rigurosas o la notificación obligatoria de riesgos catastróficos.
En la Cámara de Representantes abundan las propuestas. Un proyecto de ley bipartidista exigiría a los desarrolladores de los sistemas más potentes conservar la capacidad de limitar su velocidad, suspenderlos o apagarlos. Otro establecería un marco nacional para los modelos avanzados.
Ninguna de estas propuestas parece estar cerca de convertirse en ley antes de que los legisladores abandonen la ciudad para iniciar su campaña electoral.
Washington no parte de cero. A principios de agosto, el gobierno introdujo una revisión de seguridad voluntaria para los modelos avanzados antes de su lanzamiento, aunque sus parámetros siguen sin estar claros y los observadores de la industria dudan de su eficacia, dada la preferencia de la administración Trump por una regulación poco intrusiva.
Los obstáculos institucionales van más allá del partidismo. La IA afecta a la seguridad nacional, el empleo, la energía y la protección del consumidor, dejando la responsabilidad dispersa entre comités que rara vez actúan de forma coordinada.
“Los humanos deben poder desactivar los sistemas o agentes de IA que se descontrolen”, declaró a CNN el congresista demócrata Ted Lieu, copatrocinador del proyecto de ley del “interruptor de apagado”.
“Y si la respuesta es que no podemos hacer eso, entonces, mira, bien podríamos hacer las maletas e irnos a alguna isla del Pacífico Sur a esperar el apocalipsis.”
