El presidente Donald Trump y seis líderes tecnológicos firmaron el martes un acuerdo voluntario sobre IA, pidiendo a las empresas que controlen sus propios sistemas de IA mientras Trump rechaza las propuestas para establecer regulaciones federales.
Trump publicó el documento de una página en Truth Social. La oposición a los centros de datos está creciendo y los agentes de IA, que son software que actúan en nombre de los usuarios, se han descontrolado en varios incidentes de alto perfil.
Patrocinado
Patrocinado
¿Qué pide el acuerdo sobre IA a las empresas tecnológicas？
El acuerdo establece cuatro niveles de supervisión, según Reuters. Primero, las empresas deben crear controles internos para vigilar cómo se comportan los modelosdesde la etapa de entrenamiento hasta su lanzamiento, poniendo especial atención en riesgos de hackeo, biológicos y químicos. Un equipo interno verificará que estos controles funcionen correctamente.
Después, cada empresa se asociará con un auditor externo para realizar pruebas independientes. Un comité independiente de la junta revisará los hallazgos de ambos auditores y de los equipos de control.
AP informó que Trump firmó junto a Dario Amodei de Anthropic, Sundar Pichai de Google, Mark Zuckerberg de Meta, Greg Brockman de OpenAI, Jensen Huang de Nvidia y Elon Musk, fundador de xAI.
Todos los firmantes del acuerdo sobre IA. Fuente de la imagen: Truth Social
«Las empresas participantes se reunirán regularmente para establecer estándares y mejores prácticas que mejoren la seguridad de sus sistemas», dice un extracto del acuerdo de la Casa Blanca citado por Reuters
Patrocinado
Patrocinado
¿Por qué el acuerdo sobre IA podría tener poco peso？
Sin embargo, la promesa es voluntaria. El texto dice que en el futuro tendría sentido convertir los pasos en ley, y Trump afirmó que el compromiso es moralmente vinculante, lo que sugiere que depende de la reputación y no de la ley.
Los reportes sobre el documento hasta ahora no indican quién selecciona a los auditores, qué estándares utilizarán o qué ocurre si un control falla. Trump dijo que nombrará un supervisor en los próximos días y sugirió que unas 10 personas formarán parte de un comité.
Trump rechazó las propuestas de control para la IA a principios de este mes y el martespresentó la IA como una carrera con China en la que no hay lugar para el segundo puesto.
Aun así, la industria está dividida sobre el debate del freno a la IA. Amodei, que pidió desacelerar el desarrollo en un ensayo al inicio de este mes, dijo que la tecnología implica riesgos reales y que la respuesta todavía se está discutiendo.
We Must Pace the Frontier: Ive written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. Well provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
En cambio, el presidente de la Cámara de Representantes, Mike Johnson, ha sostenido que la seguridad de la IA depende de los desarrolladores.
Por lo tanto, la próxima prueba podría llegar en pocos días. El nombramiento del supervisor y el comité prometido por Trump podrían mostrar si el acuerdo recibe algún tipo de vigilancia externa.