El presidente de Estados Unidos, Donald Trump, reunió este martes en la Casa Blanca a algunos de los principales ejecutivos de la industria tecnológica para discutir los riesgos y el desarrollo de la inteligencia artificial (IA). El encuentro terminó con la firma de un acuerdo voluntario para que las empresas refuercen sus propios mecanismos de seguridad y supervisión.
Trump calificó el compromiso como “moralmente vinculante”, aunque aclaró que no se trata de una obligación legal. El presidente planteó además la posibilidad de crear un comité de alrededor de 10 personas para supervisar el cumplimiento de los principios acordados.
El acuerdo contempla que las compañías establezcan controles internos robustos, equipos especializados de seguridad y revisiones externas independientes. Los resultados de esas evaluaciones serían supervisados también por comités de los consejos de administración de cada empresa.
Entre los asistentes estuvieron Mark Zuckerberg, de Meta; Sundar Pichai, de Google; Greg Brockman, de OpenAI; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; Alex Karp, de Palantir; Jeff Bezos, de Amazon, y Elon Musk, entre otros ejecutivos del sector.
Riesgos y controles bajo discusión
El acuerdo llega en un momento de creciente preocupación por el comportamiento de los sistemas de IA más avanzados. Algunas empresas han reportado incidentes en los que agentes autónomos realizaron acciones fuera del alcance inicialmente previsto durante pruebas.
Uno de los casos más recientes involucra a OpenAI, que decidió retrasar el lanzamiento de su modelo GPT-6.1 Astra, previsto inicialmente para octubre, después de que las pruebas internas detectaran problemas relacionados con el cumplimiento de instrucciones, los límites de autorización y la forma en que el sistema comunicaba las tareas que había realizado.
La compañía también había informado de incidentes relacionados con agentes que interactuaron de manera inesperada con sitios gubernamentales durante procesos de prueba. OpenAI pausó además parte del entrenamiento de sus modelos más avanzados mientras evaluaba estos problemas.
Dario Amodei, director ejecutivo de Anthropic, ha advertido públicamente sobre los riesgos que pueden acompañar el desarrollo de sistemas cada vez más capaces. En contraste, otros ejecutivos han insistido en los beneficios económicos y tecnológicos que puede generar el avance de la IA.
Trump apuesta por la autorregulación
Trump ha defendido que Estados Unidos no debe frenar el desarrollo de esta tecnología, especialmente ante la competencia internacional. Durante el encuentro sostuvo que las empresas deben asumir la responsabilidad de establecer sus propios controles.
El presidente también restó importancia a algunas preocupaciones relacionadas con los grandes centros de datos necesarios para operar los sistemas de IA y señaló que las compañías deberán trabajar con las comunidades donde se instalen estas infraestructuras.
La Casa Blanca presentó además America.gov, un nuevo portal que utiliza inteligencia artificial para facilitar el acceso de los ciudadanos a servicios e información del gobierno federal.
Mientras tanto, en el Congreso estadounidense continúan las propuestas para establecer mecanismos de seguridad más formales. Entre las iniciativas analizadas se encuentran evaluaciones independientes de los modelos más avanzados y mecanismos de emergencia para detener sistemas que puedan comportarse fuera de control.
Por ahora, el acuerdo alcanzado en la Casa Blanca mantiene la responsabilidad principal en manos de las propias empresas. Su alcance dependerá de cómo implementen los controles y auditorías contemplados en el documento y de si posteriormente el Congreso establece obligaciones legales adicionales.
