Una declaración impulsada por Finlandia y Noruega reclama evaluaciones externas y pruebas obligatorias para los sistemas más avanzados. En paralelo, una coalición de dirigentes políticos, sindicatos y organizaciones sociales exige límites al poder de las tecnológicas. Las propuestas incluyen participación pública en los directorios empresariales.
Quién controla a las empresas que desarrollan inteligencia artificial y qué capacidad tiene la sociedad para intervenir en sus decisiones. Esa discusión reúne a gobiernos, científicos, sindicatos y organizaciones sociales que reclaman supervisión independiente, responsabilidades verificables y participación pública. Las iniciativas tienen distintos alcances, pero convergen en un cuestionamiento: cuánto puede descansar la seguridad de esta tecnología en los compromisos de sus propios desarrolladores.
El 21 de septiembre, el presidente de Finlandia, Alexander Stubb, y el primer ministro de Noruega, Jonas Gahr Støre, impulsaron un llamado internacional para mantener los modelos de IA de frontera bajo dirección y control humanos. La declaración, referida a los sistemas más avanzados, reúne 22 firmantes que representan a 20 países y a la Comisión Europea; Finlandia participa con dos autoridades.
El documento pide a las empresas protocolos transparentes, pruebas obligatorias antes de desplegar sus modelos y evaluaciones independientes. Especifica que los evaluadores deben contar con acceso suficiente para analizar los riesgos. A los gobiernos les solicita estándares comunes y mecanismos para compartir información sobre incidentes graves.
La propuesta también alcanza al sistema multilateral: invita a los Estados miembros de la ONU a explorar una institución internacional capaz de establecer estándares, facilitar verificaciones y convocar a los países cuando los sistemas superen determinados umbrales de capacidad. Por ahora, se trata de un llamado político, que requiere acuerdos posteriores para convertirse en obligaciones exigibles.
A este reclamo se sumó el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, quien el 5 de octubre, durante una cumbre sobre IA y derechos humanos en Oxford, pidió salvaguardas obligatorias y debida diligencia en el desarrollo y uso de estos sistemas. Türk sostuvo que los Estados que albergan empresas de IA o tienen influencia sobre sus cadenas de suministro deben exigirles una conducta responsable y hacerlas rendir cuentas por sus incumplimientos. También reclamó supervisión independiente y participación de la sociedad civil y de las comunidades afectadas. “Ya no podemos permitirnos esperar ni confiar en la buena voluntad”, advirtió.
Una coalición que atraviesa las diferencias políticas
Una semana antes, la presión había encontrado una expresión inusual en Washington. La Pro-Human Assembly, organizada el 15 de septiembre por el Future of Life Institute, reunió al senador independiente Bernie Sanders, referente de la izquierda estadounidense, y a Steve Bannon, exestratega de Donald Trump y figura del movimiento MAGA.
También participaron dirigentes sindicales como Liz Shuler, presidenta de la AFL-CIO, representantes religiosos, artistas y activistas por la protección de la infancia. El encuentro articuló preocupaciones sobre empleo, seguridad, autonomía personal y concentración del poder tecnológico. La coincidencia entre sectores habitualmente enfrentados amplía la base política del reclamo, aunque no supone un acuerdo sobre todas las medidas necesarias.
Su referencia es la Declaración Pro-Human sobre IA, presentada en marzo de 2026. El texto sostiene que el control humano debe incluir capacidad efectiva para comprender, orientar, limitar y detener los sistemas. Para aquellos altamente autónomos cuyo control no esté demostrado, propone revisión previa al desarrollo y supervisión independiente con autoridad para intervenir.
La declaración también reclama mecanismos de apagado, protección frente a la manipulación de niños y adolescentes, transparencia sobre las capacidades de los productos y responsabilidad de desarrolladores y empresas que los implementan. Sus demandas alcanzan al diseño de los sistemas y a las consecuencias de su uso.
Uno de sus puntos más exigentes propone impedir el desarrollo de superinteligencia hasta que exista amplio consenso científico sobre su seguridad y control, junto con respaldo público. Esa posición marca una diferencia de alcance respecto de iniciativas centradas en establecer pruebas y estándares para continuar desarrollando la tecnología.
La disputa llega a los directorios
Sanders llevó a la asamblea una propuesta que desplaza la discusión hacia el gobierno corporativo. En su intervención del 15 de septiembre sostuvo que la mitad de los integrantes de los directorios de las grandes empresas de IA deberían ser designados en representación del público. Su argumento es que una tecnología capaz de transformar el trabajo y la vida cotidiana necesita participación democrática en las decisiones empresariales.
El mecanismo está asociado al American AI Sovereign Wealth Fund Act, presentado en junio. El proyecto propone transferir el 50% de las acciones de las mayores empresas de IA a un fondo soberano, mediante un impuesto extraordinario pagado en títulos accionarios.
Según la presentación oficial, el fondo sería administrado por una comisión independiente de siete integrantes, nominados por el presidente y confirmados por el Senado a partir de una lista bipartidista del Congreso. Esa comisión ejercería los derechos de voto para intervenir en las decisiones de las compañías y orientar sus beneficios hacia el interés público.
La propuesta canaliza la representación ciudadana mediante instituciones públicas: no contempla una elección popular directa de los CEO. Su alcance combina propiedad, derechos políticos sobre las acciones y distribución de los rendimientos económicos. Es un proyecto legislativo, cuya presentación no equivale a su aprobación.
El trabajo y la distribución de los beneficios
Los sindicatos aportan una agenda propia a esta discusión. La AFL-CIO, central que agrupa a sindicatos estadounidenses, lanzó en octubre de 2025 su iniciativa Workers First on AI, con principios para incorporar la participación laboral en el desarrollo y la implementación de estas tecnologías.
El planteo incluye intervención de los trabajadores desde las etapas de investigación y diseño, así como negociación colectiva sobre las condiciones de adopción. Sus principios para proteger a los trabajadores frente a la IA buscan que las decisiones sobre automatización consideren los derechos laborales y la distribución de los beneficios.
Este enfoque introduce una dimensión concreta para las empresas: la gobernanza de la IA también se juega en el lugar de trabajo. Quién participa en la incorporación de un sistema, qué protecciones se negocian y cómo se distribuyen sus resultados forman parte del debate sobre responsabilidad empresarial.
Líneas rojas y apertura de los laboratorios
En el plano internacional, el Global Call for AI Red Lines, lanzado durante la Asamblea General de la ONU de septiembre de 2025, reclama un acuerdo con límites verificables y mecanismos de cumplimiento antes de finalizar 2026. Su sitio registra el respaldo de más de 300 personalidades y 90 organizaciones.
La campaña vincula la pérdida de control humano con riesgos de manipulación, seguridad y vulneración de derechos. Su objetivo es que los proveedores de IA avanzada estén sujetos a umbrales compartidos y exigibles. La demanda continúa abierta: el llamado a establecer esas reglas no significa que los gobiernos ya las hayan acordado.
Desde la propia industria también aparecen respuestas. Anthropic anunció planes para incorporar evaluadores externos de distintas organizaciones con acceso a procesos, sistemas y datos internos comparable al de sus equipos de evaluación de riesgos. La compañía presentó además métricas para observar el ritmo de desarrollo de la IA dentro de los laboratorios, en línea con el llamado de su director ejecutivo, Dario Amodei, a moderar el avance de los modelos más potentes.
La apertura anunciada reconoce la necesidad de escrutinio externo. Su eficacia dependerá de cómo se implemente: acceso real a la información, autonomía de los evaluadores y consecuencias de sus hallazgos son aspectos decisivos para valorar ese compromiso.
Las iniciativas describen distintos caminos para limitar riesgos y distribuir poder: evaluaciones externas, acuerdos internacionales, participación sindical y representación pública en las empresas. La tarea pendiente es precisar quién tendrá autoridad para exigir información, detener un despliegue o imponer cambios. Allí se medirá cuánto de esta presión se traduce en un control efectivo sobre las decisiones de la industria.