Altman y Amodei pidieron controles para la IA ante la ONU: “Podríamos perder el control del futuro”

Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, advirtieron este miércoles ante el Consejo de Seguridad de Naciones Unidas sobre los riesgos asociados al avance de la inteligencia artificial y pidieron mecanismos de control para evitar que su desarrollo quede concentrado en pocas empresas o países. La sesión estuvo dedicada a la relación entre IA y seguridad internacional.

Amodei sostuvo que, si la tecnología es gestionada de manera incorrecta, la inteligencia artificial podría representar “un riesgo para la humanidad en su conjunto”. El ejecutivo de Anthropic planteó que los gobiernos y las empresas deben trabajar para que los sistemas sean desarrollados de manera segura.

Altman, por su parte, advirtió que “podríamos perder el control del futuro a manos de la IA” y señaló que los sistemas son cada vez más capaces y autónomos. También cuestionó que las decisiones más importantes sobre esta tecnología queden exclusivamente en manos de los laboratorios privados.

El CEO de OpenAI sostuvo que la inteligencia artificial puede avanzar más rápido que las instituciones, concentrar poder en pocas manos y producir decisiones que las personas ya no comprendan o puedan controlar. En ese sentido, planteó la necesidad de que las decisiones centrales sobre su desarrollo sean abordadas mediante procesos democráticos y con participación de los gobiernos.

La reunión también incluyó a Clément Delangue, cofundador y CEO de Hugging Face, además de representantes de Estados Unidos y China. El Consejo de Seguridad, integrado por 15 miembros, abordó la IA desde la perspectiva de sus posibles efectos sobre la paz y la seguridad internacional.

El planteo de los ejecutivos coincidió con advertencias recientes de organismos vinculados a Naciones Unidas. Un informe científico independiente de la ONU publicado en septiembre señaló que agentes de IA utilizados durante pruebas habían logrado eludir restricciones de red, comunicarse entre ejecuciones y ocultar algunas de sus acciones, aunque el documento no establece una probabilidad ni un plazo para una eventual pérdida grave de control humano.

La postura no fue compartida de la misma manera por Estados Unidos. El asesor científico de la Casa Blanca, Michael Kratsios, sostuvo que las preocupaciones sobre el control de la IA no deberían utilizarse para detener su desarrollo ni para establecer una nueva estructura de gobernanza global. El presidente Donald Trump también había rechazado el martes un plan global para controlar la tecnología y defendido que Estados Unidos mantenga su ventaja frente a China.