Un exresponsable de seguridad de Anthropic advirtió que “el mundo está en peligro” por la inteligencia artificial

Mrinank Sharma, hasta el 9 de febrero responsable del área de salvaguardas de seguridad en inteligencia artificial en Anthropic, renunció a la compañía y afirmó en su carta de despedida que “el mundo está en peligro”, en referencia no solo a la IA sino a una serie de crisis interconectadas que avanzan en simultáneo.

El investigador sostuvo que los desafíos éticos en el desarrollo de inteligencia artificial forman parte de un contexto más amplio, donde las tensiones entre valores personales y exigencias del sector tecnológico se vuelven cada vez más evidentes. “He visto repetidamente lo difícil que es dejar que nuestros valores rijan nuestras acciones”, escribió.

Durante sus dos años en la empresa, Sharma trabajó en análisis sobre la adulación de la IA, en el desarrollo de defensas contra riesgos como el bioterrorismo asistido por inteligencia artificial y en mecanismos de transparencia interna. También participó en proyectos destinados a comprender cómo los asistentes digitales pueden influir en la humanidad y distorsionar comportamientos.

En su mensaje reconoció que la industria atraviesa una etapa crítica. “El mundo está en peligro. Y no solo por la inteligencia artificial o las armas biológicas, sino por una serie de crisis interconectadas”, advirtió, planteando la necesidad de enfrentar con urgencia estos riesgos.

La salida de Sharma se da en un contexto de creciente debate sobre ética y regulación en el sector. Anthropic, fundada por exintegrantes de OpenAI, ha promovido una imagen centrada en la seguridad y su CEO, Dario Amodei, también ha advertido públicamente sobre los riesgos de avanzar sin marcos éticos sólidos.

Tras su renuncia, Sharma anunció que regresará al Reino Unido para dedicarse a la escritura y al trabajo comunitario, en una búsqueda de coherencia personal. Su advertencia reaviva el debate global sobre los límites y la responsabilidad en el desarrollo de tecnologías que transforman áreas como salud, educación e investigación científica.