“El mundo está en peligro”, advierte un exresponsable de seguridad de IA tras renunciar a Anthropic

Mrinank Sharma, hasta el 9 de febrero responsable del área de salvaguardas de seguridad en inteligencia artificial de la empresa Anthropic, anunció su renuncia tras dos años en el cargo y lanzó una advertencia contundente: “El mundo está en peligro”. En su carta de despedida, el investigador sostuvo que los riesgos asociados al desarrollo de la inteligencia artificial forman parte de una crisis mucho más amplia, compuesta por múltiples amenazas interconectadas que avanzan de manera simultánea.

El mensaje, dirigido a sus colegas, combina agradecimiento y preocupación. Sharma destacó la cultura interna de la compañía, a la que describió como marcada por la determinación, la brillantez intelectual y una “considerable amabilidad”. Sin embargo, también expuso los dilemas éticos que atraviesan a la industria tecnológica y la dificultad de actuar con plena integridad en un entorno de cambios vertiginosos y fuertes presiones.

El exdirectivo recordó su llegada a San Francisco tras completar su doctorado, motivado por el objetivo de contribuir a la seguridad en inteligencia artificial. Aseguró haber cumplido con esa meta y enumeró algunos de sus principales aportes, entre ellos el análisis de la adulación en los sistemas de IA y sus causas, el desarrollo e implementación de defensas para reducir los riesgos del bioterrorismo asistido por estas tecnologías y la redacción de uno de los primeros estudios de casos en seguridad de IA.

Entre sus logros más recientes, mencionó el impulso de mecanismos de transparencia interna y un proyecto destinado a comprender de qué manera los asistentes de inteligencia artificial pueden “hacernos menos humanos o distorsionar nuestra humanidad”. En ese sentido, reconoció que no siempre es sencillo permitir que los valores personales guíen las decisiones cotidianas. “He visto repetidamente lo difícil que es dejar que nuestros valores rijan nuestras acciones”, escribió, aludiendo tanto a las tensiones dentro de las organizaciones como a las que atraviesan a la sociedad en su conjunto.

Para Sharma, elegir el camino correcto suele implicar decisiones dolorosas y renuncias significativas. Su advertencia central apunta a un escenario global complejo: “El mundo está en peligro. Y no solo por la inteligencia artificial o las armas biológicas, sino por una serie de crisis interconectadas que se están desarrollando en este mismo momento”. En su carta subrayó la urgencia de enfrentar estos riesgos de manera conjunta para minimizar el daño potencial a escala global.

La renuncia también refleja una búsqueda personal de coherencia e integridad. Sharma explicó que desea contribuir de una forma que esté plenamente alineada con sus convicciones y le permita expresar sus particularidades. Influido por referentes literarios, señaló su interés por explorar las preguntas esenciales que, como escribió David Whyte, “no tienen derecho a irse”, o aquellas que, en palabras de Rainer Maria Rilke, deben ser vividas más que respondidas.

Sin un plan inmediato definido, el investigador anunció que regresará al Reino Unido para dedicarse a la escritura, la exploración literaria y el trabajo comunitario. Entre sus proyectos figuran el estudio de poesía y una mayor implicación en tareas de facilitación y construcción de comunidades.

La salida de Sharma se suma a otras renuncias recientes en Anthropic y se produce en un contexto de creciente atención sobre la ética y la seguridad en el desarrollo de la inteligencia artificial. La empresa, fundada por exintegrantes de OpenAI, ha construido su identidad en torno a la seguridad y ha promovido mecanismos para mitigar riesgos como el bioterrorismo o la posible pérdida de rasgos humanos frente al avance tecnológico.

En esa línea, el CEO de Anthropic, Dario Amodei, también ha advertido públicamente sobre los peligros de desarrollar tecnologías de alto impacto sin un marco ético sólido. Para Sharma, el desafío central consiste en lograr que la sabiduría de la humanidad crezca al mismo ritmo que su poder de transformación.

Mientras el debate se intensifica, la inteligencia artificial continúa impulsando cambios profundos en áreas como la salud, la educación y la investigación científica. Diversos especialistas sostienen que, con regulaciones adecuadas y una participación activa de la comunidad científica, estas herramientas pueden contribuir a resolver problemas complejos y mejorar la calidad de vida. Episodios como la renuncia de Sharma reavivan la discusión sobre los límites, la responsabilidad y la necesidad de fortalecer las salvaguardas en la industria tecnológica.