Investigador de Anthropic alerta sobre riesgos de seguridad en inteligencia artificial

Mrinank Sharma, quien encabezó el equipo de investigación de salvaguardias en la empresa Anthropic desde su lanzamiento el año pasado, presentó formalmente su renuncia. A través de su carta de dimisión, Sharma advirtió que el desarrollo actual de la inteligencia artificial coloca al mundo en una situación de peligro, señalando deficiencias estructurales en las medidas de seguridad adoptadas por la industria tecnológica global.

El investigador señaló que los mecanismos de protección actuales son insuficientes ante el avance acelerado de los modelos de lenguaje de gran escala. Según su análisis, la competencia desenfrenada entre empresas por alcanzar capacidades superiores ha desplazado la prioridad de la seguridad hacia un segundo plano, incrementando la probabilidad de eventos con consecuencias sistémicas de gran alcance para la sociedad.

La postura de Sharma se suma a un creciente debate internacional sobre la gobernanza de la IA. Expertos en México, incluyendo investigadores de instituciones como la UNAM, han subrayado la necesidad de establecer marcos regulatorios que permitan un desarrollo ético y seguro, evitando que las innovaciones tecnológicas superen la capacidad de supervisión de los gobiernos y las organizaciones internacionales.

El exdirectivo propuso que las empresas del sector adopten protocolos de transparencia más rigurosos y se sometan a auditorías independientes. Argumentó que el secretismo corporativo bajo el cual se desarrollan estas herramientas dificulta la evaluación pública de los riesgos potenciales, lo que impide una gestión adecuada de las amenazas emergentes en el ámbito de la ciberseguridad y la estabilidad social.

En el contexto mexicano, especialistas han señalado que la falta de una política pública integral sobre inteligencia artificial deja al país vulnerable ante posibles sesgos algorítmicos y riesgos de seguridad. Se estima que, en los próximos meses, el Congreso de la Unión deberá discutir iniciativas para armonizar el uso de estas tecnologías con los derechos fundamentales y la seguridad nacional, bajo la supervisión de las instancias correspondientes.