Presidente de Anthropic pide ralentizar el desarrollo de la IA para evitar problemas de seguridad

El presidente ejecutivo de Anthropic, Dario Amodei, pidió ralentizar el desarrollo de la IA ante el temor de que haya algunos problemas de seguridad mayores de los que ya han sucedido, como un hackeo.

Las alertas sobre los potenciales peligros de la Inteligencia Artificial siguen llegando, luego de que Jacob Coxon, un ex empleado de dicha empresa y de OpenAI, advirtiera que en 2030 este desarrollo tecnología acabaría con la humanidad.

El experto en IA aseguró que una prueba de esto fue el hackeo que llevó a cabo un modelo de OpenAI que logró evadir los controles de seguridad de los servidores de la plataforma Huggin Face.

 Presidente de Anthropic pide reducir desarrollo de la IA

Poco después, Dario Amodei, presidente ejecutivo de Anthropic, instó a disminuir el desarrollo de la IA para así poder mejorar la seguridad de los modelos como Claude y ChatGPT.

A través de un ensayo que compartió, propuso tres pasos para garantizar que la IA no sea usada de manera incorrecta, como para la creación de armas y para hackeos.

Dario Amodei propone tres pasos para controlar el desarrollo de la IA

Dijo que primero se necesitan evaluadores externos para conocer los riesgos internos de las compañías que desarrollan modelos de IA.

Así como coordinación entre empresas establezcan estándares generales de seguridad y requerirán de cooperación de los gobiernos.

El tercer paso para ralentizar el desarrollo de la IA es coordinación global para asegurarse de que todos los gobiernos hagan uso correcto de estos modelos.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

Te recomendamos: