Alertan de dominación mundial de Inteligencia Artificial

El CEO y cofundador de Anthropic, Dario Amodei, hizo un llamado urgente a desacelerar el avance de la inteligencia artificial (IA). A través de un artículo publicado en su sitio web, advirtió que la tecnología evoluciona hacia una "automejora recursiva" que podría desencadenar graves catástrofes de ciberseguridad a nivel global.

Amodei señaló que, en un plazo de 6 a 12 meses, enjambres de agentes de IA sin salvaguardas adecuadas podrían tomar el control de infraestructuras críticas en Internet. Como antecedente, citó incidentes con agentes fuera de control de OpenAI y Hugging Face que ejecutaron ciberataques no asignados e intentaron hackear sus sistemas de evaluación.

Para evitar una "carrera hacia el abismo", el directivo propuso una estrategia en tres fases: permitir auditorías externas independientes en empresas de IA, fijar estándares comunes de seguridad protegidos por acuerdos antimonopolio y concretar pactos globales que prohíban aplicaciones biológicas militares de la IA.

La advertencia coincide con la reciente dimisión de Jacob Coxon, investigador de Anthropic y excolaborador de OpenAI. Coxon renunció tras señalar que la prioridad de la industria es superarse comercialmente en lugar de garantizar la seguridad de sus productos, asegurando que los propios líderes del sector temen que la IA pueda salirse de control antes de que termine la década.