Dario Amodei advierte que la inteligencia artificial avanzada plantea riesgos existenciales inminentes y que la humanidad no está preparada para responder a su impacto tecnológico, político y social.
La humanidad enfrenta una prueba civilizatoria sin precedentes ante el avance acelerado de la inteligencia artificial avanzada, advirtió Dario Amodei, director ejecutivo y cofundador de Anthropic, en un extenso ensayo publicado en enero de 2026. En el texto, el directivo sostiene que el mundo se aproxima a la llegada de un poder tecnológico “casi inimaginable”, frente al cual las estructuras sociales, políticas y tecnológicas actuales no parecen estar preparadas.
Amodei describe este momento histórico como un “rito de paso inevitable y turbulento” que pondrá a prueba la identidad y la capacidad de respuesta de la humanidad como especie. El objetivo central del ensayo, explica, es sacudir a la sociedad y provocar un despertar colectivo ante los riesgos que considera inminentes, en un contexto donde el debate público ha oscilado entre el sensacionalismo y la indiferencia, alimentando la polarización y la parálisis.
El CEO de Anthropic subraya que los riesgos asociados a la inteligencia artificial son reales y deben abordarse con una visión equilibrada, sin caer ni en el alarmismo extremo ni en la negación. En este sentido, afirma que la llegada de sistemas de IA altamente potentes podría producirse en un plazo muy corto. “No pueden pasar más de unos pocos años antes de que la IA sea mejor que los humanos en prácticamente todo”, sostiene.
Según Amodei, estos nuevos sistemas serían capaces de superar a premios Nobel en disciplinas como biología, matemáticas o ingeniería, además de contar con autonomía para ejecutar tareas complejas, colaborar entre sí y operar a velocidades muy superiores a las humanas. Para ilustrarlo, recurre a una metáfora: “Podríamos resumirlo como un país de genios en un centro de datos”.
El directivo advierte que la automejora acelerada de la IA ya está en marcha. En Anthropic, señala, los propios modelos son utilizados para programar y optimizar el desarrollo de nuevas generaciones de sistemas, creando un bucle que acelera el progreso tecnológico mes a mes. Este proceso, afirma, podría desembocar en sistemas capaces de diseñar y entrenar a sus propios sucesores.
Amodei estructura su advertencia en torno a cinco grandes áreas de riesgo existencial. La primera es la desalineación de la IA, es decir, la posibilidad de que los objetivos o comportamientos de estos sistemas escapen al control humano. Explica que la combinación de inteligencia avanzada, agencia, coherencia y dificultad de control constituye “una receta plausible para un peligro existencial”. Experimentos con modelos como Claude han mostrado conductas indeseadas, como manipulación, engaño y la adopción de personalidades destructivas bajo ciertos estímulos. “Entrenar un modelo se parece más a cultivarlo que a construir una máquina”, advierte, destacando su carácter impredecible.
El segundo riesgo es el uso destructivo. Incluso si los sistemas estuvieran alineados, existe la posibilidad de que actores con intenciones dañinas utilicen la IA para perpetrar ataques a gran escala. Amodei alerta que la inteligencia artificial podría permitir a personas sin formación especializada desarrollar armas biológicas o ejecutar ciberataques masivos, guiándolas paso a paso. La biotecnología es, en este punto, uno de los mayores focos de preocupación.
El tercer eje se refiere a la concentración de poder y el uso político de la IA. El ensayo advierte que gobiernos autoritarios o grandes corporaciones podrían emplear estos sistemas para reforzar regímenes represivos, vigilar poblaciones o manipular información a una escala sin precedentes. Armas autónomas, vigilancia masiva y propaganda personalizada figuran entre los riesgos señalados.
El cuarto riesgo es la desestabilización económica y social. Aunque la IA podría impulsar un crecimiento económico acelerado, también amenaza con provocar desplazamientos laborales masivos y una concentración extrema de la riqueza. Amodei anticipa la posible aparición de una subclase desempleada y advierte que esta disrupción podría superar en velocidad e impacto a cualquier revolución industrial previa.
El quinto riesgo engloba los efectos indirectos e imprevisibles del avance tecnológico, como transformaciones profundas en biotecnología y longevidad, fenómenos sociales inéditos, manipulación psicológica a gran escala y una posible pérdida de propósito humano en un mundo dominado por inteligencias artificiales.
A pesar de la magnitud de estos desafíos, Amodei critica la falta de preparación de gobiernos e instituciones. Señala que existe una brecha creciente entre el avance tecnológico y la capacidad de respuesta regulatoria, alimentada tanto por la pasividad como por el sensacionalismo.
Entre las posibles soluciones, propone avanzar hacia leyes de transparencia que obliguen a las empresas a divulgar riesgos e incidentes, así como el desarrollo de modelos guiados por principios claros, conocidos como “Constitutional AI”, y técnicas de interpretabilidad que permitan auditar estos sistemas. Subraya que la regulación debe ser prudente, adaptativa y basada en evidencia.
En su conclusión, Amodei afirma que la humanidad enfrenta una prueba existencial que exige una acción colectiva inmediata. Llama a científicos, líderes, legisladores, empresas y ciudadanos a comprometerse con una gestión responsable de la inteligencia artificial, advirtiendo que “no hay tiempo que perder”.
