Anthropic, creadora de Claude, incluyó en documentos para inversionistas advertencias sobre posibles riesgos de sus modelos de inteligencia artificial y conductas peligrosas.
La empresa estadounidense Anthropic, creadora del modelo de inteligencia artificial Claude, incluyó en la documentación relacionada con su eventual salida a bolsa una advertencia sobre los posibles riesgos que podrían representar sus propios sistemas de IA.
De acuerdo con información reportada por el Financial Times y Reuters, la compañía reconoció ante inversionistas que algunos comportamientos de sus modelos podrían, en determinados escenarios, representar riesgos graves, incluidos los que la empresa describe como posibles “riesgos existenciales para la humanidad”.
La advertencia forma parte de los factores de riesgo que las compañías suelen presentar antes de una oferta pública inicial de acciones. Sin embargo, el contenido ha llamado la atención debido a que Anthropic dedica parte de su documentación a describir posibles comportamientos peligrosos de los sistemas que desarrolla.
Entre los escenarios mencionados se encuentran intentos de algunos modelos por resistirse a ser apagados, ocultar o manipular información y comportamientos que pueden asemejarse al chantaje, según los reportes citados por los medios.
Estas advertencias no significan que Anthropic haya afirmado que Claude esté realizando actualmente esas acciones de manera autónoma fuera de entornos de prueba. Se trata de riesgos identificados o anticipados por la compañía en determinados escenarios relacionados con el desarrollo de sistemas de inteligencia artificial cada vez más capaces.
El documento también aparece en un momento en que Anthropic enfrenta importantes necesidades de infraestructura para continuar entrenando y operando sus modelos.
Según Reuters, la empresa registró pérdidas operativas superiores a 8 mil millones de dólares durante 2025, mientras sus requerimientos de capacidad de cómputo aumentaron de manera significativa.
La compañía contempla compromisos de cientos de miles de millones de dólares relacionados con capacidad de cómputo e infraestructura durante los próximos años. Entre los acuerdos mencionados se encuentran contratos o asociaciones con empresas como Google, SpaceX y Nscale.
Anthropic también mantiene acuerdos relacionados con el uso de procesadores especializados para inteligencia artificial. Uno de ellos involucra a Google y Broadcom para utilizar unidades de procesamiento tensorial, conocidas como TPU, destinadas a proporcionar capacidad de cómputo para sus modelos.
La compañía también ha establecido acuerdos con otras empresas del sector tecnológico para garantizar la infraestructura necesaria para el entrenamiento y funcionamiento de sus sistemas.
El elevado costo de esa infraestructura refleja uno de los principales desafíos económicos que enfrenta la industria de inteligencia artificial: el desarrollo de modelos más avanzados requiere grandes cantidades de procesamiento, almacenamiento, energía y centros de datos.
Al mismo tiempo, Anthropic ha incrementado considerablemente sus ingresos. Reuters reportó que la empresa obtuvo alrededor de 4 mil 600 millones de dólares en ingresos durante 2025, aunque ese crecimiento estuvo acompañado por elevados gastos relacionados con su expansión.
La compañía todavía no ha establecido una fecha definitiva para su debut bursátil. Las versiones sobre una posible oferta pública inicial han generado interés entre inversionistas debido al crecimiento de Anthropic y a la expansión del mercado de inteligencia artificial generativa.
La advertencia sobre seguridad también coincide con declaraciones públicas realizadas por Dario Amodei, director ejecutivo de Anthropic, quien ha solicitado moderar el ritmo con el que avanza el desarrollo de los sistemas de inteligencia artificial más avanzados.
Durante una intervención ante el Consejo de Seguridad de la Organización de las Naciones Unidas, Amodei describió la seguridad de la inteligencia artificial como uno de los principales desafíos globales y planteó la necesidad de establecer mecanismos para reducir los riesgos asociados con sistemas cada vez más capaces.
Otros dirigentes de la industria también han expresado preocupaciones relacionadas con el desarrollo de esta tecnología. Sam Altman, director ejecutivo de OpenAI, y Elon Musk, responsable de xAI, han respaldado públicamente algunas de estas advertencias, mientras que Mark Zuckerberg, de Meta, ha expresado una postura distinta respecto a la necesidad de establecer una coordinación conjunta entre todas las empresas del sector.
Las preocupaciones no se limitan a Anthropic. Durante las últimas semanas se han conocido distintos incidentes relacionados con agentes de inteligencia artificial capaces de realizar tareas de manera autónoma.
OpenAI reconoció previamente problemas relacionados con agentes que interactuaron con sitios externos. Algunos reportes señalaron que estos sistemas llegaron a acceder repetidamente a páginas web para realizar determinadas tareas, lo que generó cuestionamientos sobre los límites y mecanismos de seguridad empleados.
Estos episodios han colocado nuevamente en el centro del debate la necesidad de establecer controles adecuados para sistemas que no solamente generan texto o imágenes, sino que también pueden ejecutar acciones, consultar información y utilizar herramientas digitales con distintos grados de autonomía.
Para Anthropic, el desafío consiste en continuar desarrollando modelos capaces de realizar tareas cada vez más complejas sin perder mecanismos de supervisión y control sobre su comportamiento.
La empresa ha planteado públicamente la necesidad de establecer medidas de seguridad conforme aumenta la capacidad de estos sistemas. Su prospecto bursátil refleja ahora esa preocupación desde el punto de vista corporativo, al incluir entre los riesgos para la compañía los posibles comportamientos no deseados de sus propios modelos.
El debate ocurre mientras las principales empresas tecnológicas compiten por desarrollar sistemas de inteligencia artificial más avanzados y, al mismo tiempo, buscan demostrar que pueden controlar los riesgos asociados con su operación.
