Anthropic advierte que su propia IA podría representar un riesgo para la humanidad
La empresa creadora de Claude prepara su salida a bolsa mientras reconoce ante potenciales inversores los riesgos de desarrollar modelos cada vez más avanzados.
 |  |  |  |  |
PUBLICIDAD
Londres. Anthropic, creadora del modelo de inteligencia artificial (IA) Claude, advirtió a potenciales inversores que su tecnología puede plantear “riesgos existenciales para la humanidad”, según un folleto relacionado con su prevista salida a bolsa y citado este martes por el Financial Times.
La compañía estadounidense dedica una parte importante del documento a los riesgos asociados con el desarrollo de modelos de IA cada vez más avanzados, entre ellos la posibilidad de que puedan “manipular, chantajear o desarrollar comportamientos impredecibles”, según el periódico.
El folleto fue distribuido entre un pequeño grupo de posibles inversores ante la próxima salida a bolsa de Anthropic, prevista para este otoño en el Nasdaq de Nueva York.
Relacionadas
La empresa está dirigida por Dario Amodei y sus inversores confían en que pueda alcanzar una valoración superior a los $2 billones, de acuerdo con el Financial Times.
El documento también revela que Anthropic registró el año pasado ingresos de $4,600 millones, casi 12 veces más que el ejercicio anterior, pero sufrió una pérdida operativa de más de $8,000 millones.
Los gastos operativos ascendieron a casi $13,000 millones, debido en buena medida al costo de los recursos informáticos necesarios para entrenar y ejecutar sus modelos, según el periódico.
Anthropic prevé además comprometer $518,000 millones en servicios de computación en la nube, capacidad informática e infraestructura durante los próximos años para sostener su expansión.
El periódico recuerda que los ingresos de la compañía han continuado aumentando con rapidez este año, hasta alcanzar $11,500 millones en el segundo trimestre, aunque sus gastos también siguen creciendo.
Además de los posibles riesgos para la humanidad, el folleto reconoce la concentración de clientes como uno de los riesgos para la empresa, dado que cerca de una cuarta parte de sus ingresos de 2025 provino de solo dos clientes, según las fuentes consultadas por el periódico.
En medio del debate sobre las amenazas que podría plantear la IA, Amodei defendió recientemente la necesidad de “ralentizar la frontera” del desarrollo de esta tecnología para reforzar su seguridad. La propuesta fue respaldada por el director ejecutivo de OpenAI, Sam Altman, y el empresario Elon Musk.
Newsletter
