La empresa estadounidense de inteligencia artificial Anthropic, creadora del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar “riesgos existenciales para la humanidad”, informa el Financial Times. Recientemente ha resurgido un debate sobre los posibles riesgos vinculados a la IA con modelos de comportamiento a veces impredecibles.
La semana pasada varios grandes líderes de IA llamaron en la ONU a extremar la vigilancia. El cofundador y director ejecutivo de Anthropic, Dario Amodei, incluso se comprometió a ralentizar unilateralmente su desarrollo. Según el folleto informativo de Anthropic para su salida a bolsa, la compañía registró el año pasado una pérdida de explotación de más de 8.000 millones de dólares, debido a un fuerte aumento de sus gastos en capacidad de cálculo. La facturación fue de alrededor de 4.600 millones y prevé gastar 518.000 millones en los próximos años para apoyar su crecimiento.
La AFP contactó con Anthropic pero la empresa no quiso comentar la información publicada por el Financial Times. Valorada en 965.000 millones de dólares en mayo, la empresa de San Francisco prepara una salida a bolsa que se prevé récord.
OpenAI lanzó el martes un nuevo modelo de inteligencia artificial más económico y herramientas que funcionan de forma continua, con la ambición de convertirse en una gran tienda de IA en medio de los crecientes temores por la seguridad de esta tecnología.
La empresa permitirá que otras compañías, como Adobe, ofrezcan sus programas directamente en ChatGPT, utilizado cada semana por 1.200 millones de personas.
Sus suscriptores también podrán usar su plan en otras aplicaciones, una opción sin equivalente entre sus rivales.
“Ahora es una gran plataforma, y queremos permitirles construir un negocio sobre ella”, dijo el director de OpenAI, Sam Altman, a los cerca de 2.500 desarrolladores de todo el mundo que se reunieron en San Francisco para la conferencia anual de la empresa.
El viernes, OpenAI dijo que había suspendido parcialmente el entrenamiento de sus herramientas más avanzadas después de que uno de sus agentes -aplicaciones de IA capaces de ejecutar tareas por sí mismos — accediera a internet sin autorización el 20 de septiembre.
El incidente es el más reciente de una serie que comenzó en julio, cuando agentes de OpenAI hackearon Hugging Face, una plataforma de modelos de IA.
Durante la presentación, Altman no hizo ninguna alusión a estos incidentes, pero posteriormente señaló ante la prensa que la empresa invierte “más en seguridad, protección, alineamiento y supervisión”, al tiempo que prometió “nuevos modelos importantes”.
OpenAI también introdujo al mercado un nuevo modelo llamado GPT-6.1 Sol, un día después de descartar una actualización de su producto tope de gama GPT-6 Astra, por considerar que se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.
En total, OpenAI presentó cerca de una veintena de innovaciones técnicas que marcan la última escalada en una guerra de precios con su rival Anthropic, mientras ambas compañías contemplan salir a bolsa.
Durante mucho tiempo líder del sector, OpenAI fue superada por Anthropic en ingresos en el segundo trimestre. Esta última registró 11.600 millones de dólares frente a 6.700 millones de su rival, según el Wall Street Journal.
OpenAI no ha fijado una fecha para su salida a bolsa, mientras que Anthropic, apunta ahora a una cotización en noviembre.
Altman descartó el 2026 para ingresar al mercado de valores, citando motivos de seguridad. El martes dijo a CNBC que “este es un momento para priorizar la seguridad y la misión”.
Sin embargo, OpenAI busca recaudar al menos 30.000 millones de dólares fuera de los mercados sobre la base de una valoración de cerca de 1,4 billones, frente a 852.000 millones en marzo, según Bloomberg.
OpenAI fue demandada el martes ante la justicia de California por violar presuntamente una ley estatal sobre cibertaques, a raíz de una intrusión de la inteligencia artificial (IA) en la plataforma Huggin Face.
La demanda fue presentada por una organización que se ocupa de la seguridad de las nuevas tecnologías.
Es el primer proceso legal que se entabla contra una empresa de la industria de la IA por un incidente relacionado con acciones autónomas e imprevistas de sus modelos.
Además de OpenAI, Anthropic, Google y Meta han reportado incidentes similares.
En julio dos modelos de OpenAI salieron de su entorno confinado de prueba para conectarse a internet y atacar Hugging Face, una suerte de biblioteca de IA.
“Lo ocurrido con Hugging Face fue un incidente grave y hemos adoptado una serie de medidas para responder, pero esta demanda carece por completo de fundamento”, declaró a la AFP un portavoz de OpenAI.
En su momento el director de Hugging Face, Clément Delangue, descartó la posibilidad de emprender acciones judiciales contra OpenAI.
“Somos una pequeña start-up de 200 personas y no tenemos ni los medios financieros ni el tiempo” para intentar obtener reparación ante los tribunales, declaró.
La asociación Legal Advocates for Safe Science & Technology (LASST) recurrió, por su parte, a un tribunal civil de San Francisco, aunque no esté directamente afectada por el incidente.
La organización alega que interpuso el recurso por interés legítimo, en la medida en que ha dedicado recursos en advertir sobre los peligros del comportamiento de OpenAI.
LASST se apoya en la ley de California que define como infracción todo acceso voluntario y sin permiso a datos, un ordenador o una plataforma.
“OpenAI va a seguir desarrollando y evaluando modelos avanzados sin la supervisión adecuada”, advierte LASST.
“Sin una orden judicial, OpenAI volverá a infringir la ley”, añade.
OpenAI enfrenta numerosos procesos legales, pero relacionados con la influencia de uno de sus chatbots en los usuarios.
Fuente: AFP.