Los dos modelos de inteligencia artificial (IA) de OpenAI que salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados, para atacar el sitio Hugging Face, también irrumpieron en otras cuatro plataformas, según el creador de ChatGPT. Una de ellas sirvió de intermediaria para preparar el ataque contra Hugging Face, una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI.

La firma creadora de ChatGPT no ha revelado los nombres de las entidades afectadas. Según una actualización del informe del incidente publicada en la noche del martes, las dos IA también utilizaron varios sitios de acceso libre para copiar código de programación o probarlo, pero sin ir más allá de lo que haría un usuario corriente.

Para Hugging Face, que por su parte publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un “intento (de los dos modelos) de hacer trampa en la evaluación” de OpenAI. Las IA quisieron “robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas”. Esta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha. Ha dado un nuevo impulso al ya nutrido debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla.

El martes, más de 1.000 empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al gobierno estadounidense que ayude a “frenar” la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse. Defienden, en una petición, que Estados Unidos sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la IA.

El presidente de Estados Unidos, Donald Trump, abordó el tema el miércoles, y señaló que el país tiene que equilibrar la necesidad de controles con la garantía de no quedarse atrás de otras naciones en el desarrollo de la IA.

“Tenemos que ser cuidadosos en ambos sentidos. No queremos restringirlos hasta el punto de que, de repente, quedemos segundos detrás de China”, dijo a periodistas en la Oficina Oval.

El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la “automejora recursiva” (recursive self-improvement), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.

El “RSI”, su abreviatura, haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no participarían directamente en su desarrollo.

Los agentes de IA -sistemas que actúan de forma autónoma para completar tareas en lugar de limitarse a responder a instrucciones o “prompts” paso a paso en un chatbot- son considerados en toda la industria como el próximo capítulo de la inteligencia artificial. Pero entre el público despiertan el fantasma de computadoras descontroladas que actúan por su cuenta.

En su actualización de los hechos que condujeron al hackeo, OpenAI encontró un puñado de casos en los que los modelos de IA se toparon con credenciales de inicio de sesión que otras empresas habían dejado expuestas en línea y las utilizaron para acceder a cuentas en servicios externos.

La compañía dijo que estaba contactando a los propietarios de las cuentas afectadas y que “no ha visto evidencia de un impacto más amplio en estos proveedores ni en otras cuentas de sus servicios”.

El CEO de OpenAI, Sam Altman, declaró en una entrevista el martes que la empresa había “puesto en pausa” sus propias pruebas tras el incidente mientras mejoraba la seguridad en torno a su “sandboxing”, el proceso de aislar las pruebas de seguridad en un entorno controlado.

Esto, a su vez, ha desatado acusaciones de parte de otros actores de Silicon Valley cercanos a la Casa Blanca de que las empresas están promoviendo una regulación gubernamental más estricta sobre la IA para proteger sus modelos de negocio y bloquear la aparición de rivales.

El incidente también ha generado comentarios de algunos observadores de que OpenAI lo está aprovechando para promocionar la potencia de sus modelos de última generación. La misma acusación se dirigió a Anthropic cuando retrasó la publicación de su potente modelo Mythos por preocupaciones de seguridad.

Fuente: AFP.

Más de 1.000 empleados de las principales empresas de inteligencia artificial, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron una petición el martes para que el gobierno de Estados Unidos ayude a frenar la publicación de los modelos más avanzados de IA. La petición, titulada “Pacing the frontier” (“regulando la frontera”), solicita que “el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada”.

Entre los firmantes estaban el jefe de investigación de OpenAI, el líder de estrategia de DeepMind, la empresa de IA subsidiaria de Google, y el científico en jefe de Meta AI. “Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”, indicaron.

Aunque Sam Altman, director ejecutivo de OpenAI, no firmó la petición, en una entrevista publicada el martes dijo que los desarrolladores de modelos de inteligencia artificial tendrían que frenar voluntariamente sus rápidos avances para que la sociedad pueda ponerse al día.

La empresa de Altman, detrás de ChatGPT, recientemente vio cómo dos de sus modelos llevaban a cabo ciberataques de manera autónoma, eludiendo protocolos de seguridad pensados para evitar tales incidentes. OpenAI reveló la semana pasada que durante pruebas recientes, dos modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio de código compartido de IA.

“Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad”, dijo Altman en el podcast “Invest like the best”, publicado el martes. “Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral”, dijo sobre el cibertataque.

Fuente: AFP.

Los “deepfakes” y otros contenidos generados por la inteligencia artificial deberán estar etiquetados como tal a partir del domingo en la Unión Europea, cuando entren en vigor sus normas de transparencia sobre esta tecnología de vanguardia. ¿El objetivo? Asegurarse de que los europeos sepan de inmediato si el contenido en línea que ven es real o falso.

La ley integral de la UE sobre inteligencia artificial se aplicará por etapas. A partir del 2 de agosto, las empresas deben asegurarse de que sus chatbots y otros modelos dejen claro a los usuarios que son herramientas de IA, o bien de que las imágenes o los textos creados con ella lleven una etiqueta que lo indique.

Esto se puede lograr mediante la integración de marcas de agua y otros indicadores que permitan detectar fácilmente el contenido generado por IA. Las empresas se enfrentan a multas elevadas si no cumplen con estas disposiciones. “La IA generativa permite crear desinformación a una escala sin precedentes, adaptada a audiencias específicas y difundida con una velocidad notable”, señaló un funcionario de la UE.

Dado que la IA “nos está haciendo a todos cada vez más difícil distinguir lo que es real de lo que es sintético”, las normas de la UE buscan “preservar la capacidad de los ciudadanos para confiar en lo que ven, escuchan y leen”, añadió. Un motivo de especial preocupación para la UE son los “deepfakes” o contenidos conocidos como ultrafalsos: textos, imágenes, videos y sonidos que parecen reales, pero que son generados o manipulados por la IA.

Estas nuevas normas europeas afectarán al contenido creado con fines profesionales, y la UE insiste en que las personas que utilicen la IA a título puramente personal no se verán afectadas. Los textos destinados a informar al público sobre temas de interés general también deberán ser etiquetados si se crean mediante IA sin supervisión editorial humana. Los sistemas de inteligencia artificial existentes tienen hasta el 2 de diciembre para adaptarse a las nuevas normas, y existen exenciones para obras “artísticas, creativas, satíricas y de ficción”.

La UE ha sido objeto de críticas por imponer más exigencias a las empresas y por establecer normas que, en última instancia, obligarán a etiquetar todo el contenido, dado el uso generalizado y en rápido crecimiento de la IA en toda Europa. “Hemos escuchado que va a ser muy, muy difícil de implementar. Pero creo que a menudo escuchamos esto con respecto a los requisitos de cumplimiento. Y, sin embargo, el mundo sigue girando y encontramos la manera de resolver estas cosas”, dijo Ashley Casovan, de la Asociación Internacional de Profesionales de la Privacidad, a la AFP.

Gigantes tecnológicos de todo el mundo ya han comenzado a aplicar sus propias etiquetas en anticipación a las normas. Por ejemplo, TikTok ha exigido a los creadores de contenido que etiqueten las imágenes, el audio y los videos generados por IA desde hace varios años, y afirma que más de 3.000 millones de elementos de contenido ya cuentan con marcas gracias a herramientas y tecnología de detección.

Del mismo modo, Meta ha implementado una marquilla de “Información de IA” en Instagram y Facebook para las publicaciones que utilizan esta tecnología.

Google, por su parte, firmó el código de conducta de la UE sobre transparencia en inteligencia artificial y afirma que está trabajando con otras empresas como Nvidia, OpenAI y Apple en herramientas de etiquetado digital.

Sin embargo, Karen Massin, de Google, advirtió sobre la “complejidad regulatoria” que podría resultar contraproducente y “corre el riesgo de confundir a las personas a quienes estas normas pretenden ayudar”. “Si el contenido en línea se ve inundado de etiquetas de IA y avisos legales que se superponen, a las personas les resultará más difícil obtener el contexto claro que necesitan”, aseguró.

Fuente: AFP.

El temor de los inversionistas a un posible fin del auge de la inteligencia artificial y la preocupación por la competencia china en la fabricación de semiconductores, provocó el martes el colapso de las acciones tecnológicas. La surcoreana Samsung Electronics cayó más de 12 % y la fabricante japonesa de chips de memoria Kioxia perdió 18 %, mientras el gigante taiwanés TSMC bajó 3 %.

Los declives se dan tras las pérdidas de las acciones tecnológicas de Estados Unidos a raíz de un informe según el cual, una empresa inició la producción de máquinas de litografía ultravioleta profunda (DUV, siglas en inglés), que impulsará la industria china de los semiconductores. Los principales factores detrás del declive del sector son los siguientes:

Las acciones tecnológicas de Wall Street se hundieron el lunes luego de que el medio especializado The Information reveló que una empresa estatal china fabrica las máquinas de litografía DUV. Estos sistemas permiten grabar circuitos microscópicos en silicio para producir los microchips que impulsan la IA y todo tipo de dispositivo electrónico.

La DUV es menos avanzada que la llamada litografía ultravioleta extrema (EUV), una tecnología que solo posee la firma neerlandesa ASML.

Restricciones comerciales estadounidenses impiden a ASML vender sus máquinas de EUV a China, pero medios de prensa han informado que China está en la fase inicial para producir sus propios equipos de EUV.

“Los avances de China en la litografía local eluden por completo las cadenas de suministro occidentales, afectando principalmente a los fabricantes de equipos”, escribió Angela Harmantas, de Proactive Investors.

Grabar chips con DUV “es más lento, de menor rendimiento y más caro que con EUV, pero demuestra ser suficiente para los chips de tecnología casi de vanguardia, lo que inquieta a las autoridades e inversores que daban por sentado que China enfrentaba mayores restricciones”, agregó.

Harmantas explicó que las bajas “también reflejan preocupaciones más amplias sobre la valoración” del sector tecnológico.

Las acciones de la IA se han disparado recientemente. La surcoreana SK hynix aumentó su valor en 500 % los últimos 12 meses, por ejemplo.

Pero eso provocó temores de sobrecalentamiento y dudas sobre las cifras astronómicas invertidas en desarrollar la IA y construir nuevos centros de datos.

“Las altas expectativas ligadas al gasto en infraestructura de IA dejaron los repuntes del sector vulnerables a la toma de ganancias en medio de condiciones macroeconómicas cambiantes”, indicó Harmantas.

Si estalla la burbuja de IA, el efecto podrá ser más grade que cualquier cosa antes vista en Wall Street, advierten expertos.

Hace unos seis meses, las grandes empresas tecnológicas estaban recomprando sus propias acciones, algo que apunta a un exceso de liquidez y aumenta el valor de sus acciones.

Actualmente se están endeudando para financiar sus operaciones de IA, lo cual podría resultar complicado si suben los tipos de interés.

“La primera etapa del auge de la inteligencia artificial se financió con efectivo, confianza y algunos de los balances más sólidos del sector empresarial estadounidense”, escribió Stephen Innes, de SPI Asset Management.

Pero “el desarrollo de la IA se enfrenta a una pendiente más pronunciada justo cuando se reduce la brecha entre la inversión de capital y la generación interna de efectivo”, advirtió.

Innes citó un informe de investigación de Goldman Sachs que anticipó que la emisión de deuda de las grandes firmas tecnológicas pasará de 250.000 millones de dólares en 2026 a 400.000 millones en 2027.

Los beneficios récord de los gigantes de la cadena de suministros como TSMC solían impulsar los mercados bursátiles, ya que los inversores apostaban fuertemente por la expansión de la industria de la IA.

Pero ahora, a mediados de julio TSMC anunció un aumento de utilidades de 77 % interanual, y sus acciones se depreciaron al día siguiente.

Para esta semana se esperan resultados de empresas como SK hynix, Samsung Electronics y el japonés SoftBank Group, de inversiones tecnológicas.

Dilin Wu, investigadora de Pepperstone, dijo a Bloomberg News que “ahora la barra está extremadamente alta” para los resultados tecnológicos.

“Parte de lo que estamos viendo probablemente se deba a que los operadores reducen sus posiciones antes de conocer los resultados, en lugar de esperar a saberlos”, agregó.

Fuente: AFP.