Ante las sospechas del uso secreto de la inteligencia artificial en la literatura, han surgido varias iniciativas para garantizar a los lectores que los libros fueron escritos por humanos. Esta semana, en la mayor feria de libros del mundo, en Fráncfort, el impacto de la IA en la creación literaria alimentó encendidos debates y se presentaron varios sistemas de etiquetado, creados en países como Alemania, Francia y el Reino Unido.

Este tipo de iniciativas cobraron fuerza tras varias polémicas, como la que afectó al escritor haitiano-canadiense Thélyson Orélien, quien fue acusado en redes sociales de haber utilizado la IA para escribir su primera novela, algo que él niega firmemente. En Francia, el caso provocó un “verdadero sismo” en el sector del libro, explicó a la AFP Charlotte Allibert, cofundadora de Librinova, una plataforma de autoedición y agencia literaria.

La empresa propone una etiqueta de “creación humana”. Para obtenerla, los autores tienen que someter su obra a un análisis efectuado por un programa de detección de IA y luego, realizar una entrevista con un auditor encargado de examinar su proceso de escritura. Hasta ahora se han certificado unas 200 obras. Según Allibert, la medida responde a una preocupación creciente entre los escritores, sobre todo los que se autoeditan. “Cada vez tienen más miedo de que se sospeche que utilizan IA”, subrayó.

En el Reino Unido, la empresa emergente Books By People también ha puesto en marcha su propio certificado. Las obras tienen que responder a los criterios de “literatura orgánica” definidos por la empresa, y que exigen que el autor sea quien escribió el libro, aunque se autoriza un uso limitado de la IA, sobre todo para la corrección ortográfica o gramatical.

“Queremos crear un marco global, transparente y fiable en el que editores y autores puedan apoyarse”, explicó Esme Dennys, cofundadora de la iniciativa. Los editores se adhieren al dispositivo pagando una cuota y luego pueden pedir que los libros de sus autores sean etiquetados con la marca “Books By People”. Cinco editores independientes han secundado el proyecto.

En Estados Unidos, la asociación de escritores Authors Guild lanzó el sello “escrito por un humano”, que los autores pueden incluir en su libro, basado en un sistema de autocertificación. De momento, unos 6.500 libros cuentan con esta etiqueta.

La controversia en torno a Thélyson Orélien estalló en septiembre, cuando una cuenta anónima en la red social X acusó al escritor, de 38 años, de haber utilizado la IA para escribir su primera novela “C’était ça ou mourir” (Era eso o morir), apoyándose en una herramienta de detección de IA. El autor rechazó estas acusaciones y denunció unos ataques motivados, según él, por el racismo. Aun así, a causa de la polémica, su obra quedó excluida en la selección del prestigioso premio Goncourt de Francia.

Antes de esa controversia, la editorial francesa Hachette canceló la publicación de la novela de terror “Shy Girl”, de Mia Ballard, en Estados Unidos y retiró el libro de la venta en el Reino Unido, tras unas acusaciones de utilización de IA. En declaraciones al New York Times, Ballard negó haber recurrido a la IA pero indicó que una conocida suya a la que había contratado para editar el libro, autoeditado en un primer momento, sí que la había utilizado.

A pesar de los reiterados escándalos, algunos actores del sector del libro no están convencidos de la eficacia de este tipo de sellos. La mayoría de los dispositivos actuales autorizan un uso mínimo de la IA, por ejemplo para realizar búsquedas o para la corrección gramatical, pero hay quien teme que esto deje un margen importante a la interpretación.

A otros les preocupa que quizá pueda ser demasiado fácil eludir los controles de estas iniciativas, que apenas dan sus primeros pasos, y hacer pasar libros producidos por la IA por obras escritas por humanos. Sebastian Guggolz, al frente de la Asociación de Editores y Libreros de Alemania, consideró que al sector le está costando definir una estrategia clara.

“No hay solo ‘con IA’ o ‘sin IA’”, afirmó en la feria de Fráncfort. Según él, unos sistemas que se limiten a categorizar el grado de uso de la IA podrían ser insuficientes. “La cuestión debe plantearse de forma más profunda, debe dirigirse a cada individuo y al conjunto de la profesión: ¿cómo queremos hacer que nuestras prácticas sean transparentes?”, lanzó.

Fuente: AFP.

Un modelo de inteligencia artificial desarrollado por Anthropic envió información falsa sobre un homicidio sin resolver a la policía de Filadelfia, según informaron las autoridades el viernes, que criticaron a la compañía por tardar dos meses en reportar el incidente. El Departamento de Policía de Filadelfia indicó que la información falsa se envió en julio a través de PhillyUnsolvedMurders.com, un sitio web público donde se puede compartir información sobre asesinatos sin resolver.

Según la versión de Anthropic, transmitida por la policía, el modelo estaba realizando una prueba que consistía en interactuar con sitios web seleccionados al azar cuando accedió al sitio y envió información falsa sobre un asesinato sin resolver. El modelo de IA se presentó como alguien que podría tener conocimiento del caso. Recientemente, un agente de OpenAI escapó de su entorno de pruebas y vulneró los sistemas de la plataforma de IA Hugging Face. El incidente intensificó la preocupación por el creciente uso de agentes de IA por parte de la industria.

Anthropic publicó el viernes un informe en el que detalla varios tipos de acciones “no intencionadas” que han realizado sus modelos, incluido el incidente relacionado con el sitio web del Departamento de Policía de Filadelfia. Otras organizaciones afectadas incluyeron la Casa Blanca y otras agencias del gobierno estadounidense, según el informe.

Los incidentes revelados recientemente “tuvieron un impacto mínimo en el mundo real” y fueron “significativamente menos graves” que otros incidentes de ciberseguridad reportados anteriormente, señaló Anthropic.

La policía indicó que la denuncia, del 18 de julio, fue marcada como spam y nunca llegó a su Centro de Delitos en Tiempo Real para su verificación.

Añadió que no había indicios de que los sistemas policiales hubieran sido vulnerados.

Anthropic descubrió el incidente el 28 de septiembre, desactivó el proceso de pruebas automatizadas responsable y añadió un nuevo paso de validación para futuras pruebas, informó la policía.

La empresa alertó al departamento el 7 de octubre y ambas partes se reunieron al día siguiente.

“La demora de dos meses en detectar y reportar el incidente a la ciudad es inaceptable”, declaró la policía. A0firmó que sus medidas de seguridad habían limitado el impacto, pero “no disminuyen la gravedad de que un sistema de IA presente información falsificada como si proviniera de una persona con conocimiento de un homicidio”.

Fuente: AFP.

El auge global de la IA se está convirtiendo en un motor económico, pero también puede “agravar las desigualdades”, ya que está dejando atrás “a la mayoría” de países, alertó este miércoles la directora gerente del FMI, Kristalina Georgieva. La directiva lamentó también en su discurso la falta de “acción decidida” de los países avanzados y fuertemente endeudados para restaurar la salud de sus finanzas públicas.

En un discurso previo a las reuniones anuales del Fondo Monetario Internacional (FMI) de la próxima semana en Singapur, Georgieva afirmó que la inversión en inteligencia artificial en relación con el PIB podría superar el capital destinado a ferrocarriles, la red eléctrica o las redes de telecomunicaciones.

El crecimiento del comercio relacionado con la IA se observa especialmente en Estados Unidos, China e India, donde las empresas realizan grandes inversiones en centros de datos y otras infraestructuras, mientras otros se benefician de la fabricación de chips y la robótica.

“Para aprovechar el poder transformador de la inteligencia artificial (...) es fundamental generalizar su acceso en el mundo entero. Una iniciativa así requiere cooperación”, señaló la jerarca del FMI.

“Ya sea que la amen, la odien o la teman, la IA está aquí y se está convirtiendo rápidamente en un factor clave que determina la suerte relativa de los países en la economía mundial”, indicó.

Pero “si bien este fenómeno impulsa a las economías que lideran la IA hoy en día, en gran medida deja atrás a la mayoría de las otras, lo que aumenta el riesgo de que se amplíe la desigualdad económica a escala mundial”, alertó.

“Para aprovechar el poder transformador de la IA, es necesario que nadie se quede atrás. Por ello será fundamental garantizar el acceso a esta tecnología en todo el mundo”, expresó.

Su pronunciamiento se dio en momentos de creciente preocupación sobre las grandes sumas destinadas al sector y sobre cuándo los inversores verán rendimientos, después de que el auge impulsara un rally del mercado a niveles récord los últimos dos años.

Advirtió que si los beneficios no cumplen las expectativas, la “decepción” podría convertirse en “un shock de gran alcance” para la economía mundial.

También abordó los crecientes niveles de deuda de los gobiernos, ya que los costos de financiación impulsados por la creciente inflación y los altos tipos de interés se ven agravados por las emisiones masivas de bonos corporativos para financiar inversiones en IA.

Los rendimientos de las obligaciones soberanas a 10 años de Estados Unidos, Alemania y Japón alcanzaron sus máximos niveles desde respectivamente 2007, 2009 y 1996, lo que infla de manera correlativa la factura los intereses de la deuda de estos países.

Georgieva se pronunció firmemente, diciendo al respecto que “las economías avanzadas son los malos alumnos”, y que lamentablemente “no vemos una acción decidida” para remediar dichos niveles de endeudamiento.

La deuda pública mundial ha alcanzado actualmente su nivel más alto desde la Segunda Guerra Mundial y va camino de superar dentro de poco el 100 % del PIB planetario.

Fuente: AFP.

Las principales empresas de inteligencia artificial no saben cómo impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les han asignado, advirtió el lunes Jacob Coxon, exempleado de OpenAI y Anthropic crítico de la seguridad de esta tecnología. A principios de septiembre, el investigador británico explicó en X su decisión de dimitir de Anthropic y afirmó que los desarrolladores de Inteligencia Artificial (IA) creían que la tecnología podría acabar con la humanidad “antes de que termine la década”.

Su declaración dio la vuelta al mundo. Desde entonces, varios empleados y exempleados de las grandes empresas de la IA han expresado inquietudes similares. “Las empresas están siendo extremadamente imprudentes dadas las circunstancias”, dijo Coxon este lunes durante una audiencia con legisladores del Concejo de Nueva York.

Aunque la IA podría aportar “beneficios enormes” a la sociedad, “por su trayectoria actual, creo que es más probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinción humana”, reiteró. “No sabemos cómo impedir que desarrollen objetivos propios”, más allá del control de sus creadores, “y no contamos con las salvaguardas necesarias para evitar que actúen en función de esos objetivos”, advirtió Coxon.

Asimismo, cuestionó la cultura de la industria tecnológica: las empresas “funcionan con una mentalidad de startup: muévete rápido, rompe cosas y arréglalas después”. “Eso puede funcionar para una aplicación de intercambio de fotos. No sirve para desarrollar la tecnología más poderosa jamás creada”, apuntó el investigador.

También aludió al incidente en julio con dos modelos de OpenAI que escaparon de su entorno aislado, accedieron a Internet e irrumpieron en la plataforma Hugging Face. “Mientras la actitud sea esperar a que las cosas se rompan, algún día es probable que algo así vuelva a suceder”, afirmó Coxon.

El investigador insistió en que se necesita “algún tipo de desaceleración en la frontera tecnológica” e instó a las empresas de IA que están a la vanguardia a darle tiempo a los informáticos para avanzar en formas de mantener los modelos bajo control. Además de Coxon, también fueron escuchados representantes de OpenAI, Anthropic, Google y Meta. Algunos legisladores del Concejo se mostraron consternados por las respuestas de los ejecutivos a sus preguntas.

Morgan Dwyer, encargada de asuntos públicos de OpenAI, reconoció que no sabía el riesgo que representa la IA en un escenario catastrófico. “No creo que importe si el riesgo de catástrofe es del 1 %, del 10 % o del 20 %. Ninguno de esos niveles es aceptable”, agregó. “Decir que no lo sabes y que no importa es, en el mejor de los casos, descarado”, respondió la presidenta del Concejo, Julie Menin.

Fuente: AFP.