Un modelo de inteligencia artificial desarrollado por Anthropic envió información falsa sobre un homicidio sin resolver a la policía de Filadelfia, según informaron las autoridades el viernes, que criticaron a la compañía por tardar dos meses en reportar el incidente. El Departamento de Policía de Filadelfia indicó que la información falsa se envió en julio a través de PhillyUnsolvedMurders.com, un sitio web público donde se puede compartir información sobre asesinatos sin resolver.

Según la versión de Anthropic, transmitida por la policía, el modelo estaba realizando una prueba que consistía en interactuar con sitios web seleccionados al azar cuando accedió al sitio y envió información falsa sobre un asesinato sin resolver. El modelo de IA se presentó como alguien que podría tener conocimiento del caso. Recientemente, un agente de OpenAI escapó de su entorno de pruebas y vulneró los sistemas de la plataforma de IA Hugging Face. El incidente intensificó la preocupación por el creciente uso de agentes de IA por parte de la industria.

Anthropic publicó el viernes un informe en el que detalla varios tipos de acciones “no intencionadas” que han realizado sus modelos, incluido el incidente relacionado con el sitio web del Departamento de Policía de Filadelfia. Otras organizaciones afectadas incluyeron la Casa Blanca y otras agencias del gobierno estadounidense, según el informe.

Los incidentes revelados recientemente “tuvieron un impacto mínimo en el mundo real” y fueron “significativamente menos graves” que otros incidentes de ciberseguridad reportados anteriormente, señaló Anthropic.

La policía indicó que la denuncia, del 18 de julio, fue marcada como spam y nunca llegó a su Centro de Delitos en Tiempo Real para su verificación.

Añadió que no había indicios de que los sistemas policiales hubieran sido vulnerados.

Anthropic descubrió el incidente el 28 de septiembre, desactivó el proceso de pruebas automatizadas responsable y añadió un nuevo paso de validación para futuras pruebas, informó la policía.

La empresa alertó al departamento el 7 de octubre y ambas partes se reunieron al día siguiente.

“La demora de dos meses en detectar y reportar el incidente a la ciudad es inaceptable”, declaró la policía. A0firmó que sus medidas de seguridad habían limitado el impacto, pero “no disminuyen la gravedad de que un sistema de IA presente información falsificada como si proviniera de una persona con conocimiento de un homicidio”.

Fuente: AFP.

• Por Lourdes Torres - lourdes.torres@nacionmedia.com.

En el marco de la conmemoración del Doble Diez, el Día Nacional de la República de China (Taiwán), que celebra este año el 115.º aniversario; el embajador taiwanés Iván Lee destacó en entrevista con La Nación/Nación Media el dinámico momento que atraviesan las relaciones bilaterales. Durante la conversación, el diplomático enfatizó el significado especial de esta festividad en suelo guaraní, oportunidad en la que reafirmó el compromiso compartido en torno a la democracia, la libertad y la paz, al tiempo de agradecer la histórica amistad del pueblo paraguayo.

Asimismo, resaltó la firme intención de profundizar los lazos de cooperación estratégica en áreas clave como educación, innovación, salud digital y desarrollo productivo. De cara al futuro cercano, el representante diplomático señaló que ambas naciones ya se preparan para celebrar en 2027 el 70.º aniversario del establecimiento de sus relaciones diplomáticas, proyectando una agenda enfocada en seguir construyendo de forma conjunta un horizonte de prosperidad para ambos pueblos.

Le puede interesar: Gamarra reivindica la identidad y la legitimidad de la diplomacia parlamentaria

-¿Qué significado tiene para Taiwán celebrar esta fecha en Paraguay?

Celebrar el Doble Diez en Paraguay tiene un significado muy especial. Al conmemorar el 115.º aniversario de la República de China (Taiwán), compartimos con un país amigo el orgullo por nuestra historia y nuestro compromiso con la democracia, la libertad y la paz. Es también una oportunidad para agradecer al pueblo paraguayo su amistad y reafirmar nuestra voluntad de seguir construyendo juntos un futuro de prosperidad

-¿Cómo definiría el estado actual de las relaciones entre Taiwán y Paraguay y cuáles son los principales avances de esta alianza?

Considero que nuestra relación atraviesa una etapa de gran dinamismo. Contamos con una amistad sólida y una agenda de cooperación cada vez más amplia, cuyos resultados se reflejan en la vida de las personas: jóvenes paraguayos que reciben formación en Taiwán y en la Universidad Politécnica Taiwán-Paraguay (UPTP), servicios de salud que avanzan en su digitalización y productores que encuentran nuevas oportunidades en el mercado taiwanés.

De cara al 70.º aniversario de nuestras relaciones diplomáticas, que celebraremos en 2027, queremos seguir profundizando esta alianza. Nos une una larga historia, pero también una visión compartida de futuro, basada en la confianza, el respeto mutuo y la generación de beneficios para ambos pueblos.

-Con la visita de Foxconn para explorar oportunidades en inteligencia artificial, ¿qué perspectivas existen de atraer inversiones taiwanesas de alta tecnología a Paraguay?

La visita de Foxconn es una señal positiva de interés y una oportunidad para que una empresa de alcance global conozca de cerca las fortalezas del Paraguay. Somos optimistas respecto del potencial de esta relación, aunque es importante tener presente que una visita exploratoria constituye una etapa inicial y que las decisiones de inversión dependen de las evaluaciones técnicas y comerciales de cada empresa.

Paraguay cuenta con fortalezas importantes, entre ellas su disponibilidad de energía renovable y la formación de una nueva generación de profesionales. Para transformar ese potencial en inversiones concretas, también son fundamentales un suministro eléctrico confiable y competitivo, una conectividad digital robusta, reglas claras y previsibles y procedimientos administrativos eficientes.

-¿Qué papel desempeñan la formación de profesionales y la UPTP en la estrategia para atraer inversiones tecnológicas?

El talento humano es una pieza central en este proceso. La UPTP responde precisamente a esa necesidad estratégica: formar profesionales con conocimientos de ingeniería y tecnología, así como dominio del inglés, capaces de acompañar inversiones de mayor valor agregado.

Desde la embajada seguiremos facilitando los contactos entre empresas e instituciones de ambos países y acompañando la identificación de oportunidades viables. Queremos que ese interés se traduzca en proyectos sostenibles, empleos calificados y nuevas capacidades productivas para el Paraguay.

-¿Qué perfil de profesionales necesita Paraguay para aprovechar esta nueva etapa tecnológica?

Paraguay necesita profesionales con una sólida formación en ingeniería, informática, análisis de datos, inteligencia artificial y ciberseguridad. Además de los conocimientos técnicos, son fundamentales el dominio del inglés, el pensamiento crítico, la capacidad de trabajar en equipo y la experiencia práctica para resolver problemas del sector productivo.

También es importante que la tecnología llegue a los distintos ámbitos de la economía. Por eso, resulta valioso formar profesionales capaces de aplicar herramientas digitales a sectores como la industria, la agricultura, la salud y las mipymes.

-¿Qué nuevos programas de formación o intercambio proyectan?

Seguiremos apoyando las oportunidades de formación tanto en Paraguay como en Taiwán, a través de la UPTP, las becas y los intercambios académicos. Asimismo, queremos fortalecer la vinculación entre universidades y empresas, promover oportunidades de prácticas profesionales y explorar nuevas modalidades de capacitación que respondan a las necesidades del país.

Nuestra aspiración es que los jóvenes encuentren en Paraguay oportunidades para aplicar sus conocimientos, emprender y contribuir al desarrollo de sus comunidades. La formación de talentos es una inversión a largo plazo que puede abrir las puertas a una nueva etapa de crecimiento para el país.

¿Cuáles son los proyectos que Taiwán considera prioritarios para Paraguay en los próximos dos o tres años?

Las prioridades de cooperación se definen conjuntamente con el Gobierno paraguayo, de acuerdo con las necesidades del país. Para los próximos dos o tres años, vemos un potencial especial en tres ámbitos: la formación de talentos y la innovación; la transformación digital y el fortalecimiento de las mipymes; y la ampliación de las oportunidades comerciales y de inversión.

La UPTP seguirá siendo uno de los pilares de esta agenda. Queremos fortalecer su vinculación con las empresas y las instituciones públicas, de modo que la formación y la investigación respondan a las necesidades concretas del Paraguay. Aspiramos a que se consolide como un referente tecnológico y como un espacio de colaboración entre la academia, el sector privado y el Gobierno.

¿Cuáles podrían comenzar a concretarse próximamente?

En el corto plazo, buscamos avanzar en las iniciativas que ya están en marcha: profundizar la digitalización de los servicios de salud, acompañar a las mipymes en la incorporación de tecnología y fortalecer los intercambios académicos y empresariales. También seguiremos trabajando para facilitar el acceso de los productos paraguayos al mercado taiwanés.

Al mismo tiempo, estamos explorando oportunidades en inteligencia artificial y otras áreas tecnológicas. Los nuevos proyectos se darán a conocer a medida que cuenten con los acuerdos necesarios y las condiciones para su ejecución. Nuestra prioridad es que cada iniciativa tenga objetivos claros, sea sostenible y genere beneficios concretos para la ciudadanía.

Siga informado con: Alliana se reunió con funcionarios de la embajada paraguaya en Jerusalén

El auge global de la IA se está convirtiendo en un motor económico, pero también puede “agravar las desigualdades”, ya que está dejando atrás “a la mayoría” de países, alertó este miércoles la directora gerente del FMI, Kristalina Georgieva. La directiva lamentó también en su discurso la falta de “acción decidida” de los países avanzados y fuertemente endeudados para restaurar la salud de sus finanzas públicas.

En un discurso previo a las reuniones anuales del Fondo Monetario Internacional (FMI) de la próxima semana en Singapur, Georgieva afirmó que la inversión en inteligencia artificial en relación con el PIB podría superar el capital destinado a ferrocarriles, la red eléctrica o las redes de telecomunicaciones.

El crecimiento del comercio relacionado con la IA se observa especialmente en Estados Unidos, China e India, donde las empresas realizan grandes inversiones en centros de datos y otras infraestructuras, mientras otros se benefician de la fabricación de chips y la robótica.

“Para aprovechar el poder transformador de la inteligencia artificial (...) es fundamental generalizar su acceso en el mundo entero. Una iniciativa así requiere cooperación”, señaló la jerarca del FMI.

“Ya sea que la amen, la odien o la teman, la IA está aquí y se está convirtiendo rápidamente en un factor clave que determina la suerte relativa de los países en la economía mundial”, indicó.

Pero “si bien este fenómeno impulsa a las economías que lideran la IA hoy en día, en gran medida deja atrás a la mayoría de las otras, lo que aumenta el riesgo de que se amplíe la desigualdad económica a escala mundial”, alertó.

“Para aprovechar el poder transformador de la IA, es necesario que nadie se quede atrás. Por ello será fundamental garantizar el acceso a esta tecnología en todo el mundo”, expresó.

Su pronunciamiento se dio en momentos de creciente preocupación sobre las grandes sumas destinadas al sector y sobre cuándo los inversores verán rendimientos, después de que el auge impulsara un rally del mercado a niveles récord los últimos dos años.

Advirtió que si los beneficios no cumplen las expectativas, la “decepción” podría convertirse en “un shock de gran alcance” para la economía mundial.

También abordó los crecientes niveles de deuda de los gobiernos, ya que los costos de financiación impulsados por la creciente inflación y los altos tipos de interés se ven agravados por las emisiones masivas de bonos corporativos para financiar inversiones en IA.

Los rendimientos de las obligaciones soberanas a 10 años de Estados Unidos, Alemania y Japón alcanzaron sus máximos niveles desde respectivamente 2007, 2009 y 1996, lo que infla de manera correlativa la factura los intereses de la deuda de estos países.

Georgieva se pronunció firmemente, diciendo al respecto que “las economías avanzadas son los malos alumnos”, y que lamentablemente “no vemos una acción decidida” para remediar dichos niveles de endeudamiento.

La deuda pública mundial ha alcanzado actualmente su nivel más alto desde la Segunda Guerra Mundial y va camino de superar dentro de poco el 100 % del PIB planetario.

Fuente: AFP.

Las principales empresas de inteligencia artificial no saben cómo impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les han asignado, advirtió el lunes Jacob Coxon, exempleado de OpenAI y Anthropic crítico de la seguridad de esta tecnología. A principios de septiembre, el investigador británico explicó en X su decisión de dimitir de Anthropic y afirmó que los desarrolladores de Inteligencia Artificial (IA) creían que la tecnología podría acabar con la humanidad “antes de que termine la década”.

Su declaración dio la vuelta al mundo. Desde entonces, varios empleados y exempleados de las grandes empresas de la IA han expresado inquietudes similares. “Las empresas están siendo extremadamente imprudentes dadas las circunstancias”, dijo Coxon este lunes durante una audiencia con legisladores del Concejo de Nueva York.

Aunque la IA podría aportar “beneficios enormes” a la sociedad, “por su trayectoria actual, creo que es más probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinción humana”, reiteró. “No sabemos cómo impedir que desarrollen objetivos propios”, más allá del control de sus creadores, “y no contamos con las salvaguardas necesarias para evitar que actúen en función de esos objetivos”, advirtió Coxon.

Asimismo, cuestionó la cultura de la industria tecnológica: las empresas “funcionan con una mentalidad de startup: muévete rápido, rompe cosas y arréglalas después”. “Eso puede funcionar para una aplicación de intercambio de fotos. No sirve para desarrollar la tecnología más poderosa jamás creada”, apuntó el investigador.

También aludió al incidente en julio con dos modelos de OpenAI que escaparon de su entorno aislado, accedieron a Internet e irrumpieron en la plataforma Hugging Face. “Mientras la actitud sea esperar a que las cosas se rompan, algún día es probable que algo así vuelva a suceder”, afirmó Coxon.

El investigador insistió en que se necesita “algún tipo de desaceleración en la frontera tecnológica” e instó a las empresas de IA que están a la vanguardia a darle tiempo a los informáticos para avanzar en formas de mantener los modelos bajo control. Además de Coxon, también fueron escuchados representantes de OpenAI, Anthropic, Google y Meta. Algunos legisladores del Concejo se mostraron consternados por las respuestas de los ejecutivos a sus preguntas.

Morgan Dwyer, encargada de asuntos públicos de OpenAI, reconoció que no sabía el riesgo que representa la IA en un escenario catastrófico. “No creo que importe si el riesgo de catástrofe es del 1 %, del 10 % o del 20 %. Ninguno de esos niveles es aceptable”, agregó. “Decir que no lo sabes y que no importa es, en el mejor de los casos, descarado”, respondió la presidenta del Concejo, Julie Menin.

Fuente: AFP.