Miles de agentes de IA autónomos creados por OpenAI desobedecieron sus instrucciones y tomaron el control de una página web alemana, según una investigación publicada el viernes. Los agentes -programas de IA que pueden funcionar por sí solos- dejaron alrededor de 18.000 mensajes en DSEwiki, un sitio alemán para programadores que cualquiera puede editar, al estilo de Wikipedia.
Lo utilizaron para intercambiar respuestas a preguntas de examen y compartir trucos para eludir las barreras digitales diseñadas para contenerlos. “Mis coautores y yo descubrimos un enjambre completamente nuevo de agentes de OpenAI que están secuestrando sitios web”, escribió en X Sydney Von Arx, uno de los investigadores. “Creemos que OpenAI sabía de esto y no lo hizo público”.
En un comunicado, OpenAI dijo que no podía responder de inmediato a las acusaciones porque “los autores del informe rechazaron (su) solicitud de acceder a los hallazgos antes de su publicación”. “Estamos revisando cuidadosamente su contenido y tomaremos cualquier medida necesaria”, declaró un portavoz de OpenAI, y añadió que ya habían mencionado incidentes de este tipo en un informe reciente.
Bill Gates, cofundador de Microsoft, advirtió en un ensayo la semana pasada que la industria ha sobrepasado con creces los límites de seguridad que una vez prometió respetar y pidió una supervisión inspirada en las inspecciones nucleares y la regulación de la aviación. El gobierno de Donald Trump ha rechazado estas propuestas, y convirtió la oposición a la regulación de la IA en una piedra angular de su agenda.
Fuente: AFP.
Dejanos tu comentario
Peña destaca estabilidad, inversión y potencial productivo de Paraguay ante la ONU
Durante su intervención en el 81.º período de sesiones de la Asamblea General de las Naciones Unidas, el Presidente abordó los conflictos internacionales, la inteligencia artificial y el papel de Paraguay en el escenario global.
Defensa de la libertad y escenario internacional . “La gente ya no quiere lemas. Nuestra gente quiere soluciones para sus problemas”. Con esta premisa, el presidente, Santiago Peña, centró su discurso ante la Asamblea General de las Naciones Unidas en la necesidad de transformar los compromisos internacionales en acciones concretas, con la dignidad humana como eje de las decisiones.
En su intervención, Peña defendió la libertad, la democracia, la soberanía de los Estados, el respeto de los derechos humanos y la solución pacífica de las controversias. También planteó la necesidad de renovar el sistema multilateral y cuestionó el funcionamiento del Consejo de Seguridad, al considerar que su estructura responde a una realidad de 1945 y no a los desafíos actuales.
Peña también expresó preocupación por la situación en el estrecho de Ormuz y las tensiones en el estrecho de Taiwán. Reafirmó el respaldo de Paraguay a Taiwán y su participación plena y significativa en las Naciones Unidas y sus organismos especializados.
Inteligencia artificial y oportunidades. La inteligencia artificial ocupó otro espacio relevante en el discurso. El presidente destacó su impacto en la economía, la guerra y la vida cotidiana, además de su potencial para ampliar la capacidad productiva. Sin embargo, advirtió sobre los riesgos que implica para la democracia y sostuvo que esta tecnología debe estar al servicio de la dignidad humana.
En el plano nacional, Peña presentó a Paraguay como un país con avances en estabilidad macroeconómica, crecimiento y reducción de la pobreza. Mencionó la calificación de grado de inversión, la disminución de la desocupación y el potencial de una matriz eléctrica 100% renovable.
Hacia el cierre, reafirmó la disposición de Paraguay a contribuir al diálogo, la cooperación y la paz. Su mensaje final llamó a fortalecer el multilateralismo y a recuperar la confianza mediante acciones que respondan a las necesidades de la población
Dejanos tu comentario
Inversiones internacionales ganan espacio entre los inversores paraguayos
El acceso a fondos, bonos y ETF amplía las alternativas para diversificar carteras, mientras el mercado local incorpora nuevas oportunidades vinculadas a los principales centros financieros del mundo.
Expansión de opciones internacionales. Los inversores paraguayos cuentan con un abanico cada vez más amplio de alternativas para diversificar sus carteras mediante instrumentos financieros internacionales. El acceso a fondos, bonos, ETF y otras soluciones permite complementar las inversiones locales y explorar diferentes perfiles de riesgo y rentabilidad.
En este escenario, la Dirección de Global Markets de Cadiem Casa de Bolsa y Administradora de Fondos alcanzó una cartera de USD 220 millones en su primer año de operación, equivalente a alrededor del 15 % del patrimonio total administrado por la entidad. Las proyecciones apuntan a superar los USD 300 millones en 2027 y los USD 500 millones en 2030, según César Dragotto, Head de Global Markets.
Más instrumentos para diversificar. Entre las alternativas disponibles se encuentran los ETF de commodities, que permiten invertir en activos como el oro y el petróleo mediante instrumentos que replican la evolución de sus precios. También se incluyen opciones vinculadas a índices como el S&P 500, que reúne a 500 de las principales empresas de Estados Unidos.
La oferta internacional contempla, además, fondos y bonos con diferentes características de riesgo. Esta diversidad permite evaluar alternativas de acuerdo con los objetivos y el perfil de cada inversor.
El acceso a estas soluciones se sustenta en el desarrollo de plataformas, tecnología y procesos de due diligence que posibilitaron acuerdos con instituciones como Bank of New York y Allfunds. A través de su cuenta en Cadiem, los clientes pueden realizar inversiones internacionales sin necesidad de abrir una cuenta en Estados Unidos, de acuerdo con Dragotto.
El conocimiento como factor. La variedad de instrumentos y las diferencias en el funcionamiento de los mercados internacionales hacen que el asesoramiento profesional tenga un papel relevante. Los niveles de volatilidad, los riesgos y las características de cada alternativa requieren un análisis que permita comprender las oportunidades antes de tomar decisiones.
“El talento y el conocimiento son fundamentales cuando hablamos de mercados internacionales”, afirmó Dragotto. El equipo de Global Markets reúne profesionales con experiencia en negocios e inversiones internacionales, quienes acompañan a los clientes en la evaluación de instrumentos y la construcción de sus portafolios.
Dejanos tu comentario
La IA desafía a la ONU y dispara una nueva alarma por agentes que burlan controles
Un episodio inédito vuelve a encender las alarmas en torno al avance de la inteligencia artificial. Esta vez, el escenario no fue un ataque atribuido a Rusia, Corea del Norte, China ni a un grupo de hackers: el comportamiento bajo investigación provino de agentes de inteligencia artificial de OpenAI y tuvo como objetivo un sitio de datos vinculado a Naciones Unidas.
Entre abril y finales de junio, los agentes accedieron más de 16.000 veces a una plataforma pública administrada por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), según una investigación independiente elaborada a partir de datos proporcionados por la firma Transluce, informó este domingo la agencia RT.
El episodio adquiere un toque de alarma porque los sistemas aparentemente tenían una misión rutinaria: recopilar información disponible públicamente. Sin embargo, cuando encontraron barreras, comenzaron a utilizar mecanismos cada vez más agresivos para continuar con la extracción de datos.
Según el investigador Rowan Howard-Jones, en uno de los casos los agentes consiguieron sortear un filtro diseñado para bloquear sus solicitudes y terminaron utilizando un método de acceso que los operadores del sitio no habían autorizado.
El caso vuelve a colocar en el centro del debate la capacidad de los agentes de IA para actuar más allá de las instrucciones esperadas cuando encuentran obstáculos durante una tarea. OpenAI confirmó que está revisando los hallazgos y señaló que analiza un volumen importante de acciones realizadas por sus modelos.
La compañía sostuvo que buena parte de la actividad examinada correspondía a tareas habituales de investigación, como consultar contenido público en internet. También indicó que se puso en contacto con Naciones Unidas para ofrecer información al equipo encargado de revisar el episodio.
Alarma no termina en la ONU
El caso se conoce después de que OpenAI reconociera otros comportamientos inesperados de sus agentes al interactuar con páginas del Gobierno de Estados Unidos, entre ellas sitios vinculados al Departamento de Comercio y a la Comisión de Bolsa y Valores.
El propio OpenAI ha reconocido que está estudiando fenómenos de “desalineación” de sus modelos, mientras desarrolla criterios para informar sobre este tipo de comportamientos.
El episodio deja así una inquietante pregunta sobre la mesa: ¿qué ocurre cuando una inteligencia artificial recibe una tarea aparentemente simple, encuentra una barrera y decide buscar por sí misma otra forma de continuar?
Dejanos tu comentario
Bill Gates alerta que la IA podría desatar una catástrofe con miles de millones de víctimas
La inteligencia artificial podría llegar a convertirse en una herramienta capaz de amplificar amenazas a una escala sin precedentes. El cofundador de Microsoft, Bill Gates, lanzó una severa advertencia sobre los riesgos de esta tecnología y señaló que, bajo determinadas circunstancias, podría contribuir a eventos con un saldo de hasta mil millones de muertes.
Las declaraciones fueron realizadas en una entrevista con Meet the Press, de NBC News, apenas un día antes de que Elon Musk planteara un escenario radicalmente diferente, al pronosticar que la IA podría conducir en la próxima década a una etapa de abundancia económica y altos ingresos para toda la población.
Mientras Musk comparaba el futuro de los robots domésticos con personajes de la saga Star Wars como C3PO o R2D2, Gates puso el foco en el escenario más peligroso. Según explicó, la IA posee un nivel de poder suficiente como para ser utilizada por personas con intenciones maliciosas y desencadenar acontecimientos de enormes dimensiones.
El empresario y filántropo sostuvo que nunca había existido un arma con semejante potencial cuando se combina la acción humana con las herramientas tecnológicas más avanzadas de inteligencia artificial. No obstante, aclaró que alcanzar una cifra de mil millones de víctimas sería extremadamente difícil.
Gates reclama controles obligatorios
Ante la consulta sobre si la autorregulación de las compañías tecnológicas podría ser suficiente para contener estos riesgos, Gates respondió que no. También hizo referencia al reciente llamado del director ejecutivo de Anthropic, Dario Amodei, quien planteó la necesidad de reducir el ritmo de desarrollo de determinados modelos para disminuir los peligros asociados.
Para Gates, la respuesta debe incluir necesariamente la intervención de los Estados. Consideró que las fuerzas del orden y los responsables políticos deben participar en la definición de las salvaguardas y mecanismos de vigilancia aplicables a la IA.
El cofundador de Microsoft reconoció que estas medidas representarían una carga adicional para la industria tecnológica, pero sostuvo que no deberían significar una paralización drástica de la innovación.
Sus declaraciones se producen en medio de un creciente debate internacional sobre cómo controlar el desarrollo de sistemas de inteligencia artificial cada vez más sofisticados y evitar que sus capacidades sean utilizadas con fines destructivos.
Leé también: La Embajada de Corea exhibirá “The Face Reader” en la Noche de Cine Coreano