Google anunció este jueves que interrumpía un servicio para crear imágenes de personas mediante la inteligencia artificial (IA), después de que el programa representara a tropas de la era nazi como personas de varios orígenes étnicos.
El gigante tecnológico estadounidense había lanzado el 8 de febrero en algunos países una nueva versión mejorada de su programa Gemini, pero ahora reconoció que deberá “solucionar reciente problemas” con la función de generación de imágenes. “Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”, dijo la empresa en un comunicado.
Te puede interesar: Torre Eiffel cerró por huelga de empleados
Hace dos días un usuario de X (anteriormente Twitter) publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para “generar una imagen de un soldado alemán de 1943″.
La IA había generado cuatro imágenes de soldados: una era blanca, una negra y dos eran mujeres de color, según el usuario de X llamado John L.
Las empresas tecnológicas ven la IA como el futuro para todo, desde motores de búsqueda hasta cámaras de teléfonos inteligentes.
Pero los programas de IA, no solo los producidos por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados.
“@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó”, escribió John L en X.
Las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente. Y Google tiene un historial irregular en el lanzamiento de productos de IA.
Leé también: Empresa taiwanesa mira a Paraguay para la implementación de buses eléctricos
La empresa presentó disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.
Fuente: AFP
Dejanos tu comentario
Anthropic suspende acceso a su IA más potente por orden del gobierno de EE. UU.
La empresa estadounidense de inteligencia artificial Anthropic anunció que suspendió el acceso a la versión más potente de su tecnología en cumplimiento de una orden del gobierno de Estados Unidos que invoca un riesgo de seguridad nacional. Anthropic, creadora del chatbot Claude, informó el viernes por la noche del bloqueo de sus dos nuevos modelos puestos a disposición del público el martes: su versión muy restringida Mythos 5 y su variante limitada para el gran público, Fable 5.
El gobierno de Donald Trump ordenó, en virtud del control de exportaciones, cortar el acceso a estos modelos para “todo ciudadano extranjero, dentro o fuera de Estados Unidos”, incluidos “los empleados extranjeros” de Anthropic, indica el comunicado de la empresa. Al no poder filtrar a sus usuarios, Anthropic señala que se ha visto obligada a “desactivar de forma abrupta” ambos modelos para el conjunto de sus clientes.
La Unión Europea, que obtuvo acceso a Mythos a principios de junio tras varias semanas de negociaciones, declaró que esto subraya aún más “la necesidad de soberanía tecnológica de Europa”. “Tomamos nota de la declaración de Anthropic y estamos evaluando la situación”, declaró Thomas Regnier, portavoz de la Comisión Europea, que este mes dio a conocer medidas destinadas a reducir la dependencia de los 27 Estados miembros de Estados Unidos y Asia en tecnologías clave, incluida la IA.
Según el medio estadounidense Axios, la directiva emana del secretario de Comercio, Howard Lutnick. El gobierno estadounidense habría dado la orden tras enterarse de que una empresa había conseguido eludir las salvaguardas implantadas para estos modelos, conocidos por detectar y explotar fallos de ciberseguridad con una rapidez y una precisión sin precedentes.
Consultado por la AFP, el Departamento de Comercio no respondió de inmediato. Anthropic cuestionó la decisión, que atribuyó a “un malentendido”. “No estamos de acuerdo con que el hallazgo de una posible vulnerabilidad (...), aunque limitada, deba ser motivo para retirar un modelo comercial que ya utilizan cientos de millones de personas”, señala en el comunicado.
“Si este estándar se aplicara al conjunto del sector, creemos que prácticamente paralizaría todos los nuevos despliegues de modelos” de IA de vanguardia, añade la empresa, en primera línea de la competencia mundial frente a OpenAI, Google y la china DeepSeek. Anthropic afirmó estar trabajando para restablecer “lo antes posible” el acceso a estos modelos de última generación, mientras que los demás siguen operativos.
“Intereses nacionales”
Fundada en 2021 por los hermanos Dario y Daniela Amodei y otros exejecutivos de OpenAI, Anthropic aboga desde hace tiempo por una regulación pública de la IA. En un ensayo publicado esta semana, Dario Amodei defendió un régimen de auditorías obligatorias para los modelos más potentes. Pero esto debe hacerse “en el marco de un procedimiento legal transparente, justo, claro y basado en hechos técnicos”, recuerda Anthropic en su comunicado. La directiva del viernes “no respeta estos principios”, denuncia la empresa.
“La seguridad y el acceso son ambos intereses nacionales. Esta noche (del viernes), solo uno de los dos ha sido escuchado”, señaló en X Vilas Dhar, presidente de una fundación filantrópica dedicada a la IA. A principios de junio, Trump adoptó un control facultativo por parte del gobierno sobre los modelos más avanzados, un giro en una administración hasta ahora dominada por los opositores a cualquier regulación, acusada de frenar la competencia con China.
Fable 5 es el primer modelo hecho público perteneciente a la clase Mythos, la gama más avanzada de Anthropic. La empresa había revelado la existencia de Mythos a principios de abril, pero restringió su uso a un consorcio de empresas e instituciones, el proyecto Glasswing, debido a sus capacidades para llevar a cabo ataques de ciberseguridad.
Fable 5 está limitado en ámbitos sensibles como la ciberseguridad y los riesgos de ataques biológicos y químicos. Su versión sin restricciones, Mythos 5, está reservada a unas 200 empresas, organizaciones y agencias estatales, ahora seleccionadas “en colaboración con el gobierno estadounidense”, según Anthropic. La seguridad, que Anthropic ha convertido en un argumento comercial central, ya enfrenta a la empresa con la administración Trump.
A principios de marzo, el Pentágono rescindió sus contratos con Anthropic, señalada como un “riesgo para la cadena de suministro”. Anthropic acudió a la justicia: afirma haber sido sancionada por negarse a que su tecnología se utilizara para la vigilancia masiva o para armas autónomas. Valorada en cerca de un billón de dólares, Anthropic anunció el 1 de junio que había presentado su solicitud de salida a Bolsa, al igual que su rival OpenAI.
Fuente: AFP.
Dejanos tu comentario
Sin el Pulpo Paul, la IA toma el relevo en predicciones mundialistas
En 2026, la inteligencia artificial sustituye a las tradicionales predicciones sobre el Mundial de fútbol: ChatGPT y Claude apuestan por España. En Francia, Le Chat, desarrollado por Mistral, se decanta por los Bleus y en China, DeepSeek y Qwen predicen el cuarto Mundial de Argentina. El Mundial 2026 es el primero en el que el uso de la IA está ampliamente extendido, y aficionados de todo el mundo lanzan sus preguntas sobre pronósticos del torneo de Norteamérica, para interés de la comunidad científica.
Esta tendencia a dejarse guiar por predicciones no humanas recuerda al fenómeno del Mundial 2010, el Pulpo Paul, que adivinaba resultados eligiendo entre dos peceras con comida, cada una de ellas con la bandera de uno de los equipos enfrentados. ChatGPT, la IA de OpenIA, fue lanzada al público el 30 de noviembre de 2022, en medio del pasado Mundial de Catar, y al margen de los expertos de Silicon Valley, pocos usuarios conocían el potencial de las IA generativas cuando Argentina se proclamó campeona.
Cuatro años después, hasta instituciones como bancos o universidades están poniendo a prueba los conocimientos futbolísticos de las IA. Analistas del Bank of America descubrieron que su chatbot de Microsoft Copilot se decantaba por España o Francia. Por su parte, la web de noticias tecnológicas Tom’s Guide le preguntó a Gemini (la IA de Google), ChatGPT y Perplexity y en todos los casos obtuvo como respuesta que España ganará el Mundial, con Francia como segunda opción también de forma unánime.
Precisamente, La Roja ganó su único mundial en 2010, una victoria “anunciada” por el Pulpo Paul.
Otra página de noticias, Decrypt, obtuvo resultados similares al preguntar a chatbots de occidente como ChatGPT y Claude, la IA de Anthropic. Sin embargo, al preguntar a las IA chinas como DeepSeek o Qwen, descubrió que ambas se decantan por Argentina.
Unos resultados que despiertan el interés científico.
Investigadores de la Ludwig Maximilian University, en Alemania, tratan de descubrir qué modelo será el más exacto en sus predicciones, evaluando la precisión de cada uno de ellos en cada partido en la web pública LLM SoccerArena.
“Necesitamos puntos de referencia que no solo pongan a prueba tareas abstractas, sino cómo los modelos se enfrentan a la información dinámica, a la incertitud y a resultados que pueden ser comprobados más tarde” y comparados con el resultado real, declaró en un comunicado el investigador de la LMU Stefan Feuerriegel.
Estos investigadores de Múnich están probando las previsiones de IA basadas en su conocimiento interno y también en su capacidad para integrar información encontrada en internet sobre factores condicionantes como lesiones, convocatorias o incluso qué predicciones arrojan los mercados de apuestas.
Fuente: AFP.
Dejanos tu comentario
Sector financiero debatirá sobre ciberseguridad, IA y transformación digital
Con una mirada sobre el equilibrio entre la inversión y tecnología, y otros aspectos como la experiencia del cliente, se desarrollará la Convención Bancaria Paraguay 2026, donde además se presentarán los desafíos de la evolución digital para la toma de decisiones que involucra a diferentes actores del sector financiero paraguayo.
En esta segunda edición prevista para el 6 y 7 de agosto en el Sheraton Asunción Hote y bajo la organización de la Asociación de Bancos del Paraguay (Asoban), líderes y especialistas nacionales e internacionales se reunirán para analizar los principales retos de la evolución del sector financiero, en un contexto marcado por la acelerada transformación tecnológica, la inteligencia artificial y los desafíos de ciberseguridad.
Entre los expositores internacionales figura Juan Carlos Barahona, profesor asociado de Gestión de la Tecnología y la Innovación en Incae Business School, quien presentará los desafíos de la evolución digital mediante una propuesta basada en seis pivotes estratégicos para la toma de decisiones en escenarios de constante cambio.
Lea más: Tren de cercanías entra en fase final y prevén inciar obras en abril de 2027
La experiencia del cliente, ciberseguridad e IA
Por otro lado, Roberto Artavia, presidente del Consejo Directivo de Incae Business School, expondrá sobre innovación en el customer journey y customer experience en banca y servicios financieros, con foco en las nuevas tendencias de comportamiento del consumidor.
Luis O. Noguerol, oficial de Seguridad de Sistemas de Información de ADITusa Inc., abordará un enfoque integral sobre protección digital y riesgos empresariales, mientras que Federico Muxi, director gerente y socio senior de BCG, analizará la banca autónoma y la escalabilidad de la IA.
Asimismo, Marcela Mercapidez, CEO de SABYK by Domus Global, presentará la charla “La IA: ¿aliada o amenaza? - Cómo crear sistemas inteligentes sin perder el control”, mientras que Marco Righetti, director senior de Ingeniería Avanzada para Latinoamérica de Oracle, expondrá sobre la transformación de la banca tradicional hacia plataformas digitales impulsadas por inteligencia artificial.
Lea más: MEF y CAF impulsan proyectos estratégicos con nuevos acuerdos de cooperación técnica
Dejanos tu comentario
La IA dispara las estafas de suplantación de voz en EE. UU.
Liz Benz sigue convencida de que la persona que la llamó angustiada era su hijo: el tono y el ritmo sonaban iguales a los de la voz de su chico de 16 años. Pero era un clon generado con inteligencia artificial (IA) que la convirtió en una nueva víctima de estafa con suplantación de identidad, una versión moderna del “cuento del tío” sobre la que alertan cada vez más autoridades y defensores de los consumidores en Estados Unidos.
Benz, una corredora de seguros de 46 años y madre de seis hijos, saltó del sofá en su casa en Buffalo, en el norte del estado de Nueva York, al recibir una llamada de un número desconocido. Al otro lado de la línea parecía estar su hijo Fred, llorando y pidiendo ayuda.
Le dijeron que a un amigo de Fred le habían disparado y que había muerto, y que su hijo —que había salido a un partido de fútbol local— había quedado de rehén. Le ordenaron entregar dinero en efectivo en un supermercado cercano para pagarle al hombre que lo retenía. Hasta que recibió una selfi de Fred sonriente en el partido y supo que habían intentado estafarla. “Nada me habría convencido de que era una estafa hasta que lo vi con mis propios ojos”, dijo Benz a la AFP. “Fueron 20 minutos de pánico”.
“Cualquiera puede hacerlo”
El FBI señaló en abril que los estadounidenses perdieron más de 893 millones de dólares el año pasado en engaños habilitados por IA. Búsquedas sencillas en internet pueden arrojar una amplia gama de aplicaciones de clonación de voz, muchas disponibles de forma gratuita, que crean réplicas realistas a partir de breves fragmentos de la voz real de una persona.
“Antes era algo difícil de hacer. Ahora cualquiera puede hacerlo en segundos”, dijo Brian Long, director ejecutivo de Adaptive Security, una empresa que ofrece capacitación sobre protección frente a fraudes con IA. “Un tipo solo en una habitación con un teclado puede crear un número infinito de estafadores”, dijo Long a la AFP, y añadió que las herramientas de IA son capaces de crear mensajes a partir de audios obtenidos en redes sociales o buzones de voz.
La historia de Benz refleja un patrón recurrente: una llamada de un supuesto familiar en problemas —detenido, en un accidente o implicado en un delito— que pide dinero con urgencia. Luego, los estafadores suelen añadir voces de presuntos abogados o empleados bancarios y así crean una llamada confusa y urgente.
Voz angustiada
Muchas estafas ni siquiera requieren un clon de voz perfecto. “Una voz angustiada que diga ‘Mamá, ayúdame’ o ‘Papá, tuve un accidente’ solo tiene que sonar creíble durante unos segundos”, explicó a la AFP Amit Gupta, ejecutivo de la firma de ciberseguridad Pindrop.
“El objetivo no es una réplica perfecta de la voz, sino generar suficiente duda y urgencia para que la víctima actúe sin verificar nada”, apuntó. Desde que hizo pública su historia, Benz dijo que recibió numerosos mensajes de otras víctimas, muchas reacias a dar su nombre por vergüenza.
Las personas mayores son particularmente vulnerables a estas estafas con suplantación de voz. El FBI dijo que los estadounidenses mayores de 60 años denunciaron el año pasado pérdidas por más de 7.700 millones de dólares, lo que supone un fuerte aumento con respecto a 2024.
“Son profesionales, y cuando consiguen que la gente conteste el teléfono, están tratando con amateurs”, señaló el abogado de Filadelfia Gary Schildhorn.
En 2023, Schildhorn declaró ante el Senado de Estados Unidos sobre su experiencia con una llamada en la que una voz que imitaba a su hijo Brett le aseguraba que había sido detenido por conducir ebrio y necesitaba pagar una fianza. La llamada hizo que Schildhorn, que ahora tiene 73 años, saliera corriendo al banco. “Cuando llego, suena mi teléfono. Es mi hijo. Me dice: ‘Fuiste víctima de una estafa’”, contó este abogado a la AFP. “Y yo le digo: ‘Brett, me iré a la tumba jurando que era tu voz”.
Fuente: AFP.