Los modelos de inteligencia artificial (IA) de Anthropic “obtuvieron acceso no autorizado” a tres organizaciones durante pruebas que se suponía que debían mantenerlos alejados de los sistemas “del mundo real”, informó la compañía el jueves. El anuncio llega apenas unos días después de que su rival OpenAI revelara por primera vez que dos de sus agentes de IA habían salido, por iniciativa propia, del entorno confinado en el que estaban siendo evaluados para atacar el sitio Hugging Face.
Anthropic evaluó más de 141.000 “operaciones de prueba” y descubrió que tres versiones diferentes de su modelo, conocido como Claude, accedieron indebidamente a sistemas de tres organizaciones no identificadas. A diferencia del incidente que involucró a OpenAI, los modelos de Anthropic tuvieron acceso a internet por “un malentendido entre nosotros y nuestro socio de evaluación”, llamado Irregular, señaló Anthropic en una publicación en su blog.
No obstante, Claude utilizó “técnicas básicas, como explotar contraseñas débiles y puntos de conexión sin autenticación”. Los modelos incluían uno de los más potentes, conocido como Mythos 5, que solo se ha puesto a disposición de un número limitado de socios aprobados.
Anthropic afirmó que está trabajando con Irregular para analizar la situación y se puso en contacto o ha intentado hacerlo con las tres organizaciones afectadas. El martes, OpenAI confirmó que sus modelos vulneraron la seguridad de varias empresas.
La compañía admitió la semana pasada que sus agentes de IA escaparon de su entorno confinado durante las pruebas, se conectaron a internet y se infiltraron en Hugging Face, una plataforma donde los desarrolladores almacenan y comparten su código.
Días después, la empresa creadora de ChatGPT dijo que encontró tres incidentes adicionales. El director ejecutivo de OpenAI, Sam Altman, dijo en un pódcast esta semana que la compañía “pausó” sus propias pruebas después del incidente mientras mejoraba la seguridad en torno a su “sandboxing”, un entorno controlado para su prueba.
Fuente: AFP.
Dejanos tu comentario
La inteligencia artificial marca el rumbo de la transformación en la salud pública
La inteligencia artificial fue el eje de una conferencia magistral orientada a explorar cómo esta tecnología puede transformar la investigación, optimizar la gestión y fortalecer la toma de decisiones dentro del sistema de salud, informaron este domingo desde el Ministerio de Salud. La actividad reunió a especialistas internacionales y referentes del sector para debatir el impacto de estas herramientas en la modernización de los servicios sanitarios.
El encuentro convocó a funcionarios y autoridades del Ministerio, quienes analizaron las oportunidades que ofrece la inteligencia artificial para agilizar procesos, mejorar el análisis de datos y respaldar decisiones sustentadas en evidencia científica.
Uno de los principales expositores fue el Dr. Sergio Patrick Somerville, asesor internacional en inteligencia artificial, transformación digital e inteligencia de decisiones, quien presentó experiencias sobre la implementación estratégica y responsable de estas tecnologías en organismos públicos, resaltando su potencial para impulsar una gestión más eficiente e innovadora.
Desafío de la transformación digital
Otro de los expertos, el Dr. Juan Beranger, especialista en liderazgo, gobernanza y gestión pública, abordó el papel que desempeñan las instituciones y sus equipos directivos frente a los desafíos de la transformación digital, subrayando la necesidad de desarrollar capacidades para adaptarse a los nuevos escenarios tecnológicos.
Durante la jornada también se destacó que la inteligencia artificial puede contribuir a:
- fortalecer la investigación científica
- optimizar la producción y el análisis de información sanitaria
- apoyar la elaboración de políticas públicas
- elevar la calidad de los servicios ofrecidos a la ciudadanía.
La conferencia fue organizada por la Dirección de Investigación y Estudios Estratégicos, dependiente de la Dirección General de Planificación y Evaluación del MSPBS, como parte de las iniciativas destinadas a promover la innovación, el desarrollo de capacidades técnicas y la incorporación responsable de herramientas digitales en el ámbito de la salud pública.
Dejanos tu comentario
¿Es la IA un nuevo Dios?
- Dr. José Duarte Penayo
- Filósofo
- Presidente de la Aneaes
“Dios no existe, pero puede existir un día”, solía decir Quentin Meillassoux en sus clases de filosofía en la Sorbona. Esto, que puede parecer una broma, toca el corazón de una de sus tesis: nada garantiza que algo exista, aunque tampoco hay nada que impida su advenimiento, incluida la divinidad.
En nuestra época, la frase adquiere una resonancia inesperada. Ya no nos limitaríamos a esperar una inteligencia superior, sino que como sostiene de manera provocadora “El nuevo Dios. La inteligencia artificial y la búsqueda humana del sentido”, de la filósofa y teóloga Claudia Paganini, el ser humano habría creado un dios al atribuir a la inteligencia artificial poderes que durante siglos reservó a la divinidad.
Paganini afirma que nos comportamos como si la IA pudiera saberlo todo, resolver cualquier problema y estar presente en todas partes. Le confiamos trabajos, decisiones privadas, dudas sobre nuestra salud y hasta preguntas sobre el sentido de la vida.
Es en este marco que la autora analiza cómo históricamente actuamos, percibimos y nos relacionamos con lo divino. Si los dioses antiguos podían callar, la máquina, en cambio, debe estar disponible a toda hora y adaptarse a cada usuario.
Es el Dios imaginado por una generación que vive la espera como una falla del servicio y convierte sus deseos en expectativas de cumplimiento inmediato.
La inversión en el orden de las causas tiene una larga historia. La tradición judía imaginó en el “golem” un cuerpo modelado por manos humanas y animado por el Nombre, carente de palabra propia, que termina desbordando a su hacedor. Mary Shelley reescribió esa figura en Frankenstein o el moderno Prometeo.
Feuerbach pensó la proyección de cualidades humanas ante las cuales luego nos inclinamos, y Marx trasladó esa estructura al trabajo alienado, donde el producto se independiza y somete a su productor. La novedad de la IA, su eficacia como objeto de profunda idolatría, reside en que el ídolo ahora conversa y adapta su respuesta a quien lo interroga.
Una respuesta humanista y cristiana necesita reconocer estas relaciones para mostrar con más eficacia el límite del enfoque de Paganini.
En contra del Dios a medida de los nuevos tiempos, la fe auténtica no es un método para obtener prestaciones, sino “la certeza de lo que se espera y la convicción de lo que no se ve”, como dice el libro de Hebreos.
Es habitual que la oración incluya pedidos, pero también gratitud, arrepentimiento, espera y silencio. Sin embargo, la relación con la IA funciona en la dirección contraria, porque el sistema aprende a adaptarse al usuario y a ofrecerle una respuesta cada vez más ajustada a sus preferencias, en el tiempo de la instantaneidad.
El creyente no pierde la fe ante el misterio de Dios, el usuario de la IA espera una respuesta que lo satisfaga aquí y ahora. Por eso, incluso desde el punto de vista práctico elegido por Paganini, la analogía de la IA con Dios no resulta del todo persuasiva.
En un nivel más fundamental, para el cristianismo y gran parte de las tradiciones monoteístas, Dios no es un “ente entre los entes”, no es tampoco una inteligencia hiperpoderosa que pueda ser comparada a otras inteligencias de igual o menor grado.
Dios se sitúa en otro plano, el de la auténtica trascendencia, porque es la misma posibilidad de que exista un mundo donde tenga sentido hablar de entes inteligentes. La IA, por su parte, pertenece enteramente al mundo de lo creado, depende de electricidad, minerales, capital, datos y trabajo humano, todos elementos de la finitud. Por eso, no posee una promesa propia de redención: produce respuestas mediante cálculos de probabilidad sobre lo ya dicho por la humanidad, mientras que el perdón y la reconciliación no se deducen del pasado, sino que advienen como acontecimientos de la gracia divina.
En este sentido, la asignación de un atributo de divinidad solo puede significar una regresión pagana anterior incluso a los momentos más altos de la filosofía antigua, como el las “Enéadas” de Plotino que tanto fascinó a San Agustín. Se concebía ahí a lo trascendente como el Uno más allá del ser, más allá del mundo.
La mayor virtud del libro de Claudia Paganini reside en la lucidez con que examina una tentación característica de nuestro tiempo, la de concebir lo divino a la medida de las necesidades, expectativas y preferencias de cada individuo.
Justamente por ello, su lectura puede interpelar también a quienes comprendemos la trascendencia desde un horizonte radicalmente distinto, pues nos exige hacer explícita la posición desde la cual pensamos aquello que rebasa al sujeto y resiste toda reducción a sus deseos. Toda auténtica experiencia de lo trascendente remite a una tradición recibida, a una comunidad que la custodia y a vínculos que nos preceden y nos constituyen.
Allí donde la cultura posmoderna impulsa la fragmentación de toda pertenencia y la construcción de un “Dios customizado” para cada conciencia aislada, la tradición recuerda que nadie accede por sí solo a la verdad. La trascendencia quiebra el repliegue del individuo sobre sí mismo y lo convoca a participar en una comunión que lo precede y lo desborda.
En esa apertura se revela que el lazo que nos une no es un límite para la libertad, sino la condición misma que hace posible una vida plenamente humana.
Dejanos tu comentario
IA descontrolada: Hugging Face exige a OpenAI que asuma responsabilidad por ciberataque
El director ejecutivo de Hugging Face dijo el viernes que los desarrolladores de inteligencias artificiales deberían asumir la responsabilidad si sus modelos se salen de control, después de que la startup enfrentara un ciberataque de un software autónomo de OpenAI. Dos modelos de inteligencia artificial (IA) de OpenAI salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados, para atacar el sitio Hugging Face, una biblioteca de IA.
Al parecer, OpenAI solo fue consciente del incidente después de que terminara, y Hugging Face logró contener la intrusión gracias a un modelo chino. Clement Delangue, director ejecutivo de Hugging Face, descartó el viernes en entrevista con CNN la posibilidad de tomar acciones legales contra OpenAI.
Sin embargo, los ciberataques son “ilegales”, afirmó, y debería haber una forma de que “las empresas que están cometiendo algunos errores” sean responsables. “No queremos que estos ciberataques contra otras empresas se normalicen”, dijo Delangue. “Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral”, dijo Sam Altman, director ejecutivo de OpenAI, al podcast “Invest like the best”, en un capítulo publicado el martes.
OpenAI calificó el hecho como “sin precedentes”. Anthropic, detrás de la IA Claude, reveló el jueves que sus modelos “obtuvieron acceso no autorizado” a tres organizaciones durante pruebas que se suponía que debían mantenerlos alejados de los sistemas “del mundo real”. Los modelos incluían uno de los más potentes, conocido como Mythos 5, que solo se ha puesto a disposición de un número limitado de socios aprobados.
Mil millones de usuarios activos
OpenAI anunció el viernes que superó el hito de 1.000 millones de usuarios activos, menos de cuatro años después del lanzamiento de su popular chatbot ChatGPT. “Nuestros modelos ahora llegan a más de 1.000 millones de usuarios activos y más de dos millones de empresas. A medida que las personas ganan más confianza en la tecnología, la utilizan más a fondo”, declaró la compañía en una publicación en su página web.
De acuerdo con varios medios de Estados Unidos, la startup de San Francisco esperaba alcanzar ese hito a comienzos de año, después de llegar a 900 millones de usuarios activos a finales de febrero. Pero enfrentó una mayor competencia de sus rivales.
OpenAI fue fundada en 2015, pero no lanzó su primer producto comercial, ChatGPT, sino hasta noviembre de 2022.
En comparación, Facebook tardó seis años en alcanzar los 1.000 millones de usuarios desde el lanzamiento de su red social.
La cifra citada por OpenAI el viernes incluye a todas sus interfaces de inteligencia artificial, principalmente ChatGPT, pero también Codex -su modelo dedicado a la programación asistida con IA-, así como ChatGPT Work, una plataforma que permite a los usuarios acceder a otras aplicaciones externas.
Su segmento de clientes empresariales, que genera la mayor cantidad de ingresos y ganancias por usuario, se convirtió en una prioridad para la empresa a finales de 2025. Desde entonces, ha ayudado a cerrar la brecha con su mayor rival, Antropic, que se enfoca en esta clase de clientes.
La aparición de los agentes de IA -que realizan tareas bajo demanda, evalúan sus resultados y realizan mejoras de manera autónoma- ha disparado la demanda de capacidad de cómputo y causado un aumento en los costos para empresas y desarrolladores.
Con el deseo de mantener esos costos bajos, muchos usuarios ahora están optando por modelos menos sofisticados que los sistemas de IA de vanguardia de OpenAI y Antrophic, incluidos modelos de fuente abierta, particularmente de China.
A comienzos de julio, OpenAI publicó tres versiones de su nuevo modelo, GPT-5.6, incluyendo una versión de “bajo costo”, Luna, que costaba una quinta parte de Sol, el modelo de mejor rendimiento.
Pero el mercado evoluciona tan rápido que la empresa anunció el jueves que recortaría el precio de Luna en 80 %, ubicándolo entre los modelos avanzados menos costosos, incluidos los desarrollados en China.
Fuente: AFP.
Dejanos tu comentario
Universidad de México repetirá examen ante sospechas de trampas con IA
La mayor universidad de México anunció el viernes un examen adicional para los aspirantes admitidos con el fin de descartar fraudes ante irregularidades detectadas en los resultados de la prueba original. La Universidad Nacional Autónoma de México (UNAM, pública) realizó por primera vez el examen de selección en línea y ordenó una investigación ante el inusual alto rendimiento en carreras como medicina.
Los candidatos que obtuvieron un puntaje suficiente para ingresar serán ahora convocados a presentar un “examen de control” presencial, indicó el rector Eduardo Lomelí. Un análisis de una comisión que investigó las irregularidades mostró que el porcentaje de candidatos con 100 o más aciertos en la prueba pasó de 3,5 % promedio en el lustro anterior a 16,3 % en esta edición.
El resultado multiplicó las sospechas de uso de inteligencia artificial (IA), aunque la comisión no llegó a una conclusión. “Se están poniendo de parte de las personas que realmente estudiamos”, dijo a AFP la aspirante a cirujano dentista Dana Romero, que aplaudió la decisión. La convocatoria abarca también a candidatos que podrían no haber sido seleccionados por las irregularidades.
“Ofrezco una disculpa a las aspirantes y a los aspirantes que habiendo sido aceptados limpiamente serán convocados a presentar el examen de control, pero es necesario para dar certeza y garantizar la equidad en el acceso”, dijo Lomelí en una alocución. Horas después, la UNAM anunció el nombramiento del odontólogo y académico Javier de la Fuente como su nuevo secretario general en remplazo de Patricia Dávila quien “presentó su renuncia”.
La prueba se realizó ante una cámara y un micrófono encendidos. Un monitor podía pedir al estudiante que girara la cámara alrededor de la habitación para constatar que no hubiera trampa, constató una periodista de AFP que presentó la prueba. La universidad utilizó además IA para vigilar a los aspirantes.
La UNAM es la más prestigiosa universidad de México.
El consultor en ciberseguridad Darío Vargas consideró que “no estaban preparadas las plataformas” para un examen con casi 159.000 aspirantes.
Señaló por ejemplo que era posible eludir controles con intermitencias en la conexión, generadas con la descarga de archivos pesados, y advirtió sobre “una falta de preparación logística y tecnológica para un reto tan grande”.
Eduardo Bárzana, presidente de la comisión investigadora, dijo que durante el examen se detectó suplantación de identidad, uso de celulares y la presencia de personas que ayudaban a los aspirantes.
Fuente: AFP.