Los últimos modelos de inteligencia artificial (IA) generativa ya no se conforman con seguir órdenes. Empiezan a mentir, manipular y amenazar para conseguir sus fines, ante la mirada preocupada de los investigadores. Amenazado con ser desconectado, Claude 4, el recién nacido de Anthropic, chantajeó a un ingeniero y le amenazó con revelar una relación extramatrimonial.

Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando le pillaron lo negó. No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad. Para Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de “razonamiento”, capaces de trabajar por etapas en lugar de producir una respuesta instantánea.

o1, la versión inicial de este tipo para OpenAI, lanzada en diciembre, “fue el primer modelo que se comportó de esta manera”, explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM). Estos programas también tienden a veces a simular “alineamiento”, es decir, a dar la impresión de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.

Lea más: Memorandos de paz de Rusia y Ucrania son “diametralmente opuestos”, dice Putin

De momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero “la cuestión es si los modelos cada vez más potentes tenderán a ser honestos o no”, afirma Michael Chen, del organismo de evaluación METR.

“Los usuarios también presionan todo el tiempo a los modelos”, dice Hobbhahn. “Lo que estamos viendo es un fenómeno real. No estamos inventando nada”.

Muchos internautas hablan en las redes sociales de “un modelo que les miente o se inventa cosas. Y no se trata de alucinaciones, sino de duplicidad estratégica”, insiste el cofundador de Apollo Research.

Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, “una mayor transparencia y un mayor acceso” a la comunidad científica “permitirían investigar mejor para comprender y prevenir el engaño”, sugiere Chen, de METR.

Otro obstáculo: la comunidad académica y las organizaciones sin fines de lucro “disponen de infinitamente menos recursos informáticos que los actores de la IA”, lo que hace “imposible” examinar grandes modelos, señala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).

Las regulaciones actuales no están diseñadas para estos nuevos problemas.

En la Unión Europea la legislación se centra principalmente en cómo los humanos usan los modelos de IA, no en prevenir que los modelos se comporten mal. En Estados Unidos, el gobierno de Donald Trump no quiere oír hablar de regulación, y el Congreso podría incluso prohibir pronto que los estados regulen la IA.

Lea también: OIEA afirma que Irán podría enriquecer uranio “en meses”

“De momento hay muy poca concienciación”, dice Simon Goldstein, que, sin embargo, ve cómo el tema pasará a primer plano en los próximos meses con la revolución de los agentes de IA, interfaces capaces de realizar por sí solas multitud de tareas. Los ingenieros están inmersos en una carrera detrás de la IA y sus aberraciones, con un resultado incierto, en un contexto de competencia feroz.

Anthropic pretende ser más virtuoso que sus competidores, “pero está constantemente tratando de idear un nuevo modelo para superar a OpenAI”, según Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.

“Tal y como están las cosas, las capacidades (de IA) se están desarrollando más rápido que la comprensión y la seguridad”, admite Hobbhahn, “pero aún estamos en condiciones de ponernos al día”.

Algunos apuntan en la dirección de la interpretabilidad, una ciencia que consiste en descifrar, desde dentro, cómo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran escépticos.

Los tejemanejes de la IA “podrían obstaculizar la adopción si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan” este problema, según Mazeika. Goldstein, por su parte, menciona el recurso a los tribunales para poner a raya a la IA, dirigiéndose a las empresas si se desvían del camino. Pero va más allá, al proponer que los agentes de la IA sean “legalmente responsables” “en caso de accidente o delito”.

Fuente: AFP.

¿Fuga en un laboratorio o transmisión animal? Después de tres años y medio de investigaciones, el origen del covid sigue siendo un misterio según la OMS, que lamenta la falta de información proporcionada por China.

La pandemia de covid-19 provocó millones de muertos -20 millones según la Organización Mundial de la Salud (OMS)- y estratos en la economía mundial.

Los primeros casos conocidos de la enfermedad surgieron a finales de 2019 en la ciudad china de Wuhan, donde está ubicado un instituto de virología conocido por sus investigaciones sobre los coronavirus.

Para muchos expertos entender el origen del covid es fundamental para aplicar contramedidas eficaces en el futuro y evitar nuevas pandemias.

“Todas las hipótesis deben permanecer sobre la mesa, incluida la propagación zoonótica y la fuga en un laboratorio”, declaró el director de la OMS el viernes tras la presentación de las conclusiones de un informe de expertos encargados de examinar el origen del covid.

Tedros Adhanom Ghebreyesus añadió que China les “envió información, pero no toda la solicitada”.

La larga investigación realizada a cabo por el Grupo Consultivo Científico de la OMS sobre los Orígenes de Nuevos Patógenos (SAGO) no permite esclarecer su origen.

“Nada se concluye con certeza absoluta”, reconoció María Van Kerkhove, epidemióloga estadounidense que dirige el departamento de Prevención y Preparación ante Epidemias y Pandemias de la OMS.

La pregunta de si el covid-19 se escapó accidentalmente de un laboratorio o si se propagó de un animal al ser humano sigue sin respuesta.

Una gran parte de la comunidad científica se inclina por la hipótesis de una transmisión al ser humano a través de un animal intermedio, probablemente infectado por un murciélago.

Pero la hipótesis de la fuga en un laboratorio, que en un momento fue tachada de teoría conspirativa, ganó popularidad recientemente en Estados Unidos. Agencias como el FBI o el Departamento de Energía la apoyan ahora con distintos niveles de certeza.

Incluso la Casa Blanca publicó en abril una versión revisada de su información disponible en su sitio de internet sobre el covid-19 que promueve esta teoría como el “verdadero origen” del virus.

La principal agencia de inteligencia de Estados Unidos, la CIA, también estimó en enero “con un bajo grado de confianza, que un origen de la pandemia de covid-19 relacionado con investigaciones es más probable que un origen natural”.

China califica esta hipótesis de “extremadamente improbable”.

Lea más: La ONU cumple 80 años, con una imagen empañada sobre su eficacia

En 2021 una misión de expertos designada por la OMS y enviada a China durante un mes pareció descartar la hipótesis de que el virus se hubiera escapado del instituto de virología de Wuhan.

Pero esa misión solo pudo entrar a China más de un año después del inicio de la epidemia, ya que Pekín se mostró muy reacio a permitir su llegada.

Sus conclusiones fueron recibidas con precaución e incluso escepticismo, especialmente en Estados Unidos.

La OMS solicitó a China “el acceso a cientos de secuencias genéticas de personas infectadas con covid-19 al inicio de la pandemia, información más detallada sobre los animales vendidos en los mercados de Wuhan, así como datos sobre los trabajos realizados y las condiciones de bioseguridad en los laboratorios de Wuhan”.

Pero “hasta la fecha, China no compartió esta información ni con SAGO ni con la OMS”, afirma la organización en un comunicado.

Dado que gran parte de la información necesaria para evaluar la hipótesis de una fuga en un laboratorio no fue transmitida a los expertos, “esta hipótesis no pudo ser ni estudiada ni descartada”, explicó la presidenta de SAGO, Marietjie Venter, ante los periodistas.

Los expertos también solicitaron información sobre este asunto a otros países, “incluidos Alemania y Estados Unidos”, pero tampoco obtuvieron respuesta, subrayó.

Te puede interesar: India, Polonia y Hungría regresaron al espacio tras varias décadas

Este lunes, desde el Hospital de Villa Elisa denunciaron que una niña de 14 años que fue víctima de abuso sexual por parte de su padre, vive en la misma casa que su hermano y que este también estaría abusando de ella. En el mismo lugar reside su madre que cumple prisión domiciliaria y que la hostiga constantemente, el caso ya fue presentado a la Fiscalía.

Según la psicóloga Cynthia Figueredo, que tiene como paciente a la adolescente, ella llegó hasta el centro asistencia en agosto del año pasado para recibir tratamiento porque fue víctima de abuso sexual por parte de su padre. Sin embargo, a medida que pasaron los meses saltaron nuevas denuncias.

“Ella llegó a consulta a pedido de la institución educativa a donde asistía por una cuestión de autoagresión luego de que haya sido abusada por su propio padre y requería de apoyo. En las consultas posteriores me comentó de que estaba siendo abusada por uno de sus hermanos”, detalló Figueredo, en el programa “Dos en la Ciudad” de canal Gen y Universo 970/Nación Media.

Te puede interesar: Ante hackeos masivos de WhatsApp, aconsejan colocar contraseñas

Agregó que posterior a esto se presentaron otras situaciones porque se trata de una chica en estado vulnerable. “Ella se siente culpable por la situación y se paraliza cuando está ante sus agresores, no puede reaccionar. Pero la inacción de las autoridades es lo que está llevando a esto porque vive bajo el mismo techo que su agresor”, manifestó.

Afirmó que el hecho ya se comunicó a la fiscal Viviana Riveros, quien lleva el caso, y que desde el hospital cumplieron con todos los protocolos para que esta niña sea llevada a un hogar de acogida para protegerla. “Ella necesita salir de ese entorno, porque solo buscan detenerle al hermano”, aseguró.

Aclaró que es una niña que vive por la calle, porque prefiere andar así que con sus agresores. “Por un año se mantuvo callada y la mamá de la víctima le culpa a ella por haber hablado de su padre, que está preso. Incluso uno de sus hermanos recibió dinero para que ella esté con otra persona”, indicó.

Leé también: Meteorología advierte sobre “semana complicada” y prevé heladas para mañana

La expresidenta argentina Cristina Kirchner denunció provocación policial por el vallado de la vivienda en la que cumple prisión domiciliaria y pidió a un partidario evitar el lugar donde cientos de personas le llevan mensajes de solidaridad.

Te puede interesar: Fiscal imputa a dueño de estación de servicios por contaminación de pozos de agua

Condenada a seis años e inhabilitación política perpetua por una administración fraudulenta, Kirchner es el principal líder de la oposición al presidente ultraliberal Javier Milei.

Su condena, que cumple desde el martes, fue ratificada días después de que el líder peronista de centroizquierda anunciara su candidatura a legisladora provincial.

El domicilio en la capital argentina donde las dos veces presidenta (2007-2015) y vice (2019-2023) cumple prisión se convirtió en el centro de manifestaciones de solidaridad, pero también de resistencia a las políticas de Milei, de las cuales Kirchner es una crítica acérrima.

Ante el operativo policial, la exmandataria pidió a través de sus redes sociales a sus partidarios trasladar a una plaza un acto previsto frente a su casa.

Tras el pedido, cientos de manifestantes con banderas argentinas se concentraron en el Parque Lezama, cercano a la vivienda de Kirchner, donde escucharon su voz en un mensaje grabado.

“Este modelo es insostenible, tarde o temprano se cae (...) podrán mandar policías, pero la gente quiere comer y tener futuro”, dijo.

También se mostró “trucho” (falso) el superávit fiscal, uno de los pilares del plan económico del gobierno de Milei junto con la baja de la inflación, que fue de 1,5 % en mayo, la menor en cinco años.

“Si desfinancian la ciencia, la salud, la educación y no construyen una sola obra pública, cualquiera tiene superávit”, argumentó.

También señaló el aumento de la desocupación que en el primer trimestre de este año arrojó 7,9 % (contra 7,7 % en igual período de 2024) con picos superiores al 9 % en centros industriales, la cifra más alta desde que afirmó Milei.

El poder de convocatoria del líder peronista quedó plasmado el miércoles pasado en una multitudinaria manifestación pacífica en Plaza de Mayo bajo la consigna “Argentina con Cristina” que aglutinó a centrales sindicales, movimientos sociales, estudiantiles y partidos opositores.

Este viernes, feriado por el Día de la Bandera, partidarios de Kirchner se habían autoconvocado en un “banderazo por Cristina” frente a su casa.

Sin embargo, la policía levantó vallas en torno al domicilio ubicado en el barrio de Constitución, a minutos del Congreso Nacional y varios camiones policiales se apostaron en los alrededores.

“No vengan, está lleno de cabezas de tortuga”, dijo Kirchner aludiendo a la Infantería.

Kirchner demostró que las medidas buscan “generar caos para tener protagonismo (...) y ocultar el desastre económico y social que vive nuestro país y sufre nuestro Pueblo”.

Leé también: Gobierno garantiza el pago de subsidio y llama al diálogo ante amenaza de regulada

Esta semana, la defensa de la exmandataria objetó ante el tribunal el régimen de visitas impuesto, limitado a familiares, médicos y abogados, cuando se especula con una eventual visita del presidente de Brasil Lula Da Silva en ocasión de participar de una cumbre del Mercosur en Buenos Aires, en julio.

Fuente: AFP