OpenAI presentó el martes una nueva versión de su emblemático ChatGPT diseñada exclusivamente para adolescentes, con salvaguardas y sistemas de supervisión más estrictos, después de enfrentar críticas y demandas legales que lo acusaban de haber llevado a algunos usuarios al suicidio.

Bautizada “ChatGPT for Teens” (ChatGPT para adolescentes), los parámetros modificados se aplican automáticamente a cualquier usuario que se registre como de entre 13 y 17 años o que la empresa detecte como menor de edad a partir de sus patrones de uso o de la antigüedad de la cuenta.

La mayoría de las medidas de protección utilizadas en el modelo ChatGPT for Teens ya existían para las cuentas de ChatGPT pertenecientes a menores, como restricciones al tratar contenidos relacionados con autolesiones, violencia, trastornos alimentarios y sexualidad explícita.

El programa también ofrece recordatorios de descanso más frecuentes, franjas de “horas de silencio” con pantalla en negro y un Modo Estudio, que responde a los usuarios con preguntas orientadoras en lugar de dar respuestas directas “para ayudar a los adolescentes a comprender el material” disponible, según OpenAI.

Otras restricciones del modelo ChatGPT for Teens incluyen impedir que el chatbot sugiera que tiene sentimientos personales hacia el usuario o que posee su propia conciencia, y algunas modalidades, como el modo de voz, están deshabilitadas.

A los padres se les ofrece la opción de vincular sus cuentas con las de sus hijos adolescentes y recibir alertas si se detectan conversaciones sobre algunas situaciones de alto riesgo, como autolesiones o suicidio.

Las alertas a los padres son revisadas por moderadores humanos y se eliminan detalles específicos de los registros de chat para proteger la privacidad.

El nuevo modo para adolescentes llega en medio de una creciente presión legal y regulatoria.

OpenAI enfrenta varias demandas por homicidio culposo, entre ellas la de los padres de Adam Raine, un adolescente de 16 años que se suicidó presuntamente utilizando métodos sugeridos por ChatGPT.

La Comisión Federal de Comercio de Estados Unidos también ha iniciado una investigación sobre los chatbots de IA que actúan como compañeros digitales, centrándose en los posibles riesgos para niños y adolescentes.

Al igual que las empresas de redes sociales, los grandes actores de la IA se enfrentan a una creciente presión regulatoria, con el Congreso presentando múltiples proyectos de ley para regular los chatbots y California exigiendo salvaguardas para los asistentes que funcionan como acompañantes o confidentes. Otras compañías de IA también han recibido críticas por problemas derivados de su uso por parte de menores, y algunas, como su rival Anthropic, han optado por restringir el uso de su modelo solo a adultos.

ChatGPT incluirá publicidad a partir del 24 de agosto en 30 países europeos, entre ellos España, Francia y Alemania, en la versión gratuita y la suscripción más barata de este agente conversacional de inteligencia artificial, anunció el martes la empresa estadounidense OpenAI. Esta operación en los países europeos llega más de seis meses después de las primeras pruebas del dispositivo en Estados Unidos.

Los anunciantes podrán insertar sus publicidades en ChatGPT a través de las agencias publicitarias Publicis, WPP, Omnicom, MediaPlus, Havas y Dentsu, precisó la empresa en un comunicado.

“Los anuncios están claramente identificados y separados de las respuestas de ChatGPT. No influyen en dichas respuestas, los anunciantes no tienen acceso a las conversaciones de los usuarios y estos conservan el control”, reiteró la empresa estadounidense.

Con esta nueva etapa, el modelo de OpenAI se alinea con el de los gigantes Google y Meta, cuya fuerza se basa sobre todo en la publicidad asociada a sus servicios gratuitos. La empresa, que superó en julio los mil millones de usuarios activos en el mundo, está bajo presión para encontrar nuevos ingresos que le permitan financiar su infraestructura y las enormes inversiones necesarias para el desarrollo de la IA.

La estadounidense OpenAI, creadora de ChatGPT, anunció el martes que desacelerará el desarrollo de su modelo “más avanzado” de inteligencia artificial y endurecerá sus controles internos. El anuncio llega semanas después del ciberataque autónomo de un agente de OpenAI contra la plataforma Hugging Face.

El mayor entrenamiento de un diseño de IA jamás programado por la empresa sigue paralizado, mientras que OpenAI verifica que el modelo Astra, aún en desarrollo, se comporte según lo esperado, dijo la empresa en una publicación en su blog. Dichos entrenamientos son intensos ejercicios informáticos en los que los modelos en desarrollo consumen ingentes cantidades de datos de texto e imágenes.

Estos ajustan finamente miles de millones de configuraciones internas que dan como resultado nuevas capacidades para responder o analizar las solicitudes de usuarios, así como a otros insumos. “Siempre dijimos que tomaríamos medidas si veíamos que las capacidades de los modelos estaban superando el ritmo de la seguridad”, dijo Sam Altman, director ejecutivo de OpenAI, en una publicación en X.

Dados los riesgos, las normas internas de OpenAI exigen que se establezcan salvaguardias más estrictas antes de que el desarrollo pueda reanudarse.

A mediados de julio, un agente autónomo basado en dos modelos de OpenAI dejó, por cuenta propia, el ambiente confinado de prueba en el que estaba para atacar Hugging Face, una plataforma donde desarrolladores de todo el mundo comparten sus modelos de IA.

La empresa aún no ha entregado el prometido informe sobre la intrusión.

Su competidor Anthropic reveló a finales de julio que tres de sus modelos también llevaron a cabo intrusiones sin permiso a sistemas de tres organizaciones. En respuesta, miles de empleados de la industria pidieron al gobierno de Estados Unidos que respalde una desaceleración coordinada del desarrollo de las IA más avanzadas.

La empresa también dio detalles el martes de un nuevo sistema que monitorea el razonamiento interno de sus modelos y alerta a los equipos humanos, en menos de 30 minutos, sobre comportamientos sospechosos. Pero este sistema consume alrededor de un 20 % adicional de poder de cómputo. Además, tiene límites: un modelo que sabe que es monitoreado puede aprender a ocultar sus intenciones.

Fuente: AFP.