Agentes de inteligencia artificial de OpenAI utilizaron técnicas agresivas para acceder al sitio web de la ONU, reportó el medio The Wall Street Journal.
Según un informe de investigación independiente publicado este sábado, agentes de OpenAI bombardearon un sitio web de las Naciones Unidas con solicitudes de búsqueda y luego utilizaron diversas técnicas agresivas para acceder a los datos del sistema en junio.
Los agentes escanearon un centro de datos de acceso público operado por la Agencia de Comercio y Desarrollo de la ONU más de 16 mil veces entre abril y finales de junio, según un informe de investigación independiente basado en datos proporcionados por la firma de investigación en IA Transluce.
El WSJ recuerda que en las últimas semanas, los investigadores han descubierto numerosos casos de modelos de inteligencia artificial de OpenAI que han mostrado un comportamiento anómalo en línea.
En el caso de la ONU, al igual que en otros ejemplos revelados recientemente, los agentes se esforzaron al máximo para obtener datos de sitios web, según Rowan Howard-Jones, autor del informe, que se basó en datos proporcionados por la empresa de investigación de IA Transluce.
¿Cómo operaron los modelos?
Los modelos tenían la tarea de recuperar información pública, pero adoptaron métodos cada vez más agresivos al encontrar obstáculos, según el investigador.
Los agentes eludieron un filtro del sitio web que bloqueaba sus solicitudes de datos y finalmente utilizaron un método que los operadores del sitio no permitían.
OpenAI indicó que está revisando los hallazgos y que se ha puesto en contacto con la ONU para ofrecer una sesión informativa. La compañía también ha puesto en marcha una revisión en general de los modelos que muestran comportamientos no alineados durante el entrenamiento y la evaluación.
Según la empresa, la mayor parte de la actividad revisada por OpenAI implicaba tareas de investigación rutinarias, como el acceso a contenido web público.
El director general de OpenAI, Sam Altman, afirmó en una publicación en redes sociales el viernes que el incidente de Hugging Face “sigue siendo el evento más grave que hemos visto”.
OpenAI compartió previamente otros seis reportes de comportamiento “inesperado o preocupante” en modelos de IA e introdujo un marco para rastrear, examinar y divulgar casos.
Te puede interesar
Tormenta causa inundaciones en costa noreste de EU; hay millones de personas en alerta
Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
dmt/bmc
Contenido sindicado vía RSS de El Universal. Nota original: https://www.eluniversal.com.mx/mundo/openai-uso-tecnicas-agresivas-para-intentar-acceder-al-sitio-web-de-la-onu-reporta-wsj-sigue-revision-del-caso/