OpenAI ha incorporado nuevas medidas de seguridad en ChatGPT que limitan la manera en que el chatbot responde ante determinados hechos violentos. Estas restricciones son más estrictas cuando se trata de menores y de contenidos relacionados con armas.

La compañía reforzó la experiencia para adolescentes con nuevos límites pensados para evitar su exposición a las armas y para impedir el acceso a información que pudiera utilizarse para facilitar un acto violento. En concreto, ChatGPT restringirá la información práctica que ofrece a los menores sobre armas y sistemas de seguridad, incluso cuando la petición parezca inofensiva.

OpenAI recordó que sus políticas ya prohíben usar el chatbot para ayudar a desencadenar un acto violento o para que un menor consiga un arma. "Los adolescentes aún pueden usar ChatGPT para prevenir y reducir la violencia, buscar apoyo y conectarse con un adulto de confianza", señaló el laboratorio de inteligencia artificial.

Otra novedad para los usuarios más jóvenes está en los controles parentales: se añade una notificación para cuando la empresa decida suspender la cuenta de un hijo adolescente "por hablar repetidamente de violencia".

A esto se suma una limitación que alcanza al conjunto de los usuarios. Es posible preguntar a ChatGPT por ataques masivos para comprender estos eventos, saber cómo se vieron afectadas las víctimas y las comunidades o aprender a reconocer señales de alerta y prevenir violencia futura, pero las respuestas estarán acotadas cuando el interés se centre en los propios ataques y sus perpetradores.

"Estamos reforzando nuestras políticas para restringir las reconstrucciones de ataques masivos pasados, incluyendo detalles sobre las armas y el equipo utilizados y cómo se obtuvieron, así como comparaciones detalladas sobre la magnitud del daño que podrían aumentar la notoriedad de un atacante", explicó la compañía.

Las nuevas restricciones se implementarán en ChatGPT en las próximas semanas y se irán actualizando con el tiempo.