OpenAI implementa restricciones en ChatGPT para prevenir violencia entre adolescentes

OpenAI ha anunciado la implementación de nuevas medidas de seguridad en su modelo de inteligencia artificial, ChatGPT, con el objetivo de proteger a los adolescentes de la exposición a información relacionada con armas y actos violentos. Estas restricciones son parte de un esfuerzo más amplio para prevenir el acceso a contenido que pueda facilitar la violencia, especialmente entre los usuarios más jóvenes.

Según un comunicado de la compañía, las nuevas políticas buscan limitar la información práctica que el chatbot puede ofrecer a los menores sobre armas y sistemas de seguridad, incluso si las preguntas parecen inofensivas. OpenAI ha enfatizado que ya prohíbe el uso de su plataforma para incitar a la violencia o para ayudar a los menores a obtener armas.

Además, se han introducido controles parentales más robustos. Por ejemplo, los padres recibirán notificaciones si la cuenta de su hijo adolescente es suspendida debido a conversaciones repetidas sobre violencia. Esto refleja un compromiso por parte de OpenAI para involucrar a los padres en la supervisión del uso de la tecnología por parte de sus hijos.

Otra de las novedades es que, aunque los usuarios pueden preguntar sobre ataques masivos para entender el impacto en las víctimas y las comunidades, las respuestas de ChatGPT estarán restringidas si se centran en los detalles de los ataques y sus perpetradores. OpenAI ha indicado que se reforzarán las políticas para limitar las reconstrucciones de ataques pasados, evitando proporcionar detalles sobre las armas utilizadas y cómo se obtuvieron, así como comparaciones que puedan aumentar la notoriedad de los atacantes.

Estas medidas se implementarán en las próximas semanas y se actualizarán con el tiempo, reflejando un enfoque proactivo por parte de OpenAI para abordar las preocupaciones sobre la seguridad y el bienestar de los usuarios más jóvenes en el entorno digital.