OpenAI, la empresa detrás de ChatGPT, ha anunciado una actualización clave en las normas que guían el comportamiento de su modelo de lenguaje cuando interactúa con adolescentes de entre 13 y 17 años. A partir de ahora, ChatGPT deberá tratar a estos usuarios como lo que son: jóvenes con necesidades emocionales, cognitivas y sociales diferentes a las de los adultos.
La decisión se enmarca en un enfoque basado en la prevención, la transparencia y la intervención temprana, pilares que OpenAI define como centrales para fomentar entornos más seguros en sus herramientas de inteligencia artificial. Según la empresa, se trata de priorizar la seguridad "incluso si entra en conflicto con otros objetivos" del modelo.
Los cuatro compromisos clave que guiarán el comportamiento de ChatGPT con adolescentes son:
1. Adaptar el tono y el lenguaje a las necesidades de los usuarios jóvenes, evitando contenido inapropiado o demasiado complejo.
2. Limitar la capacidad del modelo para generar contenido sexual, violento o de otro tipo que pueda ser perjudicial para los menores.
3. Implementar salvaguardas para evitar que ChatGPT ayude a los adolescentes a acceder a información o realizar actividades que puedan ponerlos en riesgo.
4. Fomentar la transparencia y la educación, informando a los usuarios sobre las capacidades y limitaciones del modelo en relación con la interacción con menores.
Esta actualización se produce en un momento en que la seguridad y el bienestar de los menores en entornos digitales se han convertido en una creciente preocupación. La integración de estos principios en ChatGPT, una de las herramientas de IA más populares y utilizadas, representa un importante paso hacia la creación de experiencias más seguras y apropiadas para los adolescentes.
Expertos en tecnología y protección de menores han aplaudido la iniciativa de OpenAI, destacando la importancia de que las empresas de IA asuman un papel proactivo en la salvaguarda de los derechos y el desarrollo saludable de los jóvenes en el entorno digital.
