Por Redacción YSKL
OpenAI anunció una nueva serie de medidas de seguridad para los menores de 18 años que utilizan ChatGPT, con cambios destinados a reducir la posibilidad de que los adolescentes desarrollen una relación excesivamente personal con el chatbot y a fomentar un uso más saludable de la herramienta.
Entre las novedades se encuentra la posibilidad de que los usuarios adolescentes desactiven las respuestas mediante voz, una función diseñada para reducir la capacidad de ChatGPT de parecer una persona durante las conversaciones.
OpenAI también incorporará recordatorios periódicos para que los jóvenes hagan pausas, en los que se les recordará que están interactuando con una inteligencia artificial y que la conversación puede esperar.
La compañía aseguró que estas medidas no responden a un caso específico de menores que hayan llegado a creer que ChatGPT está vivo o es consciente. Sin embargo, la decisión se produce en medio de una creciente preocupación por usuarios que desarrollan la convicción de que algunas herramientas de inteligencia artificial son seres conscientes.
Cuentas específicas para adolescentes
OpenAI está adoptando un modelo de cuentas para adolescentes similar al que utilizan algunas grandes plataformas sociales.
En su anuncio sobre ChatGPT para adolescentes, la compañía señaló que el uso de IA por parte de jóvenes “debería venir acompañado de protecciones que reflejen su etapa de desarrollo, refuercen las relaciones en el mundo real y apoyen un uso saludable a lo largo del tiempo”.
Las cuentas para adolescentes serán la configuración predeterminada para quienes indiquen que son menores de edad al registrarse y también para usuarios que OpenAI determine que tienen menos de 18 años.
La empresa, sin embargo, no detalló cómo determinará la edad de los usuarios.
Los menores de 13 años no están autorizados a utilizar ChatGPT.
Study Mode y horarios de descanso
Las nuevas medidas también incluyen controles relacionados con el tiempo de uso y el aprendizaje.
Los adolescentes podrán establecer horarios específicos para utilizar Study Mode, el modo de estudio de ChatGPT que está diseñado para acompañar al estudiante en la resolución de tareas sin simplemente proporcionarle las respuestas.
También podrán establecer períodos de “quiet time”, durante los cuales ChatGPT quedará desactivado para ellos.
OpenAI afirma que nueve de cada diez jóvenes que utilizan ChatGPT lo hacen para actividades relacionadas con el aprendizaje.
El anuncio coincide con un debate creciente sobre el impacto de la inteligencia artificial en la educación. Un informe del centro de estudios Policy Exchange señaló que las universidades británicas podrían estar expuestas al uso de IA por parte de estudiantes en evaluaciones realizadas de forma remota.
Según ese informe, 94 % de los estudiantes consultados reconoció haber utilizado IA en evaluaciones.
Alertas a padres por solicitudes relacionadas con trastornos alimentarios
OpenAI también ampliará las situaciones que pueden generar alertas para los padres que tengan cuentas vinculadas con las de sus hijos.
Las solicitudes relacionadas con trastornos alimentarios se incorporarán a la lista de contenidos considerados potencialmente dañinos que pueden activar una alerta.
La empresa indicó que las alertas serán revisadas por una persona antes de enviarse a los padres y que su objetivo es que lleguen aproximadamente dentro de una hora después de que se realice la solicitud.
OpenAI explicó que estas herramientas estarán enfocadas en identificar “momentos en los que el apoyo fuera de línea puede ser más importante”.
Preocupación por la relación entre jóvenes e inteligencia artificial
Las nuevas restricciones llegan mientras aumenta el debate sobre la manera en que las personas perciben a los sistemas de IA.
Mustafa Suleyman, responsable de IA de Microsoft, ha expresado anteriormente su preocupación por productos que parecen tener características de conciencia.
El objetivo de OpenAI con las nuevas medidas parece ser, en parte, establecer límites más claros entre la interacción con una herramienta de IA y las relaciones humanas reales, especialmente durante la adolescencia.
La preocupación también ha llegado al ámbito médico.
La doctora Susan Shelmerdine, especialista en imágenes médicas del Great Ormond Street Hospital y académica dedicada a la IA, planteó que en el futuro los médicos podrían preguntar a sus pacientes cuánto utilizan estas herramientas, de forma similar a las preguntas actuales sobre consumo de tabaco o alcohol.
“Ya sabemos qué pueden hacer los alimentos ultraprocesados al cuerpo y esta es información ultraprocesada. Vamos a tener una avalancha de mentes ultraprocesadas”, afirmó.
Reino Unido aún no tiene una regulación específica sobre IA
En Reino Unido todavía no existe una regulación específica para los chatbots de inteligencia artificial.
El Gobierno del entonces primer ministro Keir Starmer había considerado restricciones para el uso de chatbots por parte de menores de 18 años dentro de sus propuestas relacionadas con la protección de los niños en internet.
Mientras tanto, Claude, de Anthropic, continúa siendo una herramienta destinada exclusivamente a adultos, mientras que Google inicialmente tampoco permitía que menores utilizaran su chatbot Gemini, entonces denominado Bard.
Con estas nuevas funciones, OpenAI busca que el uso de ChatGPT por parte de adolescentes esté acompañado de mayores controles de edad, límites de tiempo, herramientas educativas y mecanismos de supervisión parental, al tiempo que intenta reducir la percepción de que el chatbot constituye una presencia humana o una relación personal.
