OpenAI anunció que su popular asistente de inteligencia artificial, ChatGPT, incluirá controles parentales a partir del “próximo mes”.
La empresa matriz del chatbot informa esta medida tras las denuncias sobre casos de autolesiones o suicidios entre adolescentes influidas por este tipo de herramientas.
De acuerdo a OpenAI, los controles incluirán la opción de que los padres vinculen su cuenta con la de sus hijos, gestionen cómo responde ChatGPT a los usuarios adolescentes, desactiven funciones como la memoria y el historial de chats, y reciban notificaciones cuando el sistema detecte “un momento de angustia aguda” durante su uso.
“Estos pasos son solo el comienzo… seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”, escribió OpenAI en una publicación de blog.
OpenAI había sido demandada por los padres de Adam Raine, un joven de 16 años, al que supuestamente ChatGPT le aconsejó sobre su suicidio. El año pasado, una madre en Florida demandó a la plataforma de chatbots Character.AI por su presunta implicación en el suicidio de su hijo de 14 años. También han crecido las preocupaciones sobre los vínculos emocionales que algunos usuarios establecen con ChatGPT, lo que en ciertos casos habría derivado en episodios delirantes y distanciamiento familiar, según reportes de The New York Times y CNN.
La semana pasada la empresa admitió que sus protecciones pueden volverse poco confiables cuando los usuarios sostienen conversaciones largas con ChatGPT.
“ChatGPT incluye protecciones como dirigir a las personas a líneas de ayuda en crisis y remitirlas a recursos en el mundo real… aunque estas protecciones funcionan mejor en intercambios comunes y breves, con el tiempo hemos aprendido que pueden volverse menos confiables en interacciones largas, donde partes del entrenamiento en seguridad del modelo pueden degradarse. Las protecciones son más sólidas cuando cada elemento funciona como se espera, y las mejoraremos de manera continua, guiados por expertos”, dijo un portavoz.
Además de los controles parentales, se canalizará las conversaciones con señales de “estrés agudo” hacia uno de sus modelos de razonamiento. También, la empresa trabaja con expertos en “desarrollo juvenil, salud mental e interacción humano-computadora” para diseñar protecciones futuras, incluidos más controles parentales.
Tomado de Panorama
