Os pais podem confiar no novo ChatGPT para adolescentes para manter seus filhos seguros?

OpenAI lançou uma nova experiência de ChatGPT Projetada especificamente para adolescentes, com restrições de segurança reforçadas e ferramentas de controle parental, a iniciativa busca responder a uma questão que preocupa cada vez mais as famílias: como permitir que os jovens se beneficiem da inteligência artificial sem expô-los a conteúdo ou interações potencialmente prejudiciais.

O novo ChatGPT para adolescentes A implementação começou em 18 de agosto e destina-se a usuários com idades entre 13 e 17 anos.. OpenAI O texto observa que, quando o sistema identifica uma conta como pertencente a alguém menor de 18 anos, ele ativa automaticamente a experiência para adolescentes. Esta versão inclui proteções adicionais contra conteúdo relacionado a automutilação, violência, distúrbios alimentares, atividades perigosas e material sexual ou explícito.

A empresa também utiliza um sistema de previsão de idade que analisa diferentes sinais associados a uma conta, como os tópicos discutidos pelo usuário, os horários e padrões de uso e há quanto tempo a conta está aberta.. OpenAI Reconhece-se que esse mecanismo não é infalível e permite que adultos verifiquem sua idade caso tenham sido classificados incorretamente como menores de idade.

Além das restrições de conteúdo, a nova experiência incorpora ferramentas projetadas para promover um uso mais saudável da tecnologia. Isso inclui lembretes relacionados a imagens sensíveis e recursos voltados para o aprendizado e para reduzir a probabilidade de que a interação com a inteligência artificial substitua relacionamentos e apoio no mundo real.

Os pais poderão receber alertas, mas não poderão ler as conversas.

Uma das principais funcionalidades do sistema é o controle parental. Pais ou responsáveis ​​podem vincular sua conta à do adolescente e gerenciar certas configurações, definir horários de silêncio e receber notificações de segurança em situações consideradas de alto risco. No entanto, existe uma limitação significativa: os pais não podem acessar ou ler as conversas dos filhos. As notificações são acionadas apenas em circunstâncias específicas, por exemplo, quando os sistemas de OpenAI Uma equipe especializada identifica sinais que podem indicar um caso grave de automutilação. Alertas também podem ser acionados em relação a certas situações de violência ou distúrbios alimentares.

A preocupação com o uso da inteligência artificial entre adolescentes tem se intensificado à medida que os jovens incorporam essas ferramentas para estudar, buscar informações, resolver problemas e também discutir assuntos pessoais.. OpenAI Afirma que quase nove em cada dez adolescentes que usam ChatGPT Eles o utilizam durante uma semana para aprendizado, informação, desenvolvimento de habilidades ou produtividade.

O lançamento, no entanto, representa um desafio mais amplo para as famílias: determinar até que ponto as salvaguardas tecnológicas são suficientes para proteger as crianças. Embora o novo sistema incorpore restrições específicas e mecanismos de intervenção, OpenAI Ele reconhece que seus sistemas não são perfeitos.

Por ora, a estratégia da empresa se concentra em combinar inteligência artificial, controles parentais e mecanismos de detecção de riscos, em vez de bloquear completamente o acesso para adolescentes. O objetivo é que os jovens possam usar essas ferramentas para aprender e desenvolver habilidades, mas em um ambiente mais seguro e com adultos que desempenhem um papel ativo em sua segurança.. 

Escrito por: Karen Rodríguez A.