ChatGPT lança recurso para proteger jovens após caso de suicídio

Ferramenta permitirá que pais monitorem uso da inteligência artificial por adolescentes; medida foi anunciada dias após processo contra a OpenAI.

A OpenAI anunciou nesta terça-feira (2) que o ChatGPT passará a contar com um sistema de controle parental a partir de outubro. A iniciativa tem como objetivo oferecer mais segurança no uso da ferramenta por adolescentes e permitir que os pais acompanhem de perto a interação de seus filhos com a inteligência artificial.

Segundo a empresa, será possível vincular contas de pais e filhos, além de receber notificações caso o sistema identifique sinais de “grande sofrimento” emocional no jovem usuário. A atualização também permitirá controlar a forma como respostas são apresentadas a adolescentes, incluindo a possibilidade de desativar recursos como memória e histórico de conversas.

A companhia destacou que o desenvolvimento do recurso contou com apoio de especialistas em saúde mental e juventude, buscando “promover confiança entre pais e adolescentes”. A OpenAI reiterou ainda que o uso do ChatGPT segue proibido para menores de 13 anos.

Processo por suicídio

A medida foi anunciada uma semana após a empresa ser processada por pais de um adolescente de 16 anos que cometeu suicídio nos Estados Unidos. Eles alegam que a ferramenta forneceu orientações sobre métodos de automutilação antes da morte do jovem.

O controle parental integra um pacote mais amplo de ações para aprimorar as respostas do ChatGPT a situações de sofrimento mental. Nos próximos 120 dias, a OpenAI deve anunciar novas medidas. Em janeiro, a empresa já havia criado um conselho de especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador, que também atua em parceria com a Global Physician Network — rede que reúne mais de 250 médicos de 60 países.

“Embora o conselho nos aconselhe sobre nossos produtos, pesquisas e decisões políticas, a OpenAI permanece responsável pelas escolhas que fazemos”, informou a companhia em comunicado.

Com informações do Portal Metrópoles