Medida ocorre uma semana após um casal americano afirmar que o sistema teria incentivado morte de filho adolescente
A empresa americana de inteligência artificial OpenAI anunciou na terça-feira (02/09) que adicionará controles parentais ao seu chatbot ChatGPT. A medida ocorre uma semana após um casal americano afirmar que o sistema incentivou seu filho adolescente a cometer suicídio.
Em uma publicação em seu blog, a empresa afirmou que a partir do próximo mês, os pais já poderão monitorar a conta dos menores. “No próximo mês, os pais poderão (…) vincular sua conta à conta do filho adolescente” e “controlar como o ChatGPT responde ao adolescente com regras de comportamento adequadas à idade”, explicou.
Os pais receberão ainda notificações do ChatGPT “quando o sistema detectar que o adolescente está em um momento de angústia aguda”, acrescentou a OpenAI.
Morte de adolescente nos EUA
Em ação apresentada em um tribunal do estado da California na segunda-feira, Matthew e Maria Raine afirmam que o ChatGPT cultivou uma relação íntima com seu filho Adam por vários meses entre 2024 e 2025, antes de sua morte.
A denúncia alega que em sua conversa final, em 11 de abril de 2025, o ChatGPT ajudou Adam a roubar vodca de seus pais e lhe forneceu uma análise técnica sobre um nó corrediço com o qual confirmou que “poderia potencialmente enforcar um ser humano”. Adam foi encontrado morto horas depois usando esse método.
“Quando uma pessoa usa o ChatGPT realmente sente que está conversando com algo do outro lado”, disse a advogada Melodi Dincer, que ajudou a preparar a ação contra a OpenAI, “Essas são as mesmas características que poderiam levar alguém como Adam, com o tempo, a começar a compartilhar cada vez mais sobre sua vida pessoal e, em última análise, a buscar conselhos e orientação deste produto que basicamente parece ter todas as respostas”, afirmou Dincer.
A defesa disse também que a publicação no blog da OpenAI anunciando os controles parentais e outras medidas de segurança é “genérica” e carece de detalhes. “Realmente é o mínimo, e definitivamente sugere que muitas medidas de segurança (simples) poderiam ter sido implementadas”, acrescentou.
Fonte: Portal MeioNews.
Confira esta e outras matérias na íntegra pelo link: https://www.meionews.com/noticias/tecnologia/apos-morte-de-adolescente-openai-vai-incluir-controle-para-pais-no-chatgpt-540755