Usuários do ChatGPT que mostrarem sinais de extremismo violento poderão receber ajuda especializada. Uma nova ferramenta está sendo desenvolvida na Nova Zelândia para isso. O objetivo é unir atendimento humano e chatbots. Desse modo, busca-se diminuir os riscos de violência. Além disso, essa iniciativa mira o ChatGPT extremismo, oferecendo um suporte fundamental para quem precisa.
A startup neozelandesa ThroughLine é a empresa por trás desse projeto. Aliás, ela já trabalha com gigantes da tecnologia, como OpenAI (dona do ChatGPT), Anthropic e Google. O principal trabalho da ThroughLine é direcionar usuários para apoio em momentos de crise. Isso acontece quando há indícios de riscos sérios, como automutilação, violência doméstica ou transtornos alimentares. No entanto, a empresa expande sua atuação. Ela inclui a prevenção contra o extremismo violento, um passo importante no combate ao ChatGPT extremismo.
Leia também
Combatendo o ChatGPT Extremismo
Este novo sistema surge em um cenário de preocupação crescente com a segurança das plataformas de inteligência artificial. De fato, empresas de IA têm enfrentado diversos processos judiciais. As acusações apontam que elas falham em impedir episódios de violência. Às vezes, até os incentivam. Um caso marcante ocorreu em fevereiro. Na ocasião, o governo do Canadá ameaçou intervir na OpenAI. A medida veio após a descoberta de que um autor de massacre escolar foi banido da plataforma sem aviso às autoridades. A OpenAI confirmou a parceria com a ThroughLine, mas não deu muitos detalhes sobre o projeto de combate ao ChatGPT extremismo.
A Parceria para Identificar o ChatGPT Extremismo
Elliot Taylor, fundador da ThroughLine e ex-assistente social, explicou que a empresa quer ampliar o serviço. O objetivo é a prevenção do extremismo violento. A ThroughLine está em conversas com o The Christchurch Call. Esta é uma iniciativa global. Ademais, ela foi criada para combater o ódio online, surgindo após um ataque terrorista na Nova Zelândia em 2019. Taylor contou que o grupo anti-extremismo dará as orientações. Enquanto isso, a ThroughLine vai desenvolver o chatbot de intervenção. Ele destacou a importância de melhorar a cobertura. Assim, pode-se dar um suporte melhor às plataformas. Consequentemente, combater o ChatGPT extremismo.
A startup de Taylor se tornou uma referência para as empresas de IA. Ele a gerencia de sua casa na Nova Zelândia rural. Por exemplo, ela oferece uma rede monitorada de 1.600 linhas de apoio em 180 países. Quando a inteligência artificial detecta sinais de uma possível crise de saúde mental, ela encaminha o usuário para a ThroughLine. Esta, por sua vez, conecta a pessoa a um serviço disponível e operado por humanos na região. O foco agora é também identificar e apoiar casos de ChatGPT extremismo.
O Futuro do Suporte: Mais Chatbots, Mais Apoio
O fundador da ThroughLine mencionou que o escopo de sua empresa era limitado a categorias específicas. Contudo, a popularidade dos chatbots de IA fez com que a amplitude dos problemas de saúde mental revelados online explodisse. Isso agora inclui o envolvimento com o extremismo. A ferramenta para combater o extremismo, segundo Taylor, deve ser um modelo híbrido. Ela combinará um chatbot treinado para responder a pessoas com sinais de extremismo com encaminhamentos para serviços de saúde mental presenciais. Assim, mais pessoas podem encontrar ajuda, e o ChatGPT extremismo pode ser melhor gerenciado.