A OpenAI, uma das líderes no cenário de inteligência artificial, recentemente descontinuou uma ferramenta que tinha como objetivo distinguir escrita humana de escrita gerada por IA. O motivo? Baixa taxa de precisão.
Em uma atualização em seu blog, a OpenAI anunciou o fim de seu classificador de IA a partir de 20 de julho. “Estamos trabalhando para incorporar feedbacks e atualmente pesquisando técnicas de proveniência mais eficazes para texto“, disse a empresa.
Com isso, a OpenAI encerra sua ferramenta de captura de escrita gerada por IA, mas já planeja “desenvolver e implementar mecanismos que permitam aos usuários entender se o conteúdo audiovisual é gerado por IA“. Ainda não há informações sobre o que seriam esses mecanismos.
Limitações da ferramenta
A OpenAI admitiu que o classificador nunca foi muito eficaz na detecção de texto gerado por IA, alertando que poderia gerar falsos positivos, ou seja, texto escrito por humanos sendo marcado como gerado por IA. A OpenAI, antes de adicionar sua atualização que encerra a ferramenta, afirmou que o classificador poderia melhorar com mais dados.
Impacto do chatGPT
Depois que o chatGPT da OpenAI irrompeu no cenário e se tornou um dos aplicativos de crescimento mais rápido de todos os tempos, as pessoas correram para entender a tecnologia. Vários setores soaram o alarme em torno do texto e arte gerados por IA, especialmente educadores preocupados que os alunos parariam de estudar e deixariam o chatGPT escrever suas tarefas. Escolas de Nova York até proibiram o acesso ao chatGPT em suas instalações devido a preocupações com precisão, segurança e trapaça.
Desinformação e IA
A desinformação via IA também tem sido uma preocupação, com estudos mostrando que o texto gerado por IA, como tweets, pode ser mais convincente do que os escritos por humanos. Os governos ainda não descobriram como controlar a IA e, até agora, estão deixando para grupos e organizações individuais estabelecerem suas próprias regras e desenvolverem suas próprias medidas de proteção para lidar com a enxurrada de texto gerado por computador. E parece que, por enquanto, ninguém, nem mesmo a empresa que ajudou a iniciar a febre da IA generativa em primeiro lugar, tem respostas sobre como lidar com tudo isso. Embora algumas pessoas sejam pegas, ficará cada vez mais difícil diferenciar facilmente o trabalho de IA e humano.
Mudanças na OpenAI
A OpenAI também recentemente perdeu seu líder de confiança e segurança em um momento em que a Federal Trade Commission está investigando a OpenAI para ver como verifica informações e dados. A OpenAI se recusou a comentar além de sua postagem no blog.
O fim da ferramenta de classificação de IA da OpenAI levanta questões importantes sobre a eficácia e as limitações das tecnologias de IA atualmente disponíveis. Ainda estamos nos estágios iniciais de entender e lidar com os impactos e implicações dessas tecnologias em nossa sociedade. Como o caso do chatGPT demonstra, ainda temos um longo caminho a percorrer.
Agora, com novos mecanismos prometidos pela OpenAI, resta aguardar para ver como a empresa planeja abordar esses desafios no futuro. Uma coisa é certa: a jornada da IA está apenas começando.
