A escritora americana Jane Friedman recentemente solicitou a remoção de cinco obras que estavam disponíveis no site da Amazon e erroneamente associadas ao seu nome. Suspeita-se que esses livros tenham sido gerados por inteligência artificial (IA).
Friedman foi informada por um leitor através de e-mail sobre a presença de obras “estranhas” na Amazon que estavam sendo atribuídas a ela. Essa descoberta a deixou com uma sensação de violação, especialmente porque os livros associados ao seu nome eram considerados de “baixa qualidade“.
De maneira irônica, Jane Friedman é autora de obras relacionadas à indústria editorial. Ademais, seu conteúdo foi plagiado nos livros falsos que supostamente ofereciam orientações sobre como publicar e-books ou otimizar lucros com publicações.
Esse incidente destaca os desafios e riscos associados à proliferação de conteúdo gerado por IA, incluindo plágio e falsificação de obras literárias. Também demonstra a importância de verificar a autenticidade e a fonte das obras antes de atribuí-las a um autor específico, especialmente em plataformas de comércio eletrônico.
Jane Friedman explicou em seu site que possui blogs desde 2009 e que muito do seu conteúdo está publicamente disponível. Isso poderia ter sido usado para treinar modelos de IA.
Sua principal preocupação é a reputação, já que as obras são curtas, genéricas e de qualidade muito inferior ao seu padrão de pesquisa e escrita. Ela teme que a presença desses livros falsos possa prejudicar sua imagem como pesquisadora respeitada.
Apesar de não terem custos de compra, a existência dos itens no serviço da Amazon e a venda dos direitos de distribuição podem render lucro para quem cadastrou no site.
Friedman menciona que já usou plataformas como o ChatGPT para se proteger contra casos de plágio semelhantes. Ela desenvolveu uma compreensão da estrutura das frases e do método de escrita da IA ao longo do tempo.
O problema em questão destaca os desafios enfrentados por autores e criadores quando se trata da utilização não autorizada de suas obras. Conquanto, agora também existe a proliferação de conteúdo gerado por IA que pode comprometer a qualidade e a autenticidade do material.
Após a denúncia, a pesquisadora tomou medidas para remover os títulos falsos vinculados ao seu perfil tanto na Amazon quanto no Goodreads. Após a denúncia ganhar visibilidade e viralizar, ambas as empresas retiraram os livros falsos do catálogo em questão de dois dias. No entanto, com a gigante da internet foi algo mais desafiador.
No Goodreads foi necessário entrar em contato com um moderador voluntário da plataforma e solicitar a retirada, um processo que também pode levar algum tempo. Mas, a resposta inicial da Amazon à denúncia de Jane Friedman foi considerada insatisfatória.
A empresa solicitou que ela fornecesse números de registro de marca comercial relacionados à sua reivindicação. Quando Jane informou que não possuía uma marca registrada em seu nome, a gigante encerrou o caso e informou que os livros não seriam removidos do site.
Um porta-voz da gigante da internet afirmou que a empresa possui “diretrizes de conteúdo claras que regem quais livros podem ser listados para venda”. A Amazon também emitiu um posicionamento oficial à imprensa, onde declarou que suas diretrizes de conteúdo definem quais livros podem ser disponibilizados para venda e que investigam prontamente qualquer suspeita levantada sobre uma obra. A empresa também admitiu que, quando comete um erro, age para corrigi-lo.
No posicionamento, a Amazon destacou que investiga rapidamente qualquer livro quando há uma preocupação e valoriza o feedback dos autores. Assim, trabalha diretamente com eles para resolver quaisquer problemas identificados. A empresa ressaltou seus esforços para oferecer uma experiência de compra confiável e para proteger tanto os clientes quanto os autores contra o uso indevido de seus serviços.
Tal postura destaca o compromisso da Amazon em manter um ambiente de venda confiável. Dessa forma, a empresa busca sempre por medidas que lidem com preocupações, garantindo a qualidade e autenticidade dos produtos disponibilizados em sua plataforma.