Ferramenta contra “lixo de IA” já foi acionada mais de um milhão de vezes (Imagem: Vitor Pádua / Tecnoblog)
Resumo
O LinkedIn reduziu em 40% as visualizações de publicações de baixa qualidade após implementar um botão de denúncia.
A plataforma recebeu mais de 1 milhão de reclamações de publicações geradas por IA.
Um sistema de transparência notifica os usuários quando uma publicação é denunciada como possível texto de inteligência artificial genérico.
O LinkedIn anunciou que conseguiu diminuir em 40% as visualizações de publicações de baixa qualidade geradas por inteligência artificial. A queda drástica ocorre poucas semanas após a rede social liberar
um botão de denúncia para esse tipo de material
. O objetivo é limpar o feed, penalizar conteúdos que não agregam valor e, a partir de agora, notificar os autores das postagens reportadas pelo público.
O diretor de produtos do LinkedIn, Hari Srinivasan, confirmou que os membros já estão visualizando uma quantidade muito menor de textos robotizados. A nova funcionalidade de moderação, apelidada como “botão contra lixo de IA” (ou “AI slop”, no jargão do setor de tecnologia), teve uma adoção rápida: já foi
acionada mais de 1 milhão de vezes
desde o lançamento.
Como o algoritmo lida com as denúncias?
Apesar do sucesso, a empresa mantém reservas sobre como processa as denúncias geradas pelos usuários para rebaixar o que considera “conteúdo de baixa qualidade”. Para evitar abusos ou perseguições, foram criados mecanismos que impedem que uma onda de feedbacks negativos seja utilizada para atacar ou silenciar outros membros injustamente.
Isso significa que apenas receber cliques no botão de denúncia não garante que uma postagem será ocultada caso o sistema interno não sustente a suspeita de uso inadequado de IA. A plataforma também realizou ajustes de algoritmo e passou a identificar e reduzir o alcance de publicações que abusam de clichês textuais já reconhecidos como assinaturas de sistemas de
IA generativa
– como posts que estruturam argumentos em fórmulas previsíveis, como o formato “não é sobre X, é sobre Y”.
A rede da Microsoft também introduziu um sistema de transparência. Os usuários vão receber um alerta sempre que uma publicação sua for denunciada por terceiros como “possível texto de inteligência artificial genérico”. Esse aviso não será exibido publicamente e ficará restrito ao painel de “análise de publicações” do aplicativo.
Exemplo de notificação de um post denunciado (imagem: reprodução/LinkedIn)
Mudança de postura
Um estudo recente conduzido pela empresa de detecção de IA Pangram estimou
que mais de 40% das publicações longas no LinkedIn
provavelmente foram criadas por inteligência artificial. Esse volume sem precedentes não ocorreu por acaso. O próprio aplicativo adotava uma postura de incentivo ao uso da tecnologia, incluindo até um botão na interface de criação que sugeria “aprimorar” publicações utilizando algoritmos de escrita.
No entanto, essa “facilidade” acabou descaracterizando a plataforma. Reconhecendo o impacto negativo na experiência dos usuários, a empresa optou por remover completamente o recurso assim que lançou a atual ferramenta de denúncia.
Botão anti-IA do LinkedIn é avaliado positivamente