IA problemtica e polticas confusas fez vdeos de explorao infantil serem aprovados no YouTube

O YouTube vem implementando uma fiscalização mais rígida em sua plataforma após diversos escândalos mostrarem que vídeos de crianças estavam cheios de comentários de pedófilos e que vídeos inadequados estavam aparecendo no YouTube Kids.

Agora, de acordo com um relatório do BuzzFeed, o YouTube tem oferecido aos seus moderadores humanos que treinam a Inteligência Artificial (IA) da plataforma um manual um tanto confuso e que favorece com que vídeos inadequados cheguem as crianças.

O BuzzFeed entrevistou alguns desses moderadores e descobriu que eles são orientados para classificar os vídeos de acordo com a qualidade de produção e não com relação ao conteúdo.

Com isso, algumas distorções podem fazer com que vídeos com conteúdos perturbadores consigam bons resultados em mecanismos de pesquisa. Um dos moderadores disse de forma anônima

Mesmo que um vídeo seja perturbador ou violento, nós temos que sinalizá-lo, mas ainda temos que dizer que é de alta qualidade

Ele citou um exemplo no qual um vídeo de exploração infantil conseguiu muitas visualizações devido o fato de ele ter sido bem produzido e editado profissionalmente. Algo que as políticas de moderação do YouTube considera como sendo o ideal para dar destaque na plataforma.

Em outro exemplo, o moderador disse que o YouTube pede que eles sinalizem os vídeos como “OK” ou “Não OK” para crianças com idades entre 9 e 12 anos. Nesse critério, o clipe Bad Blood da Taylor Swift não foi aprovado, já vídeos com sofrimento animal acabaram passando.

O professor da inteligência artificial da Universidade de Cornell, Bart Selman, comentou o relatório do BuzzFeed

É um exemplo do que eu chamo de” desalinhamento de valor “. É um desajuste de valor em termos do que é melhor para a receita da empresa versus o que é melhor para o bem social mais amplo da sociedade. Conteúdo controverso e extremo – vídeo, texto ou notícias – se espalha melhor e, portanto, leva a mais pontos de vista, mais uso da plataforma e aumento de receita “.

Vale lembrar que o YouTube já vem há algum tempo enfrentando problemas com vídeos violentos postados em sua plataforma. Recentemente vimos que a empresa prometeu apertar o cerco contra esse tipo de conteúdo, mas uma jovem acabou postando um vídeo no qual ela matou seu próprio namorado por views no YouTube.

Source link

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *