A pontada como a pior rede social para a saúde mental segundo a Royal Society for Public Health, o Instagram anunciou nesta terça-feira (09/10) uma ferramenta baseada em machine learning para detectar bullying em fotos e legendas. O recurso, previsto para ser lançado gradativamente nas próximas semanas, fará a captura de conteúdo identificado como bullying e o enviará para um time de revisores da empresa, que decidirá por sua remoção ou não.
O machine learning (ou aprendizado de máquina, em português) funciona a partir do reconhecimento de padrões. Nesse caso, a tecnologia “aprende” o que é bullying de acordo com o que os engenheiros de computação do Instagram ensinam a ela. Esse ensino consiste, basicamente, na classificação contínua de milhares de fotos e legendas. Assim, ao se deparar com um conteúdo de bullying, a ferramenta — com base nos sinais de bullying que ela já viu na rede social — automaticamente faz a associação dos sinais que ela capta com o que aprendeu.
A empresa não detalha exatamente quais elementos são entendidos como bullying. Mas informa que a ferramenta é capaz de identificar intimidação e assédio em foto, como ataques à aparência ou ao caráter de uma pessoa, assim como ameaças ao bem-estar ou à saúde de uma pessoa. “Uma das táticas de intimidação que a tecnologia de foto detecta é comparar, ranquear e classificar imagens e legendas que podem conter bullying, como, por exemplo, em imagens de tela dividida, onde uma pessoa é comparada a outra de maneira negativa”, disse o Instagram, em e-mail enviado à Época NEGÓCIOS.
Adam Mosseri, que assumiu recentemente a liderança do Instagram (após o anúncio da saída dos fundadores, Kevin Systrom e Mike Krieger), afirmou no blog da empresa que a nova ferramenta é um passo crucial no combate ao bullying, já que muitas pessoas que o vivenciam ou observam acabam não fazendo a denúncia. “Isso também nos ajudará a proteger os membros mais jovens da nossa comunidade, já que os adolescentes sofrem com as taxas mais altas de bullying online”, disse.
A pesquisa #StatusOfMind, da Royal Society for Public Health (organização independente dedicada à promoção da saúde no Reino Unido), mostra que o Instagram é a pior rede social para a saúde mental. Em uma análise que considerou questões como ansiedade, depressão, bullying e Fomo — Fear of Missing Out (medo de perder algo) — o app recebeu a pontuação mais negativa.
O YouTube, por outro lado, teve uma pontuação positiva. O ranking segue com Twitter, em segundo lugar; Facebook, em terceiro; Snapchat, em quarto; e Instagram, em quinto. Feita em 2017, a pesquisa entrevistou 1.479 jovens entre 14 e 24 anos no Reino Unido. Apesar dos aspectos negativos, o estudo também mostrou que as redes sociais promovem o senso de comunidade e facilitam o apoio emocional.
Os riscos, no entanto, devem ser enfrentados, diz a organização. “Ser um adolescente já é por si só difícil, mas as pressões que os jovens sofrem online são algo característico dessa geração digital”, afirmam os pesquisadores. “É muito importante colocar essas salvaguardas em curso.”
O Instagram também anunciou um filtro de comentários em vídeos ao vivo, para evitar bullying durante uma transmissão. Esse filtro já havia sido apresentado há alguns meses para a identificação e ocultação automática de comentários com teor de bullying no feed, na aba Explorar e no perfil.
A rede social lançou ainda um novo efeito de câmera (imagem acima), em parceria com a atriz e dançarina Maddie Ziegler, “para propagar mais positividade dentro da plataforma”, informa a empresa em seu blog. O efeito dá a possibilidade de sobrepor corações ou palavras de gentileza à imagem. Maddie Ziegler já foi vítima de bullying.
Fonte: Época Negócios
