Em 2018, a influencer Katana Fatale estava no Havaí (EUA) em um banho ao ar livre, e a luz estava simplesmente perfeita.
Ela posicionou seu telefone em uma cadeira, ajustou o timer e tirou esta foto.
Ela a compartilhou com seus milhares de seguidores no Instagram, onde tem publicado e defendido corpos plus-size desde 2014.
"Ficou uma imagem incrível. Eu me senti muito bonita", disse ela ao BuzzFeed News. "Lembro que estava na praia e fui conferir a foto novamente, e eu recebi este alerta de que ela havia sido removida."
Embora estivesse nua, ela seguiu as diretrizes da comunidade do Instagram, que proíbem mamilos femininos, atos sexuais, genitais e close-ups de bundas nuas. Todo o resto, desde que não mostre essas coisas, não há problema em publicar. A empresa permite imagens de amamentação e cicatrizes pós-mastectomia, além de nudez em pinturas e esculturas.
Então Fatale ficou confusa sobre o motivo pelo qual agora estava sendo informada de que violações posteriores poderiam levar à exclusão de sua conta, especialmente quando outras mulheres pareciam poder postar imagens semelhantes sem nenhum problema.
Fatale está longe de ser a única influenciadora plus-size a ter esse problema. Tem havido inúmeras denúncias de pessoas como Fatale tendo suas fotos e vídeos sinalizados e removidos das mídias sociais.
Até mesmo mulheres muito famosas não são poupadas. Recentemente, Lizzo reclamou que um TikTok com ela de biquíni foi removido, enquanto vídeos de mulheres mais magras não pareciam receber o mesmo tratamento.
Embora não haja dados concretos mostrando imagens de pessoas plus-size sendo sinalizadas com mais frequência, tem havido tantos episódios disso que as influencers não conseguem deixar de ver um padrão.
"Simplesmente são muitos. Onde há fumaça, há fogo. Com certeza tem algo acontecendo quando pessoas gordas são perseguidas", disse Fatale.
De acordo com especialistas que falaram com o BuzzFeed News, é muito possível que elas estejam certas. A moderação do conteúdo em aplicativos de mídia social geralmente é uma mistura de inteligência artificial e moderadores humanos, e ambos os métodos têm uma potencial tendência contra corpos maiores.
Mathieu Lemay é o cofundador da Lemay.ai, uma empresa de consultoria em IA. Ele disse que a primeira coisa a se ter em mente é que a IA está longe de ser perfeita e, na verdade, é meio preguiçosa.
"A tecnologia e a discriminação vêm desde muito antes", disse. "Sempre que você desenvolve um novo projeto ou um novo protótipo, precisa pensar em como ele falhará."
Empresas como o Facebook desenvolvem sua própria IA de moderação de imagem e vídeo. Eles a desenvolvem alimentando-a com milhões de imagens para que ela possa identificar padrões e aprender o que é aceitável e o que não é. Ela aprende, por exemplo, a identificar pornografia, um mamilo ou um biquíni. Conforme ela verifica as imagens carregadas pelos usuários, decide a probabilidade de a imagem conter conteúdo proibido. Se tiver muita certeza, ela poderá sinalizar automaticamente o conteúdo. Se apenas estiver mais ou menos certa, ela poderá encaminhar o conteúdo para um humano para verificar novamente.
O problema é que existem muitas áreas nebulosas, e a IA só é capaz de fazer suas suposições com base no que foi ensinado. É aí que o primeiro problema potencial surge. Se a IA não foi alimentada com muitas imagens de mulheres plus-size, o que é uma possibilidade dada a tendência contra corpos maiores na mídia, isso poderia ser o começo de um problema.
Então, Lemay disse, a IA não poderia saber a diferença entre um corpo menor nu e um corpo plus-size de biquíni.
"Se você pegar duas modelos, uma plus-size e outra não, há uma chance de haver mais pixels relacionados à pele", disse ele.
Como a IA não sabe o contexto do que está vendo, isso pode levar à categorização incorreta. No entanto, esses sistemas de IA são desenvolvidos por pessoas, e as pessoas são tendenciosas.
Shoog McDaniel é uma artista da Flórida (EUA) cujo foco é em fotos nuas de corpos grandes.
Como Fatale, ela conhece as regras — mamilos e órgãos genitais devem ser cobertos, nádegas só podem aparecer nuas à distância. E, no entanto, tem vezes que suas publicações estão sendo removidas toda semana.
"Acho que essa é uma tendência da qual a comunidade em geral tem falado há algum tempo, que diz que, quando esses bots ou o que quer que seja saem em busca de nudez, é uma porcentagem de pele em comparação com o resto do corpo", disse ela ao BuzzFeed News.
"Acho que isso é uma grande parte da questão, e é parte da gordofobia sistêmica que enfrentamos, e isso é completamente inaceitável, mas o que podemos fazer?"
McDaniel disse que nunca conseguiu revogar a remoção de uma imagem. O Facebook, que é dono do Instagram, não fala nada sobre como funciona seu processo de moderação.
"Queremos que nossas políticas sejam inclusivas e reflitam todas as identidades, e estamos constantemente reafirmando nossas políticas para ver como podemos melhorar. Removemos conteúdo que viola nossas políticas e treinamos a inteligência artificial para encontrar proativamente conteúdo potencialmente violador", disse um porta-voz.
"Essa tecnologia não é treinada para remover conteúdo com base no tamanho de uma pessoa; ela é treinada para procurar elementos violadores — como órgãos genitais visíveis ou texto que contenha discurso de ódio."
O TikTok enviou um comunicado semelhante.
"O TikTok é uma plataforma inclusiva desenvolvida sobre o fundamento da expressão criativa — e nossos usuários seguem o código de conduta descrito em nossas Diretrizes da Comunidade", disse um porta-voz.
Essas respostas não são muito satisfatórias para McDaniel.
"No momento, cada vez mais fotos estão sendo censuradas, e o trabalho que é vital e estimulante está sendo retirado rapidamente", disse ela.
McDaniel também conhece muito bem o elemento humano de tudo isso. Seu trabalho está frequentemente sujeito a grupos de zombadores críticos de corpos denunciando suas imagens. Plataformas como o Instagram certamente estão cientes desse fenômeno e dizem que o número de denúncias não provoca nada automaticamente, mas nem todo mundo tem tanta certeza de que isso não desempenha um papel.
Kat Lo, pesquisadora que estuda moderação de conteúdo e assédio online, disse que as denúncias podem ter algum papel no mecanismo mais abrangente da moderação, mas as pessoas também.
"Isso é o que há de mais insidioso em sistemas tecnológicos tão grandes. Existem muitas etapas e muitas oportunidades para que mesmo pequenos casos de preconceito comecem a aparecer", disse ela.
Devido ao preconceito presente na sociedade, ela disse, é muito possível que quando uma imagem de uma pessoa maior aparece diante de um moderador humano, é mais provável que ele a marque como "obscena" ou sexualizada do que faria com uma imagem de uma pessoa menor.
"Existem milhares e milhares de pequenas razões, em vez de razões mais amplas, como 'estou vendo um mamilo'", disse ela.
Por causa de todas essas áreas nebulosas e da enorme escala desses bancos de dados de moderação, consertar realmente um problema em potencial como esse seria caro e demorado, e as empresas têm muito pouca motivação para fazê-lo.
Lo disse que aplicativos como Instagram ou TikTok estão sob pressão para manter os conteúdos apropriados para todas as idades. É simplesmente mais fácil errar por precaução.
E isso pode deixar pessoas como Fatale no limbo.
"Fico triste que o Instagram possa ignorar totalmente esse problema", disse ela.
"Eu não deveria ser silenciada e apagada porque você está hipersexualizando meu corpo por ele ser maior do que o padrão", ela acrescentou. "Se eles acham que esse problema vai desaparecer, se acham que a comunidade gorda vai desistir desse problema, eles ainda terão muita dor de cabeça."
Este post foi traduzido do inglês.