A inteligência artificial (IA) permeia quase todos os aspectos da vida moderna, desde os sistemas de reconhecimento de voz e tradução de idiomas até os algoritmos de recomendação de produtos online e conteúdo de mídia social.
Com o avanço da IA, as redes sociais tornaram-se plataformas muito mais personalizadas e isoladas, onde a experiência de cada usuário é moldada pelos seus próprios interesses e comportamentos. Um exemplo claro disso é o TikTok, que utiliza IA para criar esta “bolha” individualizada para cada usuário.
No artigo de hoje, discutiremos um efeito colateral bem interessante destes algoritmos, seu potencial (acidental), para ajudar a combater uma questão social muito complexa: o bullying.
O efeito bolha do TikTok
* Apesar de sempre me referir ao "TikTok" diretamente, hoje em dia todas as redes sociais implementam o mesmo tipo de algoritmo para recomendação de conteúdo, então também estou falando, de forma implícita, de outras redes sociais, como: YouTube, Facebook, Instagram, Kwai, etc.
O “efeito bolha”, como é conhecido, refere-se ao modo como o algoritmo do TikTok analisa os interesses e preferências do usuário para apresentar conteúdo relevante, de maneira que cada usuário vive em sua própria “bolha” de conteúdo personalizado. Esta personalização extremamente direcionada pode resultar no isolamento de usuários com interesses diferentes, reduzindo a probabilidade de interações entre estes grupos.
Um dos principais motivos para o bullying é a diferença percebida entre os indivíduos – seja em termos de aparência, interesses, comportamento ou crenças. Ao destacar as semelhanças e minimizar as diferenças através da personalização do conteúdo, a IA pode criar um ambiente online mais “seguro”, onde as chances de ser vítima algo como o bullying são drasticamente reduzidas.
A bolha do TikTok, neste contexto, pode ser vista como uma espécie de medida de proteção contra o bullying, já que as interações online se limitam a grupos de pessoas com interesses extremamente semelhantes. Se vítimas e agressores são isolados em suas próprias bolhas, eles acabam nunca se encontrando. O abuso, portanto, não ocorre.
Mas... Isso é bom?
No entanto, é importante considerar algumas preocupações. O primeiro é que, enquanto o “efeito bolha” pode proteger as pessoas do bullying, ele também pode limitar a exposição a diferentes pontos de vista, criando câmaras de eco que reforçam as crenças e atitudes existentes. Isso pode levar a polarização de ideias extremistas (como todos que estão lendo com certeza já viram) e a falta de empatia.
Além disso, os algoritmos da IA dependem do comportamento do usuário para aprimorar suas previsões e recomendações. Isso significa que, se um usuário é exposto ao bullying e o algoritmo interpreta isso como um interesse, o usuário pode ser inadvertidamente exposto a mais conteúdo de bullying.
Conclusão
Ao refletir sobre os poderes de isolamento dos algoritmos de Inteligência Artificial, é impossível não se questionar sobre as implicações éticas e sociais mais amplas que acompanham essas tecnologias. O “efeito bolha” no TikTok e em outras plataformas sociais baseadas em IA pode ser uma maneira eficaz de proteger as pessoas do bullying online, mas é realmente o melhor caminho a seguir?
Certamente, proteger as pessoas do bullying é um objetivo louvável. As vítimas de bullying, tanto online quanto offline, podem enfrentar sérias consequências emocionais, psicológicas e físicas. A utilização da IA para ajudar a prevenir (mesmo que por “acidente”, no caso das redes sociais) o bullying pode ser vista como um passo positivo para criar ambientes mais seguros e inclusivos.
Porém, cabe perguntar: a IA tem a responsabilidade de proteger os indivíduos do bullying? E se sim, até que ponto? Deveríamos confiar em algoritmos para moldar nosso comportamento e experiências online, protegendo-nos de potenciais danos, mas possivelmente nos isolando de experiências desafiadoras que poderiam contribuir para nosso crescimento e desenvolvimento pessoal?
Esta questão vai além do bullying e se estende à própria essência de nossa interação com a IA. É uma questão que toca o coração do papel da tecnologia em nossas vidas e de como ela pode, e deve, ser usada para proteger e beneficiar a sociedade. Esta não é uma pergunta que pode ser facilmente respondida, mas é uma que certamente vale a pena explorar à medida que continuamos a navegar na era digital.
