FOTO: MATTHEW STOCK/REUTERS

O TikTok vai começar a permitir que seus usuários na Europa desliguem seu algoritmo , podendo navegar pelo app por conta própria. A rede social se tornou famosa justamente por aprender com as interações dos usuários — quanto tempo eles assistem, do que gostam, quando compartilham um vídeo — para criar uma experiência altamente personalizada e imersiva. Os indícios de que se trata de algo perigoso, porém, são cada vez mais evidentes.

Segundo especialistas da área digital, tecnologias desse tipo podem interferir nos estados mentais das pessoas, manipulando suas preferências e comportamentos sem seu consentimento. A possibilidade de desligar o algoritmo seria, portanto, um grande passo para proteger a chamada liberdade cognitiva dos seres humanos – o direito fundamental à autodeterminação sobre nossos cérebros e experiências mentais.

Neste texto, o Nexo explica como funciona o algoritmo do TikTok, o que é liberdade cognitiva na prática e como ela pode ser garantida num mundo cada vez mais dominado por inteligências artificiais.

Como funciona o algoritmo do TikTok

O algoritmo do TikTok é um sistema de recomendação que determina quais vídeos aparecerão na aba “Para você”. Com uma seleção única e personalizável, ele garante que dois usuários nunca verão a mesma exata sequência de vídeos nessa aba de recomendações, mudando o conteúdo exibido de tempos em tempos, baseado nas suas preferências de visualização e até mesmo em como você está se sentindo.

Plataformas como o TikTok costumam manter seus algoritmos em segredo, seja por segurança, seja por se tratar de uma tecnologia proprietária. Mas recentes cobranças de transparência em relação à segurança digital fizeram com que o funcionamento básico da maioria dos algoritmos se tornasse mais conhecido.

Sabe-se, portanto, que o algoritmo de recomendação do TikTok funciona ranqueando os conteúdos exibidos de acordo com três fatores, por ordem de importância:

• interações do usuário com outros conteúdos e contas dentro do TikTok, como seguidores, comentários, compartilhamentos, favoritos, vídeos publicados e vídeos marcados como “Não tenho interesse” ou assistidos até o fim
• informações do vídeo baseadas no conteúdo que você costuma procurar, como legendas, sons, hashtags e efeitos
• configurações do dispositivo e da conta , como preferência de idioma, país, tipo de dispositivo e categorias de interesse que são selecionadas na criação da conta

FOTO: AMIRA KARAOUD/REUTERS

O que muda para o TikTok na Europa

Agora, os usuários europeus poderão optar por não ficarem confinados a páginas e feeds de conteúdos reunidos pelo algoritmo. Isso significa ver vídeos a partir dos seguintes critérios:

• tendências em sua região e idioma
• feed “seguindo e amigos”, de conteúdos de pessoas seguidas
• em ordem cronológica , quase como o Instagram antigamente.

Em outras palavras, o critério prioriza o conteúdo popular em sua região, em vez do conteúdo selecionado por sua capacidade de prender a pessoa no app.

A mudança foi uma consequência da Lei de Serviços Digitais da União Europeia. Ela faz parte de um esforço mais amplo para regular a IA (inteligência artificial) e os serviços digitais na região. E também proíbe anúncios direcionados a usuários entre 13 e 17 anos, além de exigir mais informações e opções de denúncia para sinalizar conteúdo ilegal ou prejudicial, por exemplo.

O que é liberdade cognitiva

Para entender o tipo de proteção defendida por regulamentações como essa, é preciso olhar para o problema que elas tentam combater: a ameaça da IA à liberdade cognitiva.

Entre várias definições feitas por especialistas em direito e filosofia, a liberdade cognitiva pode ser entendida como o direito ao controle sobre nossas próprias consciências e processos mentais .

O termo foi originalmente cunhado pelo teórico jurídico e advogado americano Richard Glen Boire, em resposta à crescente capacidade da tecnologia de monitorar e manipular a função cognitiva.

O conceito se baseia em noções clássicas de liberdade. Conecta, por exemplo, a ideia do filósofo e economista inglês John Stuart Mill, de liberdade como algo necessário para o progresso moral da civilização, à clássica visão liberal do também filósofo inglês John Locke, de direitos naturais à autopropriedade e ao autogoverno.

Na era da inteligência artificial, a liberdade cognitiva inclui o direito de acessar e usar tecnologias que interferem em nosso cérebro, se assim decidirmos – como um algoritmo altamente sugestionável. Mas essa relação precisa ser consensual .

Para Nita Farahany, professora de direito e filosofia da Universidade de Duke, nos EUA — uma das maiores especialistas em liberdade cognitiva —, à medida que os conteúdos gerados por máquina ficam mais sofisticados e persuasivos , os seres humanos precisam se tornar cada vez mais conscientes sobre como sua capacidade cognitiva pode ser explorada e manipulada. A acadêmica já defendeu que a liberdade cognitiva deveria ser um direito humano universal .

Um novo direito humano num mundo de IA

Proteger a liberdade cognitiva se tornou tarefa urgente para diversas entidades. A proposta de Lei de IA da União Europeia oferece algumas proteções contra a manipulação mental. A abordagem da Unesco (agência das Nações Unidas para a infância) centra-se nos direitos humanos . A OCDE (Organização para Cooperação e Desenvolvimento Econômico) incorporou a liberdade cognitiva em seus princípios para a governança responsável de tecnologias emergentes.

A maioria das leis e propostas, por enquanto, se concentra em temas como privacidade ou proteção de dados. Em outro artigo, Fahrany defendeu que um plano bem estruturado de proteção à liberdade cognitiva requer uma combinação mais complexa de regulamentações, incentivos e reestruturações comerciais.

“Os padrões regulatórios devem reger os modelos de engajamento do usuário, compartilhamento de informações e privacidade de dados”, disse a professora. “Fortes medidas legais devem estar em vigor contra a interferência na privacidade e manipulação mental. As empresas devem ser transparentes sobre como seus algoritmos funcionam e têm o dever de avaliar, divulgar e adotar medidas contra influência indevida.”

As empresas de tecnologia também têm adotado princípios de design que levam em conta a liberdade cognitiva. Além das configurações ajustáveis no algoritmo do TikTok, surgiram nos anos recentes iniciativas como um controle maior sobre as notificações, rótulos para avisar se conteúdos foram gerados por humanos ou máquinas e pedir aos usuários que se envolvam criticamente com um artigo antes de compartilhá-lo .