CURTASFUTUROJeff Orlowski: "Plataformas criaram um sistema que explora humanidade"

Siga-nos

futuro#Cultura

Jeff Orlowski: "Plataformas criaram um sistema que explora humanidade"

Texto por Felipe Paiva
#Cultura5 de abr. de 2112 min de leitura
Texto por Felipe Paiva5 de abr. de 2112 min de leitura
  • As plataformas deveriam rever seus modelos de negócio para que as redes sociais sirvam ao público, e não aos anunciantes.
  • O colapso do nosso ecossistema de informação causado por essas plataformas terá consequências duradouras.
  • Orlowski não culpa os fundadores, mas afirma que as plataformas precisam responder pelo poder por elas acumulado. 
  • "Os pontos de não retorno que adotarmos nos próximos anos vão determinar o futuro das plataformas e da civilização".

Nesta entrevista, o diretor do documentário O Dilema das Redes (The Social Dilemma/Netflix), Jeff Orlowski fala sobre como as plataformas de tecnologia criaram, mesmo que involuntariamente, produtos que acabaram servido ao Capitalismo de Vigilância, especialmente a partir do seu modelo de negócio. Para ele, trata-se de um problema para ser resolvido por uma geração através de uma abordagem interdisciplinar - tal como os problemas climáticos. 

O que você tentou dizer com o filme?

A gente começou este projeto em 2017 e 2018 quando comecei a conversar com um grupo de ex-funcionários do Google, Facebook, Twitter, Instagram e YouTube. Eles estavam revelando os problemas que eles viram com o modelo de negócios dessas empresas. Os problemas que as tornaram capazes de crescer tanto, a ponto de se transformarem nas empresas mais ricas da indústria na história. 

O que nós vimos é que havia um sistema inteiro criado não para servir à humanidade, mas para explorá-la. Essa é a ideia do Capitalismo de Vigilância, onde nós, o público, nos tornamos a matéria-prima que está alimentando as máquinas e gerando enorme lucro. Por meio dessa perspectiva, nós tentamos explorar as inúmeras consequências que vimos surgirem dessas plataformas. 

Você acha que mudar o modelo de negócio dessas plataformas pode ser uma solução?

Existem inúmeros problemas nas empresas de tecnologia. O problema sobre o qual nós jogamos luz foi o modelo de negócios, que não está alinhado com as necessidades humanas. A meu ver este é o ponto de partida para resolver isso. O primeiro passo seria as empresas de tecnologia redesenharam seus modelos de negócios para que eles sirvam a nós, o público. Nós sustentamos o negócio. E não anunciantes e manipuladores, que tentam influenciar a maior rede de interação de pessoas no planeta. Isso resolverá todos os problemas? Claro que não. Mas resolverá os problemas fundamentais. 

Eu faço frequentemente analogia com o ambientalismo. As indústrias petrolíferas descobriram uma maneira incrível de prover recursos para o planeta. Muitos anos mais tarde, a gente descobriu que havia grandes consequências por causa disso. 

Mas, no capitalismo industrial, há uma imensidão de problemas. A mudança climática é somente um. E, na minha opinião, ela é a maior de todas as nossas representações dos problemas ligados ao meio ambiente. Mas isso não resolve tudo. A gente precisa ser capaz de consertar esse sistema, de resolver os seus maiores problemas e os problemas fundamentais. Como a gente pode resolver todos esses problemas? Através de um pensamento interdisciplinar.

Será um grande desafio reconstruir as empresas de tecnologia e as redes sociais para que elas beneficiem a sociedade. É como com as mudanças climáticas: se a gente parar de emitir carbono hoje, ainda viveremos suas consequências durante muitos anos no futuro. 

O colapso do nosso ecossistema de informação causado por essas plataformas, terá consequências duradouras nos próximos anos. Mesmo assim, a gente precisa começar a descobrir como nós vamos reconstruir essas plataformas, e como nós faremos isso de maneira que elas realmente sirvam às necessidades da sociedade.  

Ao mudar o modelo de negócio para assinaturas, por exemplo, diminuiria bastante o número de usuários dentro dessas plataformas. Esse seria um dos dilemas abordados pelo documentário?

Com certeza, acho que é um grande desafio. Aí está o dilema: como podemos superar esse modelo explorador e extrativista? A popularidade e o valor dessas empresas se baseiam em premissa falsa e insustentável.

Voltando à analogia ambiental, sabemos que não podemos continuar com esse status quo para sempre. Os sistemas ambientais estão quebrando. Estamos vendo isso em todo o planeta. Então, quais são as características de uma tecnologia regenerativa? Como tecnologia deve ser para que ela nos ajude a melhorar a coesão social, o discurso público e a forma na qual nos relacionamos com outras pessoas em nossas comunidades? Essa seria a esperança. 

Não culpo os fundadores das plataformas pelo que eles criaram. Em muitos casos, é uma consequência involuntária do enorme sucesso inesperado do sistema que eles construíram. O Twitter foi fundado como um projeto de arte. Quem iria imaginar que ele se tornaria uma plataforma de distribuição de notícias e informações em todo o mundo? Mas temos que reconhecer que as plataformas precisam responder pelo poder por elas acumulado. É isso que queremos promover com esta conversa.

No documentário, você diz que algumas pessoas não estão programando apenas aplicativos, mas estão programando a civilizaçã humana. Como chegamos a isso e o que  que isso significa?

Um pequeno número de designers dessas plataformas de mídias sociais tem um poder enorme sobre a forma como bilhões de pessoas vivem. Embora seja difícil de perceber, é o que está acontecendo. Se você está se relacionando com um feed de notícias oriundo do Twitter, Facebook ou Google, você está sendo alimentado com uma história específica em uma visão de mundo específica que foi reforçada ao longo dos anos que você utilizou essas plataformas.

No filme, usamos este exemplo. Se você pesquisar a frase "mudança climática é" e verificar os resultados que aparecem. Esse exemplo pode ser aplicado a muitos problemas diferentes, mas ele mostra que as pessoas obtêm resultados personalizados com base em suas pesquisas, em quem são, em seu histórico e onde estão localizados no planeta.

Nós temos existido dentro de um mundo cuja realidade vem sendo distorcida por essas plataformas por um período considerável de tempo. Nenhum dos programadores pretendia quebrar um senso de verdade, fraturar a democracia e o nosso ecossistema de informação. Isso não era um objetivo. Mas a busca para melhorar o engajamento e o modelo de negócio, bem como para incrementar o crescimento algorítmico do sistema - para que o sistema use técnicas para crescer por conta própria - gerou essa cascata de consequências que eles nunca previram.

Larry e Sergey, os fundadores do Google, escreveram em sua tese de doutorado que não achavam que um motor de pesquisa seria melhor servido se fosse construído em torno de um modelo de negócios baseado na publicidade. Isso corromperia o motor de pesquisa. Foi isso que eles começaram a desenvolver na faculdade. Mais tarde, depois de construírem sua empresa, eles se viram em dilema financeiro em função do estouro da bolha dos ponto com. Então, precisaram arrecadar dinheiro e decidiram por um modelo de publicidade.

Esse foi o início dessa transição gigantesca. Uma mudança que começou com o Google e se alastrou para Facebook, Twitter e outros. Foi quando se deu a construção dessas enormes plataformas a partir de um modelo de negócio fundado em incentivos errados para a humanidade. Soava inocente no início, mas mas quando você tem metade a população mundial conectada e recebendo informações por meio dessas plataformas, quando essa é a maneira pela qual as pessoas enxergam o mundo, nós passamos a ter consequências.

Pela sua experiência, a opção de regulamentação dessas plataformas é viável?

Certamente. Nós precisamos de algum tipo de mudança. Essa mudança vai vir, ou das próprias empresas, entrando em algum acordo para redesenhar o modelo de negócio e as plataformas que elas criaram, ou, se elas não fizerem isso, não haverá outra opção além de regulamentação. Eu não sei como essa regulamentação vai ser, isso está além da minha compreensão, mas as pessoas estão falando, trabalhando e imaginando o que seriam regulamentações significativas. 

O que você pensa sobre a crítica de os whistleblowers terem usado o sistema para enriquer e hoje, já fora dele, o criticam?

Entramos em contato com muitas pessoas diferentes, que trabalham na indústria de empresas de tecnologia. Ex-funcionários de Google, Facebook, Twitter, Instagram, Apple. Cada um tem a sua própria história sobre o que fizeram nas empresas, as mudanças que, muitas vezes, tentaram trazer para dentro da empresa e que não deram em nada, e, em muitos casos, a necessidade de falar publicamente sobre isso. Eu acho que é muito desafiador para alguns deles falarem publicamente. Foi muito difícil conseguir com que algumas pessoas dessas empresas falassem. 

Então, existe um grande desafio para entender que tipo de mudança é possível. Em muitos casos, esses funcionários tinham limitações a respeito do que poderia ter sido feito. Existe um conceito em engenharia da computação chamado ‘vício inerente’ cujo significado é: mesmo conhecendo um problema de algum código em desenvolvimento, vai-se em frente porque é a melhor opção. Você entende que está construindo um sistema com um vício inerente. Eu acho que é esse o caso desse modelo de negócio. Eles construíram algo que cria tal valor monetário para acionistas e pessoas envolvidas que é quase impossível se livrar disso.

E eu acho que é esse o desafio que vários desse ex-funcionários estão passando. Eles não sabem o que fazer ou como serem ouvidos para estimular mudanças.

Você tem perfis nas redes sociais? Mesmo que falsos?

Eu não tenho perfis falsos em nenhuma rede social. Eu era extremamente viciado. Estava nas redes o tempo todo. Foi durante essa experiência, quando comecei a falar com esses ex-funcionários, que eu me dei conta do que estava acontecendo comigo. Eu estava sendo usado e manipulado.

Foi através desse processo que eu senti enojado, senti que não queria estar envolvido, que não queria tomar parte daquilo, não queria ser usado pelo sistema. Quando começamos a trabalhar no filme, eu me desconectei das mídias sociais. Agora eu não as uso nunca. Eu realmente me retirei totalmente dessas plataformas. 

Ironicamente, com o lançamento do filme, eu passei mais tempo recebendo de pessoas coisas do tipo “Olha nesse tweet o que alguém disse", "Olha o post que alguém fez”, “Veja aqui no TikTok o que alguém fez a respeito do filme”. Então eu tive a curiosidade de checar esses posts, mas eu não participei de nenhum deles.

Eu também instalei uma coisa chamada Erradicador de Feed de Informação (News Feed Eradicator), um plugin que você pode baixar. Ainda que eu vá a facebook.com ou twitter.com, o feed literalmente não estará lá, não haverá nada sendo mostrado, nenhum conteúdo, nada para navegar.

Como está sendo ficar fora das redes sociais?

O processo de sair das mídias sociais aconteceu enquanto estávamos fazendo o filme. E eu estava em um período criativo e produtivo muito intenso da minha vida. Eu precisava pensar no que eu queria dizer, como iria dizer, passando meses, anos pensando em pontos e argumentos que traríamos para o filme. Foi durante esse processo que eu pude sentir diretamente como certas notificações estavam me distraindo, ou quando as coisas estavam tentando atrair a minha atenção, ou ainda o número de vezes em que você está vendo um vídeo no YouTube, e ele te leva poço sem fundo, fazendo com que horas e horas simplesmente desapareçam.

Eu entendi o quanto improdutivo aquilo era para o que eu estava tentando realizar. O processo de me retirar dessas plataformas me deu mais saúde mental na minha relação com a tecnologia, e também liberou esse incrível tempo criativo para fazer o filme.

Você recomenda ações ou mesmo aplicativos para ficar mais protegido desse tipo de vigilância?

O que a gente tem percebido é que tanto a indústria quanto os argumentos que vieram à tona nesses últimos anos são complexos. Há muitos argumentos grosseiros envolvendo mídias sociais, economia da atenção, ecossistema de informação e Capitalismo de Vigilância - esse grande guarda-chuva, onde nossos dados estão sendo observados, coletados para nos explorar, para gerar lucro a partir do nosso comportamento. E isso vai bem além dos argumentos mostrados no filme. O mais importante é estar consciente sobre quando dados são coletados e usados e para qual propósito. E se eles estão servindo ao seu propósito ou não.

Talvez seja simplificar demais, mas há uma frase que eu uso no filme que diz: “Se você não está pagando por um produto, então você é o produto”. E eu sou cético com relação a qualquer app que eu possa baixar de graça e que esteja usando publicidade, ou que não deixe claro como estão usando meus dados. Eu me tornei cada vez mais consciente sobre os apps que estou usando, quais permissões estou lhes oferecendo. 

Eu muitas vezes deletei os apps que não estou usando. Mesmo que seja por uma simples geolocalização de dados que estamos constantemente oferecendo para os apps. Por que certos apps precisam ter a minha geolocalização todo o tempo? Então há todo esse movimento, só entrando no argumento da privacidade, que é muito focado em privacidade de dados e direitos de dados. Direitos Digitais são Direitos Humanos.

Eu creio que seja a grande questão dessa década e da nossa geração. Os pontos de não retorno que adotarmos nos próximos anos vão determinar o futuro das plataformas e da civilização.

#Cultura
Poder
Netflix
Jeff Orlowski
Redes sociais
Google
Facebook