Esta notícia talvez tenha passado batido por você. Afinal, tem ao menos quatro guerras em curso no mundo, assassinato do empresário em Interlagos e muitas outras coisas acontecendo que é bem fácil não ter percebido que a “Inteligência Artificial” do WhatsApp compartilhou o número de telefone de um usuário com outra pessoa que estava quilômetros de distância.
A notícia saiu no The Guardian e conta a história de um camarada que estava numa estação de trem na Inglaterra esperando o trem chegar para embarcar só que o trem não aparecia. Então ele teve a brilhante ideia de pedir para a IA do WhatsApp se ela sabia do contato da empresa responsável e, pimba. A “inteligência artificial” cuspiu para ele um número. Só que não era um número da empresa, mas sim o número de outro usuário do WhatsApp.
Quando o cara recebeu o número achou estranho e a IA tentou desviar do assunto. Ou seja: a IA sabe que fez besteira. Pelo menos isso.
Quando o usuário perguntou sobre o erro, a IA respondeu que forneceu a resposta com base em padrões. Perguntada novamente, admitiu que pegou o número do usuário em um banco de dados.
Acho que pode ser bem legal ler a matéria que saiu sobre o assunto ontem no The Guardian. Lá tem uma série de depoimentos de desenvolvedores que falam não ser a primeira vez que um tipo de erro desses acontece e que este tipo de erro é interessante (do ponto de vista da teoria por trás da coisa).
Só que eu gostaria de ir um pouco além, aqui. Acho que o ocorrido é uma manifestação que ainda veremos muito. Dados que estas ferramentas coletam sendo divulgados equivocadamente para pessoas que não tenham qualquer relação com o que foi coletado.
Uma coisa é importante e precisamos ter sempre em mente: tudo o que se compartilha com uma ferramenta deste tipo (seja a do WhatsApp ou qualquer outra) será usado para que ela aprenda mais um pouco. Então a gente tem que ter muito cuidado com as coisas que coloca em caixas de texto e com os arquivos que fornecemos a elas para que elas “nos ajudem”.
Se de caso de pessoas usando estas ferramentas para fazer atas de reuniões sigilosas de empresas. Isso é perigosíssimo porque deixa-se a ferramenta “ouvir” uma reunião em que várias pessoas participam, não necessariamente dando autorização. A IA, além de aprender com as vozes, pode aprender detalhes sobre a empresa que nenhum dos participantes gostaria que fossem divulgados a terceiros.
O caso que aconteceu na Inglaterra nos evidencia que não existe qualquer garantia de que isso não vá acontecer.
As plataformas algoritmicamente operadas não estão interessadas em conectar pessoas e muito menos em te ajudar. Elas querem o seu tempo para te mostrar anúncios altamente personalizados e direcionados.
Hoje, mais cedo, estava rolando a tela do LinkedIn. Topei com um conteúdo que me despertou o interesse. Havia sido postado por uma pessoa que não está em meus contatos e nem é uma conexão. Iniciei um comentário porque gostaria de desenvolver uma conversa com a pessoa que postou o conteúdo. Antes de completar o comentário, precisei alternar a aba para buscar uma referência.
Nesse espaço de tempo, chega um alerta de um problema para resolver rapidamente no aplicativo de mensagens. Quando terminei o problema, localizei a referência e voltei para a aba do navegador onde estava o meu rascunho de comentário do linkledIn para finalizar, indicando a referência, eis que o LinkedIn achou por melhor recarregar e eu perdi este conteúdo para sempre.
Isso acontece muito em qualquer plataforma. Instagram, TikTok, LinkedIn.
O produto é desenhado para mostrar a maior quantidade possível de conteúdo (e, de quebra, anúncios) para os usuários. Mais tempo de tela, mais conteúdo, mais anúncios altamente direcionados. Likes, comentários e compartilhamentos não são pensados para aproximar pessoas, mas sim para indicar para os sistemas qual tipo de conteúdo te interessa para que a plataforma te mostre mais.
Eu uso Linux Mint em meus dois computadores. De vez em quando, no Laptop eu encontro um problema. Não sei bem o que causa, mas aprendi a me virar quando acontece.
Descrevendo o problema: de quando em vez acontece de eu estar usando o meu sistema normalmente e daí percebo que algumas coisas param de funcionar. Clico em elementos e eles não respondem, ou o menu principal do Mint fica com uns caracteres estranhos ao invés dos textos, enfim… a solução é reiniciar. Daí quando eu reinicio, sou recepcionado por esta tela (que em outras vezes, aparece já ao ligar o sistema)…
Este é o BusyBox me recepcionando falando que não conseguiu iniciar o sistema. Aprendi com o tempo que a solução é muito simples. Para dar início à solução, basta eu pedir para que o BusyBox saia desta tela. Para fazer isso é só eu digitar exit e [enter].
Quando eu peço para sair, o sistema tenta executar a saída mas encontra um erro. O legal é que agora o sistema me informou o que está acontecendo: uma partição do meu disco de inicialização está com erros e precisa ser checada/corrigida. Perceba que ao final da mensagem de erro, o sistema me fala o que precisa ser feito: eu preciso rodar manualmente o comando fsck na unidade /dev/nvme0n1p2. E é isso que eu faço. Para tanto, eu digito fsck /dev/nvme0n1p2 e [enter], como exibido abaixo.
O sistema começa a correção, perceba que ele me faz uma pergunta. para aceitar a correção, basta teclar Y para responder cada pergunta que ele fizer (ele costuma fazer algumas) ou então A para já aprovar qualquer pedido que ele venha a fazer no processo.
Uma vez que todas as correções são feitas, eu volto para aquele estado inicial do initramfs. Daí é só pedir novamente para que o sistema me tire dali (teclando exit e [enter] e tudo se resolve.
Como você enxerga a evolução do engajamento nas redes sociais ao longo dos últimos anos, especialmente com o crescimento das plataformas digitais e novas ferramentas de interação?
Eu entendo que por engajamento estamos nos referenciando à possibilidade de as pessoas iniciarem conversas entre si e com marcas e à possibilidade de marcas também fazerem isso com pessoas ou grupos de pessoas. Certo?
Acho que isso é uma coisa muito legal que a internet proporciona para o coletivo e que as plataformas sociais ajudam a tornar ubíquo. Entretanto, há que se considerar a relação de dependência que pode ser construída para com as plataformas. Pensando com a mentalidade de um publicitário, enxergo isso com um pé atrás. A gente tem se acostumado tanto a nos comunicarmos por meio de plataformas fechadas e controladas por empresas que eventualmente isso pode ser ruim, caso estas empresas resolvam mudar algumas regras do processo para maximizar seus ganhos.
Como você avalia o impacto do engajamento dos brasileiros nas redes sociais nos últimos anos?
Complementando o que disse anteriormente, eu vejo isso de uma maneira inicialmente positiva.
Obviamente o receio nasce quando as coisas começam a sair do controle. Observando do ponto de vistas de um publicitário que trabalha a gestão de marcas nestes ambientes, é importante que a gente tenha canais de comunicação com os consumidores mas que não fiquemos reféns destes canais.
Já pensando do lado do cidadão, o aumento e a prevalência das interações acontecendo por meio de plataformas não necessariamente é algo sempre positivo. As plataformas podem proporcionar acesso e alcance à pessoas que vivem isoladas, que estejam distantes fisicamente de seus interlocutores e outras situações em que suas vozes dificilmente seriam ouvidas ou seus discursos percebidos. Por outro lado, se a gente for olhar a média de tempo que ficamos conectados às plataformas e – principalmente – o que coletivamente fazemos lá, daí é para ficar um bocado preocupado porque vemos que as pessoas em boa parte optam por apenas consumir passivamente conteúdo e pouco interagem ou mesmo refletem criticamente sobre o que chega.
Esta questão é um tanto quanto preocupante. Veja bem: Passamos os últimos 70 anos sendo bombardeados pela mídia de massa com mensagens que não permitiam uma resposta individual ou coletiva por parte da audiência em condições iguais de formato e alcance. De repente a gente agora tem um monte de ferramentas que nos capacitam a fazê-lo. Isso inicialmente é ótimo. Todo mundo agora tem poder de se transformar em emissor. Só que durante os 70 anos que fomos bombardeados pela mídia de massa, pouco se desenvolveu a capacidade crítica e avaliativa de observar criteriosamente aquilo que chega.
Então, agora a gente tem um ambiente caótico em que circulam mensagens em todas as direções das mais diversas origens e estamos apenas rolando telas coletivamente refletindo pouco ou quase nada sobre aquilo que aparece para a gente ver.
Como é o comportamento do público brasileiro nas plataformas digitais de redes sociais?
Não acredito que existe uma diferença muito grande entre o comportamento de brasileiros e de pessoas de outras nacionalidades a ponto de ser algo que cause distinção. O que se percebe, normalmente, é que existe uma tendência a nos agruparmos em conjuntos de pessoas com pensamentos semelhantes em comunidades digitais. Isso pode ser bem interessante. Entretanto, a natureza dos modelos de negócio das plataformas as leva a desenvolver formas de nos apresentar apenas conteúdos referentes àquilo com o que concordamos ou que, de acordo com os cálculos das plataformas, temos maior probabilidade de gostar. Assim acontece a manipulação algorítmica que proporciona o que autores como Zeynep Tufekci, Byung-Chul Han, Andrew Keen, Evgeny Morozov e Márcia Tiburi chamam atenção para – cada um com uma posição peculiar – a respeito das dinâmicas que se estabelecem.
Estes autores falam dos malefícios de a gente se relacionar prioritariamente por meio de plataformas indicando que desenvolvemos comportamentos fascistoides, desaprendemos a conversar com o outro e a lidar com ideias diferentes das nossas e nos maravilhamos com aquilo que nos reforça apenas nossos valores já consolidados; tudo isso enquanto clicamos em infinitos anúncios.
O engajamento nas redes sociais tem sido crucial para as empresas no Brasil, principalmente para pequenas e médias empresas. Como as grandes corporações e figuras públicas aproveitam e incentivam esse engajamento do povo brasileiro? Teria algum exemplo recente?
Eu vejo claramente o ambiente híbrido descrito por Manuel Castells em “O poder da comunicação”. Nele, corporações multinacionais, instituições de governo, veículos de mídia, organizações sociais de diferentes portes e indivíduos estão interagindo em múltiplas dinâmicas concomitantes.
As empresas que conseguem estabelecer diálogos com seus consumidores tendem a tirar melhor proveito sempre. Saber ouvir e saber conversar com os públicos é crucial e necessário para a sobrevivência de qualquer iniciativa.
Relativamente recente é o caso de como o Google usou seu poder para direcionar a opinião popular com relação à proposta da PL 2630. Em 2023 o Google colocou em sua página inicial uma chamada para as pessoas lerem e conhecerem (claro, sob a ótica dos interesses comerciais da empresa) sobre os “malefícios” da PL. Este foi um claro caso de uma empresa com muito interesse em ver a atividade de plataformas não passar por qualquer regulação que ameace seus lucros atuar para direcionar a opinião popular. Funcionou; tanto que a PL foi engavetada e a discussão sobre o assunto retrocedeu muito.
Como o comportamento do público brasileiro favorece a disseminação de fake news?
Como disse anteriormente, não apenas o comportamento do brasileiro, mas sim de pessoas em geral. A gente rola a timeline da plataforma e vê uma coisa que se alinha com a nossa forma de pensar. É algo que a gente acha que é bacana, que gosta e que se alinha com as ideias ali presentes. A gente imediatamente compartilha sem olhar mais aprofundadamente de onde veio a informação, não se preocupa em saber quem fez aquilo e nem quais os interesses por trás daquilo. A gente apenas compartilha. Assim a desinformação circula como fogo em mato seco.
Considerando sua experiência acadêmica e profissional, como você vê o futuro das redes sociais no Brasil nos próximos 5 a 10 anos? Que tendências você acredita que marcarão o engajamento digital dos brasileiros
Infelizmente eu não vejo um futuro muito bacana. A eleição de Donald Trump evidenciou que quando um bilionário, como o dono do Twitter, atua, pode influenciar muito mais do que os seus negócios e resultados. Isso deixou outros bilionários mais animados; o que nunca é bom.
Para alinhar-se com a visão propagada por Donald Trump e os ideias que ele diz representar, a Meta já anunciou mudança nas políticas de moderação de conteúdo em suas plataformas. O que temos aprendido ao longo dos anos é que a solução para o problema de disseminação de desinformação não é reduzir as equipes e/ou eliminar políticas de moderação de conteúdo. É justamente o contrário. Assim, as ações já colocadas em operação pela Meta por si só vão causar grande estrago. Como o caminho é o de que outras plataformas sigam essa orientação, não dá muito para ver um futuro bacana nesse aspecto.
Para complementar, iniciativas como a de uma web livre de manipulação algorítmica (como o Fediverso) ainda têm um alcance muito restrito. Enquanto temos mais de 300 milhões de pessoas ainda usando o Twitter, por exemplo, o número de pessoas que usa o Mastodon não chega a 2 milhões. É certo que o número de pessoas que descobre o Fediverso cresce a cada dia, mas ainda está muito aquém das plataformas onde a desinformação corre livre.
Quais os impactos que essa exposição excessiva dos brasileiros nas redes sociais pode gerar na saúde mental?
Resposta curta: os piores possíveis.
A gente já sabe porque isso tem sido evidenciado em trabalhos ao longo dos anos. Em adolescentes a exposição prolongada a telas, especialmente o consumo de informação em plataformas sociais, como evidenciado em um interessante trabalho publicado em 2024 por Matos e Godinho1, os impactos relacionados à saúde mental em adolescentes incluem o bullying no contexto das plataformas e seus impactos, a comparação social negativa por causa da superexposição a postagens de enaltecimento pessoal dos outros e a exposição a conteúdos prejudiciais, que acabam por influenciar as pessoas a desenvolverem comportamentos de autodepreciação trazem impactos negativos na saúde mental dos usuários.
Além deste trabalho, o que o professor Christoph Turcke fala bastante sobre como o uso de telas e o consumo de informações por meio de plataformas na internet pode ser prejudicial para nosso desenvolvimento como pessoas no livro “Hiperativos!”. De forma complementar, as reflexões de Byung-Chul Han em “No enxame”, “Sociedade do cansaço” e “Sociedade da transparência” evidenciam como nossos comportamentos mudaram a partir da adoção das plataformas em nossas vidas. Viver em um contexto de intensa e constante necessidade de performance e evidenciação de nossas vidas privadas a tudo e todos proporcionam desdobramentos graves para nossa saúde mental. As consequências disso já são conhecidas e envolvem a ansiedade, a depressão e baixa autoestima.
O estudo que citei é interessante porque nele os autores fazem uma análise de diferentes publicações que tratam do assunto nas Neurociências e na Psicologia. Para além de estudos como estes, temos as reflexões de Cathy O’Neil, que reflete sobre os impactos do uso de manipulação algorítmica em plataformas que usamos para os mais diversos fins no livro “armas de manipulação matemática”. A autora ressalta a nossa incapacidade de negociarmos individualmente com as plataformas o emprego destas ferramentas nos serviços que usamos. Ou seja: o uso de plataformas sociais comerciais parece implicar aderir a um contexto de manipulação algorítmica que é operado com o objetivo de nos prender nas plataformas pela maior quantidade de tempo possível a fim de proporcionar lucratividade às empresas que controlam estas plataformas a despeito das consequências à nossa saúde mental.
—————————————————————————————————————————–
1 Matos, K. A., & Godinho, M. O. D. (2024). A INFLUÊNCIA DO USO EXCESSIVO DAS REDES SOCIAIS NA SAÚDE MENTAL DE ADOLESCENTES: UMA REVISÃO INTEGRATIVA. REVISTA FOCO, 17(4), e4716. https://doi.org/10.54751/revistafoco.v17n4-035
Ontem estava dando uma aula de projeto para alunos do curso de Publicidade e tratava da busca de referenciais para o desenvolvimento criativo de peças publicitárias. Falávamos da necessidade de buscar referencial para desenvolver as aptidões tanto visuais quanto em termos de redação e texto. Mencionei aos alunos a existência da revista Luerzers Archive, que é um excelente repositório para que interessados em publicidade de todas as épocas busquem inspiração naquilo que a revista seleciona como influente globalmente.
Vale muito a pena explorar este conteúdo e ver que a publicidade pode ser muito mais do que mensagens altamente personalizadas instigando a compra por impulso.
Hoje eu escutei o excelente episódio “As redes da discórdia” do podcast “Ciência Suja”.
Recomendo que você escute e preste bastante atenção nas referências. O pessoal fez um trabalho muito bacana para organizar uma linha de pensamento coerente e que deixa muito fácil de entender de onde vêm parte da influência para o estado de discórdia e conflitos que vivemos.
Chamo atenção para o final do episódio quando o principal narrador faz uma reflexão sobre o antagonismo das “redes sociais”, quando ele recupoera o exemplo de quando seu laptop foi furtado e ele usou da dinâmica de redes que é presente na internet de forma bem prevalente para fazer uma vaquinha e recuperar o $$ para poder comprar outro computador e seguir trabalhando.
Aqui entra o motivo de eu estar escrevendo este post.
Minha questão com a abordagem que se tem tido sobre o assunto encontra um exemplo bem legal do problema que me refiro neste caso que o narrador do podcast fala.
Ele fica pesaroso porque acredita que as redes sociais podem ser bem bacanas (dando o exemplo da vaquinha para a compra de seu computador) e ao mesmo muito prejudiciais (com os vários exemplos que abundam no episódio).
Este antagonismo tem uma explicação clara e é esse exatamente o ponto que vem me incomodando.
As redes sociais são as conexões entre as pessoas. Elas existem desde que a gente (seres humanos) começou a se agrupar e viver em conjunto.
Ao chamar o Instagram, o YouTube, o TikTok e o Facebook de “redes sociais” as pessoas passam a confundir as coisas. Daí o antagonismo retratado pelo narrador do podcast. Ele não precisaria existir.
Facebook, Instagram, TikTok, YouTube e congêneres são plataformas sociais. Serviços de mídia social que têm características de rede, mas não são as redes. As redes são as conexões entre as pessoas que se manifestam nestes lugares. Nos sites de mídia social a gente consegue ver algumas redes, mas as redes extrapolam isso.
Pode parecer apenas uma questão semântica, mas é mais do que isso. pensa comigo…
Quando a gente chama estes serviços de “redes sociais”, estamos atribuindo a eles um poder que não é exclusivo deles. Reunir pessoas é algo que já fazemos coletivamente muito antes da internet. Isso proporciona excelentes consequências e também desdobramentos questionáveis. Já vimos tudo isso na história da humanidade até chegarmos ao século XX.
Foi ao final do século XX que começamos a ver na internet os serviços / plataformas de mídias sociais que exibem listas de atualizações de pessoas em forma de feed e que são montados por meio (primordialmente) de intervenção / manipulação algoritmica. Estes serviços comerciais que tem-se chamado – a meu ver equivocadamente – de “redes sociais”. Estes serviços, no entanto, são apenas espaços em que pessoas circulam conteúdo. Isso não tira deles relevância, mas não os qualifica como “redes sociais”. Chamar estes espeços de “redes sociais” é, nesse sentido, equivocado.
Além disso, a gente desvia o foco daquilo que é realmente prejudicial. A manipulação algorítmica destes serviços visando a maximização do tempo de tela para coleta ostensiva de dados e futura utilização em ações publicitárias altamente direcionadas.
E é exatamente neste ponto que está o problema que é discutido em quase todas as publicações citadas neste meu post e no episódio e, claro, no episódio em si.
Ou seja: o problema não são e nem está nas “redes sociais”. As ligações entre as pessoas nada têm a ver com isso.
O que acontece é que quando a gente adota massivamente plataformas sociais comerciais que visam o lucro e, por isso, manipulam algoritmicamente o que é exibido aos usuários, temos muitos problemas.
As plataformas sociais que não são manipuladas algoritmicamente (como o pixelfed, o mastodon e demais serviços que constituem o chamado fediverso) não têm as características negativas enumeradas no episódio e em publicações como o “máquina do caos”, por exemplo. Isso faz uma diferença danada porque quando as pessoas equivocadamente falam que o problema está nas famigeradas “redes sociais”, aquelas que não têm o feed manipulado por algoritmos acabam caindo no mesmo balaio de malvadezas criado por esta forma de enxergar o problema.
Desde 2019 eu venho testando diferentes bancos. A insatisfação com a instituição que eu estava usando há anos havia crescido tanto que eu, naquele momento, decidi fechar a conta e testar novas soluções. A portabilidade bancária é uma coisa libertadora.
A facilidade de abrir (e fechar) uma conta por um aplicativo ajuda muito no processo de pesquisa e definição de uma instituição bancária a usar. Mesmo que seja muito simples fazer todo o processo, entendo que o ideal é desenvolver uma relação mais duradoura com uma instituição bancária.
Eu testei e tenho testado alguns bancos ao longo destes anos. Já usei vários, mas acabei estacionando em uma instituição das mais tradicionais; daqueles bancos que tem agência. 🙂
Só que eu mantenho uma conta com apenas alguns centavos no Banco Inter pelos motivos mais preguiçosos:
shellbox
estacionamento rotativo
Há algumas semanas tenho me pegado pensando em como me desvencilhar dessa preguiça. Uma coisa me incomoda bastante e está ficando insustentável.
O aplicativo do banco Inter tem uma porção da tela mostrando postagens de pessoas e entidades ligadas ao banco e seus proprietários/controladores. Não há como desabilitar isso. O serviço se chama “Forum Inter”. Pessoal pegando pesado no esforço de influenciar os correntistas.
Eu consigo reconhecer algumas pessoas pelo nome, mas não sei quem são as outras. Imagino que sejam pessoas importantes do banco. Mas o fato é que isso pouco me interessa. Pouco me importa se eles são os donos da CNN ou se têm alguma opinião sobre o Clube Atlético Mineiro. Eu abri este aplicativo para fazer um pix.
Não quero uma dica de clube de investimento e nem saber qual foi o faturamento do banco no último trimestre. Como eu disse, eu quero fazer um pix.
Eu entendo ser este um “produto” que o banco usa para falar de si mesmo, das coisas que se relacionam com o banco e até acato a proposta de uma comunicação direta com o consumidor. Mas…
…tem três coisas que me incomodam profundamente nisso.
A primeira delas é que eu não pedi e nem permiti isso. Como consumidor de um serviço, sinto-me com o poder de escolher o que quero e o que não quero. Isso apareceu pra mim sem que eu quisesse ou solicitasse. Não é uma funcionalidade do serviço bancário e nem nada relacionado a uma. Nesse sentido, sinto-me desconfortável com aquilo na tela.
Eu não pedi e muito menos confio na capacidade de curadoria de conteúdo em forma de postagens curtas (à la twitter) de um banco. O espaço do aplicativo do banco é o espaço de realizar os serviços relacionados à minha vida financeira. E pronto. Este é o tipo de aplicativo que a gente abre, executa o que precisa e fecha. Não quero nenhum outro tipo de distração nesse processo.
A segunda coisa é a falta de controle. Vamos que o banco não abra mão dessa ferramenta. Como ela não é relacionada às transações que eu faço no aplicativo eu poderia simplesmente remover aquilo da minha interface.
Sendo esta porção da tela referente a algo que não é um serviço oferecido pelo banco, eu gostaria de poder simplesmente eliminar aquilo da interface. Mesmo que o banco ache isso a coisa mais legal em termos de comunicação, eu gostaria de poder remover aquilo. Falando em termos de experiência do usuário, esta porção da tela me mostra uma informação que eu não quero e nem pedi para ver. Não é algo relacionado ao serviço oferecido pela instituição; tratase de uma coisa totalmente secundária. Entendo que se houvesse um botão de “remover isso” eu não seria a única pessoa a apertá-lo.
A terceira coisa que me incomoda é o fato de este espaço poder ser usado para um tipo de comunicação e espalhamento de informações que não necessariamente servirão ao meu propósito como consumidor do serviço dessa instituição. Pelo contrário.
Quem diabos é Bernardo Pascowitch e porque o que ele está falando sobre Bitcoin está aparecendo na tela do meu aplicativo de banco quando eu quero apenas fazer um pix?
Quando você não está pagando por alguma coisa, você é o produto
Talvez das três coisas que eu falei acima, a terceira é a que mais me incomoda porque é algo que vai muito além da experiência ao usar um aplicativo. Os impactos podem ser muito mais profundos e marcantes. As consequências podem ser muito mais danosas.
Pensemos que o banco Inter tem mais de 34 milhões de clientes. São 34 milhões de pessoas que abrem este aplicativo quase que diariamente ou às vezes múltiplas vezes ao dia. Cada vez que cada um desses clientes abre o aplicativo, o banco (ou seus controladores) têm a oportunidade de “falar algo” para estas pessoas.
A CNN Brasil, outra empresa que os donos do Inter tem, é uma emissora de televisão que está 24 horas por dia no ar e não tem essa audiência.
Pensemos o que pode ser feito com uma audiência desse tamanho. No caso da imagem que eu coloquei acima, uma pessoa falando sobre Bitcoin tem uma audiência potencial compulsória de 34 milhões de pessoas.
Não é uma pessoa qualquer e muito menos é alguém que eu escolhi acompanhar ou mesmo querer saber o que pensa sobre Bitcoin. Alguém escolheu isso pra mim e está me forçando a ver isso na tela do aplicativo de banco que eu abri quando queria apenas fazer um pix.
O tal Bernardo não é uma pessoa qualquer. O que ele fala traz uma agenda. Não necessariamente é a minha agenda. E é aí que mora o perigo. Ele e todos os outros que aparecem ali são pessoas com várias intenções e as 34 milhões de pessoas que estão potencialmente vendo estas postagens não fazem a menor ideia de quais são essas intenções.
Colocar uma ferramenta/funcionalidade/seção como essa num aplicativo de banco não é algo que acontece por acaso. Não é um tiro no escuro. É algo pensado e planejado e leva em conta (dentre várias outras coisas) o fato de 34 milhões de pessoas potencialmente verem aquelas mensagens diariamente.
Pensando nas potenciais consequências e desdobramentos disso me faz chegar à conclusão de que oferecer serviço bancário gratuito é um baita investimento para o Inter.
Ontem, dia 22 de outubro, a Meta (anteriormente conhecida como Facebook) começou a integrar umaferramenta dessas que estamos convencionando chamar de IA nos grupos do WhatsApp [1].
Ao que tudo indica, chegou a hora de a empresa coletar os dividendos resultantes do investimento feito em quando pagou 22 bilhoes de dolares pelo aplicativo de mensagens em 2014 [2].
Para fins de referência, a Meta pagou um bilhão de dólares pelo Instagram em 2012 [3]. Hoje, 12 anos depois, o Instagram proporciona à meta quase 50 bilhoes de dólares em lucro anual [4].
Era, portanto, de se esperar que a empresa estivesse investindo pesado em formas de lucrar com a compra do WhatsApp. Como comecei falando, parece que este momento chegou.
O potencial sempre foi alto (acho que isso fica claro ao observar o intervalo de tempo entre a compra do Instagram e a compra do WhatsApp e a diferença dos valores pagos pelos dois produtos). Apesar disso, até hoje o WhatsApp não mostrava números de faturamento muito convincentes.
Ainda assim, a empresa sempre apostou muito no aplicativo.
O motivo disso é bem claro: as informações que são trocadas dentro do ambiente do WhatsApp são valiosíssimas. É no WhatsApp que as pessoas vão trocar confidências com quem não está perto. É por ali que você e as pessoas com quem você tem intimidade vão conversar sobre coisas que não querem que o resto do mundo fique sabendo. São em diversos grupos de mensagens privados que funcionários agilizam a execução de tarefas e conversam sobre o trabalho em inúmeras empresas ao redor do mundo. O potencial deste mundo de informações é virtualmente ilimitado. Por isso que quase ninguém estrenhou que por dez anos o aplicativo seguiu gratuiito e gerando muito pouco em faturamento para o Facebook / Meta.
Dados de 2023 mostram que naquele ano, o WhatsApp gerou perto de 1.3 bilhão em lucro [5 ].
Voltando às comparações, isso é quase 50 vezes menos que o Instagram gerou em lucro no mesmo ano. Observando essa diferença e aquela outra referente a quanto cada um dos produtos custou, é de se esperar que a fome da Meta seja grande. Os acionistas devem estar mais do que ansiosos para ver o dinheiro começar a entrar de verdade em retorno pela compra do aplicativo dez anos atrás.
Com as ferramentas de aprendizado em larga escala, chegou a hora da colheita.
Mas aqui cabe um parênteses. Estou falando dessa forma, com a perspectiva de retorno efetivo de investimento começando a acontcer agora em função dos números reportados pelo Facebook / Meta. Há quem pense e insinue que ações de publicidade altamente direcionada no Instagram já estejam usando dados obtidos em conversas no WhatsApp há tempos [6].
Então… a ferramenta de IA no WhatsApp foi anunciada esta semana.
Desde ontem, para mim, os grupos dos quais participo agora tem um membro a mais, a IA da Meta. Isso não parece estar ainda 100% claro para todo mundo. Em meu caso, eu uso o WhatsApp no iPhone e no computador, versão web. Como na versão da web as coisas demoram a aparecer, não é de se estranhar que nada apareça lá durante os próximos dias ou mesmo semanas. No entanto, também não consigo ver nada de forma muito clara no aplicativo de meu telefone. A única coisa que percebo é essa diferença de uma unidade entre o número de pessoas declaradamente presentes num grupo e o numero de usuários que eu conto no grupo. Tem sobrado uma pessoa (a IA da Meta). Ontem, em um dos grupos que participo, algumas pessoas ficaram “conversando” com essa IA. A ferramenta argumenta que basta que retiremos este membro do grupo para que o recurso de IA nao seja usado.
Só que as coisas não são bem assim.
O fato de a empresa ter inserido um componente no grupo a revelia dos participantes é complicado.
Outra coisa a considerar é a assimeteia de poder, muito bem argumentada pela Cathy O’Neil no livro Weapons of math destruction [7]. Quando nós (pessoas) entramos em um grupo de WhatsApp, não temos acesso ao que foi discutido antes de nossa entrada lá. Faz sentido. No emtanto, não sabemos se o mesmo acontece com esta IA da Meta. Da mesma forma que ela guarda em seus servidores todo o histórico das conversas, por qual motivo não daria acesso a esse histórico para a sua ferramenta de aprendizado de máquina? Por via das dúvidas, devemos considerar que esta ferramenta terá acesso a todo o histórico de conversas do grupo. Como disse, por quê ela não teria?
A Meta / Facebook já nos deu mais do que uma vez provas de que não faz exatamente o que fala que faz; lembra do caso do advogado belga retratado no filme “terms and conditions may apply” [8]? Então, mesmo que o dono de um grupo não queira esta funcionalidade e retire a IA, não há qualquer garantia de que todas as conversas anteriores já não tenham sido coletadas e agora abasteçam o aprendizado e os bancos da Meta / Facebook.
Isso é muito grave.
Com os dados de um sem numero de grupos e conversas, a empresa tem em suas mãos uma quantidade de informações inimaginável.
Ações de publicidade altamente direcionada no Instagram e no Facebook é o minimo que podemos esperar como consequência disso.
Entretanto penso que a coisa seja ainda mais grave e o buraco seja ainda mais profundo.
Pense na quntidade de grupos que você participa referentes a trabalho. Se voce trabalha em uma empresa com mais de 50 funcionarios, chances são que muita coisa da gestão da empresa aconteça justamente ali naquela plataforma. Pense nos grupos que envolvem os seus chefes. Pense nos grupos que envolvem os diretores da empresa; os tomadores de decisões.
Tudo o que eles disseram está abastecendo a IA da Meta e não há quem me prove que a Meta já não esteja fazendo isso.
O problema é que agora ficou público; talvez porque verdadeiramente tenha chegado o momento de coletar o retorno pelos 22 bilhões de dólares investidos em 2014.
Então, tão importantes quanto nossos dados e mensagens individuais, pensemos no impacto dessa ferramenta ter acesso a informações da gestão de milhares de empresas. Pense que os gestores, diretores e executivos conversam sobre assuntos delicados nesse aplicativo e a Meta agora formalmente sabe de tudo. No mínimo, saberá de tudo a partir de agora (pisca, pisca).
Tendo conhecimento do histórico e da falta de cuidado que a empresa tem com as informações que coleta, isso e assustador [9].
Não que ela não coletasse dados antes. Isso é bem possível e plausível, visto que ter inserido um novo membro nos grupos sem que ninguém fosse consultado é um indicativo de um comportamento altamente invasivo.
Reforçando, o que é grave neste momento é que isso está às claras.
Ou seja: é bem possivel que dados estejam sendo coletados há um bom tempo.
Mas, então, o quê fazer?
Tão certo quanto o desrespeito à privacidade por parte da Meta é saber que veremos muitos argumentos do tipo “Mas o WhatsApp já sabe de tudo mesmo, que mal faz?!”. Ou então a argumentação de que “já está tudo lá mesmo, não há o que fazer!”. Estes argumentos são preguiçosos e sabemos disso. Devemos lutar contra eles com contra-argumentos coerentes.
Pensemos nessa situação e sua analogia com a de uma pessoa que fuma há alguns anos e descobre um efizema pulmonar. Será que essa pessoa vai reagir com um “Ah, mas agora já estou com este efizema, não preciso parar de fumar!” ou será que ela é aconselhada pelo seu médico a parar de fumar em função disso? Eu acho que a segunda possibilidade é mais plausível. Se a pessoa quer manter-se viva, o ideal é que ela pare de fumar. Não é? Pelo menos é a mudança de atitude esperada. Sabemos já haver um dano, mas isso não significa que porque este dano ja esteja feito que nao exista mais solução. A solucao é parar de fumar.
Outro exemplo: uma pessoa que nunca cuidou da alimentação pode descobrir que tem diabetes antes dos 50 anos. O comportamento esperado é que exista uma mudança de hábitos para tentar parar o avanco da doença. Se a pessoa continuar com estes hábitos, as consequências podem ser a cegueira e amputação de membros. Nesse sentido, pessoas que descobrem que tem diabetes costumam mudar comportamentos.
Então. Tal qual uma pessoa que descobriu um efizema ou recebeu o diagnóstico de diabetes, devemos mudar de atitude. Meu argumento é que devamos evidenciar essa necessidade para todos. Por isso estou aqui.
O tempo que usamos esta plataforma causou um dano. A aplicação dessa IA nos chats é um sinal desse dano. Este dano pode não ser visível agora, mas sabemos que ele vai nos causar problemas em breve se seguirmos com este comportamento. A solução é mudar de comportamento.
Feito o dano, não quer dizer que esteja tudo perdido. A gente deve – como pessoas responsaveis – agir ativamente para impedir que o dano continue / aumente ou nos traga mais prejuízo.
Por isso, o que tem pra hoje é que a gente deve mudar de hábitos. Minha sugestão para o momento é usar o Signal [10].
Você pode ter dificuldade em convencer algumas pessoas, clientes ou colegas de trabalho, mas não deve deixar de tentar. Mude o que conseguir mudar para o Signal.
Note: This is the english version of a previous post written in portuguese
There has been much discussion about Jonathan Haidt’s book “The Anxious Generation.” I have discussed the ideas the author presents here and here. I still believe the text is very important and needs to be worked on/discussed. That’s what I attempt to do in this post.
The book has been among the bestsellers in both Brazil and the United States since its release. I don’t think this is a coincidence. Those involved in the education and upbringing of children, adolescents, and young adults have noticed the impact that interactive digital technologies have provided — whether for better or worse.
I would like to, within this proposal, bring the text into focus and discuss how it is being treated in some places I’ve seen/heard/read about. It’s peculiar that at least four researchers with solid and consistent work on the digital context and adolescent behavior have suggested that the issues raised by the author in his book are mere moral panic; minimizing the impacts of social media and mental health—especially of adolescents. I find it amusing that some of these researchers seem so angry about what’s in his book that they refuse to even mention it by name, yet they refer to the book’s points constantly. Recently, they expressed their views in three different podcasts on this topic, which is quite interesting to observe. You can listen to these episodes here, here, here, and here. The researchers in question are Candice Odgers, danah boyd, Alice Marwick, and Devorah Heitner.
I have read quite a bit of work by all these authors and frequently use texts written especially by danah boyd and Alice Marwick in my classes. What they say carries significant weight and helps me understand the world and the impacts of interactive digital technologies on the lives of children and adolescents. Their comments on Haidt’s text need to be carefully considered, as there are many important criticisms to take into account.
My interpretation, however, is that despite the criticisms, what Haidt addresses in his text needs to be a topic of discussion among parents and educators.
Indeed, we need to view Jonathan Haidt’s statements in perspective and not consider everything in his book as absolute truth or even understand it only as he has stated. We shouldn’t do that with any text by any author, to be clear. However, part of the criticisms from the authors mentioned above relate to the causal relationship Haidt posits between social media use and mental health problems in adolescents. Given the relationship he proposes between social media platforms as causes of observed mental health issues in adolescents, it must be understood that, although there seems to be an evident relationship, it is not necessarily causal.
Look, we—collectively—have had more access to tools, treatments, professionals, and diagnostic apparatus for mental health in recent years. This alone could help explain the increase in diagnoses of conditions related to worsening mental health. However, we need to understand that social dynamics are complex and many things are happening simultaneously. The rise in diagnoses coincides with the widespread adoption of social media platforms, but it also coincides with a series of other global events (wars, climate change, various conflicts, social inequality, injustices of all kinds… the list goes on).
This does not mean that there is no influence.
What I want to say here is that while it is somewhat naive and presumptuous to categorically state that social media platforms or even the emergence and use of smartphones are the cause of mental health problems in adolescents, it cannot be denied that social media platforms do influence our mental health. More on this later.
The main criticisms from the cited authors regarding Jonathan Haidt’s work directly address the point that the correlation and causation relationship he establishes between social media use and declining mental health is weak and there is insufficient evidence that it is the cause of the mental health issues we have observed (this is not speculation); especially concerning adolescents. Even considering the scenario from 2019, emphasized by the author in his arguments. These criticisms are indeed very important, and we always need to be careful not to let facts A and B occurring in the same period be understood as having a causal relationship with each other.
But it is also a fact that we need to always try to understand the general context in which a particular fact fits. What Jonathan Haidt discusses is quite related to what people perceive in their daily lives. Not by coincidence, as I mentioned at the beginning of the post, his book has been widely read around the world.
When I started writing this text on July 9, the book was the second most sold on The New York Times list, having been on the list for 14 weeks. I understand that this reverberation exists because those who are echoing what the author says in the book are seeing things happening. And that’s why I think we need to discuss the book’s topic.
The most eloquent argument that goes beyond the issue of causation relationships indicated by the four authors I mentioned earlier comes from people who discuss the impacts of interactive digital technologies on our lives with a techno-optimistic perspective. I understand this is the case with journalist Taylor Lorenz, who has an excellent podcast on digital culture called “Power User.” One of the referenced talks above was published on her podcast, when she interviewed danah boyd.
Taylor often criticizes Haidt’s text, classifying it as moral panic (danah boyd does the same). I especially recommend this video from Taylor Lorenz on the topic to help build an opinion about it:
Unfortunately, one thing I think is important for helping with the context here cannot be replicated. I was recently browsing Instagram when I came across a post that Taylor Lorenz commented on. Her comment was essentially a plea for us not to collectively agree with Haidt’s argument, which she classifies as moral panic.
As I said—due to the nature of the Instagram platform (which is awful)—I couldn’t locate this post again, which I remember being from a news outlet. What struck me about this example was Taylor Lorenz’s comment and the responses people made to her comment… when I stopped to read the responses, one mother’s comment stood out. It went something like, “Taylor, I know your work and would like to learn more about this because I’m noticing this at home.” Like this, many other responses mentioned that people understood the journalist’s argument but were seeing that adolescents and children in their circles were showing mental health problems or difficulties, not to mention issues related to family dynamics impacted by mobile device use.
What the mother alludes to in her response to the journalist is the decline in young people’s mental health. This is something I’m also noticing in my circles. So, this is an important thing to consider (not just from these two examples, but from the overall context we live in). There are indications that the research mentioned or discussed by Jonathan Haidt may be weak for establishing the causal relationship he proposes in the book. Regarding this, I understand it is accurate.
On the other hand, it must be recognized that we are experiencing serious issues related to social media platforms primarily. These issues are related and have a direct impact on people’s mental health.
So, what I’m saying is that it would be very naive of us not to consider the context of conflict we collectively see, for example, since 2013 in Brazil, and which also gained global proportions in 2016 with the presidential elections in the United States due to electoral periods.
We see what happened in Brazil in 2013 and 2014, which was intense political mobilization through the instrumentalization of social media platforms, and how this brought much more serious collective consequences than just arguing with relatives in WhatsApp groups. Both in the 2018 election and during the pandemic, we suffered collective consequences and developments due to the use of social media platforms, their instrumentalization and political appropriation, and the influence of these platforms on collective behavior.
Therefore, I reiterate, it would be very naive of us to recognize this in collective behavior and political organization in society and collective movements and behaviors around ideological issues in society, and to separate other possible developments, considering that social media platforms do not influence adolescents’ and children’s mental health.
I think it is an absurd naivety and wonder to recognize how the use of platforms affects our collective behavior and influences political and electoral decisions but to separate the development of children, adolescents, and young adults from this context. We are observing this in the world around us, which is why I think we need to put Jonathan Haidt’s reading into perspective, looking at it critically, but also acknowledging that social media platforms and communication tools mediated by digital technologies do indeed cause social and individual changes.
Criticisms of what Jonathan Haidt writes should not seek to completely invalidate what he is documenting. What is necessary is to focus on the unfortunate attempt to establish a causal relationship. This is the real weak point of his argument. However, I do not believe that his considerations on the decline in adolescent mental health and its potential connection to social media are disconnected from reality.
I think it’s important to consider and take into account that impacts related to the use of interactive digital technologies by adolescents certainly exist. However, I also understand that we may not yet have developed the methodological tools necessary to analyze this.
In this sense, I believe that when we have the appropriate methodological apparatus to understand this relationship (social media use/smartphones and mental health), we will see results of this impact. I think we will see this impact manifest in the future.
So, these children who are growing up today with screens in front of their faces all the time and are being educated with TikTok and similar platforms will certainly show consequences of this in their futures. We just don’t yet have the necessary methodological tools to talk about or assess this impact now.
In this sense, it’s interesting to note that it is quite peculiar to look from the perspective of those who were adolescents in the 1980s/1990s and who are now researchers in universities; who had a formation as we were exposed to, and to see arguments that smartphones or social media do not impact adolescent mental health.
We cannot simply say that. Continuing with the techno-optimistic argument that there are no impacts is reckless because we are looking at the impact these elements have on our lives as adults, and the tangible real-world experience is showing us something different.
Finally, I think this note might be useful to organize the argument as follows: we should neither ignore nor dismiss the impact of today’s children and adolescents having their phones in their hands all the time. Declaring the absence of influence from the perspective of someone who has already been formed, who was educated with books and is now an adult, and despite having great difficulty, can identify that the phone needs to be turned off, is too naive. To look at adolescents who are exposed to screens all the hours they are awake and say that this will not impact their mental health is almost a joke.
