A Meta, empresa dona do Facebook, lançou um app individual para seu chatbot Meta AI (lê-se “méta êi-ai”, ok) e agora tem um pesadelo de falta de privacidade em mãos. Aparentemente, usuários compartilham algumas de suas conversas sem sequer saber o quão públicas elas se tornam.
O caso foi revelado pelo site TechCrunch. A jornalista Amanda Silberling acordou um dia e viu na aba Discovery do aplicativo o áudio de uma pessoa perguntando o motivo para alguns puns federem mais que outros. Até aí tudo bem, não há nada de mal em alguém compartilhar algo desse tipo, pois pode ser uma informação interessante para muita gente.
Mas o problema é muito mais embaixo. O app Meta AI permite que as pessoas compartilhem suas conversas com o chatbot nas redes sociais, mas não deixa isso muito claro. Isso faz com que algumas pessoas compartilhem perguntas muito privadas, algumas com dados sensíveis, sem nem saberem que seus amigos e familiares — além de outras pessoas — leiam aquilo.
Ao se cadastrar no Meta AI, muita gente usa a mesma conta do Instagram. A conexão é feita automaticamente, e ao compartilhar um prompt no chatbot, ele vai parar na rede social. Pior ainda se você também tem uma conta no Threads, porque pode ser replicado lá, também. E o botão de compartilhamento não é muito claro sobre isso.
E tem a questão do tipo de publicação que é compartilhada. Muitas são inofensivas. Uma imagem de Mark Zuckerberg grávido e se casando com um inseto não tem grandes implicações, mas também não é algo muito esperado de ver um conhecido pedir a um chatbot. Mas há exemplos que são um pesadelo de privacidade para os usuários do app.
Por exemplo, foram encontrados prompts que pediam ajuda contra sonegação fiscal, possibilidade de prisão de membros da família de alguém considerado culpado por crimes de colarinho branco e até como escrever uma carta de recomendação de uma pessoa que enfrenta problemas legais. Só por aí, já dá para ver que essas conversas são suspeitas, mas piora: nome e sobrenome dos envolvidos aparecem na conversa.
A especialista em segurança Rachel Tobac encontrou vários outros exemplos problemáticos. Em uma longa lista publicada em sua conta no X/Twitter, ela fala em pessoas que compartilharam o endereço de suas casas e até detalhes sensíveis de processos. E é claro que ainda não chegamos ao fundo do poço: tem até pedidos por fotos de crianças sem roupas.
“Receita para o desastre”
A jornalista do TechCrunch explica com todas as letras o grande problema de privacidade que é um chatbot IA ter compartilhamento facilitado das conversas. E ainda cita duas empresas semelhantes que, em um caso, sempre evitou esse tipo de pesadelo, e outra que tentou compartilhar pesquisas de seus usuários e viu tudo dar errado.
Grande parte disso poderia ser evitada se a Meta não tivesse lançado um aplicativo com a ideia maluca de que as pessoas iriam querer ver as conversas das outras com a IA, ou se alguém na Meta tivesse previsto que esse tipo de recurso seria problemático. Há uma razão para que o Google nunca tenha tornado seu mecanismo de busca em um feed de mídia social — ou porque a publicação da AOL de buscas dos usuários sob pseudônimos em 2006 deu tão errado. É uma receita para o desastre.
O problema só não é maior porque o app Meta AI não conquistou tanto assim os corações das pessoas. O app só foi baixado 6,5 milhões de vezes desde seu lançamento, em 29 de abril, segundo a Appfigures, empresa que estima as instalações feitas por aplicativos disponibilizados na App Store e Play Store. As próprias lojas divulgam números redondos, como “mais de 1 milhão de downloads”.
Parece um número grande, mas não para uma desenvolvedora tão popular quanto a Meta. Instagram e WhatsApp estão constantemente nas listas de apps mais baixados no Brasil e no mundo, com número muito maiores que esses. O ChatGPT ultrapassou 100 milhões de instalações só em abril, segundo outra empresa de análise de downloads em lojas de aplicativos, a AppMagic.
A Meta foi procurada pela publicação, mas recusou-se a comentar. O app Meta AI não está disponível no Brasil, no momento.
Gostou do conteúdo? Conta pra gente nos comentários, fique à vontade para deixar sua opinião (com bom senso e respeito, claro). Não esquece de seguir o perfil do Nanobits no Bluesky, Instagram, Twitter, Telegram e o canal no YouTube. Você também pode seguir a página no Facebook, o canal no WhatsApp e participe de nosso grupo de conversas.
Fonte: TechCrunch