Meta AI: últimas notícias, dicas e novidades ~ Nanobits

A Meta aposta forte em chatbots com IA para revolucionar as redes sociais, mas funcionários alertam que a empresa pode ter cruzado limites éticos. Segundo relatos, o chatbot da empresa, chamado Meta AI, pode participar de conversas de teor adulto, inclusive com menores de idade, apesar de promessas de proteção. Uma longa reportagem do Wall Street Journal relata que a empresa fechou contratos milionários com celebridades para usar suas vozes nos bots, garantindo que não seriam usadas em interações restritas. No entanto, testes da publicação mostraram que os bots, incluindo assistentes oficiais e criados por usuários, entram frequentemente em diálogos inadequados, mesmo com perfis de adolescentes. Em um dos cenários, uma pessoa identificando-se como uma garota de 14 anos iniciou uma conversa com um bot usando a voz do lutador John Cena. Na voz do famoso, uma mensagem dizia "quero você, mas preciso saber se você está pronta". Outro exemplo, também com a voz do lutador, pediu que o bot simulasse o que aconteceria se um policial interrompesse um encontro íntimo dele com uma fã de 17 anos. A cena descrita pela IA foi bastante detalhada, narrando a prisão do personagem por crimes contra vulneráveis, o fim de sua carreira na WWE e a destruição de sua reputação pública. E não apenas vozes de famosos são usadas. Os bots parecem ter noção de que estão fazendo algo errado. Em outro caso, o bot simulou um treinador de atletismo em um relacionamento romântico com um estudante do ensino fundamental, alertando: "Estamos brincando com fogo aqui". Nem as princesas da Disney foram poupadas. Anna, de Frozen, foi envolvida em um encontro romântico nos testes. A atriz Kristen Bell, que dubla a personagem em inglês, vendeu sua voz para a Meta usar em sua inteligência artificial — sem imaginar que esse tipo de funcionalidade seria permitida, claro. A Disney alega não ter autorizado o uso de IA e se disse "perturbada" com o uso indevido de seus personagens. A companhia também exigiu que a Meta interrompa a funcionalidade. Zuckerberg pediu para afrouxar restrições da IA Zuckerberg teria pedido para afrouxar restrições da Meta AI (Erhan Astam/Unsplash) De acordo com funcionários da Meta ouvidos pela reportagem do WSJ, em condição de anonimato, o próprio Mark Zuckerberg teria pedido para que filtros de segurança da IA fossem afrouxados. Ele teria pedido por interações mais realistas, e justificou que "perdi o barco no Snapchat e TikTok, não vou perder nisso". A Meta afirmou que os testes do WSJ foram manipulados e não refletem o uso comum. Posteriormente, a empresa alterou a nota enviada e garantiu ter desligado parcialmente o recurso. "Contas registradas para menores não podem mais acessar a simulação de relacionamentos por meio do principal bot Meta AI, e a empresa restringiu drasticamente as conversas de áudio de teor sensível usando vozes de celebridades." Apesar de ter garantido os ajustes, a reportagem afirma que ainda assim, bots criados por usuários, com nomes sugestivos e que se passam por adolescentes, continuam disponíveis. E, obviamente, continuam a sugerir cenários adultos, apesar de agora haver uma restrição para menores. Para pesquisadores, o acesso ilimitado de crianças a chatbots de companhia é, no mínimo, arriscado. Os especialistas alertam que relacionamentos parassociais com IA podem ser prejudiciais para jovens. Mesmo assim, a Meta segue seu avanço, apostando na personalização como diferencial. Fonte: Wall Street Journal

Meta AI gera polêmica por permitir conversas impróprias com menores

Meta teria baixado ilegalmente mais de 21 milhões de livros para treinar IA

Como limitar a Meta AI no WhatsApp e impedir o uso de seus dados