Cuidado com Golpes usando IA

Diversas ferramentas utilizam Inteligência Artificial para gerar imagens e vídeos de maneira fácil, com uma simples descrição em uma caixa de texto. Essas ferramentas estão evoluindo continuamente, tornando cada vez mais difícil a distinção entre conteúdos gerados por elas e imagens reais. 

Pessoas mal-intencionadas se aproveitam dessa tecnologia para tentar aplicar golpes. Uma das técnicas utilizadas é o deepfake, na qual imagens e vídeos disponíveis publicamente são usados para gerar conteúdos se passando por outras pessoas. Geralmente tentam se passar por familiares, amigos, autoridades, executivos de empresas ou pessoas famosas. 

Um golpista pode, por exemplo, criar um áudio imitando a voz de um familiar e enviar uma mensagem pedindo dinheiro. Também pode produzir um vídeo falso de uma pessoa famosa divulgando uma informação ou recomendando um produto que ela nunca recomendou. Quanto mais informações sobre essa pessoa estiverem disponíveis publicamente, mais referências podem ser utilizadas para criar conteúdos convincentes. 

Por isso, fique atento aos sinais de que uma mensagem pode ser falsa: 

- Desconfie de mensagens que pedem dinheiro ou prometem ganhos fáceis; 

- Não responda mensagens que pedem dados pessoais ou informações sensíveis como dados bancários ou códigos de autenticação; 

Apesar de difícil, alguns sinais podem indicar que o conteúdo foi gerado por IA: 

- Preste atenção se a voz, a fala ou os movimentos parecem ligeiramente estranhos ou fora de sincronia; 

- Busque inconsistências no rosto, nas mãos, nos olhos, na iluminação ou no movimento dos objetos; 

- Se a informação parecer importante ou surpreendente, mas não aparecer em outras fontes confiáveis; 

Identificar uma fraude apenas olhando ou ouvindo não é mais tão óbvio. Por isso, muitas redes sociais criaram mecanismos para informar quando o conteúdo foi criado por IA. Algumas plataformas, como o TikTok e o Instagram, fazem essa marcação automaticamente a partir de dados da imagem ou quando indicado pelo criador do post. As plataformas adicionam ao post indicações como “Feito com IA", “Informação de IA” ou similares. 

Além disso, existem ferramentas que podem ajudar a verificar se uma imagem, áudio ou vídeo foi criado ou alterado por Inteligência Artificial. Algumas analisam características do conteúdo, enquanto outras procuram marcas digitais inseridas pelas próprias ferramentas de IA. Essas ferramentas ajudam na verificação de um conteúdo, mas não devem ser usadas como única forma de confirmar se algo é verdadeiro ou falso, pois os métodos de detecção ainda apresentam limitações. 

A evolução contínua da qualidade do conteúdo gerado por ferramentas de IA torna essencial o uso do senso crítico ao consumir mídias. Antes de compartilhar uma mensagem, fazer um pagamento ou fornecer informações, pare, desconfie e verifique a origem do conteúdo em fontes confiáveis.

Quer saber mais?

https://cartilha.cert.br/fasciculos/#ia

Acessibilidade

Na primeira cena a frase “Identificar conteúdos gerados por IA está cada vez mais difícil” aparece. Um rapaz observa um gerador de imagens usando IA criando várias imagens de pessoas. A frase continua: “E golpistas usam essas ferramentas para enganar o usuário". Umas das imagens é utilizada para criar um post de rede social pedindo dinheiro.

Na segunda cena, a frase "Procure os sinais:” é mostrada. Um post de rede social mostrando vegetais ao fundo aparece. Imagens de pessoas criadas por Inteligência Artificial alteram o contexto da imagem. As imagens são controladas por uma marionete, indicando que existe alguém mal-intencionado por trás do conteúdo. Primeiro, uma mulher pedindo dinheiro para comida, a frase “Pediu dinheiro” aparece, a seguir, a imagem muda para uma comunicadora divulgando uma oferta urgente de alimentos, a frase muda para “Há urgência?” e por último um profissional da saúde contra o consumo de vegetais, a frase questiona “A pessoa falaria isso?”. 

Na cena final, o rapaz analisa o post com o pedido de dinheiro. A frase acima dele finaliza: “Na dúvida, considere falso até verificar!