Mantenha o resultado final da IA, "foto de menino enterrado", envolvido no caso da pessoa que foi detida! Esses truques ensinam você a identificar a autenticidade das fotos

No dia 7 de janeiro, um terremoto de magnitude 6,8 atingiu o condado de Tingri, no Tibete, e muitas pessoas estão preocupadas com o progresso dos esforços de resgate e rezando pela segurança das áreas afetadas. Enquanto isso, em meio a toda a boa vontade e preocupação, uma foto de um "garotinho enterrado sob os escombros" rapidamente se tornou popular na Internet.

Essa imagem, acompanhada das palavras "Rikaze earthquake" (Terremoto Rikaze), atingiu o ponto de choro de inúmeras pessoas e também provocou dezenas de milhares de curtidas e retweets. A maioria das pessoas não percebeu que se tratava apenas de uma imagem falsa gerada por IA.

A verdade vem à tona, o conteúdo de IA foi roubado

Olhando atentamente para essa foto, um menino usando um chapéu enterrado nos escombros parece estar em uma situação crítica e desoladora, e parece mesmo uma foto de uma cena de desastre.

No entanto, internautas atentos descobriram a falha - o menino da foto tinha um dedo a mais. Mais tarde, a polícia verificou que a imagem foi gerada por IA e não tinha nada a ver com o terremoto.

A imagem é de um criador de IA, o Sr. He, e foi originalmente um vídeo curto lançado em novembro do ano passado. Sua intenção original era chamar a atenção para as crianças em guerra por meio de conteúdo de IA, mas ele não percebeu que o material havia sido maliciosamente roubado e montado com o terremoto.

Os criadores de boatos não podem escapar da responsabilidade

O pirata é um internauta de Qinghai. Para ganhar tráfego, ele combinou essa imagem gerada por IA com o desastre do terremoto e até a rotulou com palavras-chave como "terremoto Rikaze", na tentativa de atrair atenção.

Esse tipo de comportamento não só atrapalha a audiência pública, mas também o resgate real na área do desastre gera uma confusão desnecessária e, por fim, o internauta foi detido pela polícia de acordo com a lei.

De acordo com as disposições relevantes da Lei de Punição para a Administração da Segurança Pública e da Lei Criminal, aqueles que divulgarem informações falsas sobre desastres poderão ser detidos ou sofrer penalidades criminais ainda mais pesadas. Essa farsa de boatos também alertou a todos, mais uma vez, que a Internet não é um lugar fora da lei.

A tecnologia de IA está se tornando um foco de rumores?

O que muitas pessoas não imaginam é o quão barato pode ser produzir um boato. Com uma simples palavra-chave, é possível gerar um vídeo de desastre em menos de 30 segundos, falso o suficiente para ser real e até mesmo com narração.

Embora o estado tenha emitido regulamentações relevantes, exigindo que o conteúdo gerado por IA seja claramente rotulado, a implementação real do efeito não atendeu às expectativas. Nesse incidente, a imagem originalmente tinha uma marca d'água "gerada por IA", mas ela foi facilmente removida pelos criadores de boatos.

Como as pessoas comuns podem reconhecer "imagens falsas de IA"?

Precisamos estar atentos quando se trata de conteúdo gerado por IA. Aqui estão alguns truques para ajudá-lo a verificar rapidamente a autenticidade:

1. detalhes de observação

As imagens geradas por IA podem ter problemas com alguns detalhes, especialmente elementos complexos ou não convencionais:

- Mão ou dedoDetalhes da mão gerados por IA geralmente são anormais, como vários dedos, dedos ausentes, formas distorcidas ou proporções incorretas.

- Olhos e características faciaisRostos gerados por IA podem ter olhos assimétricos, bordas borradas ou características desarticuladas.

- Palavras e símbolosTexto gerado por IA: o texto gerado por IA geralmente apresenta caracteres ilegíveis, irregulares ou distorcidos.

- Detalhes do históricoObjetos confusos e desarticulados no plano de fundo ou elementos que não estejam em conformidade com as leis da física (por exemplo, sombras suspensas).

2. verificação da textura e da consistência lógica

As imagens geradas por IA às vezes não têm texturas e detalhes comuns no mundo real e às vezes ignoram as regras da lógica:

- Superlisa: uma superfície de pele ou objeto que é excessivamente lisa.

- Repetição de detalhes: por exemplo, padrões semelhantes em áreas localizadas, como folhas, tijolos etc.

- Luz e sombraA direção da fonte de luz não coincide com a posição das sombras.

- problema de reflexãoReflexos em espelhos ou na água não correspondem a objetos reais.

- Proporção e layout de objetosTamanho estranho ou arranjos de posicionamento ocorrem com frequência, como móveis flutuando ou fora de proporção.

3. análise da resolução e da qualidade das imagens

- Resolução inconsistenteImagens geradas por IA podem parecer borradas em algumas áreas e muito nítidas em outras.

- distribuição de coresImagens de IA podem ser saturadas demais ou uniformes em cores e não ter as transições sutis de uma cena real.

- artefatos de pixelImagem gerada por IA: as imagens geradas por IA podem ter texturas de pixel irregulares quando ampliadas.

- Processamento de bordasAs bordas dos objetos podem estar muito nítidas ou borradas para se misturarem naturalmente com o plano de fundo.

4. atenção às leis físicas e aos detalhes do movimento

Se a imagem envolver movimento ou elementos dinâmicos:

- efeito de desfoqueDesfoque de movimento gerado por IA: o desfoque de movimento gerado por IA pode não corresponder aos padrões de movimento reais.

- trajetóriaObjetos em movimento rápido podem não ter uma trilha de movimento real ou sobreposição de imagem.

- leis da físicaDinâmica física natural em fotos reais (por exemplo, o vento soprando as folhas) pode ser difícil de ser perfeitamente renderizada pela IA.

5. entender os recursos estilísticos das ferramentas gráficas de IA

Diferentes ferramentas de IA geram imagens com seus próprios estilos distintos:

- Meio da jornadaImagem: As imagens tendem a ser muito artísticas e gostam de adicionar efeitos de desfoque ou excesso de nitidez.

- Difusão estávelDistorção: Às vezes, há distorção nas bordas e em objetos pequenos.

- DALL-EErros de lógica ou de detalhes podem ocorrer ao gerar cenas complexas.

A tecnologia é apenas uma ferramenta, o melhor uso dela depende do coração e da mente das pessoas

O incidente do "menino enterrado" é um espelho. Ele reflete os dois lados da tecnologia de IA: pode nos ajudar a criar novas possibilidades ou, quando usada de forma inadequada, pode se tornar uma promotora de boatos.

Mas isso não significa que devemos "ficar longe" da tecnologia de IA. Pelo contrário, precisamos de regulamentação legal, melhorias tecnológicas e um senso de responsabilidade no coração de todos. Na era da Internet, a linha entre a verdade e a falsidade às vezes é muito tênue, mas sua calma e racionalidade podem fazer com que essas mentiras cuidadosamente tecidas percam força.