Gardez la ligne de fond de l'IA, "le garçon a enterré la photo" impliquée dans l'affaire de la personne a été détenue ! Ces astuces vous apprennent à identifier l'authenticité des photos

Le 7 janvier, un tremblement de terre de magnitude 6,8 a frappé le comté de Tingri, au Tibet, et de nombreuses personnes s'inquiètent de l'évolution des opérations de sauvetage et prient pour la sécurité des zones touchées. Pendant ce temps, au milieu de toute cette bonne volonté et de cette inquiétude, la photo d'un "petit garçon enseveli sous les décombres" est rapidement devenue populaire en ligne.

Cette photo, accompagnée des mots "Rikaze earthquake" (tremblement de terre de Rikaze), a suscité les larmes d'innombrables personnes, ainsi que des dizaines de milliers de "likes" et de "retweets". La plupart des gens n'ont pas réalisé qu'il s'agissait d'une fausse image générée par l'IA.

La vérité émerge, le contenu de l'IA a été volé

En regardant de plus près cette photo, un jeune garçon portant un chapeau enterré dans les décombres semble être dans une situation critique et déchirante, et cela ressemble à une photo d'une scène de catastrophe.

Cependant, des internautes attentifs ont trouvé la faille : le garçon sur la photo avait un doigt supplémentaire. La police a par la suite établi que l'image avait été générée par l'intelligence artificielle et n'avait rien à voir avec le tremblement de terre.

L'image provient d'un créateur d'IA, M. He, et était à l'origine une courte séquence vidéo publiée en novembre de l'année dernière. Son intention première était d'attirer l'attention sur les enfants dans la guerre par le biais d'un contenu d'IA, mais il ne s'est pas rendu compte que le matériel avait été malicieusement volé et assemblé avec le tremblement de terre.

Les diffuseurs de rumeurs ne peuvent échapper à leur responsabilité

Le pirate est un net-citoyen de Qinghai. Afin de gagner du trafic, il a combiné cette image générée par l'IA avec la catastrophe du tremblement de terre, et l'a même étiquetée avec des mots-clés tels que "Rikaze earthquake" (tremblement de terre de Rikaze) dans le but d'attirer l'attention.

Ce type de comportement perturbe non seulement l'audience publique, mais ajoute également une confusion inutile aux véritables opérations de sauvetage dans la zone sinistrée.

Conformément aux dispositions pertinentes de la loi sur les sanctions applicables à l'administration de la sécurité publique et du droit pénal, les personnes qui diffusent de fausses informations sur les catastrophes peuvent être placées en détention ou faire l'objet de sanctions pénales plus lourdes encore. Cette farce de la rumeur a également rappelé à tout le monde qu'Internet n'est pas un espace hors la loi.

La technologie de l'IA devient un foyer de rumeurs ?

Ce à quoi beaucoup de gens ne pensent pas, c'est qu'il est très peu coûteux de produire une rumeur. Avec un simple mot de repère, il est possible de produire en moins de 30 secondes une vidéo de catastrophe suffisamment fausse pour être réelle, et même accompagnée d'une narration.

Bien que l'État ait publié des réglementations pertinentes exigeant que les contenus générés par l'IA soient clairement étiquetés, la mise en œuvre effective de ces dispositions n'a pas répondu aux attentes. Dans cet incident, la photo comportait à l'origine un filigrane "généré par l'IA", mais celui-ci a été facilement supprimé par les auteurs de la rumeur.

Comment les gens ordinaires peuvent-ils reconnaître les "fausses images d'IA" ?

Nous devons être vigilants lorsqu'il s'agit de contenus générés par l'IA. Voici quelques astuces qui vous aideront à vérifier rapidement l'authenticité du contenu :

1. les détails de l'observation

Les images générées par l'IA peuvent avoir des problèmes avec certains détails, en particulier les éléments complexes ou non conventionnels :

- Main ou doigtLes détails de la main générés par l'IA sont souvent anormaux, comme des doigts multiples, des doigts manquants, des formes déformées ou des proportions incorrectes.

- Yeux et traits du visageLes visages générés par l'IA peuvent avoir des yeux asymétriques, des bords flous ou des traits disjoints.

- Mots et symbolesLe texte généré par l'IA comporte souvent des erreurs, des irrégularités ou des caractères illisibles.

- Informations généralesIl peut y avoir des objets confus et décousus à l'arrière-plan, ou des éléments qui ne sont pas conformes aux lois de la physique (par exemple, des ombres suspendues).

2. vérification de la texture et de la cohérence logique

Les images générées par l'IA manquent parfois de textures et de détails qui sont courants dans le monde réel, et ignorent parfois les règles de la logique :

- Lisse à l'excès : surface de la peau ou d'un objet excessivement lisse.

- Répétition de détails : par exemple, des motifs similaires dans des zones localisées telles que des feuilles, des briques, etc.

- Ombre et lumièreLa direction de la source lumineuse ne coïncide pas avec la position des ombres.

- problème de réflexionLes reflets dans les miroirs ou dans l'eau ne correspondent pas à des objets réels.

- Proportion et disposition des objetsLa taille et l'emplacement des meubles sont souvent bizarres, comme des meubles flottants ou disproportionnés.

3. l'analyse de la résolution et de la qualité des images

- Résolution incohérenteLes images générées par l'IA peuvent apparaître floues à certains endroits et trop nettes à d'autres.

- répartition des couleursLes images d'IA peuvent être sursaturées ou uniformes en couleur et ne présentent pas les transitions subtiles d'une scène réelle.

- artefacts de pixelsLes images générées par l'IA peuvent avoir des textures de pixels irrégulières lorsqu'elles sont agrandies.

- Traitement des bordsLes bords des objets peuvent être trop nets ou trop flous pour se fondre naturellement dans l'arrière-plan.

4. attention aux lois physiques et aux détails du mouvement

Si l'image comporte des mouvements ou des éléments dynamiques :

- effet de flouLe flou de mouvement généré par l'IA peut ne pas correspondre aux modèles de mouvement réels.

- trajectoireLes objets qui se déplacent rapidement peuvent ne pas avoir de véritable piste de mouvement ou de superposition d'images.

- les lois de la physiqueLa dynamique physique naturelle dans les photos réelles (par exemple, le vent soufflant sur les feuilles) peut être difficile à rendre parfaitement par l'IA.

5. comprendre les caractéristiques stylistiques des outils graphiques de l'IA

Les différents outils d'IA génèrent des images avec leurs propres styles :

- Voyage à mi-parcoursLes images ont tendance à être très artistiques et à ajouter des effets de flou ou de netteté excessive.

- Diffusion stable: Il y a parfois de la distorsion sur les bords et les petits objets.

- DALL-ELes erreurs de logique ou de détail peuvent survenir lors de la création de scènes complexes.

La technologie n'est qu'un outil, dont la meilleure utilisation dépend du cœur et de l'esprit des gens.

L'incident du "petit garçon enterré" est un miroir. Il reflète les deux facettes de la technologie de l'IA : elle peut soit nous aider à créer de nouvelles possibilités, soit, lorsqu'elle est utilisée de manière inappropriée, devenir un promoteur de rumeurs.

Mais cela ne signifie pas que nous devrions "rester à l'écart" de la technologie de l'IA. Au contraire, nous avons besoin d'une réglementation juridique, d'améliorations technologiques et d'un sens des responsabilités dans le cœur de chacun. À l'ère d'Internet, la frontière entre la vérité et le mensonge est parfois très floue, mais votre calme et votre rationalité peuvent faire perdre du terrain à ces mensonges soigneusement tissés.