AIの底力を発揮させ、拘束されたケースに絡む「少年埋没写真」！写真の真贋を見極めるコツ教えます

1月7日、チベットのティンリ県でマグニチュード6.8の地震が発生し、多くの人々が救助活動の進捗状況を心配し、被災地の無事を祈っている。そんな中、ネット上では「瓦礫に埋もれた少年」の写真が話題となった。

この写真には「りかぜ地震」という言葉が添えられており、無数の人々の涙腺を刺激し、何万もの「いいね！」やリツイートを引き起こした。ほとんどの人は、それがAIが生成した偽の写真だとは気づかなかった。

真相が明らかになったAIコンテンツ盗難事件

この写真をよく見ると、瓦礫に埋もれた帽子をかぶった少年が危機的な状況にあるように見え、胸が痛む。

しかし、注意深いネットユーザーたちは、写真の少年の指が一本余っていることに気づいた。後に警察は、この写真はAIが生成したもので、地震とは無関係であることを突き止めた。

この画像はAIクリエイターのHe氏によるもので、もともとは昨年11月に公開された短いビデオ映像だった。彼の当初の意図は、AIのコンテンツを通じて戦争に巻き込まれる子どもたちに注意を喚起することだったが、悪意を持って素材を盗用し、地震と一緒にまとめられていたことに彼は気づかなかった。

風説の流布者は責任を免れない

この海賊は青海省のネットユーザーだ。トラフィックを稼ぐため、彼はこのAIが生成した画像と震災を組み合わせ、さらに「りかぜ地震」などのキーワードを付けて注目を集めようとした。

このような行為は公聴会を混乱させるだけでなく、被災地での実際の救助活動にも不必要な混乱をもたらし、結局、このネットユーザーは法律に基づいて警察に拘留された。

公安行政処罰法および刑法の関連規定によれば、虚偽の災害情報を流した者は拘留またはさらに重い刑事罰を受ける可能性がある。今回の風説の流布は、インターネットが法の外にある場所ではないことを改めて警告している。

AI技術が噂の温床に？

多くの人が考えていないのは、風評被害をいかに安く作り出せるかということだ。簡単な合図さえあれば、30秒もかからずに、本物のようなフェイクで、ナレーションまでついた災害ビデオを作ることができる。

国家は関連規則を発布し、AIが生成したコンテンツには明確な表示を義務付けているが、実際の効果は期待に応えていない。今回の事件では、写真にはもともと「AIが生成した」という透かしが入っていたが、風説の流布によって簡単に削除されてしまった。

一般人が「AIのフェイク画像」を見分けるには？

AIが生成したコンテンツに関しては、警戒する必要がある。ここでは、信憑性を素早く審査するためのいくつかのトリックを紹介する：

1.観察の詳細

AIが生成した画像は、特に複雑な要素や型にはまった要素など、細部に問題がある場合があります：

- 手または指AIが生成した手のディテールは、複数の指があったり、指が欠けていたり、形が歪んでいたり、プロポーションが正しくないなど、異常なことが多い。

- 目と顔の特徴AIが生成した顔は、目が左右非対称だったり、エッジがぼやけていたり、特徴がバラバラだったりする。

- 言葉とシンボルAIが生成したテキストは、文字化けしたり、不規則になったり、判読不能になったりすることが多い。

- 背景詳細背景のオブジェクトが混乱していたり、バラバラだったり、物理法則に従っていない要素（例えば、吊り上がった影）があったりする。

2.質感と論理的整合性のチェック

AIが生成した画像には、現実世界で一般的なテクスチャーやディテールが欠けていることがあり、論理のルールを無視していることもある：

- Oversmooth（オーバースムース）：皮膚や物体の表面が過度に滑らかなこと。

- 細部の繰り返し：例えば、葉っぱやレンガなど、局所的に似たパターンがある。

- 光と影光源の方向と影の位置が一致しない。

- はんしゃもんだい鏡や水の反射は、現実の物体とは一致しない。

- オブジェクトの比率とレイアウト家具が浮いていたり、釣り合いが取れていなかったり。

3.画像の解像度と品質の分析

- 一貫性のない解像度AIが生成した画像は、ある部分ではぼやけて見え、ある部分ではシャープに見えすぎることがあります。

- 配色AIの画像は彩度が高すぎたり、色が均一であったり、実際のシーンのような微妙な移り変わりがなかったりします。

- ピクセルアーティファクトAIが生成した画像は、拡大するとピクセルテクスチャが不規則になることがあります。

- エッジ処理被写体のエッジがシャープすぎたりぼやけたりして、背景と自然に調和しないことがあります。

4.物理法則と運動の詳細への注意

画像に動きやダイナミックな要素が含まれる場合：

- ぼかし効果AIが生成したモーションブラーは、実際のモーションパターンと一致しない場合があります。

- 軌道動きの速い被写体には、真の動きの軌跡や画像のオーバーレイがない場合があります。

- 物理法則実際の写真に見られる自然な物理的ダイナミクス（風で葉がなびくなど）をAIで完璧に表現するのは難しいかもしれない。

5.AIグラフィックツールの文体的特徴を理解する

さまざまなAIツールが、それぞれ独特のスタイルで画像を生成する：

- ミッドジャーニー画像はとても芸術的で、ぼかしを入れたり、シャープネスをかけたりする傾向がある。

- 安定した拡散エッジや小さなオブジェクトに歪みが生じることがある。

- ダール・イー複雑なシーンを生成する場合、ロジックエラーやディテールエラーが発生することがあります。

テクノロジーは単なる道具であり、それを最大限に活用できるかどうかは人々の心にかかっている

埋められた少年」事件は鏡である。AI技術は新たな可能性の創造に役立つこともあれば、不適切な使い方をすれば風評を助長することにもなる。

しかし、だからといってAI技術から「遠ざかる」べきではない。それどころか、法的な規制や技術の向上、そしてすべての人の心の中にある責任感が必要なのだ。インターネット時代には、真実と虚偽の境界線が非常に曖昧になることがあるが、あなたの冷静さと理性は、注意深く織りなされた嘘を土壌から失わせることができる。