구속된 사람의 사건과 관련된 '소년 묻힌 사진'을 AI가 알아내도록 하세요! 사진의 진위 여부를 식별하는 요령을 알려드립니다.

지난 1월 7일, 티베트 팅리현에서 규모 6.8의 강진이 발생하여 많은 사람들이 구조 활동의 진행 상황을 걱정하며 피해 지역의 안전을 기원하고 있습니다. 이러한 온정과 관심 속에 온라인에서는 '잔해에 파묻힌 어린 소년'의 사진이 빠르게 퍼져나갔습니다.

이 사진은 "리카제 지진"이라는 글귀와 함께 수많은 사람들의 눈시울을 적셨고, 수만 건의 마음에 들어요와 리트윗을 이끌어냈습니다. 대부분의 사람들은 이 사진이 인공지능이 생성한 가짜 사진이라는 사실을 몰랐습니다.

진실이 밝혀지고, AI 콘텐츠가 도난당하다

이 사진을 자세히 보면 모자를 쓴 어린 소년이 잔해에 파묻혀 위급하고 가슴 아픈 상황에 처한 것으로 보이며, 마치 재난 현장의 사진처럼 보입니다.

그러나 세심한 네티즌들은 사진 속 소년의 손가락이 하나 더 있다는 사실을 발견했습니다. 경찰은 나중에 이 사진이 인공지능으로 생성된 것이며 지진과 관련이 없다는 사실을 확인했습니다.

이 이미지는 AI 크리에이터인 허 씨가 작년 11월에 공개한 짧은 동영상 영상입니다. 원래 의도는 AI 콘텐츠를 통해 전쟁 중인 어린이들에게 주의를 환기시키려는 것이었지만, 악의적으로 자료를 도용하여 지진과 함께 합성했다는 사실을 깨닫지 못했습니다.

루머를 퍼뜨리는 사람은 책임을 피할 수 없습니다.

해적은 칭하이 출신의 네티즌입니다. 그는 트래픽을 늘리기 위해 이 AI가 생성한 사진을 지진 재해와 결합하고 '리카제 지진'과 같은 키워드를 붙여 관심을 끌기 위해 노력했습니다.

이러한 행동은 공청회를 방해할 뿐만 아니라 재난 지역의 실제 구조에도 불필요한 혼란을 가중시켜 결국 해당 네티즌은 경찰에 의해 법에 따라 구금되었습니다.

공안 행정 처벌법 및 형법의 관련 조항에 따르면 허위 재난 정보를 유포한 사람은 구금 또는 더 무거운 형사 처벌을 받을 수 있습니다. 이번 루머 유포 사건은 인터넷이 법의 테두리 밖의 공간이 아니라는 사실을 다시 한 번 모두에게 경고하고 있습니다.

AI 기술이 루머의 온상이 되고 있나요?

많은 사람들이 생각하지 못하는 것은 루머를 제작하는 것이 얼마나 저렴할 수 있는지입니다. 간단한 단서 단어만 있으면 30초 이내에 실제처럼 보이도록 가짜 재난 동영상을 만들 수 있으며, 내레이션까지 포함할 수 있습니다.

중국 정부는 AI가 생성한 콘텐츠에 명확한 표시를 하도록 하는 관련 규정을 발표했지만, 실제 시행은 기대에 미치지 못했습니다. 이 사건의 경우 원래 사진에는 'AI가 생성한' 워터마크가 있었지만 루머 유포자들에 의해 쉽게 제거되었습니다.

일반인은 'AI 가짜 이미지'를 어떻게 인식할 수 있을까요?

AI가 생성한 콘텐츠에 대해서는 경계를 늦추지 말아야 합니다. 다음은 진위 여부를 빠르게 선별하는 데 도움이 되는 몇 가지 요령입니다:

1. 관찰 세부 정보

AI가 생성한 이미지에는 일부 디테일, 특히 복잡하거나 색다른 요소에 문제가 있을 수 있습니다:

- 손 또는 손가락AI가 생성한 손의 디테일은 손가락이 여러 개이거나, 손가락이 없거나, 모양이 왜곡되거나, 비율이 잘못되는 등 비정상적인 경우가 많습니다.

- 눈과 얼굴 특징AI로 생성된 얼굴은 눈이 비대칭이거나 가장자리가 흐릿하거나 이목구비가 흐트러져 있을 수 있습니다.

- 단어 및 기호AI가 생성한 텍스트는 왜곡되거나 불규칙하거나 읽을 수 없는 문자인 경우가 많습니다.

- 배경 세부 정보배경에 혼란스럽고 분리된 물체가 있거나 물리 법칙에 맞지 않는 요소(예: 매달린 그림자)가 있을 수 있습니다.

2. 텍스처 및 논리적 일관성 확인

AI가 생성한 이미지는 현실 세계에서 흔히 볼 수 있는 텍스처와 디테일이 부족하거나 논리의 규칙을 무시하는 경우가 있습니다:

- 지나치게 매끈함: 피부나 물체의 표면이 지나치게 매끈한 상태입니다.

- 디테일 반복: 예를 들어 나뭇잎, 벽돌 등 국부적인 영역에서 유사한 패턴이 반복됩니다.

- 빛과 그림자광원의 방향이 그림자의 위치와 일치하지 않습니다.

- 반사 문제거울이나 물에 비친 반사는 실제 물체와 일치하지 않습니다.

- 개체의 비율 및 레이아웃가구가 떠 있거나 비율이 맞지 않는 등 크기나 배치가 이상한 경우가 종종 발생합니다.

3. 이미지의 해상도 및 품질 분석하기

- 일관성 없는 해상도AI가 생성한 이미지는 일부 영역에서는 흐릿하게, 다른 영역에서는 너무 선명하게 보일 수 있습니다.

- 색상 분포AI 이미지의 채도가 과도하거나 색상이 균일하지 않고 실제 장면의 미묘한 전환이 부족할 수 있습니다.

- 픽셀 아티팩트AI로 생성된 이미지는 확대할 때 픽셀 텍스처가 불규칙할 수 있습니다.

- 엣지 처리개체의 가장자리가 너무 선명하거나 흐리게 처리되어 배경과 자연스럽게 섞이지 않을 수 있습니다.

4. 물리 법칙과 동작의 세부 사항에 대한 주의

이미지에 모션 또는 동적 요소가 포함된 경우:

- 흐림 효과AI가 생성한 모션 블러는 실제 모션 패턴과 일치하지 않을 수 있습니다.

- 궤적빠르게 움직이는 객체에는 실제 모션 트랙이나 이미지 오버레이가 없을 수 있습니다.

- 물리 법칙실제 사진의 자연스러운 물리적 역학(예: 바람에 날리는 나뭇잎)은 AI가 완벽하게 렌더링하기 어려울 수 있습니다.

5. AI 그래픽 도구의 문체 기능 이해하기

각기 다른 AI 도구는 고유한 스타일의 이미지를 생성합니다:

- MidJourney이미지가 매우 예술적이고 흐림 효과를 추가하거나 지나치게 선명하게 하는 것을 좋아하는 경향이 있습니다.

- 안정적인 확산가장자리와 작은 물체에 왜곡이 발생하는 경우가 있습니다.

- DALL-E복잡한 장면을 생성할 때 로직 또는 디테일 오류가 발생할 수 있습니다.

기술은 도구일 뿐이며, 이를 가장 잘 활용하는 것은 사람들의 마음과 생각에 달려 있습니다.

'묻힌 소년' 사건은 거울과도 같습니다. 새로운 가능성을 창출하는 데 도움이 될 수도 있고, 부적절하게 사용될 경우 루머를 조장할 수도 있는 AI 기술의 양면성을 반영합니다.

하지만 그렇다고 해서 AI 기술을 '멀리해야 한다'는 의미는 아닙니다. 오히려 법적 규제와 기술적 개선, 그리고 모든 사람의 책임감이 필요합니다. 인터넷 시대에는 진실과 거짓의 경계가 모호해지기도 하지만, 여러분의 냉정함과 이성적인 판단이 정교하게 짜여진 거짓말의 근거를 잃게 만들 수 있습니다.