AI 시대, ‘증거의 종말’이 다가오고 있다

AI 시대, ‘증거의 종말’이 다가오고 있다: 진짜와 가짜의 경계가 사라질 때

생성형 AI 기술이 발전하면서 진실과 거짓의 경계가 무너지고, 우리가 오랫동안 신뢰해 왔던 증거의 힘이 점차 사라지고 있습니다. 진짜와 똑같이 만들어진 가짜 이미지나 영상이 진실을 왜곡할 수 있는 만큼 , '거짓말쟁이의 배당금'과 같은 현상들이 사회 전반의 신뢰를 무너뜨리고 있습니다 . 이제 사진과 영상이 더 이상 확실한 증거가 되지 못하는 시대가 도래한 것입니다.

1. 진짜와 가짜가 뒤섞이는 혼란
 

생성형 AI는 우리가 눈으로 보는 현실을 정교하게 위조할 수 있는 수준에 이르렀습니다. 이로 인해 백악관 영상이 진짜인지 가짜인지에 대한 논란이 일면서 사회 전반의 신뢰가 약해지는 사례가 발생했습니다 . 또한 배우 윌 스미스 관련 영상의 경우, 실제와 AI가 혼합되었을 가능성으로 인해 논란이 커지면서 그 영향력이 연예계를 넘어 정치, 군사 분야로까지 확장되고 있습니다. 이처럼 진위가 불분명한 콘텐츠가 넘쳐나면서 사진과 영상은 증거로서의 힘을 잃게 된 것입니다.

2. 증거의 힘이 사라지는 현실과 ‘거짓말쟁이의 배당금’
 

AI로 인해 사진과 영상 같은 증거의 힘이 사라지는 현실에 우리는 직면했습니다 . 과거에는 명확한 증거로 여겨졌던 미군 공습 영상조차 조작되었다는 주장이 제기되는 등, 이제는 진실도 거짓도 명확히 증명하기 어려운 시대가 도래했습니다. 이러한 상황에서 자신에게 불리한 증거가 제시되었을 때, 정치인들은 ‘딥페이크’라고 주장하며 회피하는 전략을 사용하고 있습니다 . 이러한 주장은 각국에서 보편적인 전략으로 자리 잡고 있습니다. 여기서 중요한 개념이 바로 ‘거짓말쟁이의 배당금(Liar's dividend)’입니다. 이는 진실을 모호하게 만들어 이익을 얻는 현상을 의미합니다 . 생성형 AI로 만든 가짜 정보를 탐지하는 기술이나 워터마크는 아직 완벽하지 않기 때문에 ‘이것은 딥페이크’라는 단순한 주장은 지지율을 유지하는 데 효과적인 무기가 됩니다. 증거가 사실이라고 증명되어도 이미 대중의 마음에 불확실성을 심어 이득을 취하는 것입니다.

3. 사진·영상 증거의 종말과 새로운 신뢰 체계의 필요성
 

AI가 만든 가짜와 진짜를 구분하지 못하는 시대가 오면서 우리가 당연하게 여겼던 사진·영상 증거의 시대는 이미 막을 내렸습니다. 신뢰 검증 체계를 강화하지 않으면 사회적 혼란이 가속화될 수 있으므로 우리는 콘텐츠의 신뢰성을 검증할 새로운 시스템을 마련해야 합니다. '눈에 보이는 것'을 무조건 믿는 시대는 끝났으며 진실을 분별할 새로운 기준이 절실히 필요합니다.