수필가 이정자 처음 딥페이크(Deepfake)가 세상에 모습을 드러냈을 때, 한 사람의 얼굴이 다른 얼굴로 바뀌는 모습을 보며, 사람들은 마술처럼 신기하고 재미있게 여겼다.

이 기술은 영화, 오락, 예술 분야에서 새로운 가능성을 열어주며, 예술 분야에 창의적인 도구로 사용하였으나 우리나라에서 10대 청소년들이 얼굴 바꾸기의 영역을 넘어, 다른 사람에게 정신적 트라우마와 명예훼손을 일으키는 위험한 도구로 악용하는 사례가 발생했다.

딥페이크란 인공지능(AI)을 이용해 특정인의 얼굴과 나체 사진 또는 영상을 합성 조작하는 일이다. 최근 성 범죄에 대한 불안감이 증폭되고 있는 가운데 딥페이크 사진, 영상을 만들어 유포하는 범죄가 심각한 수준에 이르고 있다.

인공지능 기술이 빠르게 발전함에 따라 사회, 경제, 문화 등 다양한 분야에서 인공지능 기술이 활용되고 있다. 이를 통해 국민의 삶 전반에 걸쳐 혁신적인 변화가 올 것으로 기대되고 있다. 이에 따라 세계 각국은 인공지능에 대한 대규모 투자를 진행하고 있으며, 이를 뒷받침하는 다양한 정책들을 담은 법률을 제정하고 있다.

22대 국회에서 관련 법안이 발의가 됐다. 딥페이크 방지법으로 불리는 인공지능 산업육성 및 신뢰 확보에 관한 법률안이 12월 10일까지 100일 동안 열리는 정기국회에서 꼭 통과되기를 간절히 바란다.

딥페이크 성 착취물 범죄 관련 소식이 매체마다 약방의 감초처럼 뉴스 목록을 차지하고 있다. AI기술을 악용하여 실제 사람 얼굴에 가짜 성(sex) 이미지나 입에 담기조차 역겨운 내용의 가짜 성행위 이미지를 생성 유포한 것으로 사회를 피폐하게 만든 악성 타락 범죄다.

계속 드러나고 있는 관련 범죄의 양상을 보면 모 대학판 N번방 사건은 빙산의 일각이었음을 자각하게 한다. AI딥페이크 기술 진화로 어린 학생들조차도 손쉽게 음란 합성물 제작이 가능해졌기 때문이다. 대화방에 아동 성 착취물이 최소 700개이상 추정되는 상황이다. 일부에서 졸업사진 앨범 제작조차 기피하고져 하는 목소리가 이해가 된다.

앞으로 딥페이크보다 더욱 강력한 동영상 생성 인공지능 소라(Sora)가 곧 세상에 나올 예정이다. 오픈AI는 2024년 하반기에 동영상 생성 인공지능(AI) 소라(Sora)를 일반 사용자들에게 공개할 계획이라고 밝혔다. 소라(Sora)는 몇 마디의 문장만으로도 고화질의 동영상을 자동으로 생성하며, 마치 영화 속 장면처럼 생생한 영상을 눈앞에 펼쳐준다.
 
 이 기술은 예술가들에게는 무한한 영감을 주고, 누구나 손쉽게 창의적인 표현을 시도할 수 있는 새로운 창작의 장을 열어준다. 이제 누구나 영화, 광고, 애니메이션을 손쉽게 제작할 수 있는 시대가 다가오고 있으며 쇼핑몰, 교육, 일상생활 등 다양한 분야에 광범위한 영향을 미칠 것으로 예상된다. 정부와 국회는 이러한 변화가 가져올 잠재적인 위험과 문제들을 간과해서는 안 된다.
 
 소라(Sora)와 같은 고도화된 AI 기술이 사회에 미칠 영향을 고려할 때, 우리는 단순한 기술 규제를 넘어 보다 포괄적인 법적, 윤리적 프레임워크를 구축할 필요가 있다. 국회와 정부는 이러한 기술 발전에 대응하는 법안을 신속하게 마련해야 하며, 국제 사회와의 협력을 통해 규제의 효과를 극대화해야 한다.
 
 오픈AI는 소라(Sora)가 딥페이크처럼 문제를 일으키지 않도록 철저한 안전 테스트를 진행하고 있으며, 일반 공개를 지연하고 있다. 특히, 세계 각국의 선거에서 AI가 정치적 악영향을 미칠 가능성에 대한 우려가 커지고 있어, 이를 방지하기 위한 조치들이 취해지고 있다. 

워터마크(사람 눈에 보이지 않는 컴퓨터용 식별신호).와 메타데이터(다른 데이터를 설명하는 데이터)를 통해 소라의 결과물을 보호하려고 하지만, 이러한 장치들이 제거되거나 우회될 경우, 소라 역시 진짜와 가짜의 경계를 흐리는 도구로 변질될 위험이 존재한다.

우리나라는 2020년 성폭력범죄의 처벌 등에 관한 특례법을 개정하여 사람의 얼굴이나 신체, 음성을 촬영한 영상물을 대상자의 의사에 반해 음란하게 편집, 합성, 가공하면 5년 이하 징역 또는 5000만원 이하 벌금에 처한다고 규정하였다.
 
 이제, 정부와 여,야는 한목소리로 성폭력처벌법을 개정해 허위 영상물 소지죄 조항을 신설하고, 딥페이크 음란물을 갖고 있기만 해도 형사 처벌하며, 유포한 사람은 법정형 7년 이하 징역으로 강화하기로 했다.

AI 기술의 발전을 단순히 받아들이기보다는, 그 이면에 숨겨진 철학적, 윤리적 질문에 대해 깊이 생각하고, 법적,정치적 대응을 통해 건강한 사회를 유지할 방법을 모색해야 한다. 이는 우리가 어떤 세상을 만들어 갈 것인가에 대한 중요한 선택이기 때문이다.