[펌] 사람 낚는 인공지능이 있다? 딥페이크 이야기

https://brunch.co.kr/@itisyoona/100

이 영상이 조작이라고?! : 충격과 공포, 딥페이크(Deepfake)

“상상해 보시죠. 수십억 명분의 도난당한 데이터, 그들의 모든 비밀, 그들의 삶, 그들의 미래를 완전히 컨트롤할 수 있는 한 사람을요.”

이 말을 페이스북 CEO 마크 저커버그가 했다면 어떨까요?

2016년 미국 대선 당시 페이스북 회원 8700만 명의 개인정보가 한 영국 데이터 분석업체에 유출된 적 있습니다. 이 데이터가 당시 대선후보였던 트럼프 진영에 흘러간 사실이 작년에 밝혀졌고, 지금까지도 페이스북은 개인정보 유출과 관련된 많은 문제를 일으켜 비난받고 있는데요. 이런 상황에서 저런 영상을 찍어 올린 건 자폭이나 마찬가지입니다.

물론! 이 영상은 저커버그가 직접 찍어 올린 게 아닙니다. 딥페이크(Deepfake) 기술이 활용된 가짜 영상이에요. 지난 6월 7일 한 인스타그램 계정에 업로드된 이 동영상은 원 출처에서만 10만 건이 넘는 조회수를 기록하고 있습니다.

혹시 영상이 가짜인 걸 처음부터 눈치챈 분이 계실까요? 합성에 쓰인 저커버그의 원본 영상 속 진짜 목소리는 딥페이크 영상의 목소리와 전혀 다릅니다. 하지만 목소리만으로 ‘이 영상은 조작됐어!’ 하기엔 영상이 너무 진짜 같지 않나요…?! ‘AI가 인간을 지배하는 날이 오면 어떡하지’ 보다 ‘딥페이크가 만든 가짜 영상에 낚이면 어떡하지’가 더 현실적인 걱정인 듯합니다.

관심있는 분은 참고바랍니다.