기업 기술·개발 정보 노출 땐 악용 소지
딥 페이크(Deep Fake)는 합성어로 AI의 학습기술인 Deep Learning과 가짜 Fake라는 단어를 조합해 만들어진 용어다. 2017년 말 한 해외커뮤니티의 유저가 아이디를 딥페이크라 사용하면서 등장한 것으로 알려져 있다. 딥 페이크는 딥러닝이나 증강현실을 활용하여 텍스트나 이미지, 음성 등을 합성하여 조작하는 기술이다.
지난 10일 국회 문화체육관광위원회 국정감사장에서는 신임 유인촌 장관이 부르는 80년대 가요 ‘서른 즈음에’라는 노래가 국정감사장에서 울려 퍼졌다. 실제로 장관이 노래한 것이 아니라 목소리를 학습한 AI가 부른 것이다. 사연인즉슨 이상헌 문체위원장이 유 장관에게 “가수 김광석을 아느냐” 물었고, 유 장관이 “잘 압니다”라고 답변하자, “즐겨듣는 김광석의 노래가 있습니까?”라고 재차 물었고, “예전에는 많이 들었습니다”라고 하자, 이 위원장은 장관의 목소리로 김광석의 노래를 흉내 내겠다“라고 한 다음, 사전에 준비한 고 김광석의 영상에 유 장관의 얼굴을 합성시키고 여기에 AI가 학습한 유 장관의 음성으로 노래를 부르게 한 것이었다.
이 영상으로 인해 국감장에 한때 웃음이 터져 나오기도 했다는데 웃고 넘길 일이 아니다. 이는 최근 AI 기술의 활용이 증가하면서 딥페이크 관련 범죄와 피해가 늘어나고 있다는 문제점을 지적하기 위해서 시연을 한 것이다.
AI 기술을 기반으로 한 합성 이미지와 음성, 각 개인의 취미 성향, 전문분야에서의 개인의 독창성에 관한 학습 등을 조합한 불법 영상물이나 음성조작 파일 등이 온라인에 유포되면서 사회적 논란과 함께 이로 인한 피해가 점점 증가하고 있다.
인공지능기술과 사물인터넷(IoT) 등 첨단기술은 그 활용범위가 매우 높고 유용한 측면이 많다. 하지만 악용의 소지도 커 이에 대한 보완책이 시급하다. 따라서 이번 지적은 시의적절한 문제 제기라고 할 수 있다.
각종 사회관계망서비스(SNS)를 통해 유명 연예인이나 대중적 지지도가 높은 유명 인사들을 대상으로 한 범죄 활용 가능성이 큰 만큼 범죄에 이용될 경우 그 피해는 지지도나 인기만큼이나 커질 가능성이 높다.
AI 열풍을 주도하고 있는 챗봇 역시 대리과제 문제 등으로 점점 비판의 대상이 되고 있다. 중국의 경우 이러한 ‘딥 합성 서비스’ 제공자와 이용자들에게 해당 기술을 사용해 콘텐츠를 제작할 때는 사실을 분명히 밝히고, 원본을 추적할 수 있도록 해야 한다는 ‘딥합성 관리 규정’을 올해 1월 10일에 발효한 바 있다.
무엇이든 편리하게 얻은 것이 있으면 그 대가로 쉽게 잃는 것도 있다. 자신의 활동 범위가 점점 넓어져 가는 전문가나 유명 연예인 또는 유력 정·재계 인사들 모두 이제부터라도 자신의 이름으로 올려진 각종 논문이나 자료, 음성파일, 영상물 등에 대한 정보 및 보안관리에 신경을 많이 써야 할 것이다.
기업에서는 기술정보, 개발정보, 인력정보, 재무 정보 등 알게 모르게 노출된 자료들이 AI 기술을 이용한 딥페이크 범죄에 악용되어 피해를 보는 일이 없도록 철저한 정보 보안관리가 필요한 시점이다.
모두에게 개방되어있는 인공지능 활용의 무대가 펼쳐지고 있는데 여기에는 이를 악용하는 범죄자도 이용자에 포함되어 있다. 따라서 개인, 단체, 회사, 정부 기관, 국가 할 것 없이 모든 영역에서 이제 AI를 이용한 딥페이크와의 전선이 형성되고 있음을 각성해야 할 것이다.
