일론 머스크에 이어 이제는 팀 쿡! Apple CEO의 딥페이크, 암호화폐 사기 조장

디지털 환경에서 20년 이상의 경험을 쌓은 노련한 분석가로서 저는 기술의 발전과 그 의미를 직접 목격했습니다. 팀 쿡(Tim Cook), 엘론 머스크(Elon Musk)와 같은 유명 인사가 관련된 최근의 딥페이크 동영상은 인터넷이 경이롭기도 하지만 속임수의 온상이 될 수도 있다는 사실을 극명하게 일깨워줍니다.

최근 애플의 ‘글로우타임(Glowtime)’ 이벤트와 거의 같은 시기에 애플 CEO 팀 쿡(Tim Cook)이 등장하는 딥페이크 영상이 유튜브에 돌고 있다. 이 오해의 소지가 있는 동영상은 정교한 AI 기술을 사용하여 Cook의 외모와 연설을 모방하여 시청자가 암호화폐를 구매하도록 설득하는 것을 목표로 했습니다.

Apple의 정품 채널과 매우 유사한 YouTube 채널에서 라이브 스트림이 나타나기 시작했으며 심지어 위조 확인 기호도 표시되었습니다. 이러한 기만적인 설정으로 인해 시청자는 가짜 콘텐츠와 실제 콘텐츠를 구별하는 데 어려움을 겪었습니다. 그러나 걱정스러운 사용자들의 경고가 쇄도하자 YouTube는 이러한 동영상을 신속하게 삭제했습니다.

이용 가능한 정보에 따르면, 온라인 방송 중에 팀 쿡을 연기하는 AI는 종종 “빨리 부자가 되는” 기회라고 불리는 부로 가는 지름길을 지지하는 것처럼 보였습니다. 방송에서 그는 이런 제안을 했다.

입금액을 입금한 후 시스템은 즉시 이를 처리하여 처음에 입금한 암호화폐를 두 배로 늘리고 새로운 금액을 귀하에게 다시 보냅니다.

팀 쿡(Tim Cook)이 엘론 머스크(Elon Musk)의 악대에 합류했습니다.

암호화폐 사기를 위해 딥페이크 기술이 조작된 것은 이번이 처음이 아닙니다. 예를 들어 인공지능이 생성한 엘론 머스크의 영상은 이전에도 비슷한 방식으로 활용된 바 있다. 그들은 그의 인기 있는 이미지를 활용하여 자신도 모르게 시청자가 가짜 암호화폐 프로젝트에 투자하도록 설득합니다.

Tesla의 CEO인 Elon Musk가 이와 같은 문제에 새로운 것이 아니라는 점을 주목하는 것이 중요합니다. 실제로 그는 시장에서 가장 큰 밈코인인 도지코인(Dogecoin)의 가치를 조작했다고 주장하는 소송에 연루됐다. 이 사건은 빠르게 기각됐지만, AI로 생성된 머스크 버전은 그의 인지도 때문에 실제 사기에 자주 사용된다는 점을 언급할 만하다.

당시 AMBCrypto의 보고서에는 머스크의 변호사가 다음과 같이 말한 것으로 인용되었습니다.

당신의 지지를 표현하거나 트위터에서 유효한 디지털 통화와 관련된 유머러스한 이미지를 공유하는 것은 전혀 문제가 되지 않습니다.

소셜 미디어 플랫폼은 무엇을 하고 있나요?

YouTube, Twitter 등 인기 있는 소셜 미디어 매체에서는 사기 행위를 막기 위해 적극적인 조치를 취하고 있습니다. YouTube는 기계 학습 기술과 사람의 검토를 혼합하여 오해의 소지가 있는 콘텐츠를 찾아 삭제하는 반면, Twitter는 정교한 AI를 사용하여 의심스러운 행동을 신고하고 사기 행위를 행하는 계정을 삭제합니다.

또한 자동화된 탐지 도구를 활용하고 사용자 보고서를 바탕으로 오해의 소지가 있거나 가짜 콘텐츠를 찾아냅니다.

연구원으로서 저는 점점 커지는 딥페이크 사기 문제에 대해 깊은 우려를 표하며, 우리 모두에게 향상된 디지털 활용 능력과 강력한 보안 조치가 시급히 필요하다는 점을 강조합니다. 이러한 사기 행위가 점점 더 복잡해지고 있다는 점을 감안할 때 항상 경계하고 사전 대응하는 것이 중요합니다. 또한 플랫폼은 잠재적인 금전적 피해로부터 사용자 커뮤니티를 보호하기 위해 탐지 도구를 지속적으로 혁신하고 개선하는 것이 중요합니다.

동시에, 전 세계적으로 정부와 규제 기관은 딥페이크 미디어와 암호화폐 사기로 인해 증가하는 위협에 대응하기 위해 혁신적인 전략과 기술을 모색하고 있습니다. 이러한 사기에 맞서 싸우기 위해서는 기술 회사, 사용자, 규제 기관 간의 협력적인 접근 방식이 필요합니다. 사이버 범죄자들은 새로운 약점을 이용하기 위해 지속적으로 방법을 발전시키고 있기 때문입니다.

2024-09-10 18:47