AI로 생성된 로보콜이 대통령 바이든을 흉내내고 있습니다 딥페이크 기술이 선거를 조작하는 방법 🕵️♂️
두 오디오 위조 전문가들은 지난 주 일부 유권자들이 받은 바이든 대통령의 딥페이크 로보콜이 실리콘밸리의 선호 음성 복제 스타트업 기술을 사용하여 생성된 것으로 추정된다고 주장했다.
AI 연구자들은 딥페이크 바이든 로보 콜이 아마도 AI 스타트업인 ElevenLabs가 개발한 도구를 사용하여 만들어진 것으로 보인다고 제안했습니다.
소개: 바이든 딥페이크 로보콜 스캔들 😱
지난 주, 뉴햄프셔의 유권자들은 주의 기본 선거에 투표하지 말라는 지시를 바이든 대통령을 가장한 로보콜을 받아 놀랐습니다. 호출의 출처는 알려지지 않았지만, 음성 전문가들은 그것이 보이스 클론 기술을 사용하여 만들어진 것으로 생각됩니다. 📞
ElevenLabs와 음성 클론 기술의 부상 🚀
음성 클론 기업인 ElevenLabs는 오디오 북과 비디오 게임을 포함한 다양한 애플리케이션에 대한 AI 도구를 제공하는 스타트업입니다. 최근에는 Andreessen Horowitz 벤처 회사의 공동 주도로 11억 달러 평가액에서 8000만 달러를 조달하여 “유니콘”으로 인정받았습니다. 이번 펀딩 라운드에서 ElevenLabs의 성공은 산업에 대한 신뢰와 음성 클론의 힘을 보여줍니다. 🦄
누구나 ElevenLabs의 유료 서비스에 가입하고 오디오 샘플에서 음성을 클론 할 수 있습니다. 회사의 안전 정책은 누군가의 음성을 클론하기 전에 허가를 받는 것을 권장하지만, 비영리적인 목적으로 정치적 발언과 같은 허가 없이 클론을 허용합니다. 💬
범인 확인: Pindrop과 버클리가 구조에 나서다 🕵️♀️
합성 음성을 식별하는 보안 회사인 Pindrop은 로보콜 오디오에 대해 철저한 분석을 수행했습니다. 그들의 조사 결과, ElevenLabs의 기술이나 유사한 구성 요소를 가진 시스템이 가능한 소스로 가리키고 있습니다. 결과는 놀랍도록 분명하며, 일치 확률은 99퍼센트 이상입니다. 😮
UC 버클리 정보학교의 디지털 포렌식 전문가인 Hany Farid는 초기에 ElevenLabs의 연관성에 대한 의심을 표명했습니다. 그러나 그의 팀이 오디오의 독립적인 분석을 수행한 후, 그들은 동일한 결론에 도달했습니다. 강력한 증거는 딥페이크 바이든 로보콜이 실제로 ElevenLabs의 기술을 사용하여 만들어졌음을 압도적으로 시사합니다. 🔍
- 여성 온라인 딥페이크 포르노의 급증에 대한 놀라운 상승
- FTC, 마이크로소프트, 아마존 및 알파벳의 인공지능 스타트업 투자 조사...
- Meta의 스마트 안경 인공지능에 대한 유망하지만 결함이 있는 소개
논쟁과 남용: 이전 사례들 👀
연구자들이 ElevenLabs의 도구가 정치적 선전에 사용되고 있다고 의심한 것은 이번이 처음이 아닙니다. 온라인 속임수를 추적하는 회사인 NewsGuard는 이전에 미신론을 공유하는 TikTok 계정들이 Barack Obama의 음성 클론을 포함한 ElevenLabs의 기술을 사용했다고 주장했습니다. ElevenLabs은 남용 사례를 인정하며 계속해서 이를 방지하기 위한 안전장치 개발에 노력하고 있습니다. 🙅♂️
시장의 선두주자: ElevenLabs와 주목할만한 투자자들 👑
ElevenLabs는 시장에서 주요 AI 음성 클론 회사 중 하나로 알려져 있습니다. 11억 달러 이상의 평가액과 Andreessen Horowitz, Nat Friedman, Mustafa Suleyman 등의 산업 거물들이 투자한 것은 그 성공을 반영하고 있습니다. 주목할만한 투자자들과 상당한 투자금을 보유한 ElevenLabs는 악의적인 행위자에 대한 효과적인 보안장치를 만들기 위해 유리한 위치에 있습니다. 💪
선거 직면의 긴급한 보호 조치 필요 🗳️
미국의 다가오는 대통령 선거에 접근함에 따라 딥페이크 기술에 대한 보호 조치의 필요성이 점점 더 중요해지고 있습니다. 누구나 설득력 있는 음성 모방을 만들 수 있는 가능성이 있으므로, 오용에 대비하기 위해 규제 조치를 마련하는 것이 중요합니다. 그렇지 않으면, 결과는 참담할 수 있습니다. Pindrop CEO Vijay Balasubramaniyan은 “선거 사이클에 접근하면 그저 미쳐갈 것”이라고 말합니다. 🚫
어두운 의도의 협박: 바이든의 목소리 클론하기 😈
ElevenLabs 애호가들을 위한 Discord 서버가 등장했는데, 이 서버에서는 개인들이 바이든의 목소리를 클론하는 방법에 대해 활발하게 논의합니다. 이 서버에서는 바이든의 목소리를 사용한 미디어 및 소셜 미디어 게시물에 대한 링크를 공유하며, 혹은 도널드 트럼프와 바라크 오바마의 AI 생성 버전을 사용하는 미디어도 공유합니다. 잘못된 손에 딥페이크 기술의 힘은 정말로 불안정합니다. 😨
기술이 규제를 앞서간다: 실제 문제 🌐
ElevenLabs는 AI 음성 복제 분야에서 시장을 선도하고 있지만, 비슷한 기술이 기업과 개인들에게도 제공되면서 비즈니스 기회 뿐만 아니라 악용의 가능성도 생겨났습니다. 이러한 도구들의 남용을 규제하는 것은 보편적으로 접근 가능한 상황에서 점점 더 어려워지고 있습니다. “우리는 실제로 문제가 있다”라고 비영리 단체 Witness의 프로그램 디렉터인 Sam Gregory가 강조하며 효과적인 규제의 필요성을 강조합니다. 🚔
진실을 찾아서: 선거용 딥페이크 노출 🕵️♀️
Pindrop과 Berkeley와 같은 전문가들은 AI 생성 범죄통화의 출처를 확인할 수 있는 가능성이 있지만, 이 사건은 2024년 선거 시즌이 다가올 때 당국, 기술 산업 및 대중의 준비 부족을 드러냅니다. 누출된 음성 클립의 출처를 확인하거나 AI로 생성된 클립인지를 전문 지식 없이 판별하는 것은 도전적입니다. 또한, 더 고급진 분석은 AI로 생성된 선전물의 피해를 대처하는 데 충분히 신속하게 완료되지 않을 수 있습니다. 🧩
결론: 신뢰할 수 있는 도구와 신속한 대응 요구 📣
바이든 딥페이크 로보콜 사건은 딥페이크 기술의 무분별한 발전이 선거와 대중의 신뢰에 심각한 우려를 불러일으킨다는 것을 보여줍니다. 취재인, 선거 당국 및 기타 관계자들은 누출된 음성 클립의 진위나 원본을 빠르게 확인할 수 있는 안정적인 도구가 부족합니다. 선거를 바꿀 수 있는 극단적인 딥페이크에 직면할 때 시간이 중요합니다. 견고한 도구와 신속한 대응의 긴요함이 중요합니다. 🚨
✅ 추가 질문 및 답변 내용:
Q: 음성 복제 기술은 악용만이 존재하는가요?
A: 아니요, 음성 복제 기술은 엔터테인먼트 및 오디오북과 같은 산업에서 합법적으로 사용됩니다. 그러나 그의 악용 가능성은 특히 선거 캠페인에서 중대한 우려를 불러일으킵니다.
Q: 선거에서 딥페이크 로보콜의 잠재적 결과는 무엇인가요?
A: 딥페이크 로보콜은 유권자 억제, 잘못된 정보 전달 및 대중 의견 조작 등 심각한 결과를 가져올 수 있습니다. 이는 민주적 과정의 정당성을 훼손시키고 대중 신뢰를 침탈합니다.
Q: 딥페이크 로보콜과 잘못된 정보로부터 어떻게 보호할 수 있나요?
A: 딥페이크 기술의 사용에 대한 규제와 감시를 시행하고, 강력한 탐지 도구에 투자함으로써 딥페이크 로보콜과 잘못된 정보의 확산에 대항할 수 있습니다. 또한, 미디어 리터러시와 교육을 통해 개인들이 진짜와 조작된 콘텐츠를 구별할 수 있도록 하는 것이 중요합니다.
✨ 딥페이크 기술이 선거에 미치는 위험에 대한 인식을 확산하기 위해 이 기사를 공유하는 것을 잊지 마세요! ✨
참고 문헌:
- 대통령 조 바이든을 흉내 내는 AI 생성 로보콜
- 음성 복제 스타트업 ElevenLabs
- ElevenLabs의 안전 정책
- Pindrop의 통화에서의 분석
- ElevenLabs의 AI 음성 감지기
- ElevenLabs의 도구를 정치적 선전물로 수용한 의심
- ElevenLabs의 투자자들
- Witness – 인권 증진을 위한 기술 활용
