유명인 AI 딥페이크가 인터넷을 범람하고 있습니다. 할리우드가 의회에 맞서 싸우라고 촉구하고 있습니다.

스티브 하비는 "패밀리 퓨드" 참가자들에게 돈을 주거나 라디오 쇼에서 조언을 제공하는 것으로 가장 잘 알려져 있습니다.
하지만 최근 몇 년 동안 그는 AI가 만든 밈의 인기 있는 표적이 되었는데, 그중 대부분은 유머러스하고 겉보기에 무해한 것들입니다. 예를 들어 하비를 록 스타로 묘사하거나 악마에게서 도망치는 모습을 묘사한 것들이 있습니다.
그러나 더 사악한 행위자들은 하비의 이미지, 목소리, 모습을 AI가 생성한 버전을 이용해 사기를 저지르고 있습니다.
작년에 하비는 테일러 스위프트와 조 로건과 같은 유명인의 목소리를 AI가 모방해 정부에서 자금을 지원하겠다고 약속하는 사기극을 홍보하는 데 사용된 적이 있습니다.
"몇 달 동안 여러분께 6,400달러를 무료로 청구하라고 말했어요." 하비의 목소리와 비슷한 목소리가 한 영상에서 말합니다 .
이제 Harvey는 이러한 사기의 배후에 있는 사람들과 이를 호스팅하는 플랫폼에 대한 법률과 처벌을 옹호함으로써 목소리를 높이고 있습니다. 그리고 의회는 경청하는 듯합니다. 의회는 AI의 악의적 사용 배후에 있는 사람들을 처벌하는 것을 목표로 하는 여러 가지 법률을 고려하고 있는데, 여기에는 제작자와 플랫폼이 허가 없이 AI가 생성한 이미지, 비디오 및 사운드에 대한 책임을 지도록 하는 No Fakes Act의 업데이트된 버전이 포함됩니다.
델라웨어주의 민주당원 크리스 쿤스와 미네소타주의 에이미 클로부샤 , 테네시주의 공화당원 마샤 블랙번과 노스캐롤라이나주의 톰 틸리스를 포함한 이 법안을 지지하는 양당 상원의원 그룹은 향후 몇 주 안에 이를 재도입할 계획이라고 이 문제에 정통한 소식통이 CNN에 말했습니다. 이는 AI가 생성한 딥페이크 포르노를 범죄화하는 것을 목표로 하는 다른 법안인 Take It Down Act에 합류한 것으로, 이 법안 역시 의회에 상정되어 있으며 이번 주에 멜라니아 트럼프 대통령의 지지를 받았습니다 .
하비는 2025년에 자신의 모습을 이용한 사기가 "역대 최고조에 달했다"고 말했습니다.
"저는 제 브랜드가 진정성이라는 것을 자랑스러워했고, 사람들은 그것을 알고 있고, 그래서 제가 진정한 사람으로 알려지고 신뢰받는다는 사실을 매우 진지하게 받아들였습니다." 하비는 "패밀리 퓨드" 에피소드 촬영 사이에 타일러 페리 스튜디오에서 CNN과의 인터뷰에서 이렇게 말했습니다. "지금 제가 걱정하는 것은 그것이 영향을 미치는 사람들입니다. 저는 제 팬이든 팬이 아닌 사람이든 무언가에 의해 상처를 받는 것을 원하지 않습니다."
주요 음반 아티스트, 배우 및 기타 유명인은 기술이 빠르게 진화함에 따라 지난 2년 동안 AI 스캔들에 휘말렸습니다. 사기꾼들이 브래드 피트의 AI 생성 이미지를 사용하여 그녀가 배우를 돕고 있다고 생각하게 속인 후 프랑스의 한 여성이 85만 달러를 잃었습니다.
AI가 자신과 닮은 꼴을 모방하는 것에 대해 공개적으로 주장한 배우 스칼렛 요한슨도 이 법안을 지지했다.
요한슨은 카니예 웨스트의 반유대주의적 발언에 대한 그녀의 가짜 대응을 묘사한 AI가 생성한 영상이 바이러스처럼 퍼진 후 CNN에 보낸 2월 성명에서 " 미국을 제외한 몇몇 진보적인 국가들이 책임감 있는 방식으로 대응한 AI와 관련하여 1,000피트 높이의 파도가 다가오고 있습니다."라고 말했습니다. "미국 정부가 모든 시민을 AI의 임박한 위험으로부터 보호하는 법안을 통과시키는 데 있어 마비 상태에 있다는 것은 무섭습니다."
하비는 또한 음반 아카데미, 미국 배우 조합, 영화 협회, 주요 연예 기획사 및 할리우드의 거물들의 지지를 받은 이 법안을 지지한다고 말했습니다.
하비는 "그것은 언론의 자유이고, '내가 원하는 대로 말하게 하라'는 자유가 아닙니다."라고 말했습니다. "그것은 자유가 아니라 학대입니다. 그리고 의회는 이 일에 개입해야 합니다. 왜냐하면 그것은 결국 의회에도 피해를 줄 것이기 때문입니다."
No Fakes Act를 재도입하기 전에 상원의원들은 또한 온라인 플랫폼의 지지를 얻기를 바라고 있는데, 이 플랫폼은 이 법안에 따라 해당 AI 콘텐츠를 호스팅한 것에 대해 처벌을 받을 가능성이 있습니다. 현재 법안은 각 위반에 대해 플랫폼에 5,000달러의 벌금을 부과합니다. 즉, 바이러스성 AI 창작은 수백만 달러의 벌금에 빠르게 합산될 수 있습니다. 이 법안에 대해 잘 아는 소식통은 플랫폼이 더 낮은 벌금을 희생하고 도입되지 않을 것이라고 말했습니다.
"우리는 지금껏 지지를 보류한 플랫폼에 대해 매우 명확하게 말했습니다. 우리가 이 법안을 만드는 사람들, 즉 창의 산업에 종사하는 사람들이 동의하지 않는 한, 우리는 어떤 변화도 만들지 않을 것입니다." 법안에 대해 잘 아는 사람이 CNN에 말했습니다. "우리는 플랫폼을 끌어들이기 위해 그들을 팔아치우지 않을 것입니다."
하지만 Public Knowledge, Center for Democracy and Technology, American Library Association, Electronic Frontier Foundation과 같은 공익 옹호 단체를 포함한 이 법안의 비판자들은 이 법안이 너무 많은 규제를 도입한다고 우려합니다. 그들은 작년에 상원 의원들에게 보낸 편지에서 이 법안이 수정 헌법 제1조 권리를 위협하고 잘못된 정보를 제공할 수 있으며, "폭풍" 같은 소송으로 이어질 수 있다고 경고했습니다.
"우리는 많은 사람이 디지털 복제 기술이 오용될 수 있는 방식에 대해 표현한 심각한 우려를 이해하고 공유합니다. 일반인은 물론 공연자와 유명인에게도 피해를 줄 수 있습니다."라고 그들은 썼습니다. "이러한 피해는 심각한 주의를 받을 만하며, 이를 방지하려면 기존 법률의 격차를 메우는 법률 제정이 필요할 것입니다. 안타깝게도 최근에 도입된 NO FAKES 법안은 완전히 새로운 연방 지식재산권 권리를 도입하는 데 너무 과도합니다."

하지만 의회가 움직이면서 AI는 계속 진화하고 있습니다. 그리고 유명인들은 자기 모습을 사용하여 모방자를 추적할 수 있는 방법에 한계가 있다고 느낀다고 말합니다. 특히 익명의 온라인 계정의 경우 더욱 그렇습니다.
바로 여기서 Vermillio AI와 같은 회사가 등장합니다. 주요 인재 에이전시 및 영화 스튜디오와 협력하는 이 회사는 TraceID라는 플랫폼을 사용하여 클라이언트의 AI 인스턴스를 추적하고 일반적으로 번거로운 삭제 요청을 자동화합니다.
"2018년에는 딥페이크 콘텐츠가 19,000개 정도 있었습니다." Vermillio CEO Dan Neely가 CNN과의 인터뷰에서 말했습니다. "오늘날에는 매분 약 100만 개가 생성됩니다."
유명인의 경우, 딥페이크를 추적하는 것은 특히 어려울 수 있습니다. 소셜 플랫폼에서 매우 빠르게 퍼질 수 있기 때문입니다. "그래서 Whack a Mole 게임을 하면서 그것을 찾으려고 하는 것은 매우 복잡합니다."라고 Neely는 말했습니다.
닐리는 CNN 하비의 버밀리오 계정을 보여줬는데, 여기에는 하비처럼 들리도록 만들어진 AI 음성 생성 챗봇과 TV 인물이 도박을 조장하는 가짜 영상이 포함되어 있었습니다.
Neely는 이 회사의 기술이 일종의 "지문"을 사용하여 진짜 콘텐츠와 AI에서 생성된 자료를 구별한다고 말했습니다. 여기에는 LLM이라고도 알려진 대규모 언어 모델을 사용하여 변조된 이미지를 웹에서 크롤링하는 것이 포함되며, 이는 많은 인기 있는 생성 AI 서비스의 구성 요소입니다.
"당신의 이미지는 수백만 개의 데이터로 구성되어 있습니다." 닐리는 말했다. "그 데이터 조각을 어떻게 사용하여 인터넷에서 어디에 있는지 찾을 수 있을까요?"
유명인은 Vermillio와 같은 서비스를 이용할 여유가 있습니다. 하지만 다른 크리에이터에게는 리소스가 더 적습니다.
"우리가 뭔가를 빨리할수록 우리 모두가 더 나아질 거라고 생각해요." 하비가 말했다. "왜 기다리나요? 누군가가 뭔가를 하기 전에 이 일로 인해 다치는 사람을 얼마나 많이 지켜봐야 하나요?"