미국 대선을 통해 보는 SNS와 AI 딥페이크 기술의 위험성 META

미국 대통령 선거를 앞두고 소셜 미디어의 감시 체계가 약화되고 AI 딥페이크 기술이 주류화되면서, 선거에 미치는 잘못된 정보의 확산과 그 영향에 대해 전문가들이 경고하고 있습니다. 이러한 변화가 미국 대선에 어떤 영향을 미칠지 분석해봅니다.

---

 

 

소셜 미디어의 안전장치 약화와 딥페이크 기술의 등장

2023년 12월 26일, 뉴욕에서 보도된 바에 따르면, 미국 소셜 미디어의 안전장치가 점점 약화되고 있으며, AI 기반의 딥페이크 기술이 주류화되고 있습니다. 이는 잘못된 선거 관련 정보의 확산을 용이하게 하고, 선거에 영향을 미칠 수 있는 위험을 증가시키고 있습니다.

IT 기업들의 대응: Meta, YouTube, 그리고 X

• Meta와 YouTube의 AI 라벨링 정책: Meta(페이스북과 인스타그램 소유)와 YouTube는 AI 라벨링 정책을 도입하여 선거 관련 가짜 정보에 대응하고 있습니다. 이 정책은 가짜 정보를 식별하고 사용자들에게 경고하는 데 목적이 있지만, 이러한 가짜 정보를 일관되게 감지하는 데는 한계가 있습니다.
• 트위터의 변화와 X의 등장: Elon Musk가 트위터를 인수한 후, 트위터의 검증 시스템을 폐지하고, 가짜 정보에 대항하던 팀을 해체했습니다. 이러한 변화로 인해 플랫폼은 사용자 커뮤니티 스스로의 조절에 의존하게 되었으며, 이는 가짜 정보와 헤이트 스피치의 확산을 증가시켰습니다.
• 정책 삭제와 인력 감축의 영향: 2024년을 앞두고 X, Meta, 그리고 YouTube는 헤이트 스피치와 가짜 정보에 대응하는 17개의 정책을 제거했습니다. 이러한 정책 삭제와 콘텐츠 모더레이터를 포함한 수천 명의 직원과 계약자 감축은 2024년의 선거가 2020년보다 더 나쁜 상황으로 치달을 수 있다는 우려를 낳고 있습니다.

 

Meta와 YouTube의 현재 상황

• Meta의 안전 및 보안 조치: Meta는 자사 웹사이트에서 안전과 보안을 위해 약 40,000명의 인력을 투입하고 있으며, 사회적 혼란을 조성하는 목적의 가짜 소셜 미디어 계정 네트워크를 자주 삭제한다고 밝혔습니다.
• YouTube의 뉴스 제공: YouTube의 대변인 Ivy Choi는 플랫폼이 사용자들에게 신뢰할 수 있는 선거 뉴스를 제공하는 추천 및 정보 패널을 가지고 있다고 설명했습니다.
• 새로운 플랫폼의 등장과 정보의 분열: TikTok과 Telegram, Truth Social, Gab과 같이 덜 규제된 새로운 플랫폼들의 등장은 온라인에서의 정보 분열을 증가시키고 있습니다. WhatsApp과 WeChat과 같은 앱들은 개인 채팅에 의존하며, 외부 그룹이 가짜 정보의 확산을 감지하기 어렵게 만들고 있습니다.

 

정리

• AI 라벨링의 미래: AI 라벨링 정책은 계속해서 발전해야 할 필요가 있으며, 이는 기술적인 진보뿐만 아니라, 정책적인 면에서도 중요합니다. 소셜 미디어 플랫폼은 끊임없이 변화하는 디지털 환경 속에서 잘못된 정보와의 싸움에 있어 핵심적인 역할을 담당하게 될 것입니다.
• 사용자 및 정책 입안자의 역할: 정보 소비자들은 AI 라벨링 정책의 한계를 인식하고, 자신들의 정보 소비에 더욱 주의를 기울여야 합니다. 정책 입안자들은 이러한 기술의 발전과 소셜 미디어 플랫폼의 변화에 대응하기 위해 새로운 규제와 지침을 마련해야 할 필요가 있습니다.