OpenAI, 안전성 강화한 Sora 2 공개
- •Sora 2는 AI 콘텐츠 식별을 위해 C2PA 메타데이터와 동적 워터마크를 도입했다.
- •새로운 '캐릭터' 기능을 통해 사용자는 디지털 초상권에 대한 완전한 통제권과 철회 가능한 동의권을 갖는다.
- •성인용 콘텐츠와 무단 음성 모방을 포함한 유해 콘텐츠를 차단하는 다층적인 모니터링 필터를 적용했다.
OpenAI가 영상 생성 생태계의 중대한 진화인 Sora 2를 발표했다. Sora 2는 초기 설계 단계부터 안전성과 창작자의 통제권을 최우선으로 고려했다는 점이 특징이다. 실험적인 성격이 강했던 이전 단계와 달리, Sora 2는 콘텐츠 출처 신호 전달에 집중하며 생성되는 모든 영상에 업계 표준인 C2PA 메타데이터를 태그로 삽입하도록 했다. 이 디지털 서명은 콘텐츠의 '영양성분표' 역할을 수행하며, 플랫폼과 사용자가 해당 영상이 AI에 의해 합성된 것인지 아니면 카메라 렌즈에 포착된 실제 장면인지를 손쉽게 확인할 수 있도록 돕는다.
가장 혁신적인 추가 기능 중 하나는 디지털 신분 도용과 딥페이크에 대한 우려를 해소하기 위해 도입된 '캐릭터' 기능이다. 사용자는 특정 캐릭터를 정의하고 자신의 외모나 형상에 대해 절대적인 권한을 유지할 수 있으며, 언제든지 이에 대한 접근 권한을 철회할 수 있게 됐다. 이처럼 동의 기반 모델로의 전환은 미성년자가 등장하는 영상에 대한 더욱 엄격한 검토 정책과 실제 인물 참조 자료를 업로드할 때 사용자의 허가 여부를 확인하는 절차를 통해 더욱 강화되었다.
시각적 안전 외에도 Sora 2는 유해하거나 저작권을 침해하는 콘텐츠 생성을 방지하기 위해 강력한 오디오 및 텍스트 가이드라인을 구현했다. 시스템은 정책 위반 여부를 확인하기 위해 음성 대본을 사전에 스캔하며, 특히 허가 없이 생존 예술가의 목소리를 흉내 내려는 시도를 원천 차단한다. 가시적인 워터마크부터 선제적인 필터링까지 이러한 다층적인 방어 체계를 구축함으로써, OpenAI는 고화질 영상 생성의 창의적 잠재력과 모든 사용자를 위한 안전한 디지털 환경 조성 사이의 균형을 맞추고자 한다.