과학자들, 가짜 AI 비디오를 드러내기 위해 빛 코드를 숨김

코넬 연구진들이 가짜 또는 조작된 비디오를 감지하는 데 도움이 되는 새로운 기술을 개발했고, 이를 통해 빛에 비밀 워터마크를 삽입하였습니다.

연구자들은 이 방법이 중요한 이벤트 또는 핵심 위치인 기자회견이나 건물 전체에서 빛의 거의 눈에 띄지 않는 변동을 숨긴다고 설명하였습니다.

이러한 변동은 인간의 눈에는 눈치채지 못하지만, 특별한 조명 아래에서 촬영된 모든 비디오에서 포착됩니다. 이 조명은 컴퓨터 화면, 사진용 램프, 또는 기존의 내장형 조명에 프로그래밍될 수 있습니다.

“비디오는 진실의 근원으로 취급되었지만, 이제는 우리가 그 가정을 할 수 없다”라고 코넬 대학의 컴퓨터 과학 부문 부교수인 아베 데이비스가 이 아이디어를 제기하며 말했습니다.

“이제 여러분은 원하는 대로 비디오를 만들 수 있습니다. 이것은 재미있을 수 있지만, 또한 문제가 될 수도 있습니다. 왜냐하면 진짜인지 아닌지를 구별하기가 점점 더 어려워지고 있기 때문입니다,”라고 Davis는 덧붙였습니다.

기존의 워터마크 기법은 비디오 파일을 직접 수정하는데, 이는 카메라나 AI 모델의 동의가 필요합니다. Davis와 그의 팀은 이러한 제한을 우회하여 빛에 코드를 임베딩함으로써, 누가 녹화하든 상관없이 실제 비디오에는 늘 숨겨진 워터마크가 포함되도록 보장하였습니다.

각각의 코드화된 빛은 약간 다른 조명 아래 있는 장면에 대한 저화질, 시간이 표시된 “코드 비디오”를 생성합니다. “누군가가 비디오를 조작하면, 조작된 부분들이 이 코드 비디오에서 보이는 것과 모순을 보이기 시작합니다,”라고 데이비스는 설명했습니다.

“그리고 만약 누군가가 AI로 가짜 비디오를 생성하려고 시도한다면, 결과적으로 나오는 코드 비디오들은 그저 무작위 변화처럼 보일 뿐입니다,”라고 데이비스는 덧붙였습니다.

프로젝트 리더인 피터 마이클은 팀이 인간 지각 연구를 바탕으로 눈에 띄지 않는 빛 코드를 만들었다고 설명했습니다. 이 시스템은 일반적인 조명 “노이즈” 패턴을 사용하여 비밀 키 없이는 감지가 어렵게 만듭니다. 프로그래밍 가능한 조명은 소프트웨어로 코드화 될 수 있으며, 오래된 램프는 우표 크기의 작은 칩을 사용할 수 있습니다.

팀은 같은 장면 내에서 서로 다른 조명에 대해 최대 세 개의 별도 코드를 성공적으로 구현하여 이를 위조하는 어려움을 크게 증가시켰습니다. 이 시스템은 야외에서, 그리고 다양한 피부 톤에서 그 효과성을 입증하였습니다.

그럼에도 불구하고, 데이비스는 오해의 정보에 대한 싸움이 아직 끝나지 않았다고 경고합니다. “이것은 중요한 지속적인 문제입니다,” 그는 말했습니다. “이 문제는 사라지지 않을 것이며, 사실, 더욱 어려워질 것입니다.”