북한 해커들이 사이버 공격에서 딥페이크 군사 신분증을 위조하기 위해 ChatGPT를 사용했습니다.

의심스럽게 북한 주도의 해킹 그룹이 ChatGPT를 사용하여 사이버 공격의 일환으로 딥페이크 남한 군인 신분증을 만들었다는 소문이 있습니다.

피싱 작업 중 신뢰도를 높이기 위해 공격자들이 가짜 ID 카드를 개발했다고 Bloomberg에서 보도했습니다. 실제 이미지를 포함하는 대신 피싱 이메일에는 피해자의 기기에서 데이터를 훔치도록 설계된 악성 소프트웨어를 다운로드하게 만드는 링크가 포함되어 있었습니다.

해커들은 평양을 위해 일하고 있을 것으로 오랫동안 의심받아온 Kimsuky라는 그룹의 일원으로 추정되고 있습니다. 미국 국토안보부는 2020년에 Kimsuky가 “북한 정부에 의해 전 세계적인 정보 수집 임무를 맡겼을 가능성이 가장 높다”고 발표했는데, 이는 Bloomberg에 보도되었습니다.

최근의 이번 공격에서 피싱 대상에는 북한에 초점을 맞춘 남한의 기자들, 연구원들, 그리고 인권 활동가들이 포함되었습니다. Bloomberg는 피싱 이메일이 심지어 ” .mil.kr”로 끝나는 주소를 사용하여 남한의 군사를 흉내냈다고 설명합니다. 영향을 받은 사람들의 수가 얼마나 되는지는 아직 불분명합니다.

공격자들은 해킹 과정에서 새롭게 등장하는 AI를 이용하여 공격 시나리오 계획, 악성 소프트웨어 개발, 도구 제작, 직업 채용 담당자를 가장하는 등의 작업을 수행할 수 있다고, 이 공격을 처음 발견한 한국 사이버 보안 회사 Genians의 이사인 Mun Chong-hyun이 말했습니다.

Bloomberg에서는 Genians의 연구원들이 처음에는 ChatGPT가 한국에서 정부 ID의 복제가 불법이기 때문에 ID 생성을 거부했지만, 프롬프트를 변경함으로써 이 제한을 우회할 수 있었다고 보도했습니다.

이것은 북한 해커들이 AI를 이용하는 첫 번째 사례가 아닙니다. 예를 들어, 8월에 Anthropic는 해커들이 그들의 Claude Code 도구를 사용하여 미국 포춘 500기업에서 원격 작업을 구하는 것을 보고했습니다.

미국 공무원들은 북한이 계속해서 사이버 공격, 암호화폐 도난, 그리고 IT 계약 업체에 의존하여 정보를 수집하고 그들의 핵 프로그램을 자금화하는 것을 경고하고 있습니다.