Anthropic은 해커가 자신의 챗봇을 이용해 사이버 공격을 했다고 밝혔습니다.

AI 회사 Anthropic는 수요일에 새로운 사이버 보안 보고서를 발표했으며, 악의적인 행위자들이 그들의 AI 모델 Claude를 복잡한 범죄 작업에 사용했다는 것을 밝혔습니다. 이 스타트업은 최근 한 해커가 약 17개의 기관을 대상으로 새로운 기법인 “바이브 해킹”을 활용했다고 말했습니다.

Anthropic의 발표에 따르면, 이 회사는 기술의 남용을 막기 위해 여러 보안 조치를 시행하였지만, 사이버 범죄자들이 이를 악용하는 방법을 찾아냈습니다.

보고된 사례 중 하나에서, 스타트업은 기본적인 코딩 기술을 갖춘 해커가 에이전틱 코딩 도구인 Claude Code를 사용하여 북한에서 기원한 사기 플랜을 실행하는 주요 범죄 작전을 공개했습니다.

“AI 모델은 이제 복잡한 사이버 공격을 수행하는 데 사용되고 있지만, 그것들을 어떻게 실행할 것인지 조언하는 것뿐만 아니라”라고 발표문에서는 말하고 있습니다. “기술적인 기술이 거의 없는 범죄자들이 AI를 사용하여 이전에는 몇 년의 훈련이 필요했던 복잡한 작업, 예를 들어 랜섬웨어 개발을 수행하고 있습니다.”

주요 사례에서는 해커가 클로드 코드를 사용하여 응급 서비스, 정부 기관, 의료 서비스 제공자, 종교 기관 등 17개 기관의 데이터를 훔쳤습니다. 이 악의적인 행위자는 피해자에게 돈을 갈취하였고, 일부 경우에는 500,000달러 이상을 요구하기도 했습니다.

앤트로픽은 그들의 AI 에이전트가 어떤 데이터를 빼낼지 결정하고, 협박 메시지를 작성하며, 심지어는 각 피해자에게 맞춤형의 몸값 요구액을 제시하는 데 사용되었다고 보고했습니다.

“배우는 우리가 믿기로는 전례 없는 정도로 AI를 사용했다”고 공지에서 밝혔습니다. “이것은 AI가 돕는 사이버범죄의 진화를 나타냅니다.”

회사는 악의적인 작업을 탐지하는 즉시 계정을 차단하고, 앞으로 비슷한 경우를 방지하기 위해 새로운 스크리닝과 탐지 도구를 개발했다고 말했습니다. 전체 보고서에 더 자세한 내용이 포함되어 있습니다.

Anthropic는 또한 부상하고 있는 “바이브 해킹” 기술에 대해 경고하였습니다. “AI가 보조하는 코딩이 기술적 전문성을 요구하는 사이버 범죄를 줄이기 때문에 이런 종류의 공격이 더욱 흔해질 것으로 예상한다”고 회사는 밝혔습니다.

마지막으로, Anthropic는 AI가 기존의 사이버 계획에 점점 더 통합되고 있다고 지적하며, 4월에 보고된 북한 IT 직원 사기 같은 사례를 들었습니다. 이 사례에서 해커들은 미국 시민의 신원을 도용하여 미국에서 원격 작업을 확보하였습니다.