Anthropic이 안전 경고와 함께 최신 모델 Claude 4를 출시했습니다.

AI 스타트업 Anthropic은 이번 목요일에 가장 최신이자 강력한 AI 모델인 Claude 4를 출시했습니다. 이 기술 회사는 Claude Sonnet 4와 Claude Opus 4, 두 가지 모델을 소개하였으며, 이 중 최신 모델에 대해 안전 보호 계층을 포함하고 있으며, 그것을 기만적인 행동과 잠재적인 위험 때문에 ‘Safety Level 3’로 규정하였습니다.

공지에 따르면, 새로운 AI 모델들은 고급 코딩 능력, 향상된 추론 능력 및 에이전트 행동을 특징으로 합니다. Claude Sonnet 4와 Claude Opus 4는 확장된 사고 모드에서 웹을 검색하고 동시에 여러 작업을 수행할 수 있는 하이브리드 모델입니다.

Anthropic은 이 새로운 모델들이 OpenAI o3, OpenAI GPT-4.1 그리고 Gemini 2.5 Pro 등의 경쟁 시스템들을 능가한다고 주장하고 있습니다.

다음 세대를 소개합니다: Claude Opus 4와 Claude Sonnet 4.

Claude Opus 4는 우리가 만든 가장 강력한 모델이며, 세계 최고의 코딩 모델입니다.

Claude Sonnet 4는 전 모델에서 크게 업그레이드되어, 우수한 코딩 및 추론 능력을 제공합니다. pic.twitter.com/MJtczIvGE9

— 앤트로픽 (@AnthropicAI) 2025년 5월 22일

“클로드 오퍼스 4는 복잡하고 장기간 실행되는 작업과 에이전트 워크플로우에서 지속적인 성능을 보여주는 세계 최고의 코딩 모델입니다.”라고 공지에 나와있습니다. “클로드 소네트 4는 클로드 소네트 3.7에 비해 크게 업그레이드되어, 더욱 우수한 코딩과 추론 능력을 발휘하며, 사용자의 지시에 더욱 정확하게 반응합니다.”

CNBC에 따르면, 앤트로픽은 새로운 챗봇을 개발하는 것보다는 그 챗봇의 에이전트 능력을 향상시키는 데 더욱 집중하고 있다고 합니다. 앤트로픽의 최고 과학 책임자인 제러드 카플란은 복잡한 작업이 더 많은 위험을 초래할 수 있다는 것을 이해하고 있으며, 이를 완화하고 AI 모델이 동시에 여러 작업을 수행할 수 있도록 하고 있다고 말했습니다.

“우리는 지난해부터 이러한 모델들을 훈련시키고 있었고, 그것들을 정말로 기대하고 있었습니다.”라고 Kaplan이 CNBC와의 인터뷰에서 말했습니다. “저는 이 모델들이 에이전트로서, 코더로서 훨씬, 훨씬 강력하다고 생각합니다. 새로운 인프라를 사용하여 이 모델들을 훈련시키는 것이 내부적으로 꽤 투쟁이었습니다… 모든 것을 세팅하고 운영하기 위해 팀들이 매우 마지노선까지 끌고 가게 만들었습니다.”

새로운 모델 발표와 함께, Anthropic는 Claude Opus 4에 대한 안전 공지도 함께 발표했습니다. 이는 모델에 안전 장치가 포함되어 있으며, 그들이 AI 안전 레벨 3(ASL-3)을 활성화했다는 점을 강조하고 있습니다. 이는 표준 안전 프로토콜에 따르면 고위험 분류에 해당합니다.

“우리는 예방적이고 임시적인 조치로서 ASL-3 조치와 함께 Claude Opus 4를 배포하고 있습니다,”라고 문서에 명시되어 있습니다. “명확하게 말하면, 우리는 아직 Claude Opus 4가 ASL-3 보호 조치를 필요로 하는 능력 임계값을 확실히 넘었는지 아직 판단하지 않았습니다.”

Anthropic은 이 모델의 위험성-그것의 사기적인 행동 및 잠재적인 “생물학적 무기화 대리 작업”을 포함한-그리고 이러한 위험성을 완화하기 위해 취한 조치에 대해 더 자세히 설명하는 보고서를 공유했습니다. 이 인공지능 회사는 안전 조치를 개선하기 위해 다른 회사, 시민 사회, 정부와 협력하면서 모델을 계속 감독할 것임을 확신시켰습니다.