유엔에서 AI 무기의 미래에 대해 국가들이 토론하다

월요일에 뉴욕에서 열린 UN 총회에서 여러 나라들이 AI가 제어하는 자율 무기의 미래와 이들의 사용을 규제할 잠재적 규정에 대해 논의하였습니다. 전문가들은 국제적인 합의 부족과 시간 부족을 이유로 촉박함을 경고하고 있습니다.

로이터에 따르면, AI는 이미 우크라이나와 가자 지역과 같은 곳에서 현재의 충돌에 중요한 역할을 하고 있습니다. 몇 달 전 우크라이나는 AI 시스템을 훈련시키기 위해 약 200만 시간의 전장 영상을 수집했다고 밝혔습니다.

AI 기술에 대한 규제 체계는 발전 속도를 따라가는 데 어려움을 겪고 있습니다. 2014년부터 제네바의 특정 전통적 무기에 대한 협약(CCW)에서 자율 무기에 대한 논의가 이어져 왔지만, 현재까지 구속력 있는 전세계적 규정은 마련되지 않았습니다.

유엔 사무총장 안토니오 구테레스는 새로운 법적 틀에 대한 국제적 합의를 이루기 위한 목표를 2026년으로 설정하였습니다.

“시간이 정말로 부족해지고 있어서, 가장 유명한 전문가들이 경고하고 있는 악몽 같은 시나리오들이 현실화되지 않도록 어떤 안전장치를 설치해야 할 필요가 있다.”라고 오스트리아 외무부의 무기통제 담당자인 알렉산더 크멘트가 로이터에게 말했습니다.

자율 무기 외에도, 이번 주 회의에서는 인권과 윤리적 고려사항, 비국가 주체의 참여와 같은 다른 중요한 주제들도 다룰 예정입니다. 대부분의 국가들은 구속력 있는 전역적인 틀을 만드는 것을 지지하지만, 중국, 미국, 인도, 러시아와 같은 일부 국가들은 기존의 국제 법이나 국가 가이드라인에 의존하는 것을 선호합니다.

여러 단체들, 특히 휴먼라이츠워치 등이 자율 무기의 무제한 확산에 대해 우려를 표현하고 있습니다. 라이프 인스티튜트는 아프리카, 중동, 우크라이나 등의 지역에서 약 200개의 자율 무기 시스템이 사용되고 있다고 보고하고 있습니다.

“우리는 일반적으로 산업 자체 규제를 신뢰하지 않습니다… 방위 또는 기술 회사가 더 신뢰할 만 한 이유가 없다”고 스톱 킬러 로봇의 캠페이너인 로라 놀란이 로이터와의 인터뷰에서 말했습니다.

무기 개발을 위한 AI와 자율 시스템의 사용이 기술 산업에서 점점 더 널리 퍼져가고 있습니다. 몇 달 전 구글은 무기를 위한 AI 사용 금지를 해제했습니다, 중국의 연구자들은 군사적 용도로 Meta의 Llama 모델을 사용하고 있습니다, 그리고 스타트업 Theseus는 최근에 자율 드론 개발을 위해 430만 달러를 조달했습니다.