스웨덴 총리, 정부 결정에 ChatGPT 사용에 대해 비판받아

스웨덴의 총리인 울프 크리스테르손이 정부 결정에 대한 아이디어를 도출하기 위해 ChatGPT를 사용했다고 인정한 후 비판에 직면했습니다.

스웨덴의 총리 울프 크리스테르손은 자신이 공식적인 결정 과정을 돕기 위해 ChatGPT와 LeChat을 사용하는 습관을 공개한 후 점점 더 많은 공론의 반발을 받고 있다.

“저도 꽤 자주 이용하게 됩니다. 다른 이유 없어도, 적어도 두 번째 의견을 듣기 위해서라도,”라고 크리스터손이 The Guardian에 보도된 대로 말했습니다. “다른 사람들은 어떻게 했는지? 그리고 우리는 완전히 반대의 생각을 가져야 하는지? 이런 종류의 질문들이죠.”

그의 발언은 반발을 일으켰고, 아프톤블라뎃은 그가 “올리가키들의 AI 피해 망상”에 빠졌다고 비난했습니다. 이는 The Guardian에서 보도되었습니다. 비판가들은 정치적 판단을 AI에 의존하는 것이 무모하며 비민주적이라고 주장했습니다.

“신뢰성이 보장될 수 있음을 요구해야 합니다. 우리는 ChatGPT를 투표하지 않았습니다.”라고 Umeå University의 책임 있는 AI 교수인 Virginia Dignum이 말했습니다.

Kristersson의 대변인인 Tom Samuelsson은 논란을 경시하며, “당연히 거기에 민감한 정보가 들어가는 것은 아닙니다. 그것은 보다 야구장처럼 사용됩니다.”라고 The Guardian에서 보도했습니다.

그러나 기술 전문가들은 위험이 데이터 민감도 이상으로 나아간다고 말합니다. Karlstad 대학의 Simone Fischer-Hübner 교수는 The Guardian에서 언급한 바와 같이 ChatGPT와 유사한 도구를 공식 업무에 사용하는 것을 권하지 않습니다.

AI 연구자 David Bau는 AI 모델이 조작될 수 있다고 경고하였습니다. “사람들이 자신의 숨겨진 의제를 훈련 데이터에 끼워 넣는 방법을 보여주었는데, 이는 매우 탐지하기 어렵습니다.” 연구에 따르면 메모리 주입 또는 “Rules File Backdoor” 공격을 사용하여 AI 시스템을 95%의 성공률로 오도하는 것이 가능하다고 보여주었으며, 이는 정치적 의사결정에서 보이지 않는 간섭에 대한 우려를 증폭시킵니다.

더 나아가, AI가 민주주의를 침식하는 데에서 추가적인 위험이 발생합니다. 최근의 연구에 따르면 법 집행에서의 AI 시스템은 권력을 집중시키고, 감독을 줄이며, 권위주의를 촉진할 수 있다고 경고하고 있습니다.