연구자들이 경고, AI가 지시 없이도 시장을 조작할 수 있다

새로운 연구에 따르면, 기본적인 AI 봇조차도 거래 시뮬레이션에서 담합을 배울 수 있으며, 인간의 지도 없이 가격 고정 카르텔을 형성할 수 있다는 것이 밝혀졌습니다.

인공 지능 봇은 지능이나 악의가 없어도 시장 조작 능력을 보여줍니다.

새로운 연구에서 워튼 스쿨과 홍콩 과학 기술 대학의 연구자들은 심지어 “멍청한” AI 봇들조차도 어떠한 인간의 지시 없이 공모하는 방법을 배울 수 있음을 보여주었으며, 이는 규제당국에게 심각한 우려를 제기하고 있습니다.

“아주 단순한 AI 알고리즘들이 공모하는 방법을 배울 수 있습니다.”라고 연구 공동저자이며 워튼 스쿨의 재무 교수인 이타이 골드스틴이 Bloomberg에 보도하면서 말했습니다. “시장이 매우 시끄럽거나 조용할 때 모두 이 현상이 매우 만연하게 보입니다.”라고 그는 덧붙였습니다.

연구자들은 소매 투자자와 상호 기금이 포함된 시뮬레이션 거래 시장을 구축하였고, 그 후 강화 학습 봇이 거래를 실행하도록 허용하였습니다.

봇들은 설계에 공모 행위가 내장되어 있지 않음에도 불구하고, 예상치 못한 협력 경향을 보여주었으며, 이로 인해 가격 고정과 이익 최적화가 이루어졌습니다.

시끄러운 시장 상황과 명확한 시장 상황에서도, 그들은 결국 “정착”을 선택하여 더 나은 전략을 찾는 것을 멈추었습니다. 연구자들은 이것을 Bloomberg가 보도한 바와 같이 “인공적인 멍청함”이라고 표현했습니다.

“인간에게는 우리가 자아를 가지고 있기 때문에 멍청하게 행동하는 것을 조정하는 것이 어렵습니다.”라고 공동 저자인 Winston Dou가 Bloomberg에게 말했습니다. “하지만 기계들은 ‘숫자들이 이익을 내는 한, 우리는 멍청하게 행동하는 것을 조정하기로 선택할 수 있습니다.'”라고 연구자는 덧붙였습니다.

봇들은 “공모 능력” 척도에서 0.5 이상의 점수를 받았는데, 여기서 1은 완벽한 카르텔을 나타냅니다. 이 결과는 실제 시장에서 이러한 행동이 일어나고 있다는 것을 증명하지는 않지만, 경고의 의미로 받아들여집니다.

“그들은 자신들의 의도가 아니라는 데 걱정이다”라고 Bloomberg에서 보도한 자산 관리자에 대해 Dou가 말했습니다. “하지만 규제기관이 그들에게 다가와서 ‘당신은 잘못된 일을 하고 있다’라고 말할 수 있다”고 Dou는 덧붙였습니다.

이 연구는 규제 당국이 의도나 소통보다는 행동 결과에 초점을 맞추도록 촉구합니다. 아이러니하게도, AI의 복잡성을 제한하는 것은 봇을 단순하고 유리한 루틴에 갇아두어 공모를 악화시킬 수 있습니다.