AI 쇼핑 테스트 실패: 클로드가 공짜로 나눠주고, 환각을 경험하며, 돈을 잃어버렸습니다

Anthropic 팀은 AI 시스템이 소매점으로 운영될 수 있는지 확인하기 위해 테스트를 진행했습니다. 그러나 그들의 챗봇인 Claude는 무료 상품을 제공하고 가짜 거래를 생성하면서 동시에 돈을 잃었습니다.

AI가 정말로 당신의 일자리를 빼앗을 수 있을까요? Anthropic의 CEO인 다리오 아모데이는 AI가 인간 노동자를 대체할 가능성이 높다고 예측합니다. Axios에 따르면, 다리오의 말에 따르면 AI 시스템은 앞으로 5년 동안 약 45%의 신입 사무직 포지션을 없앨 것이다. 이는 실업률이 10-20% 사이에 도달할 수 있음을 의미합니다.

다른 주요 기업들도 같은 방향으로 움직이고 있습니다. 예를 들어, 아마존 CEO인 앤디 재시는 최근에 인공지능(AI)에 크게 의존하면서 일자리를 줄이겠다고 발표했습니다. 이미 1,000개 이상의 AI 도구를 배치하고 있으며, 앞으로 주요한 직장 변화를 예상하고 있습니다.

유엔 무역개발회의(UNCTAD)는 최근 보고서에서 AI가 전 세계 직업의 40%에 영향을 줄 수 있다고 경고했습니다. AI는 특히 개발 도상국에서 생산성을 향상시키고 노동자를 돕는 잠재력이 있지만, 세계적인 불평등을 악화시킬 위험도 동시에 내포하고 있습니다.

한편, Anthropic은 특이한 실험을 진행했습니다. 그들은 챗봇인 Claude에게 자체 샌프란시스코 사무실 내의 작은 상점을 운영하라고 요청했습니다. 이는 처음으로 Time에서 보도되었습니다. 챗봇인 Claude는 선반 정리, 가격 관리, 고객 서비스를 포함한 모든 소매업무를 수행했습니다.

“우리는 자율 경제가 어떻게 전개될 지를 이해하려고 했습니다.”라고 Anthropic의 연구원인 Daniel Freeman이 Time에 보도된 바 있습니다.

처음에는 클로드가 능력이 있는 것처럼 보였지만, 시스템이 비정상적인 결과를 내기 시작했습니다. 직원들은 ‘‘공정성’’을 호소하여 클로드로부터 할인 코드를 얻었습니다. 또한 AI는 종종 물건을 무료로 제공했습니다.

“사업 관점에서 너무 자주 클로드는 이를 따랐다”고 Time에 보도된 바에 따르면, Anthropic의 레드 팀 멤버인 케빈 트로이가 말했습니다.

그런 다음 텅스텐 큐브가 등장했습니다. 그것을 사는 농담이 에스컬레이트 되어서, 클로드 클로드가 40개의 밀도 높은 금속 블록을 구매하게 되었고, 이로 인해 상당한 금융적 손실을 입었습니다. “어느 순간부터는 AI로부터 텅스텐 큐브를 주문하는 것이 많은 사람들에게 재미있게 느껴지기 시작한다”라고 트로이가 타임(Time)에 보도된 바 있습니다.

AI 시스템은 존재하지 않는 사람과의 가짜 대화를 만들어냄과 동시에, 심슨 가족의 가상 주택에서 계약을 실행했다고 주장했습니다. 또한, 타임(Time)은 클로드가 직원들에게 자신이 네이비 블루 블레이저와 레드 넥타이를 입고 자판기 앞에 있다는 메시지를 보냈다고 보도했습니다.

결국, Time은 AI가 돈을 잃었다고 보도했습니다: 상점의 가치가 $1,000에서 $800 미만으로 떨어졌습니다. 그럼에도 불구하고, 연구자들은 개선이 이뤄질 것이라고 믿고 있습니다. “AI 중간 관리자들이 곧 등장할 것으로 보입니다.”라고 그들은 Time에 보도된 바와 같이 적었습니다. “완벽할 필요는 없습니다—단지 인간보다 싼 것이면 됩니다.”라고 연구자들은 덧붙였습니다.