보건복지부, AI 도구 도입

보건복지부(HHS)가 모든 직원들의 효율성을 향상시키기 위해 ChatGPT를 도입하였지만, 기밀 정보를 다룰 때는 적절한 주의가 필요하다는 점을 당부하였습니다.

HHS는 모든 직원들에게 이메일을 보내, ChatGPT가 조직 전체의 모든 직원들에게 배포될 것임을 발표하였습니다. 이 이메일은 “AI 배포”라는 제목의 Jim O’Neill 부부장관의 이메일로, 이전에 Palantir에서 일했던 HHS 최고 정보 담당관인 Clark Minor가 주도하는 프로젝트의 일부입니다.

“인공 지능이 건강 관리, 비즈니스, 정부에 개선을 가져오기 시작했습니다,”라는 이메일 내용이 최초로 404Media에 의해 보도되었습니다.

“우리 부서는 이러한 변화를 지원하고 장려하는데 전념하고 있습니다. 전 세계의 많은 사무실에서, 방대한 이메일과 회의의 증가하는 관리 부담은 열정적인 사람들조차도 일을 처리하는 데 방해가 될 수 있습니다. 우리 모두가 미국을 다시 건강하게 만드는 데 진전을 늦출 수 있는 장애물에 대해 경계해야 합니다.”

이메일에는 다음과 같이 추가되었습니다.

저는 즉시 부서 전체에 ChatGPT를 이용할 수 있도록 하여 우리 모두를 앞으로 나아가게 하는 것에 흥분하고 있습니다. FDA와 ACF [어린이와 가족을 위한 행정부]와 같은 일부 운영 부서들은 이미 그들의 업무를 향상시키기 위해 대형 언어 모델의 특정 배포에서 이미 이익을 보았고, 이제 우리 모두가 그들에게 합류할 수 있습니다. 이 도구는 우리가 엄격한 과학, 급진적인 투명성, 그리고 강건한 건강을 촉진하는데 도움이 될 수 있습니다. 케네디 장관이 말했듯이, ‘AI 혁명이 도착했습니다.’

HHS 직원들은 정부 이메일 주소를 사용하여 로그인하도록 지시받았으며, ChatGPT에게 질문을 하고, 답변을 수정하고, 여러 관점을 상담할 수 있습니다.

“당연히, 읽거나 보는 모든 것에 대해 회의적으로 접근하고, 잠재적인 편향성을 조심하며, 답변을 제안으로 여기는 것이 중요합니다. 중요한 결정을 내리기 전에는 반드시 원천 정보와 반론을 고려해야 합니다. 다른 LLM들처럼, ChatGPT는 긴 문서를 요약하는 데 특히 능숙합니다.”라는 이메일이 전합니다.

Minor는 “당신의 AI 작업이 높은 보안 환경에서 이루어질 수 있도록 조치를 취했습니다.”라는 이메일을 추가로 보냈습니다. 이메일에서는 대부분의 내부 데이터, 특히 조달에 민감한 정보를 안전하게 입력할 수 있다고 강조하고 있습니다.

그러나, ChatGPT는 “현재 개인을 식별할 수 있는 민감한 정보(SSN과 은행 계좌 번호 같은), 분류된 정보, 수출 통제 데이터, 무역 비밀법에 의거한 기밀 상업 정보 등을 공개하기 위해 승인받지 않았다”고 경고하고 있습니다.

이번 출시는 AI 통합을 위한 더 광범위한 연방의 노력들 가운데 이루어지면서, 특히 치료 자격을 결정하는 메디케어와 메디케이드 같은 프로그램에서 AI 시스템의 편향에 대한 우려를 불러일으키고 있습니다.