CIO, 직원의 디지털 복제본을 만들어 팀을 확장하려고 한다

UC San Diego의 CIO는 AI 에이전트와 디지털 트윈을 사용해 IT 작업을 자동화하고, 사이버 보안을 강화하며, 직원의 부담을 줄이고 싶어합니다.

이번 주에 열린 Cisco Live 컨퍼런스에서, Dr. Vince Kellen은 반복적인 작업과 야간 비상 상황 처리를 위해 AI 에이전트와 경험 많은 IT 직원의 디지털 트윈을 활용하자는 제안을 했습니다. 이는 처음으로 The Register에서 보도되었습니다.

밀도 높은 청중 앞에서 켈렌은 “가능한 한 고도의 자동화로 모든 길이 이어져간다”라고 말했다고 The Register가 보도했습니다.

대학은 매일 10만 명 이상의 사람들을 맞이하는 작은 도시처럼 운영되는 반면, 학생 등록률의 감소와 제한된 재정 자원에 대처해야 합니다.

켈렌은 미래의 증가하는 요구를 관리하기 위해 AI 시스템이 기술 노동자들로부터 지식을 획득할 것이라고 예측합니다. “우리는 네트워크 정책에 대한 인간의 모든 지식을 일종의 슬로우 드립 방식으로 그들의 뇌에서 끌어내야 합니다.”라고 그는 The Register에 보도된 대로 말했습니다.

켈렌은 이 지식을 천천히 AI에게 전달하면 IT 팀이 그들의 업무 부담을 줄이고 네트워크 성능을 향상시킬 수 있을 것이라고 믿습니다.

UCSD 해양학 연구소는 또한 국가안보 위협에 직면하고 있습니다. “당신이 수중에 소나를 설치하면 물고기 이상의 것들을 발견하게 되고, 다른 나라들은 그것에 대해 알고 싶어합니다.” 그는 경고했습니다. 이는 The Register에서 보도했습니다.

외국 지원의 사이버 공격은 점점 더 정교해지고 있어, 직원들이 기본적인 방어를 자동화하여 더 위험한 위협에 집중할 수 있도록 해야 합니다.

켈렌은 AI가 “문제를 미리 감지할 수 있는 잠재력을 지니고 있다”고 믿으며, 디지털 클론을 직원의 전문성을 보존하고 부담을 줄이는 방법으로 보고 있습니다. “그럼 그 사람이 다른 사건이 발생했을 때 고통받을 필요가 없습니다. 그들은 다음 번에 호출되지 않습니다,” 그는 더 레지스터(The Register)에서 보도한 바와 같이 덧붙였습니다.

그의 아이디어는 논란의 여지가 있는 질문을 제기합니다: 스트레스가 많은 호출을 줄일 수 있다면, 고용주가 당신의 전문성을 디지털로 복제하는 것을 허용하시겠습니까? 자동화가 발전함에 따라, 인간과 기계의 작업 경계가 흐려질 수 있지만, IT 팀에게는 꼭 필요한 안식을 의미할 수 있습니다.

그러나, 자동화의 증가는 또한 사이버 보안 문제를 야기합니다. 자동화된 IT 작업자와 AI 에이전트가 운영하는 시스템은 해커들에게 매력적인 목표가 될 수 있는데, 이런 시스템에 대한 공격이 광범위한 혼란을 초래할 수 있기 때문입니다.

실제로, 보안 프로토콜을 우회하고 맬웨어를 인간 운영자보다 더 빠르게 퍼뜨릴 수 있는 손상된 디지털 트윈이 사용될 수 있습니다.

세계경제포럼에서 발표한 보고서에 따르면, 공격자들이 AI 학습 데이터를 오염시키거나 AI 모델의 취약점을 찾아내어 시스템 오류나 잘못된 출력 생성을 일으킬 수 있다고 주장합니다.

이러한 “데이터 오염” 및 모델 악용 공격은 종종 간단하게 실행할 수 있지만, 방어하기는 어렵습니다. 현재의 보안 조치는 불충분하다고 ITPro가 지적했습니다.

이러한 위험에도 불구하고, IT 전문가의 96%가 AI 에이전트를 보안 위협으로 인식하고 있지만, 대부분의 기관들은 적절한 통제나 정책 없이 그들을 빠르게 도입하려고 하는 것으로 ZDNet에서 보도했습니다.