오늘의 지식

AI 에이전트 성공을 위한 4가지 조건

생성형 AI 열풍 이후 기업들은 “이제는 에이전트 AI 시대”라며 앞다퉈 투자를 늘리고 있습니다. 특히 이커머스 업계가 이 전환의 최전선에 있는데요. 아마존의 루퍼스, 월마트의 스파키 등은 단순한 추천 엔진이 아니라 구매 결정을 대리하는 존재가 되어 수십 개 사이트를 비교하고, 리뷰를 분석해 장바구니를 직접 채우는 거죠. 실제 이런 에이전트 AI 시장이 2030년에는 5,220억 달러 규모까지 커질 거라는 전망도 나오고 있는데요. 하지만 이런 기대감과 달리 막상 현장에서 들리는 이야기는 좀 다릅니다. “돈은 많이 썼는데, 생산성은 잘 모르겠다”는 반응이 적지 않은데요. 그 이유와 개선방향을 맥킨지가 짚었습니다. * 에이전트 AI :사람의 개입 없이 AI가 작업을 대리 수행하는 자율 지능형 인공지능 시스템 ↔️ 기술보다 중요한 ‘워크플로우’ 많은 기업이 에이전트를 도입할 때 가장 먼저 묻는 질문은 '어떤 모델이 제일 좋은가?' 입니다. 하지만 맥킨지는 “문제는 에이전트가 아니라 워크플로우다” 며 아무리 똑똑한 에이전트를 도입해도, 회사 내 업무 프로세스가 엉켜 있으면 효용이 없다고 강조했습니다. 절차는 불필요하게 길고, 같은 보고서가 여러 번 손을 타고, 시스템이 제각각이라 정보를 찾는 데 시간이 허비되는 구조라면 AI도 무용지물이라는 거죠. 그래서 선도 기업은 에이전트 도입 전 아래 질문으로 내부 워크플로우를 점검한다고 하는데요. 이 업무의 진짜 병목은 어디인가? 사람이 하지 않아도 되는 반복·단순 작업은 무엇인가? 최종 판단과 책임은 누가, 어떤 기준으로 지고 있는가? 위에 따라 업무 점검 후 ①규칙 기반 자동화(RPA)·②생성형 AI·③에이전트 AI 툴을 적합한 업무에 사용하도록 워크플로우를 재설계하고 있습니다. 망치 하나로 집 전체를 고치려 하기보다, 상황에 맞는 “도구 배치”가 먼저라는 얘기죠. ① RPA : 티켓 분배, 알림 발송처럼 표준화된 반복 업무 ② 생성형 AI : 회의록·보고서 요약·정리·작성 ③ 에이전트 AI : 여러 시스템을 오가며 조사·분석·의사결정 지원 🧑‍💼 AI는 ‘신입사원’ : 훈련이 성패를 가른다 에이전트 AI 도입이 실패하는 두 번째 이유로는 “설치하고 잊어버리기” 가 지적되었는데요. 기존 IT 시스템은 구축 후 유지보수만 하면 되었지만, 에이전트는 그냥 두면 금방 ‘AI 슬롭(AI Slop, AI 시스템의 성능이 시간이 지남에 따라 점차 저하되는 현상)’ 상태가 되어 그럴듯해 보이는 결과는 쏟아내지만, 막상 현장에서 믿고 쓰기 어렵게 된다고 하는데요. 그래서 실리콘밸리 기업들은 에이전트를 '신입직원' 으로 간주해 실제 HR 프로세스와 비슷한 3단계 훈련 과정을 거친다고 합니다. ① 직무 기술서 작성 - 에이전트에게 “무엇을, 어디까지” 맡길지 구체적으로 설명 - 예 : '규정 위반 가능성이 있는 거래를 찾아 1차 분류까지 한다.' ② OJT와 멘토링 - 전문가가 결과를 전부 검토하고, 틀린 부분을 지속적으로 피드백 - AI 에이전트가 회사만의 문맥·룰을 학습 ③ 평가 - 수습평가처럼, 에이전트도 정기적으로 성능을 측정 - 정확도 외 맥락 이해, 편향성, 설명 가능성까지 지표로 관리 실제 한 글로벌 은행은 컴플라이언스 업무에 에이전트를 도입하면서, 에이전트와 사람의 판단이 다를 때마다 '왜 다른지 설명하게 하는 로직'을 추가하였는데요. 이렇게 쌓인 이유는 다시 AI 에이전트의 학습 자료가 되어, 시간이 지날수록 에이전트의 판단 품질도 빠르게 올라갔다고 합니다. 🧱 개별 에이전트 모아놓은 플랫폼으로 또한 맥킨지는 부서별로 에이전트를 만드는 대신 공통 기능을 레고 블록처럼 모듈화해 에이전트 플랫폼을 만들어야 한다고 강조합니다. 부서별로 따로 구축할 경우 중복투자, 관리비용 폭증, 거버넌스 정책 이슈 등 여러 문제가 대두되기 때문이죠. 예를 들어 정보 수집, 문서 요약·분석, 검색·질의 응답, 고객문의 응대 이런 것들을 공통 모듈로 개발하고, 각 부서는 이 블록을 조합해 자신만의 에이전트를 만드는 식이에요. 맥킨지는 이를 통해 불필요한 반복 투자, 개발의 30~50%는 없앨 수 있다며 '에이전트를 만들기 이전에 '에이전트를 만드는 에이전트 공장'을 먼저 지어야 한다고 강조했습니다. 🙋 사람은? ‘실행자’에서 ‘감독관’으로 에이전트 AI 이야기가 나올 때마다 일자리 감소에 대한 우려가 함께 제기되는데요. 맥킨지가 내어놓은 답은 조금 다릅니다. 사람의 역할이 ‘실행자’에서 ‘설계자·감독관’으로 바뀐다는 거예요. AI 에이전트가 데이터를 모으고, 분석하고, 실행하는 ‘현장 작업자’ 역할을 하고 인간은 이 결과를 검증하고, 최종 책임을 지는 ‘감독관·의사결정자’ 역할을 하게 된다는 거죠. 따라서 에이전트 시대에 중요한 역량은 'AI 에게 일을 넘기는 역량' 이 아니라 ① 어떤 일을 에이전트에 맡길지 설계하는 능력, ② 결과를 빠르게 검토하고 위험을 감지하는 능력, ③ 새로운 워크플로우를 디자인하는 능력이 될 것이라 맥킨지는 설명합니다. 결국 AI 에이전트 도입의 성공여부는 '어떤 모델이 더 똑똑한가' 가 아니라 '똑똑한 도구가 역량을 발휘할 수 있는 업무환경' 에 달려 있다는 것인데요. 이는 더 나아가 '조직의 일하는 방식을 얼마나 과감하게 바꿀 수 있는가' 에 달려 있다는 메시지로 읽힙니다. 에이전트 AI 시대, 우리 기업은 얼마나 준비되어 있고, 무엇부터 준비해 가야 할까요? 소플러 여러분의 생각을 들려주세요 🧐