기술이 사람을 만났을 때 : 우리 회사의 AI는 정말 성과를 내고 있는가?
지난 7월호에서 필자는 'SHRM 2026'의 여섯 가지 핵심 키워드를 소개하며, AI ROI를 다룬 세션 'AI 성과의 재정의 : 비용 절감을 넘어 경쟁우위로Return on Intelligence : Move AI ROI Beyond Cost to Competitive Advantage'를 살펴봤다.
기술이 사람을 만났을 때 : 우리 회사의 AI는 정말 성과를 내고 있는가?
제호 : 2026년 8월호, 등록 : 2026-07-23 15:12:11
  • 기사 개별구매 : 2000원



지난 7월호에서 필자는 'SHRM 2026'의 여섯 가지 핵심 키워드를 소개하며, AI ROI를 다룬 세션 'AI 성과의 재정의 : 비용 절감을 넘어 경쟁우위로Return on Intelligence : Move AI ROI Beyond Cost to Competitive Advantage'를 살펴봤다. 해당 세션은 AI 도입 자체보다 조직에 어떤 가치를 창출하고, 이를 어떻게 측정할 것인지에 초점을 맞췄다.

AI 도입이 빠르게 확산된 지금, 기업이 마주한 다음 과제는 기술을 적용하는 것을 넘어 그 가치를 어떻게 증명할 것인가에 있다. 이는 이제 해외 기업만의 화두가 아니다. 국내 기업 역시 'AI 투자가 실제 성과로 이어지고 있는지, 그리고 그 성과를 어떤 기준으로 평가해야 하는지'라는 질문 앞에 서 있다.



AI ROI, 무엇을 측정해야 하는가
최근 발표된 조사에서도 이러한 고민이 나타난다. 기업용 생성형 AI 플랫폼 라이터Writer의 조사에 따르면 글로벌 기업의 59%가 연간 100만 달러 이상을 AI에 투자하고 있지만, '의미 있는 ROI를 확보했다'고 답한 기업은 29%에 그쳤다. MIT 미디어랩 산하 AI 연구 프로젝트인 MIT NANDA 이니셔티브가 발표한 보고서 역시 생성형 AI에 대한 대규모 투자가 이뤄졌음에도 조사 대상 조직의 95%가 '손익계산서에서 측정 가능한 효과를 확인하지 못했다'고 밝혔다. 이러한 연구 결과만 놓고 보면 AI에 대한 막대한 투자가 실제 비즈니스 성과로 이어지지 못하고 있다는 회의적인 해석을 하게 된다.

그러나 '95%'라는 숫자에 대해 UC 버클리 연구진은 다른 해석을 내놓았다. 지금 우리가 목격하고 있는 것은 'AI의 실패'가 아니라 '측정의 실패Measurement Failure'라는 것이다.
1) 이메일이 처음 도입됐을 당시 분기 이익이 즉시 증가하지 않았다고 이메일 사용을 포기한 기업은 없었다. 하지만 AI에는 몇 개월간의 파일럿만으로 재무적 성과를 입증하라는 잣대가 유독 엄격하게 적용되고 있다.

SHRM 2026에서 AI ROI를 다룬 세션의 발표자인 폴 카니Paul Carney 역시 전통적인 ROI는 기계나 건물과 같은 자본지출CAPEX을 평가하기 위해 만들어진 개념인 반면, AI는 학습하고 적응하며 시간이 지날수록 가치가 축적되는 자산이라고 설명했다. "AI ROI를 전통적인 ROI만으로 평가하는 것은 스마트폰의 가치를 무게로 재는 것과 같다"는 것이다.

카니는 대안으로 시간 가치, 비용 지능, 의사결정 품질, 통찰 속도, 역량 구축, 발견 가치, 경험 강화, 리스크 관리, 조직학습, 확신 구축이라는 열 가지 지표를 제안했다. 이는 AI의 가치를 보다 입체적으로 바라보려는 시도라는 점에서 의미가 있다. 특히 기존 ROI가 주로 비용 절감이나 생산성 향상처럼 단기적으로 측정 가능한 결과에 집중했다면, 카니가 제시한 지표들은 AI가 조직의 역량과 일하는 방식에 미치는 장기적 영향을 함께 평가해야 한다는 점을 보여준다. 다만 컨퍼런스 세션이라는 특성상 이러한 지표들은 개념적 수준에 머물렀다.

결국 이를 현업에 적용하기 위해서는 각 조직의 업무 특성에 맞게 구체화하고, 실제 측정 가능한 KPI로 설계하는 작업이 중요하다. 예를 들어 AI 활용으로 절감된 시간 자체를 측정하는 데 그치지 않고, 확보된 시간을 통해 어떤 부가가치를 만들었는지까지 연결해 평가하는 관점이 필요하다. 그래야 AI ROI 역시 실질적인 경영지표로 자리 잡을 수 있을 것이다.


기존 ROI는 왜 낡은 잣대인가
그렇다면 기존 ROI는 왜 AI의 가치를 제대로 설명하지 못하는 것일까. 크게 세 가지 이유가 있다.

첫째, '생산성 J-커브Productivity J-Curve'다. 이는 새로운 범용기술이 도입될 때 생산성이 즉시 상승하지 않고, 일정 기간 하락하거나 정체된 뒤 시간이 지나면서 크게 개선되는 현상을 의미한다. 스탠퍼드대학의 에릭 브린욜프슨Erik Brynjolfsson 교수와 동료 연구진은 AI와 같은 범용기술은 프로세스 재설계, 재교육, 조직 재구조화와 같은 보완적 무형투자를 필요로 하며, 이러한 투자는 회계장부에 충분히 반영되지 않기 때문에 도입 초기 생산성이 실제보다 낮게 측정될 수 있다고 설명했다.

실제로 무형자본을 보정하면 미국의 총요소생산성은 공식 통계보다 15.9% 높았을 것이라고 추정했다. 미국 통계국 역시 기업 데이터를 분석한 결과 초기 AI 도입 기업에서 단기적인 성과 하락 후, 중장기적으로 생산성이 개선되는 동일한 J자 궤적을 확인했다. 이 연구들이 시사하는 바는 분명하다. 도입 첫해의 성과 부진은 실패의 신호가 아니라 무형자본을 축적하는 과정일 수 있다는 점이다. 따라서 AI ROI를 측정할 때는 교육, 업무 재설계, 거버넌스 구축과 같은 무형투자를 비용으로 함께 고려하고, 시간이 지날수록 축적되는 가치까지 반영해야 한다.

둘째, 아낀 시간의 행방이다. 미국의 한 조사2)에 따르면 생성형 AI 사용자는 주당 근로시간의 5.4%, 약 2시간 정도를 절감했다고 응답했다. 이를 전체 근로자로 환산하면 약 1.4% 수준이다. 다만 연구진은 이 결과를 해석할 때 중요한 전제를 덧붙였다. 근로자가 절감한 시간을 반드시 새로운 업무 산출로 연결하는 것은 아니기 때문에, 자기보고식 시간 절감만으로 생산성을 계산하면 AI의 효과를 과대평가할 수 있다는 것이다. 카니가 제시한 첫 번째 지표가 '시간 절감'이 아니라 '아낀 시간이 어디에 활용됐는가'인 이유가 여기에 있다.

셋째, 효과의 이질성이다. 포춘 500대 소프트웨어 기업의 고객지원 상담사 5,172명을 추적한 연구3)에서 AI 어시스턴트는 시간당 문제 해결 건수를 평균 14~15% 높였다. 그러나 이를 세부적으로 살펴보면 저숙련·신입 직원은 생산성이 30~35% 향상된 반면, 고숙련 직원은 효과가 상대적으로 제한적이었다. 숙련도를 고려하지 않은 채 평균값만으로 AI의 성과를 평가하면 AI가 상대적으로 경험이 적은 구성원의 역량을 크게 끌어올렸다는 중요한 효과를 놓칠 수 있다.


AI ROI를 측정하는 지표와 축
기존 연구를 바탕으로 필자는 카니의 열 가지 지표를 두 개의 축으로 재구성해 하나의 측정 체계를 제안하고자 한다. 이때 핵심 원칙은 화폐화가 가능한 것은 재무성과로 계산하고, 그렇지 않은 것은 억지로 돈으로 환산하지 않는 것​이다. 측정하기 어려운 가치까지 무리하게 화폐화하면 단기적으로는 그럴듯해 보일지 몰라도, 장기적으로는 오히려 측정 체계에 대한 신뢰를 잃을 수 있기 때문이다. 전체 구조를 단순화하면 다음과 같다.

AI ROI : ① 지금 번 돈(재무 ROI) = (아낀 돈-쓴 돈) ÷ 쓴 돈
· 아낀 돈 = 시간 가치 + 비용 절감 + 리스크 감소
· 시간 가치 = 

... 중략 ...

이중학 동국대학교 경영학과 조직인사 전공 교수
   
 
기사 전문은 구독권한이 있는 회원께만 제공됩니다. 먼저 로그인 하세요.
 
  • 리스트로 이동
  • 기사 개별구매 : 2000원