McKinsey Article 소개 : "A generative AI reset : Rewiring to turn potential into value in 2024"

 

생성형 AI 와 관련된 회사에서, 또 관련된 프로젝트에서 약 1년 동안 두 차례의 인턴을 마쳤다. 생성형 AI 라는 개념을 몇 년전 화려하게 데뷔한 챗지피티 덕분에 겨우 알게 된 나에게 지난 1년은 백지 상태에서 시작해 정말 많은 인사이트를 얻을 수 있었던 귀중한 시간이었다. 특히, 기업에서의 도입에 관해서도 많은 생각을 할 수 있었는데 마침 McKinsey에서 내가 느낀 바와 많은 것이 겹치는 아티클을 발간해 오늘 포스트에서는  그 내용을 소개하려고 한다. 이 아티클은 8페이지 분량으로,  두 개의 포스트에 나누어 요약 및 리뷰할 것이다. 

 

 

제목은

              A generative AI reset : Rewiring  to turn potential into value in 2024.

 

 

2023 년에 McKinsey 는 Rewired : The McKinsey Guide to Outcompeting in the Age of Digital and AI 라는 책을 발간하여 디지털, 그리고 AI 역량을 harness 하기 위한 여섯가지 역량을 제시했다. 그리고 오늘 포스트에서 다루는 아티클에서는 각 역량을 성공적인 생성형 AI 를 규모있게 실행할 수 있도록 방안을 다룬다.

 

 

·      AI copilot(쉽게 말해 AI Assistant)이 경쟁적 우위를 주는 영역 제대로 알기

 

이 내용 핵심은 사실 너무나도 당연한 얘기다. AI copilot 들을 도입할 때 그 명성에 현혹되지 말고 실제 기업 운영에 중요한 도메인에 도입을 하고, 그로 인해 향상된 생산적이 최종적으로 매출 증가에 기여해야 한다는 것이다.

 

실제로 인턴을 할 때 많이 듣던 얘기는 많은 기업들이 구체적인 기획안 없이 널리 알려진 강력한 성능만을 생각해 AI 도입이 무조건적으로 업무 혁신을 가져올 것이란 기대를 한다는 것이었다.

 

하지만 아티클에서도 지적하듯 많은 기업들에게 지원 업무에 해당하는 고객 서비스와 같은 영역에서 무작정 AI copilot을 도입한다면 그 효과는 경쟁적 우위가 아니라 생산성 향상에 그칠 것이다. 반대로 유지 (maintenance) 가 매우 중요한 도매인인 기업의 경우 – 대표적으로 제조 현장이 있을 것 같다 -  장비 고장의 식별 등에 AI copoilot을 도입한다면 조금 더 실질적이고 직접적인 효과를 누릴 수 있을 것이다.

 

 

·      Talent가 가진 기술을 향상하되 정확히 어떤 생성형 AI 기술이 필요한지 파악하기

 

이 내용 역시 한 마디로 압축시키자면 너무나도 당연한 얘기이다. 바로 체계적인 직원 교육이 필요하다는 것이다.

아티클에 의하면 관련일을 하면서 기술을 습득하는 것 보다는 직원들간의 견습이 이뤄지는 커뮤니티를 만드는 것이 효과적이라고 한다. 전문가가 각 팀을 돌며 학습시키고, 정기적인 러닝 세션을 여는 것과 같이 서로 배우는 환경이 조성되는 것을 추천하고 있다.

 

·      책임감있는 확장을 위하여 centralized 된 팀을 꾸리고 standards를 확립하기

 

 이 부분에서 제안하고 있는 내용은 대부분의 큰 회사의 경우 CIO/CDO 산하의 IT 관련 부서가 실행하고 있을 것 같다. 비즈니스의 모든 부서에 생성 AI 가 확대되게 하기 위해서는 기업의 AI 역량을 중앙에서 관리해야 한다는 것이다. 해당 팀은 프로토컬 및 각종 standards를 확립하고, 다른 부서가 모델에 액세스를 할 수 있도록 지원해야 하며, 리스크를 최소화하고 비용을 관리해야 한다.

 

McKinsey 에서 자체적으로 Lilli라는 생성형 AI를 개발할 때 담당 팀이 염두해 둔것이 바로 Lilli 를 단순히 제품이 아닌 플랫폼으로 사용하게끔 하는 것이었다. 이를 위해 모델을 안정적으로 실험하고 접근하게 하는데 있어 용이한 인프라와 툴링을 개발했다고 한다.

 

 

·      Technology architecture를 규모있게 정립하기

 

생성형 AI model 을 보유하고 있는 것과 이를 기업 운영에 사용할 수 있도록 도입하는 것과 천지차이이다.안정적이고 정확성을 보이며 compliant 이슈에 반하지 않은 어플리케이션을 릴리즈하려고 하다보면 결국 모델 자체는 전체 솔루션의 비용의 10~15% 미만을 차지할 수도 있게 된다.

 

다만 이 아티클이 제안하는 것을 기존의 technology architecture를 뒤집어 엎는 것이 아니라 프로세스를 간소화하고 가속화시는 몇몇 결정에 집중하라는 것이다. 여기서 말하는 결정에는 다음이 있다

1) Technology를 재사용하기 : 코드를 재사용하는 것은 효율을 획기적으로 향상시킬 수 있다. 인증된 툴과, 코드 그리고 component를 정리한 자료를 만드는 것이 좋은 방법이다. 특히 가장 중요한 use case에 공통적으로 사용될 수 있는 것들을 파악하고 정리 한다면 AI 도입 확장에 굉장히 도움이 될 수 있다.

2) 생성형 AI 모델과 내부 시스템을 효율적으로 연결시키는 아키텍처에 집중하기: 통합이 필요한 부분과 그 방안을 구상하는 것은 생성형 AI 의 효율적인 사용과 복잡한 구조로 인한 부가적인 비용 발생 방지에 있어 매우 중요하다. 따라서 CTO 와 CIO가 reference architecture 를 정의하고 통합 standards를 확립할 수 있다.

3) 검증 및 QA 역량 세우기 : Lilli 를 개발할 검증에 신경을 많이 썼다고 한다. 그 결과전체적인 개발은 오랜 시간이 걸렸지만 에러를 감소시켜 전체적인 딜리버리의 속도와 퀄리티 면에서는 효과를 보았다.

 

 

여기까지가 첫 번째 포스트이다. 이 아티클이 당연하고 뻔한 내용을 담고 있지만 현실은 많은 기업들이 이렇게 정석대로 생성형 AI 를 도입하기 어려워하고 있다는 것이다. 이런 구체적인 방안을 글로써 정리하고 의식적으로 세김으로써 복잡하게만 느껴지는 AI 도입을 좀 더 체계적이고 구체적하도록 도울 수 있다는 데에 의의가 있지 않을까 싶다. 

 

다음 포스트에서는 아티클의 나머지 내용의 나의 개인적인 감상에 대해 다룰 예정이다.