본인 또한 현업에서 컨설팅을 하며 많은 기업들의 개념증명(PoC) 프로젝트를 진행하고 그 열기를 직접 체감하고 있다. 이전에는 AI 도입에 많은 시간과 노력이 필요했다면, 최근 업그레이드된 생성형 AI 플랫폼을 통해 효율성을 더욱 높일 수 있기 때문에 더욱 각광받고 있는 것으로 보인다. 특히, 생성형 AI의 답변을 통해 고객 참여 유도가 강화된 점과 함께 문서, 자료 요약, 코딩 등 업무 생산성이 월등히 향상됐다는 점을 높이 평가한다.
하지만 이 조사에서 경영진의 29%만이 생성형 AI를 도입할 수 있는 사내 전문성을 갖추고 있다고 했으며, CEO가 아닌 고위 임원은 30%만이 기업이 생성형 AI를 책임감 있게 도입할 준비가 돼 있다고 응답했다. 즉, AI 도입은 모두 원하고 있지만 전문적으로 어떻게 도입할지에 대해서는 아직 공부가 더 필요한 것이다.
가장 중요한 고려 사항은 동일한 기업이라도 부서마다 각자 필요한 사용 사례에 따라 적합한 AI 모델은 상이할 수 있다는 점을 인식하는 것이다. AI 솔루션은 만능이 아니기에 각 모델별로장단점이 있다. IBM의 경우 생성형 플랫폼 왓슨x 내에서 HR, 고객 서비스, 재무 등 다양한 업무에 특화된 모델들을 지원하고 고객이 필요로 한다면 미세 조정을 통해 보다 빠른 시간 안에 업계 지식을 이식할 수 있다.
이처럼 다양한 솔루션 중 자사의 비즈니스에 맞는 솔루션이 무엇인지 검토한 이후 최적의 선택을 해야 한다. 만약 멀티 모델이 필요하다면, 특정 벤더에 종속되지 않도록 다양한 솔루션을 활용할 수 있는 플랫폼을 찾아보는 것도 방법이다.
생성형 AI를 성공적으로 도입하고, 의미 있는 성과를 내려면 결국 프로세스를 바꿔야 한다. 단순히 기술적 측면에서만 접근하기보다는 핵심 프로세스가 AI를 통해 어떻게 변화되는지, 변화를 위해 기업은 어떤 준비를 해야 하는지를 고민해보는 시간을 먼저 가지기를 바란다.