기업들이 단순히 AI 모델을 도입하는 것을 넘어 실질적인 투자 수익률(ROI)을 창출하는 단계로 넘어가면서, 고객사에 상주하며 AI 솔루션을 직접 구축하고 배포하는 '전방 배치 엔지니어(FDE)'의 수요가 폭발적으로 증가하고 있습니다. 하지만 막대한 이익을 창출할 수 있는 최상위 FDE 인재는 미국 전체에 약 2,000명에 불과해, OpenAI와 Anthropic 같은 최첨단 AI 기업들부터 대형 컨설팅사, 금융 및 의료 기업까지 이들의 확보에 혈안이 되어 있습니다.
오픈AI의 자회사 디플로이코(DeployCo)는 자체 엔지니어들을 기업 고객 현장에 직접 투입해 AI 모델을 업무 프로세스에 밀접하게 통합하고 그 과정의 한계점을 연구에 반영하는 피드백 루프를 가동합니다. 이 과정에서 코딩 도구 '코드덱스(Codex)'의 글로벌 주간 사용자가 400만 명을 넘어섰고, AI 지능의 가격은 급락했지만 고도화된 최신 모델은 연산 복잡도 증가로 인해 여전히 비용이 발생합니다. 기업들은 AI 도입의 명확한 투자 수익률(ROI)을 산출하는 보편적 기준을 여전히 찾지 못하고 있는 상황입니다.
보안과 규제가 엄격한 공공 부문은 민간 기업과 달리 클라우드 의존적인 대규모 언어 모델(LLM) 도입이 어렵습니다. 이를 해결하기 위해 데이터를 로컬에 안전하게 저장하고 운영할 수 있는 소규모 언어 모델(SLM)이 공공기관의 현실적인 대안으로 주목받고 있습니다. SLM은 복잡한 인프라 없이도 보안을 유지하며 실무에 즉각 활용할 수 있다는 점에서 매우 중요한 의미를 갖습니다.