AI 도입은 시작일 뿐, 진짜 승부는 ‘데이터’에 달렸다
요즘 IT 업계에서 가장 뜨거운 키워드를 하나만 꼽으라면, 단연 ‘AI 전환(AX)’일 겁니다. 기업들은 앞다퉈 생성형 AI를 도입하고 있고, AI 에이전트라는 개념도 빠르게 현실로 다가오고 있죠. 그런데 최근 삼성SDS가 주최한 ‘AX 서밋’에서 나온 이야기를 들어보면, AI 도입 자체보다 훨씬 중요한 것이 있다고 합니다. 바로 ‘데이터’입니다.
AI 프로젝트가 실패하는 진짜 이유
삼성SDS 신계영 부사장은 이날 행사에서 아주 인상 깊은 말을 남겼습니다. “AI를 얼마나 쓰느냐보다 어디에 어떻게 쓰느냐가 ROI를 결정한다.” 즉, 무작정 AI를 도입한다고 성과가 나는 게 아니라는 뜻이죠. 많은 기업이 최신 AI 기술을 도입하는 데만 집중하지만, 정작 그 AI가 제대로 작동할 수 있는 환경을 갖추는 데는 소홀한 경우가 많습니다.
실제로 시장조사기관에 따르면 상당수의 AI 프로젝트가 파일럿 단계를 넘지 못하고 좌초된다고 합니다. 그 이유는 무엇일까요? 삼성SDS는 핵심 원인으로 ‘데이터’를 지목했습니다.
데이터가 AI의 성패를 가른다
아무리 뛰어난 AI 모델도 데이터가 엉망이면 제대로 된 결과를 내기 어렵습니다. 삼성SDS가 제시한 세 가지 문제점을 살펴보면요.
첫째, 데이터가 분산되어 있으면 AI가 제대로 학습할 수 없습니다. 각 부서가 따로 데이터를 관리하고 있으면 AI가 전체 그림을 볼 수 없게 되죠. 둘째, 데이터 품질이 낮으면 AI의 결과물도 왜곡됩니다. 쓰레기를 넣으면 쓰레기가 나오는 것과 같은 이치입니다. 셋째, 데이터에 접근하기 어려운 환경이라면 자동화도 제한될 수밖에 없습니다.
삼성SDS는 더 나아가 “올해까지 AI 레디 데이터를 갖추지 못한 기업의 60%는 AI 프로젝트를 포기할 가능성이 높다”는 전망을 내놓았습니다. 꽤 충격적인 숫자죠.
AI 레디 데이터, 어떻게 준비할까
그렇다면 AI 레디 데이터를 만들기 위해서는 어떤 준비가 필요할까요? 삼성SDS는 네 가지 핵심 포인트를 제시했습니다.
1. 목적 기반 데이터 선별
AI 활용 목적에 맞는 데이터를 선별하고, 전환 대상 데이터의 우선순위를 정해 집중 관리하는 것이 첫걸음입니다. 모든 데이터를 한 번에 정비하려고 하기보다는, 가장 먼저 AI를 적용할 영역부터 데이터를 정비하는 전략이 효과적입니다.
2. 데이터 정제와 신뢰성 확보
중복 데이터를 제거하는 정제 작업은 기본입니다. 여기에 메타데이터 관리 체계를 구축해 데이터의 신뢰성을 확보하는 것이 중요합니다. 어떤 데이터가 어디에 있고, 누가 만들었으며, 얼마나 신뢰할 수 있는지가 투명하게 관리되어야 합니다.
3. AI 친화적 데이터 구조화
다양한 포맷의 데이터를 자연어 기반으로 변환해 AI가 이해하고 활용할 수 있는 형태로 구조화하는 작업이 필요합니다. 텍스트, 이미지, 음성 등 각기 다른 형태의 데이터를 AI가 일관되게 처리할 수 있도록 만드는 과정이죠.
4. 지속 가능한 데이터 거버넌스
기존 데이터 관리 체계를 유지하면서도 AI 에이전트의 접근을 통제할 수 있어야 합니다.更重要的是, 새로운 데이터는 수집 단계부터 AI 친화적으로 설계하는 문화가 정착되어야 합니다.
실제 사례로 보는 AX의 힘
이론만 있는 건 아닙니다. 삼성SDS는 이날 우리은행의 AX 전환 사례를 함께 소개했는데요. 우리은행은 5대 업무 영역에서 AI 에이전트 전환을 추진했고, 29개 핵심 업무에 175개 이상의 AI 에이전트를 적용했습니다. 그 결과 업무 처리 속도가 약 30% 개선되는 성과를 거뒀다고 합니다.
특히 주목할 점은 AI 에이전트를 단순히 기존 업무에 덧붙인 것이 아니라, AI 에이전트를 중심으로 업무 프로세스 자체를 재설계했다는 것입니다. 즉, 기존 방식을 AI로 자동화하는 수준을 넘어, AI가 최대한 효율을 발휘할 수 있도록 업무 방식을 완전히 바꾼 것이죠. 이 접근 방식이야말로 진정한 ‘AI 전환’의 핵심이라고 할 수 있습니다.
이와 비슷한 맥락에서 삼성SDS 패브릭스 2.0이 AI 에이전트 생태계를 어떻게 변화시키고 있는지 살펴보시면 AI 전환의 방향성을 더 구체적으로 이해하실 수 있을 겁니다.
오픈AI와의 협업이 주는 의미
삼성SDS는 지난해 12월 오픈AI와 국내 기업 최초로 챗GPT 엔터프라이즈 리셀러 파트너 계약을 체결했습니다. 이를 통해 기업 고객에게 챗GPT 엔터프라이즈를 제공하고, 도입부터 컨설팅, 운영까지 전 과정을 지원하고 있죠.
챗GPT 엔터프라이즈는 일반 버전과 달리 엔터프라이즈급 보안과 개인정보보호를 제공하면서도 빠른 속도를 유지한다는 점이 특징입니다. 기업 입장에서는 민감한 데이터를 안전하게 보호하면서도 최신 AI 기술을 활용할 수 있다는 장점이 있습니다.
삼성SDS는 단순한 리셀러 역할을 넘어 업종별 노하우와 오픈AI의 기술력을 접목해 차별화된 컨설팅을 제공하고 있습니다. AI 도입을 고민하는 기업 입장에서는 기술 지원과 보안, 컨설팅을 한 곳에서 받을 수 있어 꽤 매력적인 옵션입니다.
AX 센터의 비전과 역할
이날 서밋에서는 김종필 삼성SDS AX 센터장이 직접 나서 AI 인프라, 플랫폼, 솔루션을 아우르는 AI 에이전트 기반 업무 혁신 오퍼링을 발표했습니다. AI 기술의 도입부터 실제 비즈니스 성과 창출까지 전 영역을 아우르는 통합 전략을 내세운 점이 인상적이었습니다.
또한 김수연 EY한영 AI 리더는 AX 트렌드와 글로벌 선도 기업 사례를 바탕으로 AI 확산과 성과 창출을 위한 핵심 포인트를 소개했고, 이태희 삼성SDS AI 개발팀장은 기업 AX 혁신을 위한 기술 로드맵을 발표했습니다.
AI 기술이 빠르게 발전하면서 기업들의 고민도 점점 깊어지고 있습니다. 어떤 AI를 도입할지, 어떻게 적용할지, 실제 성과는 어떻게 낼지 등등 말이죠. NHN클라우드의 AI 대전환 사례도 함께 참고하시면 국내 기업들의 다양한 AI 전략을 폭넓게 이해하는 데 도움이 될 것입니다.
마무리: 데이터에서 시작해 성과로 끝나는 AX
이번 삼성SDS AX 서밋이 주는 메시지는 분명합니다. AI는 도구일 뿐이고, 진정한 경쟁력은 데이터를 어떻게 준비하고 활용하느냐에 달려 있다는 점입니다. AI를 도입했다고 자동으로 성과가 따라오는 시대는 이미 지났습니다.
앞으로 기업의 경쟁력을 결정하는 기준은 얼마나 고급 AI를 쓰느냐가 아니라, 얼마나 데이터를 잘 준비하고 전략적으로 AI를 활용하느냐로 바뀔 것입니다. 데이터를 제대로 정비하고, 그에 맞는 AI 전략을 세운 기업만이 진정한 AI 전환의 성과를 맛볼 수 있을 겁니다.
AI 시대, 여러분의 회사는 데이터를 제대로 준비하고 계신가요? 단순한 AI 도입이 아닌, 진짜 AI 전환을 고민하고 계신다면 오늘부터 데이터부터 점검해보시는 건 어떨까요.