LLM 출혈 대신 ‘돈 되는 서비스’ 경쟁 [메이킹 머니 AI]
페이지 정보
작성자 최고관리자 작성일 24-07-01 00:00 조회 257회본문
인공지능 열풍은 유통과 제조 등 전통 산업 전반까지 확산됐다. AI를 도입해 업무·비용 효율화를 꾀하는 곳이 여럿이다. 하지만 전문 인력 부재로 어려움을 겪는 게 현실. 이 과정에서 AI 소프트웨어(SW) 기업이 각광받는다. 자체 개발한 소형언어모델(sLLM) 혹은 GPT-4 등 기존 언어모델(LLM)을 기반으로 맞춤형 AI 솔루션을 제공한다. 일종의 ‘AI 개인 트레이너’다. 이들의 실력은 해외까지 알려졌다. 일부 기업은 해외 매출 비중이 커지자 해외 상장까지 고려할 정도다.
유형별 SW 기업 현황 |
|||
구분 |
기업 |
주요 SW 기술·솔루션 |
주요 실적 |
기업 고객 확보 나선 SW 기업 |
업스테이지 |
AI OCR 도큐먼트 AI, 자체 sLLM '솔라' |
전년 대비 2배 매출 예상 |
포티투마루 |
LLM42, RAG42 |
LG유플러스, SK이노베이션 등 고객 확보 |
|
원프레딕트 |
중후장대 산업 설비 예측 진단 솔루션 |
에쓰오일, GS칼텍스 등 고객 확보 |
|
S2W |
보안 강화한 SAIP |
현대제철 등 고객 확보 |
|
해외 시장 공략 나선 SW 기업 |
트웰브랩스 |
영상 분석 AI 모델 |
엔비디아 자회사 인벤처스 등 투자 유치 |
센드버드 |
센드버드 AI 챗봇 |
서비스 3개월 만에 고객사 7000곳 확보 |
|
올거나이즈 |
알리 LLM 앱 빌더 |
일본 SMBC 금융 그룹 등 고객 확보 |
|
AICC로 콜센터 겨냥한 이통 3사 |
KT |
에이센 클라우드 |
지난해 수주 규모 2500억원 |
LG유플러스 |
U+AICC |
신규 가입 회선 1000개 확보 |
|
SK텔레콤 |
SKT AI CCaaS |
페르소나AI 지분 투자 단행 |
|
밑단 책임지는 SW 스타트업
설립 4년 만에 100억 매출 눈앞
기업의 고민 중 하나는 ‘불필요한 서류 처리’다. 이에 도입된 게 AI 기반 OCR(광학문자인식) 기술이다. 기업의 AI OCR 도입을 돕는 곳이 4년 차 AI 스타트업 ‘업스테이지’다.
OCR은 컴퓨터를 활용해 종이 문서나 사진 속 텍스트를 인식하는 기술이다. AI OCR은 여기서 한발 더 나아갔다. AI를 활용해 OCR 인식률과 데이터 분류 기능을 인간 수준까지 높였다. 특히 업스테이지 AI OCR은 프로그래밍 전문가 없이 고객사가 ‘노코드(No Code)’ ‘로우코드(Low Code)’로 기술 제어 가능한 환경을 구축한 게 특징이다. 기업 입장에서는 전문 인력을 보유해야 하는 부담이 없다. 삼성생명뿐 아니라 한화생명과 현대글로벌서비스, 포스코 등 다수의 전통 대기업이 업스테이지를 찾는 이유다.
덕분에 업스테이지는 올해 실적에 날개를 달았다. 올해 1분기에만 지난해 신규 계약 총액 수준 수주를 이뤄냈다. 내부에서는 올해 매출을 전년 대비 2배 규모로 전망한다. 지난해 업스테이지 매출은 46억원이다. 이를 고려하면 올해 100억원 매출을 눈앞에 둔 셈이다.
‘맞춤형 챗봇’ 서비스로는 포티투마루도 빼놓을 수 없다. 이미 LG유플러스와 SK이노베이션, 기아 등 국내 대기업을 고객으로 확보했다. 추가 협업도 진행 중이다. 예를 들어 LG유플러스는 포티투마루와 ‘소상공인 대상 AI 상담 시스템’ 구축에 나섰다. 동시에 LG유플러스 직원을 위한 일종의 ‘업무 비서 에이전트’도 함께 개발 중이다. 협업 사례가 쌓이면서 포티투마루는 올해도 매출 고공 성장을 자신하고 있다. 포티투마루는 연평균 60% 이상의 매출 성장률(CAGR)을 기록 중이다.
포티투마루 강점은 ‘정확한 하나의 답’ 도출이다. 질문에 여러 정답 후보를 제시하는 경쟁 챗봇과 비교해 진일보한 형태다. 이게 가능해진 것은 자체 검색증강생성(RAG) 기술 ‘RAG42’ 덕분이다. ‘RAG42’는 대규모 원천 데이터에서 필요한 특정 정보만 검색한다. 김동환 포티투마루 대표는 “기업이 (여러 답을 제시하는) 85점짜리 아이의 말을 믿고 의사 결정을 할 수 있겠느냐”고 반문한다. 전문성과 정확성이 핵심인 기업 맞춤형 챗봇의 경우 ‘하나의 답’을 제시하는 포티투마루 모델이 경쟁력 있다는 설명이다.
중후장대 제조업에도 AI SW 기업이 뛰어들었다. AI 스타트업 ‘원프레딕트’ 얘기다. 원프레딕트는 산업 현장에서 설비 상태 등 데이터가 저장되지 않고 휘발된다는 점에 주목했다. 이를 모으고 AI를 활용해 유형별 분석하면 ‘설비 관리’가 수월할 것이라 판단했다. 이에 개발된 게 ‘설비 예측 진단 솔루션’이다. 에너지·석유·제조업 등 중후장대 산업 내 설비 상태를 진단하고 예측 정보를 제공한다. 설비 고장을 줄이고 설비 가동률을 높일 수 있다는 점에서 기업 관심이 뜨겁다. 롯데케미칼, 에쓰오일, GS칼텍스 등을 고객사로 보유했다.
‘안전한 AI 적용’에 초점을 맞춘 기업도 있다. 2018년 설립된 S2W 얘기다. 서상덕 S2W 대표는 “기업은 데이터 보안 문제로 AI 사용을 걱정한다. S2W는 이 부분을 ‘SAIP’ 솔루션으로 해결하고 있다”고 설명했다. SAIP는 S2W의 기업 맞춤형 AI 플랫폼이다. 검색증강생성 기술에 고도의 보안 기술이 결합된 구조다. 최근 현대제철도 SAIP 솔루션을 도입했다. 서상덕 대표는 “올해 관련 사업이 본격화됐는데 PoC(기술 검증)를 넘어 본사업을 대기업에 납품했다는 게 고무적”이라고 말했다.
이동통신 3사 ‘AICC’로 훨훨
KT, 2025년 매출 3000억 목표
AI SW로 톡톡한 효과를 보고 있는 곳 중 하나가 콜센터다. 기존 콜센터는 상담원 등 수많은 인력이 필요했다. 기업 입장에서는 ‘인건비 부담’이 클 수밖에 없다. 이를 겨냥한 게 AI 콘택트센터(AI Contact Center·AICC)다. AI 음성 인식과 텍스트 분석 기술을 활용해 상담 지원부터 보이스봇·챗봇으로 직접 고객 응대도 가능하다.
기존 콜센터 회선 설치 등 구축과 관리 사업을 펼치던 KT·LG유플러스·SK텔레콤 이동통신 3사가 선점 경쟁에 돌입했다.
가장 빠르게 뛰어든 곳은 KT다. KT는 2017년 관련 사업을 시작했다. 2021년 사내 AICC팀을 KT엔터프라이즈 정식 사업부로 승격, 힘을 줬다. 2022년 1월에는 AICC 솔루션에 클라우드 역량을 결합한 ‘에이센 클라우드’ 상품도 내놨다. 상품은 실시간 대화록과 상담 어시스턴트, 보이스봇·챗봇 솔루션 등으로 구성됐다. 고객은 일종의 구독 형태로 이용 가능하다. 현재 자체 ‘100번 고객센터’뿐 아니라 부동산 플랫폼 직방과 NH투자증권, 신한생명 등 금융권처럼 콜센터 업무 부담이 큰 금융 기관을 고객으로 확보한 상태다.
수주 규모도 상당하다. 2023년 KT AICC사업부 수주 규모는 2500억원에 달한다. 785억원이던 2022년 수주 규모의 3배 수준이다. KT는 확보한 수주 기반으로 2025년 AICC 사업 매출 3000억원을 목표로 하고 있다.
LG유플러스와 SK텔레콤도 추격에 나섰다. LG유플러스는 지난해 9월 출시한 ‘U+AICC’를 전면에 내세웠다. 중소기업 대상 클라우드 기반 구독형 AICC 서비스다. 상대적으로 늦은 출발이지만 올해만 신규 가입 회선 1000개를 넘어섰다. LG유플러스는 2028년 AICC 매출 3000억원이 목표다. SK텔레콤은 지난해 8월 AICC 솔루션 개발 스타트업 ‘페르소나AI’에 전략적 투자를 단행했다. 올해 3월에는 구독형 AICC 서비스 ‘SKT AI CCaaS’를 선보였다. 상담 챗봇·보이스봇과 시스템 운영 대행 등 AICC 운영에 필요한 모든 솔루션을 제공하는 서비스다. 고객은 필요한 서비스만 선택해 활용할 수 있다.
빅테크·실리콘밸리 홀렸다
‘아날로그 일본’서도 好好
한국 AI SW 기업 존재감은 글로벌 시장에서도 두드러진다.
2021년 설립된 ‘트웰브랩스’는 AI 시대 패권을 쥔 엔비디아 선택을 받았다. 지난해 10월 엔비디아와 인텔 등에서 1000만달러(약 135억원) 규모 투자를 유치한 데 이어 올해 6월 엔비디아 자회사 엔벤처스 등에서 약 5000만달러(약 700억원) 규모 투자를 받았다. 트웰브랩스는 영상 분석 AI 모델을 개발 중이다. 영상 속 시각적 이미지와 소리를 분석해 사용자 요구 사항을 해결하는 형태다. 예를 들어 수백 분에 달하는 영상에서 ‘남성이 사과를 먹는 모습’을 찾아달라고 하면 1~2초 만에 AI가 해당 장면을 찾는다.
이에 수많은 영상 데이터를 보유했지만 서비스 활용 방법을 못 찾던 이들로부터 문의가 쏟아진다. 스포츠협회 등도 잠재 고객이다.
사업 초기부터 미국 시장을 겨냥한 ‘센드버드’도 빼놓을 수 없다. 2013년 설립된 센드버드는 기업향 커뮤니케이션 플랫폼을 제공해왔다. 앱 내 ‘SMS 알람’ 등의 서비스형 소프트웨어(SaaS) 구축 사업이다. 최근 센드버드는 자사 SaaS에 생성형 AI를 접목해 또 한 번의 ‘퀀텀 점프’를 노리고 있다. 올해 2월 센드버드 AI 챗봇을 선보였는데 인기가 상당하다. 3개월 만에 고객사 7000곳을 확보했다. 내부에선 조만간 1만곳 돌파를 기대한다. 인기 배경은 ‘노코드’다. 별도 전문 인력 없이 기업 스스로 맞춤형 AI 챗봇 생성이 가능하다. 센드버드가 제공한 구축 환경에서 챗봇을 디자인하고 생성한 한 줄의 코드를 사용자 웹사이트 관리자 페이지에 붙여 넣으면 끝이다. 연동 시간은 길어야 5분이다.
덕분에 실적도 고공행진이다. 센드버드 북미 본사는 실적 공개를 하지 않고 있다. 다만 한국 법인 실적으로 가늠할 수 있다. 한국 법인 센드버드코리아는 지난해 매출 241억원, 영업이익 17억원을 기록했다. 이미 사업화를 넘어 수익화 단계로 접어들었다.
정부 차원에서 디지털 전환을 추진하는 ‘일본’을 겨냥한 AI SW 기업도 있다. 2017년 설립된 올거나이즈는 LLM 기반 AI 앱 마켓인 ‘알리’와 ‘알리 LLM 앱 빌더’ 등을 제공한다. 내부 보고서 요약부터 데이터 시각화, 분석 등 기업 맞춤형 SW 서비스를 제작할 수 있는 기업 간 거래(B2B) 솔루션이다. 일본 미쓰이스미토모은행(SMBC) 금융그룹, 이동통신 업체 KDDI, 화장품 업체 KAO 등을 고객으로 확보했다. 매출 50% 이상이 일본 시장에서 발생한다. 올거나이즈는 2025년 일본 도쿄거래소 상장도 계획 중이다.
인터뷰 | 김동신 센드버드 대표 “AI 챗봇, 단순 답변 넘어 ‘해법’ 제시” |
김동신 센드버드 대표 뒤에는 ‘최초’ 수식어가 따라붙는다. 실리콘밸리에 진출한 한국 스타트업 중 첫 유니콘(기업가치 1조원 이상 비상장 기업)이자 한국 스타트업 중 첫 기업 간 거래(B2B) 시장 유니콘을 일궈냈기 때문이다. 김동신 대표와 센드버드는 안주하지 않고 또 한 번의 ‘퀀텀 점프’를 준비하고 있다. 기존 채팅 솔루션에 AI를 접목한 ‘센드버드 AI 챗봇’이 비장의 무기다.
Q. 사업 초기, 미국 시장에 뛰어든 배경이 궁금하다.
A. 쉬운 결정은 아니었다. 다만 조금 더 큰 곳을 원했던 것 같다. 한국에서 성공해도 글로벌 기업이 국내에 들어오면 결국 경쟁에서 밀릴 것이라는 생각이 있었다. 차라리 처음부터 몸집 큰 경쟁자가 수두룩한 미국 시장에서 경쟁 경험을 갖춰야겠다고 판단했다. 물론 쉽지만은 않았다. 사업 초기에는 3개월 정도 버틸 수 있는 운영자금이 전부였다. 시리즈A 투자 유치를 위해 30개가 넘는 미국 벤처캐피털(VC)을 찾아갔지만, 모두 거절당했다. 그래도 계속 두드렸다. 그러다 2015년 실리콘밸리 대표 스타트업 인큐베이터 와이콤비네이터(YC) 지원 프로그램에 합격해 기사회생했다. 사실 큰 기대는 없었다. 매년 YC에 지원하는 스타트업이 6000~7000개다. 그중 100개 정도만 투자 대상으로 선정되니 확률이 1% 조금 넘는 수준이다. 엄청난 운이 따랐다. YC 투자 덕분에 데모데이(사업 아이디어 발표회)까지 진행할 수 있었고 지금의 센드버드를 일궈낼 수 있었다.
Q. 최근 내놓은 ‘센드버드 AI 챗봇’ 강점은.
A. 자연스러움이 최대 강점이다. 거대언어모델(LLM)을 적용해 사람이 응대하는 것처럼 자연스러운 답변이 가능하다. 기업 경영 본질 중 하나는 최소한의 비용으로 최대한의 효율을 내는 것인데, AI 챗봇이 여기에 부합한다.
노코드(No code)도 강점으로 꼽고 싶다. 전문 개발자가 없어도 몇 가지 정보만 입력하면 5분 만에 맞춤형 챗봇을 만들 수 있다. 소상공인이나 상대적으로 규모가 작은 기업도 활용할 수 있다는 얘기다. 덕분에 고객 문의가 폭발적이다. 지난 2월 AI 챗봇을 출시했는데 현재 7000여개 고객사를 확보했다.
Q. 여전히 ‘챗봇’에 만족 못하는 사용자가 많다.
A. 사용자가 불만을 갖는 이유는 기존 챗봇이 ‘4가지 기준’을 만족 못해서다. 챗봇 만족도는 크게 답변 속도·정확성과 질문 이해도, 그리고 문제 해결에 실질적인 도움을 줬느냐로 나뉜다. 일단 속도는 AI가 사람을 압도한다. 보통 사용자가 불만을 표출하는 건 ‘말귀를 못 알아들었다’고 판단할 때다. 사용자가 ‘사과’를 요청했는데 ‘수박’을 내놓는 식이다. 과거 챗봇에선 이런 오류가 많았다. 정형화된 ‘템플릿’ ‘틀’을 바탕으로 답변한 탓이다. 하지만 센드버드 AI 챗봇은 다르다. 업무에 필요한 모든 정보와 맥락을 학습해서 답변을 내놓기 때문이다. 오픈AI가 만든 LLM GPT-4를 특정 기업에 맞게 ‘미세 조정(파인튜닝)’하면 정확도는 99%까지 올라간다.
사용자가 불만을 갖는 또 다른 요소 중에는 ‘단순 답변’이 있다. 과거 챗봇은 단순 답변 수준에 그쳤다. 예를 들어 환불을 요청해도 텍스트로 환불 방법을 소개해줄 뿐이었다. 하지만 AI 챗봇은 사용자 과거 이력 학습이 가능하다. 소위 ‘진상 고객’이 아니라고 판단하면 직접 환불 프로세스를 호출해 문제를 해결한다. 전문 상담원 수준의 역량이다.
[최창원 기자 choi.changwon@mk.co.kr]
[본 기사는 매경이코노미 제2266호 (2024.07.03~2024.07.09일자) 기사입니다]