비아이매트릭스 세미나서 발표
"화두는 온디바이스AI·검색증강 모델"
B2B 공략 위해 생성형 AI서비스 제공
'AI옵스·AI에이전트·AI어시스턴트' 전략
인공지능(AI)이 우리 생활에 빠르게 스며들고 있습니다. 주변에서 벌어지는 크고 작은 AI 관련 기업 활동을 데일리임팩트가 그때그때 있는 그대로 전해드립니다.
[데일리임팩트 황재희 기자] "로봇, 제조 기업에게 온디바이스AI 서비스를 제공할 예정으로 빠른 시일내에 공개하겠다"
정경수 KT 인공지능(AI) 사업개발팀장은 21일 열린 비아이매트릭스 정기세미나에서 올해 화두인 온디바이스AI 에 대해 소개하며 이와 같이 말했다.
이날 AI&로우코드(LOW CODE)를 주제로 서울 양재 엘타워에서 열린 이번 행사는 국내외 기업의 AI 전환 트렌드와 AI 서비스 실제 적용 사례를 살펴보기 위해 개최됐다.
이날 KT를 대표해 발표자로 참석한 정 팀장은 AI사업개발팀을 이끌며 그간 축적해온 글로벌AI 트렌드와 함께 KT의 생성형AI 서비스와 기업간거래(B2B) 비즈니스 적용 사례를 30여분간 소개했다.
정 팀장은 생성형AI 업계 트렌드와 관련해 "초반에는 파라미터 경쟁이었지만 '라마2'가 공개된 후 작은 모델로도 일정 성능을 발휘할 수 있다는 게 입증됐다"며 "프라이빗 LLM 돌리는 데는 소형, 중형 모델이 확산하고 있다"고 설명했다.
이어 그는 "국내는 2000억 파라미터 넘는 자체 LLM모델 가진 사업자가 네이버, LG엑사원, KT 3개뿐"이라면서 "글로벌 빅테크는 막대한 자금과 인력자원으로 기술발전이 빨라지고 있어 이들과의 협력이 중요해지고 있다"고 짚었다.
올해 기업 고객들의 LLM 도입과 관련 게임체인저로 부상한 '검색 증강 생성(RAG)' 모델에 대해서도 소개했다
RAG는 기존 LLM의 단점인 환각(할루시네이션)을 해결할 수 있을 것으로 기대되고 있다.
정 팀장은 "RAG는 AI가 정답과 오답을 같이 학습하는 방식으로 AI의 한계인 할루시네이션을 개선한다"라며 "다양한 유형의 기업 데이터 대응 역시 RAG로 가능할지 연구가 이뤄지고 있는 단계"라고 말했다.
이날 정 팀장은 KT의 생성형 AI 서비스 전략도 소개했다. 크게 △AI옵스(오퍼레이션) △AI에이전트 △AI어시스턴트로 나뉜다.
먼저 AI 옵스는 기업고객이 AI 서비스 활용을 위해 데이터 준비·학습·배포·운영까지 수행할 수 있는 환경을 뜻한다. 다음으로 AI 에이전트는 초거대 AI를 핸드폰, TV 등 온디바이스로 확장한 사례다. 마지막으로 AI 어시스턴트는 AI컨텍센터(AICC), 멀티봇 등의 서비스다.
정 팀장은 "AI 에이전트에서는 슈퍼앱을 고객사와 공동개발해 AI 뱅킹 서비스를 제공할 예정"이라며 "AI 어시스턴트는 생산성 향상이 핵심으로 AICC를 강화하고 생성형AI를 활용한 상담 서비스를 확대하고 있다"라고 말했다.
KT는 AI 서비스 수요가 높은 B2B 고객을 공략하기 위한 방법으로 멀티옵션 전략도 소개했다.
정 팀장은 "앞서 소개한 3가지 AI 혁신 전략과 함께 서비스 도입부터 관리까지 지원하는 MSP 서비스를 준비하고 있다"라며 "글로벌 기업과 협력해 특정 고객에게는 경량화된 모델을 제공하는 멀티옵션 전략도 추진하고 있다"고 설명했다.