[AI News] 23.03.10 인기 끝내주는 눈달린 챗GPT 'AskUp' 카톡 챗봇... 3일만에 채널친구 3만명 돌파, 최적의 답 찾아 제공

오늘은 upstage 회사의 새 기술인 AskUp 론칭에 관심이 있어서 관련 기사를 가져왔습니다!!!

 

챗GPT에 업스테이지의 프롬프트 튜닝과 파인튜닝을 통해 최적의 답을 자연스러운 대화로 제공한다고 한다 ! (🤩)

기사 내용을 한번 보도록 하자!

 

기사 요약

• 인공지능(AI) 스타트업 업스테이지(대표 김성훈)가 국민 모바일 메신저 카카오톡에 업스테이지의 광학문자인식(OCR) 기술과 챗GPT를 더한 AskUp을 론칭, 입소문으로만 만 3일 만에 채널친구 3만 명을 모았다.
  
  
• AskUp은 업스테이지가 개발한 생성 인공지능 챗봇 '챗GPT’를 기반으로 업스테이지의 OCR 기술을 결합, 사용자가 문서의 사진을 찍거나 전송하면 그 내용을 읽고 이해하고 답변할 수 있는 '눈달린 챗GPT’로 탄생했다. 
  
  
• 업스테이지가 개발한 OCR 기술은 다양한 글꼴, 배경 등에 상관없이 정확하게 문자를 인식한다.
  
  
• 이를 통해 사용자는 텍스트로 작성된 문서나 손글씨 이미지 등을 AskUp에 보내면 번역된 내용과 함께 답변을 받을 수 있다.
• 또한 학습 자료, 사업자 등록증, 계약서 등 다양한 서류도 AskUp에 질문하면 필요한 정보를 얻거나 텍스트로 처리도 가능하다.
  
  
• 특히 카카오톡과 라인에 적용된 AskUp은 챗GPT보다 한 걸음 더 나아가, 업스테이지의 프롬프트 튜닝 노하우를 통해 이미지가 있을 경우 OCR로 처리하고 그 결과와 메시지를 같이 ChatGPT에 보낼 때 특별한 프롬프트와 컨텍스트를 조합한 질문을 통해 가장 좋은 답을 받도록 한다.
  
  
• 뿐만 아니라 사용자 질문에 따라 파인튜닝해서 친구 사귀듯 점차 성격에 맞는 대화까지 가능하다. 예를 들어, “오늘 날씨 어때?” 라고 물으면 현재 위치의 날씨 정보와 함께 적절한 의상이나 활동을 추천해준다. 또한, “오늘 기분이 좋아” 라고 말하면 그 이유를 물어보거나 축하해주는 등의 반응을 보여준다.
  
  
• 향후에는 업스테이지의 추천 Pack을 도입, Seargest(추천+검색) 기술 등 자사의 다양한 기술을 적용해 장기 메모리를 개발, 과거의 대화 중 필요한 내용을 추천하는 기능도 적용할 계획이다. 예를 들면 “작년 가을에 바비큐 회식을 했던 장소가 어디?” 등의 질문을 할 경우 이전 대화를 보고 답을 주는 식이다.

 

 

기사에서 언급된 UpStage 만의 기술 노하우는 크게 두가지인 프롬프트 튜닝과 Seargest(추천 기술)이 있다. 

이것들이 무엇인지 추가적으로 찾아보았다.

 

프롬프트 튜닝

대형 언어모델로 응용 프로그램을 만들때 프롬프트를 가지고 미세 조정(Fine tuning)을 하는 일을 의미한다. 하지만 최근엔 달리나 미드저니 같은 이미지 생성 AI 도구들이 나오면서 여기에 입력하는 프롬프트를 만들어 내는 작업에도 적용되고 있다고 한다.

그래서 프롬프트 엔지니어라는 포지션도 생겨났는데 말 그대로 프롬프트 엔지니어는 명령글인 프롬프트를 전문적으로 만드는 직업이다. 프롬프트 엔지니어는 'GPT-3' 같은 대형언어모델로 응용 프로그램을 만들 때 모델이 올바르게 작동하도록 다양한 방식으로 프롬프트를 조작하고 개선하는 역할을 한다. 

GPT-3는 매개변수가 1750억개나 되는 큰 모델이죠. 여러 곳에 쓸 수 있는 기초(Foundational) 모델이기도 하다. 그런데 이런 대형 기초 모델을 이용해서 규모가 작은 애플리케이션을 만들 때는 미세조정 과정이 필요하다.

예를 들어 어린이를 위한 과학 이야기를 만들어 내는 인공지능 앱을 만든다면 GPT-3가 아이들 눈높이에 맞춰 친철한 스타일의 글을 만들어 내도록 훈련시키는 미세 조정 과정이 필요하다.

GPT-3에 명령을 내리고 결과에 따라 다시 명령을 수정하는 일을 되풀이해서 원하는 결과를 만들어 내도록 하는 것이 프롬프트 엔지니어링 이다. 

 

Seargest(추천 + 검색) 기술 

(본 글을 upstage 블로그를 정리한 글입니다! 출처는 글 맨 뒤에 달아놓았습니다 ☺️)

서제스트(Seargest; search+suggest) 는 사용자의 데이터를 바탕으로 초개인화된 검색·추천 기능을 제공해주는 기술이다. Seargest는 AI로 검색하고 추천하는 기능을 합친 것으로, 비대면 문화가 확산되며 이미 우리의 일상 곳곳에 적용되고 있다.

검색 기능을 통해 온라인상의 정보 홍수 속에서도 사용자가 원하는 정보를 찾을 수 있도록 도움을 받고, 추천 기능으로 사용자의 취향에 맞는 콘텐츠나 상품을 추천하여 서비스 이용 시간 및 구매 전환율이 높힌다.

그럼 실제 현업에서 Seargest 기술이 어떻게 활용되고 있는지 살펴 보도록 하자!

1. 아마존

글로벌 쇼핑 플랫폼 서비스를 운영하는 아마존은 영어가 아닌 다른 언어의 감정어도 자동 번역하여 적합한 제품을 찾아 고객의 구매를 이끌어내고 있다. 이를테면 검색창에 “쌀쌀할때”를 입력했을때 따뜻하게 입을 수 있는 옷이 검색 결과로 보여지는 것이다. 마치 우리가 쌀쌀한 날씨를 생각했을 때 긴팔 티셔츠나 외투를 떠올리는 것처럼 AI도 검색어를 똑같이 이해하는 것이다. 이처럼 상품 검색에 AI를 적용하면 오타 수정과 번역은 물론, 자연어 처리를 기반으로 모호하고 복잡한 키워드도 의미 중심으로 가장 적합한 검색 결과를 도출해낼 수 있다.

 또한 아마존이 만든 세계 최대 퍼블릭 클라우드 서비스인 AWS는 자사 플랫폼을 바탕으로 발전시킨 AI 기술을 기반으로 지능형 검색 서비스인 ‘아마존 켄드라’와 개인화 추천 서비스인 ‘아마존 퍼스널라이즈’를 출시하기도 했다.

 

2. 유튜브

유튜브는 ‘AI 알고리즘’의 대명사가 될 정도로 AI 추천 기술이 주된 서비스이다.

닐 모한 유튜브 최고상품담당자(CPO)는 지난해 뉴욕타임스 인터뷰에서 “유튜브에 AI 알고리즘을 도입한 이후 총 시청 시간이 20배 이상 증가했다”라고 밝히기도 했다. 초개인화된 Seargest 기술로 사용자들의 취향에 맞는 콘텐츠를 추천해주다보니 자연스럽게 플랫폼 이용률이 극대화된 것이다.

 

3. 네이버

국내 포털 점유율 1위의 네이버 또한 검색·추천 기술 Seargest를 적극적으로 활용하고 있다. 네이버는 에어서치 검색 기능을 통해 스마트블록, 지식 인터렉티브, 옴니서치, 동영상 장면 탐색 기능, 웹 검색 결과를 고도화하고 있다. 특히 에어서치 검색 기능 중 ‘스마트블록’은 검색 사용자의 의도, 취향을 반영하여 사용자별 최적의 맞춤형 검색 결과를 스마트블록 단위로 세분화해 보여준다. AI가 사용자의 검색 의도를 파악해 초개인화된 콘텐츠를 노출함으로써 사용자의 경험이 향상되고 있는 것이죠. 

또한 네이버는 큐레이션 서비스를 강화하고자 자사의 AI 기반의 상품 추천 기술을 활용해 사용자 개인의 관심사와 취향을 모은 AI 쇼핑 큐레이션 공간 '포유' 탭을 신설했다. 네이버쇼핑 내 약 10억개의 상품 DB 중에 자신의 관심사와 취향에 맞는 아이템을 보여주는데, 이로써 고객을 묶는 락인 효과(lock in effect)를 극대화 할 수 있다.

 

4. 브랜디 X 업스테이지

브랜디는 업스테이지가 제공하는 추천 AI 솔루션을 통해 사용자 데이터를 기반으로 개인의 취향과 제품을 분석해 앱의 첫 페이지에서부터 초개인화 된 제품을 추천해준다. 업스테이지의 추천 AI의 성능은 브랜디와의 검증 과정에서 클릭률은 물론 매출과 관련된 거래 전환율 등 다양한 지표에서 글로벌 A사 추천 솔루션 대비 1.5배 이상 좋은 결과를 도출해 매출 성장을 위한 필수 기술로서의 영향력을 드러냈다.

특히, 업스테이지의 AI Pack은 기업이 기존처럼 수십 억의 구축 프로젝트가 아닌 솔루션 사용료만을 가지고 AI 도입 및 유지를 가능하게 하고 있어 더욱 많은 기업에서 내재화 대비 ~90% 정도 절감된 수준의 비용으로 Seargest 기술을 도입할 수 있다.

  

5. U 플러스

U+tv 서비스를 제공하고 있는 LG유플러스도 검색·추천 기술을 활발하게 활용하고 있다. LG유플러스는 미디어 경쟁력 강화를 위해 업스테이지가 보유한 AI 딥러닝 알고리즘을 활용해 고객의 감정에 맞춰 콘텐츠를 추천하는 ‘AI 기반 감정 콘텐츠 검색 기술’ 개발에 본격적으로 나섰다.

 U+tv의 데이터를 분석해 고객이 느끼는 다양한 감정을 키워드로 콘텐츠를 분류하여 고객이 감정에 맞는 콘텐츠를 보다 쉽게 검색하거나 추천받을 수 있도록 하는 것이다. 기존에는 콘텐츠를 장르별로 분류했다면, 여기에 감정어를 포함시켜 사용자가 ‘으스스한 영화’나 ‘감동적인 영화’ 등을 검색했을 때에도 적합한 콘텐츠를 추천해주어 사용자의 섬세한 감정에 어울리는 진정한 맞춤형 서비스가 가능해진다. 고객의 니즈를 정확하게 파악해 더 나은 서비스를 만들어갈 수 있는 Seargest(검색·추천)는 다양한 기업에서 활용되며 사용자의 경험을 혁신해가고 있다. 브랜디는 업스테이지가 제공하는 추천 AI 솔루션을 통해 사용자 데이터를 기반으로 개인의 취향과 제품을 분석해 앱의 첫 페이지에서부터 초개인화 된 제품을 추천하게 된다. 업스테이지의 추천 AI의 성능은 브랜디와의 검증 과정에서 클릭률은 물론 매출과 관련된 거래 전환율 등 다양한 지표에서 글로벌 A사 추천 솔루션 대비 1.5배 이상 좋은 결과를 도출해 매출 성장을 위한 필수 기술로서의 영향력을 드러냈다.

 

느낀점

AI 기술이 점점 데이터 종류의 경계가 사라지고 있다는 것을 느꼈다. 이제는 Chatbot에서 그치는 것이 아니라 Askup 처럼 자연어와 이미지 데이터를 함께 다루는 AI 기술인 멀티모달 기술이 현업에서 대두되는 기술이다. 또한 한가지 기술이 아닌 Seargest 처럼 2개 이상의 테스크를 처리하는 AI 기술도 효과적으로 사용되고 있는 것을 알 수 있었다. 이를 통해 미래의 AI 는 더 방대하고 다양한 데이터를 처리 할 수 있을 것이다. 또한 앞으로 각 데이터 도메인에 최적화 할 수 있는 하나의 모델을 개발하는 것이 AI 기술의 방향성이라고 생각한다.

 

출처

https://www.aitimes.kr/news/articleView.html?idxno=27536

https://www.upstage.ai/blog/insight/2023-ai-tech-trend-seargest