뤼튼 생성AI 기반 글쓰기 솔루션 제공기업 이세영 대표(티타임즈TV)

뤼튼은 생성AI를 기반으로 한 글쓰기 솔루션 제공기업이다. 2021년 창업이후 다양한 LLM을 활용하여 개인과 기업대상의 글쓰기 도구를 제공하고 있다. 주요서비스로는 뤼튼, 뤼튼 트레이닝, 뤼튼 다큐먼트가 있다.

 

1. 뤼튼

2021년 4월 창업

대표 이세영

 

 

2. 뤼튼 사업내용

생성AI를 기반으로 한 글쓰기 솔루션 제공기업. 2021년 4월에 이세영 대표가 창업

 

 

3. 뤼튼 제공 서비스

글을 써야 하는 모든 대상이 고객. 콘텐츠 크리에이터, 마케터 등등

1) 뤼튼

50개의 글쓰기 툴이 존재

2) 뤼튼 트레이닝

혁신상 수상. 계속 질문을 던져주고, 참고할수 있는 자료를 계속 제안해 주면서 자신의 생각을 글로 표현할수 있도록 도와주는 글쓰기 코칭 프로그램. 초중고생을 대상으로 제작

3) 뤼튼 다큐먼트

사업계획서, 보고서 같은 글의 초안을 작성해주는 전문화된 글쓰기에 특화. 간단한 아이디어, 하는 일의 맥락을 입력하면 초안이 만들어지고 쉽게 수정이 가능

 

차이 : 뤼튼은 B2C 일반인용, 트레이닝은 학생용, 다큐먼트는 B2B 기업용

 

4. 뤼튼이 사용하는 LLM

GPT3.5, 하이퍼클로바(네이버), 오픈소스LLM 등 5개이상의 LLM이 탑재되어 있고, 각 툴에 적합한 LLM을 사용 GPT모델구조를 가지고 와서 우리 데이터를 추가학습시켜서 우리만의 모델을 제공하는 경우도 있다.

 

현재 한국에서 제일 많이 사용되는 LLM은 아무래도 하이퍼클로바가 높음 2021년도에 우리가 GPT를 이용해서 프로그램을 만들고 있었는데, 2021년 5월에 네이버가 하이퍼클로바 제작 발표를 하고 나서, 네이버 팀과 긴밀하게 협약하여 뤼튼 만들어짐 생성AI서비스 기업은 다양한 LLM을 적절히 조합할때 더 강력해짐

 

 

5. LLM 모델별 특징

1) 하이퍼클로바 : 한국어 이해도 높음

2) GPT : 대화형 모델에 특화

3) A LLM : 논리적 대화에 특화

4) B LLM : 윤리적인 부분 고려

5) C LLM : 오픈소스

 

 

6. 뤼튼이 LLM에 지불하는 비용

2021년도에는 매우 비쌌음. 이후 1/3로 줄고, 다시 1/10으로 줄어들음 하드웨어도 비용이 계속 줄어들고 있음 생성AI 위한 비용은 SW, HW 모두 계속 줄어들고 있음

 

1) 하드웨어기술의 발달

2) 인공지능 모델의 경량화

 

가 비용이 낮아지는 이유로 보고 있음

 

 

7. 파인튜닝 방식

1) 최소한의 파인튜닝이 먼저

2) 이용자의 선호도를 파악하고 다시 이 데이터로 튜닝

 

 

8. 생성AI가 활발하게 쓰이는 3가지 분야

1) 초안작성

2) 아이디에이션

3) 브레인스토밍

 

 

9. 프롬프트엔지니어의 역할

여러 LLM모델을 많이 접하고 다양한 프롬프트를 입력하면서 결과물을 확인하는 작업. 사람과 AI사이의 중간자 역할

 

 

10. 프롬프트 엔지니어의 존재이유

초거대AI 자체가 뇌 구조와 같이 수많은 신경망 구조로 이루어져 있고, 너무 복잡해서 블랙박스의 영역이 존재. 그래서 원하는 결과를 도출하기 위해 여러가지를 설계해보고 입력하면서 결과물 확인하여 최적의 입력값을 찾기 위해 필요. 입력값의 순서에 따라서 결과값이 다르게 나오는 경우도 있음 더 좋은 결과를 내기 위해 유저의 과거 대화 내용을 어떻게 인풋에 같이 넣을지에 대해서 고민하고 다양한 방법론을 찾고 있음

 

 

11. 프롬프트 엔지니어에 대한 오해

'생성AI를 이용한 응용 프로그램'을 만들기 위해 프롬프트 엔지니어는 필수. 앞으로 발전할수록 프롬프트 엔지니어는 더 중요해짐. 과거의 '정보검색사'하고 비교를 많이 하지만 다름

 

 

12. 프롬프트 엔지니어가 되기 위한 조건

개발지식이 필요하지는 않음. 대신 논리적인 사고와 실험을 주도적으로 해보고, 실험을 기록하고 분석하는 분석적인 능력이 중요하다고 봄. 언어적 능력도 중요. 추가로 LLM에 대한 관심이나 새로운 신기술에 대한 관심도 중요하다고 보고 있음.

 

 

13. 프롬프트 엔지니어의 배경

프롬프트 엔지니어 경력자로서 어떤 특정 배경을 가진 사람이 더 잘한다거나 하는걸 못찾음. 오히려 다양한 사람들이 모여야 큰 문제를 해결할수 있을것이라고 보고 있다

 

 

14. 버티컬 생성AI 응용 서비스가 갖춰야 할 경쟁력 2가지

1) 차별화

챗GPT는 매우 범용적임. 프롬프트를 많이 찾아나가야 함. 그러나 버티컬 서비스는 해당업무에 있어서 핵심 니즈만 구현할수 있는 특화된 것들이 중요

 

2) 상호 운용성

특정LLM에 의존하는것이 아니라, 다양한 LLM 활용과 개발이 필요. 일부는 자체모델까지 만든다는 생각까지 해야함

 

 

15. 생성AI서비스 경쟁에서 차별화 포인트

생성AI와 결합한 다양한 서비스가 등장하겠지만, 생성AI이기에 가능한 서비스들이 경쟁력 있을것. 이것을 찾아야 한다. 모든 기업들이 어플 만들수 있는것처럼, 모든 기업이 생성AI를 도입하더라도 생성AI이기에 가능한 서비스를 만드는 회사는 살아남는다.

 

 

16. 생성AI만이 할수 있는 서비스는?

오프라인 회사가 홈페이지 만든다고 인터넷 회사라고 하지 않음. 인터넷 기술에 의해 빅테크 기업이 된 기업은 인터넷이 주는 이점을 받아들여서 만들어낸 업체들임. 생성AI 최대의 가치는 콘텐츠 생성의 비용과 시간이 들지 않는 부분. 해결할수 있는 부분이 고유하면서 방대한 생성도 가능해지고 초개인화된 것들도 가능해질것. 콘텐츠 큐레이션의 마지막 비용이 0에 수렴할것.

 

1) 고유하면서 방대한 콘텐츠 생성

2) 초개인화 경험

 

 

17. 과거 인터페이스의 변화과정

키보드 → GUI → 터치 스크린 → 언어기반 랭기지 모델 

 

 

18. 현재 생성AI의 위치

많은 VC에서 앱스토어 초기 형태로 많이 보고 있음