Chatfoodie는...
LLM(Large Language Model)을 파인튜닝한 음식 추천을 위한 챗봇 서비스입니다.
최근 거대 언어 모델(LLM)의 발전으로 인해 chatGPT와 같은 대화형 챗봇이 많이 개발되고 있습니다. 이러한 대화형 챗봇은 사용자와의 대화를 통해 사용자의 요구에 맞는 맞춤형 대답을 생성하게 됩니다. 저희 팀은 LLM의 이런 특성에 착안하여 대화를 통해 편리하게 원하는 음식을 추천 받을 수 있는 음식 추천 챗봇을 개발하였습니다.
AI 언어 모델
저희 푸디 AI는 KoAlpaca-polyglot-5.8B의 베이스 모델 위에서 fine-tuning(LoRA)을 거쳐 만들어졌습니다.
Polyglot-ko는 한국어 데이터로 학습된 다국어 초거대 언어모델 개발 프로젝트로 한국어 성능이 타 LLM보다 우수합니다. KoAlpaca-polyglot-5.8B는 한국어에 강점을 보이는 polyglot-ko를 KoAlpaca에서 챗봇 용도로 학습시켜 놓은 모델입니다.
SNS 대화 데이터(AI hub)와 Wikipedia의 음식 정보를 바탕으로 GPT를 사용한 self-instruct를 수행하였고 최종 8,000개의 학습 데이터를 이용하였습니다. 학습의 경우, QLoRA 기법을 이용하여 Colab 무료 버전으로 학습을 진행할 수 있습니다.
시스템 구조
