gemmasprint3 [Gemma2 모델을 이용한 유튜브 실시간 채팅 요약 프로젝트] 3) Flask를 이용한 Web Service 제공 안녕하세요.해당 프로젝트의 마지막 포스팅입니다..! 이번 포스팅에서는 Flask를 이용해서이전 포스팅에서 만들어 두었던Crawling, Summarization 기능을 Web Service로 제공해보겠습니다. 1. Template 1. 프로젝트 상에서 video id와 채팅 수집 시간을 입력하는 View2. 요약 내용을 보여주는 View3. 요약 History를 보여주는 View 3가지의 View를 생성하겠습니다. 1-1. index.html index.html 입니다.페이지를 들어가면 가장 처음 노출되는 페이지입니다.비디오 ID, 수집기간을 입력받습니다. 실시간 유튜브 채팅 요약하기(한국어, 영어) 비디오 ID: * https://www.you.. 2024. 10. 2. [Gemma2 모델을 이용한 유튜브 실시간 채팅 요약 프로젝트] 2) Chat Summarization with LLM 안녕하세요.Gemma2 모델을 이용한 유튜브 실시간 채팅 요약 프로젝트 2번째 포스팅입니다. 이전 유튜브 채팅 데이터 Crawling 포스팅에 이어서가져온 채팅 데이터를 LLM 모델에 넣고채팅 요약 및 분석을 하는 과정을 설명하겠습니다. 1. 모델 선택 기준 생각하기 사용할 모델을 따져보았습니다. 1-1. Gemma Sprint의 프로젝트이므로 Gemma 모델을 사용합니다.Gemma 모델은 Opensource 모델이므로 비용이 소모되지 않습니다.짱짱 1-2. 하지만 Opensource 모델인 만큼 개발 컴퓨터 환경에서 추론이 가능해야 합니다.저의 컴퓨터 환경은 24GB RAM을 가진 GPU를 사용하고 있습니다.과연 돌아갈지는 테스트를 진행하면서 확인해보겠습니다. 1-2. 프로젝트 방향성을 따졌을 .. 2024. 10. 2. [Gemma2 모델을 이용한 유튜브 실시간 채팅 요약 프로젝트] 1) YouTube Live Chat Crawling 안녕하세요. 선의공입니다. 저는 유튜브 스트리밍을 보는 것을 좋아하는데요!마침 Google MLB에서의 과정 중 하나인 Gemma Sprint 프로젝트를 정하다가"최근 LLM을 이용해 채팅을 요약하고 분석해서 한눈에 볼 수 있는 서비스를 제공하면 어떨까?"라는 생각에 해당 주제의 개인 프로젝트를 진행해보았습니다.또한 2024년 7월에 공개된 따끈따끈한 Opensource 모델인 Gemma2 모델을 사용해보았습니다. 프로젝트 진행 과정을 블로그에 공유하려고 합니다. 프로젝트는 크게 보면유튜브 YouTube Live Chat 정보 가져오기 -> Gemma2 LLM 모델을 이용한 채팅 요약 -> 사용자에게 보여주기의 로직으로 진행될 것 같아요. 이 중 YouTube Live Chat 정보 가져오기 과정에 대해.. 2024. 10. 2. 이전 1 다음
