gemma1 [Gemma2 모델을 이용한 유튜브 실시간 채팅 요약 프로젝트] 2) Chat Summarization with LLM 안녕하세요.Gemma2 모델을 이용한 유튜브 실시간 채팅 요약 프로젝트 2번째 포스팅입니다. 이전 유튜브 채팅 데이터 Crawling 포스팅에 이어서가져온 채팅 데이터를 LLM 모델에 넣고채팅 요약 및 분석을 하는 과정을 설명하겠습니다. 1. 모델 선택 기준 생각하기 사용할 모델을 따져보았습니다. 1-1. Gemma Sprint의 프로젝트이므로 Gemma 모델을 사용합니다.Gemma 모델은 Opensource 모델이므로 비용이 소모되지 않습니다.짱짱 1-2. 하지만 Opensource 모델인 만큼 개발 컴퓨터 환경에서 추론이 가능해야 합니다.저의 컴퓨터 환경은 24GB RAM을 가진 GPU를 사용하고 있습니다.과연 돌아갈지는 테스트를 진행하면서 확인해보겠습니다. 1-2. 프로젝트 방향성을 따졌을 .. 2024. 10. 2. 이전 1 다음