안녕하세요!
CHATGPT 4.0을 유용하게 사용하다, llm을 local로 돌려보는데 관심이 생겼습니다.
관련 자료를 찾다가, ollama를 이용하여 34b quant 4bit을 돌려보고 있는 중입니다.
혹시, 직접 원하는 model을 local에서 돌리기 위해 필요한 자료들을 어디서 얻어 볼 수 있을 지 조언을 받아 볼 수 있으면 좋을 것 같습니다.
즐거운 주말보내세요!
안녕하세요!
CHATGPT 4.0을 유용하게 사용하다, llm을 local로 돌려보는데 관심이 생겼습니다.
관련 자료를 찾다가, ollama를 이용하여 34b quant 4bit을 돌려보고 있는 중입니다.
혹시, 직접 원하는 model을 local에서 돌리기 위해 필요한 자료들을 어디서 얻어 볼 수 있을 지 조언을 받아 볼 수 있으면 좋을 것 같습니다.
즐거운 주말보내세요!