Installing LLM on a Laptop for Offline Use - Quick and Easy

Поділитися
Вставка
  • Опубліковано 8 вер 2024

КОМЕНТАРІ • 16

  • @user-xt1dy6wf1k
    @user-xt1dy6wf1k 2 місяці тому

    저도 설치했습니다. 언제나 큰 벽을 넘어설 수 있게 멋진 지식을 공유해주셔서 감사드립니다.

  • @user-vm2kq1fu1i
    @user-vm2kq1fu1i 2 місяці тому

    오우 뽐뿌오는군요
    빵코형님 덕분에 자신감있게 설치할 수 있겠습니다 ㅎㅎ

  • @umtbum
    @umtbum 2 місяці тому

    ㅎㅎ vue 코드 작성해달라고 했는데, 당당히 리액트로 작성해주는.. ^^
    그래도 훌륭하네요

  • @CRANDI
    @CRANDI 2 місяці тому

    항상 꿀팁 감사합니다😄😄

  • @user-vw3ip7yf6d
    @user-vw3ip7yf6d 2 місяці тому

    감사합니다 :)

  • @user-cl4xn7xz3c
    @user-cl4xn7xz3c 2 місяці тому +3

    7B 70B 각각 최소 요구사양 (VRAM)은 어떻게 알 수 있을까요?

  • @jin78189
    @jin78189 2 місяці тому +2

    M1으로도 무리 없을까요?

  • @seoul_Jin500
    @seoul_Jin500 2 місяці тому

    감사합니다. 어디에 활용하면 좋으려나...고민중...

  • @user-xt1dy6wf1k
    @user-xt1dy6wf1k 2 місяці тому

    한 가지 궁금한 것은 webUI를 이용하니 실시간 대화도 가능한데 영어를 조형기 배우처럼 읽어주네요. 어떻게 하면 자연스럽게 말할 수 있도록 할 수 있을까요?

  • @elf7979
    @elf7979 2 місяці тому

    docker는 왜 설치한건가요? 설치가 필요하나요?

  • @lietz4671
    @lietz4671 2 місяці тому +2

    중국어 문장을 한국어로 번역하는 일을 주로 하고 싶은데, 적당한 모델이 뭔지 알고 싶네요.
    chatGPT-4o는 OCR도 해 주던데, 라마3는 그런 것이 가능한지도 궁금하고요.
    누구 아시는 분 있으면 댓글로 좀 가르쳐 주세요.

    • @seongminpark8464
      @seongminpark8464 2 місяці тому +4

      GPT4o는 vision모델이 결합된 multi-modal 입니다. 하지만 llama3은 언어 모델이기 때문에 이미지를 인식하지 못합니다.
      text와 vision모델을 결합한 badayvedat/LLaVA, openbmb/minicpm-v-2.5, HuggingFaceM4/idefics2-8b같은 모델은 이미지도 입력으로 받을 수 있습니다.

    • @lietz4671
      @lietz4671 2 місяці тому

      @@seongminpark8464 이제 이해가 되었습니다. 설명에 감사드립니다. 한 1~2년만 더 기다리면 라마3나 라마4도 멀티 모달이 될 것으로 예상합니다. 그 때까지 좀 기다리면 되겠네요.

    • @namedmaster1842
      @namedmaster1842 2 місяці тому

      중국어 ocr 이랑 라마랑 결합해 쓰면 되지 않나요?

    • @lietz4671
      @lietz4671 2 місяці тому

      @@namedmaster1842 어떻게 결합해야 하는지를 모릅니다. chatGPT-4o는 바로 사진 파일 올리면 알아서 해 주더군요..

  • @Ramp_cat_7
    @Ramp_cat_7 2 місяці тому

    선생님 혹시 리눅스에서도 동일하게 실행 가능할까요?