내 PC에서 로컬로 딥시크 (deep seek) 구동하기

Поділитися
Вставка
  • Опубліковано 5 лют 2025

КОМЕНТАРІ • 60

  • @필로소피
    @필로소피  8 днів тому +1

    안녕하세요^^
    영상 속에서 말씀드린 나만의 코딩팀 instructions를 공유합니다!
    아래 링크에서 보실 수 있습니다~!😊
    cafe.naver.com/philosophyai/38?tc=shared_link

  • @John-rl9ne
    @John-rl9ne 8 днів тому +7

    유튜브보며 댓글 처음 달아보는거같아요
    최신것들을 빠르게 사용해보시고 상세하게 말씀해주시는게 너무 좋네요 ㅎㅎ

    • @필로소피
      @필로소피  8 днів тому

      진심 어린 응원의 말씀 정말 감사드립니다 😊

  • @cri.aitive
    @cri.aitive 6 днів тому +1

    잘봤습니다. 딥씨크 공부하려고 방문했는데, 많이 배웠습니다. ^^

  • @sahoki8948
    @sahoki8948 8 днів тому +3

    감사합니다!

  • @JL-th5rr
    @JL-th5rr 7 днів тому +2

    램 엄청 먹는데 성능은 많이 아쉬워서 로컬 구동은 포기해야겠네요 ㅠㅠ 좋은 영상 잘 봤습니다.

  • @honaldoalberto8923
    @honaldoalberto8923 День тому +1

    로컬로 딥시크를 활용하고자 하는데요 제 컴퓨터 자료를 학습시키고 (gpt처럼) 음성으로 묻고 텍스트로 답을 얻고 싶은데 가능한가요???

    • @필로소피
      @필로소피  20 годин тому

      안녕하세요~! 제가 알기로는 아직은 음성으로는 안 되는 걸로 알고 있습니다 ㅜ

  • @JR-kim
    @JR-kim 6 днів тому

    그냥 지나가다 쓸데없이 궁금한게 생겼어요ㅎㅎ 그래픽카드 12개짜리 채굴기에 돌리면 그래픽카드 모두활용해서 성능이 잘 나올까요?ㅋ
    그냥 궁금해서요ㅎㅎ
    채굴기 + 개인 자료까지 추가로 학습시킬수 있다면 업무에 엄청난 도움이될거 같아요
    당장 채굴기 사러ㄱㄱ

  • @lgh58
    @lgh58 8 днів тому +2

    안녕하세요 항상 좋은 정보 잘보고있습니다. 요번에는 질문이 있는데 알려주신 방법으로 설치 및 설정 완료 후 openwebui를 통해서 질문을 던지니 답변 대기만 뜨고 결과값을 내주질 않는데 어떤 문제인지 감이 안잡힙니다.

    • @필로소피
      @필로소피  7 днів тому

      ​@@lgh58 안녕하세요!^^
      제대로 설치 된 상태인데도 그렇다면, 아마 컴퓨터 성능 때문에 그러실 수도 있습니다~!
      저도 크기가 큰 모델과 대화를 시도해보니, 답변을 얻을 때까지 시간이 많이 걸리더라고요ㅜ

  • @주식-i3v
    @주식-i3v 8 днів тому +9

    와~ 잘 작동하네요. RTX2080에서 7b는 출력이 엄청 빠른데, 14b는 속기사 타이핑하는 수준이에요. 한국어도 잘하네요~ 갑자기 추억의 도스 채팅 프로그램, 맥스가 생각납니다;;;

    • @lime-cherry-banana
      @lime-cherry-banana 7 днів тому

      맥스를 아시다니... 최소 저랑 동년배... 아재 클럽 화이팅입니다.

    • @필로소피
      @필로소피  7 днів тому

      그렇군요~!^^ 아무래도 컴퓨터 성능에 따라 답변 속도가 달라지는 거 같습니다~!!

  • @groomingLIFE
    @groomingLIFE День тому

    이거는 내 로컬 컴퓨터에서 딥시크가 돌아가는거라서 인터넷연결없이도 되는건가요?

  • @DrowsyCAT
    @DrowsyCAT 6 днів тому

    아. 저 도커 이미지가 로컬에 설치된 올라마를 기본으로 가정하고 web ui가 세팅된 건가 보군요.

  • @GaussMathking
    @GaussMathking 7 днів тому +1

    챗박스를 쓰시면 채팅하듯 AI모델을 쓸수 있습니다.

    • @필로소피
      @필로소피  7 днів тому

      안녕하세요~^^
      말씀 감사합니다~😊
      저도 chat box에 관심이 있어서, 관련 영상을 만들어 보려고 하고 있었습니다~!

  • @조형욱-q2r
    @조형욱-q2r 2 дні тому +1

    맥에서 실행중 오류떴는데 ...터미널에서 설치가 완벽히 안됐는데 지우고 다시해보려는데 어떻게 해야 하나요? allama는 무슨역할을 하는거죠? 실행해도 아무것도 안뜨고 ..백그라운드에서 뭔가를 하는건가요?

    • @필로소피
      @필로소피  День тому

      안녕하세요^^
      아래는 ollama로 설치한 deep seek를 지우는 방법입니다.
      1. 터미널 열기
      2. 명령어 입력 : ollama list
      그러면 설치된 모델명이 보이실 겁니다.
      3. 명령어 입력 : ollama rm 모델명
      (list에서 확인한 정확한 모델명을 입력하기)
      이렇게 하시면 설치하신 모델을 지우실 수 있으실 겁니다 😊

    • @조형욱-q2r
      @조형욱-q2r День тому

      @@필로소피 아...지우긴 했는데 컴퓨터가 이생해 졌는데..ㅠㅠ 잘 지워졌는지 확인하는 다른방법은 없나요? 디렉토리를 완전히 지운다거나... 올라마도 지웠는데

    • @필로소피
      @필로소피  20 годин тому

      @
      안녕하세요!
      컴퓨터마다 환경이 조금씩 다를 수 있지만, 제가 아는 선에서 최선을 다해 답변을 드리도록 하겠습니다.
      먼저 터미널을 여시고
      ollama list라고 치시면
      설치된 deep seek 모델명이 나오시나요?
      나온다면,
      ollama rm 딥시크 모델명
      이렇게 입력해서 모델을 하나씩 다 지워주세요!
      그리고 ollama도 지워보겠습니다.
      먼저 터미널에서 현재 ollama의 위치를 확인해보기 위해 아래 명령어를 입력해주세요
      which ollama
      그 다음 아래 명령어들을 순서대로 입력해주세요:
      (알려드리기 위해 제 mac에서도 ollama를 잠시 지워봤습니다. 저는 ollama 위치가 아래와 같이 나오더라고요. which ollama라고 입력했을 때 나오는 ollama 위치를 아래에 넣어주시면 될 거 같습니다. 만약 저랑 똑같이 나오셨다면, 아래 명령어를 그대로 쓰셔도 될 거 같습니다)
      sudo rm -rf /usr/local/bin/ollama
      sudo rm -rf ~/.ollama
      sudo rm -rf /Applications/Ollama.app
      (sudo 명령어 실행 시에 비밀번호를 물어보면 Mac 로그인할 때 사용하시는 비밀번호를 입력하시면 됩니다. 입력할 때 화면에는 아무것도 보이지 않는 게 정상입니다. 숫자를 다 입력하고 엔터를 누르시면 그 다음으로 넘어가실 겁니다)
      ollama까지 다 지우셨다면
      마지막으로 다시 한번 아래 명령어를 입력해보세요
      which ollama
      ollama가 잘 지워졌다면, ollama not found 라고 나올 겁니다~!
      감사합니다~!!

  • @골린이일기-t4c
    @골린이일기-t4c 6 днів тому

    Chat gpt처럼 웹에서 안되는건가요? 로컬상태테스트여서그런가. 아. 그리고 일반노트북(그래픽내장)인경우 어느정도버전을써야할까요

  • @1fasd2121r
    @1fasd2121r 8 днів тому +4

    이미 설치한 딥시크를 삭제하려면 어떻게 해야할까요? 용량 문제때문에요? 맥 입니다.

    • @필로소피
      @필로소피  8 днів тому +4

      @@1fasd2121r 안녕하세요^^
      ollama로 설치한 deep seek를 지우신다는 말씀이죠?
      1. 터미널 열기
      2. 명령어 입력 : ollama list
      그러면 설치된 모델명이 보이실 겁니다.
      3. 명령어 입력 : ollama rm 모델명
      (list에서 확인한 정확한 모델명을 입력하기)
      이렇게 하시면 설치하신 모델을 지우실 수 있으실 겁니다 😊

  • @golang-java
    @golang-java 6 днів тому

    감사합니다 그런데 기존에 deepseek 웹은 이미 교육이 되어있는건가요?? 오픈소스를 이용하면 교육이 안되어있는건가요?

  • @liningsilver-u9d
    @liningsilver-u9d 6 днів тому +1

    30b도 언어모델부터 취약함. 온라인 딥시크랑은 현저히 다른 저수준

  • @neoraoz
    @neoraoz 8 днів тому +1

    감사합니다. 덕분에 테스트할 수 있었습니다. 딥시크의 답변에 한글과 한자가 섞여서 나오는데 이것에 대해서는 횡설수설하네요.

    • @필로소피
      @필로소피  8 днів тому

      @@neoraoz 저도 감사드립니다^^
      저도 직접 해보니, 확실히 크기가 작은 모델은 그런 경향이 더 있는 거 같습니다.

  • @Kaylaloro
    @Kaylaloro 7 днів тому +1

    윈도우에서는 설치가 불가능한가요? 다 다운로드 받고 했는데 open web ui 를 어떻게 여는지 모르겠어요

    • @필로소피
      @필로소피  2 дні тому

      윈도우에서도 설치가 가능하실 겁니다~!
      open web ui 열려면 명령어를 입력해야 합니다.
      그 부분에 대한 설명이 영상에 나옵니다.
      아니면 chat box를 활용해서
      deep seek를 로컬에서 쓸 수 있는 방법이 있습니다.
      챗박스를 활용하는 방법이 더 쉬우실 수도 있습니다.
      아래에 영상 링크를 남겨 드립니다 :)
      ua-cam.com/video/xu1semM8rlo/v-deo.htmlsi=XN8r6iSNgj6-BK_c

  • @truewisdom89
    @truewisdom89 7 днів тому +1

    14b를 깔았더니 제 컴터에서는 타이핑이 느리네요. 삭제 하고 7b로 바꾸려고 하는데, 14b를 지우는 방법 여쭤봅니다.

    • @필로소피
      @필로소피  7 днів тому +2

      @@truewisdom89
      안녕하세요^^
      ollama로 설치한 deep seek를 지우신다는 말씀이죠?
      1. 터미널 또는 cmd창 열기
      2. 명령어 입력 : ollama list
      그러면 설치된 모델명이 보이실 겁니다.
      3. 명령어 입력 : ollama rm 모델명
      (list에서 확인한 정확한 모델명을 입력하기)
      이렇게 하시면 설치하신 모델을 지우실 수 있으실 겁니다 😊

  • @dr.aizeta
    @dr.aizeta 8 днів тому +1

    컴퓨터 성능과 GPU는 어느정도가 되면 적당히 돌아갈까요? 정확히는 아니더라도 대충적인 설명....컴퓨터 구매시 참고 하겠습니다.

    • @필로소피
      @필로소피  7 днів тому +1

      안녕하세요~^^
      저도 이 부분은 정확한 답을 드리기 쉽지 않은데요ㅜ
      이 영상에 댓글을 달아주신 분들의 글을 참고해서 말씀드리면,
      4090으로 32b도 돌아가기는 하지만 답답하게 돌아가고, 14b는 빠르게 돌아가지만 답변 퀄리티가 좀 떨어지는 것처럼 느껴지신다고 합니다~!

    • @dr.aizeta
      @dr.aizeta 7 днів тому

      안드로이드 최신폰 갤럭시 25 울트라가 저장1t 메모리 16g 도 나오던데 설치하고 다닐 수도 있을까요?

    • @셩-f4s
      @셩-f4s 7 днів тому

      ​@@dr.aizeta 4090은 그래픽 카드입니다
      일반적으로는 모바일에서는 안돌아갈거에요

  • @김인욱-u5q
    @김인욱-u5q 8 днів тому +1

    4090으로는 몇b 모델까지 실행 될까요 32b 20GB?

    • @gastownhero5064
      @gastownhero5064 8 днів тому

      제경우는 24gb 까지 되더군요

    • @Jong-Seo-Park
      @Jong-Seo-Park 7 днів тому

      32되는데 좀 많이 느려서 답답합니다. 화면 켜놓고 실무용으로 쓰기에 약간 애매했던거 같습니다 14는 그에비해 너무 가볍고..답도 빠르지만 약간 멍청한거 같고, 체감상 32가 4o정도느낌이었습니다

  • @pray4skylark
    @pray4skylark 6 днів тому

    모바일폰에서도 로컬 실행되면 좋을거같은데

  • @호모사케
    @호모사케 8 днів тому +1

    로컬에서 한글로는 대화가 안되는 건가요?

    • @필로소피
      @필로소피  7 днів тому

      안녕하세요^^
      로컬에서 한국어로 대화가 되기는 됩니다만, 작은 크기의 모델은 아무래도 한국어 능력이 떨어지는 거 같습니다~!

  • @HarryLee-u9j
    @HarryLee-u9j 6 днів тому

    맥북m2에어 에서 테스트 하다가 컴터가 뻗어서 다 삭제 했습니다 :)

  • @구아악-w7f
    @구아악-w7f 6 днів тому

    m1에어에서 14b 준수한 속도로 토큰 뽑아냅니다

    • @GhaniPai
      @GhaniPai 5 днів тому

      그럴리가.. 램이 64기가라도 되나요

  • @channlaaa7520
    @channlaaa7520 8 днів тому +1

    webui에서 계속해서 모델이 안뜨는데 어떻게 해야할까요????

    • @필로소피
      @필로소피  8 днів тому +1

      안녕하세요^^
      1. Ollama 다운받기
      2. Ollama를 활용해 deep seek 다운 받기
      3. Docker 설치
      4. 터미널 창이나 cmd 창에서 ollama 실행시키기 (ollama run 모델명)
      5. Open web UI 실행시키기
      혹시 5번 진행 전에 ollama를 실행시키셨나요?
      ollama가 실행 안 되어 있으면, 모델이 안 보일 수도 있을 거 같습니다~!!

    • @HanMH-u7c
      @HanMH-u7c 7 днів тому

      Command line 창 여시고 "ollama run 모델명" 해보세요~

  • @imwhitewhale
    @imwhitewhale 8 днів тому +2

    코딩 팀 영상은 어떤걸까요?

    • @필로소피
      @필로소피  7 днів тому +2

      이 영상입니다^^
      ua-cam.com/video/YWcvndcCLhQ/v-deo.htmlsi=_JE45m4dY4JWNaF8

  • @jungsaehoon
    @jungsaehoon День тому

    목소리좀 크게 해서...

  • @spacejourneywaves5420
    @spacejourneywaves5420 7 днів тому +1

    오프라인도 가능한가요?

    • @필로소피
      @필로소피  7 днів тому

      안녕하세요~!
      모델을 다운 받으신 후에는
      인터넷 연결 없이 로컬에서 딥시크를 사용하실 수 있습니다~!

  • @logic_alogic_b616
    @logic_alogic_b616 7 днів тому +1

    해킹이나 중국에서 데이터를 들여다본다거나 하는건 불가능한걸까요?
    혹시 로컬에 설치했을때 api 호출도 사용 가능한지 궁금합니다

    • @필로소피
      @필로소피  7 днів тому +1

      로컬에서 인터넷 없이 사용할 수 있기 때문에, 큰 문제는 없을 수도 있지만..
      어떤 일이든 100프로 장담할 수는 없기에..
      딥시크를 사용할 때 민감 데이터 등은 피하면서.. 조심해서 쓰는 것도 한 방법이 되지 않을까 싶습니다~!
      그리고 deepseek api 활용과 관련한 영상을 공유해드립니다~!
      api 활용을 위해서는 api key가 있으셔야 합니다~!
      감사합니다 😊
      ua-cam.com/video/uTxgWalY94M/v-deo.htmlsi=PI57tZ0y1quFM4Ej

    • @logic_alogic_b616
      @logic_alogic_b616 7 днів тому

      @@필로소피 감사합니다 ㅎㅎ