Meta, GPT4o 급 최고성능 AI 무료 공개... LLaMA3.1 405B 모델 출시가 일으킬 AI 경쟁 지각변동과 메타의 속내

Поділитися
Вставка
  • Опубліковано 7 вер 2024

КОМЕНТАРІ • 109

  • @xwarp7
    @xwarp7 Місяць тому +9

    거의 댓글 달지 않지만 안될공학 보면서 최신 트렌드와 투자까지 많은 영감을 받고 있어요, 고맙습니다. ^^

  • @jkijljbnj7165
    @jkijljbnj7165 Місяць тому +62

    그리고 메타는 이미 개발자들 사이에서 진정한 대인배 기업으로 다들 인정받고 있었습니다. React, GraphQL, Jest 등 (이외에도 너무 많아서 일일이 열거 불가능) 웹쪽에서 대부분의 개발자들은 이미 메타에서 뿌려놓은 오픈소스 생태계에서 이제는 한 70퍼센트? 이상이 매우 밀접하게 관련돼 있다고 봅니다.

    • @user-vd6jr5wt1s
      @user-vd6jr5wt1s Місяць тому

      유명하진 않지만 RocksDB도 페이스북의 오픈소스 프로젝트로 시작해서 공개됐져 요즘 웬만한 분산 데이터베이스들은 innodb 말고 RocksDB 사용하는데 아키텍처만 봐도 대용량 데이터 시대에 아주 적합한 스토리지 엔진이죠

    • @deltax9471
      @deltax9471 Місяць тому +8

      딥러닝 양대산맥인 파이토치도 애초애 메타가 제공했고.. 짱

    • @jaeuchoi9948
      @jaeuchoi9948 Місяць тому +8

      궤도에 오르면 그냥 깔끔하게 코어만 관리하고 커뮤니티에게 맡기는 것도 세련됨. 쉽지않은데 그와중에 애플은 아무것도없고 구글은 항상 나오면 언제죽일지 몰라서 이거 써도되나요? 안되나요?로 서로 싸움.

    • @python-ed
      @python-ed Місяць тому +1

      개발자로써 공감합니다.

    • @jkijljbnj7165
      @jkijljbnj7165 Місяць тому

      @@jaeuchoi9948 마소도 따져보면 typescript, vscode 등 많죠. 구글은 말씀하신디로고 애플은 진짜 없죠...

  • @Yadong_creature
    @Yadong_creature Місяць тому +10

    역시 주커버그 수싸움 지린다. 과연 어케 될지 흥미 진진하네요

  • @user-by5vk7fb3g
    @user-by5vk7fb3g Місяць тому +16

    캬 메타 멋져

  • @Royal_Salute_
    @Royal_Salute_ Місяць тому +4

    후발주자로서 아주 좋은 수를 둔거 같네요 AI의 발전이 기대됩니다

  • @jkijljbnj7165
    @jkijljbnj7165 Місяць тому +62

    구글 비공개 문서라고 불리우던 것에서 AI에는 해자가 없다 결국 오픈소스가 승리할 것이라고 했던 게 맞습니다. AI는 이제 리눅스처럼 기업등에서 오픈소스 튜닝해 자체적으로 사내 AI 개발하는 형태로 갈 거라고 봅니다. 요즘 알트먼은 클로드에도 밀려서 매스컴에서도 홀대당하죠. 그냥 반짝스타일뿐

    • @cuckoo6854
      @cuckoo6854 Місяць тому +9

      마지막 문장엔 비약이 심하네요. 요즘 클로드에 밀린다고 해도 앞으로 애플에 탑재해도 반짝 스타일까요? gtp5 버전은요?

    • @I_CED
      @I_CED Місяць тому

      ​@@cuckoo6854 few weeks..

    • @jkijljbnj7165
      @jkijljbnj7165 Місяць тому

      @@cuckoo6854 나오면 얘기하시죠. 그리고 폰에 AI달린 게 과연 이제는 알람용으로나 쓰는 구글어시스턴트나 시리와 달리 천지개벽하는 수준의 발전을 가져와 그거 없는 폰은 모두 사장되고 애플은 오픈ai에 사용료로 영업이익 상당 부분 갖다 바치게 되는 결과가 오면 얘기하시고. 이미 지금도 윈도우에 들어간 거나 안드로이드에 들어간 거나 실시간 통역 퀄 많이 좋아졌네 이젠 사진에 이모티콘 안넣고 실사 넣을 수 있네 하는 수준입니다. 지금 단계에서는 그게 다예요. 알파고가 이세돌 이겼을 때도 당장 내일부터 천지개벽할 것처럼 그랬지만 그이후로 십수년 지나서야 겨우 이제 좀 쓸만한 거 나왔네 하는 수준이고 또 한동한 정체오고 그런 게 기술발전 일반적 패턴이죠. 애플폰 나와도 걍 이제는 알트먼이 내꺼쓰지마 하면 그래 그럼 클로드 쓰지 뭐 바드 쓰지 뭐 아니다 그냥 메타꺼 좀 변형해서 우리가 개발하지 뭐 이래 된 겁니다. 그래서 애초부터 해자가 없다는 얘기가 나온거고.

    • @jaekwangkim613
      @jaekwangkim613 Місяць тому +6

      튜닝해서 자체적으로 AI개발하려면 computation cost가 너무 비싸죠. 빅테크 기업들은 H100같은거 몇 만개를 클러스터로 묶어서 훈련시키는데 우리나라 대기업에서 이렇게 할 수 있는 곳은 손에 꼽죠(삼성 정도 밖에 생각 안나네요)

    • @deltax9471
      @deltax9471 Місяць тому +9

      데이터는 어디서 찾구요... 빅테크 끼리는 데이터 넘쳐나니 해자가 없을수 있지만 그렇지 않은 작은 기업들은 절댜 못따라감

  • @user-kz3yo8it6s
    @user-kz3yo8it6s Місяць тому +1

    이야 멋지다 !!!!

  • @nshortycrful
    @nshortycrful Місяць тому +21

    우리 렙틸리언 사랑해 주세요. VR 사랑해주는 렙틸리언 사랑해

    • @user-tw9iq1bp4m
      @user-tw9iq1bp4m Місяць тому +4

      주커버그는 유명한 대인배 오타쿠 랩틸리언임

    • @greenbean0940
      @greenbean0940 Місяць тому +1

      VR을 놓지 않는 그는 착한 렙틸리언이다.

    • @user-fq9ht1ec8n
      @user-fq9ht1ec8n Місяць тому +1

      사실 렙틸리언이란건 인류에 유익한게 아닐까?

    • @dlsrksguadhX
      @dlsrksguadhX Місяць тому +1

      친인류파 랩틸 ㅋㅋㅋㅋㅋ cb

    • @마이봉
      @마이봉 Місяць тому +1

      너무 고마운 도마뱀

  • @infested_pigeon
    @infested_pigeon Місяць тому +3

    진짜 인공지능 전쟁이네요. 최후의 승자는 누가 될것인가...

  • @kENSHIN-fn4ks
    @kENSHIN-fn4ks Місяць тому +3

    나도 과거 오픈소스 나 스톨만 지지자 였지만....돈땜 고생절라했슴. 산업에 완빵 기여하고 꼭 있어여하는데 동의 메타대단하넴 경의를....

    • @junwoong429
      @junwoong429 Місяць тому +1

      스톨먼은 지나치게 과격하고 토르발즈 정도 입장이 딱 좋은듯

  • @user-ct3bx9cv6o
    @user-ct3bx9cv6o Місяць тому +2

    오늘도 좋은 영상 감사 합니다.

  • @nagnusyo
    @nagnusyo Місяць тому +3

    13B 모델이 26기가였나 그랬는데 405B면 거의 1테라가까이인데.
    H200 7~8개는 굴려야 어느정도 굴릴만하겠네.

  • @user-bn9td9sz4u
    @user-bn9td9sz4u Місяць тому +36

    open ai(open 아님)

  • @user-fo2dm3ez6y
    @user-fo2dm3ez6y 26 днів тому

    Meta의 속내=자기들이 표준이 되고 싶다
    는 알겠는데 속내를 알아도 무료로 풀어준 것은 마음에 드네요
    그걸 바라는 걸 테고요. 잘 되었으면 좋겠습니다.

  • @VandalFX
    @VandalFX Місяць тому +1

    810GB 매모리는 시스템 메인 메모리를 말하는걸까요 아님 시스템 한대에 H100 꽂은거 합산을 말하는 걸까요?

  • @h_1111
    @h_1111 Місяць тому +1

    소식 감사합니다.

  • @teknolozik
    @teknolozik Місяць тому +2

    405B? 개인 PC에서 로컬로 돌릴 수 있기는 한가요? 4090이 와도 못 할 것 같은데 ㄷㄷㄷㄷㄷㄷ
    개인이 쓰라고 배포하는 건 당연히 아닐테고 오픈소스로 풀렸다는 사실 자체에 감사해야 겠네요;;;;;;;
    찾아보니 8B, 8bit, 128k 컨텍스트 단순히 실행하는 데만 VRAM 15.6기가 필요하대요

    • @user-falconk
      @user-falconk Місяць тому

      보통 llm은 4090으로 돌려도 많이 느려요. 으으으음... 내... 답변은.... 이런 느낌임

    • @fradokumar5792
      @fradokumar5792 Місяць тому

      GPU 8대 장착된 서버가 있으면 쓸 수 있죠

  • @leoadrian4582
    @leoadrian4582 Місяць тому +1

    위대한 저크버그형

  • @yacht-responce
    @yacht-responce Місяць тому +3

    무료배포면 복제 재생산에 아무런 제한이 없다는 뜻인가요? 독과점으로 종속시켜서 구독 전환하고 가격 올리는게 플랫폼의 패턴 아니었나요?

  • @twins1225t
    @twins1225t Місяць тому +4

    라마 실제로 사용해보면 알겠지만, 개인 레벨에선 절대 사용 못함. 코스트가 어마어마함ㅋㅋ

    • @user-fq9ht1ec8n
      @user-fq9ht1ec8n Місяць тому

      돌릴라면 자본금 최소 1000만 이상 필요 ㅋㅋ

    • @eopsthvjoov
      @eopsthvjoov Місяць тому

      8빌리언도 그런가요?

    • @user-fq9ht1ec8n
      @user-fq9ht1ec8n Місяць тому

      @@eopsthvjoov 8b는 맥에서 될걸요?

    • @ruru8013
      @ruru8013 Місяць тому

      ㄹㅇㅋㅋ

  • @Leez-wz1nj
    @Leez-wz1nj Місяць тому

    메타 너무 좋아

  • @bircfe1767
    @bircfe1767 Місяць тому +1

    빵상빵상

  • @user-ni3pd5jo1z
    @user-ni3pd5jo1z Місяць тому

    인공지능 전쟁에 엔비 메타 화룡점정이지

  • @user-yx6yz9mr1s
    @user-yx6yz9mr1s Місяць тому +1

    Llama! Llama! Llama! Llama!
    Linux! Linux! Linux! Linux!

  • @MondayGone
    @MondayGone Місяць тому

    100배 효율 이미지 학습도 조명해주세요~

  • @jp5862
    @jp5862 Місяць тому +5

    메타 회장님 랍스타인간인가 그렇다던데...

    • @ninono2993
      @ninono2993 Місяць тому +4

      랩틸리언??

    • @jp5862
      @jp5862 Місяць тому +1

      @@ninono2993 마쟈요. 랩틸리언... 파충류인간...

    • @Euryaleferox
      @Euryaleferox Місяць тому +5

      랍스탘ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

    • @SJL3337
      @SJL3337 Місяць тому +4

      랍스타인간ㅋㅋㅋㅋㅋ 저항없이 터졌네 ㅋㅋㅋ

    • @user-hd6im7ui2t
      @user-hd6im7ui2t Місяць тому +1

      진짜 개떡같이 말한걸 ㅋㅋㅋ 이걸 알아채네 ㅋㅋㅋㅋㅋ

  • @johjaesung
    @johjaesung Місяць тому

    405B면 vram 얼마나 필요할지 상상이 안되네요..

  • @user-wg4bm4bm9k
    @user-wg4bm4bm9k Місяць тому

  • @_mineru
    @_mineru Місяць тому +6

    하지만 어떻게 405B 모델을 개인이 파인튜닝으로 돌릴 수 있을까요...

    • @user-nw4fd8lp3v
      @user-nw4fd8lp3v Місяць тому

      컴퓨에 올릴수만 있다면 LoRA를 쓰던가 하면 가능하지 않을까요

    • @시
      @시 Місяць тому

      그래서 파라미터 줄인 모델들이 인기가 많죠. 저런 건 연구 기업용

  • @short-squeeze
    @short-squeeze Місяць тому

    페이스북 저건 코로나땐 메타버스 한다고 겁나 설레발치더니 이제 또 ai 한다고 저러네
    이제 또 회사명 AI 로 바꾸는 건가

  • @user-xy6lp7dk4f
    @user-xy6lp7dk4f Місяць тому +1

    Nft 사태는 안 나겠지

  • @user-ml3ln6zl8b
    @user-ml3ln6zl8b Місяць тому

    Open 소스의 승리라 ㅋㅋ 폐쇄는 갈라파고스화될뿐인가?

  • @ushyuk
    @ushyuk Місяць тому +5

    랩틸리언이 인류 진화를 촉진시킨다

  • @tiho-nge60r-rttj
    @tiho-nge60r-rttj Місяць тому

    라이센스 궁금하네요 언어모델 오픈해놓는 애들 라이센스 무료라고 말만 하고 뒤에서 장난치는게 하루이틀이 아니던데

  • @DOCTOR-KJ
    @DOCTOR-KJ Місяць тому +1

    역시 에러님 ^^

  • @maruma2013
    @maruma2013 Місяць тому +1

    털드만 믿는 흑우 없제?

  • @bbluedot
    @bbluedot Місяць тому

    세상에 공짜가 있을까..? 분명 이득이 있으니 한다 봄

  • @etya12
    @etya12 Місяць тому

    이러면 혜자는 하드웨어 기업이 되는건가

    • @leoadrian4582
      @leoadrian4582 Місяць тому

      소프트웨어는 서비스로 벌어야지..

  • @oldguystudy
    @oldguystudy Місяць тому

    잘몰라서 질문드립니다. 메타가 공개한 모델이 노트북에서 돌릴 수 없는것 맞지요?

    • @user-qr6ot4fy1o
      @user-qr6ot4fy1o Місяць тому +1

      네 8b은 외장그래픽 있는 노트북에서 될수도

  • @user-kl7sh7nw4m
    @user-kl7sh7nw4m Місяць тому

    메타 더 사둘걸

  • @personal3
    @personal3 Місяць тому

    미친 썸네일 ㅋㅋㅋ

  • @ChessMaster0425
    @ChessMaster0425 Місяць тому

    11

  • @석영작가
    @석영작가 Місяць тому +1

    5년 뒤: 명령어 3개 처리하고 인스타 동영상 광고 1개 시청

  • @loveyoumaxin
    @loveyoumaxin Місяць тому +2

    저걸 구동할 비용이 없어서 소용이 없죠.

  • @praymeta9428
    @praymeta9428 Місяць тому

    22

  • @dalfst
    @dalfst Місяць тому

    아무리 무료여도 서버비용이 만만치 않음

  • @jslee2316
    @jslee2316 Місяць тому +1

    얼굴이 ... 점점 더 이상해지네

  • @tayecho
    @tayecho Місяць тому

    일반인에게 너무 어려운 내용이라 귀에 안들어오네요;;;

  • @test-driver
    @test-driver Місяць тому

    썸넬 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

  • @찐타
    @찐타 Місяць тому

    이런거특) 실제로 까보면 못써먹음

  • @dannygu3578
    @dannygu3578 Місяць тому

    근데 라마가 어차피 한국에서 서비스 제공 안되던데 굳이 빨아줄 필요가 있슈?

  • @ecj2000
    @ecj2000 Місяць тому +2

    강원도 사투리 잘하고, 존댓말도 잘하는데 존댓말로 강원도 사투리를 하라고 하면 전혀 못알아듣습니다.
    갑자기 서울말 씁니다.
    클로드3.5가 gpt4o보다 잘하지만 이건 못합니다. 훈련된 것만 하는 생성형ai의 특성 입니다. 지금 기술로 불가능한게 훈련된걸 융합하는 기술 입니다. agi로 가는 길 막고있는 벽일겁니다.

    • @user-ih9rd6ol5t
      @user-ih9rd6ol5t Місяць тому +1

      강원도 사투리는 지역마다 조금씩 다를 수 있지만, 기본적으로 존댓말을 사용하는 몇 가지 예를 들어보겠습니다.
      1. **서울말:** 어디 가세요?
      **강원도 사투리:** 어데 가시나?
      2. **서울말:** 밥 드셨어요?
      **강원도 사투리:** 밥 잡수셨소?
      3. **서울말:** 뭐 하세요?
      **강원도 사투리:** 뭐 하시나?
      강원도 사투리에서도 존댓말을 사용할 때는 "~나"나 "~소"와 같은 표현을 자주 사용합니다. 지역에 따라 약간의 차이가 있을 수 있으니 참고하세요.

    • @ecj2000
      @ecj2000 Місяць тому

      @@user-ih9rd6ol5t ㅋㅋㅋㅋ

    • @user-ry6md6vc7n
      @user-ry6md6vc7n Місяць тому

      근데 융합은 대부분의 사람도 잘 못하는 게 함정 😂😂😂

  • @user-ek4ar0ez9a
    @user-ek4ar0ez9a Місяць тому

    이 사람 발음 진짜 안좋네

  • @user-xf6tf2ng6w
    @user-xf6tf2ng6w Місяць тому

    또 대메타야 오늘도 숭배해야돼