Will Nvidia's hegemony last forever?
Вставка
- Опубліковано 1 жов 2024
- No matter what anyone says, of course this is the era of Nvidia. I think Nvidia's hegemony will continue for the time being. But for those of you who want to have a more accurate view of the future of the AI era, you should also clearly understand the other possibilities that are being prepared on the other side. Today's story is about the emergence of AI Zone 3 and the scenarios they are preparing for.
전문적인 지식을 일반 대중에게 알기 쉽게 전달하시는 가젯님~ 늘 잘 보고 있습니다. 감사합니다.
목소리... 영상 퀄리티 폼 미쳤다...
세상은 변하는데 제 머리는 변화에 따라가지 못해 아쉬울 뿐이네요.
영상을 꾸준히 시청하면서 이해는 못해도 방향성이라도 읽을 수 있도록 노력하겠습니다. 정말 감사합니다.
도입부에 나오는 세계4대 문명지 같은건 없습니다. 일단 황하가 시기적으로 너무 다른곳보다 늦고 애초에 세계사학계가 저런 개념을 쓰지 않습니다.
중국사학자가 끼워서 만든 개념을 일본사학자가 인용한걸 우리 교과서 어디선가 덜컥 사용하는바람에 잘못알려졌습니다
영상 제작에 감사드립니다~~
항상봐도 높은 퀄리티. 일단 교수나 현업 기술자들 얘기를 들어보면 정치력이나 시류를 배제한 꽉만힌 기술에 대한 미래 추정인데 가젯님은 기술과 시류 ,정치적 흐름 등 기술 외적인 것도 고려한 설명이 참 좋아요. 이런 유튜버가 100만 갈 자격이 있는건데 . 어디서 애들 원숭이 프리젠테이션 같은 것들이 인기를 끌고 있으니 ㅋㅋㅋㅋ
천재들의 세계를 작은 틈으로나마 볼 수 있게 해주시는 가젯서울님...
가젯서울 영상 중 이번 3부작이 최고에요. 정말 잘 봤어요!
좋은 영상과 의견 감사합니다. 하지만, 영상을 모두 본 후, 개인적으로는 엔비디아 및 현재의 모바일 구도 (퀄컴, 애플, 삼성)가 지속 될거라는 생각이 드네요. 사실, 기존의 영상인식 시대의 on-device AI 가 죽은 이유는 AI 어플리케이션이 AGI에 근접하지 못해서이기 때문에 특정 영상인식 업무에 최적화된 NPU의 실효성이 떨어졌기 때문이라고 생각합니다. 아마도 소비자들은 on-device AI 시대 (inference가 중요해지는 시대) 에서도 현재의 단순 LLM이 아닌 더 범용의 AI (예, agent AI) 를 요구할 것이라 생각하고 특정 AI업무에 최적화된 NPU와 같은 접근 보다는 여러 업무들 (LLM, 영상인식/생성, 게임 등등)에 범용으로 사용될 수 있는 mobile GPU가 on-device AI에 더 적합한 선택지가 되지 않을까 하는 생각이 듭니다.
하드웨어 - 인프라 분야를 지배하는 기업들에 대항하는 과정을 잘 설명해주셔서
고맙습니다. 저는 그냥 단편적인 뉴스로 소화했는데 이렇게 각 뉴스를 연결해보니
큰 그림이 보이네요.
정말 볼떄마다 감탄이 나오는 퀄리티와 네러티브입니다. 항상 영상이 뜰때마다 감사하며 시청하고 있습니다! 언제나 응원하겠습니다 ㅎㅎ
샘 알트먼으로 대표되는 AI시장에서의 3진영의 등장과 계획을 하나하나의 가능성과 근거를 가지고 설명해주시는게 너무나 인상적입니다.
샘 알트먼의 9000조원이라는 자금 모집 규모가 터무니없고, 수요를 감당할수 있을것인가 등등,, 모두가 금액과 수급에 관한 부분에 대해서 말할때
이런 뿌리에서의, 혹은 선단에서의 움직임을 감지하고 이해하기쉽게 풀어써 주시는게 그저 존경스러울 따름입니다.
감사합니다!
가젯 서울님 덕분에 6년 전부터 엔비디아 주식을 들고 있습니다.
오늘 영상을 보니 엔비디아의 CUDA가 거의 C언어 급의 위치를 선점한 듯 싶어서
경쟁자들이 아무리 갈고 닦아도 엔비디아의 아성을 무너뜨리기엔 부족한 느낌이 들었습니다
앞으로도 좋은 분석 영상 부탁드립니다!
40년전 대형컴퓨터에서 Personal Compter로 전환 된 것 같이 On Device의 승리를 조심스럽게 예상해 봅니다.
와 진짜 퀄리티 뭐지... 조회수 3만이 믿기지가 않네
감사합니다!
삼성은 여기도 못끼고 큰일이네요...
사실 그만큼 저점이 높고 리스크가 적고 꾸준한 수익을 보장하도록 사업을 다각화했죠. 장단점이 있습니다.
영상 말미 엣지 중요성 부각에 나오는게 삼성이야기입니다. 밑에 나오는게 경계현 사장이에요. 그리고 팡드리도 예전보다 상황이 좋아졌고 메모리는 HPC시장의 수혜자입니다ㅋㅋㅋ일반인들은 chat gpt같은 customer과 닿는 회사들만 보이겠지만 사실 폰노이만 구조에서 필연적으로 중요했고 더 중요해질 것이 메모리입니다 최근 몇년간 HBM시장 동향 보고오시면 좋겠네요. 결론적으로 사이클의 변곡점을 지나면 다시 봄이 올겁니다.
@@김진영-b6g5xhbm 시장에 봄은 왔지만 그 봄이 hbm3을 손놔버리고 hbm3e조차도 최선단이 아닌 1알파 노드로 뽑겠다고 한가로운 로드맵을 내놓는 삼성의 봄은 아닐 겁니다.
삼성은 제조기업이라 어쩔수가 없어요 일본 중국 한국 모두 주입식 교육을 받다보니 리딩기업이기보다는 패스트팔로워가 될수 밖에 없습니다.
삼성의 장점이 제조에서는 따라가는 속도가 엄청 빠르다는게 장점, 삼성이 살아남는 방식이죠
@@mcy2756패스트팔로워랑 주입식교육이랑 엮는건 비약아닐까요
황형님이 지금 이런 경쟁업체 추이를 두손 놓고 보고있을까요.
최소 한수 반은 앞서 생각하고 실행해 나가리라 봅니다
정보 전달도 잘하시고 목소리좋고 영상질 좋고 구독한지 2주정도돼는데 좋네요!!
Groq 칩과 서비스는 클라우드가 여전히 굳건하게 될것같은 예감을 줍니다.
작은 콘트롤 프로그램에서 인공지능이란 방대한 시스템에 이르기까지,
지난 수십년동안 어떤 용도들을 대상으로 어떻게 수행할 것인가에 따라서
디바이스단 처리에서 시작하다가 작업이 방대해지니까 클라우드가 나타나고
그 작업이 즉각적임을 요구하지만 네트웍 밴드윗 한계때문에 엣지가 부각되고... 돌고 도는 게임이네요.
시간이 지날수록 기대하는 용도가 복잡해지고 프로세싱이건 넷트웍이건 경쟁적으로 발전할 것으로 보이니까
이 싸움은 끝이 없을 것같습니다.
이 복잡한 싸움에 대하여 오랜 작업을 통해 통찰력있는 설명을 해주셔서 감사합니다.
Vision을 중심으로 멀티모달 엣지에 현재까지 달성한 openAI의 완성도가 더해지면
생각보다 더 많은 돌파구가 보인다는게 샘 알트먼의 머리속 그림일 듯 싶구요
다른 AI 체계에 기반한 돌파전략도 늘 오픈되어 있는 'AI 캄브리아기'라서
Job replacement, 실존 리스크와 같은 인류사적 과제들에 흥미롭게 대응하게 되네요.
늘 좋은 컨텐츠 감사 감사드립니다.
근데 엣지디바이스AI 가 가능하긴 한건가요? 실제로 우리가 챗GPT에다가 질문하고 답변받는게 어마어마한 연산과 전력소모와 열을 발생시킨다고하죠. 근데 그런게 쪼그마한 엣지디바이스에서 일어난다구요? 물리적으로 말이 안되잖아요. 솔직히 온디바이스AI가 말이좋아 온디바이스지 실현불가능하거나 아~~주 먼 이야기 아닌가요?
이해하기 쉽게 알려 주셔서 감사합니다.()()
늘 좋은영상 감사드립니다
늘 감사합니다. 최곱니다.
엔비디아의 벽은 너무나 높고 험하군요
ai개발시 내가 했던일
1. 테스크 파악
2. 관련 논문 검색
3. SOTA 급 중에 깃허브에 코드있는거 검색
4. 포크
5. 테스트
6. 약간의 직관으로 성능 약간 개선
7. 논문
솔직히 개꿀 빨았던거 인정한다
늘 도움 받고 있습니다.
그럼 결국 마소가 위너인가요. 마소 엔비둘다주주입니다만. .
개인적으론 온디바이스는 동족방뇨임
효율이 클라우드보다 좋을수 없음
자율주행처럼 서비스품질이 크리티컬한 분야 아니여선 온디바이스는 낭비임
프라이버시를 주장하는 측도 있긴한데 이미 빅테크에서 정보를 다가지고 있는 상황에서 이제와서 압도적인 효율보다 프라이버시가 중요한 사람들이 얼마나 될까함
H100은 5나노 입니다 TSMC 3/4 나노 공정은 애플이 선점하는듯 합니다. B100이 4나노가 될거 같네요.
이렇게까지 복잡한 판세인데 그걸 뒤집을 전략을 진작 구상해서 이미 실행에 옮기고 있는게 샘 알트만이라고 생각하니
샘 알트만을 그냥 사업가로만 보더라도 정말 역대급의 초 천재임에 틀림없는거 같음
워크스테이션급 디바이스는 빠르면 2~3년 내에 현재 최고 수준의 추론 과정을 실행할 수 있을것이라 (낙관론이죠) 생각합니다.
그러나 모바일 기기와 같은 곳에서 실행되는 온디바이스 기능들은 극히 제한적이고 특수한 상황에서만 작동한다고 생각해요.. 그러한 기능들도 개인적으로는 킬러앱이라 느껴지지는 않습니다.
온디바이스의 영역은 하드웨어적 제약에 더해 추가적인 더 많은 연구가 필요하다고 생각해 정말 한참 남은 것 같습니다.
그때까지는 클라우드와 온디바이스를 역할 배분을 통해 나눠 가져나가거나 하는 형태가 되겠네요.. 그러면 최소 이때까지는 결국 엔비디아가 유리해보입니다.
llm이 수익성이 있는가? 를 먼저 따져봐야됨..
엄청난 비용을 상쇄하고 수익을 낼만큼의 상품화가 가능한가?
질문 한번 할때마다 돈내라고 하면 누가 쓰겠냐고요.
대중의 시선을 끌어서, 주가 뻠핑하는대는 대성공을 했지만.
아직까진 실체가 없어 보입니다.
샘올트먼 7천조? 이건 그냥 답이 없다는 소리로 들립니다.
뒤집어 말하면, 그정도 자본을 들여야 뭔가가 될거란 말이니까요.
현제 돈이 되는 AI는.
로봇 자동화, 온디바이스 서비스, 각종 연구 시뮬레이션, 데이터 분석 추론, 물류.. 이런 분야들이고요.
여기는 그렇게 막대한 연산량을 필요로하지 않거든요.
누구보다도 빅테크들이 잘알고 있을겁니다.
수익구조도 없는 llm을 고도화 하기 위해서 천문학적인 돈을 퍼 부을것인가?
전 아닐거라고 봅니다.
그렇기 때문에 자체적인 AI솔루션을 만들어가려고 하는거잖습니까.
엔비디아 솔루션으로는 수지타산이 안나오니까.
천천히 준비하고 있는거죠.
llm의 대중화는 상당한 시간이 걸릴거라고 봅니다.
돈으로 때려박아서 시간을 땡겨 오겠다? 미친소리죠.. 7조달러 라니 세상에..
소프트 뱅크 그리고 arm 아키텍처와 파운드리 TSMC..
마지막 3부에선 익숙한 관계와 엔비디아 CUDA 독과점 언급이 있어 이해하기 쉽고 흥미로웠네요
가젯서울님의 말씀을 듣고나니, 과연 미래 AI와 반도체 시장이 어떻게 변할지 궁금해지네요 ㅎㅎ
훌륭한 영상 감사합니다!!!
언제나 좋은 영상을 제작해 주셔서 감사합니다.
현재 보틀넥은 쿠다가 아니라 파운더리임..
훌륭한 영상 감사합니다
감사합니다.
이번 3부작 너무 좋았습니다. 감사합니다.
오늘도왕감사
삼성은 ㄹㅇ인원 감축하고 사장라인들물갈이 해야됨
잘보겠습니다 항상 좋은 영상 감사드립니다 엔비디아주가 보면 😮 ㅎㄷㄷ
언제나 큰 흐름을 잘 잡아주는 가젯.. 최곱니다
감사합니다
멋지네요 최고입니다
역시... 하나의 강력한 1등은 2, 3, 4 등의 합종연횡을 필연적으로 불러오네요. 이것이 한국에게도 기회가 될터인데... 한국 기업들의 대응이 더 궁금해집니다.
해당 AI 프로젝트가 Graphic, Network 따위의 실질적인 현실적인 공학에 적용되는거라면 인정합니다.
엄청난.영상 대박
볼때마다 감사한 마음입니다 수고많으셨습니다
기업, 경제, 국제정세 등을 설명하는 이런 종류의 채널 중에 최고라 생각함. 단순히 고퀄이라기보단 프리젠테이션이란 관점에서 볼때 최고라 생각. 간결,명확,스토리 등등.. 딕션도 좋구요. 자주 오게 될것 같네요~
영상퀼리티미쳤네.개추박음.
개인정보 등 클라우드에 보내기 민감한 데이터들은 온디바이스 AI가 아니면 답이 없을 것 같습니다 :)
오~~~~~
어떤 행동에는 무엇이던간에 연결점들이 존재하네요. 흥미진진합니다. 잘 정리해주셔서 감사합니다😊
최근 연구들에서 밝힌 놀라운 점이 모델 사이즈를 키우면 지금 단계에서 발생하는 문제를 해결 할 수 있다는 것이었습니다. 아마 짧은 시기에 온디바이스 ai 가 연산의 비중을 가져오지는 않을것 같습니다
다들 기업의 운명을 걸고 하는 치열한 경쟁이라 앞으로 있을 관전 포인트들이 벌써 기대되네요. 겨울이 끝나갑니다. 이번주도 행복한 일주일 되시길
결국 엣지디바이스로 재편된다면 애플이네요.
엔비디아가 직접 지목한 경쟁자: 화웨이,인텔, amd,브로드컴, 퀄컴
짐 켈러가 "쿠다는 x86만큼이나 덕지덕지 붙여서 만들어졌고 한계가 명확하다"고 한 것에 대해서 알려주세요. 정말 쿠다가 나중에 엔비디아의 발목을 잡을런지.
감사합니다 ❤
쉽게 말해서 에X노트에 필기 엄청해놨는데 구독료 올랐다고 노션으로 하나씩 못옮기는 이유.
영상 너무 잘봤어요.
흥미진진
샘울트만의 행로가 궁금해집니다
감사드립니다
추론과 엣지라!
AI시장의 변화를 읽게해주셔서 감사합니다
참 잘 배웠습니다!
고맙습니다!😁😄😃
잘봤습니다~~
우와~~~
좋은 영상 감사합니다
gpt만 이용해 서비스를 만들어보려고 했는데 온디바이스도 시도해 봐야 겠네요
명분이 없네요 인류에 도움이 된다는 명분이 없서서 결국 쌤 배불리기 위한 펀딩이라 실패할거같읒
감사합니다
가젯서울 최고에요
ROCm , oneAPI , Modular 흐음 흥미롭네요 !!!
On Device AI 의 inference 도 NPU 기반으로 하지 않나요?
8bit or 4bit
애플은 웃고있다
추론은 뭐 개나소나 다 만들어 이미 잘 쓰고 있어서, 쿠다 어쩌고 별 공감 안되네요
항상 좋은 내용 감사허게 보고 있습니다. 다만.. 요즘 계속 음성 녹음이 들쭉날쭉 하네요…
감사합니다
마블 스튜디오 영화보다 더 흥미진진하네요!! 감사합니다
갓갓갓 갓젯서울!
지금 생각해보면 애플과 엔비디아는 행보가 유사하네요
감사합니다. 잘 봤습니다.
알트만, 이정도로 지르는것 보면, 내부적으류 AGI 비슷한게 만들어 졌고, 그것이 어나더레벨 반도체 만드는법을 알려준다 아닌가란 생각이 드네요.
솔직히 말씀드리면 다 가짭니다 정말 그래픽카드 수량만 부족했다면 엔비디아와 협업을 더 했을겁니다 엔비디아가 너무 비싸게 파니깐 항의하는 모습 보여주러 간겁니다
와 그러게요 이제 보니 티그리스가 중동이네요 ;;;
결국 클라우드보다는 온디바이스 AI가 우리가 상상했던 AI가 될 것
항상 형님 덕에 보지 못했던 것을 다시 보게 됩니다. 행복한 하루 보내세요.
와우 근래에 본 영상중 최고의 퀄리티입니다. ❤
43초!!
아쉽게도 그 어디에도 삼성 얘기는 없군요ㅎ
덕분에 잘 보고있습니다 ~
cuda 가 모든 이슈의 핵심이군요..
엔비디아 제품이 좋고 생태계도 잘 구축되어 있어 편하지요. 그러나 반도체의 수명이라는 것이 몇 년에 불과한데 주기적으로 막대한 비용이 발생하는데
돈벌어 엔비디아에 바치는 것이 클라우드서비스업체 입장에선 용납이 안될것 같아요. 삼성이 좀만 잘하면 기회가 올 것 같은데 답답하네요
삼성과 엔비디아는 접점이 없습니다..
리벨리온 화이팅!!!!
결국 디바이스랑 반도체네
항상 고맙게 생각합니다
감사합니다 ^^ 와아
와.. 최고입니다.
미쳤다😮
arm 사요 ?
오 디바이스 ai 테슬라 자율주행! 선도적
세계가 이렇게 급변하는데
우린 전기세가 없어서 슈퍼컴퓨터 시간 제한하고
이재용은 손정의 만나고 펀드 대표들 만나야할 시간에 룬 쫒아다니고..
우리나라 미래가 암을하다.. 지도자가 이래서 중요한대.. 에휴