절대성능도 이미 다른 엔비다아 비진영에 밀렸음.다만 소프트 웨어적으로는 엔비디아가 다루기 쉽고 소스나 라이브러리등이 많고 엔비디아쪽이 훨씬 제작하는데 시간을 단축 시킴. 비진영으로 바꿀려면 모든 프로그래밍을 다시 해야하고 학습도 다시 시켜야 할 가능성이 높아서 당분간은 한순간에 바꾸지 못함.지금까지 투자 한걸 모두 버리고 새로운걸로 바꿔야 처음부터 다시 시작 해야 하니 두가지를 같이 끌고 가다가 차츰 엔비디아의 비중을 줄여 가는 방식이 될 듯.엔비디아도 물들어 왔을때 한몫 단단히 챙기기 위해 가격을 내리지 못 할듯 지금아니면 돈 버는게 갈수록 줄어 들 테니까...사람들은 돈이 조금 더 들더라도 편의성이나 빠른 뫈성을 선호하는 사람이 많음
어떤 품목이든 소비자용과 전문가용이 나눠져 있는 경우에는 비교적 비싼 소비자용에 비해 전문가용은 상대적으로 가성비가 있도록 시장이 형성되어 있었습니다. 오래된 품목의 시장일수록 이런 경향이 짙더라구요. 오랫동안 소비자위주의 시장을 누비던 황회장의 경영철학이 기업 시장에서도 같은 스탠스를 취하려다 벽을 만난것 아닐까 합니다. 아무리 성장하는 AI산업이라지만 시장의 법칙을 무시할 수 없는듯 합니다.
우리가 AI라는것에 원하는 절대성능이 어느정도인지 생각해 볼 필요가 있습니다. 그 절대성능의 역할 중 향상/병목에서 하드웨어가 차지하는 비율이 얼마나 높느냐를 현 시점에서 생각해보면 성능인지 효율인지 갈 길은 다소 뻔하죠.. 압도적인 성능은 곧 효율을 뜻합니다. 아직 세상이 원하는 절대성능이 다다르지 못했기에 엔비디아가 제시하는 성능향상 그래프 안에서 포지션을 가져가야 할 것이지 절대 뒤쳐져서는 안된다고 생각합니다
엔비디아가 가격을 올리는 건, 자신이 있어서 입니다. 전성비가 떨어진다는 것은 착각입니다. 실제 하이퍼 스케일 에서는 무한 배치를 쌓는데 그때는 역설적으로 엔비디아의 성능이 따라올수가 없어서 전기는 2배이상 더먹는데 성능은 10배가 넘게 나와서 전성비가 오히려 더 좋은 상황이 벌어져서 가격이 더 비싸도 살수밖에 없습니다. AMD나 인텔 칩을 도입하는건 클라우드 서버의 캐파는 늘려야하는데 모든 칩을 엔비디아로 채울수 없어서 다른 칩으로 채우는 겁니다.
천만가구가 컴퓨터 있다고 대충잡고 5천만 인구중에 절반은 일을 한다고 보고 컴퓨터 쓰는 직업 안쓰는 직업 대충 반으로 잡아도 1200만명이 노트북이든 데스크탑이든 쓴다고 보면?? 2200만대의 컴퓨터가 돌아가고 있다는건데 컴퓨터 교체 주기를 딱 정하기 애매해도 그냥 10년이라고 쳐도 한해에 220만대의 컴퓨터가 교체 된다는 소리인데 그럼 한달에 대충 20만대 그중에서 내장 글픽말고 그래픽카드가 들어가는 들어가는 컴퓨터가 반이라고 해도 10만대는 나오네요 ;; 뭐 대충 대충 계산한거지만 10만대가 많은 수치는 아닌듯
인텔은 pc gpu든 서버 AI든 하이엔드는 버리고, 가성비로 메인스트림 공략하는 전략 동일. 엔비디아의 비밀 무기는 국가 주권 AI. 저건 황회장의 단순 드립이 아니라, 인텔 AMD 클라우드 업체들 모두 미국 기업이란걸 공략하는거. 국가가 자국의 허접한 AI 기업들 지원해줄려면 엔비디아 GPU 사주는게 젤 쉽기 때문인데. 규모가 되는 대형 클라우드 업체나 자체 칩이니 개발툴 구축이니 하는거지. 전세계의 대부분 기업들은 그런거 못하니까요. 비싸도 엔비디아 생태계 써야지.
황: 국가마다 AI가져야 한다 그런데 미국 외 국가의 거의 모든 기업들은 기반 하드웨어고 소프트웨어고 자체 제작 못한다. 결국 사서 써야하는데, 마소고 아마존이고 구글 NPU를 사서 쓸거냐. 팔지도 않고, 팔아도 경쟁력 없으니 불가능. 지금으로서는 선택지는 팀 그린 레드 블루 셋 뿐인데. 황회장 말은 국가별로(언어별로) LLM 하나씩 개발하란건데, 훈련을? 허접한 대부분의 기업들이 엔비디아 없이 대형 모델 훈련을 잘 할 수 있을까? 인텔이나 AMD 소프트웨어도 못믿을판에, 스타트업 NPU를 쓸거냐? 못쓰지.
군비 경쟁에 가성비를 쓴다??. ㅋㅋㅋ 훈련쪽은 cuda가 아니라 hbm 넘사벽의 컨트롤 능력자인 엔비디아를 이길수 없다. 이 기술차는 경쟁사 대비 10년차이 난다고 함. 추론도 최고의 칩은 a100이라고 함. ㅋㅋ 근데 황씨형이 단종시킴. 결론 추론도 엔비디아가 가져갈 확률 매우 높음. 물론 엔비디아 차기 제품인 x100에 고객의 컴플레인을 반영하나 아하나 차이지만... 아마도 할것임.
![반도체 공룡이 된 엔비디아, AI/서버시장의 미래는 순탄할까? [NVIDIA 이야기 1부]](http://i.ytimg.com/vi/MhjBp25jd-k/mqdefault.jpg)
![컴퓨터 대중화의 결정적 이유 확장성! PC에 확장카드가 적용된 이유는? [확장카드특집1]](http://i.ytimg.com/vi/CxFaaaNktJI/mqdefault.jpg)
개인용이라면 절대성능이 중요할 수 있지만, 거대규모 서버의 경우는 전력비용도 무시 못하죠.
뭐든 적당선을 잘 타야하는 것 같아요.
???? : 다 가져가야만 속이 후련 했냐!!!!!
통찰력 지리네요..
절대성능도 이미 다른 엔비다아 비진영에 밀렸음.다만 소프트 웨어적으로는 엔비디아가 다루기 쉽고 소스나 라이브러리등이 많고 엔비디아쪽이 훨씬 제작하는데 시간을 단축 시킴. 비진영으로 바꿀려면 모든 프로그래밍을 다시 해야하고 학습도 다시 시켜야 할 가능성이 높아서 당분간은 한순간에 바꾸지 못함.지금까지 투자 한걸 모두 버리고 새로운걸로 바꿔야 처음부터 다시 시작 해야 하니 두가지를 같이 끌고 가다가 차츰 엔비디아의 비중을 줄여 가는 방식이 될 듯.엔비디아도 물들어 왔을때 한몫 단단히 챙기기 위해 가격을 내리지 못 할듯 지금아니면 돈 버는게 갈수록 줄어 들 테니까...사람들은 돈이 조금 더 들더라도 편의성이나 빠른 뫈성을 선호하는 사람이 많음
의외로 엔비디아 칩의 전력소모량이 엄청나서 전성비가 마케팅 포인트가 가능할 수 있습니다.
그래서 무작정 때려박는 현재의 성능 향상 방식으로는 한계가 분명 올 것이란 것도 예측 가능하고요.
근데 이번 4천번대는 저전력 고성능을 이뤄냈어요, 3천번대 단점 개선 확실히 했죠, 엔비디아도 바보는 아니라서 앞으로 더 발전할거라 생각해요.
@@dierjonh2104 그건 어디까지나 공정개선으로 인한 효과죠. 경쟁사도 같은 공정을 사용한다면 결국 설계 싸움이 될텐데 한 칩에서 모든걸 다 잘해내고 싶은 엔비디아 칩 설계상 비대해질 수 밖에 없습니다. 그만큼 면적 대비 효율이 떨어지겠죠.
@@Indukynim 성능대비 전력소모값 보면 오히려 엔비칩이 훨씬 좋은데요? 시속 60까지밖에 못밟는 주제에 기름 좀 덜먹는다고 좋은 차는 아니죠
어떤 품목이든 소비자용과 전문가용이 나눠져 있는 경우에는 비교적 비싼 소비자용에 비해 전문가용은 상대적으로 가성비가 있도록 시장이 형성되어 있었습니다. 오래된 품목의 시장일수록 이런 경향이 짙더라구요.
오랫동안 소비자위주의 시장을 누비던 황회장의 경영철학이 기업 시장에서도 같은 스탠스를 취하려다 벽을 만난것 아닐까 합니다.
아무리 성장하는 AI산업이라지만 시장의 법칙을 무시할 수 없는듯 합니다.
우리가 AI라는것에 원하는 절대성능이 어느정도인지 생각해 볼 필요가 있습니다.
그 절대성능의 역할 중 향상/병목에서 하드웨어가 차지하는 비율이 얼마나 높느냐를 현 시점에서 생각해보면 성능인지 효율인지 갈 길은 다소 뻔하죠..
압도적인 성능은 곧 효율을 뜻합니다. 아직 세상이 원하는 절대성능이 다다르지 못했기에 엔비디아가 제시하는 성능향상 그래프 안에서 포지션을 가져가야 할 것이지 절대 뒤쳐져서는 안된다고 생각합니다
문제는 소프트웨이 cuda와 호환도 되면서 더 나아야지
능력좋은 소시오패스느낌이네 숫자만보고..
10:09 성능을 떠나 그전부터 욕을 바가지로 먹고있었지요 오죽했음 황가놈이라 하겠어요? ㅋㅋㅋㅋ 지포스는 감성이라? .....누가 과연 동의 해줄지 .,......
독보적일거리도 없고 외려 시장은 차피 황가놈의 고가정책에 때문에 제3지대로 퍼지고 제 3지대로 나름 연합과 경쟁을 통해서 수렴해가는 정도가 되겠지요....안드로이드나 애플리아 뭐 큰 차이가 없어졌듯이 .....
엔비디아가 가격을 올리는 건, 자신이 있어서 입니다.
전성비가 떨어진다는 것은 착각입니다. 실제 하이퍼 스케일 에서는 무한 배치를 쌓는데 그때는 역설적으로 엔비디아의 성능이 따라올수가 없어서 전기는 2배이상 더먹는데 성능은 10배가 넘게 나와서 전성비가 오히려 더 좋은 상황이 벌어져서 가격이 더 비싸도 살수밖에 없습니다.
AMD나 인텔 칩을 도입하는건 클라우드 서버의 캐파는 늘려야하는데 모든 칩을 엔비디아로 채울수 없어서 다른 칩으로 채우는 겁니다.
서버에서 배치1의 성능 비교를 보고 성능을 비교하시면 절대 안됩니다
지금 AI시장은 돈 못벌어도 선점이 우선이라서 지금 nvda의 가격이 말이되는거죠ㅎㅎ openai혼자 선점효과누리는중
진짜 이인임이 악역인데 오히려 주인공보다 배울게 더 많았던.... ㅋㅋㅋㅋ
궁금한게 있는데. 애플의 울트라칩과 앤비디아의 b 칩은 왜? 비슷할까 두개를 붙여서 성능을 높인다는 개념에서. 이게 혹시 tsmc의 농간이 아닌지 설명좀 해줘
우리나라에서 한달에 gpu가 10만대가 팔린다고요??? 적지않은 수치같은데
진짠가;;
천만가구가 컴퓨터 있다고 대충잡고 5천만 인구중에 절반은 일을 한다고 보고 컴퓨터 쓰는 직업 안쓰는 직업 대충 반으로 잡아도 1200만명이 노트북이든 데스크탑이든 쓴다고 보면??
2200만대의 컴퓨터가 돌아가고 있다는건데 컴퓨터 교체 주기를 딱 정하기 애매해도 그냥 10년이라고 쳐도 한해에 220만대의 컴퓨터가 교체 된다는 소리인데 그럼 한달에 대충 20만대 그중에서 내장 글픽말고 그래픽카드가 들어가는 들어가는 컴퓨터가 반이라고 해도 10만대는 나오네요 ;; 뭐 대충 대충 계산한거지만 10만대가 많은 수치는 아닌듯
돈슨황 흑화해서 RTX50 msdr ㅋㅋㅋ
그리고 맨날 차기 rtx 가격 올랐다고 거품 물지만 결론은 그 제품 구입허는 현실... ㅋㅋ 이게 ai서버시장에도..
인텔은 pc gpu든 서버 AI든 하이엔드는 버리고, 가성비로 메인스트림 공략하는 전략 동일.
엔비디아의 비밀 무기는 국가 주권 AI. 저건 황회장의 단순 드립이 아니라, 인텔 AMD 클라우드 업체들 모두 미국 기업이란걸 공략하는거. 국가가 자국의 허접한 AI 기업들 지원해줄려면 엔비디아 GPU 사주는게 젤 쉽기 때문인데. 규모가 되는 대형 클라우드 업체나 자체 칩이니 개발툴 구축이니 하는거지. 전세계의 대부분 기업들은 그런거 못하니까요. 비싸도 엔비디아 생태계 써야지.
엔비디아도 역시 미국 기업 입니다... 엔비디아가 지금 문제시 되는거는 전력소비 문제가 크기고 비싼대 제때 장비를 조달하기가 힘들기 때문입니다.
@@김진철-i6l 좀 더 고차원적으로 생각해보세요
황: 국가마다 AI가져야 한다
그런데 미국 외 국가의 거의 모든 기업들은 기반 하드웨어고 소프트웨어고 자체 제작 못한다. 결국 사서 써야하는데, 마소고 아마존이고 구글 NPU를 사서 쓸거냐. 팔지도 않고, 팔아도 경쟁력 없으니 불가능. 지금으로서는 선택지는 팀 그린 레드 블루 셋 뿐인데. 황회장 말은 국가별로(언어별로) LLM 하나씩 개발하란건데, 훈련을? 허접한 대부분의 기업들이 엔비디아 없이 대형 모델 훈련을 잘 할 수 있을까? 인텔이나 AMD 소프트웨어도 못믿을판에, 스타트업 NPU를 쓸거냐? 못쓰지.
그래서 네이버가 특출나서 인텔이랑 협업했노???@@noname-ml5mb
@@heekyujaydenkang7270 심각하네 ㅋㅋ
"대부분"이라거나 "거의"라는 단어의 뜻을 찾아보십쇼...
우리가 잊지 말아야 할 것은, 엔비디아가 저가 제품도 출시할 거란 사실입니다.
그 거죽잠바 아죠씨 빨리 다른의미로 착해지셨으면 좋겠다고 생각합니다.
군비 경쟁에 가성비를 쓴다??. ㅋㅋㅋ 훈련쪽은 cuda가 아니라 hbm 넘사벽의 컨트롤 능력자인 엔비디아를 이길수 없다. 이 기술차는 경쟁사 대비 10년차이 난다고 함.
추론도 최고의 칩은 a100이라고 함. ㅋㅋ 근데 황씨형이 단종시킴.
결론 추론도 엔비디아가 가져갈 확률 매우 높음.
물론 엔비디아 차기 제품인 x100에 고객의 컴플레인을 반영하나 아하나 차이지만... 아마도 할것임.
떡상안하노 이 채널 최소 10만이상 ㄱ
얘네들 전성비가 뭔지는 아는건가? 가우디3이 엔비디아 B200보다 전성비가 좋으면 뭐해 성능이 1/3밖에 안되는데 ㅋㅋㅋ
싼만큼 더 박으면 되니까.
@@NakamuraPark 가우디3 작년에 발표한건데 이번에 인텔 가이던스 못봄? ㅋㅋㅋ
싼만큼 더 박을 바에 성능 확실한 엔비디아 하나 넣겠다. 서버 공간은 하늘에서 공짜로 떨어지냐?
@@BYGAST 이게 맞지 ㅋㅋ 실제로 전성비는 10퍼센트 차이밖에 안나는데 몇배로 칩을 더 박으면 공간은 어찌 할거며 발열량 어케 잡을건데 ㅋㅋ