고대역폭메모리 HBM의 개발 배경? 초기 HBM 장착한 제품은 어떻게 되었을까
Вставка
- Опубліковано 7 лип 2024
- 안녕하세요 구독자 여러분! 오늘은 뜨거운 감자 HBM을 완전정복하는 시간입니다. 이 영상 보시고나면 HBM이 어떤건지 감이 좀 오실겁니다! 영상을 통해 만나보시죠!
●Timestamp
00:00 시작
00:35 챕터1 HBM, 그것이 알고싶다!
01:18 챕터2 PC기준 메모리의 성능은?
06:35 챕터3 메모리 대역폭 계산법
07:32 챕터4 그래픽 메모리의 시작
11:23 챕터5 AMD의 고민과 HBM의 출현
15:42 챕터6 HBM의 기본 목적
20:14 챕터7 최초의 HBM / AMD R9 FURY/NANO
23:55 챕터8 HBM2 적용 / AMD VEGA/라데온 VII
●Tag
#엔비디아 #HBM #SK하이닉스 #삼성전자 #AMD #컴퓨터 #하드웨어 #기술동향 #보드나라 #케이벤치 - Наука та технологія
![(한때) 엔비디아를 압살한 3DFX VOODOO가 폭망한 이유는 독점이 아니라 이것? [PC흥망사 2-2]](http://i.ytimg.com/vi/W89Oo9u0Yjw/mqdefault.jpg)
![미친 성장률, 30분으로 보는 엔비디아(NVIDIA)의 역사 통합편 [브랜드스토리]](http://i.ytimg.com/vi/aFIY7R_eVF4/mqdefault.jpg)
![ОРБАН приехал к ПУТИНУ и "отчитался" о поездке в Киев 😁 [Пародия]](http://i.ytimg.com/vi/_0ukDovOWq8/mqdefault.jpg)
0. 메모리 실성능을 올릴수 있는게 클럭과 비트수 이외에 한가지가 더 있습니다.
바로 메모리 레이턴시 입니다.
메모리는 동작속도가 높을수록 기본 레이턴시가 늘어나는 경향이 있습니다.(오류보정 해야하는 시간이 필요)
레이턴시는 한국말로 하면 지연시간이고, 여러분들 메모리 오버클럭 할때 램타 쪼이는데, 이 램타이밍이 메모리 레이턴시 입니다.
메모리 레이턴시는 작을수록 반응속도가 빨라지고 결과적으로 지연시간이 줄기 때문에, 랜더링같이 장시간, 대용량 작업 할수록 결과적으로 걸리는 시간 차이가 커집니다.
프로세서(CPU, GPU)와 메모리 사이의 물리적 거리가 늘어날수록, 메모리 레이턴시를 늘려서 에러가 없게 합니다.
즉, 반대로 말하면, 프로세서와 메모리가 다닥다닥 붙어 있으면 레이턴시 최소화 할수 있습니다.
1. 인텔 PC 메모리 규격 : 듀얼채널 64비트(32비트 듀얼), 쿼드채널 128비트(32비트 x4)
2. 애플 M칩의 메모리구조 :
애플M은 DDR메모리를 사용하지만, 프로세서 옆에 RAM칩이 바로 붙어 있으며,
규격은...
A : 16비트 쿼드채널(64비트)
M1 : 64비트 듀얼채널(128비트)
M1프로 : 64비트 쿼드채널(256비트)
M1맥스 : 64비트 옥타채널(512비트)
사용한 메모리가 DDR이지만, 사실상 애플실리콘은 GDDR 쓰고 있는것과 같고, 통합메모리 라는게 플스나 액박과 같은방식 이며,
물리적으로 프로세서 바로 옆에 램칩이 붙어 있기 때문에 레이턴시도 가장 적게 세팅되어 만들어 집니다.
그래서 실제 대역폭은 애플실리콘이 인텔PC보다 더 높고, 여기서 내장된GPU가 통합메모리를 쓰는 이점도 최대치가 됨.
3. AMD가 플스, 액박용 APU에 GDDR 통합메모리를 적용하고 양산하면서, 여기서 얻은 아이디어로,
이런 방식에 특화된 전용칩을 만들면 좋겠다고 생각해서 만든게... 1024비트 HBM을 프로세서 바로옆에 다닥다닥 붙이는것 이었습니다.
4. 인텔은 지난 10년동안, 기술 다 있었으면서, 구닥다리 DIMM구조만 우려먹고 있었죠.
제가 인텔을 용서할수 없는 이유가 또 있는데, 인텔 메인버스 DMI가 PCIE x4를 거의 10년간 유지하다가,
지난 21년 말, 인텔12세대에서야 Z690에서 DMI대역폭을 x8로 올렸고,
2년 지연되어 작년에 출시한 서버용 사파이어래피즈 최상위에 HBM을 쓰기 시작했고,
올해 루나레이크에서 인텔도 M1과 같이 메모리를 프로세서 옆에 붙여버림.
기술 있으면서도 늦게 적용한 사례는 또 있습니다.
과거 FSB버스 시절 NB에 멤컨 넣어뒀다가 암드가 CPU에 멤컨 내장하며 재미 보니까 린필드부터 멤컨 내장해버리는 짓거리를 했죠 ㅋㅋ
예나 지금이나 칩셋 장사에 혈안 되어있는 즐텔..
HBM 넣을려고 베가때 amd가 했던일 생각하면... 당시엔 그저 시기상조였을뿐 이지 않았나 싶습니다
AI와 같이 대용량 Data를 다루는 경우는 레이턴시는 상대적으로 중요성이 떨어지지 않을까요?
편의점서 맥주 한병을 사온다면 거리가 중요하겠지만 대리점에서 맥주 한 트럭을 사온다면 레이턴시 보다는 한번에 올 수 있는 맥주량(대역폭)더 중요할 듯 싶습니다.
애플은 lpddr를 사용하고 lpddr은 레이턴시가 길어요…
유투브 IT 매거진 올려주시는 영상보다보면 소싯적 즐겨 보던 마이컴, pc사랑, pc라인 등등...월간 매거진 생각이 나네요. 특별 부록 같아요.ㅎㅎ영상 잘보고 있습니다. 감사합니다.
저도 그런 느낌으로 들어요.
나노 출시 당시만해도 SFF 그래픽카드는 17CM(itx 메인보드 사이즈)~길어야 220mm 안넘는것이 미덕이었는데, 이제는 엔비디아 공식 sff레디 인증 기준이 300mm 그래픽카드 ㅋㅋ
우덜식 sff ㅋㅋㅋ
이런분들 만나서 지식쌓을수 있는게 유튜브 순기능인듯
저도 베가 썼는데 진짜 좋았는데 말이죠
다음이야기!! 빨리!! 급함!!!
이런 유익한 채널이 있었다니
예전 보드나라 칼럼 좋아했는데...여기있네.ㅋ
지금의 DDR메모리와 HBM메모리가 만들어지는데에는 AMD가 끼친 영향이 매우 크지.. 인텔이 램버스를 밀자 AMD는 DDR를 표준으로 해야 한다고 부딛혔고 결국은 인텔의 램버스는 사라지고 AMD가 민 DDR이 승리해서 지금도 사용하고 있는 중.. HBM도 AMD와 하이닉스가 같이 개발해서 만들어진것이고..
재주는 곰이 부리고 돈은 되놈이...
퀄컴 스냅드래곤 노트북 비교는 언제 올라올까요? 루나 레이크 fanless 제품이 나오는지도 한번 확인해주시면 감사하겠습니다
라데온vii가 여기서
자기전에 보고 출근할때 또보고 퇴근할때 또보고 자기전에 또보는 닳고 닳게 보며 내 젊음을 회상하며 더 나은 기술의 내일이 기다려지는 타임라인의 마커점 같은 채널~~❤
내장 APU에 HBM적용하면.... 먹힐까요??
아직도 베가56을 사용하는데
얼마전에 써멀 재도포했는데
구조가 독특한데
아직도 hbm2 메모리를 왜 넣었는지 모르겠어요
제목이...엔비디아 세상에서
512gb/s면 pci express 7.0의 16배속과 같은 대역폭이네요. 3d 프로그램이든 뭐든 cpu, gpu를 동시에 사용하는 프로그램의 경우는 본질적으로 cpu/gpu의 병렬 프로그래밍 성격을 띠게 되는데...그렇다면 pci express 버스를 통한 gpu 접근이 문제가 되기 때문에 인텔은 pci express를 지속적으로 업그레이드 해왔는데...gddr 메모리가 뒤쳐지는 문제가 생겨서 hbm으로 방향을 잡은 것 같습니다. 그런데 cpu의 처리를 거친 시스템 메모리의 내용을 pci express를 통해서 비디오 메모리로 복사해주고 gpu가 이 비디오 메모리에 있는 내용으로 연산해서 결과를 내주고 화면에 뿌리고 하는 과정이 좀 비효율적이네요. 그냥 애플 실리콘처럼 통합메모리에 cpu, gpu가 모두 접근 할 수 있는 x86 AP 시대가 빨리 왔으면 좋겠습니다. 그러니까 한 기판에 cpu, gpu, npu 다 박고 메인메모리 없애고 HBM 박아 놓으면 메인보드 사이즈도 작아지고 성능도 엄청나게 올라갈텐데... 그러니까 cpu가 연산해서 hbm에 올리면 gpu가 바로 읽을 수 있는 그러한 AP 시대가 왔으면 좋겠습니다. 호환성 문제 때문에 pc의 구조를 이렇게 극단적으로 바꿀 수 없었는데... 윈도우즈 11에서 카비레이크 버리는 모습을 보면서 앞으로 x86 데스크탑에서 그런 일이 가능 할지도 모르겠다는 생각이 드네요. 그렇다면 인텔, AMD는 살아남겠지만 x86 cpu 기술이 없는 nvidia는 나가리가 될 수도 있을 듯 ㅋㅋㅋ
Amd가 생각은 창의적이고 참 아이디어도 넘치고 제대로 하는데 그걸 어떻게 조립해서 설명하고 발표하는게 떨어지는 거 같아요 그리고 그걸 설명하고 발표했다 치더라도 성능이 그 발표했을 때만큼의 퍼포먼스가 안 나오니까 항상 그게 발목이죠
루나레이크 LPDDR 쓰는거 아닌가요
램 접점부 볼납갯수가 256개인가 들어갔던거같은데 ㅋㅋ
와 다음화 급해요
hbm관련 얘기 재밌게 봤습니다.
파란 rd램 은색 rd램 감선생 알지? ㅈㄴ비싸서 그냥 처다보고 끝났음 rd램 쓰는 놈들은 진짜 찐부자였어
다음화가 진짜 재밌는거지 ㅋㅋ
망하긴 했지만, 연탄맥처럼 메인보드 그래픽보드 이렇게 만드는게 답이었는지도
종종 방송보지만 앞에 하이라이트씬 편집이 개구려요.....
샘숭 매직스테이션 썼던 나는 너무 행복했어
베가64/라7로 이더리움 채굴해서 수익 많이 남겼죠. 웃긴게, 베가64/라7은 계속해서 성능이 올랐던걸로, 메모리성능이 중요한 이더리움같은거 채굴할때도 동급대비 훨씬 더 많이 채굴되서 인기가 높았었습니다. 엔비디아 A100은 하이닉스 HBM메모리가 들어갔지만, 채굴쪽에선 삼성 HBM 메모리가 수율이 좋아서 채굴량이 월등이 하이닉스꺼보다 높았던걸로 기억됩니다. 어찌됐든 AI시대에 HBM메모리기술이 중요해진만큼 이 기술이 다른 나라(특히 중*)에 유출되지 않도록 각별히 주의해야할듯 합니다. SK가 좀 불안하긴 하던데... 아무튼, 기술유출 안되길 빕니다. 이만.
좀이상한 발상 키보드가 메트릭스를 이용해서 전압혹은 전류의 차이로 인식하는 방식이니
64비트면 64회선이 있는 거니까 1회선에 키보드 신호 보내는 것처럼 점압이나 전류 혹은 다른 무언가에
값을 64개로 변화를 주어 송수신 할수 있는 장치를 개발하면 한번의 통신에 64비트를 정송 가능하고
그걸 다시 64회선으로 늘리면 4098비트의 정보를 송수신 할수 있을 텐데... (말이 좀 어럽나??)
초당 5g b를 처리하는 시스템에 한번에 5000의 대이터를 송수신 한다면 초당 100만번의 대이터를
전송할수 있다. 하지만 부하가 걸릴수 있으니 1/10로 회수를 줄여허 10만번만 대이터를 송수신 하게 하면 될거 같은데
예로 -0.5V에서 +0.5V까지 0.05V 차를 감지하는 송수신 시스템을 만들고
데이터 버스에 외부 전압, 전류, 자기를 차페를 할수 있으면 가능 할 것 같은데..
SSD에서 SLC MLC TLC 하면서 용량 늘리는게 말씀하신거랑 정확히 똑같은 원리입니다.
노이즈 때문에 고속상황에선 매우매우 힘듭니다.
비단 CPU만 해도 0, 1 두개만 구분하는게 일정 전압 아래면 0, 일정 전압이상이면 1 이런식인데 이것도 에러 터져서 블루스크린 뜨는데 메모리에서 그러는순간 그 데이터는 과연 제대로 된 데이터일까요
안녀하세여 케이벤체재연기잡니다
뭔가 한음절 빠진느낌 ㅋㅋ
엔비디아 삼성 어려운거 아니깐 커스텀 갑질하는것 같던데. 너무 더럽네
삼성은 이제 감각과 추진력이 많이 떨어진듯하네
H 반도체 회사 다녀서 HBM 을 잘알고 있는데 회사 보안사유로 말을 못하네요.
반박포함.
유튜브가 익명성이 보장되는데 뭔 보안 들먹임? ㅋㅋㅋ 아는척 하는거 개 극혐
말을 못하면 하지를 말든가 아무튼 난 알고 니가 틀렸고 ㅋㅋㅋ 존나 웃기네
광고 쩌네
도대체 영상 시작하면서 한참 뒤에 지껄일 일부분을 왜 끼워넣는거야?
이런 짓 하는 유툽들 참 많은데 진짜 성가시고 한심한 짓이다
라고 의자에 앉았는데 바닥에 발 안닿는 루저 도태남이 씩씩 거리며 적어봅니다 ㅋ
세상 불편한게 너무 많으실건데 그냥 동네 뒷산 올라가셔서 절벽에서 다이빙이나 하시죠
@@0llIIllII0 지금 당장 부엉이바위로 갑니다
@@oxdoxx 동네 뒷산에 부엉이 바위가 있다니 좋은데 사시네요? 담배있냐고 물어보는 사람 따라가면 될겁니다
1등!!!!!!! 선따봉 후 시청!!