2억넘는 슈퍼컴퓨터
Вставка
- Опубліковано 6 бер 2024
- #딥러닝#H100#GPU서버#워크스테이션#ai
CPU: Intel Xeon Scalable Gold 6336Y (2EA)
M/B: SUPERMICRO MBD-X12PI-NT
RAM: SAMSUNG DDR4-3200 ECC/REG 768GB(64Gx12)
SSD: SAMSUNG 980 PRO M.2 NVMe 2TB
VGA: NVIDIA H100 80GB PCIE (4EA)
CASE: 4U RACK Type Rail KIT
POWER: 2000W PLATINIM + 1000W GOLD
Water Cooling Parts: 1U LGA 4189(2EA), NVIDIA H100 Block(4EA),
30T Radiator (2EA), All in one Pump, EPDM Clamp, EPDM, Quick Disconnect
양컴 홈페이지
www.yangcom.co.kr
양컴 인스타
/ yangcom_official
양컴 페이스북
/ yangcompc
양컴 블로그
blog.naver.com/combox0
양컴 카페
cafe.naver.com/yangcom0991
양컴 카톡
pf.kakao.com/_CAxhtC/chat - Наука та технологія
안녕하세요 이제야 댓글 납깁니다. 얼마전에 서버컴 관련해서 문의 남겼었는데 아무 거리낌없이 직접 전화까지 해주셔서 친절하게 알려주셔서 너무 감사했었습니다ㅜ 전혀 다른 업체에서 셋팅해온 컴이여서 실례를 무릅쓰고 문의했었는데 그 부분 다시 한번 죄송합니다. 직접 전화로 목소리 들으니 저한테는 나름 컴퓨터 계의 연예인이랑 전화하는 느낌이었습니다 ㅎㅎ 올해도 번창하시고 영상 항상 잘 보고 있습니다!! 양컴 최고!!!
와 양컴 인성보소 ㄷㄷ
진짜 잘 보고 갑니다..
ㅎㄷㄷ 합니다
우와 조립할때 손 떨리겠어요.
호퍼 GPU라면은 작심하고 기계학습에 특화된 컴퓨터를 만드는거군여
저는 gpu를 잘 모르는 문과지만 그냥 존재자체가 압도적이고 엄청나보이네요 이런걸로 ai 학습 추론 시키는거군요
저도 미래에 살아남기 위해서 꼭 배우고 싶습니다. 좋은 동영상 감사합니다
저런걸로 싸펑 돌려줘야지 깔@롱한데
@@user-sj9hd4xj2s오히려 cpu때문에 안돌아감
조립다하고 전원 스위치 넣었는데 반응 없으면 식겁하겠네요. 100만원 pc도 전원 안들어 오면 식은땀 나는데 ㄷㄷ
역시 양컴!
저정도 규모의 서버라면 항온항습기 돌아가는 환경을 안쓰나요? 서버에 수냉을 쓰는게 신기하네요.
와 영암 레이싱 경기 보는 줄 ㅋㅋㅋ
씨이이이이잉 소리 ㄹㅇ 실감나네요 ㅎ
와..... 이제는 1억에 이어 2억짜리를........ 대박입니더 ㄷㄷ
말만 들었는데 h100같은거는 비디오 아웃단자 없다더니 진짜네요.. 정말 연산용으로만 ㄷㄷㄷ
어차피 모니터도 안꽂고 쓰니까요ㅋㅋ
크 H100서버군요 ㅎㅎ
GPU 인덕터들 덕지덕지;; 역시 연산용 카드는 뭔가 다르네요..
수냉식 연결했는데 물 새면
몇 억 날라가고 현타 오질 듯
이야..... 진짜 후덜덜 하네요....한번의 실수는 곧 절망으로......
h100 사서 로컬 대형언어모델 구동해보고 싶다...
웅장하네요....
조립이랑 더빙이랑 따로 하시는거죠? 아니면 마스크를 착용하시는건가요?
6:21 둘다 아닌듯요
와 2억이라니
얘는 한 15년정도 기다려야 메인스트림급 GPU로 만나보겠네요
이런 시스템은 공임 많이 받아야겠다...
추후에 A/S 같은것도 생각해야되니.. 후덜덜 하네
당연히 많이 받죠 실수 한번만 해도 수백 수천 깨지는 위험을 감수하고 하는건데요
@@user-jz1ib8jd8p 그래서 공임이 얼마나 되는건가요
@@yeommark1792200?
@@yeommark1792안녕하세요. AS 3년 공임포함 99,000원 감사합니드
조립을 안해봐서 모르겠는데 개인적인 생각이지만 클램프가 결합이 강한가요? 호스 대충 꽂고 클램프만 조여주시는 것 같은데 물이 새지 않을까 싶네요. 잘봤습니다.
호스+클램프가 수냉 라이닝 방식중에서 가장 견고하고 안정적입니다
차 엔진 내부의 호스는 파이프(너트로 조임)가 아닌이상 다 클램프로 조이는걸보면 알수있듯이 체결력은 클램프가 너트 다음으로 제일 좋습니다.
웅장하네유
The Micron 3600 20 TB with a sequential read speed of up to 70,100 MB/s and 60,000 MB/s write speed of the same type. Random access achieves speeds of 4 million input and output IOPS.
내꺼 아니니까 그런갑다 하는데 2억을 시스템에 태울정도면 룸 하나정도 만들만도 한데
수냉을 고집하면서 사무실 내부에 두고 쓴다는게...
수냉은 터진 수냉과 곧 터질 수냉만이 존재한다는 사실..
이런 스케일의 컴 조립을 깔끔하게 시청할 수 있는건 양실장님 영상 뿐인 것 같아요 항상 감사합니다
ㅇㅈ
호들갑좀 ㅋㅋ
ㅋㅋ홐ㅋ들ㅋㅋ갑ㅋㅋㅋ
@@niumma8322아조씨 지나가세요
기쿨 너무 이쁘다
아니 이걸 수랭을 하네 ㄷㄷ 담당자 간 겁나 큰듯 ㅋㅋㅋㅋ
저걸로 한컴타자 하면 렉 없이 잘 돌아갈 듯 부럽댜
이런영상을 볼수있다니...
우와 저게 그 테슬라와 MS에서 그렇게나 눈독들이고 털어간다는 H100...
서버용 수냉은 엄청 비쌀테니.. 안터지겠죠?
전원 넣어서 부팅하는 화면도 보고 싶네요
라디팬은 일부러 바람이 들어오게 하는건가요?
2억짜리가 수랭이라니... 물 샐까봐 겁나요.
ㄷㄷ하네요 이런 서버는 어디에 쓰이는지 궁굼합니다
11분이 1분처럼 지나가는 마법
서버 컴 또떳다 ㅋㅋ
견제할 곳이 없으니 손바닥 절반 크기 칩 하나에 5천만 원이 되는구나
아니 팬 소음이 심하면 얼마나 심하려고.. 했는데 진짜 헬기소리가 나네 ㅋㅋㅋㅋㅋ
내가 조립하면 손 론나게 떨리겠네
ㄹㅇ 2억짜리면
ㅇㅈ
뭐야 저게..무서워..
메인보드 램채널이 4개랑 5개인게 일반컴 사용자 입장에선 졸라신기한데요?
이거보고 엔비디아 풀매수했읍니다
이 기계로 무슨 서버를 구축? 관리? 실행? 하는건가요? 게임회사 서버? 뭔가여?ㅎㅎㅎ
AI 용 컴퓨터에요
저 그래픽카드가 rtx시리즈 생산량만큼만 생산되면 AI 특이점 오는 그 그래픽카드맞나?ㄷㄷ
이제 올해는 H200이 나오겠군요
GPU 모서리마다 하이닉스 HBM이 4개 딱.. 영롱하다.. 5090 부터는 HBM으로 나올라나?
절대 안씀 잘 나와도 GDDR7 아니면 GDDR6X 유지일거임
@@user-kt8qs6wl4p 맞지 AI용이 물량 부족이라 쩝
@@rei51351 기가당 13불정도라서 글카가격 엄청 오를거임
아니 뭡니까 광고 타이밍(광고에서 나오니까 제트기 소리가)
와...
h100 설치한 서버를 사무실에서 쓰는건 좋은 결정같지는 않아요. (물론 이유가 있겠지만...) 항온항습 장치 완비된 서버실에서 정전압 장치와 UPS와 같이 쓰는 것이 훨씬 낫습니다. 워낙 가혹 조건에서 구동하기 때문에 수냉보단 제트기 소음 나는 공랭이 안전합니다.
저도 인정합니다. 어차피 시간 지나면 감가 될텐데 서버실 설비 부터 구비하던가 여의치 않으면 돈주고 대기업 컴퓨팅 자원 빌려쓰는 식으로 운영하는게 맞을텐데, 어떤 생각으로 워크스테이션에 h100을 박은건지 모르겠네요.
NVlink는 영상에 안담긴건지 모르겠고,
위험성이 큰 수냉은 진짜 아닌것 같네요;;;
h100 사용한 서버를 10억 20억어치 사서 사용하는 돈은 전혀 상관 없지만 제일 문제가 되는건 서버실 공간입니다. 딥러닝은 해야되는데 서버실 없는곳이 훨씬 많구요. 그럴때 저렇게 사용합니다.
@@nacelle_strike대기업 컴퓨팅자원은 보안이 중요한 프로젝트에서는 사용이 어렵구요. 서버실 만드는 비용이 훨씬 더 많이 듭니다.
@@MrBusyguy 제가 보기엔 포르세 911터보 소프트탑으로 사서 아파트 실외 주차장에 탑 열고 주차해 놓고 지내는 것 같아요. :) 수냉이면 h100 고장났을 때 수리/교환이 훨씬 까다로워집니다 - a100 사용후기? 들어보면 고장이 꽤 흔하다고 하시더군요. 여튼 수억대 장비를 도입해야할 정도로 필요가 확실히다면 서버실 환경에 투자를 더 하시는게 맞다고 생각해요.
@@MrBusyguy 저도 ai 대학원생이라 학교 서버실에만 둬서 보안쪽은 크게 생각 못했는데, 정 그러면 서버렉 + 월세주며 서버실 공간대여해주는 곳도 보안 문제가 있는지 궁금하긴하네요... 진정 워크스테이션이 최선일지, 조금 아쉬운 상황 인것은 사실이긴 합니다. ㅠㅠ
안녕하세요 회사에서 사용할 서버 견적을 알아보는 중인데, 이 워크스테이션의 경우 혹시 NVLink이 제공되는 옵션인가요?
당연히 지원됩니다.
CPU 수냉을 직렬로 연결하면 시피유 한개는 온탕되는거 아닌가요?
비열이 높아서 라인 전체적으로 물 온도 자체가 비슷하고, 천천히 올라가요.
2억 ㄷㄷ
2억 컴퓨터라니... 너무 대단해요 뒤에 나오는 음악도 너무 좋아요 혹시 노래가 무엇일까요?
이런 컴퓨터는 어디다 사용합니까?
(집에서 게임용도는 아닐걷 같고, 알려주세요
AI LLM 모델 연산.......
딥러닝이요
한손에 차 한대씩 ㄷㄷ
안녕하세요 양컴님 h100을 조립하시는 영상보고 연락 드렸습니다 h100 4장을 10만달러에 구입하고 싶으시다는 분이 계셔서 연락드립니다
GPU여도 나름 서버인데 예비용전원을 넣을 수 없다는건 아쉬운 부분이네요..ㅠ
저 부품들중 익숙한거라곤 ssd밖에 없단게 ㄹㅇ 웃음벨
리니지 프리서버 돌리라고 하나😊
지금까지 서버랙 하나에 2억하는줄 알았더니 서버 딱하나에 2억이네.. 클라우드 왜쓰는지 알겟다
지뢰 찾기 할때 좀더 수월할듯
이런 성능도 지뢰찾기 100프레임도 못뽑는다는게 참..
우리의 영원한 숙적 '지뢰찾기' 8K 돌리면 60프레임 방어가 될것같은 컴퓨터군요.
베그 몇 프레임 나오나요?
궁금해서 찾아보니 그래픽 한개 가격이 5천 가까이 하네요 ㄷㄷ
시퓨하나400짜리시작이네ㄷㄷ
와 저정도 서버를 구비할정도면 그냥 항온항습,UPS 서버실에 넣고 KVM에 원격 붙이면 되는걸 왜 다양한 리스크를 감수하고 수냉에, 사무실에서 구동시킬려고 하는건지 이해가 안가네요...
모르고 하는소리일수도 있으나 눈먼돈이라 그냥 지르는건가...?
이거 영상 전에 본거 같은데.... 뭐죠??
램이 몇개가 달리는거야 ㄷㄷ
그니깐 이게 포르쉐 카이엔보다 비싼 컴퓨터라는거죠?ㄷㄷ
어우 야 ㅡㅡㅋ 멋지네요 월요일에 연락드리겠습니다
뭐 하나 잘못 건들면 연봉이 날아가는건가
이런 컴퓨터로 돌리는게 어떤 프로그램들이죠?
지뢰 찾기입니다. 저정도는 되야 돌아가죠 ㅎㅎ
@@quantum_id 피카츄배구는 안되죠?
조립하면서 손 달달달 떨릴듯
호수가 좀 그렇긴 하네요.. 😢
그야 말로 컴퓨터 계의 람보르 아니 롤스로이스...
아니요. 예는 롤스로이스가 아니라 자동차로 치면 겁나 짐 많이 실을 수 있는 무한톤 트럭입니다. 이 컴퓨터는 성능이 좋은게 아니에요 다른 용도입니다. 롤스로이스 성능은요
인텔 코어 i9 14900K
엔비디아 RTX 4090
Asus ROG 마더보드
DDR5 48GB 8000MHz 램 6개
M.2 NVMe SSD 4개
@@오징어다리는8개성능이 좋ㅋㅋㅋ은게ㅋㅋㅋㅋ아님ㅋㅋㅋㅋㅋ
진짜 개소리에 부랄을 탁! 치고 아파서 부랄잡고 한 30분 울고 갑니다 ㅋㅋㅋㅋ
@@오징어다리는8개그리고 램 6개는 뭔 개초딩발상임? 3채널 마더보드가 있긴 하고?
돈도 돈이지만 저 귀한걸 네개나 구할수 있는게 대단하네 저거 그냥 팔아도 두배는 받을듯
귀한건 아니데요 네이버 검색하시면 돈만 있으면 구매할 수 있습니다 최적가 48,500,000만원에 구매가능해요
@@user-kz2ed1eg6h 배송 안와요. 웃돈 줘야 구합니다
@@user-kz2ed1eg6h 공급이 딸려서 웬만한 대기업도 지금 발주넣으면 몇달 걸립니다
@@user-kz2ed1eg6h웃돈주고 7천만원 줘도 못구했던 적이 있었음 지금은 물량 어떨지 모르지만
와 이억이래 무려 이이억이래
2억이면 엄청 비싼거 같지만 저희 랩실에 있는 측정 장비 가격생각해보니까 싼편이라고 느껴지네요 ㅋㅋ.. 장비값이 대당 7억..
와 저런 거 가지고 무슨 작업 하는지 궁금하다
llm
지뢰찾기
인공지능 학습?
소음이 채굴장 소음이네요~ㅎㅎ 채굴장 환기시스템 시공해줄때 많이 듣던 소리네요..ㅎㅎ
이억..
뽀각 하는 순간 최소 5000만원 날아가는거네요.
그래서 성능은요;;
이런 건 어디다 쓴다요ㄷㄷ
이런 장비는 8K 지뢰찾기에 최고입니다. ㅋㅋㅋ
@@grimmfill게임 성능은 4090보다도 딸립니다 헛소리 ㄴ
@@user-kt8qs6wl4p 푸하하핫~ 세월이 흐르긴 흘렀구나. 지뢰 찾기를 어떨 때 인용하는지 모르는 세대가 오다니…. ㅋㅋㅋ
이런건 주로 어느곳에서 사용하나요? 궁금해요
대학 연구실이나 중소규묘 기업 같네요
저 정도 되야 AI에 대용량 샘플을 학습 시킬 때, 유용해요. 특히 기존 워크스테이션 대비 학습시간 단축.
@@metacognition2023 대용량은 못돌려요 130b정도되는 중형급 모델정도는 간당간당하게 돌아갑니다.
이런거로 게임하거싶다
h100은 연산기라 rop개수가 20몇개밖에 안되서 차라리 180개인 4090이 훨씬 게임 잘돌아감
우와 2억이믄 싸게 파시네요. GPU 가 많이 내렸나봅니다, 개당 4천정도면 선방이라든데.. 근데 NVlink 는 연결 안하시는건가요?
NVLINK 지원 안합니다 H100만 가능
@@user-kt8qs6wl4p영상에 나온게 h100인데요
Nvlink 연결도 안되어있고 굳이 비싼 장비를 여러대 설치하는 메리트가 하나도 없는 구성이네요...;;
나중에 달지 않을까요
만약 물 밖으로 새면?
Cpu냉각수는 개별로 라지에이터로 연결안하나요?
물 자체가 비열이 높아요. 라인 전체적으로 온도 비슷합니다.
2억이면 차한대값인데 와우...
일반차 한대 값도 아니고 벤츠 S클래스 한대 급이죠 ㅋㅋㅋㅋㅋㅋ
저걸로 2억이상 만들가치가 있으니 사는거겟죠
컴퓨터로 도대체 무엇을 하시길래 이렇게 수억짜리 고가의 컴퓨터가 필요하신지 정말 궁금합니다. 혹시 인공지능이나 아니면 엄청난 수의 데이터를 처리해야 한다거나 하는 목적으로 구매를 하시는 것인지 정말 궁금하네요.
황사장 이 장사꾼 놈아.
으아!!!
들어오지 않을 수 없는 썸네일 ㄷㄷ
참고로 H100 4way로 AI 연산을 돌리면 대충 4090의 8.5배의 처리속도가 나옵니다.
특정 상황에서 그렇고 통상 H200 하나당 4090 하나에 2배정도로 봅니다
@@user-zp9yy1wk9g 갑자기 뭔 h200? 오타인가? 휴먼
2억이면 dgx 사야되는거 아닌가;
Dgx h100은 최소 3억 넘어가는걸로 아는데
dgx 저때 주문했어도 올해 못 받음 ㅋㅋㅋ