Розмір відео: 1280 X 720853 X 480640 X 360
Показувати елементи керування програвачем
Автоматичне відтворення
Автоповтор
聯網運算才是NVIDIA企業卡真正該有的全速運轉...應該說從顯卡推出開始就是這樣設計核心的。【額外提供CPU直連通道。】【台積電CoWoS三維封裝需要特規插槽。】放進專用伺服框架運行方為AI加速真正的實力。
最喜歡極客灣測這種費錢 又不實用的項目了 這是讚美 別家看不到
華而不實，就是炫技啊！
不是不实吧？顶多哗众取宠而已。还是很有技术含量的
作为视频最大的实用性就是好看😂
观众梦想的事情极客湾来实现给大家看～
對一般人來說的確不實用，但對於那種暴發戶來說，卻有實際用途
Finally someone did test the H100 the correct way. Thank you!
如果连极客湾都有渠道获得H100，大公司的渠道只多不少。那是不是可以理解为，现在国内大公司其实或多或少都有H100在手？
有钱就可以，商人永远都是逐利的
数量没那么多，大公司都是成千上万的买，黑市和黄牛弄不了这么多的
@@smoosq9501 等过几年这些卡开始退役，咸鱼上就会开始有各种亡命H100了
跟禁令都没关系，有没有禁令你都得跟老黄有关系
怎么可能拦得住，多花点钱而已！北朝鲜什么都封死，一样弄出原子弹！有利润就有人敢干。
我猜，测试负荷太小（显存、带宽、计算量、精度等），体现不了H100优势。比如：当负荷超过RTX4090显存时，RTX4090的表现会急剧下降，因为要跟主存频繁交换数据。
好羡慕😂现在常用的开源小大模型Bloom 7B或者Llama 7B，推理都可以直接吃满32GB显存的V100，40GB的A100都起码得四张才能训练（完整版80GB的A100，价格也几乎翻倍了），大模型是真的很吃资源😂
一般都不会训那么大的，如果需要那你的机构自然会给你配备的
H100竟然允許賣給中共國， 看來美國的晶片封鎖不怎麼嚴嘛。這東西拆下來就可以做成導彈的紅外線景像、可見光景像分析晶片。 美國政府真不怎麼聰明。
感觉这已经不能叫显卡了… 只是连在pcie接口上且集成了一点图形性能的计算卡😅，盲猜随着AI发展，以后分化会越来越大甚至干脆不带图形性能了
計算卡
可以走核显回传图像…不过显卡和计算卡本来就没有明确的界限，显卡一样可以计算，一些计算卡也可执行显卡的功能。
已經沒有圖像輸出怎麼稱顯卡拉😂
中国又落后美国了😂
@@enixdks 可以通过核心显卡回传图像哦。
羡慕，H100超预算了，我们最后买了四张A100
太棒啦! 非常用心的頻道啊! 長知識啦😂👍
多路H100的优势主要是总显存大,可以跑4090跑不了的巨大参数模型和batchsize,并不是说速度会快很多.
是这样的
看林亦测试的 m2 ultra，一台mac使用一百多G的显存，他是很专业的ai玩家，可以看看
@@几米-t8b 那个看过了,相当于140G显存的3080
关于硬件解码器其实主要为了解决raw frame在Host memery和Device memory拷贝瓶颈，另外就是CPU解码太吃资源。
HPC领域AMD的专业卡倒是卖得还不错，很多超算都是集采的EPYC+Instinct方案。可惜ROCm在AI上还是差了Nvidia不少。另外提一嘴，AMD最艰难的时候把Instinct割成游戏卡卖了，那张卡是Instinct MI50阉割Radeon VII。
radeon7算力赶上3080，游戏性能却很差，狂潮的时候涨价厉害
那張卡很漂亮，礦潮前買了一張，結果礦潮時賣出價格更高
H100不是不准出口到中国吗？您小哥是怎么搞到的？😂
禁令有1年寬限期，到2023年9月1日，可以透過香港NVIDIA進口
都說是不記名，如果過了寛限期，不知道美國會否管很更嚴，平台被炎上封
人家有跟官方的渠道
支持禁止，防止希特勒扰乱世界
加錢走私人渠道,畢竟這種禁止也就禁禁明面上
4張的 H100 我在今年的 Computex 展看到實物 真的尊爵不凡
然後無法大量使用! 還是垃圾??
I wish you guys would make version of this episode in English, the H100 is such an interesting GPU!
作为ITAD从业人员，表示装机方案的确是挺野鸡的🤣下次缺服务器可以找我啊，我也在上海
我前公司就給我團隊就配了 8 H100 張，但就只有我 1 人在用，用起來真的香可惜他們捨得花錢在高級設備上，但不捨得花錢在員工薪水上，也沒有甚麼商業策略與前景，所以後來就跳了
員工會跳槽,設備不會跳槽....
@@andrewyuan设备跟着员工跳槽，那就爽了😂😂😂
请问您是那个公司的啊？
老哥用这卡干嘛的啊 什么类型公司啊
@@xhm8180 人 都變成眼裡只有利益！沒有情感的喪屍了！種種失控 只會越來越多！ 同學 同事 同共事 不是朋友！要變成朋友非常困難 同學 同事 情侶 夫妻 因互相的好處利益才在一起的 互相虛偽 要不是為了錢 大家都在瘋狂滑著自己的手機 鳥都不鳥 為了錢 才在一起的 關係 怎麼來的 就 怎麼去 若上班下班假日生活圈都是同事 就表示自身沒有素質條件交真心真誠相待的朋友。任何事若都以好處利益金錢為優先目的 人早晚走火入魔 變成 冷漠無情 行屍走肉 街上滿街都是這種人 喪屍圍城 上演屍速城市 生活圈都是同事的 自己本身 就是利益喪屍！當一個人 對別人有利益 別人是善良的！當一個人 對別人沒有利益 別人是惡劣的！家裡沒錢 沒環境 還沒經過小孩的同意 就自私自利生小孩 貧窮世襲 喪屍生喪屍 每個人都是自己組的家庭最重要 不擇手段養活小孩 自己的小孩要先活 小孩長大又有了自己組的家庭 把原生家庭父母丟著 自生自滅 就成了現在的（滿街🧟🧟♂️喪屍！）
時間就是金錢，4天的運算量變成3天很值更不用說並聯能正常發揮的話就更值了
堆料好用，除此之外我真的找不到使用這東西的理由。畢竟會採用的只有少數中的少數～更多的時候像主持人說的拿顯卡頂著用一下【除非一直要跑專門的計算才會採購】。
以硬件来说H100的性能绝不只是几倍于4090，只是极客湾的能力到极限了，实在不知道怎么用这张卡，黔驴技穷
这算是定制设备了，估计只有在NV为某平台专业定制的服务器集群中才能充分发挥作用
Ansys之類的工程運算軟體從來就不支援遊戲卡,必須要繪圖卡才支援,然後最新版本的ansys也還沒開始支援H100,看模組不同,目前最多只支援到上一代的A100,以上資訊給大家參考
我们模拟cfd有用ansys，gpu我一直用不了，memory allocation一直出问题，请问是否只能用cpu计算？
实验室前些年买过几张p100，做一些深度学习之类的倒是挺好用的
竖着立在桌子边缘就不怕碰下去把突起部分弄坏吗？
抱歉，如果这是一个糟糕的翻译（谷歌），但我希望您能在 x-formers 与 H100 兼容时制作另一个视频
120元RMB买了P104矿卡，玩玩AI绘图，还是可以，这价格说明计算卡二手反而不值钱，类似于老至强CPU，老Q系专业卡，二手市场价格基本都比游戏卡低得多。。
這東西很好查是誰賣的被制裁了還這麼高調看來有公司要倒楣了
在華美資企業不行？Amazon, Google, etc
@@familyden4640不行！不能沒申請出口美國境外
你講到重點了⋯⋯這家公司會跟華為一樣被制裁，失去所有歐美市場進出口跟合作，以後中國國內公司賣東西給他們都會想一想風險再談，走私出口的是聯邦重罪，幾萬塊的利潤換來天價賠償跟罰款風險，加上住進聯邦俱樂部公寓機率，極客灣下次進入美國看蘋果發佈會之類的也可能被扣留，至少要求供出卡是誰借的如果美國無法找出這家公司證據，然後極客灣就裏外不是人了，其實花一點機票錢到台灣、日本或美國拍攝就能跳過這個風險不然也不要說在大陸拍的，很多時候不知道法律連承擔風險巨大都不知道
说不定是美企
提供方敢提供，还需要你担心？
英伟达已经发布的GH200才是最强AI计算卡。H10030万不是因为制裁原因是供需关系决定的，美国电商也要卖4万刀。而工业领域大批量的AI硬件算力，英伟达给中国定制了低频版的H100避开制裁，低频版阉割很大。AI算力才是王道，算力差距奠定了未来差距。
应该是存货视频吧
AMD已经发布的MI300才是最强AI计算卡🤭,別忘了AMD同時掌握了高性能CPU與GPU技術,nVida只掌握GPU
@@AlertImDK AMD腦粉又來了, 不支持cuda的AI計算卡是來搞笑的? MI300發表當日, AMD股價跌慘了, NV股價反而漲了, 因為AMD根本提不出MI300能賣給誰, 強有什麼用?
@@AlertImDK 你跑题了。别管英伟达还是AMD都是一个国家的公司。
@@kevinlantw nVidia腦粉又來了, 不支持HIP的AI計算卡是來搞笑的?(CUDA很容易轉換成HIP) MI300發表之後至今, AMD股價暴漲了(半年內累積漲幅90%), 因為nVidia推不出能對抗於AMD MI300, GH200能賣給誰, 強有什麼用?AMD MI300功耗驚人的低,因為他是直接整合了當今世界上最強CPU與GPU,搞笑的是H100只能搭配爆貴性能差的Intel CPU,整體性能大大被Intel拖累,而nVidia自家研發中搞笑CPU問題只會更多,而MI300是即將開賣的產品,GH200還只是ppt階段MI300X提供的HBM(高頻寬記憶體)密度是NvidiaH100的2.4倍，HBM頻寬則是1.6倍。這意味著AMD可以運行比NvidiaH100更大的模型，生成式AI模型可能不再需要數目那麼龐大的GPU，可為用戶節省成本。
制裁只能从总量控制，没办法面面俱堵 ，主要目的达到就行了
其實老黃在制裁前 把原先要給其他國家的通路盡可能的一股腦送進大陸
H100通用驅動只有提供基礎資源調動，需要搭配訓練模型編寫驅動才能真正解放在LLM上的算力
可惜圖形性能閹太狠了，否則可以搞出一些大騷活
其实没多大必要, 一般买这种卡装好机之后连显示器都不装的. 直接作为服务器跑项目.
@@sanwu9087 我知道，但是我們都喜歡看折騰嘛
能不能測試H100跑 HQPLAYER 44.1音樂升頻DSD1024+SIN-L濾波 對音樂的音質提升能否順暢 目前4090 24GB 因為內存不夠 播10幾秒就會停頓
估計是PCIE效能不足吧，聽說，這種算卡，必須要用到AMD EPYC主版，（I9、R9都不夠看）加上至少128G的主記憶體。好像是最頂的EPYC正好可以推到4個H100。不過，這種主版自然也是天價。😅😅😅
能不上雙路cpu加 8t ddr5 dram
現在torch 2.0不用xformers了吧，不是直接用sdp嗎
拿它跟遊戲專用顯卡比完全沒可比性畢竟兩者專攻的領域項目不同功能上A有的 B就沒有B有的 A就沒有重點是晶片再強大還是需要驅動和軟體的支援這樣才能發揮它最大的效能不然一切都是空談
Kohya用户狂喜
Mac Pro M2 Ultra 192GB 可以跑比较大的本地AI模型，性价比算是挺好的。
踩地雷總算可以特效全開了XD
爆炸的瞬間 電腦也炸了，特效太好了🤔🤔
家裡直接跳電
物理特效。
踩到地雷直接觸發 12VHPWR 爆炸配合 7950X3D 食用風味更佳#雖然是遊戲但可不是鬧著玩的
这样看，mac的大内存在本地跑一些大模型，还是很有优势的，性价比超高,老黄要提高N卡的显存了
省流：测了跟没测一样
伱3D 打打印的罩不應該用膠布封著 這樣會導致 風反彈 造成阻力 風扇會被反彈的阻力減速
幸好雲飛不是Linus，否則的話這個可能是製作成本最大的片
Linus Drop Tips
Linus Drop Tits
牛PP啊极客湾~可以鸭~
用超爛的畫質看超強的顯卡評測🤣🤣
還好沒有圖形處理，如果遊戲開發商拿H100來運行，不知道玩家這邊會發生甚麼事，我可能直接戒了
厉害了我的胖，可以狂训练各种模型了
如果换成 MAC STUIDO呢？是不是需要很低的价格就可以
FBI好綫索 😎礦廠好裝備
可否分享你們用甚麼樣的硬件組合來搭配H100?
为什么制裁下还能有国内公司要到这张卡，甚至还能空出来给极客湾“玩”？
中國大陸向其他沒被制裁的國家購入，美國制裁並沒有真正意義上關上所有門，反而一直都打開後門讓中國大陸通過
因為這個世界很多門可以開
多个卡并行训练效率低的问题，可能是由于PCIe总线的拓扑结构不合理造成的。
所以需要 NVLinks
如果H100出生的日期能早些，或許還能測個挖礦，也挺趣味的...
現在仍有 ETHW 讓你試(能不能賺錢是另一回事)
要看H100有沒有設計那種挖礦使用的演算法，如果沒有 還要透過轉譯 那效率鐵定不好看。不是說為了不被拿去挖礦 所以現在顯卡的有故意弱化挖礦類的演算法性能。
為什麼11:46那邊"GEFORCE RTX"的字會消失
特殊用途，打游戏不一定比4090好，SD玩图应该很爽❤
这种卡拿到手就应该让它显存吃满不停炼丹，这样才对得起它那价格
H100 是针对 FP64 的好不好？ 让你当显卡来测试？ 你应该试试L40s哥们
感謝播主的詳細測試🛠原來我是不需要這H100😅😅
那是你的問題!!哈哈阿!!
老黄一直强调，买的越多越划算，所以小札1.6万张训练Llama3.1 405B，马斯克建十万张的大计算集群搞没有左派话语的Grok3，不愁销路啊
30B 4090還是跑得動的 要用4bit GPTQ壓縮 把兩張4090串起來也跑得動65B 但在這之上就沒辦法光用消費級顯卡跑了 因為消費級的只能串2張卡
這樣跑出來的30b不會是弱智嗎😊
@@yidweahzaimen 不會 性能會減損但不嚴重
@@阿霖-e1h 輸出速度會不會很慢
@@yidweahzaimen 其实你可以这么想 , 跑出来的模型, H100可以支持十几个同时用, 4090只支持几个人用, 那性价比就出来了
@@yidweahzaimen 4090跑30B 大概是每秒30t
如果是计算卡，挖矿性能应该很屌吧？？？最近diablo4把我的3080ti砖了，美国很多3080和3080ti都砖了，国内有这种情况吗？大部分人都是从贩子手里买的卡所以没保修挺惨的。
沒搭橋還是4090划算，超有趣的，不過你們這是頂風作案啊。
为啥开头左手没有手滑呢？显卡放左边为啥会那么稳呢？
还得是极客湾啊😂
马斯克刚刚开源的要8张h100才能跑动吗？
一開只有360P還以為發生啥事，重新整理4K畫質就回來了顯卡也提升了好幾倍的效能
什么时候能评测上的dgx gh200
原來H100這麼貴，難怪NV和TSM最近股價漲翻天
特別渠道特別收費，美國人看完片又會找老黃詳談，反正這貨沒幾多人用，老黃肯定知道是誰買了
Tsm賺不到錢 毛利70%都在英偉達
英偉達是按市價賣，多出來的中間商賺走了
不特殊渠道也贵啊@@nobodyno489
HBM是哪家的？三星、SK還是鎂光的？
這已經不是硬核節目了，對我這文組來說是玄學
文組你不是最會的嗎？只要記得規格照本宣科就好了啊！把這產品當作行銷的文案報告撰寫理解就好了啊！你不需要搞懂原理，即刻灣雖然懂些原理但還不是某些行業的專業，很多時候都是文案的宣傳，打一打照本宣科！
@@Wind_of_Night如果照你這麼說那一堆公司都得倒了，行銷這麼簡單那根本不需要文組。來自理組的見解
@@zadkrtgx7765 行銷本身的文案是文組的專業，而理工組的專業在於製造產品，所以專業不同領域不同。【沒有誰高誰低的問題，企業營運本來就是要靠不同專業之間的互相搭配】且行銷這領域通常不是理工組會跨足的，畢竟沒有多少人真正會懂核心的技術【宣傳說都是專業術語，誰會真正了解呢？】為了推廣產品，更多的使用的是話術。理組的只能告訴行銷組該如何的推銷，產品可以宣傳的重點在哪邊。可以那些宣傳是可以被檢驗的！
最近華為昇騰910C號稱超越H100了 可以請極客灣專業評測嗎？
H100在禁售名单上，但是宽限了一年，某神秘公司大量采购，甚至还多出4张给别人玩。我看拜登下一届应该是说啥也选不上了
应该是这个公司采购的安全冗余，避免拿到残次品，给关系户拿来测试一下
什么禁售是买不到的，有香港这个中转几乎都可以买，企业是逐利的。
@@mikimi5713香港不也是中國一部分。
@@mikimi5713 明面上不可能让你几千张几千张的批发, 但是少量的 , 并且不是一个企业买, 还是可以的 .
@@mikimi5713 香港好像也在名單中 所以不是香港... 應該是新加坡...最好的路線 新加坡進貨 賣到馬來西亞公司 這樣一洗就可以 以馬來西亞空殼公司電腦零組件方式 再進入中國了 就算備查斷點也在馬來西亞 所以價格才翻3-4倍......
0:49 他是怎麼敢把卡豎放在桌上然後邊揮手邊解說的
期待极客湾 “Apple M2 Ultra (24 核中央处理器、76 核图形处理器和 32 核神经网络引擎)192GB 统一内存” 的评测
為啥nvidia-smi顯示的顯卡都是4090?不是測試H100嗎？？
有种把大司马丢冷宫刷茅房的感觉😂😂😂
怎么用游戏卡加速FLUENT计算？
这算是递刀子了吧 XD
做的够好啦!
這種卡本來就不是用來顯示的，也不是純GPU比較像是CPU+GPU+高容量RAM的綜合體介紹的內容好像不是很正確所以NVIDIA才會宣布它是AI計算用版大有些搞偏的感覺
跑计算的时候功耗能跑满嘛
看了售价了，小黄鱼现在现货20多万一张。价格好像没有那么离谱😂
缺货得很，各个科技企业更怕错过了风口，拼命囤货，原来18万，现在炒到三十多万
RMB！？
@@千人律者 对，老黄是懂饥饿营销的
@@千人律者对
這個不是已經禁運？ 他那個法令是怎麼搞的。還是這邊不是中國？或者是外商就可以購買？又或者是走私？還是壓根就取消了禁運令？
不愧是极客灣
不愿意透露的公司叫字节跳动，哈哈
不是禁止賣到中國了嗎，神奇的國度，只有你想不到，沒有買不到。
俄罗斯都能搞到芯片，没道理中国搞不到
有利益的东西，暗地里都可以搞。
有錢都不是問題 只要利益夠大 就會有人願意承擔風險
与其说神奇的国度，不如说左派的制裁有啥用😊😊，这东西能干嘛😂😂😂
一些美国企业都看不过美国制裁，影响美企赚钱。
我很想知道a100，h100显卡上的nvlink槽的保护帽怎么拆，老黄是用铝合金做的而且非常紧。目前有几千张a100要装nvlink桥，用螺丝刀撬坏了好几张了😅
用指甲摳
看完之後4090原來是性價比之王了XD
以40系全部的卡來說，確實是CP最高的，買70 80 不如直上90……
也是遊戲卡性價比之王
因為這張卡比4090早出很久
玩游戏4090的性价比不行 但跑机器学习真的是性价比之王
這測試真的狠🤣😱👍
謝謝極客灣 帶我看看今年最賺錢的科技推動者
spacex：？
极客湾大神们好，请问如何能联系到你们，很想请教关于HX170如何破解作为AI运算卡的问题。请问是否可以联系我？
钞能力爆表…
我記得4090剛發售的時候，好像說要用Quadro卡協力4090搞什麼項目？
5個8K螢幕？
你們真當美國吃素的 那家公司完蛋了
新聞有報寬限期到今年九月一日，可透過香港購買，兩種晶片的產品都可以買。
哇哦
9:09 「計算卡」的發音用2倍數放，乍聽之下是智障卡。
说是不准卖，其实私下卖，😂
h100 直接連接是有瓶頸的 , 聽說是要用語言把連接瓶頸修改掉 .
不是制裁了嗎? 居然還買到了.
有延長寬限期
大陆要买h100多少钱啊？哪里能搞到
跑CFD 的話可以試試超大型專案，把RAM 都吃滿的那種說不定差距就出來了
H100 GPU 主要用於為AI、HPC 和資料分析執行資料中心和邊緣運算工作負載，但是不包括圖形處理。 玩遊戲沒很大效能阿 可惜了
其实是数据编程方面特别强 . 尤其是集群下经常用到数据交换的大型项目 ,
防止手下偷偷用gpu玩游戏。故意的。
@@jackzeng3788😕
在amazon上随时可以买，查了一下，H100 显卡 80G 有卖44000的，也有卖34000的，二手卡卖30000万。
看看税后多少钱
苹果m2 ultra 192G统一内存反而成了性价比之王，而且苹果对transformer有硬件优化
等M3 ULTRA吧
别着急吹，等等看再说吧。 192统一内存， 就是说显存+内存还没我开发机的内存大，也没我显存大。我机器上面6块上一代的A100，显存一共480G。专业软件本来都是专业人员直接编写的，为对应的业务极致优化，就192G这么点可怜到要饭的内存+显存，能跑的起来现在的AIGC训练那真是颠覆ML领域了
目前看来是能跑里面最便宜的方案了，哈哈😄
@@wettingfairy6764 歪日，你这成本不菲啊
192G是什麼垃圾
羡慕死了，我们实验室连四张A100都没有
挖靠居然測這個 未看先給讚
聯網運算
才是NVIDIA企業卡
真正該有的全速運轉...
應該說從顯卡推出開始
就是這樣設計核心的。
【額外提供CPU直連通道。】
【台積電CoWoS三維封裝需要特規插槽。】
放進專用伺服框架運行
方為AI加速真正的實力。
最喜歡極客灣測這種費錢 又不實用的項目了 這是讚美 別家看不到
華而不實，就是炫技啊！
不是不实吧？顶多哗众取宠而已。还是很有技术含量的
作为视频最大的实用性就是好看😂
观众梦想的事情极客湾来实现给大家看～
對一般人來說的確不實用，但對於那種暴發戶來說，卻有實際用途
Finally someone did test the H100 the correct way. Thank you!
如果连极客湾都有渠道获得H100，大公司的渠道只多不少。那是不是可以理解为，现在国内大公司其实或多或少都有H100在手？
有钱就可以，商人永远都是逐利的
数量没那么多，大公司都是成千上万的买，黑市和黄牛弄不了这么多的
@@smoosq9501 等过几年这些卡开始退役，咸鱼上就会开始有各种亡命H100了
跟禁令都没关系，有没有禁令你都得跟老黄有关系
怎么可能拦得住，多花点钱而已！北朝鲜什么都封死，一样弄出原子弹！有利润就有人敢干。
我猜，测试负荷太小（显存、带宽、计算量、精度等），体现不了H100优势。
比如：当负荷超过RTX4090显存时，RTX4090的表现会急剧下降，因为要跟主存频繁交换数据。
好羡慕😂
现在常用的开源小大模型Bloom 7B或者Llama 7B，推理都可以直接吃满32GB显存的V100，40GB的A100都起码得四张才能训练（完整版80GB的A100，价格也几乎翻倍了），大模型是真的很吃资源😂
一般都不会训那么大的，如果需要那你的机构自然会给你配备的
H100竟然允許賣給中共國， 看來美國的晶片封鎖不怎麼嚴嘛。
這東西拆下來就可以做成導彈的紅外線景像、可見光景像分析晶片。
美國政府真不怎麼聰明。
感觉这已经不能叫显卡了… 只是连在pcie接口上且集成了一点图形性能的计算卡😅，盲猜随着AI发展，以后分化会越来越大甚至干脆不带图形性能了
計算卡
可以走核显回传图像…不过显卡和计算卡本来就没有明确的界限，显卡一样可以计算，一些计算卡也可执行显卡的功能。
已經沒有圖像輸出怎麼稱顯卡拉😂
中国又落后美国了😂
@@enixdks 可以通过核心显卡回传图像哦。
羡慕，H100超预算了，我们最后买了四张A100
太棒啦! 非常用心的頻道啊! 長知識啦😂👍
多路H100的优势主要是总显存大,可以跑4090跑不了的巨大参数模型和batchsize,并不是说速度会快很多.
是这样的
看林亦测试的 m2 ultra，一台mac使用一百多G的显存，他是很专业的ai玩家，可以看看
@@几米-t8b 那个看过了,相当于140G显存的3080
关于硬件解码器其实主要为了解决raw frame在Host memery和Device memory拷贝瓶颈，另外就是CPU解码太吃资源。
HPC领域AMD的专业卡倒是卖得还不错，很多超算都是集采的EPYC+Instinct方案。可惜ROCm在AI上还是差了Nvidia不少。
另外提一嘴，AMD最艰难的时候把Instinct割成游戏卡卖了，那张卡是Instinct MI50阉割Radeon VII。
H100竟然允許賣給中共國， 看來美國的晶片封鎖不怎麼嚴嘛。
這東西拆下來就可以做成導彈的紅外線景像、可見光景像分析晶片。
美國政府真不怎麼聰明。
radeon7算力赶上3080，游戏性能却很差，狂潮的时候涨价厉害
那張卡很漂亮，礦潮前買了一張，結果礦潮時賣出價格更高
H100不是不准出口到中国吗？您小哥是怎么搞到的？😂
禁令有1年寬限期，到2023年9月1日，可以透過香港NVIDIA進口
都說是不記名，如果過了寛限期，不知道美國會否管很更嚴，平台被炎上封
人家有跟官方的渠道
支持禁止，防止希特勒扰乱世界
加錢走私人渠道,畢竟這種禁止也就禁禁明面上
4張的 H100 我在今年的 Computex 展
看到實物 真的尊爵不凡
然後無法大量使用! 還是垃圾??
I wish you guys would make version of this episode in English, the H100 is such an interesting GPU!
作为ITAD从业人员，表示装机方案的确是挺野鸡的🤣下次缺服务器可以找我啊，我也在上海
我前公司就給我團隊就配了 8 H100 張，但就只有我 1 人在用，用起來真的香
可惜他們捨得花錢在高級設備上，但不捨得花錢在員工薪水上，也沒有甚麼商業策略與前景，所以後來就跳了
員工會跳槽,設備不會跳槽....
@@andrewyuan设备跟着员工跳槽，那就爽了😂😂😂
请问您是那个公司的啊？
老哥用这卡干嘛的啊 什么类型公司啊
@@xhm8180 人 都變成眼裡只有利益！沒有情感的喪屍了！種種失控 只會越來越多！ 同學 同事 同共事 不是朋友！要變成朋友非常困難 同學 同事 情侶 夫妻 因互相的好處利益才在一起的 互相虛偽 要不是為了錢 大家都在瘋狂滑著自己的手機 鳥都不鳥 為了錢 才在一起的 關係 怎麼來的 就 怎麼去 若上班下班假日生活圈都是同事 就表示自身沒有素質條件交真心真誠相待的朋友。任何事若都以好處利益金錢為優先目的 人早晚走火入魔 變成 冷漠無情 行屍走肉 街上滿街都是這種人 喪屍圍城 上演屍速城市 生活圈都是同事的 自己本身 就是利益喪屍！
當一個人 對別人有利益 別人是善良的！
當一個人 對別人沒有利益 別人是惡劣的！
家裡沒錢 沒環境 還沒經過小孩的同意 就自私自利生小孩 貧窮世襲 喪屍生喪屍 每個人都是自己組的家庭最重要 不擇手段養活小孩 自己的小孩要先活 小孩長大又有了自己組的家庭 把原生家庭父母丟著 自生自滅 就成了現在的（滿街🧟🧟♂️喪屍！）
時間就是金錢，4天的運算量變成3天很值
更不用說並聯能正常發揮的話就更值了
堆料好用，除此之外我真的找不到使用這東西的理由。
畢竟會採用的只有少數中的少數～更多的時候像主持人說的拿顯卡頂著用一下【除非一直要跑專門的計算才會採購】。
以硬件来说H100的性能绝不只是几倍于4090，只是极客湾的能力到极限了，实在不知道怎么用这张卡，黔驴技穷
这算是定制设备了，估计只有在NV为某平台专业定制的服务器集群中才能充分发挥作用
Ansys之類的工程運算軟體從來就不支援遊戲卡,必須要繪圖卡才支援,然後最新版本的ansys也還沒開始支援H100,看模組不同,目前最多只支援到上一代的A100,以上資訊給大家參考
我们模拟cfd有用ansys，gpu我一直用不了，memory allocation一直出问题，请问是否只能用cpu计算？
实验室前些年买过几张p100，做一些深度学习之类的倒是挺好用的
竖着立在桌子边缘就不怕碰下去把突起部分弄坏吗？
抱歉，如果这是一个糟糕的翻译（谷歌），但我希望您能在 x-formers 与 H100 兼容时制作另一个视频
120元RMB买了P104矿卡，玩玩AI绘图，还是可以，这价格说明计算卡二手反而不值钱，类似于老至强CPU，老Q系专业卡，二手市场价格基本都比游戏卡低得多。。
這東西很好查是誰賣的
被制裁了還這麼高調
看來有公司要倒楣了
在華美資企業不行？Amazon, Google, etc
@@familyden4640不行！不能沒申請出口美國境外
你講到重點了⋯⋯這家公司會跟華為一樣被制裁，失去所有歐美市場進出口跟合作，以後中國國內公司賣東西給他們都會想一想風險再談，走私出口的是聯邦重罪，幾萬塊的利潤換來天價賠償跟罰款風險，加上住進聯邦俱樂部公寓機率，極客灣下次進入美國看蘋果發佈會之類的也可能被扣留，至少要求供出卡是誰借的如果美國無法找出這家公司證據，然後極客灣就裏外不是人了，其實花一點機票錢到台灣、日本或美國拍攝就能跳過這個風險不然也不要說在大陸拍的，很多時候不知道法律連承擔風險巨大都不知道
说不定是美企
提供方敢提供，还需要你担心？
英伟达已经发布的GH200才是最强AI计算卡。H10030万不是因为制裁原因是供需关系决定的，美国电商也要卖4万刀。而工业领域大批量的AI硬件算力，英伟达给中国定制了低频版的H100避开制裁，低频版阉割很大。AI算力才是王道，算力差距奠定了未来差距。
应该是存货视频吧
AMD已经发布的MI300才是最强AI计算卡🤭,別忘了AMD同時掌握了高性能CPU與GPU技術,nVida只掌握GPU
@@AlertImDK AMD腦粉又來了, 不支持cuda的AI計算卡是來搞笑的? MI300發表當日, AMD股價跌慘了, NV股價反而漲了, 因為AMD根本提不出MI300能賣給誰, 強有什麼用?
@@AlertImDK 你跑题了。别管英伟达还是AMD都是一个国家的公司。
@@kevinlantw nVidia腦粉又來了, 不支持HIP的AI計算卡是來搞笑的?(CUDA很容易轉換成HIP) MI300發表之後至今, AMD股價暴漲了(半年內累積漲幅90%), 因為nVidia推不出能對抗於AMD MI300, GH200能賣給誰, 強有什麼用?AMD MI300功耗驚人的低,因為他是直接整合了當今世界上最強CPU與GPU,搞笑的是H100只能搭配爆貴性能差的Intel CPU,整體性能大大被Intel拖累,而nVidia自家研發中搞笑CPU問題只會更多,而MI300是即將開賣的產品,GH200還只是ppt階段
MI300X提供的HBM(高頻寬記憶體)密度是NvidiaH100的2.4倍，HBM頻寬則是1.6倍。這意味著AMD可以運行比NvidiaH100更大的模型，生成式AI模型可能不再需要數目那麼龐大的GPU，可為用戶節省成本。
制裁只能从总量控制，没办法面面俱堵 ，主要目的达到就行了
其實老黃在制裁前 把原先要給其他國家的通路盡可能的一股腦送進大陸
H100通用驅動只有提供基礎資源調動，需要搭配訓練模型編寫驅動才能真正解放在LLM上的算力
可惜圖形性能閹太狠了，否則可以搞出一些大騷活
其实没多大必要, 一般买这种卡装好机之后连显示器都不装的. 直接作为服务器跑项目.
@@sanwu9087 我知道，但是我們都喜歡看折騰嘛
能不能測試H100跑 HQPLAYER 44.1音樂升頻DSD1024+SIN-L濾波 對音樂的音質提升能否順暢 目前4090 24GB 因為內存不夠 播10幾秒就會停頓
估計是PCIE效能不足吧，
聽說，這種算卡，必須要用到AMD EPYC主版，
（I9、R9都不夠看）
加上至少128G的主記憶體。
好像是最頂的EPYC正好可以推到4個H100。
不過，這種主版自然也是天價。😅😅😅
能不上雙路cpu加 8t ddr5 dram
現在torch 2.0不用xformers了吧，不是直接用sdp嗎
拿它跟遊戲專用顯卡比
完全沒可比性
畢竟兩者專攻的領域項目不同
功能上
A有的 B就沒有
B有的 A就沒有
重點是晶片再強大
還是需要驅動和軟體的支援
這樣才能發揮它最大的效能
不然一切都是空談
Kohya用户狂喜
Mac Pro M2 Ultra 192GB 可以跑比较大的本地AI模型，性价比算是挺好的。
踩地雷總算可以特效全開了XD
爆炸的瞬間 電腦也炸了，特效太好了🤔🤔
家裡直接跳電
物理特效。
踩到地雷直接觸發 12VHPWR 爆炸
配合 7950X3D 食用風味更佳
#雖然是遊戲但可不是鬧著玩的
这样看，mac的大内存在本地跑一些大模型，还是很有优势的，性价比超高,老黄要提高N卡的显存了
以硬件来说H100的性能绝不只是几倍于4090，只是极客湾的能力到极限了，实在不知道怎么用这张卡，黔驴技穷
省流：测了跟没测一样
伱3D 打打印的罩不應該用膠布封著
這樣會導致 風反彈 造成阻力 風扇會被反彈的阻力減速
幸好雲飛不是Linus，否則的話這個可能是製作成本最大的片
Linus Drop Tips
Linus Drop Tits
牛PP啊极客湾~可以鸭~
用超爛的畫質看超強的顯卡評測🤣🤣
還好沒有圖形處理，如果遊戲開發商拿H100來運行，不知道玩家這邊會發生甚麼事，我可能直接戒了
厉害了我的胖，可以狂训练各种模型了
如果换成 MAC STUIDO呢？是不是需要很低的价格就可以
FBI好綫索 😎礦廠好裝備
可否分享你們用甚麼樣的硬件組合來搭配H100?
为什么制裁下还能有国内公司要到这张卡，甚至还能空出来给极客湾“玩”？
中國大陸向其他沒被制裁的國家購入，美國制裁並沒有真正意義上關上所有門，反而一直都打開後門讓中國大陸通過
因為這個世界很多門可以開
多个卡并行训练效率低的问题，可能是由于PCIe总线的拓扑结构不合理造成的。
所以需要 NVLinks
如果H100出生的日期能早些，或許還能測個挖礦，也挺趣味的...
現在仍有 ETHW 讓你試
(能不能賺錢是另一回事)
要看H100有沒有設計那種挖礦使用的演算法，如果沒有 還要透過轉譯 那效率鐵定不好看。
不是說為了不被拿去挖礦 所以現在顯卡的有故意弱化挖礦類的演算法性能。
為什麼11:46那邊"GEFORCE RTX"的字會消失
特殊用途，打游戏不一定比4090好，SD玩图应该很爽❤
这种卡拿到手就应该让它显存吃满不停炼丹，这样才对得起它那价格
H100 是针对 FP64 的好不好？ 让你当显卡来测试？ 你应该试试L40s哥们
感謝播主的詳細測試🛠原來我是不需要這H100😅😅
那是你的問題!!哈哈阿!!
老黄一直强调，买的越多越划算，所以小札1.6万张训练Llama3.1 405B，马斯克建十万张的大计算集群搞没有左派话语的Grok3，不愁销路啊
30B 4090還是跑得動的 要用4bit GPTQ壓縮 把兩張4090串起來也跑得動65B 但在這之上就沒辦法光用消費級顯卡跑了 因為消費級的只能串2張卡
這樣跑出來的30b不會是弱智嗎😊
@@yidweahzaimen 不會 性能會減損但不嚴重
@@阿霖-e1h 輸出速度會不會很慢
@@yidweahzaimen 其实你可以这么想 , 跑出来的模型, H100可以支持十几个同时用, 4090只支持几个人用, 那性价比就出来了
@@yidweahzaimen 4090跑30B 大概是每秒30t
如果是计算卡，挖矿性能应该很屌吧？？？最近diablo4把我的3080ti砖了，美国很多3080和3080ti都砖了，国内有这种情况吗？大部分人都是从贩子手里买的卡所以没保修挺惨的。
沒搭橋還是4090划算，超有趣的，不過你們這是頂風作案啊。
为啥开头左手没有手滑呢？显卡放左边为啥会那么稳呢？
还得是极客湾啊😂
马斯克刚刚开源的要8张h100才能跑动吗？
一開只有360P還以為發生啥事，重新整理4K畫質就回來了顯卡也提升了好幾倍的效能
什么时候能评测上的dgx gh200
原來H100這麼貴，難怪NV和TSM最近股價漲翻天
特別渠道特別收費，美國人看完片又會找老黃詳談，反正這貨沒幾多人用，老黃肯定知道是誰買了
Tsm賺不到錢 毛利70%都在英偉達
英偉達是按市價賣，多出來的中間商賺走了
不特殊渠道也贵啊@@nobodyno489
HBM是哪家的？三星、SK還是鎂光的？
這已經不是硬核節目了，對我這文組來說是玄學
文組你不是最會的嗎？只要記得規格照本宣科就好了啊！把這產品當作行銷的文案報告撰寫理解就好了啊！
你不需要搞懂原理，即刻灣雖然懂些原理但還不是某些行業的專業，很多時候都是文案的宣傳，打一打照本宣科！
@@Wind_of_Night如果照你這麼說那一堆公司都得倒了，行銷這麼簡單那根本不需要文組。來自理組的見解
@@zadkrtgx7765 行銷本身的文案是文組的專業，而理工組的專業在於製造產品，所以專業不同領域不同。【沒有誰高誰低的問題，企業營運本來就是要靠不同專業之間的互相搭配】
且行銷這領域通常不是理工組會跨足的，畢竟沒有多少人真正會懂核心的技術【宣傳說都是專業術語，誰會真正了解呢？】為了推廣產品，更多的使用的是話術。
理組的只能告訴行銷組該如何的推銷，產品可以宣傳的重點在哪邊。可以那些宣傳是可以被檢驗的！
最近華為昇騰910C號稱超越H100了 可以請極客灣專業評測嗎？
H100在禁售名单上，但是宽限了一年，某神秘公司大量采购，甚至还多出4张给别人玩。我看拜登下一届应该是说啥也选不上了
应该是这个公司采购的安全冗余，避免拿到残次品，给关系户拿来测试一下
什么禁售是买不到的，有香港这个中转几乎都可以买，企业是逐利的。
@@mikimi5713香港不也是中國一部分。
@@mikimi5713 明面上不可能让你几千张几千张的批发, 但是少量的 , 并且不是一个企业买, 还是可以的 .
@@mikimi5713 香港好像也在名單中 所以不是香港... 應該是新加坡...最好的路線 新加坡進貨 賣到馬來西亞公司 這樣一洗就可以 以馬來西亞空殼公司電腦零組件方式 再進入中國了 就算備查斷點也在馬來西亞 所以價格才翻3-4倍......
0:49 他是怎麼敢把卡豎放在桌上然後邊揮手邊解說的
期待极客湾 “Apple M2 Ultra (24 核中央处理器、76 核图形处理器和 32 核神经网络引擎)
192GB 统一内存” 的评测
為啥nvidia-smi顯示的顯卡都是4090?不是測試H100嗎？？
有种把大司马丢冷宫刷茅房的感觉😂😂😂
怎么用游戏卡加速FLUENT计算？
这算是递刀子了吧 XD
做的够好啦!
這種卡本來就不是用來顯示的，也不是純GPU
比較像是CPU+GPU+高容量RAM的綜合體
介紹的內容好像不是很正確
所以NVIDIA才會宣布它是AI計算用
版大有些搞偏的感覺
以硬件来说H100的性能绝不只是几倍于4090，只是极客湾的能力到极限了，实在不知道怎么用这张卡，黔驴技穷
跑计算的时候功耗能跑满嘛
看了售价了，小黄鱼现在现货20多万一张。价格好像没有那么离谱😂
缺货得很，各个科技企业更怕错过了风口，拼命囤货，原来18万，现在炒到三十多万
RMB！？
@@千人律者 对，老黄是懂饥饿营销的
@@千人律者对
這個不是已經禁運？ 他那個法令是怎麼搞的。還是這邊不是中國？或者是外商就可以購買？又或者是走私？
還是壓根就取消了禁運令？
不愧是极客灣
不愿意透露的公司叫字节跳动，哈哈
不是禁止賣到中國了嗎，神奇的國度，只有你想不到，沒有買不到。
俄罗斯都能搞到芯片，没道理中国搞不到
有利益的东西，暗地里都可以搞。
有錢都不是問題 只要利益夠大 就會有人願意承擔風險
与其说神奇的国度，不如说左派的制裁有啥用😊😊，这东西能干嘛😂😂😂
一些美国企业都看不过美国制裁，影响美企赚钱。
我很想知道a100，h100显卡上的nvlink槽的保护帽怎么拆，老黄是用铝合金做的而且非常紧。目前有几千张a100要装nvlink桥，用螺丝刀撬坏了好几张了😅
用指甲摳
看完之後4090原來是性價比之王了XD
以40系全部的卡來說，確實是CP最高的，買70 80 不如直上90……
也是遊戲卡性價比之王
因為這張卡比4090早出很久
玩游戏4090的性价比不行 但跑机器学习真的是性价比之王
這測試真的狠🤣😱👍
謝謝極客灣 帶我看看今年最賺錢的科技推動者
spacex：？
极客湾大神们好，请问如何能联系到你们，很想请教关于HX170如何破解作为AI运算卡的问题。请问是否可以联系我？
钞能力爆表…
我記得4090剛發售的時候，好像說要用Quadro卡協力4090搞什麼項目？
5個8K螢幕？
你們真當美國吃素的 那家公司完蛋了
新聞有報寬限期到今年九月一日，可透過香港購買，兩種晶片的產品都可以買。
哇哦
9:09 「計算卡」的發音用2倍數放，乍聽之下是智障卡。
说是不准卖，其实私下卖，😂
h100 直接連接是有瓶頸的 , 聽說是要用語言把連接瓶頸修改掉 .
不是制裁了嗎? 居然還買到了.
有延長寬限期
大陆要买h100多少钱啊？哪里能搞到
跑CFD 的話可以試試超大型專案，把RAM 都吃滿的那種說不定差距就出來了
H100 GPU 主要用於為AI、HPC 和資料分析執行資料中心和邊緣運算工作負載，但是不包括圖形處理。 玩遊戲沒很大效能阿 可惜了
其实是数据编程方面特别强 . 尤其是集群下经常用到数据交换的大型项目 ,
防止手下偷偷用gpu玩游戏。故意的。
@@jackzeng3788😕
在amazon上随时可以买，查了一下，H100 显卡 80G 有卖44000的，也有卖34000的，二手卡卖30000万。
看看税后多少钱
苹果m2 ultra 192G统一内存反而成了性价比之王，而且苹果对transformer有硬件优化
等M3 ULTRA吧
别着急吹，等等看再说吧。
192统一内存， 就是说显存+内存还没我开发机的内存大，也没我显存大。我机器上面6块上一代的A100，显存一共480G。专业软件本来都是专业人员直接编写的，为对应的业务极致优化，就192G这么点可怜到要饭的内存+显存，能跑的起来现在的AIGC训练那真是颠覆ML领域了
目前看来是能跑里面最便宜的方案了，哈哈😄
@@wettingfairy6764 歪日，你这成本不菲啊
192G是什麼垃圾
羡慕死了，我们实验室连四张A100都没有
挖靠居然測這個
未看先給讚