作者 MiniArse (型男)
標題 Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售
時間 Sun Mar  3 01:59:50 2024


其實大家說老黃 CUDA 的護城河之深,不是沒理由的。
RTX 系列本身就內建 Tensor core,可以針對machine learning
做加速運算,例如 G 家的 Tensorflow 和 Meta 的Pytorch
都可以利用到 CUDA-X 函式庫加速在訓練和推理的運算

有人說 Tensorflow 利用 TPU 可以繞過 CUDA,不過目前最新
G家的 TPU v4 還在拿老黃2020 年發表的A100 在比,贏了好像也
沒啥了不起的。大家一直以來好奇的是 TPU 跟目前最夯的H100比
的話有啥優勢,我看是很難。然後 B100 在三個禮拜後的GTC 就要
跟大家見面惹。


這樣說吧,RTX 你買了之後,可以玩 Tensorflow ,哪天想玩Pytorch,
一樣可以給你加速。阿G家自研 TPU 咧? 可以用在 Pytorch 框架嗎?

就好像大家都知道挖比特幣用礦機效率比較高,不過礦機只能挖比特幣,
你想挖ETH,就要買 ETH 礦機,哪天這些幣都崩了,你的礦機也等於廢了

如果把老黃的客戶佔比拿出來看 (這應該是自行估算) :


https://upload.cc/i1/2024/03/03/j2m8Iz.jpg
[圖]

M$  : 15%
臉書: 13%
亞麻: 6%
G   : 6%

四大差不多佔老黃四成營收,其中買最少的就是G,受惠AI題材最少的剛好
也是G,幫GG QQ
我看多跟老黃買一些H100說不定還可扳回一城。

然後阿婆已經決定放棄造車惹,會把這些人轉去AI,是說這陣子講到AI,
最沒話語權的就是A家 XD  A家會不會痛定思痛,對NV狂下訂單,這個值得觀察,
畢竟A有的是$$$ XDDD

好惹,NV 今年財會年度整年EPS至少都估23 甚至26、27,目標價大概在800~1200
如果我是老黃,財報會做穩一點,一季就增個2~3B,慢慢拉上去,這樣不香嗎?

困霸數錢的生活很無聊der,沒事2倍或3倍槓桿幹進去,不小心一月這波也賺好幾百
了,財富的盡頭會在哪,就看老黃惹XDD

To 惹 Moon~~~困霸數錢,薯條++++ DA~~


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 175.182.109.129 (臺灣)
※ 作者: MiniArse 2024-03-03 01:59:50
※ 文章代碼(AID): #1busaORl (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1709402392.A.6EF.html
※ 同主題文章:
Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售
03-03 01:59 MiniArse
※ 編輯: MiniArse (175.182.109.129 臺灣), 03/03/2024 02:00:30
xm3u4vmp6: 賺太多抱不住怎辦 好想砍掉買陶朱隱園1F 03/03 02:13
brovet: 頂不住了 換買點nvdl2F 03/03 02:19
stlinman: A家自己的M系列晶片就能跑AI,沒有想像中的落後吧!3F 03/03 02:28
flyawayla: M系列跑ai model? 小型幾百Mb inference 還可以,再往上就不行了。現在大型model 的training 跟inference 都是在cloud ,沒有任何一個是在edge完成,果家gpu還很爛一定要跟nvda買5F 03/03 02:36
ariadne: 開頭就倒因為果了吧 當初就是cuda快所以被ml領域拿去應用發展 不是rtx內建 那本來就是人家的基礎9F 03/03 03:27
chang1248w: tpu去年第三季就有v5 了11F 03/03 04:32
Chilloutt: 果家要不要改支援Nv 顯卡12F 03/03 06:29
Centauro: 買NVD3了13F 03/03 06:35
by19: 明白人14F 03/03 08:38
pacino: GTC前還有上車的機會。票之後會漲價15F 03/03 09:12
leoloveivy: g家寫的出tensorflow底層要改opencl valkan 找幾個把ir 寫一寫就好 然後你查一下xla 可以用pytorch
還有tpu/gpu 比算力也不太像這樣比 還要比耗電冷卻 整體花費用gpu 建的搞不好都可以讓tpu 多塞好幾千16F 03/03 09:58

剛看去年底發表的  TPU v5 確實可以支援Pytorch,TPU v4 我就不知道惹
後來大家猛然發現 G 家的TPU 其實是找 Broadcom 合作 networking 的IP才搞出來的
大家以為 G 家繳給老黃的保護費比較少,其實該繳的還是要繳,只是繳給 Hock Tan XD
去年 B 家的 ASIC 營收大幅成長,就是G貢獻der

難怪老黃開始打 ASIC生意的主意,Meta 雖然買很多,但祖克伯沒放棄ASIC
還有阿婆以及其他排隊等著做生成式AI 的公司,B 家光靠 ASIC 一年也有幾十億鎂的收入

老實說單就 ASIC 跟 GPU 比,ASIC 效率比較好是應該的,不然幹嘛做 ASIC?
不過老黃提供的是整套系統和 full software stack,當中除了GPU性能,還有
networking、散熱、可靠度等等,不是只賣 GPU 而已。


xiemark: cudnn21F 03/03 10:15
TsmcEE: soxl 這兩個月直接一倍給你看22F 03/03 10:16
Lipraxde: 等著看阿婆急著追 AI!再回頭翻翻一些人對阿婆的 AI 護航文,感覺會很有趣!23F 03/03 10:27
chenemily: 買陶朱隱園 沒有鄰居 確定要買嗎25F 03/03 10:39
eddy13: 好奇陶朱隱園的管理費一個月要多少呀?26F 03/03 10:58
y800122155: 直接包棟更爽R27F 03/03 10:59
Informatik: 跑ai大家都跑的動呀 要跑多久的問題而已28F 03/03 11:14
ppuuppu: ID正確 推推29F 03/03 11:22
puffycat: NV大客戶少算一家!
水果還在問問而已!30F 03/03 11:40
leoying: 水果要是真的跟NV買的話,會讓股價破千32F 03/03 12:28
Jeff1989: 感謝老黃,我的SMCI翻好幾倍了QAQ33F 03/03 13:33
RuRu5566: 輝達利多太多,那天蘋果也要下單建制資料處理中心,輝達又要爆噴~34F 03/03 16:54
richaad: M晶片拿來跑LLM喔?是要跑到老馬上火星嗎,阿婆的M晶片跟H100比已經不是懶覺比雞腿了欸36F 03/03 20:15
s987692: 以阿婆人力,用amd gpu+rocm 不是不可能吧38F 03/03 22:08
※ 編輯: MiniArse (175.182.109.129 臺灣), 03/03/2024 22:25:28
MVPkobe: 我敢肯定不是這週回檔,大概也是下週了39F 03/04 07:26

--
作者 MiniArse 的最新發文:
點此顯示更多發文記錄