Why Nostr? What is Njump?
2024-06-08 03:44:02

Nyoro~n on Nostr: Felt the same way, I was so inspired I even sat down and wrote for a few hours ...

Felt the same way, I was so inspired I even sat down and wrote for a few hours
just drove 21 hours and listened to your interviews with and absolutely inspiring stuff. thank you

Nvidia 想讓世界相信AI 計算的需求是無限的。但實際上,AI 計算並沒有什麼特別之處。 AI真的很棒,發展的方向很多,但哪個方向值得開發呢?從基本原則來看,AI 計算的業務模式與比特幣挖礦並無太大差異,它們活在同個市場。"能源" 是這雙方共享的交叉點。

這兩者的商業模式都是購買大量的電力,然後以利潤出售計算能力。最終,競爭是用電的效率

比特幣礦工相比於 AI 計算有一個明顯的優勢,那就是 AI 計算隨著模型的不斷進化,複雜性一直提升,相對於的比特幣複雜性就是固定的。隨著AI成長,晶片的設計跟著增加功能,打出來的晶片只會越難做。良率就是這樣,TSMC再怎麼努力又不是魔法師。比特幣的晶片的複雜性可以說已經到終點了,已經選好晶片上的空間是怎麼理想的用(sha256-only)。

這複雜性也可以用其他的角度形容不只是晶片: 比特幣礦工只需關注冷卻 ASIC 和電源輸送元件,而 AI 計算需要GPU、記憶體、存儲磁盤/SSD、網路等各種組件,這些組件光在體積上的不同,也全面運行時有著不同的散熱需求。相對於,比特幣 ASIC 的熱管理相對簡單,保持所有設備的正常運行相對於容易。在購買大量電力並出售計算能力的業務中,變數越少越好。 這禮拜跑去看了Supermicro 的 Nvidia B200機台,被熱心介紹說那麼大台的機器可以吃掉8000W。 有那麼厲害嗎?8000w才兩台跟微波爐差不多大的S21而已呢。

誰該用電,是否AI計算的價值可超越比特幣?錢的價值也是一個計算。這算哲學了,分開討論吧。

比特幣礦工在地點選擇上也具有很大的靈活性,也可以隨時開關機,因為工作負載是均一的,這使得比特幣礦工的運營非常靈活。相對於 AI 工作負載是變動的,無法隨需關閉,靈活性較差。for example, 之前分享過了非洲小鎮用瀑布的水力挖礦的故事,Supermicro那台兩百多萬的AI伺服器機架放哪,你覺得那邊網路跟得上用的到嗎? 那邊的AI需求會是什麼?何必計算送去哪兒?

老實說,我對 Nvidia 的東西有點看不懂,看到每一家台灣 ODM 在 Computex 上都對 AI 計算百分之百投資,大家雞蛋放一個籃子裡,警覺心呢?媒體也對於黃仁勳的表現出極大的熱情有點誇張,這讓我個人感到有些擔憂。他不只過是一家公司的CEO怎麼崇拜成這樣?
Author Public Key
npub1zwyrus8vrvv5pfj4lfmk44wnxajk56rk0959nqugzj9ewljk258sxpqlfd