看板PC_Shopping
作者hugh509 ((0_ 0))
標題[閒聊] M2Ultra在AI比intel+nVIDIA有架構優勢?
時間2023-07-01 17:17:31
先說我不懂AI運算 只是看了林亦的新影片 https://youtu.be/UsfmqTb2NVY
不想點的，說個大概 意思是 由於M2 Ultra的記憶體是CPU與GPU共用 而且GPU調取記憶體沒啥限制(? 等於有著超大容量和高速頻寬的顯存 對比的是i9 12900+3080TI 中間跑什麼運算什麼訓練，我是不懂 但他的結論、標題 都表明Mac PRO具有極高性價比(他是說最高 可是這套方案要30萬欸 他更是呼籲老黃要出大容量的顯卡 如果蘋果是真的有這麼大優勢 會影響未來PC遊戲卡迭代速度嗎? -- 「我看不到」 「欸 我真的看不到」 「 」 「我還是什麼都看不到啊...」 「我看不到我看不到我看不到!」 -- ※ 發信站: 批踢踢實業坊(ptt-website.tw), 來自: 111.253.194.31 (臺灣) ※ 文章網址: https://ptt-website.tw/PC_Shopping/M.1688203055.A.F59
→ kivan00: 沒生態你要用什麼跑？手刻API嗎 223.138.207.31 07/01 17:19
→ kalarotia: 又在吹蘋果,不累嗎 42.75.153.202 07/01 17:22
→ hugh509: 林亦當然是吹，我關心的是PC卡會不會影響 111.253.194.31 07/01 17:23
推 SunFox58: 不影響 end111.249.161.157 07/01 17:27
推 ducamao: 你如果連他吹的用途都看不懂的話，那換句 1.172.237.112 07/01 17:35
推 Toth: 包養網增廣見聞。 1.172.237.112 07/01 17:35
→ ducamao: 話說。兩個沒交集的領域要怎麼影響 1.172.237.112 07/01 17:35
推 raider01: 問題兩邊GPU性能差多少，花同樣的錢可以 42.72.191.32 07/01 17:37
→ raider01: 買到等級不低的運算卡了吧 42.72.191.32 07/01 17:37
→ raider01: 3080Ti一張也才多少怎麼會拿來比？ 42.72.191.32 07/01 17:38
→ scarbywind: 只比硬體你拿AMD不是更便宜 223.141.96.189 07/01 17:39
推 Asterix: 包養開心分享生活。 223.141.96.189 07/01 17:39
推 E6300: 3080ti回血阿 61.227.209.144 07/01 17:41
→ as134679258: 互不影響 遊戲卡要的是運算 AI要的 125.228.131.13 07/01 17:46
→ as134679258: 是大容量跟傳輸帶寬 前面展示的大容 125.228.131.13 07/01 17:46
→ as134679258: 量帶來得訓練優勢 後面展示大語言模 125.228.131.13 07/01 17:46
→ as134679258: 型在local執行的能力 125.228.131.13 07/01 17:46
推 AdamShi: 包養平台包養小心。 125.228.131.13 07/01 17:46
→ as134679258: 說可以抵8張主要是拿顯存放模型 125.228.131.13 07/01 17:47
→ as134679258: 跟需不需要那些算力沒直接關係 125.228.131.13 07/01 17:47
→ fishworm: 你花30萬都已經能買到a100了，好歹也拿 114.36.185.115 07/01 17:48
→ fishworm: 價格近似的東西來比吧 114.36.185.115 07/01 17:48
推 s78513221: 老黃的大顯存是資料中心的專業卡 114.136.113.95 07/01 17:50
推 lezabo: 包養分析觀察態度。 114.136.113.95 07/01 17:50
→ s78513221: 民用想要的是大顯存的遊戲卡兼學習 114.136.113.95 07/01 17:50
推 aegis43210: 老黃又不是傻子，為什麼要出大容量的 123.204.13.213 07/01 17:52
→ aegis43210: 顯示卡，蘋果這個能算的模型又不多 123.204.13.213 07/01 17:52
推 s78513221: 但目前的務實之選是…接人家現成的 114.136.113.95 07/01 17:53
→ aegis43210: 能玩的遊戲也少，看不出有什麼競爭力 123.204.13.213 07/01 17:54
推 silberger: 包養真心尊重彼此。 123.204.13.213 07/01 17:54
→ hugh509: 所以大容量並不是遊戲卡和計算卡共同方向 111.253.194.31 07/01 17:54
→ hugh509: 還以為計算卡被打擊，遊戲卡也會間接受益 111.253.194.31 07/01 17:55
→ hugh509: 因為看到這代頻寬開砍有點傻眼 111.253.194.31 07/01 17:56
→ hugh509: 價格漲上那麼多規格還有倒退嚕的喔 111.253.194.31 07/01 17:57
推 Arbin: SoC在記憶體頻寬上絕對有優勢 111.71.218.44 07/01 18:00
推 xayile: 包養網找到異性知己。 111.71.218.44 07/01 18:00
→ Arbin: 但Core ML的生態系太疲軟了 111.71.218.44 07/01 18:00
推 tony1768: 先要有人要支援 223.139.17.165 07/01 18:01
推 aegis43210: 繪圖卡的強項是渲染和成像，這塊才是 123.204.13.213 07/01 18:02
→ aegis43210: 老黃最大的護城河 123.204.13.213 07/01 18:02
→ spfy: 30萬比12900+3080ti？203.121.243.239 07/01 18:12
推 cazo: 包養輕鬆聊未來。203.121.243.239 07/01 18:12
→ fishworm: 不過蘋果M2的確是workstation上cp好 114.36.185.115 07/01 18:14
→ fishworm: 如果有軟體支援，M2目前的確是性價比最 114.36.185.115 07/01 18:14
→ Alwen: 不過沒人會拿顯卡跑訓練吧= = 118.232.100.36 07/01 18:17
→ commandoEX: 一張3080不夠強你能上兩張啊118.171.101.225 07/01 18:19
噓 kira925: 老黃跟蘇媽：歐 42.72.32.24 07/01 18:19
推 izilo: 包養平台有真實案例。 42.72.32.24 07/01 18:19
→ commandoEX: M2Ultra就沒有擴充性了118.171.101.225 07/01 18:19
→ Alwen: 然後一般用戶也買不起也拿不到Grace hopper 118.232.100.36 07/01 18:20
→ fishworm: 如果你的模型夠輕量就可以用消費級跑 114.36.185.115 07/01 18:22
→ fishworm: 通常在於概念驗證，或是edge端上使用 114.36.185.115 07/01 18:22
→ fishworm: 蘋果這格會影響的是小型工作站原本會買 114.36.185.115 07/01 18:28
推 SEDAP: 包養分析了解需求。 114.36.185.115 07/01 18:28
→ fishworm: 1~2張消費級顯卡，現在改買M2 114.36.185.115 07/01 18:28
→ fishworm: 但要說動搖老黃AI霸權，或消費級PC 114.36.185.115 07/01 18:29
→ fishworm: 可以說幾乎沒有 114.36.185.115 07/01 18:29
→ Alwen: 其實真能幹翻老黃，新聞早就滿天飛惹= = 118.232.100.36 07/01 18:31
→ Alwen: 現在消費級PC端 老黃都快一統天下= = 118.232.100.36 07/01 18:32
推 TUZom: 包養不急於談感情。 118.232.100.36 07/01 18:32
→ Alwen: 影片測試AI繪圖...M2好慘.. 118.232.100.36 07/01 18:44
推 raider01: 可是拿a100打遊戲也不會弱到哪去，肯定 42.72.191.32 07/01 18:56
→ raider01: 比m2ultra好= = 42.72.191.32 07/01 18:56
→ raider01: 就上上面說的CP值真的那麼高那些搞資料 42.72.191.32 07/01 19:01
→ raider01: 中心的早就多買幾台插滿RAM就好了 42.72.191.32 07/01 19:01
推 Jiulon: 包養網結交志同道合。 42.72.191.32 07/01 19:01
→ raider01: 然後原本用N家的也幾乎不太可能轉，光是 42.72.191.32 07/01 19:03
→ raider01: 系統轉換就有問題了，運算程式還要重寫 42.72.191.32 07/01 19:03
→ iuytjhgf: 就特定用途而已啊 模型不夠大還沒優勢 111.252.228.72 07/01 19:03
推 qwe753951: mi300: hello 111.71.45.226 07/01 19:12
推 aegis43210: 工作站要拿RTX 6000 ada來比才能真的 123.204.13.213 07/01 19:12
推 laetuon: 包養開心認識新朋友。 123.204.13.213 07/01 19:12
→ aegis43210: 比較CP值 123.204.13.213 07/01 19:12
推 tututoto: https://i.imgur.com/12XEA01.jpg 122.118.14.68 07/01 19:28
推 comipa: 只能玩到沒有hopper的 哭哭~ 220.133.98.140 07/01 19:35
→ comipa: GraceHopper最大是480+96GB, NV:M2Ultra? 220.133.98.140 07/01 19:39
推 Rust: 有沒有可能NV轉身就推出MacPro的專用顯示卡 123.241.92.153 07/01 19:43
推 slot365: 包養平台遇到心動對象。 123.241.92.153 07/01 19:43
→ Alwen: 不可能 水果行封閉不是一兩天的事情 118.232.100.36 07/01 19:55
→ hugh509: MacPro不是不能插顯卡了 111.253.194.31 07/01 19:59
推 nextpage: 上個月他們開發步會出新桌機時就特別強 136.23.35.40 07/01 20:15
→ nextpage: 掉插槽不能用來插顯卡了,鐵了心要分道揚 136.23.35.40 07/01 20:16
→ nextpage: 彪 136.23.35.40 07/01 20:16
推 colortea: 包養分析挖掘共同點。 136.23.35.40 07/01 20:16
→ scarbywind: 蘋果現在最主要的問題是你一定會在工 223.141.96.189 07/01 20:23
→ scarbywind: 作流程中的某個環節斷鍊 223.141.96.189 07/01 20:23
→ scarbywind: x86頂多就是跑起來效能不太好 貧果是 223.141.96.189 07/01 20:24
→ scarbywind: 完全不能跑 223.141.96.189 07/01 20:24
推 aigame: 有cuda嗎沒有啊花30萬結果這也不能裝那也 111.82.162.195 07/01 20:28
推 glenber: 包養真心分享人生。 111.82.162.195 07/01 20:28
→ aigame: 不能玩,本地安裝還要找大神有沒有做就算 111.82.162.195 07/01 20:28
→ aigame: 有算圖速度也不行,組4090十二萬算很頂了 111.82.162.195 07/01 20:28
→ aigame: 上個廁所回來高解析運算跑了四十圖以上不 111.82.162.195 07/01 20:28
→ aigame: 用高解析洗個澡算個三百圖算基本款而已 111.82.162.195 07/01 20:28
推 aigame: 還有sd一堆插件能不能安裝都是問題就樓上 111.82.162.195 07/01 20:31
推 Kimbel: 包養網推薦好友聚會。 111.82.162.195 07/01 20:31
→ aigame: 說的一定會斷鍊為何我不用完全沒相容問題 111.82.162.195 07/01 20:31
→ aigame: 的4090? 111.82.162.195 07/01 20:31
推 alvistan: 蘋果說已經太強了 不需要插顯卡 125.229.106.95 07/01 20:33
噓 a27417332: 先噓他，影片越來越沒料 61.231.12.41 07/01 20:43
噓 NoneWolf: 價格都不用統一下？那乾脆拿1030比好了 1.200.48.70 07/01 20:48
推 tale1890: 包養輕鬆約出遊。 1.200.48.70 07/01 20:48
→ NoneWolf: 我也用Mac 但這完全就是無腦果粉zzzz 1.200.48.70 07/01 20:48
推 a28200266: 蛤 36.224.242.164 07/01 20:49
→ justicebb: 水果就是用封閉換取效率123.110.214.163 07/01 20:51
→ justicebb: 比較類似遊戲主機的優化概念123.110.214.163 07/01 20:52
→ a28200266: 這論點太迷幻了 36.224.242.164 07/01 20:54
推 waterway: 包養平台遇到緣分。 36.224.242.164 07/01 20:54
推 raider01: 而且想到另一個重點，如果用內顯都可以 42.75.199.171 07/01 21:21
→ raider01: 的話，又不太需要顯卡效能，那我隨便找 42.75.199.171 07/01 21:21
→ raider01: 一顆有內顯的CPU把RAM插好插滿不久好了? 42.75.199.171 07/01 21:22
→ raider01: 結論就是M2跑AI有CP根本假議題 42.75.199.171 07/01 21:22
推 EAFV: 果粉價值點滿+錢太多+不急著生出成果才會選 49.216.133.17 07/01 22:03
推 mark1888: 包養分析審慎選擇。 49.216.133.17 07/01 22:03
→ EAFV: 這個吧 49.216.133.17 07/01 22:03
噓 jacklin2002: 這傢伙跟鐘文澤就同一個路線的 114.24.221.204 07/01 22:04
推 Gauss: 他整部影片都在講Mac Studio 吧？哪來Pro111.250.209.193 07/01 22:47
→ Gauss: 177,999 台幣就能用上192g的vram很香吧？111.250.209.193 07/01 22:50
→ Gauss: 也不用core ML，PyTorch已經原生支援MPS了111.250.209.193 07/01 22:50
推 Quaranta: 包養不急於開始戀情。111.250.209.193 07/01 22:50
→ Gauss: 連我的老AMD顯示卡MacBook都能煉丹了111.250.209.193 07/01 22:50
→ Gauss: （只是用AMD效率很差）111.250.209.193 07/01 22:50
→ mark0912n: Mac Studio的滿血M2 Ultra大概是20.8萬 1.169.208.108 07/01 22:59
→ mark0912n: 這價格的大顯存替代方案很少吧 1.169.208.108 07/01 22:59
→ mark0912n: 不過影片標題也太浮誇了 1.169.208.108 07/01 22:59
推 schlemm: 包養網開拓國際友交。 1.169.208.108 07/01 22:59
推 PTTfaggot: 拿ps5來運算不是更屌？ 36.225.219.164 07/01 23:02
→ mark0912n: 上面說CPU把RAM插滿 VRAM和RAM不一樣吧 1.169.208.108 07/01 23:05
推 creepy: 幾個月前都可以透過pytorch跑SD了118.165.139.207 07/01 23:24
推 guanting886: 這個問題就在你到底是在做事還是像 42.77.248.121 07/01 23:25
→ guanting886: 個傻子在比規格。 42.77.248.121 07/01 23:25
推 Wirol: 包養開心交到知心友。 42.77.248.121 07/01 23:25
→ guanting886: 只要能用較低的成本完成某件事那真 42.77.248.121 07/01 23:26
→ guanting886: 的是不錯，至少多一點競爭大廠才不 42.77.248.121 07/01 23:26
→ guanting886: 會搞怪。 42.77.248.121 07/01 23:26
推 leaveleft: 其實個人消費級的電腦，拿來做特定的A 98.227.3.119 07/01 23:41
→ leaveleft: I運算，是蠻值得買M2U的，自己建立蘿 98.227.3.119 07/01 23:41
推 marecht: 包養平台了解對方喜好。 98.227.3.119 07/01 23:41
→ leaveleft: 莉模型，然後不受道德約束...扯遠了， 98.227.3.119 07/01 23:41
→ leaveleft: 但是一般中小型企業真的要搞自己的模 98.227.3.119 07/01 23:41
→ leaveleft: 型，思考方式就跟個人不同了，穩定、 98.227.3.119 07/01 23:41
→ leaveleft: 拓展性、兼容性，已經不會去計較省幾 98.227.3.119 07/01 23:41
→ leaveleft: 萬元了，我對mac沒有研究那麼深，不知 98.227.3.119 07/01 23:41
推 riokio: 包養分析細心觀察言行。 98.227.3.119 07/01 23:41
→ leaveleft: 道可不以8台Mac studio 串在一起運算 98.227.3.119 07/01 23:41
→ leaveleft: ，如果可以的話，中小型公司確實可以 98.227.3.119 07/01 23:41
→ leaveleft: 考慮串起來搞AI 98.227.3.119 07/01 23:41
推 Ereinion9895: 問就是生態，要是有生態就能贏，沒 27.247.226.61 07/01 23:42
→ Ereinion9895: 生態你硬體再強也無用武之地 27.247.226.61 07/01 23:42
推 wiimas: 包養真心對待朋友。 27.247.226.61 07/01 23:42
推 tr920: 民用ai機，現在m1m2的確是cp值最高的，不 58.114.47.190 07/01 23:51
→ tr920: 用懷疑，已經很多ai應用測試結果都是如此 58.114.47.190 07/01 23:51
推 jhangyu: 樓上一堆觀念錯誤還誇誇其談 59.127.175.174 07/01 23:56
→ jhangyu: 顯存和記憶體不會分？ 59.127.175.174 07/01 23:56
→ jhangyu: 顯示卡的記憶體頻寬多少 59.127.175.174 07/01 23:56
推 Branlli: 包養網尋找異性友伴。 59.127.175.174 07/01 23:56
→ jhangyu: 你一般記憶體頻寬多少？ 59.127.175.174 07/01 23:56
→ jhangyu: 現在珍貴的是顯存容量好嗎？ 59.127.175.174 07/01 23:56
→ jhangyu: M 系SoC做到的一點是同一記憶體同時具有 59.127.175.174 07/01 23:56
→ jhangyu: 顯存的能力 59.127.175.174 07/01 23:56
→ jhangyu: 連這個重點都沒抓到 59.127.175.174 07/01 23:56
推 Cinedt: 包養輕鬆認識有趣人。 59.127.175.174 07/01 23:56
→ jhangyu: 上面一堆還來亂講甚麼鬼東西 59.127.175.174 07/01 23:56
→ jhangyu: 還把1030插滿記憶體咧，供三小 59.127.175.174 07/01 23:56
→ jhangyu: 當然我不是果粉 59.127.175.174 07/01 23:56
→ jhangyu: M2的問題在於空有硬體沒有軟體 59.127.175.174 07/01 23:56
→ jhangyu: 光算圖速度就差別人一大截，那個GPU使用 59.127.175.174 07/01 23:56
推 Drither: 包養平台遇見情投意合。 59.127.175.174 07/01 23:56
→ jhangyu: 率根本沒跑滿 59.127.175.174 07/01 23:56
→ jhangyu: 這就要等看有沒有更多人願意投入生態開 59.127.175.174 07/01 23:56
→ jhangyu: 發了 59.127.175.174 07/01 23:56
→ jhangyu: 當然以蘋果的不封閉就會死的死樣子 59.127.175.174 07/01 23:56
→ jhangyu: 我看還很漫長拉 59.127.175.174 07/01 23:56
推 Notker: 包養分析揭開對方心思。 59.127.175.174 07/01 23:56
→ raider01: 有人不知道內顯是直接共用普通記憶體? 42.75.199.171 07/02 00:00
推 jhangyu: 然後上面有人說到重點 59.127.175.174 07/02 00:01
→ jhangyu: 現在生態基本上都是圍繞CUDA開發的 59.127.175.174 07/02 00:01
→ jhangyu: 你開發一個模型東缺一個library西缺一個 59.127.175.174 07/02 00:01
→ jhangyu: dependencies 59.127.175.174 07/02 00:01
推 Peycere: 包養不急於戀愛結婚。 59.127.175.174 07/02 00:01
→ jhangyu: 光解決這些問題就飽了，浪費一堆時間 59.127.175.174 07/02 00:01
→ jhangyu: 時間就是錢，一般公司還是直接買A100/H1 59.127.175.174 07/02 00:01
→ jhangyu: 00最快 59.127.175.174 07/02 00:01
推 as6633208: 講真的，nv AI強的也不是4090，而是A10114.137.216.121 07/02 00:02
→ as6633208: 0，在更上面超級伺服器等級的還有dgx g114.137.216.121 07/02 00:02
推 vd422: 包養網認識全球朋友。114.137.216.121 07/02 00:02
→ as6633208: h200，甚至nv軟體的優勢cuda，蘋果也沒114.137.216.121 07/02 00:02
→ as6633208: 有提出取代方案，我不覺得蘋果有那麼神114.137.216.121 07/02 00:02
→ as6633208: 可以光靠一個M2晶片就超越nv經營這麼久114.137.216.121 07/02 00:02
→ as6633208: 的AI領域114.137.216.121 07/02 00:02
→ jhangyu: 共用普通記憶體有屁用 59.127.175.174 07/02 00:02
推 lutano: 包養開心結交知音。 59.127.175.174 07/02 00:02
→ jhangyu: 你能把模型load進去嗎 59.127.175.174 07/02 00:02
推 mark0912n: 內顯共用普通記憶體 你能跑到800GB/S? 1.169.208.108 07/02 00:02
→ raider01: 上面有人說M2優點是記憶體可以開大 42.75.199.171 07/02 00:03
→ raider01: 那不就只是內顯跟一般記憶體共用了 42.75.199.171 07/02 00:03
→ raider01: 反正不是說顯卡運算效能不重要? 42.75.199.171 07/02 00:04
推 muiwo: 包養平台注意個人安全。 42.75.199.171 07/02 00:04
→ mark0912n: 那是建立在m2和顯卡有差不多帶寬好嗎 1.169.208.108 07/02 00:05
推 jhangyu: 人家記憶體直接做在SoC旁邊 59.127.175.174 07/02 00:05
→ jhangyu: 頻寬有800G/s 59.127.175.174 07/02 00:05
→ jhangyu: 你繞遠路經過主機板的普通記憶體頻寬有 59.127.175.174 07/02 00:05
→ jhangyu: 多少？ 59.127.175.174 07/02 00:05
推 sunuzo: 包養分析觀察約會態度。 59.127.175.174 07/02 00:05
→ jhangyu: 連人家1/10都不到，賣鬧 59.127.175.174 07/02 00:05
→ raider01: 直接用內顯算把東西丟到記憶體上就好 42.75.199.171 07/02 00:05
→ jhangyu: AI運算需要的是記憶體容量和頻寬兩者兼 59.127.175.174 07/02 00:06
→ jhangyu: 具 59.127.175.174 07/02 00:06
推 Gauss: 說內顯的那位保障沒用過任何AI框架111.250.209.193 07/02 00:06
推 UNIQC: 包養真心分享生活點滴。111.250.209.193 07/02 00:06
→ Gauss: 根本沒先了解卻能大放厥詞111.250.209.193 07/02 00:07
→ jhangyu: 鬼扯發言，幻想很美好 59.127.175.174 07/02 00:07
→ jhangyu: 叫他自己把自己說的鬼話實現一次看看 59.127.175.174 07/02 00:07
→ jhangyu: 我想看笑話 59.127.175.174 07/02 00:07
→ Gauss: 怎麼不把模型load進HDD的虛擬記憶體裡？111.250.209.193 07/02 00:07
推 dewaro: 包養網推薦同好交流。111.250.209.193 07/02 00:07
→ Gauss: 上百T的虛擬記憶體隨便用111.250.209.193 07/02 00:08
推 as6633208: https://reurl.cc/94D77v114.137.216.121 07/02 00:09
推 jhangyu: 他還有發言要用A100來打遊戲 59.127.175.174 07/02 00:14
→ jhangyu: 他連上禮拜極客灣的影片都沒看 59.127.175.174 07/02 00:14
→ jhangyu: 那個A100裡面全是AI單元，根本跑不動遊 59.127.175.174 07/02 00:14
推 Elfego: 包養輕鬆找到共同興趣。 59.127.175.174 07/02 00:14
→ jhangyu: 戲 59.127.175.174 07/02 00:14
→ jhangyu: 還打遊戲不會輸咧 59.127.175.174 07/02 00:14
→ jhangyu: A100打遊戲根本內顯都打不過 59.127.175.174 07/02 00:14
→ jhangyu: 因為它壓根就不是拿來打遊戲的 59.127.175.174 07/02 00:14
推 guanting886: 某樓你A100 80G 30萬能買到，你跟哪 122.121.245.63 07/02 00:51
推 Nicodim: 包養平台認識跨國朋友。 122.121.245.63 07/02 00:51
→ guanting886: 位經銷叫貨的可以分享一下嗎？ 122.121.245.63 07/02 00:51
推 aegis43210: A100可以玩遊戲呀，到了H100才砍了一 123.204.13.213 07/02 01:08
→ aegis43210: 堆RT單元 123.204.13.213 07/02 01:08
→ ehai0725: 價差這麼大說cp值，果粉邏輯堪慮... 39.15.49.62 07/02 01:59
→ w3160828: 都30萬了幹嘛不拿a100 36.237.217.2 07/02 02:19
推 Foning: 包養分析了解情感需求。 36.237.217.2 07/02 02:19
推 hellomotogg: 編譯xcode也沒比較快 124.218.58.241 07/02 03:35
推 seanwu: 感覺很像10年前在推的HSA計算XD 125.229.71.95 07/02 08:59
→ seanwu: 另外傳統內顯印象中也不是unified memory 125.229.71.95 07/02 09:00
→ seanwu: 理想上是要CPU/GPU共用MMU的， 125.229.71.95 07/02 09:03
→ seanwu: 單純主記憶體切一塊給GPU不算 125.229.71.95 07/02 09:04
推 AKNY: 包養不急於進行感情投入。 125.229.71.95 07/02 09:04
推 Chilloutt: 蘋果軟體的生態圈完全不用擔心 223.137.34.212 07/02 10:04
推 ptta: 一台m2 ultra 可抵8張顯卡 220.136.6.9 07/02 10:34
推 fthufccqpk: 以前Mac PRO intel版頂歸可是要16X萬 59.126.81.227 07/02 11:10
噓 a000000000: 就HSA沒有真的推起來過 76.132.63.174 07/02 12:27
→ a000000000: 然後剛好m2 ultra記憶體可以到192GB 76.132.63.174 07/02 12:27
推 mysister: 包養網交流世界文化。 76.132.63.174 07/02 12:27
→ a000000000: 現在LLM又需要超大記憶體 76.132.63.174 07/02 12:28
→ a000000000: 現有的pc平台不管hsa+超大記憶體都無 76.132.63.174 07/02 12:29
→ a000000000: 法實現 76.132.63.174 07/02 12:29
→ a000000000: 我記得蘇媽大概zen5還哪代 76.132.63.174 07/02 12:29
→ a000000000: 好像就要把mi300那種架構放一般server 76.132.63.174 07/02 12:30
推 cir72: 包養開心結識可靠朋友。 76.132.63.174 07/02 12:30
→ a000000000: 差不多等於mi300把hbm換普通dram 76.132.63.174 07/02 12:31
噓 a000000000: 如果server有 那TR級的就有機會惹 76.132.63.174 07/02 12:33
推 haworz: 要快直接根據演算法出ASIC不是更快223.139.178.169 07/02 14:49
推 a1234567289: 樓上執行模型只需要晶片是不是 49.216.42.200 07/02 16:46
推 comipa: 把ram一起刻進去 (X) 220.133.98.140 07/02 17:12
推 ATrain: 包養平台體察對方需求。 220.133.98.140 07/02 17:12
推 a1234567289: 跑模型還需要Compiler 和Runtime 捏 49.216.42.200 07/02 17:36
→ a1234567289: CUDA做了一堆事… 49.216.42.200 07/02 17:36
推 aegis43210: 先做一個可以過濾雜訊的AI演算法，不 123.204.13.213 07/02 21:47
→ aegis43210: 然記憶體一直肥大 123.204.13.213 07/02 21:48
→ sableangle: 說30萬怎麼不去買A100的大概也覺得只 49.158.21.172 07/02 21:50
推 grado0802: 包養分析觀察言語風采。 49.158.21.172 07/02 21:50
→ sableangle: 要有A100 CPU 主機 電源什麼都不用的 49.158.21.172 07/02 21:50
→ sableangle: 就可以開始算了 大概對要買到可以開機 49.158.21.172 07/02 21:50
→ sableangle: 要花多少錢沒什麼概念 49.158.21.172 07/02 21:50
推 airken99: 只關心到移動端AI的發展，一體化架 111.83.23.157 07/02 22:42
→ airken99: 構應該有優勢 111.83.23.157 07/02 22:42
推 smilejin: 包養真心對待異性友人。 111.83.23.157 07/02 22:42
→ Alwen: 這個在B站被噴翻欸= = 118.232.100.36 07/02 22:48
噓 a000000000: 他這就尼可以在mac上跑自己的聊天機 76.132.63.174 07/02 23:14
→ a000000000: 器人跟stabel diffusion 其他傳統的 76.132.63.174 07/02 23:14
→ a000000000: 沒人搞就沒有 76.132.63.174 07/02 23:14
推 jhangyu: 他SD就能跑而已，但是跑得很慢 59.127.175.174 07/03 05:55
推 qusekii: 包養網找到跨國旅伴。 59.127.175.174 07/03 05:55
→ jhangyu: 還不如買一塊3090來跑效益比較好 59.127.175.174 07/03 05:55
推 horb: 沒有優勢。蘋果自己生態內很強。生態外就是 42.72.29.154 07/03 09:05
→ horb: 廢物 42.72.29.154 07/03 09:05
→ horb: 語音創作可以用蘋果 42.72.29.154 07/03 09:06
→ horb: 其他最好先研究能不能跑再說 42.72.29.154 07/03 09:06
推 Y949731: 包養輕鬆約出遊去。 42.72.29.154 07/03 09:06
→ hidexjapan: 主要是頻寬夠然後Ram又能自由調度，223.140.147.205 07/03 09:12
→ hidexjapan: 但是這比較偏個人跟小工作室自己玩確223.140.147.205 07/03 09:12
→ hidexjapan: 實CP值超高，但運算卡不是拿來擺好看223.140.147.205 07/03 09:12
→ hidexjapan: 的，真的要企業用還是需要運算卡，只223.140.147.205 07/03 09:12
→ hidexjapan: 是怕老黃刀法又多切一個民用AI區間223.140.147.205 07/03 09:12
推 T730733: 包養平台挖掘潛在關係。223.140.147.205 07/03 09:12
噓 filiaslayers: 林亦這種垃圾片沒人噓？ 220.133.46.215 07/03 10:49
推 WiLLSTW: 個人不適合 光debug就飽了…… 101.12.114.75 07/03 11:07
噓 pcfox: 喔 挖鼻 36.231.111.109 07/03 11:14
推 yymeow: 買A100/H100就好了，工具是快且好用，不是 114.37.16.120 07/03 11:19
→ yymeow: 開車上路前先造車修車 114.37.16.120 07/03 11:20
推 FireStation: 包養分析關注對方細節。 114.37.16.120 07/03 11:20