search

SR0725 / github_blog_issue

0 stars 0 forks source link

科技新聞 #1

Open SR0725 opened 6 months ago

SR0725 commented 6 months ago

科技新聞伊隆·馬斯克在前兩天正式開源他們家的 Grok 大語言模型 其體量達到驚人的 3140 億參數，也就是需要 300 GB 的空間才能存下這些權重 而運行這個巨大的模型，你至少需要 4~8張的 H100 計算卡 (順帶一提，一張 H100 價格為 130 萬 新台幣) 沒錯，也就是這已經是完全超越一般人能玩得起來的超級大模型 它的性能與能力未知（因為我也跑不起來 QAQ 最近會再來找機會租雲端運算服務看能不能跑起來這東西 再與大家做分享~