好-韭研公社

異動

關注

社群

搜公告

產業庫

時間軸

公社AI

登錄注冊

簡單101

2024-01-01 22:09:17

好

@TheBigShort大空頭： AIPC之內(nei)(nei)存(cun)(cun)，為什(shen)么是瀾起(qi)和聚辰(chen)。內(nei)(nei)存(cun)(cun)的(de)(de)快速升級(ji)是AIPC最顯著的(de)(de)價值增量。存(cun)(cun)儲產業鏈：BF16中，每(mei)(mei)運行10億(yi)參(can)數模(mo)(mo)(mo)型(xing)(xing)需要2GB內(nei)(nei)存(cun)(cun)；Int8量化下(xia)，每(mei)(mei)運行10億(yi)參(can)數模(mo)(mo)(mo)型(xing)(xing)需要1GB內(nei)(nei)存(cun)(cun)。（本地運行各(ge)種(zhong)參(can)數量級(ji)的(de)(de)模(mo)(mo)(mo)型(xing)(xing)對內(nei)(nei)存(cun)(cun)的(de)(de)需求(qiu)）因此假設本地運行一個100億(yi)參(can)數的(de)(de)模(mo)(mo)(mo)型(xing)(xing)，需要的(de)(de)內(nei)(nei)存(cun)(cun)要至(zhi)少10GB。目

8 贊同-2 評論

聲明：文章觀點來自網友，僅為作者個人研究意見，不代表韭研公社觀點及立場，站內所有文章均不構成投資建議，請投資者注意風險，獨立審慎決策。

工分