🙉😢🛒     

开云kaiyun电子

中科院计算所助理研究员程大宁接受澎湃新闻采访时表示，根据调研，未来算力会向着更大规模、更快互联、更小化发展。这有两方面的原因：一方面是现在模型的规模越来越大，需要更大算力和更大规模的显存才能支撑，另一方面，边端设备的智能化需要更低功耗，更快速度的部署，边端设备数量多，因此需求量也很大。而智能化设备已经成为生活中重要的一部分，未来推理会是更大的算力需求点。

一条路是减小它的胃口，可以通过优化算法提高效率，给模型做量化、剪枝都是减少计算量的方法，因此也能减少电量消耗。另一方面，科技公司也在下注新型能源，OpenAI 的CEO，Sam Altman 就投资了一家核聚变初创公司。英伟达 CEO 黄仁勋则更乐观，他认为如果算力进步足够快，就不需要太过在意能耗。