英伟达中国区首席技术官：将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗
站长之家 2023-07-08 09:09:13
X 关闭
(相关资料图)
编程客栈() 7月7日消息:在今天的 2023 世界人工智能大会上，英伟达中国区首席技术官赖俊杰指编程客栈出，全球数据中心计算问题存在两个重要趋势。
首先，人们对人机交互的期望提高，引发了全球第二波关于大模型的投入浪潮。其次，许多互联网公司面临用户需求增长和功耗增加编程的问题，尤其是人工智能的大模型访问比例增加，需要更多的能耗投入。因此，英伟达提出将任务负载从CPU移至GPU，以支撑更多的用户请求，并节省更多的能耗。
据了解，目前，AI GPU 市场主要由英伟达和AMD 主导，但在用于推动像 ChatGPT 这样的大型语言模型（LLM）的 AI GPUphp方面，英伟达占据了 90% 以上的市android场份额。
