英伟达中国区首席技术官:将任务负载从CPU移至GPU,整体能耗将节省更多

[知识] 时间:2024-04-28 06:52:56 来源:蓝影头条 作者:时尚 点击:47次
据澎湃新闻,英伟移至7月7日,达中在2023世界人工智能大会上,国区官将更多英伟达(NVIDIA)中国区首席技术官赖俊杰表示,首席英伟达在全球数据中心计算问题上观察到两个重要趋势:一是技术节省人们对人机交互的期望大大提高,引发了全球第二波关于大模型的任务投入浪潮。

二是负载很多互联网公司面临着用户需求增长、功耗越来越多的英伟移至问题,特别是达中人工智能的大模型访问比例增加,意味着需要更多的国区官将更多能耗投入。

针对第二个趋势,首席英伟达提出如果能更多地将任务负载从CPU移至GPU,技术节省那么能在支撑同样多的任务用户请求之同时,节省更多的负载能耗。

英伟移至

英伟移至

(责任编辑:休闲)

    相关内容
    精彩推荐
    热门点击
    友情链接