英伟达：AI需求「大爆发」全球正在打造100座AI工厂
来源：倍可亲(backchina.com) 专题：抄底还是跑路？美股最新动态据世界日报报道，美国人工智慧（AI）晶片霸主英伟达（Nvidia）主管表示，由于推理模型的晶片使用量增加，需求已「大爆发」，并且点出主权AI的需求与全球AI工厂的投资都日渐增加，目前全球正在打造100座AI工厂，包括台湾(专题)的大幅投资，挑战则包括供电限制和企业採用AI的速度。
英伟达加速运算事业部门主管巴克（Ian Buck）4日参加美银证券全球科技研讨会时表示，由于推理模型的使用量增加，「推论需求已大爆发」，推理「增添了如此之多的价值」。推论是AI模型生成回答的过程。
美国人工智慧（AI）晶片霸主英伟达（Nvidia）主管表示，由于推理模型的晶片使用量增加，需求已「大爆发」，并且点出主权AI的需求与全球AI工厂的投资都日渐增加，目前全球正在打造100座AI工厂，包括台湾的大幅投资，挑战则包括供电限制和企业採用AI的速度。
英伟达加速运算事业部门主管巴克（Ian Buck）4日参加美银证券全球科技研讨会时表示，由于推理模型的使用量增加，「推论需求已大爆发」，推理「增添了如此之多的价值」。推论是AI模型生成回答的过程。
DeepSeek、OpenAI、Anthropic及xAI等业者的最新AI模型，都具备推理功能，能针对用户搜寻词进行多次思维运算（thought computation），更全面反思，以提供更高品质的回应。英伟达主管已表示，推理消耗的运算资源比之前的AI模型多出100倍，驱动更多AI晶片的需求。
巴克在接受美银证券科技分析师艾尔亚（Vivek Arya）访问时，强调打造平台已孕育AI推论市场的创新，焦点仍是可拓展的AI工厂和训练丛集，随着AI模型效能持续提升，有1000亿个参数的模型已是标准，目前正在使用上兆参数的模型，预料将会更常见。
他说，英伟达的策略聚焦于为推论打造的AI工厂、以及大规模的训练丛集，该公司的软体套现计画包括NeMoTron模型和Lepton等资料中心软体。
巴克被问到AI工厂的商机时表示，各国都加强投资AI，以应用于各自独特的产业和数据，例如台湾正在打造一座他认为会使用1万组Blackwell绘图处理器（GPU）的AI工厂，「这是为台湾产业打造，由台湾拥有」，日本(专题)也在运用自有数据建造AI工厂，目前全球正在打造并组装100座AI工厂。
他也说，英伟达可能会在下周的巴黎GTC开发者大会（11-12日）、以及在柏林举行的国际超级运算大会（ISC，10-13日）上，提供更多关于AI工厂和主权AI等活动的讯息。他也暗示，未来成长的挑战可能包括供电议题与企业採用AI的速度。
