英特尔Sachin Katti：大模型在云端训练的成熟，将促进AI快速向边缘迁移

(相关资料图)

（CWW）随着边缘计算与大模型技术的不断成熟，二者可以很好地融合在一起为行业应用中碰撞出新的“火花”。

近日，在2023英特尔网络与边缘产业高层峰会上，英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti和英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士接受了通信世界全媒体记者的采访，分享了英特尔在边缘计算和大模型方面的战略和产品，以及如何推动边缘智能和大模型在行业中的落地。

如今边缘计算市场已经在快速增长过程当中，这对英特尔以及对整个英特尔生态系统，以及整个中国市场来说都提供了巨大的机遇。

“英特尔的边缘计算策略是提供大量的硬件选择，比如说CPU、加速器、GPU等，达到一流的性能。同时在软件方面，英特尔希望在应用的时候可以降低复杂性。”Sachin Katti表示：“我们要帮助客户，为他们提供一些选择，同时通过我们的软件解决方案可以使他们的运营更加简化、更加精简，而且我们要跟整个的生态系统的合作伙伴一起合作。”

随着大模型在云端训练的成熟，AI就会快速向边缘进行迁移。Sachin Katti说：“我们看到AI正在快速地迁移到云端，在这当中边缘也会发挥更加重要的作用来推动AI的部署。英特尔有很多边缘设备都是在行业落地的。所以我们要做的是通过所提供的选择，让用户可以更好的使用AI，把AI成果运用在日常运营当中。”

英特尔认为大模型是AI未来的关键，它可以帮助解决一些人类面临的重大挑战，比如医疗、教育、环境等。“我们相信大模型可以让AI更加通用，更加普及，更加有价值。我们也相信大模型需要和行业结合起来，要在行业里去做跟这个行业相关的，有针对性的大模型去解决行业里有针对性的一些问题。”Sachin Katti表示。

为了支持大模型的训练和推理，英特尔提供了一系列的硬件和软件解决方案。在硬件方面，英特尔发布了专门面向大模型训练的加速器Gaudi 2，它在第三方公开的运用GPT 3这样一个大模型的评测当中表现出了非常好的性能。同时，英特尔也提供了通用的CPU处理器以及专用的独立显卡等加速器来满足人工智能模型推理对算力的要求。

在软件方面，英特尔推出了OpenVINO的软件工具，可以实现模型在不同平台上的迁移和部署。在最新的OpenVINO版本里，英特尔增加了对大模型的支持，比如说Stable Diffusion这样一个文生图的模型，已经开始在一些行业里进行使用了。

除了硬件和软件之外，英特尔还提供了开放标准的网络连接技术，来把大量的GPU和加速器连接起来，让大模型的训练更加方便。英特尔还推出了IPU（Infrastructure Processing Unit），它能够给用户提供一个可靠、高速、低延迟的数据传输服务。

“我们要做到在中国为中国，在本地客户需求上做一些行业需要的相应解决方案，利用总部所提供的软件基础来做这个方案，从工具、解决方案、生态等方面，来为本地行业客户赋能。”张宇博士表示。英特尔希望通过软硬件结合、开放标准、生态构建等方式，为客户提供整体解决方案，让AI更加通用、普及、有价值。

标签：