财经新闻网消息:
当地时间7月18日,Meta宣布将发布其开源大型模型LLaMA的商业版本,新版本称为Llama 2。
高通将与 Meta 合作,Llama 2 将从 2024 年起在旗舰智能手机和 PC 上运行。 客户、合作伙伴和开发人员可以构建智能虚拟助手、生产力应用程序、内容创建工具、娱乐等用例,其人工智能功能无需网络连接即可运行,即使在飞行模式下也是如此。
根据高通19日的最新声明,在智能手机、PC、VR/AR耳机和汽车等终端上运行Llama 2等生成式AI模型的能力将支持开发者节省云成本,并为用户提供更多隐私信息。 、可靠且个性化的体验。
高通技术公司高级副总裁兼技术、规划和边缘解决方案总经理杜尔加表示,为了有效推动生成式人工智能走向主流市场,人工智能需要同时在云端和边缘终端上可用(例如如智能手机、笔记本电脑等)。 、汽车和物联网终端)。
▌“AI竞速联盟”?
Meta一直被评价为“在AI竞争中落后于同行”,而这次Llama 2也能看到Meta追赶同行的野心。
首先是合作伙伴。 Meta的新版本模型将由微软通过其Azure云服务分发,并将在操作系统上运行。 马塔还表示,微软是“我们的首选合作伙伴”。
第二是开源。 Meta强调,Llama 2是一个开源大型模型,“免费用于研究和商业用途”。 竞争对手中,无论是GPT-4还是的PaLM 2,都走“技术保密路线”。
对于高通来说,到目前为止,由于AI计算对算力和数据的巨大需求,AI大型模型主要运行在大型服务器群和 GPU上。 高通之前并没有赶上这一轮AI热潮,年内股价涨幅也远远落后于英伟达。
在这种情况下,高通将AI边缘计算作为发展方向。 高通高级副总裁Alex Yue曾明确表示,高通正在从一家通信公司转型为一家智能边缘计算公司。 “随着连接设备和数据流量的加速增长,以及叠加数据中心成本的不断上升,(对我们来说)不可能将所有内容发送到云端。” 他表示,当涉及到个人信息时,人们不会愿意这样做。
此外,高通此前还发布了全球首个运行在手机上的终端侧演示。 它是一个可以直接从文本生成图像的AI模型,其参数超过10亿。 此前,它只能运行在云计算集群中。
▌“云边”融合或成AI应用闭环唯一途径
如今,AI大模型已经进入从“玩具”到“工具”快速进化的关键迭代期。 如何让大模型渗透到各个垂直场景,如何以更低的成本使用大模型,如何让更多的场景和用户接触AI,成为下一步发展的重点。
国盛证券指出,当AI应用于实际场景时,边缘算力的重要性加速凸显。 边缘计算能力在成本、延迟、隐私等方面具有天然优势。 大模型指南。 边缘计算能力堪称AI触及万千场景的“毛细血管”。 “云边”融合(云计算与边缘计算的有机结合)是AI应用闭环的必由之路,而边缘侧需求的释放将开启“真AIoT”时代。
中航证券认为,基于云计算的大规模模型架构在企业或行业应用的实施中,涉及场景细分、云算力瓶颈、传输时效性、海量数据、信息安全等因素。 其中心化的技术架构无法满足人工智能的通用部署实践。
因此,AI应用将逐渐从中心节点向更靠近数据源和业务站点的边缘侧扩展。 边缘计算合理利用边缘侧计算能力和实时数据,使机器学习模型提供的智能服务更加便捷、贴近应用。 有望打通行业细分、场景多元化的瓶颈。
免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com