财经新闻网消息：
开源还是封闭
事实上，Qwen-7B模型并不是第一个开源的大型模型。 事实上，“前身”GPT-2也是完全开源的。 其代码和框架在网上免费提供，相关论文可供参考。 风靡全球后，我们选择了闭源开发，GPT-3、GPT-4等模型代码已成为商业机密。
所谓开源就是开源代码。 例如，一个大型模型一旦宣布开源，在版权限制的范围内，任何人都可以公开获取该模型的源代码并进行修改甚至重新开发。 打个简单的比喻，源代码就像一幅画的草稿，每个人都可以通过给草稿上色来创作自己的艺术画作。
闭源与开源正好相反。 只有源代码的所有者（通常是软件开发人员）才有权修改代码。 其他人则没有办法获得“草稿”，只能从软件开发商那里购买成品。
开源和闭源的优点和缺点都非常明显。 大模型开源后，无疑会吸引更多的开发者，大模型的应用也会更加丰富，但相应的监管和商业化就会成为难题，很容易出现“大模型”的尴尬局面。为别人做婚纱”。 毕竟开源考虑的是生态共荣，现阶段能赚多少钱还很难计算，而这些问题恰恰是闭源的机会。
开源还是闭源，这是一个大模型的生死存亡的问题，国际巨头已经给出了答案。
母公司Meta上个月发布了大型模型，开源免费供开发者和商业伙伴使用，但坚定地选择了GPT-4闭源开发，不仅保持在生成式AI行业的领先地位，还可以赚取收入金钱 获得更多收入。 据权威杂志《Fast》预测，2023年营收将达到2亿美元，其中包括提供API数据接口服务、聊天机器人订阅服务费等。
国产大型车型也逐渐开始“分道扬镳”。 阿里云统一大模型早在今年4月就宣布向企业开放，Qwen-7B模型的开源将更进一步。 百度旗下文心一言也于近期宣布，将逐步向第三方开发者开放插件生态，帮助开发者基于文心模式创建自己的应用。
相比之下，华为却没有走寻常路。 在发布盘古大模型3.0时，华为云公开表示，盘古大模型的全栈技术是华为自主创新的，没有使用任何开源技术。 同时，盘古大模型将汇聚无数行业大数据（涉及行业机密等），盘古模型未来不会开源。
大参数依然小而美
此外，Qwen-7B模型的开源也带来了另一个思考：我们需要多少个大型模型？
不可否认，大型模型的参数规模正在不断扩大。 以其GPT大模型为例，GPT-1仅包含1.17亿个参数，GPT-3的参数多达1750亿个，几年内增长了1000多倍，而GPT-4则超过万亿个参数。
国产大车型也是如此。 百度文信大模型参数量达到2600亿，腾讯混元大模型参数量达到1000亿，华为盘古大模型参数规模接近GPT-3.5，阿里统易大模型正式宣布参数量达到10万亿。据不完全统计，国内参数规模超过10亿的大型模型至少有79个。
不幸的是，参数越大并不意味着大模型的能力越强。 在世界人工智能大会上，腾讯云副总裁吴云生有一个非常贴切的比喻：“就像运动员训练体力一样，举重运动员需要举起200斤的杠铃，游泳运动员可以举起100斤的杠铃。”杠铃。每个人都练习200磅的杠铃。”
众所周知，大模型的参数越高，消耗的资源就越多，成本也会相应增加。 对于深耕行业的垂直大型模型，无需一味追求“大尺寸”或“高参数”，而应根据客户需求制定相关模型参数。 例如，生物大模型-Large只有15亿个参数，但在生物医学专业测试中的准确率却比一般千亿参数的大模型要好。
联合创始人Sam也公开表示，已经接近LLM（Large Model）规模的极限。 尺度越大并不一定意味着模型越好，参数尺度不再是衡量模型好坏的重要指标。
火山引擎智能算法负责人吴迪也有类似的观点。 从长远来看，降低成本将成为大型模型应用的重要因素。 模型的成本可能只有十分之一。”
目前，国内各大科技公司几乎都拿到了大型车型的入场券，但真正的选路才刚刚开始。
免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com
Copyright © 2017-2018