王小川又双叒叕发布大模型了 号称领先LLaMA 2_砍柴网

首页 > 科技快报 > 业界 >

王小川又双叒叕发布大模型了 号称领先LLaMA 2

2023-09-07 12:25

王小川又双叒叕发布大模型了 号称领先LLaMA 2

百川智能又发布大模型了。
9月6日，王小川旗下百川智能正式发布开源微调后的Baichuan 2-7B、Baichuan 2-13B、Baichuan 2-13B-Chat与其4bit量化版本，均为免费可商用，这是继6月15日发布首款开源大模型Baichuan7B后的又一次重大技术迭代。
据了解，Baichuan 2-7B-Base 和 Baichuan 2-13B-Base，均基于 2.6万亿高质量多语言数据进行训练。其中Baichuan 2-13B-Base相比上一代13B模型，数学能力提升49%，代码能力提升46%，安全能力提升37%，逻辑推理能力提升25%，语义理解能力提升15%。
王小川称，70亿参数的Baichuan2-7B开源大模型中文水平超越了LLaMA2 130亿参数模；在英文的评测上，Baichuan2-7B开水平与LLaMA2 130亿参数模型持平。

（图：7B参数模型的Benchmark成绩）

（图：7B参数模型的Benchmark成绩）

（图：13B参数模型的Benchmark成绩）

（图：13B参数模型的Benchmark成绩）
他表示，“随着国内Baichuan2开源大模型的发布，用LLaMA2作为大家一个开源模型的时代已经过去了。”
国内“百模大战”中，各家都在卷参数规模，卷响应速度，卷行业落地。而在国外，AI模型竞争主要聚焦在“生态封闭”和“生态开源”。其中，闭源模型的代表当属目前最强的GPT-4模型，开源最具代表意义的则是Meta的LLaMA2模型。
业内普遍认为，开源大模型对于大量开发者是一个福音，能够降低做大模型应用的门槛。美国斯坦福大学基金会模型研究中心主任Percy Liang 曾指出，像LLaMA2这样强大的开源模型会对OpenAI 构成相当大的威胁。
今年6月，王小川飞往美国硅谷与同行交流大模型技术思路。他认为，美国闭源大模型的头部格局已定，OpenAI、Anthropic、Google已经拿到门票，LLaMA2则统一了美国开源模型市场，而国内大模型格局还未定型，创业公司还有较大的机会。
在8月举办的一次媒体交流会上，王小川谈及大模型技术路线之争时表示，开源与闭源并不矛盾，未来会像苹果和安卓系统一样并行发展。未来可能80%的企业会用到开源模型，因为开源模型小巧，最后靠闭源提供剩下20%的增值服务。 从2B（企业）的角度，开源、闭源都需要，百川智能不会只瞄准一个方向。
王小川指出了LLaMA开源模型的隐藏限制因素。他表示，LLaMA 开源模型适用于以英文为主的环境，开发者使用中文场景是拿不到开源协议，Baichuan2开源大模型更适用于中文大模型。
“我们现在可以获得比LLaMA更友好且能力更强的开源模型，能够帮助扶持中国整个生态的发展。除开源模型以外，下一次在闭源方面会有更多的突破，希望在中国的开源闭源里都能给中国的经济社会发展带来我们的贡献。”
当前大部分开源模型在开源过程中只是对外公开自身的模型权重，很少提及训练细节，企业、研究机构、开发者们只能在开源模型的基础上做有限的微调，很难进行深入研究。
王小川表示，百川智能公开了Baichuan2开源大模型训练过程中的全部参数模型，以及不同大小的 tokens、训练切片，使得学术界在进行预训练微调、强化时更容易操作，更容易获得学术经验和成果。他透露，这也是国内首次开放训练过程。
百川智能创立于今年4月10日，旨在打造构建中国最好的大模型底座，并在教育、医疗等领域应用落地。截至目前，百川智能已公布首轮5000万美元融资。
成立不到半年时间，百川智能平均每28天发布一款大模型，已相继发布了Baichuan-7B、Baichuan-13B两款开源免费可商用的中文大模型，以及一款搜索增强大模型Baichuan-53B。
8月31日，百川智能通过《生成式人工智能服务管理暂行办法》备案，旗下大模型可以正式面向公众提供服务。
【来源：凤凰网科技】

共有评论0条

相关推荐
王小川AI公司增资至647万并新增多位股东
中国版GPT“诸神之战”：王慧文、李开复后，王小川也加入战局
王小川退出搜狗公司股东
搜狗投资春雨医生，CEO王小川亲任后者董事
王小川吐槽Bose700耳机：降噪效果一般 bug实在太多
拍下天价午餐后，孙宇晨开启了一场盛大营销秀
搜狗发布AI合成主播 背后技术“搜狗分身”同时浮出水面
王小川：互联网开始真正跟中国大经济脉络连接了
理工男王小川的技术信仰与搜狗的现实未来
华尔街不懂搜狗，尴尬如何化解？王小川：秒掉对手！
直播答题方兴未艾,搜狗汪仔答题助手为何能够搅局撒币大战？
王小川：是什么让搜狗活到今天？
对话王小川：我曾说搜狗是我老婆，现在能分点时间给自己了
王小川: AI将为大连接时代重新赋能
王小川：不上市我就不干嘛 不是我说的
搜狗上市背后：王小川的三条管理心得
搜狗上市，王小川的希望与忧患
完成了上市大业，王小川终于成为相亲市场的金腰带选手
当感性的搜狗遇上理性的资本市场，未来会发生什么？
上市首日股价表现平平，涉足金融折射出搜狗的急切之心
趁着搜狗上市，我们来扒一下王小川投过哪些公司
圆了王小川的梦，搜狗该怎么继续圆资本故事？
搜狗挂牌上市 光棍王小川终于为清华帮扬眉吐气
母亲陪同王小川出席敲钟仪式，一度哽咽
连线搜狗 CEO 王小川谈上市：“问答”会是未来搜索的形态
王小川是变量X，但不可能成为搜狐或腾讯的接班人
搜狗迎来IPO，王小川的愿望当真实现了？
搜狗即将在纽交所挂牌，泼三瓢冷水提个醒
搜狗迎来IPO，王小川的梦想实现了吗？
做对了一道又一道“选择题”的王小川，在搜狗上市之际能否续写“传奇”？
搜狗IPO在即：继“三级火箭”后，AI将成下一个突围关键
搜狗即将上市，王小川、张朝阳、马化腾三人之间的关系曝光
死磕百度15年，搜狗上市，靠着王小川，腾讯将净赚143亿
搜狗上市，谁才是真的赢家？
搜狗招股说明书暗藏玄机 天时地利人和占据几个？
死磕百度15年，搜狗上市，靠着王小川，腾讯将净赚143亿
搜狗IPO要看腾讯脸色 王小川仅持股5.5%
王小川：未来被人工智能替代的工作，都是些没有创造性的活儿
从王小川内部信透露的信号， 看搜狗宣布 IPO
搜狗接连傍上阿里、腾讯，王小川得感谢周鸿祎
搜狗接连傍上阿里、腾讯，王小川得感谢周鸿祎
王小川：狐狸的子宫里为什么能长出狗？
搜狗上市：王小川的“忍”与张朝阳的“容”
搜狗上市：除了仪式感和情怀，还剩下些什么？
“一条狗”价值50亿美金，腾讯3年前投资了它，如今回报约4倍
跨过四道坎走过山路十八弯，王小川终于扛到搜狗上市
王小川：搜狗计划赴美IPO， 二季度总收入14.5亿元
PK掉近千个对手后，这42个项目曝光了AI创业的风向
王小川要转型人工智能，到底是噱头还是大势所趋？
王小川要转型人工智能，到底是噱头还是大势所趋？
微信搜索应用部：不在攻城，而在攻心
搜狗CEO王小川：激进式创新为何会加速企业衰老？
财报惨不忍睹 搜狐要重回互联网中心将不易
那些忧伤的中年男人，王小川为什么要改变戏路？
搜狗今年IPO：终于要把欠王小川的女朋友还上了
搜狗今年或赴美IPO:终于要把欠王小川的女朋友还上了
从《我是创始人》看创业者身上应该具备的九大品质
王小川公布搜狗人工智能两大方向：自然交互和知识计算
业务陷入停滞期，搜狗Q3财报玩文字游戏粉饰太平？
王小川：搜索本身就是一种人工智能
王小川:人工智能技术有不足 阿法狗现在仍赢不了输的那一局
王小川清华毕业演讲：接到老板任务，带六个人灭掉百度
移动搜索卡位战：高端市场优势或助搜狗逆袭
王小川补刀百度！搜狗针对“魏则西事件”推出搜狗明医
理想完败于现实，学霸王小川的忧与愁
王小川：一个不简单的理工男！
微博爆料：王小川大学兼职一月狂赚8000

<返回

<返回首页

Copyright CmsTop.com
2026年02月27日 07:22:23