新闻中心> 国内国际> 正文

号称优于ChatGPT,Meta加入AI军备竞赛:发布开源大语言模型

下载:

继微软、谷歌之后,脸书(Facebook)母公司Meta(Nasdaq:META)也加入AI军备竞赛。

当地时间2月24日,Meta官网公布了一款新的人工智能大型语言模型LLaMA,从参数规模来看,Meta提供有70亿、130亿、330亿和650亿四种参数规模的LLaMA模型,并用20种语言进行训练。

Meta首席执行官马克·扎克伯格表示,LLaMA模型旨在帮助研究人员推进工作,在生成文本、对话、总结书面材料、证明数学定理或预测蛋白质结构等更复杂的任务方面有很大的前景。

怎么理解人工智能大型语言模型的参数?

据悉,AIGC(利用人工智能技术来生成内容)形成的学习能力在一定程度上取决于参数的规模。Open AI推出的ChatGPT是通过其AI大模型GPT-3的基础上通过指令微调后得到的,参数量达1750亿,谷歌推出的Bard使用的是轻量级LaMDA模型,相比标准版本,轻量化版本模型所需要的运算能力较小,能面向更多使用者开放,使其参与体验,有报道指出LaMDA模型参数量在1370亿。百度文心大模型参数量达到2600亿,阿里则表示,从过往实践来看,其具备支撑超万亿参数大模型研发的技术实力。

Meta此次推出的大模型实力如何呢?

Meta首席AI科学家杨立昆(Yann LeCun)表示,在一些基准测试中,LLaMA 130亿参数规模的模型性能优于OpenAI推出的GPT3,且能跑在单个GPU上;650亿参数的LLaMA模型能够和DeepMind 700亿参数的Chinchilla模型、谷歌5400亿参数的PaLM模型竞争。

法新社称,按照Meta的表述,LLaMA是一套“更小、性能更好”的模型,且不同于谷歌的LaMDA和OpenAI的GPT机密训练资料和演算,LLaMA是基于公开资料进行训练。

Meta在官网表示,在大型语言模型中,像LLaMA这样的小型基础模型是可取的,因为测试新方法、验证他人的工作和探索新用例所需的计算能力和资源要少得多。基础模型基于大量未标记的数据进行训练,这使得它们非常适合于各种任务的微调。与其他大型语言模型一样,LLaMA的工作原理是将一系列单词作为输入,并预测下一个单词以递归生成文本。

Meta称将致力于这种开源模型的研究,新模型会开源给整个AI研究社区使用,并授予大学、非政府组织和行业实验室访问权限。另外,Meta表示其还有更多研究需要做,以解决大型语言模型中的偏见、有害评论等风险。

Meta披露的2022年第四季度财报显示,该公司已连续第三个季度出现营收同比下滑,四季度营收312.54亿美元,同比下降4%。广告为Meta的支柱业务,为第四季度的总营收贡献超97%,报告期内,尽管广告展现量增长了23%,但单位广告价格下滑了22%。

截至美东时间2月24日,Meta股价跌0.96%报170.390美元/股,总市值4418亿美元。

责编:李争

热点推荐

美国上一次滥施关税是1930年,导致美国陷入大萧条

反制美关税 中方准备了至少6个大招

深圳海关查获20余吨粪便状洋垃圾,散发出强烈刺激性气味

存款及大额存单利率下调提速 银行负债管理面临挑战

中美会否就贸易问题谈判?外交部回应

特朗普回应关税清单上没有俄罗斯:几乎不存在经贸关系

中美会否就贸易问题谈判?外交部回应

美国上一次滥施关税是1930年

外交部:施压、威胁和讹诈 不是同中方打交道的正确方式

美国上一次滥施关税是1930年,导致美国陷入大萧条

反制美关税 中方准备了至少6个大招

深圳海关查获20余吨粪便状洋垃圾,散发出强烈刺激性气味

存款及大额存单利率下调提速 银行负债管理面临挑战

中美会否就贸易问题谈判?外交部回应

特朗普回应关税清单上没有俄罗斯:几乎不存在经贸关系

评论文明上网理性发言,请遵守《新闻评论服务协议》

郑州恒大城配套小学何时建?高新区:1600个学位9月招生

  • 大学生贷款买16部手机“刷广告” 忙活四个月收回500元
  • “男子被送精神病院22天”引发关注 暂未接到淮南公安回复
象·评论

中听丨在学生嘴里“抠食”,要斩断“黑手”

  • 追问丨庆祝收到百万份简历?央企不该以此“炫富”
  • 鼓吹“智驾睡觉”就是劝人“玩命”|锋评
象·深度

从造神到塌房,网红名师收割的是分数还是智商税?丨大象深度

  • 致命“人生照片”:社交媒体时代的“出片”代价丨大象深度
  • 逃离“深渊”:亲历者讲述缅甸电诈园区真相丨大象深度
  • 1.
    郑州恒大城配套小学何时建?高新区:1600个学位9月招生
  • 2.
    河南省人大常委会原党组副书记、副主任刘满仓被开除党籍
  • 3.
    关于刘盘根等5名同志拟任职的公示
  • 4.
    大象早报|刘满仓被开除党籍;郑州将迎河南大学最大校区;湘潭大学宿舍投毒案一审宣判
  • 5.
    大象早报|关于刘盘根等5名同志拟任职的公示;北方多地即将进入杨柳飞絮模式;万岁山武侠城称遭恶意刷票攻击
  • 6.
    【视频】刘宁到郑州部分市区调研
  • 7.
    本周报名!河南省事业单位公开招聘10793人
  • 8.
    省委常委会召开会议 坚决拥护党中央对刘满仓的处分决定
  • 9.
    最新放假通知:连休5天!
  • 10.
    咏物文社 | 能感动人心的,永远不是语言,而是行动

网站不良信息举报邮箱:jubao@hnr.cn

举报电话:0371-65889876

违法和不良信息举报中心

河南省互联网违法和不良信息举报中心

网站简介版权声明广告服务联系方式网站地图

Copyright©2012 hnr.cn Corporation,All Rights Reserved

映象网络 版权所有

举报