DeepMind联合创始人:GPT-5正在训练中 比当前模型大100倍

互联网 来源:快科技 2023-09-03 19:34:52

DeepMind联合创始人Suleyman近日在采访中表示,GPT-5仍在秘密训练中,未来将会比现在的GPT-4大100倍。

其实,Open AI CEO Sam Altman此前曾否认训练GPT-5的这一说法。有消息人士表示,OpenAI可能给它起了一个新名字,所以他们才说没有训练GPT-5。

Suleyman目前是Inflection AI的CEO,Inflection AI正在建造世界上最大的超级计算机之一并且他认为在接下来的18个月内,他们可能会进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。

今年3月份GPT-4正式发布,和ChatGPT最初使用的GPT-3.5模型相比,GPT-4实现了几个方面的飞跃式提升:强大的识图能力;文字输入限制提升至2.5万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。

GPT-3.5有1750亿参数规模,OpenAI没有公布过GPT-4的具体规格,但之后的分析认为它拥有16个专家模型,每个MLP专家大约有1110亿个参数,总计1.8万亿参数,是GPT-4的10倍规模。

GPT-5如果按照这个比例来提升,那要突破10万亿参数了,有可能成为最大规模的AI大模型,远超其他所有对手。

延伸阅读
  • AMD收购欧洲第一私人AI实验室Silo AI

    AMD官方宣布,与欧洲最大的私人AI实验室“Silo AI”达成最终协议,将其收之麾下,交易价格约6.65亿美元(约合人民币48.3亿元),全部以现金支付。这是Google 2014年以约4亿英镑收购

  • 马斯克的AI初创公司xAI接近完成一轮10亿美元融资

    12月6日消息,埃隆・马斯克旗下的人工智能初创公司xAI日前向美国证券监管机构提交文件,计划通过股权融资筹集高达10亿美元(备注:当前约71.4亿元人民币)资金。根据周二的文件显示,该公司已经通过股权

关注公众号:拾黑(shiheibook)了解更多

友情链接:

关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站:https://www.yaorank.com/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接