DeepMind:GPT-5正在训练中 比当前模型大100倍

Posted by: Anquan2021 - Posted on:

DeepMind联合创始人Suleyman表示,GPT-5仍在秘密训练中,未来将会比现在的GPT-4大100倍。
其实,Open AI CEO Sam
Altman此前曾否认训练GPT-5的这一说法。有消息人士表示,OpenAI可能给它起了一个新名字,所以他们才说没有训练GPT-5。
DeepMind:GPT-5正在训练中 比当前模型大100倍
Suleyman目前是Inflection AI的CEO,Inflection
AI正在建造世界上最大的超级计算机之一,并且他认为在接下来的18个月内,他们可能会进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。
今年3月份GPT-4正式发布,和ChatGPT最初使用的GPT-3.5模型相比,GPT-4实现了几个方面的飞跃式提升:强大的识图能力;文字输入限制提升至2.5万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。
GPT-3.5有1750亿参数规模,OpenAI没有公布过GPT-4的具体规格,但之后的分析认为它拥有16个专家模型,每个MLP专家大约有1110亿个参数,总计1.8万亿参数,是GPT-4的10倍规模。
GPT-5如果按照这个比例来提升,那要突破10万亿参数了,有可能成为最大规模的AI大模型,远超其他所有对手。

Leave a Comment

您的电子邮箱地址不会被公开。 必填项已用 * 标注