> 自媒体 > (AI)人工智能 > Generative AI——GPT-3(四)
Generative AI——GPT-3(四)
来源:千株松生物
2023-05-04 22:32:09
520
管理

AI正在创造对训练数据的爆炸性需求

2020年,训练最先进的GPT-3的成本为460万美元。根据我们的模型,到2030年,训练一个比GPT-3多57倍参数和720倍符号的AI模型的成本将从今天的170亿美元下降到60万美元。

举例来说,维基百科的42亿单词大约代表56亿个符号。到2030年,训练一个包含162万亿单词或216万亿符号的模型应该是可能的。在一个低成本计算的世界里,数据将成为主要的约束。

目前的GPT-3能力与2030年的预计能力

预计能力

Sources: ARKInvestmentManagement LLC, 2023.. Wikipedia 2023; Hoffmann, J. etal. 2022. Forecasts are inherently limited andcannotbe relied upon. For informational purposes onlyandshouldnotbeconsideredinvestmentadvice ora recommendation to buy, sell, or hold any particular security. Past performance is not indicative of future results.

来源:ARK投资管理有限责任公司,2023..维基百科2023;Hoffmann, J.等,2022。预测能力本身是有限的,不能依赖。仅供参考,不应被视为投资建议或购买、出售或持有任何特定证券的建议。过去的表现并不代表将来的结果。

专有数据可以创建护城河

高质量的特定领域人工智能训练数据可能会在垂直应用中导致赢家通吃的结果。

训练模型

自动驾驶

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
谢某等8人,刑拘!警方通报!
近期,厦门湖里警方成功侦破一起特大电诈案件!涉案金额达500万余元抓获..
GPT-4大量信息泄露,AI即将人手一个
近日AI热度稍微下降,这个 GPT-4 模型架构等信息被泄露不得不说是平静的..
OpenAI 的权力游戏 这场权利的游戏中谁才是最终的赢家?#openai..
在人工智能的边界,一个名为OpenAI的机构以其创新而著称。但就在上周,它..
南京警方最新提醒!事关爆火的ChatGPT
最近ChatGPT火爆全网每个人似乎都在讨论然而随着其短时间内迅速蹿红不少..
Transformer大模型3D可视化,GPT-3、Nano-GPT每一层清晰可见..
编辑:桃子 好困【新智元导读】Transformer大模型工作原理究竟是什么样的..
AIoT智能家居峰会燃爆上海,万字干货解码ChatGPT与Matter,浓缩十余位大咖..
Aqara合伙人、高级副总裁孔丽Aqara销售点已覆盖了42个国家和地区,服务全..
ChatGPT引领的大模型时代,小模型还有机会吗?
每经记者:兰素英 每经编辑:高涵图片来源:主办方供图随着ChatGPT的问世..
不堪入目!53岁女子出轨27岁男子的聊天记录令人震惊!..
【引言】近日,一段令人瞠目结舌的聊天记录曝光,引发了社交媒体热议。一..
全网刷屏的河南女大学生聊天记录,背后的故事我不敢看..
原以为,这只是普通的日常分享。直到看到这样一句话,所有人都忍不住眼眶..
关于作者
婆罗花开(普通会员)
文章
475
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40335 企业收录2981 印章生成193716 电子证书831 电子名片53 自媒体26178

@2022 All Rights Reserved 浙ICP备19035174号-7
2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索