热门文章
- GPT-4技术报告(附中、英文PDF下载,...
- Meta开源对标神经网络GPT-3的大规模...
- 图解网信办《生成式人工智能服务管理...
- 《哈工大-ChatGPT 调研报告 (仅供内部...
- 《ChatGPT的技术发展路径和带来的影响...
- 《AIGC行业深度报告(7)-ChatGPT:三大...
- 元宇宙“由虚向实”背后:生成式AI技术...
- 《AIGC深度报告:新一轮内容生产力革命...
- 《中国人工智能产业研究报告(Ⅴ):道阻...
- 《兴业证券-AIGC全方位解析与展望》(附...
- 科技公司史上第一次:Meta开源与GPT3...
- 《中国信通院-人工智能生成内容(AIGC)...
- 用全球最快 AI 超算秀肌肉后,黄仁勋...
- 元宇宙的最大变量AI注入后的化学反应
- 《增长黑盒&黑盒点评-2023中国AIGC应...
- 《ChatGPT:开启AI新纪元》(附PDF下载)
- 为元宇宙「打地基」,Meta 开发世界最快...
- AI+元宇宙!Meta离梦想更进一步?
- 微美全息战略投资海百川,AI-Star构建...
- 逐浪AIGC⑤丨大模型狂飙
逐浪AIGC⑮ | AI伦理之惑:马斯克等科技大佬为何拦停GPT-5
21世纪经济报道记者李强 北京报道
在OpenAI的带领下,GPT一遍又一遍地冲破人们对于AI的预期。
而在对GPT-4进行一系列实验后,微软研究团队也在报告中承认大模型背后的AI潜力:GPT-4是使用前所未有的计算和数据规模训练出来的,而除了对语言的掌握,GPT-4还能解决跨越数学、编码、视觉、医学、法律、心理学等领域的新颖而困难的任务,而不需要任何特殊的提示。
“此外,在所有这些任务中,GPT-4的表现都惊人地接近人类水平,而且往往大大超过了ChatGPT等现有模型。鉴于GPT-4能力的广度和深度,我们认为可以合理地将其视为通用人工智能(AGI)系统的早期(但仍不完整)版本。”微软在研究报告中表示。
另一边,在人们都在为AI的飞速进化而欢呼雀跃时,研究机构未来生命研究所(Future Life Institute)近日却公布了一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
“我们不应该冒着失去对文明控制的风险,将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的,其风险是可控的才能继续开发。”该机构在信中表示,而“未经选举的技术领袖”显然是在内涵占尽风光的OpenAI。
截至目前,马斯克、苹果联合创始人Steve Wozniak和Stability AI创始人Emad Mostaque在内的诸多科技大佬和AI专家已经签署公开信,他们认为,人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。
当AI开始对齐甚至超越人类能力时,“对社会和人类构成潜在风险”就已经不再是充满科幻色彩的口号。
潘多拉魔盒
尽管GPT-3在2020年就已推出,但直到2022年,研究人员才发现预训练大模型产生了类似人类推理思维的能力。
当用户向语言大模型提问的时候,可以在提示问题(Prompt)里写几个示例,让模型照着例子做生成,像ChatGPT就可以根据用户演示的推理过程,来推导其它问题的答案,这种模仿人类思维的推理能力不需要再进行复杂的训练,只需要在提问时给出提示,模型就能自动学习,并做出相应推理得到正确结果。
但问题在于,通过“喂数据”得到的AI思维能力在原理上是如何实现的,以及继续“大力出奇迹”之后,AI又会如何进化?
日前,OpenAI CEO Sam Altman公开坦诚表示,GPT系列为何会出现推理能力,OpenAI的研究者自己也搞不明白,他们只知道,在不断测试中,人们忽然发现,从ChatGPT开始,GPT系列开始出现了推理能力。
2022年6月15日,谷歌研究院联合DeepMind和斯坦福大学发表了一篇论文:《大语言模型的突现能力》(Emergent Abilities of Large Language Models)。研究人员惊讶发现,AI的思维能力,并不是随着模型参数大小的线性变化逐渐出现的,而是当参数规模超过某一阈值后,模型的思维能力突然涌现出来,即所谓大模型的“突现能力”(Emergent Abilities)。
论文指出,大模型在参数规模达到某个临界值之前,其性能是近乎随机的,之后性能会忽然大幅增加,仿佛突然开窍一般,参数规模的量变导致了质变,而这种质变会何时发生,却充满不确定性,参数量级够大只是一个必要条件,一些大模型在大量“投喂”后却并没有表现出思维能力。
“我们一般认为这个参数规模是在千亿左右,但问题在于,随着投喂量进一步扩大,模型会再突现出什么能力是无法预测的。比如GPT-4已经能够依据命令设定自己的身份与人交流,如果再投喂下去,GPT-6或者GPT-8会不会进化到可以自行设定身份,具备自我意识甚至主动隐藏自己的某种‘价值观’?”一位NLP领域专业人士对21世纪经济报道记者表示。
谨防AI危险竞赛
技术的不确定性之外,另一个担忧在于AI浪潮裹挟下,AI又会被带向何方?
在AI所带来的生产力革命以及颠覆传统人机交互模式的巨大想象力下,微软“梭哈”OpenAI;落后一步的谷歌越挫越勇、紧追不舍;赌对了的英伟达高喊“AI的iPhone时刻”;国内大小科技厂商更是直接将大模型奉为“政治正确”……
在这样新一轮疯狂的AI竞赛中,科技公司争抢新时代的船票,无疑都希望用更短的时间开发和部署更强大的AI,而这个过程中,是否会裹挟更多疯狂,加剧未来AI技术进化的不确定性。一个看上去不那么妙的信号是,大型科技公司在不断提高对AI投入的同时,却又一直在裁减致力于评估部署AI相关伦理问题的团队员工。
根据公开信息统计,微软、Meta、谷歌、亚马逊等公司都裁减了其“负责任的人工智能团队”(Responsible AI)的成员,这些团队负责为使用AI的消费产品提供安全建议。
例如,今年1月,在微软的万人级别大裁员行动中,微软解散了其所有的伦理道德与社会团队,在加速将OpenAI的技术整合到自家商业帝国每个角落的同时,却不再设立专门的团队来确保AI原则和产品设计紧密相关。
此前,谷歌内部也出现过关于AI技术的发展、影响和安全性之间的紧张关系,两位AI伦理研究负责人Timnit Gebru和Margaret Mitchell在与该公司爆发了一场激烈争吵后,分别于2020年和2021年离职。
在公认机会与风险并存的情况下,科技巨头们努力发出信号,证明自己正在认真对待AI中的潜在风险。比如在社会道德伦理团队被解散之后,微软表示仍有三个不同的团队在这个问题上开展工作。
尽管被裁减的道德团队员工也仅有几十人,只是整个科技行业低迷而被裁掉的数万名员工中的冰山一角,在AI高速发展以及大型科技公司主导权越来越重的当下,对有责任出于安全考虑给产品开发速度踩刹车的道德团队进行任何削减,似乎都值得注意。
公开信在最后提到,如今,我们的社会已经暂停其他可能造成灾难性影响的技术,对于人工智能也应该如此,“让我们享受一个漫长的‘AI之夏’,而不是毫无准备地进入秋天”。
元宇宙神评
相关主题
-
《AIGC行业深度报告(7)-ChatGPT:三大主线,AI算力需求井喷!》(附PDF下载)
内容概要:政策端与产业端持续发力,算力建设持续提速;大模型引爆海量算力需求,AI产业量价齐升;全球算力市场持续火热,AI芯片群星闪耀。
-
《兴业证券-AIGC全方位解析与展望》(附PDF下载)
内容概要:Gartner 预计,2022 年 AIGC 占全球数字数据量为1%,到 2025 年,这一比例将提升至10%。
-
《增长黑盒&黑盒点评-2023中国AIGC应用研究报告》(附PDF下载)
-
图解网信办《生成式人工智能服务管理办法(征求意见稿)》V1.0.0(附PDF下载)
内容概要:2023年4月11日,国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》,面向社会公开征求意见,旨在促进生成式人工智能技术健康发展和规范应用。
-
逐浪AIGC⑱丨迈入混战时代:科技公司竞速AI大模型
内容概要:目前AI大模型处于百花齐放的状态。
-
逐浪AIGC⑰丨AI迈入群雄逐鹿时代 阿里巴巴全方位迎战
内容概要:张勇的新开始,也是阿里云的新征程。
-
【元宇宙之约】第019期:AIGC能快速构建元宇宙行业的基础设施
内容概要:在雷涛看来,大模型只是解决基础能力,真正到每一个领域应用还是需要去做自己的数据训练;基础模型需要真正去理解用户,因为用户的问题是千差万别,答案也会千差万别。
-
逐浪AIGC⑯|Meta入局来势汹涌 “生成式AI”引发技术争鸣
-
逐浪AIGC⑭|黄仁勋对话OpenAI创始人 现代AI和ChatGPT如何诞生
内容概要:它还是那个神经网络,只是变得更强大。
-
逐浪AIGC⑬丨英伟达新GPU“炸场”,未来人人都可以是程序员?
内容概要:AIGC算力成本有望大降?
-
逐浪AIGC⑫|制造“iPhone时刻”,英伟达再塑AI算力上限
-
逐浪AIGC⑪|半百微软,扎进AI变局
-
《黑镜》里“自制”AI男友成真,GPT让普通人轻松构建元宇宙
-
逐浪AIGC⑩丨AI热潮下的惊喜、失落与期待
内容概要:国内AI生态的构建同样值得期待。
-
逐浪AIGC⑨丨文心一言实测体验:语文满分、数学学渣、画画水平一般般
内容概要:目前大概是个偏科严重的文科生吧。
-
逐浪AIGC⑥丨文心一言开放测试 百度股价逆风翻盘
内容概要:AI大模型时代降临,本土大厂机会来了。
-
逐浪AIGC⑧丨GPT-4诞生次日,微软Office重生
内容概要:这其实是一场产业叠加的爆发。
-
逐浪AIGC⑦丨在新一轮AI全球竞赛中,中国企业要抓住产业场景优势
内容概要:在AI领域,中国企业也能够走出中国特色。
-
逐浪AIGC⑤丨大模型狂飙
-
逐浪AIGC④丨新的AI浪潮来临,创业者该做什么?
内容概要:ChatGPT正掀起一场新的AI浪潮。
-
AI+元宇宙!Meta离梦想更进一步?
-
放弃元宇宙,转型AI?Meta:不,两个我都要
-
《中国人工智能产业研究报告(Ⅴ):道阻且长,行而不辍》(附PDF下载)
内容概要:AI成为企业数字化、智能化改革的重要抓手,也是各行业领军企业打造营收护城河的重要方向。落地AI应用对企业业务运营的商业价值与战略意义越来越明确。
-
加速元宇宙创新生态,阿里云和伙伴一起探寻奇点
-
AIGC挑战广告狂人!Meta推出AI生成广告服务,已填补公司百亿损失
内容概要:在竞争激烈的广告营销市场中,大数据和AI作用下的精准化打击能起到增益,也能大大降低内容制作成本,但创意、内容以及对目标客户的理解程度才是永恒的核心竞争力。
-
“魔珐科技”获1.3亿美元融资 元宇宙离《终极玩家》还有多远?
内容概要:元宇宙是当下创投市场当之无愧的风口,虚拟人作为入场券其热度也随之攀升,有望成为元宇宙中最先盈利的板块,因此也吸引了众多投资机构、互联网巨头的争相布局。
-
元宇宙“由虚向实”背后:生成式AI技术持续发展升级
内容概要:具备沉浸感、低延时、多元化、随时随地、身份属性明确的多模态内容既是元宇宙的基本单位,也是通往元宇宙的关键路径。
-
魔珐科技创始人柴金祥:虚拟人产业迎来井喷 推进商业复制时机已到
-
《元宇宙的帝国》游戏篇:迈入穿戴设备时代,助力数字经济发展
内容概要:游戏作为最接近元宇宙的应用形态,迭代发展中关注精品内容及平台价值在元宇宙推动下,游戏有望达到“游戏即平台”的下一发展阶段,成为承载元宇宙活动的基础平台。
-
贞下起元:开启面向元宇宙的元研究视角
-
用全球最快 AI 超算秀肌肉后,黄仁勋要用 AI 抓住元宇宙命门
内容概要:我们将在未来十年以数据中心规模加速整个堆栈,再次实现 million-X 百万倍性能飞跃。我已经迫不及待地想看到下一次百万倍性能飞跃将带来什么。
-
喧嚣过后理性看待元宇宙泡沫 二级市场炒作或逐步消失
-
工业互联网场景痛点还没解决,谈什么工业元宇宙?
内容概要:正如《未来呼啸而来》一书中所提到的,工业元宇宙当前还没有产生很大变化,是因为许多技术还处在“欺骗性阶段”,很多力量不会马上发生。它也许还要在这个阶段停留很久,但一旦爆发,将会带来彻底的颠覆。
-
元宇宙——未来数字文明之路
-
被元宇宙裹挟的汽车工业 重生还是灭亡
内容概要:在元宇宙的加持下,汽车工业究竟是实现再次革命,还是走向消亡,答案恐怕就像量子物理学的经典案例 " 薛定谔的猫 " 一样,在装猫的盒子未开启前,没人可以预测未来。
-
《2023年AIGC应用与实践展望报告-甲子光年》(附PDF下载)
内容概要:甲子光年智库特此展开AIGC应用与实践研究,输出《AIGC应用与实践研究报告》,期待与各方共同见证AIGC行业的星辰大海。
-
《AIGC行业深度报告(6)-ChatGPT:存算一体,算力的下一极》(附PDF下载)
内容概要:ChatGPT开启大模型“军备赛”,算力呈现明显缺口。存算一体,后摩尔时代的必然发展,存算一体为人工智能发展的必然选择。
-
【元宇宙之约】第018期:AIGC将为元宇宙解决两个技术难题
-
平台押注资本追捧 视听产业成元宇宙场景应用第一战场
内容概要:报告显示,元宇宙是一个需要长期才能实现的目标,在实现元宇宙的旅程之中会不断地出现像AIGC这样的爆点。有了AIGC支持后,人类至少一只脚已经开始在往真正的元宇宙时代迈进。
-
《AIGC行业深度报告(5)-ChatGPT:加速计算服务器时代到来》(附PDF下载)
内容概要:ChatGPT的竞争本质即大模型储备竞赛,大模型出现带动AI服务器呈现加速状态,服务器架构随负载量扩张而不断优化,数字经济时代,服务器应用前景广阔。
-
中国 AIGC 与元宇宙创新创业创作大赛即将启动
内容概要:在实现元宇宙的过程中,会不断出现像AIGC这样的爆点,而我们将通过大赛的方式去追踪,用大赛去覆盖元宇宙成长过程中的每一个关键技术突破。
-
《AIGC行业深度报告(4)-ChatGPT:百度文心一言畅想》(附PDF下载)
-
各大企业巨亏裁员,元宇宙会是又一个泡沫吗?
-
ChatGPT,将元宇宙拍在沙滩上?
内容概要:“长江后浪推前浪,ChatGPT将元宇宙拍在沙滩上。”在ChatGPT火爆出圈的同时,近年“新贵”元宇宙则显落寞。
-
《AIGC行业深度报告(2)-ChatGPT,重新定义搜索“入口”》(附PDF下载)
-
GPT-4技术报告(附中、英文PDF下载,含GPT-4 System Card_中文)
内容概要:这份技术报告介绍了 GPT-4,一种能处理图像和文本输入并生成文本输出的大型多模态模型。这类模型非常重要,因为它们有潜力被广泛应用于对话系统、文本摘要和机器翻译等领域。
-
Unity中国亮相2023全球人工智能开发者先锋大会
-
如何推进人工智能与元宇宙的协同发展?
-
元宇宙是互联网3.0最有可能候选,5年后才是起点
-
高通CEO:元宇宙是互联网的未来,我们对它的理解只是冰山一角
-
元宇宙是资本的圈钱工具,还是通向未来的桥梁?
内容概要:在2日举行的2022世界人工智能大会法治青年论坛上,来自中国、美国、德国、韩国等多个国家的青年法学家,围绕“元宇宙:适用人类规则的数字世界”这一主题各抒己见,共同探讨如何让元宇宙有更美好的未来。
-
元宇宙乘风而来,人工智能落地如何“去虚向实”?
-
走进WAIC大会:大力发展有中国特色的元宇宙
-
元宇宙的新玩法:实景三维地图和数字孪生
内容概要:除了智慧城市等传统业务,基于工具平台和素材生态,这些实景三维地图也将广泛服务于影视、直播、游戏、线上演唱会、数字展馆等场景,让用户近距离感受元宇宙的魅力。
-
谷歌将掀起“元宇宙地图”大战?国内玩家早已出发