帮大家省流摘要一下:
- 通用人工智能(AGI)指达到或超过人类智力,具备推理、规划和学习能力,可以解决人类可以完成的各类问题的人工智能。
- 大多数科学家和技术人员对实现 AGI 保持乐观,认为 AGI 是可以实现的;
- ChatGPT 不是 AGI(GPT-4 甚至 GPT-4v 也不是),且目前没有人知道明确的 AGI 路径;
- 目前(Metaculus)对 AGI 降临预测的中位数为 2031 年,且这个预测近年来正在逐渐缩短;
- AGI 降临即为「AI 奇点」,世界会因 AGI 降临而发生剧变。
<hr/>什么是 AGI
通用人工智能(AGI)的概念较为宽泛,或者说没有准确的定义[1],所以很多人会觉得 AGI 是一个概念不甚清晰的话题。不过简单理解,AGI 就是达到或超过人类智力,具备推理、规划和学习能力,可以解决人类可以完成的各类问题的 AI 系统。
在 OpenAI 的章程中[2],他们对 AGI 的定义是:highly autonomous systems that outperform humans at most economically valuable work(能够在最具经济价值的工作中超越人类表现的高度自治的系统)。
马库斯对 AGI 的定义则是[3]:any intelligence (there might be many) that is flexible and general, with resourcefulness and reliability comparable to (or beyond) human intelligence. (任何灵活、通用的,其智慧和可靠性相当于或超过人类)。
AGI 能否到来?
现在大多数研究人员对能够实现 AGI 是乐观的,其支持者的主要理论就是 Scale law/ Moore law。
在之前一次对 Sam Altman 的采访中[4],他就提到:现在(GPT-4 阶段)模型的缩放定律依然成立,OpenAI 会继续尝试让模型变得更大。大模型对 AGI 有着重要的意义,如果模型能力可以继续随着数据和算力增长 Scale up 下去,AGI 就会很快到来,否则 AGI 就还很远。
缩放定律的背后则是摩尔定律,是算力的倍增。而一些技术人员认为[5],人类的智力是相对固定的(除非有其他开发方式),但机器的智能则取决于算法、数据和算力,而根据摩尔定律,算力依然在发展,假定人类的智能是固定的,而机器的智能(在遇到瓶颈之前)不断进步甚至倍增,那么终究会赶上人类的智能水平。即使在未来传统计算机逼近摩尔定律的极限,依然可以靠量子计算的进步继续推动 AI 发展。
至于说,ChatGPT 或 LLMs 能不能演变成 AGI,很难说,尽管在 GPT-4 发布后,微软写了一篇名为 Sparks of Artificial General Intelligence: Early experiments with GPT-4 的论文[6]。
对 AGI 到来时间的预测
对于 AGI 的诞生时间,在 2010 年之前,大家普遍认为需要大约 50 年时间;但近年来,随着大语言模型呈现出的效果,特别是 ChatGPT 引领的 AI 热潮,让大家普遍对 AGI 更加乐观,预测时间普遍提前(而企业界的人往往又比学术界更乐观)。
比如 Hinton 就在采访中说[7],他对 AGI 的预期从 20 年到 50 年变成了 20 年以内。
再比如,在国外著名的预测网站 Metaculus 上,有一个关于 AGI 的投票统计[8]:
目前社区预测的中位数是 2031 年 12 月。从预测时间的趋势图也可以看出,在 2020 年之前,大家的普遍预期还是在 2050 年左右,但去年以来,这个时间已经步步逼近到了 2031 年(几次较为明显的预测变化是 Gato、ChatGPT 和 GPT-4 的发布)。
不过,预测的意义不大,在历史上,有过很多乐观或悲观的失败预测。上世纪六十年代 AI 刚提出时,科学家们普遍乐观,认为二十年左右就会出现匹敌人类的 AI;再比如 2016 年时,专家们还在预测 AI 仍需 8 年才能在围棋上击败人类,结果没过多久,AlphaGO 就打了大家的脸[9]。
总之,技术进步可能会加速 AGI 步伐,也可能会遇到难以逾越的瓶颈。目前我自己的期望是 2030 年,最好是五年后的 2028 年。
AGI 的影响
奇点临近[10]。
【待续】 |