为什么最近有很多名人，比如比尔盖茨，马斯克、霍金等，让人们警惕人工智能？

热血沸腾！现在想尽量活长一点好等到灭绝或永生！

人类阻挡不了超人工智能，就像猩猩阻挡不了人类

绝对是知乎最牛文章之一。

很抱歉，在思考的时候，我的智商拖人类后腿了，但我突然感觉我的眼前出现了一大片色彩，这些色彩让我热血沸腾，让我情不自禁的期待明天的世界。

真正的浪潮之巅。文中遗憾缺失的内容我想补充。技术上的限制（或者说是可能的硬伤）是物理极限。摩尔定律在微观尺度不能永远成立(7纳米左右就是半导体极限了)；超等级运算的问题还有物质能量来源和熵：已知的宇宙中原子数量、能量都是有限的，并不能支撑无限的指数上升。（当然超级智能也许可以用这些有限资源算出来解决办法…但是进行这些运算需要的资源超出了我们所能理解的范围）

我觉得人类最终是永久灭亡的，因为 还没有人能从未来穿越回来

无法赞同。1.作者的问题。一再表明自己中立，却一再强调“世界上最伟大科学家都这么想”，“K被比尔盖茨称赞，K的神奇预测，K说了xxx”，以此来诱导人接受作者结论。2.翻译这是引用资料，不是翻译吧。学术论文或者外国严肃文献，乃至国外论坛的用词都不会这么随意。一股民科气息。。。3.既然超人工智能是人类所无法理解的，那么人类对于达成超人工智能的预测又有几分可信呢。4.以及，发展问题是具体问题的攻关，而非从大数据角度超越问题来谈速度。21世纪在前人预想中还是太空时代呢，现在如何？作者以速率来断定未来，还畅谈未来的各种变化，看不出来这脑洞跟线性预测未来有何分别。5.“智能”的极限意味着什么，这应该是一个严肃的问题吧。不是作者的各种人类蚂蚁猩猩猴子可以比喻的。智能有无极限，智能在何种程度上能影响物质，这些都已经是学界共识么？如果按作者给出的智能程度，即便是“先知模式”，也没有什么逆天之处。如果是《超体》那般的超能力，那么依据何来？有研究表明智能可以直接干涉物体么？物理学对此的回应是什么？

我们现在所说的上帝会不会就是第一个掌握永生的人（人工智能）呢？想象一下，第一个掌握永生的人出现后，他没把这项技能交给所有人，他成了神，但他的意识情感都是人类化的，那么当他无限期的存活了很久以后，终于他把整个宇宙都弄明白了，然后觉得好玩就又随手弄了个宇宙大爆炸（可能对那时的他来说是小范围的），然后宇宙万事万物再来个轮回……又或者说我们就是这个神创造的结果，而神正在看着我们的一举一动，等到我们快达成超级智能那一步时出手阻止（对他来说神只能是唯一的不是吗），然后毁灭，然后再来一次创世纪…………不知道你晕了没，反正我是晕了

不会呀，意犹未尽的感觉，感觉想象力爆炸啊

我觉得应该骄傲啊，自己能见证这么伟大的一个时刻，不管人类最后是永生还是灭绝，这都是人类历史上的重大变革，能生在这么一个时代应该是。。。怎么说，至少不会无聊