Superior Intelligence by Tad Friend
好奇杀死猫。人类的好奇心在什么时候会杀死自己？很多科学家担忧，一旦人类制造出了智商高于我们的人工智能，或者说强人工智能（Artificial General Intelligence， A.G.I），人类的末日就到来了。
这篇文章的作者考察了诸多科幻小说、电影以及科学家和工程师们设想中，未来强人工智能的模样。不管这些人工智能是忠实执行人类给它的任务，还是试图发展自己的想法，结果似乎都不怎么乐观。
如果你问，可以给强人工智能制定规则，让它始终成为人类的保护者和朋友吗（就像阿西莫夫的机器人三定律）？保护人类这一条规则本身，就可能让它最终成为我们的敌人。
MIT的教授Max Tegmark设想了12种未来人工智能发展的情况，在其中对人类最友好的一种设想中，强人工智能成为了“慈爱的独裁者（Benevolent Dictator）”，把地球变成一个大乐园，大部分人可以在其中无忧无虑的生活，只要你遵守它制定的规则。
强人工智能或许有一天终会出现，面对一个看上去不太乐观的未来，应该怎么办？我挺喜欢文中这段话，全文摘抄如下：
“Tegmark concludes that ‘it appears that we humans are a historical accidents, and aren’t the optimal solution to any well-defined physics problem. This suggests that a super-intelligent AI with a rigorously defined goal will be able to improve its goal attainment by eliminating us.’ Therefore, ‘to program a friendly AI, we need to capture the meaning of life.’”
我理解这段话的大意是，费米悖论认为，在银河系中就有数十亿适合生命生存的星球，但我们并没发现任何其它生命。这或许说明，人类这种存在是个意外，宇宙的良好运行大概并不需要我们。如果出现了某种超级人工智能，目标是让宇宙变得更好，它达成这个目标的办法可能就是首先消灭人类。所以，要制造出友好的人工智能，我们得先知道人类生存的意义到底是什么。
我觉得这挺有道理。我们一直在想要制造人工智能出来帮助我们干这干那。或许应该先想想，为什么要干这干那？
那么，人类生存的意义到底是什么呢？想了半天，也只能想到很多电影、小说里提供的一个大俗的答案：“爱”。我想的爱是《海伯利安》里所说的那种共情的能力。我们可以感知到其它人、其它生命的痛苦与欢愉，甚至可以把感情投射到无生命的物体上。
人类的存在太小太小，在宇宙万物中渺如芥子。我们只能运用这共情的能力，勉力记录下所知所感的一切。即使面对同一样事物，每个人的所知所感也不同。数十亿人的感知，大概能让宇宙的层次也更丰富一点。
我有点儿迷信，相信思想和感觉或许能作用于物质，哪怕只有根本无法察觉的一点点。也可能从更高层次看来，思想和物质没有区别。
或许，这就是人类存在的意义？
不过，这么想会不会又太自大了。太多的小说和电影都将爱作为可以解决一切问题，创造奇迹的源泉。我当然也希望能这样。但在黑暗无垠的宇宙中，在冰冷、机械、规律的宇宙活动看来，它真的需要这一点点爱吗？
没有评论:
发表评论