编者语：当人工智能机器达到一定的智能水平（即在某天突然达到一种称作“奇点”的状态）之后，它们将会“失去控制”，以我们无法想象的速度自行进化，以至于远远地并且非常迅速地把我们抛在后面。这并非科幻片中才有的场景，而是人工智能专家们在严肃探讨的话题。

　　当人工智能机器达到一定的智能水平（即在某天突然达到一种称作“奇点”的状态）之后，它们将会“失去控制”，以我们无法想象的速度自行进化，以至于远远地并且非常迅速地把我们抛在后面。这并非科幻片中才有的场景，而是人工智能专家们在严肃探讨的话题。由于人工智能方面令人吃惊的进展，一些计算机科学家正在争论是否应该对某些研究设限，以防这些研究可能导致人类失去对计算机体系的控制。科学家认为，正如宇宙学上存在着一个让所有物理定律都失效的“奇点”(Singularity)一样，信息技术也正朝着“超人类智能”的奇点迈进。

　　以人工智能和人类未来为主题的2009奇点峰会(Singularity Summit)就重点探讨了机器超越人类智慧的“奇点”(Singularity)终将到来的时代。

　　在奇点峰会中笔者受益量多，但该峰会最大的裨益乃其尚未解决的问题。笔者将总结关于“奇点”理论的十大为解难题，与读者共同探讨有关人类智力与机器人智力的哲学道德之争议。

　　“奇点”理论：著名未来学家雷·库兹韦尔的“奇点”理论指出在“奇点”来临之时，机器将可通过人工智能进行自我完善，超过人类本身，开启一个新的时代。一些批评者对恶意的人工智能提出了质疑，但越来越多的主流机构开始接受库兹韦尔的看法。

　　智力与意识是否仅仅局限于我们所认识并认可的范围？

　　在谈话中，“奇点”理论之父著名未来学家雷·库兹韦尔将“智力”定义为“预测能力”，这一能力是从我们的祖先尚在大草原中以狩猎为生时，需判定其狩猎对象下一步将移动至何处以便更有效率地捕获猎物这一经验中进化并遗传下来的。如将“智力”的概念定义于此，那么显然电脑在这方面远远要比人类高明（电脑可预报天气，经济动态等）。

　　当然，人类的预测能力也有机器所无法涉及的领域，比如判定女友喜欢那种花这种事只有人类才可加以估计和推测。

　　假如这个世界尚有我们所未曾认识到的智力类型，那么如果机器通过人工智能进行自我完善并发展出一种新型的智力，我们又怎能意识得到呢？假设真有其他类型的智力存在于这个世界，那么如果机器发展出一种新型的意识，我们又怎么对其进行鉴别和认识？

　　人工智能是否会将人类灭绝？

　　在峰会上，很多人都担心人类终有一天会断绝在人工智能之手。但这些杞人忧天的偏执狂却无一人可解释电脑程序将如何杀死人类。

　　还有人担心，人类是否会失去对机器的控制，使得人工智能机器破解并进入核弹系统，而后随意发射核武器？

　　人工智能会在意自己失聪，耳聋，或失明？

　　世界首台电脑诞生时，闪入它脑中的第一个念头绝不是“天哪！我居然没有眼睛！看不到这个世界！”一个并无实体依存于一台机器才能运行的所谓“智能”的最大缺陷即严重缺乏感官。毫无疑问，人类可被激怒，倘若这个世界上出现了第一台被激怒的人工智能，那么这将意味着什么呢？

　　期待机器有感情的那一天吗？

　　人工智能会沮丧吗？毫无疑问，第一台人工智能机器会感到无比孤单。将来当第一例具有意识的机器横空出世时，人类不会想要这种看似人性化服务实则掌握人类社会经济工具和武器装置的朋友。

　　人工智能模拟大脑，亦或人类大脑本就以电脑方式运作？

　　Jurgen Schmidhuber是一位人工智能研究所的科学家。他指出人类大脑处理信息的方式与zip解压缩文件如出一辙，我们区别无趣与有趣的基准是衡量这个事物包含多少可被我们深刻加工并压缩的新鲜信息含量。

　　Jurgen Schmidhuber揭示了大脑是如何通过扩展个人体验而处理信息。这使我们不禁好奇，难道我们的大脑的运作已经趋向于电脑方式了？人类大脑是以处理不同的软件而造就人们不同的个性的吗？这是否意味着“奇点”时代不是以人工智能超越人类的方式到来，而是伴随着人类意识到大脑实为电脑运行方式这一事实到来的呢？

[page_break]

　　“禁忌”程序可战胜自由意志？

　　在关于如何避免人类被智能机器所统治的讨论当中，许多发言人都强调了向智能机器人灌输人类道德伦理的重要性。也有人提出为何不直接编辑杜绝机器人屠杀人类的程序。但是，一旦“奇点”到来，机器有了自己的自由意志，他们当然可以选择不去遵守这些程序。人类本身不就是在建立规则与不断犯规中发展的吗？

　　弗洛伊德也适用于人工智能？

　　如果人工智能果真发展出自由意志与智力，那么他们的大脑也和人类大脑一样复杂吗？他们也会有无法理解，控制和涉及的领域吗？如果弗洛伊德的自我，本我和超我乃生物与感知的结果，那么人工智能也会有宗教信仰和心理问题吗？如果人工智能将人类奉为神明，或者造物主，那么会导致他们对人类产生俄狄浦斯情结吗？如果是这样，那么他们对人类的杀戮就有理可循了，毕竟俄狄浦斯终归没有逃出杀父娶母的命运。

　　人工智能会真诚地协助人类克服劣根性？

　　每个网民都知道，网络是开阔眼界获取信息的重要工具，同时也是一个肆意散播不良信息的平台。那些鼓吹全球变暖是一个政治阴谋，将奥巴马与斯大林和希特勒相提并论，并以帮助尼日利亚公主为名招摇撞骗的人以网络为面具无处不在。那么具有人工智能机器是否会抓住这一软肋，不怀好意地会为人类的欲望，贪婪和憎恨铺平一条不归路呢？其实更值得担心的并非智能机器，而是人类本身。

　　智能机器将对人类不屑一顾？

　　有乐观的人工智能专家大胆设想：智能机器人实际上是人类演化的后代，它们从我们人类中成长，学习我们的技能，与我们拥有共同的价值标准，可以看成是我们人类思维的后代。

　　然而对人工智能怀有敌意与排斥的人则认为接受人工智能将比人类强大的事实不会揭开长久以来未解的哲学问题，如人生意义及虚无主义。或者，如果有一天机器当真发达到如此地步，也许他们对人类根本不屑一顾呢？1. 奇点来临，无人接招？

　　最后，Anna Salamon告诉我，“奇点”的影响力将波及到世界上每一个人。然而我却不甚认同这一观点。

　　去年，一名飞行员在亚马逊流域发现了一个从未与外界有过接触的新部落。在南美洲，亚洲和非洲的一些地区，人们的生活如同这一新部落的民众般，别说30年了，甚至300年以来都未曾有过任何变化。因此，当纽约曼哈顿西区富可敌国的贵族以投入硬币来操控一个高端智能机器人时，生活在其他区域，尤其是落后地区的人们是无法蒙受这一科技恩惠的。实际上，他们也根本不在乎何谓“奇点”。

　　如果“奇点”影响范围只是小众，而更为众多的人类无法支付这一服务，甚至从未听闻或根本不屑一顾，那么奇点峰会所探讨的机器人反超并主宰人类的假设，是否仅仅是纸上谈兵呢?亦或，“奇点”带来的只是对贫富差距，南北差异的深化？笔者再次重申，更值得担心的并非智能机器，而是人类本身。