当人工智能机器达到一定的智能水平(即在某天突然达到一种称作“奇点”的状态)之后,它们将会“失去控制”,以我们无法想象的速度自行进化,以至于远远地并且非常迅速地把我们抛在后面。这并非科幻片中才有的场景,而是人工智能专家们在严肃探讨的话题。由于人工智能方面令人吃惊的进展,一些计算机科学家正在争论是否应该对某些研究设限,以防这些研究可能导致人类失去对计算机体系的控制。科学家认为,正如宇宙学上存在着一个让所有物理定律都失效的“奇点”(Singularity)一样,信息技术也正朝着“超人类智能”的奇点迈进。
以人工智能和人类未来为主题的2009奇点峰会(Singularity Summit)就重点探讨了机器超越人类智慧的“奇点”(Singularity)终将到来的时代。
在奇点峰会中笔者受益量多,但该峰会最大的裨益乃其尚未解决的问题。笔者将总结关于“奇点”理论的十大为解难题,与读者共同探讨有关人类智力与机器人智力的哲学道德之争议。
(“奇点”理论:着名未来学家雷·库兹韦尔的“奇点”理论指出在“奇点”来临之时,机器将可通过人工智能进行自我完善,超过人类本身,开启一个新的时代。一些批评者对恶意的人工智能提出了质疑,但越来越多的主流机构开始接受库兹韦尔的看法。)
智力与意识是否仅仅局限于我们所认识并认可的范围?
在谈话中,“奇点”理论之父着名未来学家雷·库兹韦尔将“智力”定义为“预测能力”,这一能力是从我们的祖先尚在大草原中以狩猎为生时,需判定其狩猎对象下一步将移动至何处以便更有效率地捕获猎物这一经验中进化并遗传下来的。如将“智力”的概念定义于此,那么显然电脑在这方面远远要比人类高明(电脑可预报天气,经济动态等)。