对可控性的担忧其实有点科幻，短期做不到超出控制的水平的……毕竟目前的人工智能还处于“有多少人工就有多少智能”的阶段。 因为题主问的主要就在这个方面，那我就只讲这个方面好了，毕竟失业和伦理大家不是那么关注。 讨论这个问题，一定要明确两组概念：人工智能（Artificial Intelligence，AI）和人工生命（Artificial Life，AL），强人工智能和弱人工智能。（强弱人工智能是作为假说出现的，我这篇回答里指两个假说中的人工智能形态） 以下从人工智能和人工生命两个话题切入，并且穿插强弱两种人工智能的描述分析。题主在描述里的问题放在文末回答。 1.人工智能 人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。 这是人工智能，许多码农在这个领域里挥洒着青春和荷尔蒙。 1) 人工智能应用的现状 目前对人工智能的应用其实相当原始。语言识别、图像识别看上去好像很厉害，其实就是那么几个算法拿语料库图像库训练出来的。这不是“智能”，而是对人类智能的模拟。 为什么这么说？上吧，中文屋！ “中文房间”最早由美国哲学家John Searle 于20 世纪 80 年代初提出。这个实验要求你想象一位只说英语的人身处一个房间之中，这间房间除了门上有一个小窗口以外，全部都是封闭的。他随身带着一本写有中文翻译程序的书。房间里还有足够的稿纸、铅笔和橱柜。写着中文的纸片通过小窗口被送入房间中。根据 Searle，房间中的人可以使用他的书来翻译这些文字并用中文回复。虽然他完全不会中文，Searle 认为通过这个过程，房间里的人可以让任何房间外的人以为他会说流利的中文。 中文屋是对强人工智能（机器拥有思想，能够独立决策）假说的第一次打脸（是强人工智能假说），Searle 指出当时设想的绝大多数人工智能实现方案都不是强人工智能，而是弱人工智能（程序设计者预测会出现的情况，然后做出应对方案，由机器判断符合条件与否并加以执行）。 通过一套完整的流程（从字典里找对应的文字，然后翻译成英文，作答，然后用字典翻译回中文，发回去），一个不懂中文的人可以用中文回答中文问题，让屋子外的人以为他会中文。 这个人...
