展望人工智能的未来.pdf

展望⼈⼯智能的未来 【在线直播】《TensorFlow实战》作者、PPmoney⼤数据算法总监黄⽂坚⽼师即将开课：，本次课程集中讲解Deep-Q Network及 其TensorFlow的实现。 我们的未来将不可避免的与⼈⼯智能绑在⼀起，那么⼈⼯智能将朝向哪个⽅向发展呢？对于⼈⼯智能未来的发展，我们最好的猜想有哪些 （近期和远期）？如果真的创造出⼀个有意识的⼈⼯智能，⼜会有哪些伦理性和实践性的思考？在这个投机的社会，⼈⼯智能应该被赋予权 利，⼜或是被⼈们忌惮？ 上周，我们讨论了⼈⼯智能的过去及其现状——关于当代⼈⼯智能，弱⼈⼯智能与强⼈⼯智能和通⽤⼈⼯智能（以下简称 AGI）三者的差 异，还有⼀些有关意识构成的哲学思想。弱⼈⼯智能早已渗透在我们的⽣活中，主要以专门⽤来智能地执⾏特定任务的软件的形式。强⼈⼯ 智能则是最终⽬标，⽽真正的强⼈⼯智能甚⾄更像是我们从⼀些虚构⼩说中所熟悉的那样。 许多⼈⼯智能研究者终其⼀⽣，都在努⼒向 AGI 接近。尽管 AGI 不⼀定具有任何形式的意识，它却能处理任何与数据相关的⼯作。当然， ⼈类总是有试图预测未来的天性，这也正是我们即将讨论的内容。对于⼈⼯智能未来的发展，我们最好的猜想有哪些（近期和远期）？如果 真的创造出⼀个有意识的⼈⼯智能，⼜会有哪些伦理性和实践性的思考？在这个投机的社会，⼈⼯智能应该被赋予权利，⼜或是被⼈们忌 惮？ ⼈⼯智能的未来 研究者对⼈⼯智能在未来的发展所持的乐观态度在这⼏年有了变化，当代专家之间也存在着激烈的争论。在之前的⽂章中提到的 Trevor Sands 是 Lockheed Martin 公司的⼀名⼈⼯智能研究者，对此，他有着⾃⼰谨慎的观点。他强调他的⾔论只是代表他个⼈，与他的雇主⽆ 关。他这样说到： ⾃从 AGI 作为⼀个概念被提出以来，研究者（和那些乐观主义者）⼀直坚持说它"马上就要来了"。⽽我个⼈认为，AGI 将在未来半 个世纪内出现，因为硬件赶上了理论。有更多的公司会看到⼈⼯智能进步的潜⼒。实际上，对⼈⼯智能的持续⽽努⼒的研究最终的结 果就是 AGI。 在这样的时间框架⾥，甚⾄连有知觉的⼈⼯智能也很有可能出现,正如⼀个叫做Albert（⼀个希望我们在⽂章中使⽤他笔名的⼈⼯智能研究 者）的⼈所说： 我希望在我有⽣之年就可以看到 AGI。⾄少我希望机器智能可以发展到⼈们要讨论它们是不是真的有意识。这实际上意味着⼀个更困难的问 题。如果感知意味着"⾃我意识"，那么不难想象它是⼀个有⾃我模型的智能机器。 Sands 和 Albert 都坚信对神经⽹络和深度学习的现有研究路线是正确的，在不久的将来也极有可能引领着 AGI 的发展。在过去，⼈们要 么只关注雄⼼勃勃的强⼈⼯智能，要么只关注范围有限的弱⼈⼯智能。AGI 的中间地带，特别是由神经⽹络表现的中间地带，似乎是到⽬前 为⽌最有成效的研究，也最有可能使⼈⼯智能在未来⼏年更进⼀步。像 Google 这样的⼤公司肯定是这样认为的。 强⼈⼯智能的强⼤和伦理 ⽆论何时谈起⼈⼯智能，总是有两个最重要的问题：它将如何影响⼈类，我们应该怎样对待它？⼤众的想法常常会受到虚拟⼩说的影响，科 幻⼩说中也确实包含和这些问题有关的例⼦。⼀个⾜够卓越的⼈⼯智能会不会像 Skynet 中那样试图去消除⼈性？⼜或者，⼈⼯智能是否应 被赋予权利，来避免出现像 Artifical Intelligence:A.I. ⾥的暴⾏？ 在这两种情况下，有⼀个共同的主题，就是技术奇点是因真正的⼈⼯智能的出现⽽产⽣的。技术奇点被定义为在⾮常短的时间内发⽣的⾮常 ⼤的进步。意味着，⼈⼯智能可以进⾏⾃我提升，或者⽣产出更先进的⼈⼯智能。因为这发⽣的很快，所以⼀个戏剧性的进步可能会在⼀夜 之间发⽣，从⽽产⽣⼀个⽐⼈类最初创造的⼈⼯智能更卓越的⼈⼯智能。这可能意味着我们最终会得到⼀个超级智能的恶意⼈⼯智能，也或 者是⼀个有意识和权利的⼈⼯智能。 恶性⼈⼯智能 如果这个由我们假设的超级⼈⼯智能不喜欢⼈类，我们该怎么办？或者说，他对我们熟视⽆睹，我们⼜该怎么办？我们是否应该惧怕这种假 设，并采取预防措施来阻⽌他？⼜或者，这些恐惧只是因为我们那些毫⽆根据的⽚⾯想法？ Sands 假设"AGI 将彻底颠覆⼈性，⽽它的消极和积极影响是取决于他如何被应⽤的，与分裂原⼦⼀样，他们都被认为是⼀把双刃剑"。 当然，这仅仅是指 AGI,并不是强⼈⼯智能。那么知觉，意识和强⼈⼯智能⼜有哪些可能性呢？ 这种假设的潜在性更有可能不是来⾃于恶意⼈⼯智能，⽽是毫不相关的⼀类。Albert 提出了这样⼀个看似简单的任务："假设你是⼀个回 形针制造⼚的拥有者，你让 AGI 最⼤限度地⽣产回形针,AGI 使⽤它卓越的智能制定了⼀个⽅案，它将整个地球都变成回形针！" 通过这样⼀个有趣的实验，Albert