我们的未来

南天门
一 五层监控体系像DNA一样写入机器人,使它们永远不能背叛人类? “五层监控是对机器人的规范,机器人对人类做出的每一个行为都必须符合这五个原则,不符合这些原则的行为无法做出。五个原则是,个人的意志与行为不可侵犯、销售国家或地区的法律、联合国宪章、机器人不得介入人类个体之间的纷争以及,对人类深深的爱。”(IDR,International Domestic Robot Corporation ,即国际家用机器人公司)的首席科学家近日在一个人工智能交流会上说。 “把对人类的爱用程序的方式写入机器人核心系统,在我看来既过分又无聊。完全没有必要嘛!可是最近民情汹汹,我们也只好这样做了。它仅仅以一个系统,将爱人类写入有用吗?有四个原则完全可以。机器人做出的每一个行为都必须收到这些原则的检验,不然就无法做出来。如果你很爱自己的家人,你会做出对他们不利的事情来吗?不知道现在的人在担心什么。” 在介绍完五个原则之后,他谈到了近年来流行的科幻电影和小说。他说:“最近几年的科幻电影有点奇怪,只要涉及到机器人结局都是机器人把人类灭了。没有任何一部电影将机器人塑造成正面形象。我不反对艺术的夸张,可是这样未免也太小题大做了。从深蓝战胜卡斯帕罗夫开始,机器人终将统治人类的声音越来越响。可是直到现在,人类使用机器人已经快六十年了,发生过一起机器人攻击人类的事件?不都是人为的吗?” 老李点了一下屏幕旁边的相似推荐,软件于是又推荐了两则新闻。一则是最著名科幻作家的反驳。他说,科幻作品最重要的功能是给人类探路,提醒人类可能出现的灾难。我们不可能完全按照科学理论写小说。另一篇是被国际人工智能审查委员会辞退的科学家的。他因为反对将爱人类写入人工智能系统而被辞退。他说人类强行一个没有生命的物体去爱人类。这种行为既可笑又霸道。 吴婷五十多岁了,仔细打扮之后老李还是能想起她当年的风韵。吴婷提着包,老李掺着她,出卖而…