2017中国商业最具创意人物100
快公司编辑部
FROM THE EDITOR
机器人需要讲伦理吗?
图片
毋庸讳言,人工智能虽在最近几年热得不要不要的,但对于普通家庭用户来说,真正应用级的批量产品尚未出现。
对于AI的从业者来说,这不是什么好消息——毕竟专业用户才可能出于对技术的热爱和推崇做选择,而普通家庭用户虽然没有前者的眼光,但庞大的基数意味着,谁能得其青睐,就能得钱财滚滚而来。
但换言之,在普通用户的热度不够也未必是啥坏消息,任何技术向的应用一旦走到可以面对所有人时,都有可能遭遇的最严峻挑战,其实既不是成本,也不是售后服务……你很可能想不到的是:伦理问题。
克隆,当它只是一种理论上的可能性时,大众只是听听故事而已,但真到克隆羊出现之后,马上就有人跳出来旗帜鲜明地反对,原因不就是它应用在人身上的可能性涉及的伦理问题吗?
不用怀疑人工智能的伦理问题是否存在,复杂一些的不说,只讨论一个假想的具体故事,你就明白了。而如果把这个假想故事改改故事脚本代入真实当中,想想由传播争议可能带来的业界窘境,你就不会觉得“最严峻”这个词过于夸大。
假定A是家庭场景下的机器人,假定它的男主人叫张三,女主人唤作李四,而男主人在正宫之外有“妃”名曰王五。这是基本的背景设定,情节的基本设定是:如果李四假装出差,其实躲在储藏室,试图抓奸。那么当张三带着王五上门时,机器人A要不要提醒张三,关于李四躲着的事情呢?
这里边可能涉及到的难处其实有好几处。
图片: 当人工智能逼近,我们要面对的问题会更加复杂。
难题1:涉及到机器人到底在多大程度上获取主人的隐私信息,但再深究一步,如果前者的智能达到一定程度,完全有可能从主人不觉得敏感的信息中得到让其大惊失色的结论,那怎么办?
难题2:如果A提供了警示,那倒是无愧于它对张三的义务,但是否就对女主人不住呢?
……
解决方案是A激活时需要问‘who is my primary user?我曾经把这个问题丢给业…