适当打击机器人的自信，更有利于它们成长
通常情况下，对自己的能力充满自信绝对是件好事，只要不至于自负。随着机器和软件发展的越来越智能，我们会想是否能让机器也变得充满自信。探索机器人对于自身能力的自我感知性，将有助于指导未来高级人工智能(AI)的构建。
加州大学伯克利分校在读博士生Dylan Hadfield-Menell称，“过度自信的人工智能可能会导致很多问题”。以Facebook的新闻推送算法为例，其目的是为了向用户推荐其想要阅读的内容，然而如果用户不经大脑地直接接收这些自动推送，最终将导致系统推送一些虚假的新闻消息。
图丨被踹完有没有很委屈的感觉?
对于Hadfield-Menell及其同事来说，解决方案是让AI寻求并接受人类的监督。“如果Facebook有这样的觉悟，我们也就不会广受虚假消息的困扰了，”他说。
这种情况下，一个对自己较不自信的算法将更可能尊重一个用户的判断，而不是对自己“过于自信”，自顾自地将自己认为用户想要的内容都推送给用户。
“开关游戏”引发的思考
伯克利团队设计了一个称为“开关游戏”(Off-switch game)的人机互动数学模型，用以探索机器对自己的“自信感知”。
在这个理论游戏中，一个具有“关闭”开关的机器被赋予一个任务。在执行任务过程中，人可以随时按下机器的“关闭”开关中断其任务，而机器人可以自由的选择“关闭”开关，从而使人类不能干扰其执行任务。
实验结果表明：对自己所做事情具有“高度自信”的机器，决不会让人把它关掉，因为它试图最大限度将时间花费在完成任务上。相比之下，“不太自信”的机器总是会让人把它关掉，即使它所执行的任务没有任何差错。
当然，Hadfield-Menell也并不认为我们应该让AI“太不自信”。比如说，一辆自主驾驶汽车的任务是载孩子上学，此时就不能让小孩子获得控制权。在这种情况下，AI就应该相信自己的能力高于孩子，无论情况如何，都应该拒绝孩子随意关掉的指令。
Hadfield-Menell说，最安全的机器人将在这两个极端之间取得平衡。
道德框架至关重要
牛津大学计算机系教授Marta Kwiatkowska说，“那些拒绝让人关掉的机器可能听起来会很难以置信，但是对于制造与人一起工作的机器人的制造商来说，这样的考虑是至关重要的”。
诸如自动驾驶汽车和消防机器人之类的智能机器，在特殊情况下将被要求做出有关人身安全的决策，所以必须尽早制定并安装有关特殊情况下决策的机器人“伦理框架”(ethical framework)，这是至关重要的。
Hadfield-Menell称，“开关游戏”只是探索机器人自我感知的一个开始。他还计划探索机器人如何在获取更多有关自己能力的信息后做出决策改变，比如说，一个煮咖啡智的能机器人有可能意识到自己的任务在早上是更重要的。
最终，Hadfield-Menell希望其研究能够引领AI变得更有可预测性，并使其决策更易于让人理解。“当把一个智能机器放入现实世界中，对于它究竟在做什么，我们当然想做到心里有数”，他说。
相关阅读
- 08-16
- 08-16
- 08-16
- 08-16
- 08-16
- 08-16
- 08-16
- 08-16
推荐阅读
-
-
两连阳为啥还没回本?买入绩优、白马、中大盘股才
一、大盘点评展望周二沪深两市小幅低开后，沪深300权重带动指数震荡上行。最终沪指上涨0 53%报收3410点，K线上收出一根中阳线;深成指上涨1 更多
2017-11-22 16:17:00
-
-
2017百度世界大会李彦宏透露无人车2018年量产 无
一年一度的百度世界大会11月16日在北京举行，每年的百度世界大会，百度创始人李彦宏都会带来他对过去，现在和未来关于互联网和整个IT领域的 更多
2017-11-16 11:17:37
-
-
贵州茅台股价突破700元 贵州茅台股价为什么那么
今日贵州茅台延续昨日强势走势，继续大幅攀升，盘中最高价突破700元整数关口，刷新上市新高纪录，截至发稿，最高价报704 97元，总市值超越8 更多
2017-11-16 10:32:47
-
-
百度世界大会今日召开聚焦智能硬件 百度世界大会
据怀新资讯报道，2017百度世界大会将于16日在北京举行。从邀请函上出现的神秘的盒子推测，本次百度将会有AI硬件以及诸多AI新技术发布。从今 更多
2017-11-16 10:17:03
-
-
中国财富总值全球第二但是超4亿人家庭没有卫生厕
瑞士信贷研究所（CSRI）最新出炉的《全球财富报告》显示，全球财富总额现已达到280万亿美元，比十年前金融危机爆发时高出27%。美国占全球财 更多
2017-11-16 10:07:07
-
-
比特币今日价格大幅反弹逾9% 比特币价格再次突破
在短短两周时间内，比特币价格呈现了非常惊险的过山车。由于对于这款加密货币未来趋势存在争议，上周比特币价格出现暴跌，曾一度低于6000美 更多
2017-11-16 10:04:14
-
-
油价调整最新消息：国内油价今日24时或迎年内最大
新一轮成品油调价窗口将于16日24时开启。国际原油价格一度涨至近两年高位，受此影响，国内油价或迎年内最大涨幅。隆众资讯统计数据显示，以 更多
2017-11-16 09:22:17
-
-
国际油价调整最新消息：EIA原油及汽油库存双双增
美国能源信息署（EIA）周三（11月15日）公布的数据显示，上周美国原油库存意外录得增加，同时汽油库存也意外增长。EIA公布，截至11月10日当 更多
2017-11-16 09:21:49
财经热图
-
今日必看
-
- 2018年，我国开启高质量发展新征途。中央经济工作会议把深化供给...
-
- 【盘面简述】今日早盘，随着油气股的拉升上涨，中国石油和中国石...
-
- 今日市场点评：沪深两市早盘各股指纷纷小幅低开，开盘之后一度呈...
-
- 【今日小结】今日，两市小幅高开，开盘回撤后快速上行翻红，金融...
-
- 今日市场点评：大盘在节后第一天走出了高开低走的行情。在国庆期...
-
- 国新办今日举行新闻发布会，国资委副秘书长彭华岗在回答记者关于...
- 精彩话题
