在人工智能大肆袭来之时，人们可能更期待它将对我们的生活带来哪些帮助的美好愿景。可你想象过当机器人拥有足够的自信时，会阻止人类给它断电吗？这一敏感而又惊悚的问题在New Scientist 网站上的一篇名为“Robots will be more useful if they are made to lack confidence”的文章中被挑了出来。

伯里克团队为了探索计算机的“自信”，设计了一个人与机器之间相互作用的数学模型，称之为“开关游戏”。 在这个理论游戏中，人们给予一个有着开关按钮的机器人一定的任务。而一个人可以随意愿自由的按下机器人的关闭按钮，但是机器人可以选择禁用其开关，使这个人无法关闭。

就像我们看到会聊天的服务机器人，它们为什么会有一个属于自己的语境，比如金融类、导诊类、酒店服务类等等，都是基于技术人员提前输入好算法，并且可以针对用户需求来输入不同领域的语言信息，因此才有了属于它自己的语境。

然而， Hadfield-Menell 并不认为我们应该让自动操作系统没有安全保障。例如，如果一个自动驾驶的汽车正载着一个孩子去学校，那么这辆汽车永远也不应该让孩子去控制它。因此又回到了那个问题：人类智能和人工智能的边界在哪里？

无论是“机器人收税论”还是“人工智能边界论”，当处于机器人发展初期 ，机器人带给人们生活方式的改变让我们欣喜，不过当进入人工智能深度学习，真正培养起了机器人具有选择能力的时候这个开关还会真正掌握在人类手中吗？