在人工智能大肆襲來之時，人們可能更期待它將對我們的生活帶來哪些幫助的美好愿景。可你想象過當機器人擁有足夠的自信時，會阻止人類給它斷電嗎？這一敏感而又驚悚的問題在New Scientist 網(wǎng)站上的一篇名為“Robots will be more useful if they are made to lack confidence”的文章中被挑了出來。 伯里克團隊為了探索計算機的“自信”，設(shè)計了一個人與機器之間相互作用的數(shù)學模型，稱之為“開關(guān)游戲”。 在這個理論游戲中，人們給予一個有著開關(guān)按鈕的機器人一定的任務(wù)。而一個人可以隨意愿自由的按下機器人的關(guān)閉按鈕，但是機器人可以選擇禁用其開關(guān)，使這個人無法關(guān)閉。 就像我們看到會聊天的服務(wù)機器人，它們?yōu)槭裁磿幸粋€屬于自己的語境，比如金融類、導診類、酒店服務(wù)類等等，都是基于技術(shù)人員提前輸入好算法，并且可以針對用戶需求來輸入不同領(lǐng)域的語言信息，因此才有了屬于它自己的語境。 然而， Hadfield-Menell 并不認為我們應該讓自動操作系統(tǒng)沒有安全保障。例如，如果一個自動駕駛的汽車正載著一個孩子去學校，那么這輛汽車永遠也不應該讓孩子去控制它。因此又回到了那個問題：人類智能和人工智能的邊界在哪里？ 無論是“機器人收稅論”還是“人工智能邊界論”，當處于機器人發(fā)展初期 ，機器人帶給人們生活方式的改變讓我們欣喜，不過當進入人工智能深度學習，真正培養(yǎng)起了機器人具有選擇能力的時候這個開關(guān)還會真正掌握在人類手中嗎？