無需人類干預(yù)就能思考和采取行動的機(jī)器人，正快速從科幻小說中變成現(xiàn)實(shí)。核能、航天、制造業(yè)以及農(nóng)業(yè)等領(lǐng)域都在開發(fā)自動系統(tǒng)，用以代替人類執(zhí)行危險或艱難的任務(wù)，自動駕駛汽車也即將出現(xiàn)。
霍金不久前曾警告，隨著機(jī)器人學(xué)會自我思考和逐漸適應(yīng)環(huán)境，人類將面對不確定的未來，他認(rèn)為開發(fā)完全自主的人工智能可能導(dǎo)致人類被終結(jié)。馬斯克也曾將建造人工智能機(jī)器比作“召喚惡魔”。
許多人擔(dān)心智能機(jī)器人可能推翻人類，為此英國謝菲爾德大學(xué)、利物浦大學(xué)、西英格蘭大學(xué)以及布里斯托大學(xué)發(fā)起預(yù)防人工智能統(tǒng)治世界的計(jì)劃,旨在預(yù)防人工智能統(tǒng)治世界，確保它們遵守規(guī)則。這個項(xiàng)目將持續(xù)到2018年，項(xiàng)目成本140萬英鎊（約合人民幣1359萬元）。
參與此計(jì)劃的利物浦大學(xué)教授邁克爾·費(fèi)希爾（Michael Fisher）說：“我們的目的是開發(fā)自動系統(tǒng)的正式驗(yàn)證技術(shù)，以處理安全、倫理問題，保證自動系統(tǒng)的合法性和可靠性。”利物浦大學(xué)主要致力于研發(fā)“驗(yàn)證工具”，為智能系統(tǒng)做出的決定提供數(shù)學(xué)證明，專家可監(jiān)測未來機(jī)器人的行為。布里斯托大學(xué)的研究人員則負(fù)責(zé)開發(fā)和演示“道德”機(jī)器人。
