古人說:「至道無難,唯嫌揀擇,但莫憎愛,洞然明白。」意思是要掌握宇宙的最高義理其實不難,最怕是一旦存有愛憎之心,清淨自然的本性便從此受污染,人便會墮落了。如果有一天機器也能生出愛惡之心,它亦會失卻自在無礙的境界,陷於跟人類相同的欲念與執着,世界便會從此多事。著名物理學家霍金警告世人,如果繼續發展人工智能,人類或會遭受沒頂之災,大抵就是這個原因。機器在不少範疇上的能力已超越人類千百倍,但目前尚未出現人機爭利的情況,皆因人類有欲望而機器沒有,雙方自然可以和平共存,但隨着人工智能愈發先進,未來便不一樣了。

有飛機工程師研究如何減少航機墜毀的問題,他們想透過人工智能,將飛機的電腦系統設計得很害怕被毀,於是在高空飛行時,若遇上氣流、風暴或附近有其他飛行物,機上的電腦因害怕意外受損,便會自動減速,即使駕駛員想控制加速,系統亦不會接受。這種研究方向本來是為保障人類安全,但若然成功,就是機器向人類抗命的開始。

人工智能是會自己學習的,航機上的電腦既害怕在暴雨中起飛,推而廣之,它也可以不愛在所有雨天中飛行,可以拒絕飛到一切多雨的區域,更可以選擇只降落在沙漠中乾旱的城市,甚至可以偏愛在某一、兩個城市的某一、兩個停機坪停留。一架航機本來可以在人力操控下飛到世界任何角落,但當賦予高水平的人工智能後,它便有了好惡感覺,便會自行「揀擇」,就不再是任由人類操控的儀器了。

飛機有機會反抗人類,其他有人工智能的機器不也一樣?故此霍金提醒人類大限將至,看來並非空言恫嚇。