隨着科技發展一日千里，人工智能（A.I.）開始取代部分人類工作，甚或超越人類的能力。俄羅斯棋王卡斯帕羅夫曾在棋局輸給電腦深藍。著名物理學家霍金日前在英國《獨立報》撰文，警告創造人工智能或是人類史上最重大的事情，亦可能是人類犯下最嚴重的錯誤，令人類步向滅亡。

霍金在文中表示，人工智能發展若趨成熟，可以消滅戰爭、疾病及貧困。除非人類懂得如何避免發生危機，否則人工智能可令人類滅亡。

霍金又稱，人工智能日後可超越金融市場、人類研究和領袖的智慧，甚至創造出人類不能理解的武器。他指，人工智能對人類的短期影響，在於誰人控制人工智能；長遠來說，人工智能對人類的影響，取決於人類能否控制人工智能。

自我意識能威脅人類

由霍金等權威人士組成的劍橋生存風險研究中心（CSER）領袖、英國著名天文學家里斯（Martin Rees）去年曾表示，不少科學家都擔心人類技術的發展，將為人類帶來滅絕的風險。里斯列出的末日清單更提到，威脅人類的存亡包括擁有自我意識的人工智能系統。