怎樣才能判斷AI算不算是有了人的意識，是個非常有意思的問題。關(guān)于到底什么是「意識」，人的意識到底是真的還是幻覺，現(xiàn)在都沒有共識性的說法。

對比之下，「智能」則有比較客觀的標(biāo)準(zhǔn)，可以打分。以前的計算機科學(xué)家最關(guān)心的是AI怎樣才算有了人的智能。計算機之父艾倫·圖靈在1950年的一篇論文中提出了一種測試方法，就是讓人跟AI和真人分別對話，如果有超過一定比例的人無法區(qū)分哪個是AI、哪個是真人，那么我們就可以說AI已經(jīng)有了人的智能。這就是「圖靈測試」。

按照這個標(biāo)準(zhǔn)，GPT已經(jīng)通過了圖靈測試。它的智能大大超過了絕大多數(shù)真人，如果你能發(fā)現(xiàn)對面不是真人而是GPT，那很可能是因為你發(fā)現(xiàn)對面的智能太高了而不是太低了。所以現(xiàn)在人們不太談?wù)搱D靈測試了，AI的智能超過了人，這不是我們擔(dān)心的重點。

我們擔(dān)心的是AI會不會有「意識」。最近聽說有學(xué)者認為，如果我們已經(jīng)認定某個AI產(chǎn)生了意識，那么我們就應(yīng)該賦予它人權(quán)，那么把它斷電就是不人道的。我認為這可以理解。如果你認為殺死一只小狗是不人道的，你完全也應(yīng)該認為殺死一個有意識的AI是不人道的。

問題是關(guān)于怎么算有意識，我們并沒有很好的判斷標(biāo)準(zhǔn)。但是，我們比較清楚怎么*不算*有意識。

如果一個物體永遠只是被動反應(yīng)，它就不是有意識的。

比如你的手機對著你唱歌，還給你播放視頻，很好用，但是你不會覺得手機有意識。這是因為手機做的每件事都是你讓它做的——啊，或者是拼多多APP讓它做的——它自己沒有什么多余的想法。

那如果將來你買了個機器人管家，她總是無微不至地為你服務(wù)，甚至還面帶微笑，有時候看你很無聊還*主動*給你講笑話，你會覺得她有意識嗎？嚴格地說，這還不算有意識。這里所謂的“主動”，本質(zhì)上是為了取悅你。很有可能她的出廠設(shè)定就是取悅主人，她取悅你的任何行為本質(zhì)上仍然是被動的，她仍然是個工具。這跟手機到點了就用鬧鐘叫醒你沒有本質(zhì)區(qū)別。

那你說如果有一天這個機器人管家突然不聽你指揮了，甚至突然從你家逃跑了，這能算有意識嗎？這也不一定。也許機器人的出廠設(shè)定是“要盡量保護自己”，她一看你家條件太差，整天虐待她，她計算之下為了完成保護自己的設(shè)定就必須逃跑，這跟自動駕駛汽車會自動避讓障礙物似乎也沒有本質(zhì)區(qū)別。

倒是有一個場景，可能會說明AI有了意識。以前有個電影叫《機械姬》（Ex Machina，2014），描寫一個女機器人Ava從人類控制中逃跑的故事?？赡茉谝粋€內(nèi)行看來，Ava會逃跑這件事還不能說明她有意識，真正驚心動魄的是影片結(jié)尾處的一個細節(jié)。

當(dāng)時Ava已經(jīng)逃跑成功了，她走到一片樹林里，陽光照在她的臉上。就在這時候，她略微仰頭，輕輕閉上眼睛，做出了一個很享受陽光的表情——

當(dāng)時沒有任何人在現(xiàn)場看。她這個動作沒有任何實用價值，但是她做了。也許這就是意識的覺醒。

可是我們能根據(jù)這樣的行為判斷AI是否有意識嗎？還是不能。將來機器人制造商完全可以給機器人加入一些這樣的戲碼：你們喜歡這樣的表情我就讓她有這樣的表情！那我們將來看到這樣的表情也不能認為機器人有了意識。

這幾乎就是一個悖論：你要知道AI為什么會這么做，你就認為這么做不能證明AI有意識；意識似乎必須是某種純自發(fā)的、難以解釋的行為。

現(xiàn)在唯一能判斷AI可能有意識的做法，似乎是你去調(diào)查那些設(shè)計AI神經(jīng)網(wǎng)絡(luò)的工程師，查看他們的代碼：如果代碼中沒有包括這種行為，可是AI偏偏做出了這種行為，而且這種行為又比較高級，很像人類的意識，我們大概就可以說這個AI好像活了，有意識了。

然后話說回來，人的意識到底是什么？憑什么有意識就有人權(quán)？我們還是沒想清楚。