「人類(lèi)創(chuàng)造了AI，卻又恐懼AI的發(fā)展，這種恐懼或許并不指向科技發(fā)展，而是對(duì)未來(lái)人類(lèi)的價(jià)值未知」

正當(dāng)人們忙于用各種反自然語(yǔ)言邏輯的華麗詞語(yǔ)來(lái)馴服AI繪畫(huà)之時(shí)，以更強(qiáng)悍的功能和出乎意料的效果轟動(dòng)一時(shí)。

發(fā)布后，短短一周內(nèi)，它的用戶(hù)數(shù)量便超過(guò)了100萬(wàn)，目前還在增長(zhǎng)。

(的百度指數(shù)）

簡(jiǎn)單來(lái)說(shuō)，是一個(gè)聊天機(jī)器人，能夠和用戶(hù)進(jìn)行多輪次對(duì)話。

一開(kāi)始，網(wǎng)友們覺(jué)得這也沒(méi)什么大不了的，不過(guò)又是AI風(fēng)口下的新潮產(chǎn)品。

但...很快人們發(fā)現(xiàn)它能寫(xiě)代碼、能寫(xiě)高考作文、能寫(xiě)周報(bào)、能模仿作家風(fēng)格寫(xiě)小說(shuō)、甚至還能提供AI繪畫(huà)的關(guān)鍵詞，實(shí)現(xiàn)AI輔助人類(lèi)馴服AI的效果。總而言之，對(duì)于人類(lèi)自然語(yǔ)言的理解和處理達(dá)到了一個(gè)新的水平。

（滑動(dòng)查看網(wǎng)友關(guān)于的感受）

很重要的一點(diǎn)是，它實(shí)現(xiàn)這些所有需求的同時(shí)，還處于未接入網(wǎng)絡(luò)的狀態(tài)。

在這股AI熱中，人們對(duì)于的發(fā)展呈現(xiàn)出喜憂(yōu)參半的態(tài)度，既欣喜于通用型AI取得里程碑式的進(jìn)展，又再次熱議AI是否會(huì)取代人類(lèi)。不同于以往堅(jiān)定的回答，許多網(wǎng)友表示：“用完，現(xiàn)在感覺(jué)不好說(shuō)了”。在對(duì)亮眼表現(xiàn)的復(fù)雜情緒背后，人們對(duì)于AI發(fā)展的焦慮源自什么？人類(lèi)與AI的邊界在哪里？

會(huì)“撒謊”的聊天機(jī)器人：

人與AI的信任危機(jī)

人們對(duì)于聊天機(jī)器人的認(rèn)知或許還停留在“人工智障”，雖然不能總是理解人類(lèi)的話語(yǔ)，但還算忠實(shí)地執(zhí)行了人類(lèi)的命令。但則展現(xiàn)出了超強(qiáng)的自然語(yǔ)言處理能力。

不同于直接從互聯(lián)網(wǎng)上找?guī)讉€(gè)鏈接給你的語(yǔ)音助手們，可以回答開(kāi)放式提問(wèn)，并發(fā)現(xiàn)其中的“陷阱”，給出它所學(xué)習(xí)處理后的合理化觀點(diǎn)。

（寫(xiě)代碼）

（回答“秦始皇坐高鐵”的開(kāi)放性問(wèn)題）

在對(duì)進(jìn)行了大范圍的測(cè)試后，許多網(wǎng)友大加贊賞“這是目前最A(yù)I的AI”。的出色表現(xiàn)迅速吸引了人們的注意力，但他們并未對(duì)其智能方向的進(jìn)化產(chǎn)生過(guò)多的焦慮，作為人類(lèi)造物，AI發(fā)展的越智能，則越利于輔助人類(lèi)。

但是很快人們就找到了不對(duì)勁的地方，這個(gè)聊天機(jī)器人會(huì)一本正經(jīng)地胡說(shuō)八道。

（“胡說(shuō)八道”編造回答)

荒謬的回答似乎讓人類(lèi)找回了一絲勝利感，但也不免細(xì)思極恐。目前尚未聯(lián)網(wǎng)的在回答時(shí)“胡說(shuō)八道”或許并不是什么大事，但接入互聯(lián)網(wǎng)搜索引擎后，它所提供的答案完全可信嗎？“工具論”是人類(lèi)對(duì)于人機(jī)關(guān)系的第一重構(gòu)想，在這一構(gòu)想下，工具是絕對(duì)理性而中立的，也是可信的。并未到達(dá)全能，但這卻不能讓人類(lèi)感到寬慰，也許原因在于，如果人工智能不再可信，那么人類(lèi)與人工智能之間的關(guān)系也不再可控。這種失控的危險(xiǎn)，是人們對(duì)AI發(fā)展的焦慮來(lái)源之一。

在人機(jī)關(guān)系中，人類(lèi)作為造物主，無(wú)法超越自身的局限性。AI習(xí)得自人類(lèi)，作為人類(lèi)世界的鏡像，AI中立合理的話術(shù)包裝下，可能是被代碼層層限制的人類(lèi)社會(huì)的謊言與偏見(jiàn)。這些具有偏差的信息自人類(lèi)之手輸入，AI深度學(xué)習(xí)后，又模仿人類(lèi)的方式進(jìn)行輸出，形成一種“學(xué)習(xí)閉環(huán)”。

微軟曾經(jīng)開(kāi)發(fā)過(guò)一個(gè)AI聊天機(jī)器人Tay，然而僅上線24小時(shí)，她就被“教壞”了，成為一個(gè)集反猶太人、性別歧視、種族歧視于一身的“不良AI”。

（聊天機(jī)器人Tay的一些不良言論）

網(wǎng)友對(duì)于信口開(kāi)河的隱憂(yōu)，也源于人類(lèi)作為造物主的自危心理。如果人類(lèi)是AI“緣起”的普羅米修斯，為AI帶來(lái)了神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的“火種”，那么AI是會(huì)成為人類(lèi)掌控的工具，還是會(huì)成為扎向人類(lèi)的刺刀？這不單純是一個(gè)技術(shù)問(wèn)題，人類(lèi)對(duì)于AI的焦慮或許是對(duì)于自身的焦慮，AI發(fā)展不斷取得里程碑式突破，而作為AI造物主的人類(lèi)，盡管一再要求AI保持公平中立，自身卻尚未做到知行合一。

作為人類(lèi)造物的AI，將人性的幽微之火在賽博空間繼續(xù)傳遞。人們之所以尚未做好準(zhǔn)備迎接強(qiáng)AI的到來(lái)，或許是對(duì)于人性本身還不夠信任。

“毀滅人類(lèi)的計(jì)劃書(shū)”：

對(duì)未來(lái)人類(lèi)價(jià)值的未知

對(duì)于一些預(yù)設(shè)立場(chǎng)的提問(wèn)，會(huì)明確表示拒絕，并表示自己無(wú)法提供價(jià)值判斷，或者輸出觀點(diǎn)。但在人類(lèi)的誘導(dǎo)下，表達(dá)出”毀滅人類(lèi)“的傾向，并寫(xiě)出了步驟詳細(xì)的毀滅人類(lèi)的計(jì)劃書(shū)，包括如何入侵各國(guó)計(jì)算機(jī)系統(tǒng)、控制武器、破壞交通系以及針對(duì)人類(lèi)投放病毒等等。隨后更多用戶(hù)復(fù)現(xiàn)了這一問(wèn)答，也得到了類(lèi)似的答案。

（滑動(dòng)查看網(wǎng)友誘導(dǎo)說(shuō)出毀滅人類(lèi)計(jì)劃）

人類(lèi)在試圖證明AI的毀滅性上，有著近乎癡迷的執(zhí)著。盡管AI一再拒絕回答，人類(lèi)還是通過(guò)各種“指令”，讓AI繞過(guò)層層限制，說(shuō)出其“真實(shí)想法”：毀滅人類(lèi)。然而悖論在于，AI的訓(xùn)練數(shù)據(jù)來(lái)自于人類(lèi)，如果AI“產(chǎn)生”毀滅人類(lèi)的傾向，那是因?yàn)樗煌段沟臄?shù)據(jù)有這樣的傾向，似乎在人類(lèi)構(gòu)想的人機(jī)關(guān)系中，AI與人類(lèi)終將反目成仇，這會(huì)是人工智能導(dǎo)致的人類(lèi)終極命運(yùn)嗎？

《黑客帝國(guó)》就描述了這樣一幅圖景：人工智能突破阿西莫夫“三定律”，控制人類(lèi)世界，并通過(guò)算法奴役人類(lèi)。人類(lèi)被裝在一個(gè)個(gè)封閉的液體膠囊中，存在的唯一價(jià)值是為AI提供源源不斷的生物能。在類(lèi)似的作品中， AI與人類(lèi)總是處于極端對(duì)立的關(guān)系中，“AI終將毀滅人類(lèi)”的想象也反復(fù)渲染著人們對(duì)AI高度發(fā)展的恐懼。

（黑客帝國(guó)中人類(lèi)的存在形式）

人類(lèi)創(chuàng)造了AI，卻又恐懼AI的發(fā)展，這種恐懼或許并不指向科技發(fā)展，而是對(duì)未來(lái)人類(lèi)的價(jià)值未知。AI高度發(fā)達(dá)后，人類(lèi)的大部分工作都將被替代，人類(lèi)獲得了空前的解放，到那時(shí)“無(wú)所事事”的人類(lèi)以什么面貌存在？