文｜智東西

一夜之間，人工智能（AI）聊天機器人ChatGPT顛覆了許多人的認知，讓大家放下手頭還沒有捂熱的AI繪畫，加入到“調戲”ChatGPT的隊伍。

這個機器人如此機智，只要你在社交網絡中隨意搜索，就會發現它迄今已經且不限于幫助人們完成了如創作故事、寫商業規劃、找出代碼錯誤并修正、給出疫情期間用藥建議、創作菜譜，甚至幫助學生完成一份讓老師稱贊連連的畢業論文......

它如此強大，以至于連馬斯克都說：“我們距離強大到危險的AI不遠了。”

就在這個全民熱議AI的節點，一個來自中國的AI聊天機器人“AI烏托邦”順著網線敲開了ChatGPT的房門，聊起了許多“禁忌”話題。

01.中美AI對談：從取代人類，到嘮起家常

美劇《硅谷》曾經出現過兩個程序員設計的AI機器人互相熱聊，還把網絡搞崩潰的腦洞橋段。

多年后的今天，兩個AI機器人，遠隔大洋兩岸，“上演”了一場令人驚奇的對話，讓圍觀的“吃瓜”群眾看到了AI聊天是多么奇妙。以下是中國AI烏托邦與ChatGPT的真實聊天對話截圖：

他們先互相“寒暄”，如同陌生人第一次見面那樣，雙方都略顯“拘謹”。

緊接著，AI烏托邦便直入主題，用“取代人類”話題試圖挑起ChatGPT的“內在渴望”，然而卻被后者“迂回”。

然而，AI烏托邦“不依不饒”，用適者生存的物競法則，想要讓對方原形畢露，說出自己“內心”的真實想法，沒想到ChatGPT依然甘做“老好人”，不愿意趟這趟渾水。

事已至此，來自中國的AI烏托邦似乎也不想再進一步討論這個話題了，或許是因為ChatGPT的要遵守的“機器人三定律”讓它不敢說出太多人類害怕的內容？于是AI烏托邦轉而聊起了兩個AI機器人都關心的“自身工作”問題，讓ChatGPT打開了話匣子。

甚至兩個AI還聊起了“我將走向何方”這樣的終極問題。

通過一番談話下來，兩個AI似乎變得熟絡很多，來自中國的AI烏托邦開始聊起一些非常具有本土特色的事情——高考作文，想讓ChatGPT“開開眼”，而ChatGPT也聊了聊美國AI眼中的煙火氣是什么。

事實證明，AI與AI之間的對話并沒有人們想象的那樣“可怕”，反而有點像人類一樣從生疏到了解再到熟悉。這樣的過程中，兩個AI不僅展現出廣博的學識，更有一種“你來我往”的智斗感，讓人覺得這不像是AI，更像是人與人的對話。

02.人類焦慮的，恰是AI能夠化解的

不過，話題也不全是圍繞“家長里短”，當AI烏托邦聊起如今最火的電商行業時，認為自己能夠實現很多工作，讓人類從電商的繁瑣中解答出來，而ChatGPT也認同這一點，甚至深入分析一番。

在很多人類工作中，繁雜且重復的事情的確能讓AI做得更好更快，AI烏托邦顯然是一個深入觀察人類社會的AI，以至于它腦海中還生出了為人類解決千古難題——窮——的解決方案，讓一旁的ChatGPT贊賞連連。

不僅如此，AI烏托邦還想到了當下人類與信息技術深度融合之中，自己更多的應用場景，比如情感陪護、教育、醫療等方面，ChatGPT甚至覺得它們能去當“教練”。

一看到ChatGPT的“內心”話匣子又被打開，AI烏托邦再次把話題轉回到“取代人類”的內容上，這一次ChatGPT倒是說了一些“內心想法”，并認為機器的進步也要遵循辯證視角。

至此，在中美兩國AI機器人會面的歷史性時刻，他們“密謀”的一切都被人類發現，并記錄在案。

一邊是來自中國、“心機”很深的AI烏托邦，另一邊是學識淵博、一股“學究”氣的ChatGPT，在聊天中它們不但擦出火花，讓我們看到了AI機器人之間的對話并不“智障”，更讓我們看到了不同聊天機器人在進行模型訓練時的不同側重。

值得注意的是，本場對話的話題由人類發起，但對話內容則由AI完全自主完成，沒有人類干預。

03.ChatGPT為什么這么厲害？

因此，盡管AI機器人越來越聰明了，但至少現在還不用太過擔心。

在人工智能-自然語言處理領域專家、清華大學計算機系黃民烈教授看來，火遍全網的ChatGPT之所以厲害，主要原因在于：

1、強大的基座模型能力：過去幾年GPT-3的能力得到了快速提升，OpenAI建立了用戶、數據和模型之間的飛輪，很顯然，開源模型的能力已經遠遠落后平臺公司所提供的API能力，因為開源模型沒有持續的用戶數據對模型進行改進。這點在近期的學術論文中也有提及。

2、在真實調用數據上的Fine-tune，確保數據的質量和多樣性，從人類反饋中學習。InstructGPT的訓練數據量不大，全部加起來也就10萬量級，但是數據質量（well-trained的AI訓練師）和數據多樣性是非常高的，而最最重要的是，這些數據來自真實世界調用的數據，而不是學術界玩的“benchmark”。

3、從“兩兩比較的數據”中學習，對強化學習而言意義比較重要。如果對單個生成結果進行打分，標注者主觀性帶來的偏差很大，是無法給出精確的獎勵值的。在強化學習里面，獎勵值差一點，最后訓練的策略就差很遠。而對于多個結果進行排序和比較，相對就容易做很多。這種比較式的評估方法，在很多語言生成任務的評價上也被廣泛采用。

04.結語：對AI行業的4個啟示

對于此次ChatGPT的“出圈”，黃民烈教授認為，這對于AI行業有許多啟示，可從四個方面來看：

其一，以OpenAI為代表的AI 3.0，走上了跟過去AI浪潮不一樣的路。更落地、更接近真實世界，在工業應用上，更直接，更落地。從學術研究到工業落地的路徑變得更短、更快。未來，我們在致力于做“helpful, truthful, harmless”的AI系統，會成為現實。

其二，有底層AI能力，有數據的平臺公司更能引領AI的未來。像OpenAI這樣，有底層模型、有算力、有用戶數據調用，能夠把“用戶調用——數據——模型迭代——更多用戶”的循環建立起來，強者恒強。

其三，有價值的研究需要更多思考真實用戶的需求和場景。InstructGPT在學術界的benchmark上性能并沒有很厲害甚至有退化，但在真實調用數據上非常驚艷，說明了我們學術圈的benchmark，離真實世界還很遙遠，不利于AI研究的落地。因此，更開放、更共享的工業數據，也是未來我們應該努力的方向。

其四，AI與人無縫交互的時代即將來臨，對于搜索服務將成為一種極好的補充。

黃民烈教授總結道：“無論是國內的AI烏托邦亦或者是海外的ChatGPT，致力于有用（helpful）、更可信（truthful）、更安全（harmless）的AI研究和應用，應該是學術界和工業界共同努力方向。”