編輯：袁榭 好睏
【新智元導讀】作為AI界的明星研究所，老是搞事情的OpenAI，現在真的搞出通用人工智慧（AGI）了麼？
「AI會不會變終結者」，這是外行經常會問、內行只有攤手的老套問題。
不過，這話要是讓行內大佬一說，效果馬上不一樣了。
最近，OpenAI首席科學家的一句話，讓整個機器學習圈都炸了鍋了。
2月10日，伊利亞·薩茨克維爾（Ilya Sutskever）發推表示：「現在的大型神經網路可能已經有微弱自主意識了。」
爭論持續了幾天之後。
2月13日，LeCun甚至親自下場，異常堅決且簡單明瞭：
「不對。」
接著便措辭禮貌但尖刻地解釋道：
「甚至『微弱意識』裡的表微量的形容詞，和『大型神經網路』裡的表示大型的形容詞，都是錯的。我認為這需要一種當下所有神經網路都不具備的大型架構來支撐。」
這段時間，伊利亞老師都是一句話冷豔結束，所以現在沒人知道他到底具體在講些什麼。
尤其是這句「倉促」得連首字母都沒有大寫，不由得引人想入非非。
是在說正在開發中的新GPT模型大力出奇跡呢？還是在說自家的現有模型受天啟感召已經具有不亞於人的靈智呢？還是重複宣傳「通用人工智慧」（AGI）很好很強大的觀點呢？
真要臆想超級AI，看《疑犯追蹤》比看無聊紀錄片舒服多了。
大佬們噴成一鍋粥
言歸正傳，推文釋出後，各種回覆隨之撲面而來。
不出意外地充斥著對AI「自我認知」的強烈不安，但更多人則認為這是純粹的胡說八道。
有網友在伊利亞的原推下回復：「現在人類所知的自我意識，必須有相當程度的動態隨機性，甚至可以稱為混沌性。若無，則只是演算法性質的行為。演算法的確可能足夠複雜，讓觀察者誤以為它具有意識。」
新南威爾士大學西德尼分校人工智慧研究員託比·沃爾什（Toby Walsh）說：「每次這種猜測性的評論被髮表時，都需要花幾個月的時間來讓對話回到人工智慧帶來的更現實的機會和威脅上來。」
花旗銀行副總裁、深度學習專家瓦倫蒂諾·佐卡（Valentino Zocca）也有類似的觀點：「人工智慧是沒有意識，但顯然，炒作比任何事實都更重要。」
獨立的科技社會學者尤爾根·古特（Jürgen Geuter）在跟帖中說：「很有可能這根本沒任何事實依據，只是一家跑了海量簡單統計的創業公司吹噓自己擁有魔法般技術力的銷售噱頭。」
這一觀點得到了軟體測試專家邁克爾·博爾頓（Michael Bolton）的支援，他開玩笑說：「AI不見得有微弱意識，不過伊利亞很可能有在『微弱』地滿嘴跑火車，甚至可能不止『微弱』。」
哥本哈根資訊科技大學的副教授里昂·德爾琴斯基（Leon Dercynski）也大開嘲諷：「在地球和火星之間的某個地方，很可能有一個繞日飛行的茶壺，這比伊利亞的想入非非要合理多了。因為天體軌道飛行的規則架構事實上存在，而何為茶壺的精確定義也存在。」
微軟挪威資料科學家、前DeepMind研究員羅曼·韋爾帕科斯基（Roman Werpachowski）用放出著名的「我是你爸爸」哏圖的方式回應了這個訊息。
不過，在被無數人抨擊後，伊利亞老師非常高貴冷豔地淡淡回覆：「自大才是最終的敵人。」
對於這句淡淡的反駁，網友們也有淡淡的嘲諷。
曾在微軟、谷歌供職，現在英偉達深度學習專案就業的碼農李奧納多·摩西斯庫（Leonard Mosescu）用伊利亞的金句句式嘲笑：「現在的大型自大可能也有微弱自主意識了。」
另一個在英特爾、IBM、佐治亞理工大學都幹過的碼農傑格·多什（Jigar Doshi）反問：「若無自我執念，何來人類的意識活動呢？」
在萬眾抨擊中，伊利亞老師終於捨得多說幾句話回擊了：「為了短期內自我感覺良好，而無意識選擇相信顯然的假象，並不是最優生活策略」。
「認知=行動，先進的深度學習智慧體可能也會有類似這種人類劣性的短板。」
在千夫所指中，OpenAI的老闆山姆·奧特曼（Sam Altman）表示力挺同事、同時反擊LeCun：
OpenAI首席科學家：對神秘觀點表示了好奇心與開放心態，用「可能」開始句子；
Meta首席AI科學家：開句就是獨斷的「不對」。
說不定這能解釋過去5年中的業績哦。
親愛的Meta AI研究者們，這是我的電郵地址，我司現在招人哦。
網紅LeCun在社交網路上從沒有受氣挨噴的習慣，馬上回復：
某司的確可以天天造更快的飛機、打破飛行高度記錄，搞這些事情既能讓自家名字常常上頭條，這些突破說不定也會有那麼點真用處。
但如果目標是真正突破大氣層飛上太空軌道，那就需要在冷凝儲液罐、渦輪泵這些毫不上鏡的技術上下苦功。
不信你去問馬斯克去。
微軟的深度學習研究大佬Devon Hjelm說了大實話：
AI界的研究者與學生們，如果你們還不清楚的話，以下是此次事情的梗概：
除了老套的AI公司互噴打嘴仗以外，這事情一點有意義的實質性內容都沒有。
大家最好還是問優質問題、保持好奇心、同時保持狐疑態度。
AI到底有無自主意識？
伊利亞老師除了是OpenAI的首席科學家兼聯合創始人、AlphaGo論文的諸多作者之一，也是AI業界最熱衷於AGI的著名人士之一。
OpenAI本身，也在「公司的未來使命」中宣佈要開發「造福全人類的AGI」
在接受關於人工智慧的2019年紀錄片《iHuman》採訪時，伊利亞既宣佈將解決當下人類遇到的所有難題，卻又警告AGI可能將具備無限延續專制的潛力。
採訪者應該是出於禮貌才沒有追問「那用AGI能否解決人類社會面臨獨裁的難題」這種「以子之矛攻子之盾」的問題。
對此，非盈利研究機構「感知學院」（Sentience Institute）的聯合創始人、社會科學家Jacy Reese Anthis在推特貼文中對此進行了深入的探討。
在為自家的機構打了廣告後，Jacy Reese Anthis闡述：
首先，意識的含義在哲學家和科學家中存在很大爭議。
對此，可以用3個以上更精確的術語來形容：
- 思想，通常是一種語義上的字詞流
- 感知，透過五種感官或想象力達到的感知
- 情感，積極和消極的情緒
然而，甚至這些都是有爭議的。
這些是行為嗎？過程？功能？二元論？不可言說的？等等。
Jacy認為，應該採取消除主義的觀點。因為這些術語是如此模糊，所以意識並不客觀存在。
那麼，哪些具體特徵會表明人工智慧中的有知覺或意識？
「感知學院」的研究者認為如果人工智慧可以被稱為有意識，它可能具備以下特徵中的一個或多個：對有害誘導資料的檢測及於此可變的注重程度、對此誘因有規避的回應與記憶聯想、對此誘因有類似情緒變化的狀態變化，加強學習，基於目標而定的行為，對情緒狀態的語義表述。
http://sentienceinstitute.org/blog/assessing-sentience-in-artificial-entities
當下如GPT-3等的變換模型，以上特徵幾近於無。不過，Jacy還是不認為此議題有完全客觀的答案。
因為對於意識的定義、比如「此物感覺怎樣」或「內在傾聽者」等等，用來回答這問題都太過模糊。
如今，在分歧、模糊和不確定的情況下所能做到的最精確回答大概就是：「神經網路可能有了極微的意識，但是比昆蟲要少」。
參考資料：
https://futurism.com/the-byte/openai-already-sentient
https://wordpress.futurism.com/conscious-ai-backlash/amp
Ilya Sutskever：https://twitter.com/ilyasut/status/1491554478243258368
LeCun：https://twitter.com/ylecun/status/1492890267468320778
Sam Altman：https://twitter.com/sama/status/1492644786133626882
