胡泳/文
程式碼：當今世界的神奇淵源
有關艾倫·圖靈（Alan Turing）的歷史劇情片《模仿遊戲》（The Imitation Game）中，看到那臺名叫克里斯托弗的機器破解Enigma那一瞬，忍不住熱淚盈眶。有時候，被世界所遺棄的人，才能成就意想不到的大事。
影片最後在一段畫外音中結束：“他的機器從來沒有臻於完美，但它導致了一整套有關‘圖靈機’的研究。今天我們把這樣的機器叫做‘電腦’。”
從鐮刀到蒸汽機，人類總是企圖利用技術控制我們周邊的世界。然而，要說到對環境的塑造，恐怕沒有哪一種機器比電腦更有力。而令電腦如此強有力的東西是程式碼。程式碼，簡單地說，是一套由單詞和數字組成的規則或者指令。把這些單詞或者數字按照合適的順序排列，就可以命令電腦為人類做事情。可程式設計的程式碼千變萬化、極其靈活，無論是遊戲還是太空飛船都能指揮自如。個體的天才創造力、被需要所驅使的發明以及人類了不起的想象，共同造就了程式碼。
從遠古時代，人類就開始把玩程式碼。但里程碑是德國數學家萊布尼茨（Leibniz）用簡單的0和1造就的“具有世界普遍性的、最完美的邏輯語言”。目前在德國圖林根，著名的郭塔王宮圖書館（Schlossbibliothek zu Gotha）內仍儲存一份萊氏的手稿，標題寫著：“1與0，一切數字的神奇淵源。”今天所有計算的基礎都來自二進位制。
在萊布尼茨發明二進位制一個世紀之後，法國織機工匠約瑟夫·雅卡爾（Joseph Jacquard）在他發明的自動蒸汽動力織布機上，考慮一種由一組卡片控制的裝置來機械地織出任何紋樣。該控制裝置由硬打孔卡和吊鉤組成。每個孔的位置對應一根經線，根據打孔或不打孔決定提起或不提起經線，並交織一次。不同的打孔卡會令織機織出不同的花紋，因而，卡片構成了對織機的指令——這和現代計算機程式的工作方式完全一致。
英國數學家查爾斯·巴貝奇（Charles Babbage）認為同樣的打孔卡可以用來輸入數字，以及有關如何處理這些數字的指令，因而創造了世界上第一臺通用的計算機器。他的工作成就了世界上第一位程式設計師，她是位女性，而且是拜倫（Lord Byron）之女。埃達·洛夫雷斯（Ada Lovelace）是位數學家，也是穿孔機程式創始人。她建立了迴圈和子程式概念，為計算程式擬定“演算法”，寫作了第一份“程式設計流程圖”。在1843年發表的一篇論文裡，埃達認為機器今後有可能編曲、製圖和實現各種更復雜的用途，這是十分大膽的預見。
19世紀末，美國的人口普查造成了一個管理上的噩夢：不得不用8年時間手工輸入每個公民的資料。人口普查部門的一位職員赫曼·霍勒瑞斯（Herman Hollerith）想出了一個解決辦法：把每個人的資料以編碼方式輸入穿孔卡中，利用新的電力技術把一排排針壓入卡片，將形成的電路予以記錄。霍勒瑞斯將自己的發明商業化，日後發展為赫赫有名的電腦公司IBM。如果說圖靈生後享有“計算機科學之父”和“人工智慧之父”的美譽，可以說，霍勒瑞斯就是“大資料之父”。
1971年，英特爾公司釋出世界上第一枚商用晶片；加州矽谷的家釀電腦俱樂部（Homebrew Computer Club）裡那些狂熱的愛好者們很快圍繞晶片開始開發軟體和打造個人計算機。史蒂夫·沃茲尼亞克（Steve Wozniak）開發了第一代蘋果電腦，而同時代的比爾·蓋茨（Bill Gates）則開創了軟體產業。隨後，電腦在創意產業、金融產業、製造業和科研領域等一路攻城略地。直到1990年代，人們又把個人電腦聯結成網，電腦終於不僅僅被視為完成指定任務的工具，也成為分享和協作的利器。再往下的故事，搜尋引擎、社交媒體、移動互聯等，我們毋需多言了。
就像17世紀的農民、18-19世紀工業革命時期的工人、二戰以後崛起的辦公室白領一樣，程式設計師漸漸成為下一個大規模職業。
程式設計的終結與機器學習的興起
由於計算機的飛速發展，程式設計的要求和種類也日趨多樣，由此產生了不同種類的程式設計員，每一種都有更細緻的分工和任務。現今，程式設計員可以指某一領域的程式設計專家，也可以泛指軟體公司裡編寫一個複雜軟體系統裡某一塊的一般程式設計師。
與此同時，程式自身也在變化。
在計算機發明之前，大多數實驗心理學家認為大腦是一個不可知的黑匣子。不錯，我們可以分析物件的行為——打鈴，狗就會分泌唾液，但是思想、記憶、情感？這些東西晦澀難懂，超出了科學的範圍。因此，這些自稱的行為主義者，將他們的工作侷限於對刺激和反應、反饋和強化、鈴聲和唾液的研究。他們放棄了去嘗試瞭解大腦的內部運作，統治了這個領域四十年。
然後，在1950年代中期，一群叛逆的心理學家、語言學家、資訊理論家和早期的人工智慧研究者對大腦提出了不同的理解。他們認為，人不僅僅是條件反應的集合。他們吸收資訊，對其進行處理，然後據其採取行動。他們擁有一個用於寫入、儲存和調動記憶的系統。他們透過邏輯形式語法進行操作。一言以蔽之，大腦根本不是黑匣子，而更像是一臺計算機。
所謂的認知革命起步甚微，但是隨著計算機成為心理學實驗室的標準裝置，上述想法獲得了更廣泛的接受。到1970年代後期，認知心理學已經推翻了行為主義，隨著新正規化的出現，我們擁有了一種談論心智生活的全新語言。心理學家開始將思想描述為程式，普通人談論將事實儲存在他們的記憶庫中，而管理專家則對現代工作場所中的心智頻寬和處理能力的侷限感到擔憂。
這個故事不過是上一次心智革命的重複。隨著數字革命席捲我們生活的各個方面，它也滲入了我們的語言，以及我們關於事物運作方式的更深的、更基礎的理論。技術總是這樣做的。在啟蒙運動中，牛頓（Isaac Newton）和笛卡爾（René Descartes）啟發了人們將宇宙視為一架精緻的時鐘。在工業時代，宇宙成了帶有活塞的機器——就連弗洛伊德（Sigmund Freud）的心理動力學思想也是從蒸汽機的熱力學中借來的。而到了今天，宇宙變成了一臺計算機。
仔細考慮這一點，會發現它是一個從根本上讓我們變得更強大的想法。因為，假如世界是一臺計算機，那麼人就可以對世界進行編碼。
程式碼是合乎邏輯的。程式碼是可以入侵的。程式碼即命運。這些構成了數字時代生活的核心原則，也是自我實現的預言。隨著軟體吞噬了世界（風險資本家馬克·安迪森語），我們已經讓機器環繞我們自身，這些機器將我們的行為、思想和情感轉換為資料，匯聚的原材料可供大量使用程式碼的工程師操縱。我們已經將生命本身看作是由一系列可以被發現、利用、最佳化甚至重寫的指令所控制的東西。
公司使用程式碼來了解我們最親密的關係；Facebook的馬克·扎克伯格（Mark Zuckerberg）甚至暗示可能存在“一種基本的數學法則，它決定著人與人之間的關係，而這些人與人的關係又支配著我們所有人掛念誰和關心什麼”。2013年，克雷格·文特（Craig Venter）宣佈，在對人類基因組進行解碼的十年後，他開始編寫允許他建立合成生物的程式碼。文特說：“越來越明顯，我們在這個星球上知道的所有活細胞都是由DNA軟體驅動的生物機器。蛋白質機器人執行著經過數十億年的進化軟體的變化而發展出來的精確生化功能。”甚至連勵志書都堅持說你可以破解自己的原始碼，對愛情生活、睡眠常態和消費習慣進行重新編碼。
在這個世界上，編寫程式碼的能力已不僅成為一種必不可少的技能，而且還成為一種授予內部人身份的語言。他們可以使用在更機械的時代被稱為力量槓桿的東西。未來學家馬克·古德曼（Marc Goodman）寫道：“如果你控制了程式碼，就可以控制整個世界。這就是等待我們的未來。”在《彭博商業週刊》上，保羅·福特（Paul Ford）說得稍微謹慎一些：“就算程式設計師不控制世界，那他們也執行著執行世界的東西。”
你不是程式設計精英，可能連手機設定也搞不好，那麼，是不是就只有被統治的份了？切莫慌張。我們的機器現在開始說另一種語言，即使是最好的程式設計師也無法完全理解。
在過去幾年中，最大的科技公司都在積極推行一種被稱為“機器學習”的計算方法。在傳統程式設計裡，工程師編寫明確的分步說明供計算機遵循。而到了機器學習階段，程式設計師無需使用指令對計算機進行編碼，而是訓練計算機。比如，如果你想教一個神經網路來識別貓，不是告訴它尋找腮須、耳朵、毛皮和眼睛，而是向它展示成千上萬張貓的照片，最終它就能解決問題。萬一它將狐狸錯誤地歸類為貓了，怎麼辦？要是過去，程式設計師就需要重寫程式碼。而現在，你堅持繼續訓練。
這種方法並非剛剛開始，只是最近變得更加強大，這在一定程度上要歸功於深度神經網路的興起，大規模分佈的計算系統模仿了大腦中神經元的多層連線。也許你還沒有意識到，機器學習已經在為我們的線上活動提供各種強大的支援。Facebook用它來確定新聞中出現哪些故事，Uber用它來實現拼車，而Google Photos用它來識別面孔。機器學習執行微軟的Skype翻譯器，可將語音實時轉換為不同的語言。自動駕駛汽車利用機器學習來避免發生事故。甚至連Google的搜尋引擎（多年來一直是人工編寫規則的重鎮）也開始依賴於這樣的深度神經網路。2016年2月，該公司起用機器學習專家約翰·詹南德雷亞（John Giannandrea）出任搜尋主管，並啟動了一項重大計劃，對其工程師進行新技術的再培訓。秋天，他告訴記者：“透過建立學習系統，我們不再需要編寫這些規則了。”
然而這正是問題：依靠機器學習，工程師永遠無法確切地知道計算機是如何完成任務的。神經網路的操作在很大程度上是不透明和難以理解的。換句話說——你猜對了——它是一隻黑匣子（就像行為主義心理學家眼中的大腦）。隨著這些黑匣子承擔著越來越多的日常數字任務的責任，它們不僅將改變我們與技術的關係，還將改變我們對自己、我們的世界以及我們在其中的位置的看法。
從上帝到訓狗師
《連線》雜誌網站總監傑森·坦茲（Jason Tanz）寫道：“從舊的角度看，程式設計師就像上帝，制定著著控制計算機系統的法律。而現在，他們就像父母或馴狗師。正如任何父母或者狗的主人可以告訴你的那樣，他們由此就陷入了一種神秘得多的關係。”不僅訓練的性質是神秘的，連結果也是神秘的。
這意味著程式設計的結束、AI的開始。當工程師探究深度神經網路時，他們窺見的是數學的海洋：大量的多層微積分問題，透過不斷推導數十億個資料點之間的關係，可以得出有關世界的猜測。
神經網路沒有符號或規則，只有數字。這讓很多人感到疏離。然而，不可解析的機器語言的含義不只是哲學上的。在過去的二十年中，學習編碼一直是獲得可靠就業的最確定途徑之一。對於所有將孩子在課後趕到程式設計班的父母來說，他們是在為孩子的未來打算。現在，由擅長深度學習的神經網路執行的世界將需要不同的勞動力。由於機器使舊技能變得無關緊要，分析師早就開始擔心AI對就業市場的影響，預計程式設計師用不了多久就會體會到睡不著覺的感覺。由此，工程師的定義也將被改寫。
當然，仍然必須有人訓練這些系統。但至少現在，這還是一項稀缺的技能。它既需要對數學的高度理解，也需要對教學的輸入輸出具備直覺。谷歌的DeepMind AI團隊負責人德米斯·哈薩比（Demis Hassabis）說：“它幾乎像一種藝術形式，即怎麼把這些系統最大程度地動用起來。世界上只有數百人可以做到這一點。”然而就是這麼少的一些人，已足以在短短几年內改變技術行業。
無論這種轉變的專業意義如何，其文化後果將會更大。如果人工編寫軟體的興起引發了我們對工程師的熱愛，並且人們最終可以將人類經驗簡化為一系列可理解的指令，那麼，機器學習將朝著相反的方向發展。執行宇宙的程式碼可能逃脫人類的瞭解。舉一個小小的例子：當Google在歐洲面臨一項反托拉斯調查、指控該公司對其搜尋結果施加不當影響時，這樣的指控將很難被坐實，因為就連公司自己的工程師也無法確切說明其搜尋演算法的工作方式。
將會產生一種不確定性的大爆炸。事實證明，哪怕簡單的演算法也可以促發不可預測的緊急行為，混沌理論正是這麼認為的。在過去幾年中，隨著網路越來越緊密地交織在一起，其功能也越來越複雜，程式碼似乎變得日益像一股外來力量，機器中的幽靈漸趨難以捉摸和不可控制。
集發明家、創業家和科學家於一身的丹尼·希利斯（Danny Hillis）在《設計與科學雜誌》上寫道：“隨著我們的技術和制度創新變得越來越複雜，我們與它們之間的關係也發生了變化。”“我們沒有成為我們的創造物的主人，而是學會了與它們討價還價，哄騙和指導它們朝著我們目標的總體方向發展。我們建立了自己的叢林，而這叢林擁屬於自身的生命。”機器學習的興起是這一旅程的最新、也許是最後的一步。
這一切都可能令人恐懼。畢竟，編碼至少是普通人可以想象的在訓練營中習得的東西，而程式設計師至少是人類。現在，技術精英的規模甚至走向更小，而他們對自己的造物的命令已經減弱，且變得間接。那些製造這些東西的公司已然發現它們的行為方式難以治理。
2015年夏天，當Google的照片識別引擎開始將黑人的影象標記為大猩猩時，公司趕忙道歉。一開始它最直接的解決辦法是防止系統將任何東西標記為大猩猩。然後，公司表示，圍繞著哪些標籤可能出問題，它正在著手研究長期的修復辦法，希望能夠做到更好地識別深色面板的臉部。
三年以後，Google沒有取得任何進展。它完全阻止了其影象識別演算法去識別大猩猩——為了不冒錯誤分類的風險，主動限制了自己的服務。《連線》雜誌還發現，Google也限制其他種族類別的AI識別。例如，搜尋“黑人”或“黑人婦女”只會返回按性別分類的黑白照片，而不按種族分類。
另一起知名的事件是微軟的聊天機器人Tay。該機器人2016年3月23日推出，面向18至24歲的青少年。微軟希望能透過這款機器人更好地瞭解年輕人使用的隨意性和戲謔性的網路交流語言。然而，釋出僅24小時後，微軟似乎開始編輯Tay發出的那些具有煽動性的評論。
原因是，Tay上線僅幾個小時，推特使用者們便開始對其演算法中存在的缺陷加以利用，導致它在回答一些特定問題時帶上了種族主義色彩，如使用種族侮辱用語，支援白人至上主義和種族滅絕政策等。
“人工智慧聊天機器人Tay是一項機器學習計劃，專為與人類交流而設計。”微軟的一名發言人說。“在它學習的過程中，它發表了一些不合適的言論，能夠反映出人們都和它進行了怎樣的互動。我們目前正在對Tay進行一些調整。”
隨後，關注者質疑為什麼“她”的某些推文看上去正在被編輯，從而促成了一場#justicefortay運動，要求軟體巨頭讓AI“為自己學習”。微軟關閉了Tay，一年以後推出Zo。Zo幾乎立刻就因為有意規避潛在的攻擊性話題而引入的演算法偏見飽受批評。例如，Zo拒絕談論中東、《古蘭經》或《摩西五經》，無論是正面的、負面的還是中立的，但可以討論基督教。克洛伊·羅絲·斯圖爾特-烏林（Chloe Rose Stuart-Ulin）在Quartz的一篇文章中揭露了這些偏見，她說：“Zo的政治正確走到了一個糟糕的極端；一旦觸發那些可能的誘因，她就會變成一個武斷的小混蛋。”作者說，政治正確的機器人比種族主義的機器人更可憎。
2019年，Zo也被微軟關閉。像Google的圖片識別程式和微軟的聊天機器人所顯示的，試圖建立跨世界的演算法，對矽谷的自我隔絕的文化而言，並非一出bug就尋求快速修復那樣簡單。
一些科技領域的頂尖思考者和實踐者相信，這一切都預示著我們將迎來一個人類放棄對機器的權威的時代。史蒂芬·霍金（Stephen Hawking）寫道：“人們可以想象，這樣的技術將智勝金融市場，比人類研究者更具發明力，比人類領導人還多操控術，並開發出我們甚至無法理解的武器。”埃隆·馬斯克（Elon Musk）和比爾·蓋茨等都對此表示贊同。霍金和其他三位科學家在《獨立報》上寫道：“儘管人工智慧的短期影響取決於誰來控制，但長期影響取決於是否可以完全控制它。”
（作者系北京大學新聞與傳播學院教授）
本文經「原本」原創認證，作者經濟觀察報，訪問yuanben.io查詢【4K86AF1X】獲取授權資訊。
