11 無人可控
No One’s to Control
此時，我們都處在一場全球風暴之中，我們要從根本上重新構想人工智能，使其成為以人為本的實踐，這個共同的目標就是下一顆北極星。
“嗨，你是飛飛，對吧？”
我轉身去看問話的人，他禮貌地做了個手勢。
“我叫戴夫，”他伸出手和我握手，“前幾天聽到你在播客上的節目，忘了是哪一期了。你知道嗎，我們風險投資公司一直在談論人工智能，簡直就是一刻不停。”他接著說，“就在過去的幾個月裡，我們已經完成了四個A輪融資，都是在這個領域。”
我笑了笑，不知道還能作何反應。那是2014年，風險投資的術語讓我在自己的領域裡感覺像個局外人。
“嘿，你見過傑弗裡了嗎？”他轉過身向對面的另一個人招手，那個人穿的牛仔褲和羊毛套頭衫看起來跟他的一模一樣。
“傑弗裡，過來過來，我想介紹你認識一個人！傑弗裡是負責產品開發的副總裁，在……”
“好了，各位，請注意，我們可以開始了。”謝天謝地，一個聲音從房間那頭傳來，打斷了他，“我要感謝大家今晚的到來。學前班是孩子們人生的重要一步，今年我們為他們做了非常棒的規劃。”
“一會兒再聊！”他擠坐在倉鼠籠旁邊的小木椅上，低聲說。
無論我們學術界如何看待人工智能，或者對其未來作何預測，有一點是不可否認的：人工智能已經不再由我們掌控了。十多年來，我對人工智能一直痴迷不已，它就像一層思想的外殼，悄然疊加在我的世界觀之上。然而，到了2010年代中期，相關話題已經獲得極大的公眾關注，各種討論鋪天蓋地、震耳欲聾。加州硅谷101號公路沿線的廣告牌宣告著人工智能初創公司的招聘狂潮；在我的牙醫候診室裡的雜誌封面上，有關於人工智能的報道；開車換臺時，還能從汽車收音機的談話片段中聽到關於人工智能的討論；顯然，在幼兒園家長會上，它也成了熱門話題。
世界正在變得超現實。我和同事們窮盡職業生涯探索人工智能科學，但我們現在突然面對著“人工智能現象”（我還沒有找到更確切的說法）。人工智能本身就充滿了難以解開的謎團，現在，這項技術與各行各業、政府、記者、評論員甚至廣大公眾之間的互動突然激增，千絲萬縷的關係與技術本身一樣錯綜複雜。經過幾十年的模擬環境開發和測試，人工智能已經進入現實世界的應用階段。在人工智能的發展史上，充滿了對其擬人化的嘗試，但這些嘗試帶來的更多是誤導，而非深刻的洞見。雖然我也不太願意把人工智能明確地比作活的有機體，但不可否認，它已經進化出新的形態，躁動不安，嗷嗷待哺，渴望探索。
不到一年前，在我和安德烈的研究領域，谷歌迎頭趕上的消息讓我震驚不已，但如今卻感覺已像陳年舊事。作為曾經的人工智能研究主力軍，大學實驗室現在已不是推動前沿發展的唯一機構。這已成為不爭的事實。無論是在GitHub等平臺上分享代碼，還是在Reddit等論壇上討論最新進展，我們都與谷歌、微軟和臉書等科技巨頭、遍佈全球的初創企業、貪婪的風險投資人網絡，甚至開源社區的軟件開發人員共享繁榮熱鬧的景象。
有太多話題可以探討。
2015年，鄧嘉和奧爾佳發表文章，回顧了ImageNet比賽迄今為止的影響，並分享了安德烈的研究成果：他估計人類在標註1000幅圖像時的錯誤率約為5.1%。雖然安德烈只是出於好奇才做的研究，但其結果卻大大增加了比賽的刺激性。突然之間，算法不僅相互競爭，還開始與人類一決高下。2014年，谷歌的神經網絡分類器GoogLeNet的錯誤率僅為6.67%，達到創紀錄的最低水平，人類幾乎要失去榜首地位了。
儘管AlexNet和GoogLeNet是計算機視覺領域的真正飛躍，但我們還遠遠未能瞭解其全部潛力。舉例來說，我們確信網絡深度是決定性能的關鍵因素，而GPU優惠的價格意味著我們終於有足夠的處理能力，讓深度達到前所未有的水平。然而，簡單增加神經網絡層數並不是萬能之策。在初始階段，網絡深度的增加會提高圖像識別準確率，但很快就會到達臨界點，此後就是收益遞減。我們懷揣著遠大抱負，構建的神經網絡越來越大，卻在不經意間將網絡變成了迷宮。過多的分層會破壞信號傳遞，導致訓練過程停滯不前，使系統失去效果。
顯而易見，要實現宏偉的目標難度很大，與投入多少硅片並沒有直接關聯。這意味著即使在現在，我們的網絡也無法吸收和消化ImageNet等大型數據集，沒有充分利用其潛力。我們需要改變現狀，不斷進化，不僅在規模上，更在創新上。這正是我期望ImageNet挑戰賽能帶來的激勵和感召。
我終於如願以償。2015年，由微軟的年輕研究員何愷明帶頭研發的深度殘差網絡（Deep Residual Network，ResNet）再次改變了比賽格局。ResNet達到了驚人的152層，但對網絡架構進行了扭曲，允許在訓練階段繞過其中的某些層，使得不同的圖像對網絡中較小的子區域產生影響。
雖然經過全面訓練的系統最終會充分利用其深度，但在訓練階段，沒有任何一個圖片示例必須覆蓋整個系統。這樣的架構帶來了兩全其美的結果。一方面，增加層數可以提高性能，吸收更多數據——ResNet使用的ImageNet數據量超過了當時其他所有的參賽算法；另一方面，在不降低性能的前提下，保持了信號自由流動所需的簡潔性。ResNet是教科書式的範例，充分說明了在人工智能領域，創造力是推動著輝煌時刻出現的力量。
然而，ResNet的設計只是故事的一半。ResNet的最終效果甚至遠遠超出了設計者本人的預期，還因驚人的性能而登上了《紐約時報》等主流媒體的頭條。ResNet獲得全球關注是意料之中的事：它的識別錯誤率僅為4.5%，遠遠低於安德烈估算的人類錯誤率。簡而言之，視覺分類的挑戰似乎已經迎刃而解，機器輕而易舉地超越了它們的創作者，完成了幾年前還幾乎不可能完成的任務。多麼令人驚歎的里程碑啊。然而，沒過多久，我們就意識到這只是開始，更多的里程碑將會陸續出現。
嘿，你在關注AlphaGo嗎？
你知道哪邊能贏嗎？
我該不該賭一把？哈哈！
我的第二個孩子剛剛出生，如果有什麼能讓我與外界隔絕至少一兩個星期，那應該就是生孩子這件事了。但我才出院幾天，信息就如潮水般湧來，手機一直嗡嗡作響，提醒著我，我並沒有偷得浮生半日閒的好運氣。
2016年年初，媒體對DeepMind的關注不斷升溫。DeepMind是一家總部位於倫敦的初創公司，正在籌備一場圍棋大賽，參賽雙方分別是圍棋大師李世石和一臺機器。在此之前，這家科技公司一直名不見經傳（甚至我對它的瞭解也只是皮毛），而現在似乎變得家喻戶曉。此前一年，谷歌大舉收購各類人工智能初創公司，DeepMind以超過5億美元的高價成為其中最昂貴的交易。但比價格更令人難忘的是它的使命。“他們聲稱正在研究AGI。”我記得有同事帶著學者特有的世事洞明的笑意告訴我。
我完全能理解同事的厭倦之情。AGI指的是“通用人工智能”（artificial general intelligence），是一種極其複雜、靈活的人工智能，不僅能完成圖像分類或跨語種文本翻譯等狹隘任務，還能模擬人類一切認知能力，如分析、創造等。雖然我無法確定這個詞是何時成為專業術語的，但計算機科學領域以前肯定沒用過它。畢竟，“通用”智能從一開始就是人工智能的全部意義所在，前路雖長，但這並不意味著我們可以降低目標。對我們這些研究人員來說，AGI這個新詞聽起來有些多餘。但它讀起來朗朗上口，可以讓外界清楚地瞭解我們這個領域的終極目標，也讓DeepMind在已經競爭激烈的生態系統中顯得膽識非同一般。
我被各種問題狂轟濫炸——學生、好友，甚至一些交情不深的朋友都給我發來消息，問我有沒有什麼預測可以分享。我確實沒有，但當家裡另一位人工智能教授突然拿著一瓶剛衝好的奶走進房間時，我忍不住也向他請教。
西爾維奧說：“嗯，兩種可能性都有。早在20年前，深藍就在國際象棋比賽中戰勝了人類，”他似乎在心裡算了一會，“準確地說，是19年前。”
書呆子就是書呆子。
“不管怎麼說，”他繼續說，“雖然圍棋比國際象棋難很多，但仍然屬於棋盤遊戲。規則雖然複雜，但都非常直接明確，至少從數學角度來看是這樣。”
他意識到自己越說越有教授的腔調了——雖然我們說好了在家裡不能這樣，但經常做不到。他一邊笑著，一邊小心翼翼地把奶瓶放進熱奶器裡。我們幾乎同時說出了接下來的話：“跟衝奶完全相反！”
他說得沒錯。圍棋策略的組合數量大到無法想象，關於如何就此建模，我們倆可以侃侃而談，但像準備一瓶嬰兒配方奶，再把奶瓶放到熱奶器裡這樣簡單的事情，卻依然是機器人專家的“聖盃”——儘管在嚴格控制的實驗室條件下，衝調完美配方奶粉的問題已經得到解決，但在實驗室之外，依然存在巨大挑戰。
1997年，國際象棋大師加里·卡斯帕羅夫（Garry Kasparov）與IBM的超級計算機深藍（Deep Blue）進行國際象棋比賽，計算機正式打敗了人類，消息一出，轟動一時。但是，相對於國際象棋，圍棋的複雜性不僅體現在規則上，還體現在策略組合的可能性範圍上。事實上，圍棋的規則決定了棋子所產生的可能性範圍極大：棋盤上19×19的格子可以帶來的組合總量多達10的360次方。這個巨大的數字超過了宇宙中的粒子數量，且超過許多個量級。要下好圍棋，人類需要通過畢生的實踐不斷培養直覺能力，在每個回合都要把理論上的無數種選擇縮減為可操作性的若干種落子選擇。而就算是最先進的人工智能，其認知深度也不足以複製這種能力。
的確，尋找最佳落子方法所需的計算量是巨大的，因此使用計算機下圍棋難，難於上青天。儘管如此，我們仍有理由保持輕鬆樂觀，因為圍棋遵循一套明確而客觀的有限規則，勝負的標準就是看哪一方的棋子在棋盤上佔的地盤更大。所以與真正的登月相比，圍棋可以說是相對簡單的。
“即使它贏了，”西爾維奧補充道，“要想做意大利千層麵的功夫超過人類，機器還需要一段時間。”
就這樣一個簡單的回答，西爾維奧讓我對現代人工智能有了更深刻的認識，同時也讓我感到飢腸轆轆。
事實上，AlphaGo確實贏了，全球媒體紛紛報道，關注度達到了巔峰。整個世界為之沸騰，而亞洲的反應尤其狂熱。對我來說，體現熱度的最直接指標出現在個人生活層面。
“飛飛，我的老同學們問我你知道AI下圍棋是怎麼回事嗎？”爸爸給我轉了一大堆他國內的朋友發來的微信，最近這樣的信息感覺沒完沒了。“他們聽說我女兒是AI教授，都在問我呢！”新聞頭條是一回事，但當父母和他們在國內圈子的同齡人都在討論人工智能時，說明世界真的變了。
在這個時期，人工智能領域的轉折點層出不窮。即便是最引人注目的突破，我們也不陌生，因為我們為人工智能技術奉獻了一生，現在是開花結果的時候了。ResNet和AlphaGo等的故事激發了各界的對話和討論，也激勵我們在自己的研究中更進一步。我意識到，人工智能的新時代不僅僅是一種現象，因此我忍不住借用了硅谷最喜歡的一個詞，因為正如他們所言，這是一場“顛覆”。
我辦公室裡的那個小小的紅色沙發，曾經見證了我們實驗室眾多聲譽卓著的項目的誕生，如今它成為我敦促年輕人多讀文獻的地方。我經常要求他們，在進行研究的同時，務必為人工智能科學賴以建立的基礎文獻留出空間。時代不斷加速發展，每個人的注意力都集中在了更熱門的信息來源上，而傳統文獻卻一直被忽視。我注意到了這個問題，起初感到惱火，後來又心生擔憂。
“請大家不要每天只從arXiv下載最新的預印本作品了。去讀一讀拉塞爾和諾維格的著作，去讀明斯基、麥卡錫和威諾格拉德的書，讀哈特利和西塞曼的作品，讀一讀帕爾默寫的東西。不要因為這些材料距離現在時間久就忽略它們。我們就是要多讀一些以前的東西，他們的理念經得起時間的考驗，依然非常重要。”
arXiv是涵蓋物理學和工程學等領域學術文章的在線資料庫，其中的文章尚未在學術期刊上正式發表，但會提前以未經編輯的預印本形式提供給對內容感興趣的讀者。幾十年來，預印本一直是大學文化的固定部分。然而近些年來，人工智能發展極其迅速，每週都在發生變化，甚至整個領域會在一夜之間被顛覆。為了保持與時代同步，預印本已成為重要的資料來源。如果說要學生們等上幾個月去讀通過同行評議的論文都是過分的要求，那麼幾年前編寫的教科書，甚至是整整幾代人之前編寫的教科書被束之高閣，又有什麼好奇怪的呢？
太多事情在搶佔學生的注意力，文獻只是個開始。科技巨頭爭相組建人工智能團隊，公開大肆招攬人才，承諾的起薪高達六位數，有時甚至更高，還提供豐厚的股權待遇。機器學習先驅一個接一個離開了斯坦福大學，到了2010年代中期，連博士後都成了搶手人選。希望推出自動駕駛汽車的優步邁出了大膽的一步，從卡內基梅隆大學挖走了40名機器人專家，數量之多堪創紀錄，幾乎摧毀了這所大學的機器人研究體系。對我和同事們來說，光是目睹優步事件，就已經夠難受的了，而對我的學生們來說，這件事似乎從根本上扭曲了他們對教育之意義的認識，因為他們年齡尚小、充滿渴望，而且仍在尋求自己的身份和認同感。最終，這種趨勢達到了頂峰——至少對我個人來說是這樣——非常出乎我的意料。
“你真的要拒絕他們嗎？安德烈，那可是全球最頂尖的學府之一啊！”
“我知道。但是我不能錯過這個機會。真的很特別。”
安德烈已經完成了博士學業，即將進入人工智能史上最有前景的就業市場，即使對一個有志成為教授的人來說也是如此。普林斯頓大學給他提供了教職機會，這是我們任何一個同齡人都夢寐以求的職業快車道。然而，他卻決定徹底離開學術界，加入一個沒人聽說過的私人研究實驗室。
安德烈即將加入OpenAI的核心工程師團隊。OpenAI由硅谷巨頭薩姆·奧特曼（Sam Altman）、埃隆·馬斯克和領英首席執行官裡德·霍夫曼（Reid Hoffman）共同創立，初始投資高達10億美元，這充分證明硅谷對人工智能的突然崛起是多麼重視，硅谷的傑出人物多麼渴望在人工智能領域站穩腳跟。
OpenAI推出後不久，我在當地的聚會上遇到了幾位創始成員，其中一位舉杯祝酒，但他的歡迎詞頗有幾分告誡的意味：“每個從事人工智能研究的人，都應該認真思考自己今後在學術界的角色。”他說這番話時沒有一絲笑意，言辭中透露出明確而冷酷的信息：人工智能的未來將由那些擁有企業資源的人書寫。在學術界受訓多年的我想習慣性地反唇相譏，但我沒有。老實說，我甚至都不確定自己是否反對他的觀點。
誰也無法預測一切會走向何方。與大多數領域相比，我們的領域經歷了太多起起伏伏，雖看似前程遠大，但數度出師不利，“人工智能寒冬”一詞就反映了其多舛的命運。但這次感覺不一樣了。隨著越來越多學者的深入分析，科技界、金融界和其他領域逐漸認可了一個術語：“第四次工業革命”。雖然流行語背後通常存在著誇張成分，但這個詞的確名副其實，足以讓決策者們銘記於心。無論是源於內心真正的熱情，還是來自外部的壓力，抑或是兩者兼有，硅谷的高管層都在採取比以往更迅速、更大膽甚至更冒險的舉動。我們即將見證這種企業理念將會帶來何種結果。
“猿。”我的天哪。
這是雅虎圖片託管服務Flickr在2015年5月自動生成的一個標籤，用來描述56歲黑人男子威廉的單色肖像。雅虎的新技術立刻引發了各方強烈憤慨，可謂自取其禍。此後，這項技術接二連三出現失誤：將達豪集中營大門的照片標記為攀爬架，把一位臉上塗有彩色粉末的白人婦女貼上了“猿”的標籤。雅虎Flickr一經推出，即麻煩纏身。不僅是雅虎，到了6月，谷歌也陷入了類似的爭議，因為谷歌照片服務將兩個黑人青少年錯誤地標記為“大猩猩”。圖像分類本已是老生常談的成功技術，卻在短短几周內變得非常複雜。
即使不是這些公司的員工，我們也很難不感到一絲罪惡感。雖然事故並非惡意，但這並不能讓人感到寬慰。相反，無心之失所揭示的問題才更加令人不安：包括ImageNet在內的數據集由於缺乏多樣性，導致了一系列意料之外的結果；未經充分測試的算法和存疑的決策又進一步加劇了負面影響。當互聯網呈現的是以白人、西方人和男性為主的日常生活畫面時，我們的技術就很難理解其他人群了。
有果必有因，正如記者兼評論員傑克·克拉克（Jack Clark）所言，問題的根源在於人工智能“男性之海”問題：科技行業的代表性不足，導致算法無意中帶有偏見，在非白人、非男性用戶身上表現不佳。這篇文章於2016年發表在彭博社網站上，是對人工智能倫理問題的最早一批討論之一。此後，相關對話日益激烈。人們擔心人工智能在做好事的同時（如支持殘障人士、追蹤森林砍伐、以各種新方式保護人類生命等），也有可能產生危害。
我想到了為打造ImageNet而掙扎奮鬥的那些年——即使在我們最具創造力和即興能力的時候，也沒有考慮到倫理問題。十年前，由谷歌和維基百科等組織的內容呈爆炸式增長，似乎極大地拓寬了電視和報紙等傳統媒體提供的狹隘視角，為我們提供了一扇瞭解人類生活真實面貌的窗口。從某種程度上來說，它們確實做到了。然而，雖然一切看起來很生動，雖然我們的期望是如此熱切，但所形成的圖景還遠遠不夠完整。
這個問題早就應該面對，但對話並不足以安慰我內心深處的工程師。顯然，數據集不平衡是造成問題的重要原因，但還有無數其他因素值得我們考慮。模型本身是否存在問題？在依賴所有數據的算法架構中，是否隱藏著未被發現的弱點？可以促進訓練過程的學習技術有問題嗎？問題的數量超過了答案，而且這個差距越來越大。
這些問題也壓在奧爾佳的心頭。人工智能是以男性為主導的領域，作為少數女性，我們兩個人多年來一直惺惺相惜，彼此分享著身為女性在人工智能領域的經歷，也沮喪地發現，我們的經歷非常相似。到了2010年代中期，奧爾佳忍無可忍，她下定決心，要麼採取行動改變現狀，要麼離開學術界。她選擇了前者，我們決定一起努力。
我們認為，從代表性問題的出現，到問題被大眾真切地感受到，中間往往需要幾年的時間。因此，我們向九年級和十年級的女生開放了斯坦福大學人工智能實驗室課程。所有參與的學生都是經過精挑細選的，為期兩週的人工智能速成課程雖然緊張，但實踐證明，只需要一點點努力，就可以讓每個一直被歷史排除在外的參與者相信，她們同樣屬於這個時代、這個領域。邀請少數人群參加人工智能課程的想法非常受歡迎，我們的項目很快就像滾雪球一樣發展成為全國性的非營利組織，遍佈北美各地校園，使命範圍也不斷擴大。很快，我們也開始向有色人種學生和經濟困難學生等邊緣群體提供類似項目。
在短短几年後，我們的項目就正式命名為AI4ALL，甚至吸引了一些資金，梅琳達·弗倫奇·蓋茨（Melinda French Gates）的Pivotal Ventures創投公司和英偉達創始人黃仁勳提供了一輪融資，讓項目改頭換面。這個旅程可能需要幾代人才能完成，現在只是邁出了一小步，但我們實現了從無到有的跨越。此外，項目還能帶來一絲安慰——在業界追逐人工智能未來時，往往肆意而為，缺乏自省，而我們的努力能夠保證，至少有一小部分人在逆向而行。
雅虎和谷歌等公司在全球的注視和評判下得到了慘痛的教訓。親眼看到這些事件提醒我們，僅僅對下一代技術進行投資，然後期望一切順利是不夠的。普林斯頓大學向奧爾佳提供了教授職位，她接受之後，開始著手擴展自己新實驗室的研究議程，不僅包括機器感知的機械原理，還涵蓋更廣泛的計算公平性問題，尤其強調要“去偏見”。“去偏見”是遵循嚴格數學要求的正式操作，旨在對潛伏在數據中的偏差進行量化和中和。這種理念體現了對社會福祉議題的深切關注，有奧爾佳這樣的人據此展開研究，我對未來的希望又開始增加了。
我全心全意地相信人工智能技術的價值，它具有揭示智能奧秘的潛力，也可以帶來我和阿尼在醫院工作時目睹的種種實際的益處。但是，哪怕是片刻的過度自信，付出的代價也會急劇上升。更糟糕的是，這個代價將由其他人承擔，很可能是最脆弱的人群。人工智能已經走出了實驗室，基本脫離了我們的控制。雖然新思想、新面孔和新機構的旋風令人振奮，但也帶來許多新的擔憂。對我們這樣經費極其緊張的研究人員來說，對人工智能領域進行商業投資的承諾似乎是天賜之物；但商業資金以巨大的力量沖刷著一切，好像一場豪賭，讓人感到的不是幸運，而是不祥和擔憂。
詞不達意的問題依然存在。使用“現象”一詞太過被動，“破壞”顯得粗魯，“革命”過於自我陶醉。現代人工智能面紗揭開，我們看到的是一個紛繁複雜的迷局。令人不安的危險感日益增長，但這種危險感是科學家天生能夠識別和理解的。我產生了新的好奇心，雖然令人不適，卻具有強大的吸引力。我只需要一種近距離觀察危險的方式。
“到目前為止，結果令人鼓舞。在我們的測試中，由‘神經架構搜索’設計的分類器經過ImageNet訓練後，性能超過了人類設計的同類分類器；所有工作都是靠計算機自己完成的。”
那是2018年，在加州山景城的谷歌總部中心Googleplex，我坐在谷歌大腦（Google Brain）的長會議桌一端。谷歌大腦是谷歌最著名的人工智能研究機構之一。此次會議的主題是“神經架構搜索”（Neural Architecture Search，NAS），這是一種可以自動搜索神經網絡的優化架構。神經架構搜索的發展成果特別令人激動，幾個月來在谷歌內部持續引發熱議。
此類模型的行為方式是由一系列參數決定的，這些參數在速度與準確性、內存與效率以及其他關注點之間進行權衡。對一兩個參數進行微調非常容易，但要實現所有參數之間的平衡，往往是一項考驗人類能力的任務，即使是專家也很難把每個參數都調整到最佳狀態。如果能實現自動化調節，將會帶來極大的便利，顯然是值得追求的目標。自動化還能降低人工智能的使用難度，讓越來越多的非技術用戶在沒有專家指導的情況下，使用人工智能構建自己的模型。此外，用機器學習模型來設計機器學習模型，並且能夠迅速超越人類的能力，的確非常富有詩意。
但所有功能都是有代價的。單個模型的訓練成本依然很高，只有資金最雄厚的實驗室和公司才負擔得起，而神經網絡架構搜索則需要訓練數千個模型。這項創新很了不起，但從算力的角度來看，造價也極其昂貴。成本問題是會議討論的重點之一。
一位研究人員問道：“這是在什麼樣的硬件上運行的？”
“在整個過程中的任何時刻，我們都在同時測試100種不同的配置，每種配置訓練8個特性略有不同的模型，所以共有800個模型在同時訓練，每個模型都分配了獨立的GPU。”
“這麼說，我們大約要……”
“800個GPU，沒錯。”
800個GPU ！2012年，AlexNet只需要兩個GPU就能改變世界，現在的需求卻飛速增加，其速度之快令人目眩，以後更會有增無減。根據我自己實驗室的預算，英偉達最強大的GPU成本約為1000美元（這也解釋了為什麼我們自己只有十幾個GPU）。此外，還需要把這麼多高性能處理器連接到一起，確保所有芯片晝夜不停地模擬運算，同時設備可以維持在可接受的溫度範圍內，這些都需要花費時間和人力。此外還要選擇合適的地點。網絡硬件佔據大量的物理空間，耗電量巨大，因此不可能在普通車庫或臥室中搭建。即使是像我們這樣的大學實驗室，也很難建造出如此龐大的網絡。我靠在椅背上，環視了一下房間，想知道是否還有其他人和我一樣對此感到沮喪。
2016年，我即將迎來21個月的學術休假，暫時離開教授職位。我的收件箱被來自英偉達、優步和谷歌等公司的邀請信息淹沒了。我保持著一種久經磨鍊的本能，對這些信息一概不予理睬，卻越來越多地發現自己停下來片刻，關注這些信息。我嘆了口氣，跟以前相比，現在去科技公司工作也許會更有意義，哪怕只是一點點。
我不得不承認，進入私營企業工作的想法不再像從前那樣陌生。身邊已經有數不清的同事實現了轉型，就連我的學生也紛紛放下學業，到世界各地的科技公司進行高薪實習，有的更是一去不復返。如今，一切變化如此之快，我不得不懷疑，我對加入企業的厭惡是不是已經過時了？我想看看斯坦福大學和科學期刊之外的現代人工智能是什麼樣子。也許，眼下正是好機會，至少可以讓我暫時體驗一番。
經過再三考慮，我最終決定接受谷歌雲的人工智能首席科學家一職。雖然此時的谷歌是一家有近20年曆史的大公司，但云計算部門才成立一年左右，我覺得這是幫助谷歌從頭開始打造人工智能的好機會。我還碰巧認識公司新任命的谷歌雲首席執行官黛安娜·格林（Diane Greene）。她曾是虛擬化巨頭VMware的聯合創始人，是為數不多征服硅谷的女性，我期待著在性別比例極不平衡的行業裡與她並肩工作。
這不像我本科時得到的那份看似光鮮亮麗的華爾街工作，也不像我在加州理工學院得到的麥肯錫快車道職位（當時我還因為要不要接受這個職位糾結了很久）。我一度把企業的工作當成是具有嘲諷意味的賄賂，目的是讓我放棄實驗室，但現在，我無法再繼續假裝它是一種賄賂。這是一份邀請，讓我可以運營規模更大的實驗室。其能力遠超我的想象，我可以使用任何規模的高性能算力，由博士組成的研究團隊比我在斯坦福大學能召集到的任何團隊都要大幾個數量級。最吸引我的是，我可以獲得我以前做夢都無法想象的海量數據。當然，我的工作會受到公司產品路線圖的驅動，至少是間接驅動，但這些產品始終是基礎研究的下游，正是基礎研究讓它們成為可能。
最重要的是，谷歌雲意味著我看到的不是一個，而是成千上萬個人工智能的應用案例。隨著雲服務在人們能想象的幾乎任何行業找到立足點，谷歌和其他雲服務提供商也成了各行各業的固定夥伴。我有機會看到人工智能在製造業、農業、保險業、運輸和物流業、零售業、金融服務業甚至政府部門的應用情況，以及為其提供支持的數據。其規模之大、種類之多，是任何一所大學都無法同時提供的。
我並不打算完全離開斯坦福大學，即使在學術休假期間也是如此，所以我花了一些時間來敲定細節。我會繼續每週在校園裡待一天，這樣我就可以與實驗室保持聯繫，並跟學生們見面。顯然，後勤工作將是個挑戰，但我已經做出決定。
我在大學這些年的所見所聞也不少，但谷歌雲幕後的一切仍然出乎我的意料。科技行業的財富、權力和雄心向來名聲在外。在親身經歷後，我覺得實際情況比傳聞有過之而無不及。我看到的一切都比我所習慣的更大、更快、更精密、更復雜。
光是食物的豐富程度就令人咋舌。休息室裡的零食、飲料和專業級意式咖啡機比我在斯坦福大學或普林斯頓大學見到的要多得多。幾乎每棟大樓的每一層都設有這樣的休息室。而這一切，都還只是我在進入自助餐廳之前所看到的。
其次就是科技。這麼多年來，我們一直用的是2000年代的投影儀和視頻會議設備，故障頻發，性能很不穩定，經常讓人大為惱火。相比之下，谷歌的會議現場就像科幻小說裡的場景。無論是可容納50人的高管會議室，還是供一人使用的衣櫃大小的會議箱，每個房間都配備了最先進的遠程呈現技術，只需輕點觸摸屏，就能啟動一切。
還有就是人才。谷歌人才濟濟，令人歎為觀止。回想起自己花了兩年時間才招募到三位合作者來幫助建立醫院環境智能，我不禁自愧不如。在谷歌，15人的團隊已經準備就緒，只等我立即加入。而這僅僅是個開始——在短短18個月內，我們的規模擴大了20倍。擁有優秀資歷的博士似乎隨處可見，讓我覺得一切皆有可能。無論人工智能的未來會怎樣，谷歌雲都是我瞭解世界的窗口，而世界正以最快的速度向未來邁進。
我在斯坦福大學度過的每個週五更是突顯了大學與企業之間的差異。隨著我就任新職的消息不脛而走，我每天都能接到實習申請。這在某種程度上是可以理解的，因為我的學生（偶爾還有教授）只是在盡力建立人際關係網。不過，讓我擔憂的是，我和他們的每一次談話，無一例外都以同樣的請求結束：在他們看來，最有趣的研究是不可能在私營實驗室之外實現的。即使在斯坦福大學這樣的地方，預算也不夠多。事實上，預算往往還差得遠。企業研究不僅是更有利可圖的選擇，而且正在越來越成為唯一的選擇。
最後就是數據。數據是谷歌整個品牌建立的基石。ImageNet讓我第一次看到了大規模數據的驚人潛力，也奠定了我此後幾乎所有研究的理念基礎。我和喬恩一起研究了幾十年以來的汽車模型，和安德烈一起研究了大量圖片和相關說明，和蒂姆尼特一起研究了整個美國的街景圖像和人口普查局的記錄——數據量不斷增長，人工智能的能力也與日俱增。現在，我被數據環繞了，不僅豐富程度難以言表，所涵蓋的類別也超乎我的想象：來自農業企業的數據，他們希望可以更好地瞭解植物和土壤；來自媒體行業客戶的數據，他們希望谷歌可以幫助他們整理內容庫；來自制造商的數據，目的是減少產品缺陷；等等。幾個月過去了，我穿行於兩家最有能力為人工智能的未來做出貢獻的機構之間。這兩家機構都人才輩出，極富創造力和遠見卓識。兩家機構都在科技史上有著深厚的根基。它們甚至可以從同一條高速公路進出，在國道101上只相隔幾個出口。然而，行業准入壁壘宛如一座大山高聳在地平線上，峰頂遠高於雲層，在知名高校和頂級私企之間，似乎只有一方擁有足夠的資源來適應這個時代。
我的思緒不斷地回到那800個GPU上，它們在應對一個教授和她的學生們無法想象的計算任務。如此多的晶體管，如此巨大的熱量，如此鉅額的資金。“疑惑”這樣的字眼並不能表達我逐漸感到的驚懼。
人工智能正在成為一種特權，一種排他性極強的特權。
從ImageNet時代開始，規模的重要性就已經顯而易見，但近年來，“越大越好”的觀點幾乎被賦予了宗教般的意義。媒體上充斥著城市街區大小的服務器設施的圖片，關於“大數據”的討論永無休止，不斷強化著這樣的觀點：規模是神奇催化劑，是機器中的幽靈，可以將人工智能的舊時代與令人窒息的夢幻未來區分開來。雖然相關分析可能會有些簡化，但本質上並沒有錯。沒有人能否認，神經網絡確實在這個資源豐富的時代蓬勃發展：驚人的數據量、大規模分層架構和大量互聯的硅片確實帶來了歷史性變化。
這對科學意味著什麼呢？如果我們的工作秘訣可以簡化為赤裸裸的量化，簡化為蠻力制勝，那麼努力思考和創新又有什麼意義呢？如果一些想法在層數太少、訓練樣本太少或GPU太少的情況下似乎會失敗，而在數量增加到足夠多的時候突然又可以高效運轉，那麼對於算法的內部運作機制，我們又能得到什麼教訓呢？我們發現自己越來越多地從經驗角度觀察人工智能，就好像它是自己出現的一樣，彷彿人工智能是需要先識別、後理解的東西，而不是根據第一原理設計產生的技術。
我們與人工智能之間的關係正在發生轉變，對我這樣的科學家而言，這樣的前景令人深思。在谷歌雲的新職位上，我可以鳥瞰越來越依賴於各個層面技術的世界，但我們不能坐而論道、驚歎於一切的神奇。這種奢侈我們負擔不起。新一代人工智能所能做的一切，無論是好是壞，無論是在預期之內，還是在意料之外，都因其設計本身缺乏透明度而變得複雜。神經網絡的結構本身充滿了神秘色彩，它是由微小的、權重微妙的決策單元組成的巨大集合體。這些決策單元孤立地看毫無意義，但以最大的規模組織起來時，卻強大得令人咋舌，幾乎無法為人類所理解。我們可以從理論的、抽象的意義上談論神經網絡：它們能做什麼，它們達到目標需要什麼樣的數據，它們訓練後的性能特徵大致在哪個範圍；但從一次調用到下一次調用，它們在內部到底做了什麼，卻是完全不透明的。
由此帶來的後果特別令人擔憂，這就是一種被稱為“對抗攻擊”的新型威脅。在對抗攻擊中，輸入內容的唯一目的是迷惑機器學習算法，以達到反直覺甚至破壞性的目的。舉例來說，一張照片看上去是描繪了某種明確的事物（比如藍天下的長頸鹿），但可以通過單個像素顏色的細微變動進行修改。儘管這種像素顏色的變化是人類肉眼無法察覺的，卻會在神經網絡中引發一連串的故障。如果對抗攻擊設計得當，雖然原始圖像看起來沒有任何變化，但算法會把“長頸鹿”這樣的正確分類變成“書架”或“懷錶”等錯誤分類。先進技術無法辨認野生動物照片的場景可能會讓人覺得好笑，但如果對抗攻擊的目的是愚弄自動駕駛汽車，導致汽車對停車標誌，甚至人行橫道上的兒童進行錯誤分類，就絕對不能用好笑來形容了。
當然，提高工程技術水平可能會有所幫助。“可解釋的人工智能”，或簡稱為“可解釋性”，正在成為新的研究方向，令人備受鼓舞。可解釋的人工智能試圖將神經網絡近乎神奇的計算進行簡化，轉變成人類可以仔細研究和理解的形式。但相關研究尚處於起步階段，無法保證能夠達到其支持者所期望的高度。與此同時，這項技術所要詮釋的模型卻已經開始在世界各地大量出現。
即使是完全可解釋的人工智能也僅僅是第一步。如果在算法設計完成後，再加入安全性和透明度等考慮因素，無論設計得多麼精妙，都不足以滿足要求。下一代人工智能必須從開發之初就採取與現在完全不同的理念。以激情為起點固然很好，但我們要面對的是紛繁複雜而又不起眼的挑戰，要取得真正的進展，就必須有敬畏之心。而硅谷似乎缺乏這種心態。
學術界早就意識到人工智能可能會帶來負面衝擊，比如缺乏透明度、容易受到偏見和對抗性影響等等。然而，由於研究規模有限，風險一直只存在於理論層面。我的實驗室最有現實影響力的工作是環境智能研究。由於臨床法規的制約，我們對工作熱情保持謹慎和剋制，因此有足夠的機會來應對相關隱患。但現在，市值接近萬億美元的公司已經掌握了主導權，潛在風險的發展步伐也急劇加快。無論是否準備就緒，這些問題都需要以商業速度加以解決。
每個問題單獨來看都令人擔憂，但它們共同指向了一個未來，其特點是監督減少、不平等加劇，如果處理不當，甚至可能導致迫在眉睫的數字獨裁主義問題。走在全球最大公司之一的走廊裡，我不禁陷入沉思，問題的確很尷尬，尤其是考慮到同事們的誠意和良苦用心。這些都是制度性問題，而不是個人問題。現在還沒有出現鬍子拉碴的典型惡棍，我們還沒有遇到真正的現實問題，此時提出這些挑戰，只會讓人更加困惑。
我回想起與阿尼共事的情景，想起當時要在幾家醫院部署手工製作的小型原型設備是多麼困難。在高度謹慎的醫療領域，創新是逐步展開的，雖然有時令人沮喪，但總體上也讓人感到心安。我想知道醫療領域的做法是否值得廣泛效仿。
硅谷的傲慢態度向來為外界所詬病。在人工智能時代，儘管我們對潛在風險的認知不斷加深，企業的誇誇其談也上升到了新的高度。首席執行官們在世界各地的舞臺上發表主題演講，有些內容高瞻遠矚，有些則拙劣不堪，還有一些是徹頭徹尾的侮辱。企業高管們承諾將在不久後推出自動駕駛汽車，設計出高超精湛的腫瘤檢測算法，實現工廠的端到端自動化。至於被先進技術取代了工作的人（出租車司機、長途卡車司機、裝配線工人甚至放射科醫生）的命運，商業領域的態度似乎介於半心半意的“再培訓”和幾乎不加掩飾的漠不關心之間。
無論首席執行官和自詡為未來學家的人的言論如何徹底脫離公眾，技術的日益普及都會進一步加劇人們對人工智能的恐懼。在這個時代，里程碑接二連三地出現，最可怕的情景正在逼近。在人工智能領域的歷史上，第一次出現了流血事件。
在亞利桑那州坦佩市，優步先進技術集團正在測試一輛自動駕駛原型汽車。伊萊恩·赫茨伯格（Elaine Herzberg）推著自行車過馬路時，被這輛車撞倒身亡。兩年多前，優步策劃了卡內基梅隆大學機器人系團隊離職記，而現在，優步的自動駕駛項目成了公眾嘲諷的對象。如果說人工智能如今頻頻遭遇偏見讓我和同事們感到難過，那麼我們現在的感受則無法用語言來形容。優步的品牌已經聲名狼藉，其原因與技術本身關係不大。儘管我們很容易將事故歸咎於優步，但很明顯，這絕對不會是最後一個類似的事故。
的確，更多教訓很快就出現了。2016年，ProPublica[注：ProPublica是一家總部設在美國紐約的非營利性媒體，其新聞報道以調查為主，主要涉及政府、商業、刑事司法和環境等主題。——譯者注]的一系列調查顯示，有偏見的人工智能被廣泛應用於處理貸款申請，甚至協助法官做出假釋決定等方面。類似的報道還顯示，在某些招聘中，求職者會先經過人工智能技術的篩選，然後才有真人面試官進行面試。此類做法往往會在無意中造成歧視性影響，這一點並不令人意外。伊萊恩·赫茨伯格的死亡理所當然地導致優步自動駕駛團隊解散，並對整個領域造成了負面影響，但上述更微妙、更機構化的傷害卻不可能迅速得到糾正。相關問題幾乎是無聲無息的，影響範圍更廣，而監管則少之又少。期待出現同樣程度的公憤是不現實的。但好在公眾意識在不斷提高，媒體也認識到，當涉及人工智能的報道時，不應忽視偏見、公平和隱私等問題。
無法問責算法、特定人群受到不公平待遇、一個人意外死亡，這些都是人工智能領域出現的新局面。審視局面，我得出結論：簡單的標籤已經不再適用。甚至連“失控”等措辭都顯得委婉。人工智能不是現象，不是顛覆，不是難題，也不是特權。我們面對的是一種自然力量。它是如此宏偉，如此強大，如此反覆無常，既能輕易激發靈感，也很容易摧毀一切。要讓人工智能值得信任，需要的遠不止商業公司空洞的陳詞濫調。
人工智能甚至不是科技界對公共利益的唯一威脅，這使得情況變得更加複雜。在人工智能領域出現問題的時候，劍橋分析公司也爆出醜聞。在2016年美國總統大選期間，公眾普遍對虛假信息表示擔憂。關於社交媒體和新聞源過濾氣泡的不良影響的報道也在不斷增加。種種事件都有一個共同之處：世界正在逐漸意識到，數據不僅有價值，而且具有影響力，甚至可以產生前所未有的決定性影響。
到2018年，已經沒有人再質疑其中的利害關係了。對臉書和Instagram等社交媒體應用的審查不斷加強，因為它們提供的超個性化內容可能會導致青少年出現抑鬱和焦慮。社交媒體利用人工智能打磨定製化內容，以實現最大程度的“用戶參與”，這種趨勢令人不安。亞馬遜使用一系列監控工具（包括監控腕帶）實時追蹤工人的工作效率，這種倉庫管理方式受到媒體抨擊。微軟在試圖推廣其人工智能面部識別技術時，遭到了隱私權倡導者和公民自由組織的批評。我自己也被捲入爭議的中心。當時谷歌雲與美國國防部簽訂的一份合同（內部稱為Maven項目）引發了廣泛的爭論。幾個月後，緊張局勢從公司內部蔓延到媒體，重新點燃了大眾關於技術在軍事事務中所扮演角色的長期爭議。科技抵制浪潮已經來臨，人工智能難以獨善其身。
“我們就在這兒等著。”我說。
時間是早上5:30。我看著護士把母親推進手術室。她又要做心臟手術了，這是迄今為止創傷最大的一次。中國家庭向來不善於用語言表達對彼此的感情，我在心裡默默地說出了剩下的祝福。
我愛你，媽媽。
我不知道該做些什麼。幾分鐘後，我無精打采地站起身，在大廳裡踱來踱去，找到了一張遠離喧囂的安靜長椅，頹然坐下。長椅的金屬表面比我想象的還要冰冷，我不禁打了個寒戰。只有我一個人，滿腦子都是我還沒準備好面對的種種思緒，左手邊空空如也——在其他日子裡，母親總會坐在我的左邊。她也許會發脾氣，會評頭論足，但她總是在那裡，總是在我身邊。
片刻之後，我意識到周圍並非空無一人。父親找到了我。他看起來欲言又止，似乎不知道如何開口。
“飛飛……”他的語氣異常嚴肅，甚至有一種成年人的口吻。但我感覺到的不是力量或威望，而是脆弱。
“我小時候，人人都喜歡我父親，”他停頓了一會兒，繼續說道，“尤其是我。我跟你說過他的事嗎？我們家並不富裕，但過得還算舒適，尤其是在我們這樣的小城鎮。我的成長過程很幸運，我覺得自己……很特別。”
我不知道該怎麼理解我聽到的話。他很少談起他的過去——缺席的祖父、他似乎從未擺脫的童年，還有我和母親之外的家庭成員。但他繼續說了下去，深入講述著我從未聽過的故事。
父親委婉地講到，因為他的母親患有某種說不清的嚴重精神疾病，他從小就沒有在自己母親身邊。儘管如此，或者更可能正因為如此，他的父親——也就是我的祖父——對他溺愛有加。祖父並非富有之人，也沒有顯赫身份，只是個小官員，但生活在那樣的小城鎮裡，即使是微不足道的行政地位也能帶來一些好處。對父親來說，那是一段快樂的時光，遠離了那個時代的紛雜是非，經歷了我想象中他那種性格的人在童年時期必定經歷的各種冒險。
當他告訴我他兒時最喜歡的寵物時，我忍不住笑出聲來：一隻熊，一隻真正的熊，而且是他親手養大的。後來那隻熊長得太大了，變得非常危險，他們沒有辦法，只能捐給了動物園。當然，我不應該感到驚訝，大多數男孩哪怕只有一點兒名義上的特權，也會夢想著進個好學校、謀個好職位，但父親畢竟與大多數男孩不同。他當然會利用這個小小特權換取一隻熊，牽著它在小鎮上漫步。我內心的緊繃逐漸舒展開來。以傳統的標準來衡量，他也許不是一個稱職的父親，但像這樣的時刻還是讓人印象深刻。他真的能在任何場合給人帶來溫暖。
但故事至此發生了轉折，因為祖父突然罹患重病。病情開始得很神秘（那個時代經常會這樣），而且由於他們很少與人交往，祖父的病逐漸惡化。只有父子倆相依為命，小鎮物資有限，有效治療幾乎是不可能的。父親束手無策，祖父日益憔悴疲勞，食慾急劇下降，變得神志不清。
因為照顧不周，祖父的身體迅速垮了下來，幾個月後就無法自理。父親只能守在床邊，眼睜睜地看著祖父的身體一天天衰弱下去。父親整個世界的中心崩塌了，但他卻無能為力。當祖父最終去世時，父親覺得生命毫無意義、毫無尊嚴。姍姍來遲的醫生跟父親解釋說，是極度營養不良加劇了祖父的胃腸道疾病，最終使他的身體不堪重負。但對一個突然變得如此孤立無援的男孩來說，解釋已經無關緊要。一切都毫無道理可言。
那是1961年，父親當時只有14歲。
祖父去世後，沒有任何親人來照料父親。不可思議的是，祖父的一位同事主動收養了父親，成為他的法定監護人。祖父同事讓父親繼續上學，滿足了他的基本需求，並確保他順利畢業。祖父同事的慷慨讓父親熬過了那段原本會讓他生不如死的日子，但從此之後，他就像變了一個人。
祖父去世後，父親的一部分也隨之消逝，留下的只是一個孩子的一部分，這是他所熱愛的世界曾經存在過又消失的唯一證據。因此，他決心保持原樣。即使他長大成人，獲得學位，並最終為人夫、為人父，他也繼續過著記憶中的那個男孩的生活。
父親笑容溫暖，喜歡玩冒著傻氣的文字遊戲，一生都拒絕承擔責任，但在這一切的背後，隱藏著一種無法治癒的痛苦，多年後依然讓他難以自拔。所有的遭遇和痛苦塑造了他唯一的信念，隨時間推移而變得更加堅定：雖然反覆無常、殘酷無情的世界奪走了他的父親，卻永遠帶不走他。這個世界也永遠不會奪走我的母親，永遠不會帶走我。
在那一刻，我恍然大悟。父親並不是在簡單地向我講述我們家族的歷史，也不是在講述他與母親一樣渴望逃離的私人原因。這個男人之所以說這些話，是因為他急於想讓女兒做好失去母親的心理準備。在幾十年的新生活之下，埋藏著他最古老、最深沉的悲傷，現在他把這份悲傷挖掘出來，這樣我們才有勇氣共同面對新的傷痛。他是在保護我。這麼多年來，我一直以為他的青春期從未結束，但事實是，他的青春期早已結束了，而且結束得太快。他一直像個被時間定格的孩子，但在醫院的那一刻，我看到了新的一面。在這一切的背後，是一顆父親的心在跳動。
我在人工智能領域的第二個十年已經來到尾聲，在谷歌的第二年也即將結束，我感到前所未有的不安。我所在的領域正處於混亂之中，而這種混亂似乎也滲透到了我的內心。我也逐漸意識到，一種模式似乎定義了我的人生。無論情況有多麼艱難，都會有一些事情喚醒我，讓我思考在這一切之中，生而為人究竟意味著什麼。每一次，我都心懷感激。
不管在何種場合，關於職業倫理的對話都需要花費一番心思，但有一次討論讓我尤其緊張。那是2018年秋季的一天，我站在一間擁擠的會議室裡，到場的都是現場向我彙報工作的工程師和產品經理。在回答團隊提問的時候，我感覺就像在高空走鋼絲。不管是我們行業還是其他行業，都經歷了太多動盪，從文化到政治，我覺得早該進行反思了。
我開口講話，句子之間有很長的停頓：“從我記事起，我就對物理學充滿熱愛。但是，科學之美與曼哈頓計劃等事物緊密相連。這就是現實。人工智能也有自己的隱患，無論是機器人殺手，還是大範圍的監控，甚至只是通過自動化讓我們80億人失業。這些都是可怕的事情，值得我們擔心。但它們也是極端情況，不太可能明天就發生。”
我再次陷入長時間的停頓，醞釀著下一句話。
“我想，這就是問題真正變得棘手的地方。因為在此期間，有太多其他事情需要考慮。既有許多積極的方面，也有很多負面的因素，有些事情可能明天就會發生。所以，我希望你們能理解我們所面臨的機遇。無論接下來會發生什麼，我們都要在其中發揮作用。我們必須認真對待。這就是倫理框架的重要性所在。它可以幫助我們在邁出每一步之前進行評估。”
會議室裡安靜了片刻。
“嗯，我能問個問題嗎？”會議室最角落裡傳出一個聲音。這聲音來自谷歌新聘用的研究科學家，她才華橫溢，技術水平很高，最近剛從世界最頂尖的學校畢業。然而，聽起來她有些膽怯。“‘倫理框架’這個概念……”
“請說。”
“具體是什麼意思？”
這個問題比我想象的更為基礎，也許我們每個人都需要如此發問。
加入我們的團隊，利用大數據、分析和人工智能，幫助本地單身人士找到真愛！正在招聘中！
我在後座上眯著眼睛看著國道101上的另一塊廣告牌。我開始懷疑，人工智能的真正威脅是否在於除了人工智能，我們已經不可能再做其他廣告了。自從幾個月前和團隊討論了我們工作的倫理問題，這個問題就一直縈繞在我的腦海中。同事的聲音打斷了我的思緒。
“嘿，看看這個。”他邊說邊遞給我幾頁打印好的文件，“這是公關團隊整理的談話要點，我們可能會用到。”
清晨時分，我們的車隨著向南行駛的車流緩慢移動。我低頭看了看材料，露出微笑，但讓我精神振奮的並不是紙上的字。我們正在前往山景城，要去參加谷歌一年一度的傳統招聘活動，這是我第二次參加了。谷歌會讓數百名來自世界各地的暑期實習生聚集到Googleplex，與領導層會面，幫助他們更深入地瞭解自己的職業發展道路。對公司來說，這是一次招聘活動。而對我來說，這是一個可以遠離公司事務的好機會，喚起了我作為教育工作者最美好的時光。滿屋子都是聰明、年輕、有遠見的思想家，而我將有機會跟他們交流。
在谷歌，我通常很樂於照本宣科，這與我做教授時暢所欲言的風格完全不同。作為谷歌的發言人，意味著要對眾多高管、公關顧問甚至律師負責，因此不按規定行事的想法會讓我感到非常害怕。我的發言通常都是圍繞人工智能和商業的老生常談，彬彬有禮地講給這個記者、那個記者或一群分析師聽，不會出任何紕漏。我幾乎到了熟能成誦的地步。
但身處這個奇怪的時代，我的內心渴望變革。我的思緒又回到了與團隊的會議上。最後一個問題反覆出現：“倫理框架”到底是什麼意思？我越思考，就越覺得自己想得並不清楚。我自己對“倫理框架”的大部分概念源於非傳統職業生涯中的意外收穫：在加州理工學院與克里斯托夫一起向機構審查委員會提出建議；多年來在醫院與像阿尼這樣的人合作，陪同醫生查房，傾聽護士的關切，從而加深了對他們的瞭解；家中一直讓我擔心的父母；我青少年時期的移民生活。
一個嚴峻的事實是，醫療等領域擁有經過幾個世紀甚至幾千年的時間建立起來的規範、先例和倫理基礎；其倫理基礎以生與死這一無法迴避的現實為依據。相比之下，人工智能還處於發展的早期階段，其本身幾乎沒有明確的倫理準則。我們領域的自我認識之路才剛剛起步。因此，缺乏倫理框架的不僅僅是谷歌，也不僅僅是像那位提出問題的年輕工程師一樣的個人，而是我們所有人。
我假裝對公關團隊準備的材料很感興趣，掃視著用熒光筆突出顯示的段落，但這一次我已經暗下決心：在面對700名未來最有影響力的科技工作者發表演講時，無論結果如何，我都不會用別人準備好的發言稿；我決定要完全發自肺腑地講話。此外，隨著我的學術休假即將結束，我有非常多的反思要和大家分享。
在谷歌雲工作的日子雖然常常讓人迷失方向，但我卻無比感激。我得到了科學家少有的機會：在最大範圍內與受到我領域研究影響的人會面，從他們的角度來審視相關影響，哪怕只是一瞬間。兩年來，我經常與金融服務、農業、醫療、能源、娛樂和交通等行業的初創企業，以及財富500強企業的高管、產品設計師和各類開發人員進行交流。這些經歷給我帶來的經驗和教訓比我想象的更清晰、更讓人謙卑，也無比直接地提醒我，人工智能已不再是智力上的好奇探索，而是即將改變全人類生活的社會轉折點。歸根結底，我知道，如果一個機構不在某種程度上對人工智能技術加以考量，那麼它將無法生存下去。這些跡象是明確無誤的。我日復一日、周復一週、月復一月地反思我所看到的一切，試圖更好地理解我們所面臨的拐點，思考如何負責任地駕馭它。我為此感到自豪，也懷抱著樂觀的心態，依然充滿熱情。但同時，我也深感這份責任從來沒有像現在這樣沉重。
無論我接下來要去哪裡，我的旅程都將從我站在臺上面對實習生時所說的話開始。過去兩年，我一直專注於傳遞企業信息，現在我將不再擔任企業信息的傳聲筒，我決定直抒胸臆。雖然我還沒有準備好措辭，但我打算承認，前路崎嶇而艱難，無論是學生還是教授，實習生還是首席執行官，沒有人知道答案。有壞消息要面對，有難以接受的真相要處理，而且很可能會造成傷害。但也有好消息：現在一起面對還為時不晚。
登上講臺時，熟悉的緊張感在我的胃裡翻騰。不過，我最喜歡的觀眾就是學生，看到他們的目光，我感到了安慰。
“下午好！”我對著麥克風說，“很高興來到這裡。”
那一天，只有這兩句話是講稿裡的。
兩週前，母親剛剛接受了心臟外科手術，這是我們家與不敢想象的事件最近的一次接觸。而就在現在，我已經從母親的聲音中聽到了單調的藐視——她的語調一如尋常。無論健康還是生病，年輕還是年老，這都是她的自然狀態。
“這個話題我們都討論20年了，飛飛。”母親說道。
我轉過頭看了看屏幕，那封郵件依然清晰可見。在一封日期為2018年6月7日的郵件中，美國眾議院科學、太空和技術委員會的副主任似乎在邀請我做證。對一個從未出席過國會聽證會的人來說，這是一個令人生畏的邀請，而且聽證會定在26日，距離現在還有不到三週的時間。我想到導致當前情形的種種因素：科技抵制浪潮、有偏見的人工智能等等，覺得接受邀請似乎是個絕對糟糕的主意。我知道母親此時此刻是多麼需要我陪在床前（不管她是否承認），因此心情更加糟糕。老實說，我只想讓她替我做決定，讓她堅稱我現在離開是對她極大的不負責任。但她一如既往地沒有打算給我提供便利。
“飛飛，你還記得我們在肯尼迪機場降落的那一刻嗎？我們剛來到這個國家的時候？你爸爸沒有來接我們，我們當時是什麼心情？”
“當然記得。”
“我們在行李提取處的那幾個小時多無助啊，都嚇壞了。現在，20年過去了，你收到了這樣的邀請，要去這個國家的首都，要去為你最熱愛的課題做聽證了。”
“是的，但如果事情沒那麼簡單呢？如果他們認為我是醜聞的一部分呢？如果……”
“那你就為自己辯護！你要告訴他們，你已經為這個國家奉獻了20年，你的家人為了成為這個國家的成員付出了一切，你拒絕被當成外人對待！”如果這番話是出自別人之口，我一定會嗤之以鼻。用這樣的語氣面對國會委員會，我們大多數人只會更擅長想象，而不是實際行動。但我瞭解母親，如果有人敢質疑她的人格，她肯定會這麼說。我在想，是不是可以讓她替我出庭做證。
“想想全世界有多少人對參加這樣的事情求之不得。公開聽證會。領導人和公民之間的公開對話。”
隨著一聲槌響，聽證會開始了。此刻，已經沒有回頭路可走。
“科學、太空和技術委員會聽證會現在開始。”委員會主席、弗吉尼亞州眾議員芭芭拉·科姆斯托克（Barbara Comstock）對著麥克風淡淡地說，“早上好，歡迎各位來到今天的聽證會。今天聽證會的主題為‘人工智能——威力越大，責任越大’。”
至少我聽出了其中一句話是電影《蜘蛛俠》裡的臺詞，說明我還是有一定能力的。即便如此，各種神經質的擔憂還是在我腦海中紛紛閃現。無數雙眼睛彷彿要鑽進我的後腦，我開始重新審視把自己帶到這裡來的旅程的每一個細節。我的移民生活、我在日益分裂的技術發展中扮演的角色、科技抵制浪潮等等，所有的一切。
然而，隨著聽證會的進行，我越發覺得，我對這一時刻的過度憂慮是錯誤的。代表們逐個發言，每個發言都經過了深思熟慮，展現出孜孜以求的姿態，讓我倍感驚訝。他們的聲音帶著好奇心、誠意和探索真實觀點的意願，儘管這些觀點可能很複雜。漸漸地，我意識到自己並不是來接受嚴厲的質詢的。在聽證會上，我甚至有機會講述母親的病情，講述她對我在人工智能和醫療交叉領域研究方面的激勵和啟發。我曾擔心聽證會會演變成對抗的局面，但結果只是一場對話，探討的是更簡單但更深刻的議題：未來幾十年裡，美國人的生活會呈現何種面貌？
當我提到母親的時候，科姆斯托克眾議員將目光從準備好的發言稿上移開，直接與我交談，分享了她對美國人口老齡化所面臨挑戰的看法。
得克薩斯州眾議員蘭迪·韋伯（Randy Weber）發言時也詢問了母親的健康狀況。我高興地向他保證，她的病情很穩定，我已經可以離開她的身邊來參加聽證會，而且她現在就在病床上看著電視直播。“嗨，媽媽！”眾議員科姆斯托克對著攝影機俏皮地插了一句，眾議員韋伯也用溫和的親切語調錶達了自己的祝福。這次交流出乎意料地充滿了溫馨，消除了我內心殘存的恐懼。
我將一切美好感受轉化成語言，介紹了我心目中人工智能的潛力和應有的樣子。我講述了啟動AI4ALL公益項目的經歷，以及項目啟動以來，我學到了什麼。我談到了環境智能，分享了這個話題對我的意義。我還談到了未來，表示相信人工智能可以為縮小世界各地的機會差距做出貢獻。
這是我就人工智能話題進行過的最友好的對話。在伊利諾伊州眾議員比爾·福斯特（Bill Foster）的影響下，我們甚至談及了更專業的領域。他是一位擁有物理學博士學位的政治家，在從政之前曾在能源部費米國家加速器實驗室工作。他的求知慾激勵了我，也再次驗證了人工智能是多麼新穎的研究領域，比化學、生物學和物理學等更成熟的學科要年輕幾個世紀。即使是現代人工智能，也更接近於牛頓出現前伽利略和第谷·布拉赫所處的時代，當時人們正在對各種現象進行觀察、歸納和預測，但統一的模型尚未正式形成。我說，我們生活在一個令人興奮的初生時代，仍在企足而待“古典”時代的黎明。
“感謝各位證人的證詞和各位委員的提問。記錄將保留兩週時間。”眾議員韋伯說，“聽證會到此結束。”隨著法槌的再次敲響，聽證會結束了。
我心想：“好吧。”我眨了幾下眼睛，似乎才意識到剛剛發生了什麼。我終於可以自由呼吸了。
當我走回酒店時，對首都街頭的氣氛感覺完全不同了。我的腎上腺素水平開始下降，思緒也變得更加清晰。我感覺更像真正的自己了。但我仍然沒有方向，不知道接下來應該追隨怎樣的北極星。
我重新打開手機，信息通知聲近乎不斷。我沒有查看消息，而是給西爾維奧打了個電話：“嘿，媽媽怎麼樣了？有什麼新消息嗎？”
“你媽媽很好，我剛給護士打電話確認了一下。你自己呢？”
“據我所知，我活下來了。你覺得怎麼樣？”
“我覺得一切都很順利。”他說，“我這輩子都沒看過這麼長時間的C-SPAN[注：C-SPAN是美國的一個有線電視和衛星電視網，直播和錄播美國國會聽證會、白宮新聞發佈會、政治活動以及其他與公共事務相關的內容。——譯者注]直播。我看不出你有多緊張。”
謝天謝地。不只是我一個人這樣想。
“但你知道嗎？可能是電影看多了，讓我產生了錯誤的想象，我覺得你的聽證會也沒想象的那麼刺激。”他笑著補充道。
我笑得比想象中更大聲。
聽證會終於落下帷幕，而我還在想象聽證會可能會發生的各種情景。會議時間本可以更長，本來可以有更多的證人、涉及更廣泛的專業知識；會議議程可能涵蓋更多議題，會議成果也可能以更多的形式公佈。但是，即使是“更長”和“更多”等詞語，也讓人感覺言不盡意。要探討的話題實在太多了。
此外，我們仍身處一場全球風暴之中。每天似乎都有新的頭條新聞報道自動化對全球勞動者構成的威脅。隨著人工智能在監控領域的應用日趨成熟，記者和人權活動家的擔憂與日俱增，對隱私和個人尊嚴的古老威脅也在現代社會出現。儘管最初出現了強烈抗議，但算法偏見仍然籠罩著整個人工智能技術，此外還有往往與算法偏見相關的代表性問題。
我曾經把人工智能視作純粹的科學，而現在，我用了很多不同的詞來形容其化身：“現象”“顛覆”“謎題”“特權”“自然之力”。但當我穿過首都的街道返回酒店時，一個新詞佔據了我的思維。如今，人工智能是一種責任，是我們所有人共同承擔的責任。
我確信，這是一個值得面對的挑戰。深度學習飛速發展，每一年都感覺像是要面對一個全新的領域，其應用的深度和多樣性增長得如此之快，甚至全職研究生和博士後也很難跟上文獻的步伐，更不用說教授們了。可能性無窮無盡，挑戰也永無止境。即使在這樣一個黑暗的時代，人工智能也具有無與倫比的激勵力量。面對全球亟待解決的問題，面對具有歷史意義的機遇，面對可能需要幾代人的努力才能揭開謎底的未知，真正解決所有問題的答案遠遠不是公司戰略或學術課程所能提供的。
是什麼讓硅谷的公司如此強大？不僅僅是它們數十億美元的資金或數十億用戶，也不僅僅是因為它們擁有驚人計算能力和數據儲備，讓學術實驗室的資源相形見絀。它們之所以強大，是因為成千上萬個才華橫溢的人在同一個屋簷下共同努力。但公司只能利用這些人才，而無法塑造他們。我一遍又一遍地看到類似的情況：才華橫溢的技術專家幾乎可以建造任何東西，但問及工作的倫理問題時，他們卻一臉茫然。
是時候重新評估人工智能教育的各個層面了。未來幾年，從業者需要的不僅是專業技術知識，他們還必須瞭解哲學、倫理學，甚至法律。他們需要看到阿尼確保環境智能團隊所看到的一切，他們需要將其融入眾多學科中。研究工作也必須不斷發展。在經歷了這一天之後，我知道我們需要一種新的政策方法，首先要對民選官員（就像我剛剛遇到的那些政府官員一樣）進行人工智能方面的普及教育。
想象空間是巨大的，但願景需要一個重要的紐帶串聯起來，這個紐帶就是大學。早在有人利用人工智能謀取利益之前，人工智能就已經在大學裡起步了。在大學校園裡，仍然最有可能感受到某些意想不到的研究突破帶來的火花。感知機、神經網絡、ImageNet，以及後來的很多東西都出自大學。我想建立的一切都已經在那裡紮下了根基。我們只需要加以利用。
我們要從根本上重新構想人工智能，使其成為以人為本的實踐，這個共同的目標就是下一顆北極星。在我看來，與其說這是旅程方向的改變，不如說是旅程範圍的擴展。人工智能一直以來都追求科學性，而現在，它必須也追求人性。人工智能應該秉承最優秀的學術傳統，保持合作和敬畏，同時不懼怕直面現實世界。畢竟，星光是多樣的。一旦白色的光輝展開，各種顏色就會發出耀眼奪目的光芒。