Deceptively Simple
“人工智能還能做哪些事來幫助別人？”母親在病床上的問題，讓我開啟了醫療服務的環境智能研究。另外，我開始思考“人工智能倫理”的議題。
2013年夏天的一個下午，我和西爾維奧正在參加朋友女兒的成人禮。莊嚴的儀式結束了，接著是一場招待派對，西爾維奧想拉著我一起跳舞。音樂剛剛響起，我的手機就震動了起來，真是天助我也——我一向不喜歡在公共場合跳舞。我對西爾維奧做了個手勢，說我得去接個電話（他肯定覺得這個藉口太方便了），然後躲到了外面。
“喂，爸爸，怎麼了？”
還沒等他具體說原因，我就從他的語氣中聽出了問題。
“我覺得你媽媽發燒了。她一直呼吸困難，還說胸口疼。你在哪兒呢？我該怎麼辦？”
我猛吸了一口氣，心驟然沉了下去。這樣的情形我已經再熟悉不過，但每次遇到，依然會感受到巨大的恐慌。母親的身體又出問題了。
二十多年來，我們全家經歷了太多次深夜驚魂和死裡逃生，次數多到我都記不清了。我們在急診室、重症監護室、手術室候診室，還有醫院的其他地方度過了生命中的一個又一個章節。母親十幾歲時就因嚴重的風溼熱引發了心臟病，此後的幾十年一直沒有采取干預措施，任由病情發展。心臟問題是影響母親身體健康的罪魁禍首，就像多米諾骨牌一樣，引發了各種問題，從藥物副作用到我們僥倖及時發現的幾乎致命的腦出血。我和母親一起，費盡周折地輾轉於各種保險機構，尋找各種經濟援助方案，甚至在美國當地治療方案枯竭的情況下，我們還回了趟中國。一路走來，我的角色從十幾歲時的中英文翻譯演變成了類似非官方的個案工作者，尋求專家，安排會診和治療，監測症狀，監督藥物治療和康復計劃，但這些似乎都無法讓病情穩定太久。無論以何種實際的標準衡量，照顧母親的健康都已經成了我的第二職業。
雖然嚴重的威脅接二連三到來，但母親獨特的堅韌始終沒有改變。對我而言，每一場新的衝擊都始終伴我左右，並沒有隨著時間的流逝而減弱，反而成為我生活中固定的基本元素。我的潛意識裡一直在等待下一個壞消息，而任何壞消息都可能是最後一個。每當手機屏幕上顯示出母親的名字，我就感到自己的胃在下沉。無論生活把我帶向何方，我都覺得自己永遠處於一種脆弱的狀態。
又經歷了兩天旋風般的就診，最近一次磨難終於告一段落。發燒導致心跳波動加劇，可能是流感所致。雖然症狀嚴重，但好在沒有危及生命。我癱坐在病房角落的塑料座椅上，本能地打開筆記本電腦。有那麼幾分鐘的時間，我敲擊鍵盤，全情投入工作。在這樣的時刻，熱愛自己工作的價值難以言表。但我忽然感覺有點兒不對勁，周身彷彿有一種刺痛感。
是有人在盯著我看嗎？
我從電腦屏幕上方瞥過去，發現母親已經醒了。她的確在注視著我。
“你怎麼樣了？”我問道。
我看得出她心裡有事，但我知道，她並不是在考慮自己的健康問題。
她又思考了片刻，說：“飛飛，你到底是做什麼的？”
母親的這個問題實在太奇怪，我不由得放聲笑起來。
“什麼？”我一邊笑，一邊努力認真回應，“你問我是做什麼的，你是說靠什麼賺錢嗎？”
“我知道你是科學家，研究大腦還是電腦的，但這麼多年，我們都沒有討論過你是哪種科學家。你爸爸說你是‘瘋狂科學家’，但我敢肯定，不完全是這樣。”
平日裡一向嚴肅的母親竟然開起了玩笑，也許我應該叫護士過來——畢竟護士叮囑過我，如果出現任何異常情況，就要立即呼叫她。
“沒錯，我不完全是瘋狂科學家。”我笑著說，想了想她的問題。
笑歸笑，但她說得沒錯。這麼多年來，我一直把她當病人看待，習慣了把工作上的事情壓在心底，很少與她交流。現在我想，我是否忽略了她的其他方面。即使穿著病號服、輸著液，母親仍然是那個善於思考的“教唆者”。於是，我打開了話匣子，從頭開始講起。思維的奧秘，物體分類在視覺理解中的重要性，ImageNet，圖形處理器，神經網絡的爆炸式發展，視覺研究領域突然瞬息萬變。母親側耳傾聽，看似認真，卻帶著像母親逗弄咿呀學語的孩子般的神情。感覺有點兒不對勁。
“我聽不太懂。”她停頓了一下說，“聽著像科幻小說。”
我不應該感到驚訝。她很聰明，知道我在說什麼，但她對科學本身從來不感興趣。她喜歡從故事和人物的角度思考，喜歡激情和衝突。我決定即興發揮。
“你知道，還有一兩個小時，我們就能出院了，但你還需要幾天的恢復時間。要是沒有我、爸爸、西爾維奧或是其他人的陪同，你就沒辦法外出辦事。但是，如果不靠我們，你自己也能出門，你覺得怎麼樣？”
“你是說坐公交車嗎？”
“不是。就算是往返公交車站對你來說也會有些困難。我說的是有一輛能自動替你駕駛的車，從家門口接你，送你到達目的地，這一切都由它來完成。”
自動駕駛汽車領域的炫酷品牌Waymo和Cruise等還有幾年的時間才會出現，但自從自動駕駛領域的先驅塞巴斯蒂安·特龍離開我們的團隊，將他的專業知識帶到谷歌，我就一直在思考這種汽車。越來越多的媒體關注也增強了我的興趣。塞巴斯蒂安的項目令人印象深刻，他對一輛名為“斯坦利”的大眾途銳進行了重度改裝，使之成為歷史上第一輛成功完成美國國防部高級研究計劃局年度沙漠競賽的純自動駕駛汽車。儘管如此，我也沒想過很快就能在路上看到完全自動駕駛的汽車。在現實世界中，駕駛要複雜得多，我認為短期內幾乎無法實現。不過，我可以利用這個話題，讓晦澀的理論變得更加通俗易懂。
“嗯。”她說，語氣變得輕鬆起來，“對我這樣的人來說，生活肯定會大不一樣。”
接著，她又沉默了幾秒鐘，問了一個看似簡單的問題。
“飛飛，人工智能還能做哪些事來幫助別人呢？”
我相信，從看到比德曼的數字的那一刻起，我就成了一名科學家，在這個數字的啟發之下，我開啟了職業旅程。母親在病床上的問題好像只是隨口一問，但每次回想起來，我對這個問題都會充滿類似的崇敬之情，因為她的提問給了我機會，讓我成為一名人本主義者。這是我追尋的新目標，其動機遠不止滿足好奇心。我無法預測這條路究竟會通向何方，但我在醫院裡度過了太多的歲月，答案的蛛絲馬跡已經在眼前隱約可見。
現在，我第一次想把我對人工智能的畢生熱愛與長期照顧他人的痛苦特權結合起來。人工智能在醫院裡能做什麼？我們創造了能夠以人類無法企及的方式觀察世界的鏡頭，將谷歌街景變成了社會學研究。而在醫療領域，人工智能會向我們展示什麼？我們設計算法，把圖像變成故事，將像素轉化為語言和意義。我不禁想問，在醫院這個我們度過了如此多時光的地方，是不是有最需要被講述的故事？
阿尼·米爾斯坦（Arnie Milstein）博士是醫療領域的傳奇人物。他是斯坦福大學醫學院教授，長期擔任行業顧問，曾是臨床醫生，是專家中的專家。我們見面的時候，他已經將職業重心轉向改善醫院的醫療服務方式，如流程質量、治療效果和患者體驗等，同時降低醫院的運營成本。他的頭髮近乎全白，彰顯深厚的閱歷，但他沒有架子，精力充沛，總是帶著微笑和天然的友善。
我和母親在病房裡討論人工智能以來的幾個月裡，我一直在思考如何把人工智能與病人護理結合起來。只要有機會，我就和同事聊天，不管他們來自哪個系。我在所到之處播撒了對話的種子，其中一顆終於生根發芽——一個熟人介紹我認識了阿尼。雖然剛開始交流時，我們都感到雙方的領域差異懸殊，很難理解對方的研究內容，但又都感到了一種親切感。我們都不知道等待我們的將會是什麼樣的合作，但我們都確信未來一定會有合作。為了啟動進程，他邀請我和他一起參加在舊金山北邊舉行的一個閉門演示活動，瞭解飛利浦公司正在開發的遠程醫院監控技術。
在演示室裡，一排護士站在裝有大型平板顯示器的工作站前，飛利浦公司的代表走到演示室中央：“非常感謝大家的到來。你們即將看到的是我們的eICU技術演示。eICU是用於重症監護病房的遠程監控解決方案，雖然目前還處於概念驗證階段，但我們已經開始在一些醫院進行試點。”
我意識到，屏幕上顯示的是重症監護病房病人的實時畫面，視頻上顯示了病人生命體徵的多個維度，護士可以隨時在顯示器前觀察。一旦發現危險或異常情況，她們可以通過按鈕面板立即通知現場人員。
“沒有人願意面對醫療護理中的失誤，但這些失誤對病人構成了持續的威脅。感染、手術工具放錯位置、藥物混淆、劑量錯誤，甚至是老年患者摔倒這樣簡單的事故，都會造成嚴重的後果。類似的錯誤不勝枚舉。”
太可怕了。下次我在候診室裡等待的時候，更會忍不住胡思亂想了。
“可悲的是，這些失誤每年造成美國約10萬起死亡事故，其中大部分是完全可以避免的。”
等等，什麼？我的大腦突然一片混亂。每年10萬人死亡？都是失誤造成的？
“有一種特別危險的錯誤就是病人在重症監護室中長時間無人看護。eICU是防止這種錯誤的第一步，它使得規模更大、地理分佈更廣的團隊可以更密切地關注醫院裡最脆弱的群體。”
這是個好主意，但我無法不去想剛剛聽到的數字。
10萬。這個數字在我腦海中不斷重複閃現。
“飛飛，這就是我所說的醫療保健‘黑暗角落’的一個例子。”阿尼湊過來低聲說道，“不管是在醫院、老年護理機構、手術室還是其他地方，都會有病人逃過臨床醫生的關注。”
我想起了躺在病床上的母親，想起了我每晚剛進家門的例行事務，我擔心會不會發現什麼跡象，表明我不在的時候她的病情惡化了。
阿尼繼續說：“這是我們努力解決長期存在的一個問題。在醫療行業，幾乎每個人都超負荷工作，大家都精疲力竭了。在某種程度上，過去幾十年來為他們打造的所有技術都是在幫倒忙，因為現在他們也被信息淹沒了。這是一個危險的組合，太多病人因此錯過了最佳治療時機。”
演示非常完美，讓人印象深刻，但在演示結束後很長一段時間，我的焦慮感依然揮之不去。
電梯門關上時，我說：“我腦子裡就是忘不了那個數字。”
“每年10萬人死亡嗎？”阿尼回應道，“在過去的一二十年裡，這個數字一直是激勵我工作的最大動力。”
為一個具體數字無限痴迷——阿尼和我的共同點比我想象的要多。
“我有個問題要問你。”他繼續說，“想象一下，在任何醫院、養老院，甚至是家庭護理項目中，當護理人員查房時，他們想要達成什麼目標？”
我想起了在我母親住院期間查房的醫生和護士，他們中的許多人似乎只是檢查了一兩分鐘，就匆匆趕往下一個任務。
“要跟病人有面對面的時間？要注意自己的臨床態度？”
“這些當然要有，但想得再簡單些。”
“我不知道，難道只是過來看看？”
“你說對了。他們在盡最大努力關注到每一位需要照顧的病人。但即使他們夜以繼日地工作，真正面對每個病人的時間又有多長呢？病人的大部分時間都是無人監控的，這一點難以避免。”
“是事故都發生在沒有人監控的時候嗎？”我問道，“這就是每年有10萬人白白死亡的原因嗎？”
我停頓了片刻，試圖理清頭緒：“聽起來，這些事故有一個共同點，那就是注意力。察覺。”
“沒錯，察覺就是關鍵所在。在整個醫療領域，察覺是最寶貴的資源，也是我們沒有辦法擴展的資源。”
我感覺自己彷彿又回到了紅門咖啡館，與彼得羅和克里斯托夫一起思考視覺體驗。我想到了索普的腦電圖讀數、比德曼的攝影實驗，還有坎維舍繪製大腦皮質解剖圖的嘗試。但我想的最多的還是特雷斯曼，還有她研究的核心觀點：場景越混亂，理解場景所需的時間就越長。這個觀點發人深思：在醫療行業，醫生疲憊不堪，匆匆經過洗手檯卻沒有認真洗手；護士分身乏術，沒有注意到虛弱的病人馬上就要跌倒。我的很多研究都圍繞著感知的本質：感知從何而來？有什麼作用？有什麼潛力？而直到遇到阿尼，我才開始真正意識到感知的巨大價值。
“不好意思，”我停了一會兒說，“這些數字讓我有點兒震驚了。”
演示會幾周後，我去了阿尼的辦公室，繼續我們的討論。我們翻閱了《人無完人》（To Err Is Human）。這本書出版於2000年，對醫院環境中的醫療差錯進行了全面調查，其中揭示的真相令人深感不安。作者得出的結論是，每年因規程和注意力方面的失誤而導致的死亡人數超過了因車禍、乳腺癌和艾滋病這些眾所周知的原因而逝去的生命數量。
“是的，需要花一些時間來理解和消化。”
不過，這是必要的練習。自從看完eICU的演示後，我們的談話就沒有停止過，興奮之情也與日俱增，因為我們決定開展一個小型研究項目。這是我們第一次正式開會討論計劃。
“我建議我們從這個開始。”阿尼說著，用食指指向靠近頁面底部的一個段落。
根據美國疾病預防控制中心的說法，“洗手是預防感染傳播的最重要手段”，即便在今天也依舊如此。然而，反覆的研究表明，在經歷了150多年的發展之後，不洗手或洗手方法不當仍然是造成醫療環境中疾病傳播的重要因素。
洗手問題可能聽起來稀鬆平常，但相關問題仍然是醫療服務面對的嚴峻挑戰。據美國疾病預防與控制中心估計，護理人員在每天巡查的過程中需要洗上百次手，每換一個病人、換一項任務，都需要洗手。鑑於人為錯誤的頻率和性質，即使在最好的情況下，偶爾出錯也在所難免。但隨著輪班時間越來越久，壓力和疲勞會不斷加重，因而導致風險大大增加。最終，一部分錯誤會導致感染（正式名稱是“醫院獲得性感染”），給患者帶來巨大的痛苦，其程度難以想象。
這個可怕的話題非常適合作為我們研究的起點。在開展醫學研究時，如果涉及正在接受治療的病人，會導致一些棘手的複雜問題。而通過將注意力集中在護理人員（而不是病人）的行為上，就可以避免相關問題。據阿尼介紹，斯坦福醫院的管理層對洗手問題已經研究了一段時間，不少人對新穎的解決方案翹首以盼。
我很快就瞭解到，阿尼是那種使命必達的人。我們結束談話後，感覺剛過了一兩個小時，他就給我發來了消息，告知我最新進展，而這些進展本身就讓人感覺是不小的成就：打電話找人幫忙，安排與決策者的會面，確保醫院配合研究，等等。在我自己的研究中，我越來越喜歡做規劃，因為合理規劃可以為新實驗奠定基礎，讓我產生一種自豪感。但這是他的研究領域，不是我的，他打了下響指，一切就安排就緒了，我不禁驚歎不已。
不知不覺中，阿尼成為繼彼得羅和克里斯托夫之後我的又一位導師，他們都有共同的特點，就是在尋求解決方案時，可以跨越學科之間的界限。隨著項目的技術層面逐漸成形，我很快也可以做出自己的貢獻了，我非常期待。不過，就目前而言，我很滿足於跟隨一位老手的腳步。再次做學生的感覺真好。
就在阿尼施展魔法的同時，我們也開始意識到挑戰的艱鉅性。最初，我們的目標是開發一種自動化技術，來確保護理人員在醫院內始終如一地徹底洗手。雖然圖像分類技術已經成為計算機視覺領域的象徵，但醫院項目對技術的要求比圖像分類更高，甚至比我和安德烈一起完成的圖片說明技術要求還要高。這一次，我們的解決方案必須能夠識別特定類型的動作，也就是說，不僅要識別某種物體的存在，還要確定物體的移動方式和動作類別，而且識別準確性需要滿足臨床要求。
棘手的問題比比皆是。首先，“正確”洗手的分類到底是什麼？“正確”洗手肯定不僅僅是確定臨床醫生在洗手檯附近。要確定是不是把手洗乾淨了，算法需要識別洗手過程中的每一個步驟：靠近洗手池、打開水龍頭、使用肥皂、兩隻手在水龍頭下搓揉、長時間沖洗雙手等。無論從哪個層面看，這都是我遇到過的最複雜的感知任務。
值得慶幸的是，我們的項目可以找到先例。我的實驗室一直在攻克類似系統所需的諸多基礎功能。例如，安德烈曾與谷歌合作開展研究項目，旨在識別體育錄像中的場景，比如棒球擊球手揮棒擊球，或者籃球運動員運球等。這項分類任務在很大程度上依賴於對動作和行為的識別。我的另一位學生胡安·卡洛斯·尼布爾斯（Juan Carlos Niebles）的整篇博士論文的主題就是識別視頻中的人類活動。他現在是哥倫比亞北方大學的教授，不久前剛和自己的學生們打造了一個名為ActivityNet的數據集。顧名思義，ActivityNet就是類似於ImageNet的動作識別數據集，其中包含了數萬個視頻短片，每個短片都標註了它們所描繪的身體動作，比如走路、跑步、跳舞、演奏樂器等等。換句話說，儘管我們對於準確分析視頻的設想尚未完全實現，但也並非不可能實現：這正是研究的最佳切入點。
我需要一批研究助理，於是像往常一樣，給系裡的研究生們發了郵件。ImageNet等項目讓我養成了保持適度期望的習慣，這次也不例外。收到的回覆雖然不多，但數量也算可觀。於是我製作了幻燈片來解釋我們的想法，並安排了第一輪面試。與此同時，我們的項目還需要一個正式的名稱。我和阿尼設想了一種旨在用智能且可靠的感知來填充空間的技術，而其最大的特點就是不會引人注目。與人類監察員不同，我們的技術將悄然融入背景之中，默默監視，只有在察覺到危險時才會發出警報。我們將其稱為“環境智能”（ambient intelligence）。
“這就是我們的計劃，醫療服務的環境智能。”我總結道，“有什麼要問的嗎？”
我只有一位聽眾，就坐在我辦公室的紅色沙發上。他是個特別聰明的雙學位學生，同時在修讀計算機科學和統計學。他正處於攻讀博士學位的第二年，正好在尋找一個更穩定的地方來完成他剩餘的研究。然而，氣氛並不像我希望的那樣輕鬆。之前三位面試者都決定不加入我們的團隊，因此他成了我們的第四位面試者。我盡力掩飾我們士氣低落的事實。
“我的意思是，聽起來超級有趣。”他回答道，語氣足夠真誠。這已經是連續第四個候選人表示我們的設想“超級有趣”——我選擇忽略這一事實。
“不過，我想知道的是，我還能不能在常規渠道發佈成果，比如NeurIPS[注：NeurIPS全稱“神經信息處理系統大會”（Conference on Neural Information Processing Systems），是機器學習和計算神經科學領域的頂級國際會議。——譯者注]和CVPR之類的。”
“當然。”我笑著說，“我們正在探索許多尚未解決的問題。”
確實如此。雖然醫院並非我們慣常的研究場所，但其中涉及的計算機視覺技術絕對是最先進的。我們正在推進前沿技術的發展，需要識別人類活動，而非靜態物體，這已經是精細的實驗性技術。此外，我們的算法還將面臨額外的壓力，需要識別異常細微的動作，對準確性的要求很高。與此同時，我們也計劃將物體識別提升到新的水平，因為我們的分類器將不得不應對密集的運動、混雜的背景和模糊的情況。相關工作會異常艱苦，但同時也是建立名望的好機會。
“坦率地說，我們希望能在臨床上產生真正的影響。這意味著我們也要與臨床工作者合作，向臨床期刊投稿，而不僅僅是計算機科學領域的期刊。”
這個學生考慮了一下。“明白。但是，這類期刊的出版週期是多長？”
這是個好問題，因為學術生涯在很大程度上取決於論文發表，尤其是在最初幾年。在他看來，醫學期刊緩慢的出版安排就像一個錨，會在他需要衝刺時拖慢速度。他的擔心不無道理。如果他發表論文的頻率能達到同行的一半，就已經很幸運了。我一邊回答，一邊在心裡暗叫不好。
“老實說，我自己還沒發表過。但我的搭檔米爾斯坦博士說，一般需要一兩年的時間。”
他睜大了雙眼，又停頓了片刻。
“這……比我預期的時間要長很多。我是說，發計算機科學論文通常只需要幾個月。”
他說的都是顯而易見的事情，但他是對的。我沒有太多可以補充的。
“李教授，我還有最後一個問題。”他雙手抱臂，開始提問，“我知道你花了多長時間構建ImageNet，也清楚它對計算機視覺的重要性。對於這個，呃，環境智能的想法，我們會有類似的數據集作為支撐嗎？”
我嘆了口氣，可能聲音有點兒太大了。
答案是否定的。又一個“沒有”。沒有數據集。沒有已知文獻作為我們觀點的基礎。沒有研究類似問題的實驗室可以合作。最後，這位候選人的回覆雖然禮貌，但也是否定的。
幾個月過去了，我們連一個合作者都沒找到，我夜不能寐。我正站在職業生涯最有意義的一個篇章邊緣，有機會接受母親的啟示，真正利用人工智能為社會做些貢獻。但如果沒有幫助，我們將一無所獲。我想起了ImageNet早期的孤獨歲月。與現在相比，連那樣的日子都顯得雲淡風輕了許多。
然而，今天我有了分心的奢侈機會。也許是覺察到我需要一些外力來保持頭腦清醒，阿尼派我去參加一項實地考察。
“你確定這樣沒問題嗎？”我一邊調整口罩，一邊問道。我一生中大部分時間都被穿著手術服的人包圍著，今天是第一次自己穿上了手術服。
“當然沒問題，我們經常這麼幹。護士、醫學院的學生、實習畢業生，什麼人都有。別擔心，你很快就會融入。”
阿尼安排我跟隨露西爾·帕卡德兒童醫院的兒科醫生特里·普拉切克（Terry Platchek），這樣我就能觀察到醫生在醫院輪班期間保持手部衛生的實際情況。但我想看到一切：病人、護士，所有的一切，他們的全部經歷。我知道他們的世界是混亂的，我想以他們的視角來看待這一切。
我不知道自己即將面對什麼。
普通病房充滿了聖誕節的氣氛，我簡直不敢相信這裡有這麼多孩子。每個孩子都有自己的經歷，每個都令人心碎。有些獲得好消息，有些則碰上壞消息，而大多數都只是漫長而又讓人麻木的治療旅程中的又一步。有些家長問我是誰，為什麼會在那裡。但大多數人似乎都沒有多想，因為他們只想知道自己所愛的人正在經歷什麼，他們已經習慣了不同的醫護人員像走馬燈一樣地變換。
我本該記錄一些機械且容易量化的東西，但我無法將視線從醫護人員身上挪開；我很快就意識到，這些人才真實地展示了什麼是人性化護理行為。一個好醫生是信息的總彙、力量的源泉，有時甚至是病人及其家屬在痛苦時刻的精神支柱。多年照顧母親的經歷讓我自信對醫療領域瞭如指掌，但與普拉切克醫生的相處徹底顛覆了這種觀點。我開始確信，無論多麼先進的技術，都無法取代我那天所看到的一切。
儘管如此，我認識到在某些決定性時刻，我們也非常需要新的輔助工具。我遇到了一位資深護士，她的一個病人最近摔倒了。這是她職業生涯中第一次出現這種情況，她驚訝地發現，這件事對她的影響極大。從統計學層面看，對她來說，在自己的監護下有病人受傷是不可避免的，畢竟她已經做了幾十年護士。但當這一時刻終於到來時，她整個職業生涯的傑出表現並沒有能幫助她緩解情緒。她的情緒非常崩潰，就像第一天上班的護士一樣。無論是她，還是那位病人，都受到了嚴重的傷害。如果人工智能能幫助避免這種情況，那麼一切努力都是值得的。
這一天對體力要求很高，輪班結束時，我已經筋疲力盡，但更疲憊的是我的精神。彷彿我重溫了和母親共同面對的每一刻，只是這一次以小時為單位不斷循環播放。我茫然地與普拉切克醫生握手寒暄，準備離開。但在往外走的時候，我突然想到了什麼。
“特里，我很好奇，是什麼讓你如此願意讓我進入你的世界？老實說，我算是個局外人。”
他沉思片刻才給出答案：“你知道，最近有很多關於人工智能的新聞，老實說，大部分我都不喜歡。”
我笑了，也許帶著一絲嘲諷。我知道他接下來要說什麼。
“當然，如果我每天有更多工作可以被自動化，那就太好了。我明白。”他繼續說，“但我有點兒厭倦科技高管們成天說的都是讓我這樣的人失業。只有你和阿尼似乎真正想幫助我，而不是取代我。”
我稍作思考，然後回答道：“我知道我們聊過我的母親，還有這麼多年照顧她的健康問題對我產生的影響，但這個故事還有另一面。在醫院度過了那麼多時間，對我而言是有好處的。”
“有什麼好處呢？”
“有一種特別的東西……我不知道，也許可以叫作‘關懷之舉’，無論是護士幫助我母親坐起來，還是專家制定治療策略，都感覺很特別，充滿了人文關懷。這也許是我們所能做的最人性化的事情。我無法想象人工智能來取代它，我甚至不希望人工智能取代這一點。今天，科技在維持我們的生命方面發揮著重要的作用，我很感激，但毫不誇張地說，我和母親能熬過這一切，真正的原因是人，是像你們這樣的人。”
輪班還沒結束，太陽已經落山。從醫院出來，傍晚時分清新的空氣迎面而來。相對寧靜的環境讓我的思緒得以舒展，全天的記憶帶著沉悶的刺痛感重現。雖然我目睹了病人和家屬的悲慘境遇，感到心緒不佳，但阿尼是對的，這正是我所需要的。這是計算機科學學位無法提供的教育場景：病房裡的喧囂、不確定的懇求眼神、對任何形式安慰的迫切渴望，痠痛的腳和破舊的網球鞋，休息室裡冷冰冰的比薩，一小時又一小時的煎熬。
阿尼知道，雖然我在母親身邊照顧了多年，但我仍然無法真正理解臨床醫生的感受，所以他邀請我親自去體驗一下。
在回家的路上，我突然有了一個奇怪的想法：我很慶幸我們還沒有招收任何學生助手，否則，我早已用計算機科學家的閱讀清單把他們淹沒，使他們習慣於從數據、神經網絡和最新架構進展的角度來思考。這當然很重要——在這樣的項目中，科學問題是無法迴避的。但我現在明白，科學並不是正確的起點。如果想讓人工智能幫助人類，那麼我們必須從人類自身開始思考。
我隨即做出決定。從那天起，任何要加入我們團隊的學生，都必須先擁有我剛剛擁有的體驗，否則一行代碼都不可以寫。跟班學習將成為每位新成員的入門儀式，沒有商量的餘地。
幸運之神的眷顧加上我在醫院的經歷所產生的激勵作用，使得工作進展迅速，我們的願景得以延續。我和阿尼花了近兩年時間，付出了比以往更多的耐心，終於組建了一支規模適宜的團隊，開始了我們的工作。很明顯，環境智能在一段時間內仍將是一個小眾的研究領域，因為對人工智能專業知識的需求太旺盛了，競爭機會也非常誘人。但我們招募的人員素質表明，我們正在從事一項有意義的事業。毫無疑問，這是我參加過的專業能力最多元化的團隊。
在我們的第一批新成員中，有計算機科學的一年級研究生、電子工程的博士生，還有研究機器人對人類活動和社交導航感知的博士後。隨後，針對我招募的團隊，阿尼也挑選了一批年輕醫生，有醫院的兒科醫生、老年病醫學專家，還有重症監護專家。最重要的是，我們從一開始就達成了共識，主導權不屬於團隊中的任何一方；阿尼和他的同事需要我們的經驗來構建技術，而我們也需要他們的經驗來確保技術的正確性，以確保技術不僅有效，而且尊重使用者、體現人道主義精神。
阿尼將他最令人歎服的壯舉留到了最後：說服醫療機構讓我們在他們的場所進行實際的技術演示。我們首先選擇了兩家不同的醫院，一家位於帕洛阿爾託，另一家位於猶他州。我們的目標是發現手部衛生方面的疏忽，確保不會因為手部衛生而造成患者感染。接下來，我們選擇了灣區的一家養老院，目標是通過跟蹤老人們全天的身體活動來協助護理人員。最後，我們在斯坦福醫院的重症監護室部署了一套系統，當康復患者長時間不動時，系統就會向護理人員發出警報。
然而挑戰依然存在，就連阿尼的錦囊裡也沒有妙計了，那就是數據問題。我在這個項目之前的幾年深刻認識到，若要有效地訓練像我們這樣的模型，數據絕對是必需品，這是毫無疑問的。我們需要大量真實、有機且儘可能多樣化的數據。
但在醫療領域，我們所需的數據在本質上就是稀缺的。出於法律責任和基本隱私等顯而易見的原因，患者和臨床醫生的行為很少被影像記錄下來，而對於我們希望檢測的事件（其中許多事件從一開始就是異常情況，比如跌倒），相關的清晰影像更是少之又少。這使得我們的工作比我最初想象的還要複雜。在訓練模型之前，我們必須親自收集必要的數據。
儘管如此，我們的研究勢頭依然如日方升。新的實驗，新的假設。我們擼起袖子，使用新硬件和新軟件。正如我所料，這是我的實驗室嘗試過的對科學技術要求最高的項目。但真正讓我們豪情滿懷的，卻是任務本身。我們所做的一切都充滿了意義，它讓我成年後一直從事的職業變得如同一個全新的世界。我一直努力將私人生活與科學家的職業生涯區分開來，但現在的一切衝破了堤壩，沖刷著沿途的一切。早該如此了。
“快叫護士，”母親懇求道，她發出微弱的呻吟聲，聲音小得幾乎聽不到，“點滴……又癢了。他們扎針的那個地方。”我們又回到了醫院，這次是做心臟成像。這麼多年來，母親已經做了很多次心臟成像，每次就醫的緊張感都比上一次更加強烈。我趕緊按鈴求助。
今晚的護理人員是來自加利福尼亞中部的旅行護士曼迪。她年輕、樂觀，還在努力考資格證書，爭取更加穩定的職位。從她進入房間的那一刻起，我就知道我會喜歡她。
“不好意思，”我說，“我知道還沒幾個小時，我們都叫你三次了。”
“沒關係的。”她堅持說，雖然眼神疲憊，但依然笑容滿面。她有一種難以偽裝的溫暖。“哎喲，真是可憐！”她說著，把注意力轉向母親，全身散發著善意，“看來我們又得衝管了。我知道今晚不好過。”
這一幕我已經見過無數次了，但今天，我有了一種特別的感觸。也許是因為我從曼迪的舉止中看到了一絲純真，也許是因為最近的研究讓我們都成了日常護理專家。我感到喉嚨有些發緊，這是我在病房裡待了這麼多年從未感受過的。同情、敬畏、感激，還有其他一些難以形容的複雜情緒。曼迪的出現，她這種改變他人生活的簡單而真摯的關懷之舉，讓我感到格外溫暖。我的淚水在眼眶裡打轉。
在以往的這種時刻，我的注意力通常都集中在母親身上，但我們在做的研究徹底改變了我的想法。護士平均每班要走6000 ～ 8000米，需要完成180多項不同的任務，雖然疲勞的隱患有據可查，但輪班時長卻在不斷增加，目前平均長達12小時。我知道曼迪在來我們病房之前去過哪裡，也知道她見過多少其他面孔，我知道她可能已經疲憊不堪，但她還是毫不吝嗇地傳遞善意，微笑著完成了所有任務。
如果我的研究確實能幫到別人，那麼像曼迪這樣的護士就是我的首選。我無法想象還有什麼人比她們更值得幫助。
第二天，上早班的是一位新護士蘇珊。“你在這裡工作嗎？”她問道。
我低頭看了看自己佩戴的斯坦福醫學院徽章。我跟阿尼一起工作時，經常佩戴著它，這會兒忘了摘下來。
“哦，這個？”我笑著說，“不是，實際上我正在參與一個研究項目。”
“什麼樣的研究？”她問。
“我是計算機科學系的，我和我的學生正在合作開展利用人工智能追蹤手部衛生的項目。”
她的笑容淡了一些，看起來禮貌多於友好。“那麼，是有攝像頭在監視我們嗎？”
“不，不，不！當然不是！”這已經不是我第一次被問到這個問題了，但我每次還是會感到一陣尷尬，“更像是一個傳感器，不是攝像頭。沒有錄像。它為我們的算法分析提供了圖像。算法正在學習觀察不同的洗手模式。我們還在起步階段，就是想搞清楚算法是不是能夠勝任這項任務。但我保證，沒人在監視你！”
我盡力保持輕鬆的口吻。我說的一切當然都是真的，但我也不能怪她把事情往最壞的方向想。
“好吧，那聽起來還可以。”她鬆了口氣。“你知道，”她壓低聲音繼續說，“你們這些不叫攝像頭的東西應該盯緊醫生。”蘇珊和曼迪一樣善良，但她身上有一種犀利的感覺，她的臉上掠過一絲苦笑，“他們的衛生習慣是最糟糕的。但管理層不管他們，只會對我們護士大吼大叫。”
“老闆監視器”。
更委婉的說法是“員工監控系統”。這種新型軟件如雨後春筍般湧現，被廣泛用於倉庫和辦公室等場所。許多人認為這種審查會侵犯人的隱私，甚至是不人道的。雖然軟件的市場定位是提高工作效率和保護職業行為，但幾乎立即遭到了勞動者的反感，也很快成為科技媒體反覆報道的話題。現在，我們甚至還沒有機會證明自己，研究工作就有可能被反烏托邦的聯想所吞噬。我們的技術是為了病人的安全，而不是為了績效考核，把我們的軟件與監視器混為一談起初讓人覺得不公平。然而，這種擔憂是可以理解的，而且事後看來，審查和監視之間的關聯確實顯而易見。這是我第一次接觸到人工智能會在公眾想象中引發恐慌的一種能力：監控能力。
回想往事，我們很容易忘記變化有多麼突然。那是2015年，人工智能對隱私的影響仍是大多數人關注的焦點，畢竟就在短短几年前，圖像分類的準確性才開始接近實用的閾值。現在，像我們這樣的研究人員眨眼間就掌握瞭如此強大的能力，技術挑戰已經讓位於倫理挑戰。我們在醫療領域的探索則將這一切帶回了我們的實驗室。
“沒有人想安裝老闆監視器。”一位學生抱怨道。
團隊剛從露西爾·帕卡德兒童醫院悻悻而歸，他們本想在那裡完成推進試點研究的最後工作，卻出乎意料地遭遇了失敗。
我們的計劃是安裝一批傳感器原型，但我們請來參與實驗的各科室護士都無一例外地拒絕配合。項目嚴重受挫，但在與蘇珊交談之後，我早已有了心理準備。
這件事提醒我們，即使是一個明確的多學科團隊，也可能存在盲點。雖然我們的臨床醫生知識淵博，但他們更像研究人員，而不是一線的護理人員，這種區別產生了決定性影響。簡而言之，我們積累了深厚的醫療專業知識，但我們都不是護士。我和阿尼召開緊急會議，討論我們的選擇。
“我認為只有一條路可走，”一位醫生建議道，“護士需要跟你們的研究人員見面。她們需要真正的溝通。”
“是的，當然。要讓儘可能多的人參與進來。”另一位醫生說，“需要傾聽。瞭解他們的想法。”
第三個人附和道：“開個公開會怎麼樣？我可以幫忙組織。”
我心中感慨萬分，感謝上帝，感謝你們每一個人。我無法想象如果沒有阿尼和他的同事們，我們的研究該如何繼續下去。
“我們在IRB相關的陳述上必須嚴謹。”阿尼嚴厲地說，“我們的合作伙伴需要得到保證，任何人的隱私都不會被洩露。一次也不行。大家都清楚了嗎？”
IRB即機構審查委員會（Institutional Review Board），是對類似我們的臨床研究進行監管的機構。要達到他們的期望，確保研究獲得批准，需要技巧和外交智慧，更不用說豐富的臨床經驗了。從我和克里斯托夫在加州理工學院進行的心理物理學研究開始，我對合規要求就已經習以為常，但對我大多數計算機科學的學生來說，這是一個全新的概念。這是真正的醫學研究，涉及真實的個體，需要遵循一套全新的專業規範。
然而，我們都沒預料到的是，我們的研究可能會超出IRB的範圍。在聽取學生們關於他們在醫院訪問的更多情況後，我們欣慰地得知，護士們並沒有特別擔心我們的研究本身；他們中的許多人已經瞭解我們，並且相信我們的動機，對我們的工作並沒有異議。他們擔心的是這項工作可能會導致的後果：這項技術將如何發展、供誰使用，以及它的影響範圍將會如何擴大。他們的疑慮是敏銳的，同時也強調了一個事實：我們面臨的挑戰是如何評估人工智能的未來，而不僅僅是它的現在——即使是IRB也沒有考慮到這一點。
為了確保設備無可非議，我們規定，任何採集到的數據都不得傳輸到遠程數據中心，或者上傳到“雲端”（這個術語剛剛開始被主流接受）。“雲”已經成為熱門詞彙，幾乎在任何情況下都能吸引媒體關注和風投資金，但對我們來說，它卻是一種詛咒。相反，我們不得不追求另一種新興趨勢：邊緣計算（edge computing），即把所有必要的計算資源都整合到設備中。這是我們的研究所需要的範式，但邊緣計算本身就是獨立的領域，我們對它的理解和把握還不夠深入。
儘管面臨巨大的工作挑戰，但我們知道複雜性是不可避免的。相比之下，從互聯網上批量下載圖片像是一段無憂無慮的時光。我們現在需要蒐集的可能是能想象到的最敏感的數據：以視頻的形式捕捉人類群體真正的脆弱時刻。視頻的保真度足以訓練機器進行可靠的識別。而且，我們必須確保——必須絕對確保——從第一步開始就保護研究對象的安全和匿名，同時遵守IRB準則的高標準（這是我們從事相關研究工作所必備的常識和道德）以及《健康保險攜帶和責任法案》等法律框架。
我們的團隊不斷壯大。團隊建立之初就很多元化，包括工程師、研究人員和醫療政策專家，很快又加入了臨床醫生、生物倫理學家和斯坦福大學法學院的法學博士。我們的技術合作夥伴也越來越多樣化，包括傳感器專家、網絡安全專家等等，當然還有邊緣計算專家。我們雄心勃勃，願景宏大，尤其可喜的是，在我自己的實驗室與阿尼的臨床卓越研究中心（中心總部位於斯坦福大學，旨在提高醫療質量和可負擔性）的通力合作和資助下，我們的項目落地了。
研究的前沿依然廣闊無垠。雖然我們只回答了研究中的一小部分問題，但我們正在取得進展。最重要的是，我第一次認識到，如果將人工智能視為一門獨立的學科，就會錯失其最大的潛力。我們的研究表明，如果人工智能與其他領域相結合，並藉助其他形式的專業知識進行推動，可能性就是無限的。
“媽媽，求你了。”
母親最近又做了一次手術，手術結果雖好，但康復之路格外漫長。康復的關鍵是進行肺部鍛鍊，需要每天多次使用一種叫作誘導性肺量計的手持設備進行呼吸訓練。她剛剛做完手術，很容易出現肺部感染，而且可能是致命的，而使用肺量計是簡單有效的預防手段。
對經歷過多次心臟衰竭和腦出血，又剛接受了開胸手術的人來說，這本該是一項簡單的任務。然而，她拒絕了。當醫生向她展示肺量計時，她假裝按要求呼吸，但醫生離開後，她就把肺量計放在一邊。當護士來檢查時，她又重複著這個戲碼。當然，這一切我都看在眼裡，但無論我怎麼懇求，她都不願意配合。
這根本就說不通。一連幾天，我的焦慮與日俱增。我曉之以理，動之以情，但就是勸不動她。護士警告她時，她就點點頭；醫生責備她時，她就假裝服從。但她的表演並沒有改變現實：液體正在她的左肺中積聚，她必須再接受痛苦的肺積水引流手術。
最後，在重症監護室又住了幾周後，她從第二次完全不必要的手術中恢復過來，這場折磨終於結束了，我們把她接回了家。疲憊不堪的我們回到後院，享受了很久以來第一個安靜的下午。她不在的時候，我父親一直忽略了花園的打理；她回來後，他如釋重負，重新開始了自己的日常生活。
“媽媽，我想問你點兒事。”我不想破壞這份寧靜，但內心的困惑讓我無法釋懷，“還記得醫生們想讓你用的那個小工具嗎？那個肺量計？”
母親紋絲不動，默不作聲，但她的身體語言告訴我，她顯然不想談這件事——人在靜止狀態下卻能傳達這麼多信息，真是讓人驚訝。
“媽媽，我就是想知道為什麼。求你了，跟我說吧。”
過了一會兒，她終於開口說話了，但依然沒有看我：“我不記得了，當時藥勁很大，一切都很模糊。”
我知道這不是真的，但我沒辦法強迫她解釋。我沒有繼續追問，只是享受和她在一起的時光。天氣晴朗，梔子花盛開。
最後，她打破了沉默。
“你知道嗎，飛飛，”她輕聲說，終於看向了我，“當病人……太可怕了……太可怕了。不光是疼痛，還有失控。在那個房間裡，我的身體，甚至我的思想都不屬於我。房間裡有那麼多陌生人，我知道他們是醫生和護士，但他們對我來說都是陌生人，而我卻要聽從他們的每一個命令……我受不了。”
我繼續聽著。
“就連你也命令我！”
我倆都笑了起來，氣氛一下子輕鬆了許多。
“我知道你是想幫忙，”她補充道，“我知道你們都想幫我，我知道這些東西對我的健康很重要，但到了某一個臨界點，我就沒有辦法再滿足這些要求了。”
然後，她又想了一會兒，找到了背後的原因。“我一點兒尊嚴都沒有了。徹底喪失了。在那樣的時刻……”她似乎有些語無倫次。我正想鼓勵她繼續說下去，她就接著說完了：“甚至健康都不重要了。”
自從這個項目開展以來，我學到了很多東西。這些經驗和教訓緩慢地展開，常常伴隨著痛苦。我開始從另一個角度看待母親在健康方面的抗爭，並對我們多年來依賴的護理人員產生了新的同理心。我對醫院中人類脆弱的程度感到震驚，也為有機會為此做出一些貢獻而備受鼓舞。但我學到的最深刻的一課是，個體的尊嚴是至高無上的——這是任何數據集都無法解釋、任何算法都無法優化的變量。面前這個人是我最熟悉、最在乎的人；在她臉上飽經風霜的紋路和疲憊的眼神之後，那種我長期以來熟悉的掙扎和脆弱，向我伸出手來。
兩年多前，母親只問了一句“人工智能還能做哪些事來幫助別人”，便讓我的職業生涯走上了全新的道路。通過她的眼睛來看待我的領域，我的動力一下就增加了。這麼多年來，推動我前進的一直是強烈的好奇心，而現在，我第一次將人工智能視為行善的工具，可以紓解像我這樣的家庭每天所面臨的困難。我第一次接觸到了人工智能的倫理問題：對我們中的許多人來說，“人工智能倫理”是全新的議題，也會很快成為不可避免的現實。在熟悉的領域中度過職業生涯的一部分之後，我發現自己又進入了全新的世界，這個世界如此陌生，如果沒有合作伙伴，我將束手無策、無所適從。與阿尼的合作給了我兩個重要的啟示：人工智能最偉大的勝利不僅是科學上的，也是人文上的；偉大的勝利，沒有他人的幫助是不可能實現的。