藝術家對系外行星kelt-11b的印象。圖片來源：原文
你知道地球的大氣是由什麼組成的嗎？你可能記得是氧氣，也有可能是氮氣。在谷歌的幫助下你能夠輕而易舉地給出一個更精確地答案：78%的氮氣、21%的氧氣和1%的氬氣。然而，在涉及到外大氣（太陽系外行星的大氣）的組成時，答案便不得而知了。這是個遺憾，因為大氣可以指示行星的性質，以及生命是否存在。
由於系外行星非常遙遠，探測它們的大氣是非常困難的。研究表明，人工智慧可能是探索它們的最佳選擇——但前提是我們能證明這些演算法以可靠、科學的方式思考，而不是欺騙系統。現在，我們發表在《天體物理學雜誌》上的新論文，讓我們對它們神秘的邏輯有了可靠的認識。
天文學家通常利用凌日法來研究系外行星，其中包括測量當行星從恆星前面經過時恆星發出的光的傾角。如果行星上有大氣，它也能吸收非常微小的光。透過在不同波長（光的顏色）觀察這一事件，可以在被吸收的星光中看到分子的指紋，形成我們稱之為光譜的可識別模式。
如果恆星類似太陽，那麼由木星大小的行星的大氣層所產生的典型訊號只會使恆星的光減少0.01%。地球大小的行星會產生10-100倍的低訊號。這有點像從飛機上觀察一隻貓的眼睛顏色。
未來，詹姆斯·韋伯太空望遠鏡(JWST)和阿里埃爾太空任務，這兩個探測器都將從太空軌道上研究系外行星，它們將為數千個系外大氣提供高質量的光譜。雖然科學家對此感到興奮，但最新研究表明，這可能很棘手。由於大氣的複雜性，對一顆凌日行星的分析可能需要幾天甚至幾周的時間才能完成。
當然，研究人員已經開始尋找替代工具。人工智慧以其從大量資料中吸收和學習的能力以及在接受訓練後在不同任務上的出色表現而聞名。因此，科學家們試圖訓練人工智慧來預測大氣中各種化學物質的丰度。
目前的研究已經證實，人工智慧非常適合這項任務。然而，科學家們謹慎而懷疑，為了證明這是真的，他們想要了解人工智慧是如何思考的。
窺視黑盒子
在科學中，一個理論或一個工具如果不被理解就不能被採用。畢竟，你不想經歷發現系外行星上生命的興奮，卻意識到這只是人工智慧的一個“小故障”。壞訊息是人工智慧不善於解釋自己的發現。即使是人工智慧專家也很難確定是什麼原因導致網路給出一個給定的解釋。這一劣勢常常阻礙人工智慧技術在天文學和其他科學領域的應用。
我們開發了一種方法，可以讓我們一瞥人工智慧的決策過程。這種方法非常直觀。假設人工智慧必須確認一幅影象中是否包含一隻貓。它可能會透過識別某些特徵來做到這一點，比如毛髮或臉型。為了理解它引用了哪些特徵以及順序，我們可以模糊貓的部分影象，看看它是否仍然認出它是一隻貓。
人工智慧如何預測模糊的貓影象。圖片來源：原文
這正是我們透過“干擾”或改變光譜區域來探測系外行星的人工智慧所做的。透過觀察人工智慧的預測太陽系外行星分子的丰度變化(比如大氣中的水分)每個區域篡改時,我們開始建立一個“照片”的人工智慧的思想,比如它的光譜區域用於決定大氣中的水分的水平。
我們可以將人工智慧突出顯示的特徵與原始影象結合起來，生成我們所謂的敏感性地圖，它列出了人工智慧密切關注的區域。圖片來源：原文
讓我們天文學家放心的是，我們發現一個訓練有素的人工智慧在很大程度上依賴於物理現象，比如獨特的光譜指紋——就像天文學家一樣。這也許不足為奇，畢竟，人工智慧還能從哪裡學習呢?
事實上,當談到學習,人工智慧和厚臉皮的高中生並沒有什麼不同——它將盡其所能避免困難的方式(如理解複雜的數學概念)，併為了得到正確的答案而會找各種捷徑(如記憶數學公式而未理解為什麼)。
如果人工智慧是根據記憶遇到的每一個頻譜來做出預測，那將是非常不可取的。我們希望人工智慧能從資料中得出答案，並在未知資料上表現良好，而不僅僅針對有正確答案的訓練資料。
這個發現為我們窺探所謂的“人工智慧黑箱”提供了第一個方法，讓我們能夠評估人工智慧究竟學到了什麼。有了這些工具，研究人員現在不僅可以使用人工智慧來加速他們對外部大氣的分析，而且他們還可以驗證他們的人工智慧是否使用了眾所周知的自然規律。
也就是說，現在就斷言我們完全理解人工智慧還為時過早。下一步是精確地計算出每個概念的重要性，以及如何將其處理成決策。
這種前景對人工智慧專家來說是令人興奮的，但對我們科學家來說更是如此。人工智慧令人難以置信的學習能力源於它從資料中學習一種“表現”或模式的能力——這種技術類似於物理學家為了更好地理解我們的世界而發現自然規律的方式。因此，能夠了解人工智慧是如何思考的可能會讓我們有機會學習新的、未被發現的物理定律。
撰文：Kai Hou (Gordon) Yip、Quentin Changeat
翻譯：雲楷傑
審校：黃靜
引進來源：theconversation
本文來自：中國數字科技館
