機器學習真的是洪水猛獸嗎？以後機器學習難道真的能夠征服人類嗎？

好問題！在更一般的意義上，提出這個問題的另一種方式是“機器為什麼要學習？”我的意思是，機器可以簡單地程式設計！這就是計算機的全部意義所在。我們學習是因為我們無法被程式設計

AI 的創始人之一、經濟學家和心理學家赫伯特·西蒙（他因其在經濟學方面的工作獲得了“諾貝爾”瑞典皇家銀行紀念獎）曾經寫過一篇引人入勝的文章，名為“為什麼機器應該學習？”。

為什麼機器人要學習？

我不會重複西蒙在這篇文章中所寫的內容，但強烈建議閱讀他的睿智話語，即使是在 30 多年之後，也包含了很多洞察力。

回答這個問題的另一種方法是研究生物學。在浩瀚的生物庫中，人們經常會發現，許多生物一出生就知道維持生命所必需的大量事物。例如，許多動物天生就知道如何走路。他們出現，只是走路。我們可憐的人類在這方面很無奈：要等幾個月，我們才能笨拙地趴著走路，慢慢地走路的行為就出現了。寶寶“學會”走路需要長達一年的時間：

孩子從什麼時候開始走路的？

因此，這引發了一系列自然而引人入勝的問題。為什麼我們被進化改造為在出生時如此“愚蠢”，而許多動物在出生時卻如此“聰明”？一個原因只是與環境的敵意有關。

我曾經看過一部引人入勝的紀錄片，展示了出生在加拉帕戈斯群島的蜥蜴，它們必須穿過火山岩層才能到達水中生存。但有一個問題：數百條可怕的蛇正在等待毫無戒心的小蜥蜴，正等著撲向它們吃早餐！你的心與可憐的小蜥蜴同在。然而，奇蹟般的是，一旦它們從殼中出來，生存程式就會啟動，它們會向水邊衝刺，在數十條攻擊性的蛇中上下襬動。大自然為小蜥蜴提供了在如此惡劣的環境中生存的裝備，這似乎很了不起。人類嬰兒無法在如此惡劣的條件下生存。

所以，把這個比喻到機器上，你不希望機器在對它們如此敵對的環境中學習，以至於任何能力的缺乏都將是致命的。我擁有一輛特斯拉，一輛自動駕駛汽車，但它來自“知道”如何駕駛的工廠。如果汽車“學會”和我一起開車，那對我來說可能是致命的。事實上，我沒有在我的特斯拉中使用自動駕駛功能，因為我不相信我的生活。但是，即使我這樣做了，我也不希望我的生活依賴於教授它。相比之下，我在幾十年前教我的妻子如何開車。在那種情況下，我願意把我的生命交給她，因為我有信心在停車場上幾節基本課後，她就能在路上開車。無論我的 Tesla 有什麼深度學習的優勢，我都不相信它。所以，你不希望機器人在任何你必須信任它的任務中學習。也許有一天我們會對機器學習者的能力充滿信心，以至於我們願意相信他們的學習，從而冒著生命危險，但我猜大多數人還沒有準備好接受這種水平的能力在這一點上的機器學習器中（有充分的理由——如果對單個畫素的更改可以導致深度學習器將其分類從“狗”更改為“桌上型電腦”，你會相信它嗎？）。

一種用於欺騙深度神經網路的畫素攻擊

但是，這仍然沒有回答這個問題：為什麼我們出生在這樣無助的狀態？為什麼進化不能簡單地將我們從一開始就掌握生存技能？部分原因與我們大腦的大小有關。與我們身體的大小相比，我們出生時大腦的大小非常大，並且在生命的最初幾個月需要設定很多引數。進化決定，透過學習在出生後設置大量連線而獲得的靈活性值得權衡我們在出生時處於相對無助的狀態。這種安排是有效的，因為我們的父母在最初的幾年裡一直在照顧我們，通常至少要到我們上學的年齡，而且經常要到我們上大學。這是一個巨大的成本，無論是在經濟上（問問大學適齡孩子的任何父母！）還是在情感上（由於自然或人為原因，任何父母失去孩子都是一種創傷）。在很多動物中，束縛的程度並不完全相同，因為新生兒能夠自生自滅。

在許多情況下，機器學習被用於我們知道如何對機器進行程式設計以使其做得很好的事情（例如，關於使用神經網路學習對數字進行排序或進行基本算術的論文不勝列舉）。機器不需要“學習”乘法，因為我們已經解決了這個問題。不幸的是，孩子們確實需要學習這項技能，有人想知道為什麼需要這種程度的紅色學習，因為現在任何學齡兒童都擁有智慧手機（即使在農村社會，這也正在迅速成為現實）。然而，大多數學校都不願意改變幾十年來的教學方式。

隨著機器學習開始深入我們的日常生活，這個問題將變得越來越緊迫。我們確實依靠機器學習器來決定向我們展示哪些網頁（例如 Google）、我們看到哪些廣告（大多數廣告引擎使用機器學習）以及向我們展示哪些 Netflix 電影（推薦系統普遍用於線上影片服務）。但是，讓機器學習程式決定如何最好地治療癌症等嚴重疾病，或者推薦哪種手術效果最好？或者我們應該嫁給誰？或者我們應該買什麼房子？或者我們應該在假期裡做什麼？或者我們應該在哪裡工作？

我們是否願意相信機器為我們做出生死決定，或者設計我們的社交或個人生活，這需要信任用於訓練機器的機器學習演算法？我認為，我們中很少有人準備跨過這個門檻。但是，我們可能不得不面對的那一天即將到來……它可能不再是一種選擇。更令人擔憂的是機器學習在自主武器和網路恐怖主義中的廣泛使用。人們越來越意識到某種“控制”是必要的。對於自主武器，官方宣佈人工智慧科學家已同意不參與此類工作。

致命自主武器承諾 - 生命未來研究所

但是，這麼多令人印象深刻的簽署者是否願意也不允許使用機器人來治療疾病、管理機器人手術、決定人們如何約會或推薦工作？所有這些都是未來幾年社會將面臨的問題。