來源:文匯報
為什麼微信上的小紅點，總會吸引你點開
專家指出，當演算法和心理學、腦科學試圖佔據人的注意力時，應加大對人工智慧價值觀審視和對人工智慧倫理研究
■本報記者 姜澎
每個人都有過這樣的經歷：開啟手機準備回訊息或打電話，一看到微信圖示右上方的小紅點，於是忍不住先開啟微信；看完微信，不知不覺又被另一個App牽引，直到關閉手機螢幕才發現自己早已忘了開啟手機的初衷。
你以為這是健忘？非也！智慧手機每一個App背後的演算法，不僅有人工智慧領域專家操刀，還有心理學以及腦科學家的“精心設計”，讓你不知不覺“深陷其中”。
超級人工智慧和人類的博弈，是科幻作品中的永恆主題。而如今，這種博弈或許已嵌入人們的日常生活之中。
時下，越來越多的學者開始熱議一個話題：當演算法與心理學、腦科學等對關乎人類本身認知的科學結合得越來越緊密時，演算法是否會主宰我們的生活？人類是否會淪為演算法的“奴僕”？
雖然不同學科背景的專家對此看法不一，但大家達成一點共識：學會與機器正確相處，對生活在智慧時代的每一個人而言，都是一種生存技能，其重要性不言而喻。
人的注意力，正在成為被“精心設計”的物件
日前，一部關於社交媒體成癮的紀錄片《社交困境》引發不小關注。紀錄片中的主角，正是那些曾經在矽谷等知名網際網路公司的從業人員。他們坦言，當開始意識到隨著演算法的升級，尤其是當演算法和心理學、腦科學相互融合，並逐漸佔據人類越來越多的注意力時，他們自己也覺得似乎無法逃脫演算法的“控制”。
事實上，開啟手機、點開某個App或划動拇指，對很多人來說不僅是習慣，也已成為一種肌肉記憶，甚至是一種本能。而這背後，是不是也有一隻“看不見的手”在操控呢？
“人工智慧的發展，使得機器帶來的成癮行為越來越普遍。”上海交通大學心理與行為科學研究院執行院長李衛東介紹，和藥物成癮會給大腦細胞層面帶來不可逆變化有所不同，電子產品或社交軟體成癮對大腦機制的影響方式，目前尚未非常明確。但可以確認的一點是，隨著演算法和人工智慧的發展，這類“成癮”的可能性更大、影響也更廣。
要知道，在網際網路時代來臨之前，人類的一切發明都是基於人類的主動使用，使某項新發明能為人類服務。但如今，技術正無時無刻不在想方設法吸引人的注意力，甚至希望能“操控”人的想法並從而獲利。《社交困境》中提到，“一切產品都以營利為目的，但是當這些產品都免費時，那麼你就是產品。”
對網際網路公司而言，人的注意力正在成為被“精心設計”的物件——使用者的增長、使用者使用的時間延長，甚至對使用者想法的操控，都能換來更多的利潤。使用者就是能夠“自主長大”的產品。
確實，很多人已經發現，資訊推送不僅越來越精準，且很多推送是基於個人喜好，由演算法算出來的。有時候，這些推送並不是以事實為依據，其中夾雜著偏激甚至錯誤的觀點，只為迎合使用者。隨著個人偏好在這些推送中被不斷加強，每一個人基於這些推送資訊而“看”到的世界也由此顯得不同。
在演算法“包圍”中，人將變得越來越焦慮、脆弱？
當演算法對人類的愛好和行為預測越來越準確時，越來越多的成年人或未成年人在這樣融合心理學和腦科學的演算法“包圍”中，也許會變得越來越焦慮、脆弱。學會和機器相處，應該是每一個人面對未來所必須儲備的能力。
在同濟大學任教的劉翠蓮有多年從事心理諮詢服務的經驗。據她觀察，這一代00後、10後，都是在現實世界和虛擬世界同時存在的平行世界中成長起來，他們已習慣網路上的日常社交，包括點贊、評論等。但事實上，無論是點贊還是評論，這些社交介面的功能開發，也都是根據心理學原理精心設計的。對未成年人來說，短期反饋容易讓人獲得短暫的滿足感，且會讓他們不斷地追求這樣的滿足。但這種“誘導”機制，或許也會成為他們心理壓力的來源。
“人和任何技術或機器之間都存在互動，可能是人控制機器，也可能是人被機器控制。”上海紐約大學教授張崢始終認為，技術是中性的，就像使用搜索引擎時，每當你搜索一個詞，推送給你的第一個頁面的前10個結果一定是根據你的習慣和偏好精心裁剪過的，目的就是讓你喜歡這個搜尋結果，從而持續地用這個搜尋引擎。“往好處說，這種設計是為了提升使用者粘性；往壞處說，也可以理解為透過強化你的偏好，更容易‘操控’你。”
更多科學研究，應關注人與機器的互動
和人工智慧技術發展速度相比，人工智慧倫理研究則顯得落後。不少學者在接受記者採訪時都談到，當下的人工智慧發展使得人與機器的關係越來越複雜，人工智慧的安全性、可靠性、可信度以及在如何符合人類價值觀等方面，都生髮出很多值得探索的全新科學問題。
就在不久前，浙江大學心理科學研究中心和心理學系的三位學者聯合發表文章，提出必須將“人-AI互動”作為新的研究領域，並勾畫了具體的研究框架，倡導學科交叉合作，目標是確保人工智慧造福人類。
幾位學者不約而同地談到，不恰當的人工智慧技術開發已導致了不少傷害人類的事故。僅僅在學術界認可的“AI事故資料庫”裡就已記錄了1000多起事故，如自動駕駛汽車撞死行人、交易演算法錯誤導致市場“閃崩”等。考慮人工智慧的價值觀等問題，並不是為時過早，其必要性和緊迫性日益凸顯。
有學者呼籲，心理學本身是關注人的學科，而從學科發展來看，未來的心理學不僅要更加關注人本身，還應關注人如何與機器打交道。作為心理學的分支，在中國目前已有工程心理學，這個學科的核心科學問題，就是研究在開發複雜系統中，如何保證技術與人的心理、生理規律相匹配，以便於人的理解和操作，使得整個人—機系統的效能達到最佳狀態。
復旦大學計算機教授張軍平也認為，技術本身有其發展邏輯，但是當技術與心理學、腦科學的融合越來越密切時，確實應該加強對人與技術的互動關係研究，並且更客觀、更審慎地對待技術。
