全球數治｜歐盟對《人工智慧法》提案生物識別相關規制的反思

澎湃新聞記者 呂娜 整理

這裡是“全球數治”專欄週報，追蹤近期全球數字治理動態

12月16日，歐洲議會研究服務處（The European Parliament Research Service，EPRS）釋出了報告《個人識別、人權和道德倫理原則：反思人工智慧時代的生物識別技術》（Person identification, human rights and ethical principles：Rethinking biometrics in the age of artificial intelligence）。該報告細緻探討了人工智慧時代的生物識別，特別是涉及人類識別的技術應用對基本人權和倫理道德的影響，進而對歐盟《人工智慧法》提案中規制生物識別的相關內容予以反思，指出其中待完善的問題，並提出改進建議，供立法者參考。

去年4月，歐盟委員會發布《人工智慧法》提案，表明了對人工智慧系統實行分級監管的思路及合規要求，旨在實現歐盟範圍內人工智慧的可信應用，為投資和創新營造良好法治環境。歐盟委員會將人工智慧系統劃分為不可接受的風險、高風險、有限風險和極低風險四類，著重立法規制前兩類，並對高風險人工智慧系統的全生命週期監管予以了詳細規定，同時明確3類違法情形的處罰原則，以確保人工智慧系統不會侵犯歐盟公民的尊嚴、隱私等基本權利，構建公民對新興技術的信任。作為歐盟首個關於人工智慧的法律框架，該提案目前正在歐洲議會和歐洲理事會層面開展進一步審議和討論。由於法案生效後將直接適用於27個成員國，因此對相關國際規則的制定具有特殊參考意義。

因循歐盟的傳統價值觀，規制“人臉識別”等應用生物識別技術的人工智慧系統成為歐盟《人工智慧法》提案的重要內容之一。正如EPRS報告所述，提案參照歐盟《通用資料條例》（GDPR），將個人生物識別資料定義為經由特定技術處理和獲取的有關自然人身體、生理或行為特徵的個人資料，並且該個人資料能夠識別或確認特定自然人。鑑於這類資料具有唯一性、永久性和不可替代性，一旦遭到洩露或濫用，某種程度上就意味著個人將失去對自己身體的控制權，有違倫理道德。同時，EPRS報告還認為，由人工智慧技術支援的生物識別系統對多項個人基本權利和民主本身都可能構成重大風險，包括侵犯個人隱私，掠取個人資訊、剝奪個人在公共場所“匿名”的選擇自由，壓制公民政治參與意願等。

近年來，生物識別資料越來越多地被應用於各類場合。在歐盟涉及自由、安全和司法（AFSJ）領域的大型資訊科技（IT）系統中，生物識別資料的處理更是得到了積極鼓勵和直接支援。鑑於個人生物識別資料的特殊性，歐盟《人工智慧法》提案將其視為應給予最嚴格保護的資料型別，並按照具體用途對相關人工智慧系統劃分為“遠端生物識別”、“生物識別分類”和“情感識別”這三類分別加以細緻規制，適用高等級違法處罰標準。

然而，EPRS研究報告卻指出，歐盟《人工智慧法》提案設立的生物識別規制框架看似周密，實際上還存在著不少“裂縫”，或將削弱實際執法效果，也不利於保障人權和民主的價值。其中的共性問題或在於過度偏重對現有生物識別資料和場景的監管，而忽視了對技術發展過程中不斷產生的新問題的預防性規制。有鑑於此，EPRS對草案中的相關內容進行了反思，並提出了八個完善擬議法條的針對性建議：

第一，應當更清晰地界定生物識別資料的監管

EPRS認為，《人工智慧法》提案對“生物識別資料”的定義闡釋尚不夠清晰，應進一步說明其涵蓋範圍，以及將歐盟資料保護規則應用於生物識別資料方面的具體機制。

第二，需要改進對人工智慧系統的高風險鑑定方法

在EPRS看來，當前鑑定一個生物識別人工智慧系統是否為高風險系統的方法還不夠完善，亟需開闢一條更快、更明確和更容易的途徑，輔以重大風險預警機制，以提高判斷效率。

第三，進一步明確禁止實時面部識別的各類場景

擬議法規並未禁止在公共場所開展以執法為目的的實時遠端生物識別，然而這類應用蘊含的風險實際極高，對個人基本權利和民主都可能帶來損害。是否需要全面禁止在公共場所使用人工智慧自動識別人類特徵，包括步態、指紋、DNA、聲音及其他生物或行為訊號，是值得進一步研判的問題。

第四，應當以實時遠端生物識別相同的標準規範事後遠端生物識別

EPRS指出，擬議法規未能解決與追溯性識別有關的風險。但在實踐中，持續跟蹤和識別個人生物特徵的風險並不亞於實時識別。因此，這兩者應適用相同的規制標準。

第五，需要在歐盟層面為實時遠端生物識別建立必要保障措施

EPRS認為，當前提案規定了在公共場所為執法目的開展實時遠端生物識別的例外情形，但具體保障措施卻由歐盟各成員國自行決定。為避免形成潛在監管漏洞，應該在歐盟層面設立統一保障。

第六，進一步澄清對“情感識別”的監管

在EPRS看來，當前提案對“情感識別”的定義頗為模糊，未能闡明個人情緒和意圖是如何從生物識別資料中推斷出來。若不對此問題加以澄清，後續監管將失去意義。

第七，仍需設法增加人工智慧系統透明度，並提供必要救濟手段

EPRS提出，極高風險人工智慧系統的使用方應當對受影響的個人使用者承當額外保護義務。按照擬議法條規定，目前兩者的權利卻並不對等，對系統使用過程的資訊披露機制也不夠透明，且缺少必要的救濟手段，亟需改進。

第八，不應對歐盟大型IT系統進行特別豁免

當前，生物識別人工智慧系統正在歐盟層面的多個大型IT系統中被大規模使用，對個人基本權利造成的風險不言而喻。然而，提案卻故意將某些用於AFSJ領域的系統排除在其適用範圍之外，這種情況不應被允許。

鑑於《歐盟人工智慧法》提案僅列出了2023年相關監管機構的人力成本預算，由此推斷，該法案正式生效還需一到兩年時間。作為歐洲議會的政策研究部門，EPRS此次釋出報告是歐盟立法機構在正式透過《人工智慧法》前開展全面審議和深入討論的一部分，而嚴謹的立法也需要多次反思。《人工智慧法》提案內容後續或還會有所調整，將為人工智慧之一交匯商業利益、資訊保安、倫理道德和地緣政治的新興領域帶來哪些影響，尚有待進一步觀察。

規則

國家網信辦公室等四部門釋出《網際網路資訊服務演算法推薦管理規定》

近日，國家網信辦、工信部、公安部、市場監管總局聯合釋出《網際網路資訊服務演算法推薦管理規定》，將自2022年3月1日起施行。《規定》旨在規範網際網路資訊服務演算法推薦活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，促進網際網路資訊服務健康發展。《規定》明確了演算法推薦服務提供者的使用者權益保護要求，包括保障演算法知情權，要求告知使用者其提供演算法推薦服務的情況，並公示服務的基本原理、目的意圖和主要執行機制等；保障演算法選擇權，應當向用戶提供不針對其個人特徵的選項，或者便捷的關閉演算法推薦服務的選項。此外，對向未成年人、老年人、勞動者和消費者等主體提供演算法推薦服務的，《規定》明確了具體要求，如不得利用演算法推薦服務誘導未成年人沉迷網路，應當便利老年人安全使用演算法推薦服務，應當建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關演算法，以及不得根據消費者的偏好、交易習慣等特徵利用演算法在交易價格等交易條件上實施不合理的差別待遇等。（來源：新華網）

政策

中央網路安全和資訊化委員會印發《“十四五”國家資訊化規劃》

12月27日，中央網路安全和資訊化委員會印發“十四五”國家資訊化規劃，提出到2025年，數字中國建設取得決定性進展，資訊化發展水平大幅躍升，數字基礎設施全面夯實，數字技術創新能力顯著增強，資料要素價值充分發揮，數字經濟高質量發展，數字治理效能整體提升。《規劃》還部署了10項重大任務：一是建設泛在智聯的數字基礎設施體系，二是建立高效利用的資料要素資源體系，三是構建釋放數字生產力的創新發展體系，四是培育先進安全的數字產業體系，五是構建產業數字化轉型發展體系，六是構築共建共治共享的數字社會治理體系，七是打造協同高效的數字政府服務體系，八是構建普惠便捷的數字民生保障體系，九是拓展互利共贏的數字領域國際合作體系，十是建立健全規範有序的數字化發展治理體系。（來源：中國政府網）

國家衛健委提出推動人工智慧等新技術嵌入醫療裝備

12月28日，工信部召開新聞釋出會介紹“十四五”醫療裝備產業發展規劃有關情況。國家衛生健康委規劃發展與資訊化司一級巡視員齊貴新指出，要加強臨床應用創新研究，支援醫療機構、科研機構、生產企業等深度合作，對標國際先進水平，強化醫工協同發展，開展醫療裝備臨床應用創新研究，提升醫療裝備效能水平，加快創新產品推廣應用；加快智慧醫療裝備發展，支援醫療裝備、電子資訊、網際網路等跨領域、跨行業深度合作，推動人工智慧、工業網際網路、5G、大資料、雲計算等新技術嵌入醫療裝備，提升CT、MR等傳統醫療裝備的診療水平，推動醫療裝備智慧化、精準化、網路化發展。（來源：中國工信產業網）

美國網路安全與基礎設施安全域性釋出阿帕奇Log4j漏洞掃描器

自Log4j漏洞曝光之後，美國網路安全與基礎設施安全域性（CISA）一直密切關注事態發展，敦促聯邦機構儘快完成漏洞修復。12月22日，CISA宣佈美國聯邦機構沒有因Log4j漏洞而受到損害。此外，CISA還推出了一款名叫“log4j-scanner”的漏洞掃描器，以幫助各機構篩查易受攻擊的網路服務。log4j-scanner 能夠對易受兩個阿帕奇遠端程式碼（分別是 CVE-2021-44228 和 CVE-2021-45046)執行漏洞影響的網路服務進行識別。（來源：CISA）

美國白宮推出人工智慧公共研究支援工具

12月17日，美國國家人工智慧倡議辦公室推出人工智慧公共研究支援工具，為研究人員提供可用資源。這一工具以網頁的形式呈現，其中包括資金和贈款資訊、資料集、計算資源、研究計劃目錄和測試平臺等。透過該網頁，人工智慧研究人員可以使用來自美國國家航空航天局、國家海洋和大氣管理局、國家標準與技術研究院和國立衛生研究院等聯邦機構的高質量資料來改進他們的研究和專案。該工具的推出旨在為人工智慧應用開發提供資源，加速美國人工智慧研發。（來源：Meritalk）

法國啟動全國量子計算平臺

1月5日，法國高等教育、研究與創新部宣佈，將在法國量子技術國家投資規劃框架下，啟動全國量子計算平臺，以推動量子技術的應用和發展。該平臺初始投資7000萬歐元，目標投資總額1.7億歐元。平臺將以法國替代能源與原子能委員會執行的超大計算中心（TGCC）為載體，由法國計算機科學和自動化研究所提供支援。平臺致力於將量子計算機和傳統計算機系統進行聯通，面向國際實驗室、初創企業和製造商等提供服務，促進其獲得量子計算能力。法國軍隊和國防部門也將透過該平臺發展真正的量子技術，提高軍事戰略優勢。（來源：Euractive）

監管

Twitter因未刪除非法內容被俄羅斯法院罰款300萬盧布

12月23日，Twitter被俄羅斯法院罰款300萬盧布（約合40920美元），原因是未能刪除被羅斯政府視為非法的內容。12月16日，Twitter已經因為同樣的原因被俄羅斯法院被罰款1000萬盧布（約合13.6萬美元）。此外，微軟旗下軟體開發網站GitHub在23日也被罰款100萬盧布（約合13643美元），原因同樣是未刪除非法內容。據悉，俄羅斯近幾個月來已採取一系列措施，加強對美國科技公司的監管，限制網上資訊的獲取。為此，蘋果、谷歌、Twitter和Facebook等均遭到不同程度的處罰。（來源：路透社）

Meta就強制出售動圖公司Giphy相關事項向英國提出申訴

12月23日，美國社交網路巨頭Meta（Facebook母公司）對英國競爭和市場管理局（CMA）做出的該公司必須出售此前收購的GIF圖搜尋引擎公司Giphy的決定提出質疑。該舉措是CMA歷史上第一次阻止網際網路行業的大型併購交易。Meta表示已向英國競爭上訴法庭提出上訴，並指出監管機構的證據並不能支援上述強制出售決定。（來源：彭博新聞）

產業和技術

百度首次在其元宇宙產品“希壤”中開會

12月27日，百度在其元宇宙產品“希壤”中召開2021年百度AI開發者大會，這也是中國首次在元宇宙中舉辦的大型會議。每一位參與使用者在“希壤”中都可以創造一個專屬虛擬形象，在個人電腦、手機、可穿戴裝置上登入“希壤”，聽會、逛街、交流、看展。百度董事長李彥宏在大會上透露了該公司在2023年量產交付首款集度汽車、未來5年培養500萬AI人才等一系列AI領域的最新進展。李彥宏在“希壤”中的“數字人”還展示了自己遨遊空間站的情景。“希壤”負責人、百度副總裁馬傑表示， “希壤”專案在2020年12月啟動，此後陸續釋出多個版本，目前可以實現10萬用戶規模聚集條件下的相互可見和基於參會者不同位置的實時互動，並透過大容量高併發伺服器提高資料準確性和系統穩定性。（來源：百度）

義大利數字創新部表示由義大利電信牽頭的財團有望中標65億雲招標專案

12月27日，義大利數字創新部表示，已收到三份關於國家雲的提案，預計將採用由義大利電信（TIM）牽頭的財團（其中包括國家貸款機構CDP、國防集團Leonardo和政府IT機構Sogei）提出的方案作為國家雲招標藍圖。招標結果預計將在2022年的前幾周公布，以便在下半年開始工程建設。義大利國家雲被稱為國家戰略樞紐，是義大利政府加速數字轉型和保障國家資料安全戰略的重要組成部分。（來源：路透社）

城市數字化

天津建成首個“5G+人工智慧”軌道交通智慧車站

12月16日，天津市地鐵9號線張貴莊智慧車站管控平臺正式上線執行。張貴莊站是天津地鐵9號線高架站，該智慧車站管控平臺由中國航天科工集團三院8357所研發，結合5G通訊、工業網際網路及多項人工智慧技術，成功實現了智慧照明、智慧環境、智慧能源、一鍵開關站、智慧影片、智慧站務等多項功能，是天津市首個投入使用的智慧車站專案，也是國內首個地面高架車站的智慧化改造專案。（來源：人民網）

韓國首爾採用人工智慧致電檢查市民接種新冠疫苗後的情況

韓國首爾市政府將在近期推出由人工智慧驅動的新冠疫苗護理呼叫服務，以幫助減少公共衛生中心的工作量，並快速響應治療疫苗副作用。政府的衛生官員只需在系統中錄入那些報告存在疫苗副作用民眾的資訊，韓國SKT電信公司的人工智慧助理Nugu就會打電話給他們，及時監測和了解其健康狀況，如疼痛、發燒等。如果Nugu發現有人出現嚴重症狀，便會通知人類官員接手做進一步溝通。Nugu還能夠記錄這些電話的內容，並按症狀予以分類和存檔，以供公共衛生中心參考。初期的小範圍試點顯示Nugu能承擔一個地區近85%的外呼話量，效率相當高，執行也很穩定，對談話的語音識別率達到96%，可為新冠肺炎防治工作發揮積極作用。（來源：Smartcitiesworld）

責任編輯：吳英燕 圖片編輯：蔣立冬

校對：丁曉