引 言
高精地圖專為自動駕駛設計,是自動駕駛核心技術之一。它又被稱為高解析度地圖,具有高精度的道路場景(車道線、交通標誌、路沿等)、定位等資訊,可以輔助自動駕駛過程中的感知、定位、路徑規劃、決策與控制,提高駕駛過程中的安全性。
近年來,針對高精地圖的研究可以分為以下3個研究方向:高精地圖格式[1-2]、高精地圖資料結構和高精地圖製作方法。由於本文主要討論高精地圖的資料結構和製作方法,因此,對高精地圖格式不做詳細介紹。從高精地圖資料邏輯方面分析,文獻[3]對高精地圖的靜態圖層資料邏輯結構進行了分析,認為高精地圖應該包括:道路層、車道網路層、車道線層與交通標誌層。文獻[4]提出了路徑導航車道級地圖體系結構。由於靜態地圖不能保證行駛的安全,文獻[5]提出區域性動態地圖的概念,首次將動態物的感知納入地圖範疇。文獻[6]提出不同駕駛級別的自動駕駛汽車需要依賴不同級別的高精地圖;自動駕駛級別越高,對高精度地圖的要求越高;指出L5級別自動駕駛汽車的需求為智慧化的高精地圖,即動態高精地圖+分析資料的能力。
從高精地圖製作方法分析,目前的高精地圖製作均面向L3或L4級別的自動駕駛,未對L5級別的自動駕駛地圖進行研究。面向L3或L4級別自動駕駛高精地圖的構建可以分為資料採集、製圖與地圖更新3個步驟。其中,資料採集方案[7]均為透過搭配多種感測器的自動駕駛車輛或全景移動測量系統進行資料採集。但是無論自動駕駛資料採集車輛還是全景移動測量系統,成本均太過昂貴,不能實現大規模的資料採集,影響高精地圖的製圖和地圖更新;同時,目前製圖演算法多基於深度學習來實現影象理解、定位等,該類演算法存在資料需求量大、可解釋性差等問題。
本文以智慧化的高精地圖為研究物件,提出多智慧體協同高精地圖構建定義與框架,並對其關鍵技術、構建過程中存在的挑戰進行了分析,該框架的核心思想包括以下兩點。
(1) 將資料採集平臺由自動駕駛車輛或全景移動測量系統擴充套件為機器人、自動駕駛車輛、無人機等多種型別的智慧體。透過搭配相同或者不同型別感測器的、不同型別的多個智慧體協同採集資料,既降低了採集裝置的成本,又保證了資料採集速度。
(2) 為保證高精地圖的智慧性、精度和地圖更新速度,提出多智慧協同高精地圖的製作和更新框架。
本文的主要內容包括:①提出了多智慧體協同高精地圖構建定義和框架;②分析了多智慧體協同高精地圖構建過程中的關鍵技術;③研究了其構建過程中存在的挑戰。
多智慧體協同高精地圖構建定義及框架
多智慧體協同高精地圖構建指採用多個搭建相同或不同感測器(攝像機、鐳射雷達、GNSS、IMU等)、不同型別的智慧體(自動駕駛車輛、機器人、無人機等)協同採集資料,並對資料進行處理,實現智慧高精地圖製作和更新的過程。依據多智慧體協同高精地圖構建定義,其具體構建框架如圖 1所示。
圖1 多智慧體協同高精地圖構建
(1) 多智慧體資料採集:透過對多智慧體進行路徑規劃,使其協同進行資料採集的過程。其中,如何令多智慧體協同工作、規劃多智慧體資料採集路徑,實現高效、高質量採集某區域的資料是該部分的重點和難點。
(2) 資料一體化表達:由於不同的感測器具有不同的資料表達形式(資料內容、格式、特性、精度等),為方便智慧高精地圖的製作,需要對多源異構資料進行一體化表達,得到三維地圖。
(3) 場景認知:智慧化的高精地圖具有理解靜態物、半靜態物、半動態物和動態物的能力,還具有解釋資料(認知)的能力。而目前基於深度學習的場景感知方法要求大量訓練資料,且模型泛化能力差、不具有可解釋性。因此,智慧化的高精地圖構建需要發展對資料量要求小、模型泛化能力強、具有可解釋性的場景認知方法。
(4) 軌跡規劃:軌跡規劃用於表達虛擬道路和道路間的邏輯關係,並對自動駕駛車輛在各車道的可行駛軌跡進行規劃,為自動駕駛車輛行駛過程中的導航提供強約束。
(5) 地圖融合:基於認知資料和軌跡資料將不同空間、時間、層次的資料高精度地融合成為一個完整的高精地圖。
(6) 向量化表達:將形成的智慧高精地圖從俯檢視角度進行向量化表達,形成向量地圖,提供給自動駕駛車輛使用。
(7) 地圖更新:自動駕駛程度越高,對高精度地圖的準確度要求越高。而由於現實生活中頻繁的道路建設和維修,使地圖不能保持現勢性,進而不能為自動駕駛車輛提供準確資訊。因此,智慧化的高精地圖需要具有較好的更新能力。
多智慧體協同高精地圖構建關鍵技術
1
多智慧體資料採集路徑規劃
多智慧體資料採集路徑規劃,即多個單智慧體資訊互動,在共同完成某個區域資料採集的過程中,每個智慧體的路徑規劃;其本質為多智慧體路徑規劃。針對多智慧體路徑規劃問題,傳統的方法一般採用遺傳演算法[8]和蟻群演算法[9]求解。然而,隨著問題規模的增大、計算複雜度增加,傳統方法不能高效地規劃多智慧體路徑。近年來,隨著深度學習的發展,湧現出眾多基於深度強化學習的路徑規劃方法[10],提高了規劃的效率[11-12]。但是,現有的演算法在進行多智慧體路徑規劃時,通常將問題抽象為多旅行商問題[13-14],多旅行商問題不考慮場景的複雜性與動態性。而在多智慧體資料採集時,場景的複雜性與動態性是影響資料採集效率和通訊效率的重要因素之一,不可以被忽略。為解決此問題,本文建立適用於多智慧體協同建圖的路徑規劃模型。
集中學習和分散執行是一種多智慧體協同策略。集中學習指透過應用集中的方法訓練一組智慧體,從而減輕智慧體間通訊負擔。分散執行指智慧體可以在其區域性觀測優勢的基礎上分散執行[15],這種體系在通訊受限的情況對於保持多智慧體間的資訊高效互動意義重大[16]。文獻[17]基於集中學習分散執行框架,提出了一種集中式專家監督多智慧體強化學習演算法,該演算法採用DAgger演算法獲得單智慧體分散執行策略,可以在較低的樣本複雜度下訓練分散執行多智慧體策略。文獻[18]將集中和分散的思想應用到主從多智慧體架構中,主智慧體處理來自從智慧體的資訊;從智慧體接受主智慧體訊息,並結合自身資訊來執行動作,顯著降低了多智慧體系統的通訊負擔。實際上,集中學習分散執行策略已成為多智慧體系統協同的標準框架[19]。
為了實現多智慧體間資訊互動與協同路徑規劃,本文提出採用“集中學習和分散執行”結合“多智慧體強化學習”的多智慧體協同路徑規劃模型,如圖 2所示,以集中式深度學習模型學習多智慧體全域性路徑規劃,以分散式執行實現多智慧體間高效資訊互動,充分利用二者在資訊處理與資訊互動方面的優勢。即:首先,基於深度強化學習演算法分析單一智慧體的觀測和行為,學習建圖環境狀態更新資訊;其次,透過深度神經網路,集中學習智慧體之間的溝通和協同方法;最後,基於網路結構,實現智慧體之間的互動及協同規劃,從而完成基於集中學習分散處理的多智慧體路徑規劃方案。
圖2 集中學習分散執行路徑規劃模型
具體來講,各智慧體向集中式學習模型傳送建圖環境狀態更新資訊,如場景隨時間動態變化、與預測複雜度差異較大等;集中式學習模型將全部更新資訊集中表達為圖神經網路的形式,並基於該網路同步更新全域性實時地圖特徵。更新後的全域性特徵傳送至所有智慧體,為多智慧體路徑規劃提供一個新的全域性視野。多智慧體接收來自集中學習模型提取的全域性地圖特徵,結合區域性觀測資訊進行分散式規劃得到新的執行策略。
2
多源異構一體化資料融合與表達
在多智慧體協同地圖構建中,基於不同採集平臺得到的多源異構資料需要進行融合以構建地圖。此過程中的難點為資料的異構性,即基於不同智慧體及感測器得到的資料具有不同的內容、格式、特性及精度等。例如:鐳射雷達提供了測距範圍與點反射值資料;相機提供了彩色或灰度影象資料;IMU提供了自身加速度、角速度等動量測量值;GNSS則提供了粗略的全域性定位座標。如何基於異構資料的不同特徵描述資料關聯,準確聯合多時空資料,進行多源異構感測器資料時空域對齊;充分利用各異構感測器測量的優勢並實現資料一體化表達,是完成多源異構資料融合、實現多智慧體協同高精地圖構建的重要基礎。
高維學習的方法[20]可以提取高動態、劇烈變化環境下多源異構資料的特徵,透過多源異構特徵匹配能夠在幀間實現多源異構資料的關聯。同時,使用因子圖[21]的方法,將機率圖模型與圖最佳化方法結合,能夠將幾何、語義和資料關聯置於統一的框架中,進行環境建模和狀態的估計。在地圖的表示方法中,面元[22]在靈活性、表達能力佔據了優勢,能夠支援多種感測器資料進行環境整合。因此,透過引入高維學習來進行異構資料的時空關聯,並基於非高斯多假設估計器構建基於面元的多源異構一體化資料的表達模型,從而實現準確的多源異構一體化資料融合與表達,在理論上具備高可行性。
本文提出的多源異構一體化資料融合與表達主要分為3個部分:多源異構特徵的選取,資訊融合以及地圖儲存與表達。目前的工作大多使用高度近似的表達方式概括測量資料,尚缺乏多種異構資料緊耦合的方法。此外,現有的工作應用於資料分佈未知的資料時,通常基於單高斯分佈假設進行資料關聯和殘差構建,這類方法容易出現估計器狀態不一致的問題,使得模型無法正常收斂。對於現有工作的不足,本文提出了4點改進的思路,如圖 3所示。
圖3 多源異構一體化資料融合與表達
(1) 透過引入高維學習的方法,改造前驅資料處理框架,進行多源異構資料的超特徵追蹤;選擇場景表達最豐富的影象資料作為關鍵幀,利用立體深度圖作為構造半稠密點雲的先驗。採用滑動視窗的形式,透過固定滯後平滑器最佳化視窗內深度狀態量,提升半稠密點雲精度。在鐳射雷達點雲存在時,透過顯著角點、深度連續三維線特徵構建異構資料關聯,為後端最佳化提供約束條件。
(2) 引入迴圈完備畫素關聯光流變換器,提升異構資料的時空關聯性。針對未知深度的資料(例如:RGB影象),依據序列的連續性假設,透過估計其“密集位移場”,進行幀間特徵資料關聯。利用深度網路從輸入的每一幅影象序列進行處理,得到特徵編碼;透過在所有序列的特徵編碼估計視覺相關性,構建影象金字塔;透過上下文網路和基於金字塔的輔助資訊,計算影象序列幀間相關性。在密集高維特徵圖間,進行幀間的特徵跟蹤,最終得到光流計算結果。
(3) 研究非高斯多模態的最大後驗估計器,考慮覆蓋的資料不確定性範圍。引入多假設非高斯因子圖模型和“假設修剪”去除冗餘假設,充分支援機率資訊的分發與因子增量更新。同時考慮進行多假設貝葉斯樹的推斷,引入對觀測的全貝葉斯推斷,以確保引數得到最優的估計。
(4) 基於不確定性建模的面元構建表達模型,從而建立更準確的多源異構一體化資料表達模型,最終求解得到初始的環境模型及三維地圖。對異構資料進行時空關聯,並計算得到測量誤差,根據誤差和先驗的感測器測量噪聲模型構建殘差因子,利用多假設非高斯因子圖模型進行求解得到初始的環境模型。此外,利用形變圖來進行面元調整,完成模型表面形變,細化環境模型。
3
道路場景認知
在傳統的高精地圖構建中通常實現對道路場景的理解,即對道路場景元素進行識別[23]、檢測[24-26]、分割[27-28]和修復[29-30]。近年來,隨著深度學習的發展,道路場景理解取得了顯著的成果。但是,現有的道路場景理解多為對其進行感知理解。基於深度學習的感知理解需要大量的訓練資料,並且訓練後的模型泛化能力差,沒有分析資料能力,無法服務智慧化的高精地圖。基於圖推理的認知方法可以解決以上問題,目前基於圖推理的認知僅在人體解析語義分割[31]、人體目標檢測[32]和視覺語言任務[33]有少量的研究。但是該類研究的資料集簡單,推理方法也相對簡單。而道路場景認知任務的資料集裡包含汽車、腳踏車、摩托車、標誌、行人、路面等多個元素,且元素間關係複雜;認知結果面向無人駕駛車輛,認知精度要求高,因此,需要探索麵向道路場景的認知方法。本文提出了基於圖推理的道路場景認知方案,該方案分為了兩個階段:首先基於元素之間的相互關聯特性構建道路場景異構圖(圖 4),然後基於圖推理理論設計道路場景認知理解網路(圖 5),實現對道路場景的認知。
圖 4 道路場景理解異構圖
圖5 基於圖推理的道路場景認知理解網路
(1) 道路場景異構圖構建。道路場景有汽車、行人、路面等多個元素組成。其中,部分元素可以依據特徵進行細化,如汽車特徵可以細化為車燈、車身、排氣筒、車輪;車燈可以進一步細化為近光燈、前位燈、遠光燈等。本文定義道路場景元素的特徵為第1特徵,第1特徵構成的圖層為第1特徵層;第1次細分的特徵為第2特徵,第2特徵構成的圖層為第2特徵層;第3特徵和第3特徵層的定義依據上述規則。特徵層內依據元素間物理關係實現圖內推理,相鄰特徵層間依據元素間物理關係實現圖間推理。準確表達道路場景各特徵層的圖內推理和圖間推理,即完成了道路場景異構圖的構建。
(2) 基於圖推理的道路場景認知理解網路。基於搭建的道路場景異構圖,可以設計出道路場景理解網路。該網路以道路場景RGB影象為輸入,首先,透過卷積神經網路(CNNs)提取影象特徵;然後,透過圖間卷積實現所有特徵層的圖內推理,並對其進行特徵再表達,實現所有特徵層的道路理解;最後,透過圖間推理方法,實現圖間特徵理解,即完成了道路場景認知理解。
4
智慧化的高精地圖融合
多智慧體採集的地圖資料包含了地圖不同時間、空間、層次採集到的資訊;同時,由於場景的變化,不同時空的資訊之間可能發生變化,造成地圖的不一致;各智慧體採集到的資料也存在誤差,需要經過地圖融合來得到一致的高精地圖。傳統的地圖融合方案在處理這些誤差和不一致時,通常採用貝葉斯濾波[34]或手工較準等方法。但是,對於資料種類越來越多,資料規模越來越大的高精地圖而言,傳統的方案難以滿足需求。因此,發展智慧地圖融合技術是未來高精地圖構建中一項不可或缺的關鍵技術。為了解決此問題,本文從3個方面(圖 6)進行了研究。
圖6 地圖融合技術
(1) 基於認知抽取關鍵幀。智慧化的高精地圖資料量巨大,如何有效地濾除冗餘資料,精簡資料量的同時保證不損失地圖的關鍵資訊,對於城市規模量級的地圖構建和融合具有重要意義。關鍵幀的抽取能夠減少地圖中的冗餘資訊,但傳統的關鍵幀抽取方法[35]通常只考慮到區域性的幾何資訊,沒有考慮到全域性的重複性和特殊性。而基於場景的認知,可以有效利用場景全域性的資訊。本文提出基於場景認知結構抽取關鍵幀,實現對資料的差異化度量,抽取關鍵幀,降低誤差和冗餘。
(2) 基於認知關聯資料。由於多智慧體協同建圖的感測器種類多、精度參差不齊,在建圖的過程中會由於感測器誤差和建圖誤差降低高精地圖的精度。迴環檢測已經被證明是一種有效的提升建圖精度的方法[36],其利用場景中重複出現的部分,最佳化地圖構建與融合。本文基於場景認知方法抽象出單幀資料中關鍵元素的關係[37],由此設計基於元素拓撲關係的迴環檢測框架,可進一步實現精細化資料關聯,從而建立序列資料時空關聯約束,降低地圖誤差,提升地圖精度。
(3) 基於圖最佳化理論對地圖進行全域性最佳化。三維地圖的輸出,需要對所有的約束資訊進行集中最佳化計算,從而得到精準的環境模型[21]。本文基於圖最佳化理論構建最佳化模型,提出將多類別、多層次的資料關聯,放在統一的圖最佳化框架中進行全域性一致性整合與提升,從而實現平滑誤差,提升地圖精度。
5
智慧化的高精地圖更新
在自動駕駛領域,精度越高的地圖意味著越高的安全性、可操作性。隨著時代的高速發展,地圖資訊瞬息萬變,因此,智慧化的高精地圖更新是一個重要問題。在傳統的地圖更新工作中,由於更新資料的資料量巨大、資料型別複雜,造成了雲端響應時間長、網路擁堵等不良情況。對此,文獻[6]提出了“眾包+邊雲協同計算”模式來處理這個問題。此模式沒有考慮智慧體間的通訊資訊,且眾包下部分智慧體不受控,會造成智慧體資料雜亂、冗餘等問題,使得多智慧體協同建圖中的地圖更新能力受限。針對多智慧體通訊問題,文獻[38]提出了基於方差控制和多智慧體強化學習的通訊方法,證明了多智慧體強化學習可以用於提高多智慧體通訊效率。本文提出基於邊緣計算[39]和多智慧體強化學習的高精地圖更新方案(圖 7)。
圖7 邊緣計算+多智慧體強化學習架構
如圖 7所示,資料採集源包括自動駕駛汽車、無人機、機器人等裝置,在進行資料一體化操作後,將更新資料提交給邊緣雲,邊緣雲在邊緣計算技術的支援下進行多智慧體強化學習,處理後向使用者反饋區域性高精地圖。同時中心雲在收到邊緣雲傳來的海量資料後利用大資料技術進行處理,以協同各邊緣雲的更新工作,突出各邊緣雲需要的更新資料,處理完畢後向邊緣雲反饋全域性高精地圖。整個高精地圖更新工作被分為了區域性更新和全域性更新兩部分完成,理論上可以達到實時更新的效果。
具體來講,中心雲根據各邊緣雲所處環境不同,向不同的邊緣雲提出不同的地圖更新需求,如更新的資料型別、上傳的資料量等。邊緣雲根據需求對該範圍內的多智慧體進行多智慧體強化學習,即中心化訓練、去中心化執行。在多智慧體執行過程中,智慧體間透過通訊[38],傳遞彼此狀態資訊,從而促進各智慧體更好地協同,得到最佳化的更新資料。最終,透過多智慧體強化學習方法區分出高更新頻率的資料型別和非高更新頻率的資料型別。如果是高更新頻率的資料型別,則進行區域性的高精地圖更新;如果是非高更新頻率的資料型別,則判斷是否達到了中心雲設定的週期,如果滿足,則進行全域性的高精地圖更新。
存在的挑戰
本文提出了多智慧體協同高精地圖構建的框架,並對其關鍵技術進行了研究,但是在製圖過程中,仍存在著以下挑戰。
(1) 隨著經濟的快速發展,地圖資料採集場景變化越來越快(車輛及行人流動性,建築物改造等),而智慧體的資料互動及處理能力有限,如何解決多智慧體系統非同步通訊帶來的延遲問題,保證系統一致性,是多智慧體路徑規劃的一個主要挑戰。
(2) 以特徵間關係構建的道路場景異構圖中,圖內關係和圖間關係錯綜複雜,如何建立準確有效的道路場景元素異構圖,發展圖內推理和圖間推理方法,是實現道路場景認知的關鍵科學問題,也是目前亟待解決的重要挑戰。
(3) 為保證地圖的覆蓋率及更新頻率,需要採集大量的資料。在地圖融合的過程中,如何有效地濾除冗餘資訊,同時保證不損失地圖的關鍵資訊,對於城市規模量級的地圖構建工作是一個挑戰。
總 結
為實現高效、高精度、智慧化的地圖構建,本文定義了一種多智慧體協同地圖構建方式,提出了其構建框架,對其關鍵技術進行了分析。具體包括集中學習分散執行路徑規劃模型、多源異構一體化資料融合與表達框架、基於推理的道路場景認知理解框架、智慧化的地圖融合技術框架、基於邊緣計算和多智慧體強化學習的地圖更新框架,並對其在構建過程中可能存在的挑戰進行了分析。
轉載自中國測繪學會,文中觀點僅供分享交流,不代表本號立場,如涉及版權等問題,請您告知,我們將及時處理。
