sponsored links

Unity:透過計算機視覺開啟智慧家居時代

要訓練計算機視覺識別住宅內部裝修是一項非常複雜的任務。若想要訓練資料具備一定的多樣性和準確性,那麼則必然需要耗費大量的成本、時間,有時甚至還會涉及隱私問題。在本篇文章中我們將就如何透過Unity的合成數據生成工具和服務,訓練出更為強大的計算機視覺應用,從而解決開發障礙與難題進行深入探討。

在開發高效能計算機視覺(Computer Vision,簡稱CV)模型時,最難點往往是需要獲取足夠多樣、標註準確的資料集。而最近興起的合成數據可以最小化資料獲取、註釋所需的時間與成本,這也使合成數據成為了資料收集問題的一種較為可行的解決方案。

Unity一直是合成數據推廣的引領者。對於各個專業的合成數據技術Unity也都十分有經驗,其中一個重要行業便是家裝。

合成的家裝資料可用於智慧家居、防火防盜、生活輔助、醫療保健、寵物與嬰兒監控、室內設計等各種應用。

在開發家居應用時,獲取真實的標註資料常常會因為隱私問題而受到阻礙。除此之外,資料集在材料、顏色、光照和傢俱等組成要素上要求有一定的多樣性,讓資料進一步複雜化。

為了解決這些難題,滿足客戶需求,Unity已在開發用於生成逼真家居環境的工具和3D內容庫。藉助程式化方法,能夠實現在資料集中擺放傢俱,在諸如鏡頭位置、傢俱材料、光照、時間變化、天空和室外環境等組成上新增隨機元素,除此之外Unity還添加了自定義物件的支援。下圖展示了其中四種元素的隨機化。

Unity:透過計算機視覺開啟智慧家居時代

其他引數不變,四種場景組成的隨機化

Home Interiors資料集是用工具生成的一個數據樣本。這個資料集包含以用途與例項劃分的影象(分別標註為傢俱、裝飾、牆壁、天花板和地板),傢俱皆以2D或3D邊框框選。相較於參考資料稀少的訓練資料,帶有更多標籤型別的資料可以大幅拓寬CV的應用範圍。

接下來我們來了解幾個家居應用案例。Unity在這些案例中幫助客戶克服了獲取真實資料集的難題。

Unity:透過計算機視覺開啟智慧家居時代

Home Interiors資料集所包括的四種參考資料。左上:2D選框,左下:3D選框,右上:用途劃分,右下:例項劃分

智慧化家居

在自動化家居和生活輔助等應用上,計算機視覺技術有著極大的吸引力。在應用領域,傳統的感測器陣列也正在轉向以CV驅動的攝像機,從而更加高效的執行任務。

掃地機器人就是一個很好的例子。掃地機器人自發明以來已近30年,而傳統型號的主要缺點之一是無法分辨垃圾和其他物體,並且很難穿梭於障礙物過多的空間裡。如今我們可以藉助Unity的力量針對這些缺點為其制定相應的解決方案。例如,Unity的物理引擎可以逼真地模擬出帶有隨機褶皺和摺痕的織物,以此用於訓練掃地機器人識別並避開衣物。

Unity:透過計算機視覺開啟智慧家居時代

智慧掃地機器人的視角模擬。左圖:2D選框,右圖:用途劃分

利用合成數據改善CV模型的另一個用例是智慧攝像機。智慧攝像機的作用是檢測房間裡是否有人,以便控制和調整照明、氣溫等房間環境情況。Unity的工具同樣發揮了重要作用。其中的一個例子便是訓練相機模型識別寵物。要想識別寵物,就需要在居家環境下獲取大量不同姿勢、動作、毛色等的寵物影象。作為一個遊戲引擎,Unity完全可以藉助包括骨骼動畫、動態模糊等效果生成高度逼真的影象。

並且,Unity還可以合成不同位置與視角、透視投影、長寬比、鏡頭扭曲和其他影象屬性(對比度、飽和度等)等符合真實攝像機特徵的資料。例如在一個合成環境裡,引擎可以輕鬆模擬夜視攝像機及普通RGB攝像機。此外,Unity所具有的使合成數據快速迭代的這一特點也能讓兩種攝像機間的切換非常輕鬆。

Unity:透過計算機視覺開啟智慧家居時代

模擬一臺帶有魚眼鏡頭的夜視攝像機。左圖:2D選框,右圖:用途劃分

安全與防盜

CV另一個佔據主導地位的領域在於以醫療保健和生活輔助技術改善家庭安全與生活質量。

比如,為了需要幫助視力障礙者安全地在屋內行走,CV模型需要全面地瞭解房屋的佈局及物品擺放。模型需要透過檢測傢俱、牆壁、樓梯和門等元素來識別出安全路線,並且需要測量出牆壁及其他障礙物的距離,在使用者靠得太近時發出警告。為了解決這個問題,在資料集中我們採用了多種單層和多層住宅佈局,隨機化了傢俱的型別和擺放、門窗的開放程度。除了資料集的多樣性之外,這種複雜程度需要多種型別的基礎行為來訓練,包括分割、邊界框和深度圖等,這使得編制高度多樣化和準確標記的真實資料集更加困難。

同樣的家居場景也可用於訓練CV模型以用來檢測人類,我們可在模擬中加入3D人體模型,並隨機化其姿勢、身高、身材、頭髮、面板等。這些CV模型可用於監測人的體態,並檢測異常的步態和靈巧度等。如果住戶在特殊位置或臥榻以外的地方跌倒或長時間不動,則系統也可以嚮應急服務機構發出警報。同樣地,CV模型還能學習人在服藥時的肢體和手臂動作,在使用者忘記服藥時發出提醒。

Unity:透過計算機視覺開啟智慧家居時代

居家環境內的3D人體模型。左圖:2D選框,右圖:監測物件

室內設計

機器學習賦予了計算機一定的藝術創作能力,計算機室內設計便是其中的一個例子。一些線上傢俱經銷商已經在利用智慧手機攝像頭於消費者家中展示其產品。經過訓練的CV模型可以識別和測量室內表面(包括地板、桌子、牆壁)的範圍和麵積,以在空間內準確地展示產品模型。

此外借助CV強化AR的例子還有很多。比如,Unity曾使用使用者上傳的圖片來訓練CV模型檢測室內的裝修材料和設計風格。此類模型可用於線上推薦系統,幫助使用者快速找到契合自家裝修的產品。Unity模擬真實物理的渲染引擎可以渲染出多種逼真的裝修材料(如各種木材和膠合板)。並且,前邊提到的隨機化工具還能在每張生成的影象中輕鬆修改材料的各種引數。

CV模型還可以檢測室內傢俱的總體形狀和尺寸,據此來推薦傢俱,或更準確地展示類似尺寸的傢俱。類似地,我們也能製作一個配色工具,為傢俱配置各種顏色,如果消費者決定要為裝修風格重新定調,可藉助工具來挑選想要的顏色。

更多應用

我們在本文中討論的CV應用只是滄海一粟,合成數據完全可以在更廣的領域內進一步釋放CV模型的潛力。除了文中的例子外,其它一些例子還包括老建築翻新(繪製精確的內部結構圖)、位置識別及合成環境的程式化生成。合成數據集具有極大的定製自由,其應用範圍只有你想不到。本文的主題是家居裝修,但程式化的合成數據工具完全可以生成大量帶有隨機化要素的環境。

分類: 國際
時間: 2021-11-22

相關文章

售價超40萬、空間RAV4水平,這款日系SUV為什麼這麼多人喜歡

售價超40萬、空間RAV4水平,這款日系SUV為什麼這麼多人喜歡
全新一代NX的外觀幾乎無槽點 在豪華品牌的SUV市場中,BBA處於第一梯隊.對於不喜歡BBA或者是更追求個性的消費者來說,二線豪華品牌的SUV就成為了更好的選擇.其中雷克薩斯.凱迪拉克以及沃爾沃成為了 ...

要空間還是效能?30萬出頭買熱門SUV,95%的人一定會看這3款

要空間還是效能?30萬出頭買熱門SUV,95%的人一定會看這3款
[有車以後 評測]如今的汽車市場,正處在燃油車向電動車過渡的階段,在這場以能源為主導的變革中,汽車正在經歷著前所未有的變化.智慧化.自動化是新時代汽車的主要標籤,但是在一些燃油車的擁躉看來,四個輪子加 ...

外媒:俄羅斯彼爾姆大學槍擊事件已致3人身亡,嫌犯被捕
英國天空新聞臺9月20日訊息,俄羅斯彼爾姆市一大學校園發生槍擊事件,已造成至少3人身亡. 據俄羅斯衛星通訊社報道,俄羅斯內務部稱,彼爾姆大學槍擊案嫌犯已被捕.

美國田納西州一超市發生槍擊事件:傷者升至14人 槍手已開槍自盡

美國田納西州一超市發生槍擊事件:傷者升至14人 槍手已開槍自盡
北京時間9月24日05:22訊息: 當地時間9月23日,美國田納西州科利爾維爾發言人詹妮弗·凱西(Jennifer Casey)證實,當日13時30分左右,當地一家克羅格連鎖超市(Kroger)發生槍 ...

空間大,多人出行也不怕 這幾款SUV肯定受奶爸奶媽的歡迎

空間大,多人出行也不怕 這幾款SUV肯定受奶爸奶媽的歡迎
隨著二胎家庭的增多,越來越多的消費者在選擇家庭用車時,會重點關注車輛的空間表現,畢竟要裝下父母.妻子和兩個孩子,至少需要6座以上的車型才能滿足.與此同時,還要考慮到家人乘坐的舒適性和車輛本身的裝載能力 ...

美國明尼蘇達州發生槍擊案 1人死亡 14人受傷
據美國全國廣播公司當地時間10日報道,明尼蘇達州首府城市聖保羅發生槍擊案,已造成1人死亡.14人受傷.(央視記者 劉旭)

操作驚奇,印度人開始向美國輸出種姓歧視了

操作驚奇,印度人開始向美國輸出種姓歧視了
美國矽谷最近鬧出了一個特殊的新聞. 矽谷200多名印度裔工程師最近曝光矽谷驚天醜聞--"我們快被印度裔的上司歧視瘋了!" 這讓人摸不著頭腦了,同為印度裔,同在世界最頂尖的科技公司工 ...

2008年,美國中情局派4名間諜潛入南海,為何全部喪命?

2008年,美國中情局派4名間諜潛入南海,為何全部喪命?
當地時間2020年9月19日,美國雅虎新聞網站曾披露過一則絕密資訊,瞬間驚炸全球.雅虎網聲稱,2008年時,因為懷疑中國解放軍佔領了菲律賓呂宋島以北的小島,美國中情局派遣了一支4人小分隊,潛入南海海域 ...

1959美國核打擊名單洩露,中國117城曾遭870枚核彈威脅,都是哪裡

1959美國核打擊名單洩露,中國117城曾遭870枚核彈威脅,都是哪裡
第二次世界大戰結束之後,世界陷入了美蘇爭霸的格局,雙方劍拔弩張,隨時都可能啟動第三次世界大戰,為此,美國加大軍事生產,大批次的生產核武器,並制定了一份核打擊計劃,一旦開戰將對蘇聯的主要城市和蘇聯盟友中 ...

合資中型SUV,空間大易保養,身披運動套件,實拍福特銳界

合資中型SUV,空間大易保養,身披運動套件,實拍福特銳界
福特銳界初入國內時就受到了眾多消費群體的追捧,寬闊的車身和美系風格的外觀設計使得銳界看上去十分硬朗.2021款長安福特銳界正式推出,改名為銳界的PLUS,作為一款中期改款車型,新車的外觀和內飾都有了較 ...

1993年,男子告訴妻子詭異理由後失蹤,23年後妻子得知:人找到了

1993年,男子告訴妻子詭異理由後失蹤,23年後妻子得知:人找到了
1993年,在美國印第安納州中東部的首府印第安納波利斯,一對幸福的夫妻定居於此,他們名叫理查德·霍格蘭和琳達·艾斯勒.11年前兩人相戀並結了婚,婚後琳達生下了兩個孩子,此時馬修9歲和道格拉斯6歲,理查 ...

病毒溯源政治化:美國掩蓋治理失敗的卑劣“偏方”
[鳴鏑] 作者:沈逸(復旦大學網路空間國際治理研究基地主任.教授) 當前,新一輪新冠肺炎疫情正繼續威脅全球的健康與安全.截至9月19日,全球累計確診人數2.29億,累計死亡人數470萬:其中,根據美國 ...

史沫特萊:深深愛著中國的美國女記者,促成白求恩醫療隊來華,和朱德結下深厚友誼

史沫特萊:深深愛著中國的美國女記者,促成白求恩醫療隊來華,和朱德結下深厚友誼
黨實行對外開放方針後,先後來延安訪問的美國人中,有三位引人注目的女性.她們是艾格尼絲·史沫特萊.海倫·斯諾和安娜·路易斯·斯特朗.艾格尼絲·史沫特萊是繼斯諾之後第二個進入蘇區的美國記者.她是一位富有挑 ...

想要新出爐的國產大尺寸SUV?很多車型值得選,款款精品

想要新出爐的國產大尺寸SUV?很多車型值得選,款款精品
受環境以及需求的影響,不同地區的人會偏愛不同型別的車,例如皮卡在美國就頗受歡迎.而在中國,尺寸足夠大的SUV成為了不少人的心頭好,因為它空間大,坐起來足夠舒服.如果你恰好對大尺寸SUV感興趣,那買車君 ...

美國損招頻出,瓦解蘇聯後又對中國故技重施,最後的結果怎麼樣了?

美國損招頻出,瓦解蘇聯後又對中國故技重施,最後的結果怎麼樣了?
美國前農業部長約翰・布洛克曾不小心說漏嘴這樣一個陰謀, "糧食是一件武器,用法就是把各國牢牢地系在美國身上,這樣他們就不會再繼續搗亂". 現在看來,這句話正逐漸成為現實! 美國是怎 ...

美國也沒電了

美國也沒電了
凜冬將至,但一場大範圍的"電荒"正席捲歐美. 受全球經濟復甦.貨幣寬鬆以及碳中和等目標影響,2021年全球大宗商品價格不斷上漲,能源價格也隨之走高,歐盟主要經濟體電價持續上漲. 以 ...

白人將軍林虎:11歲當八路,26歲升師長,70歲上天引俄國人喊烏拉

白人將軍林虎:11歲當八路,26歲升師長,70歲上天引俄國人喊烏拉
1997年8月24日下午,莫斯科時間下午5時剛過,隨著一陣巨大的轟鳴聲,一架威武的蘇-30型新式戰機滑出跑道,迅速抬頭.拉起,像一支利箭直插藍天.駕駛這架先進戰機飛出承受多個載荷的令人叫絕的" ...

46年,美國上將在飛機上撿到我黨特工資訊,周總理:別慌,看我的

46年,美國上將在飛機上撿到我黨特工資訊,周總理:別慌,看我的
前言 對於一個打入敵人內部的特工來說,其身份資訊是絕對保密的東西,一旦其身份被察覺,那之前做的所有努力都付諸東流了. 在黨史中,曾經就發生過一件特別驚險的事情. 事情是這樣的,在國共即將展開內戰的時候 ...

深度分析,美國人口結構已出現大幅變化,亨廷頓分裂預言或要成真

深度分析,美國人口結構已出現大幅變化,亨廷頓分裂預言或要成真
美國每年都會搞人口普查,2021年的人口普查已於8月份結束,美國媒體也及時向外界透露了普查相關資料,但這次資料足夠讓人大跌眼鏡,美國最擔心的問題或許就要實現. 從這次人口普查的結果來看,美國的人口結構 ...

人走了這些軍機咋處理,烏方“避而不談”?

人走了這些軍機咋處理,烏方“避而不談”?
美國駐烏茲別克大使館已確認撤離所有阿富汗軍事人員.烏國媒體記者報道,美國國防部正在處理剩餘的裝置. 14日,美國駐塔什干外交使團人員告訴記者,美國國務院.國防部和烏茲別克政府密切合作,運送了494名阿 ...