日前，哈工大朱曉蕊教授等人在中國工程院院刊《信息與電子工程前沿》（英文）（Frontiers of Information Technology & Electronic Engineering，F(xiàn)ITEE）上發(fā)表了一篇題為《針對無人機(jī)系統(tǒng)安全的新型層級式軟件架構(gòu)》（A new hierarchical software architecture towards safety-critical aspects of a drone system）的論文，提出一種覆蓋底層源代碼到上層用戶任務(wù)代碼的新型層級式軟件架構(gòu)，能夠有效地提高無人機(jī)系統(tǒng)安全性與可靠性。
目前，對于基礎(chǔ)技術(shù)日趨成熟的無人機(jī)領(lǐng)域來說，無人機(jī)系統(tǒng)的安全性還是一個(gè)欠缺關(guān)注的研究方向，然而，這一研究方向?qū)τ跓o人機(jī)未來發(fā)展而言至關(guān)重要。因而，朱曉蕊教授等人在這一方向上的研究頗具前瞻性，其工作成果也獨(dú)具開創(chuàng)性意義。雷鋒網(wǎng) AI 科技評論借此機(jī)會拜訪了朱曉蕊教授，深入探討了其開啟這項(xiàng)工作的背景、研究歷程以及對于無人機(jī)領(lǐng)域的一些思考。
朱曉蕊，教授、博士生導(dǎo)師，哈爾濱工業(yè)大學(xué)(深圳)，主要研究方向?yàn)橐苿訖C(jī)器人技術(shù)與系統(tǒng)。近年來作為負(fù)責(zé)人先后承擔(dān)國家重點(diǎn)研發(fā)計(jì)劃、國家科技支撐計(jì)劃、國家自然基金重點(diǎn)項(xiàng)目等多項(xiàng)國家級前沿課題，其中考古發(fā)掘現(xiàn)場預(yù)探測系統(tǒng)于 2012 年獲得國家科技進(jìn)步二等獎;有關(guān)移動機(jī)器人控制、定位和制圖等相關(guān)成果先后發(fā)表在國際頂級期刊和旗艦會議上。曾任深圳大疆科技首席科學(xué)家、創(chuàng)始董事；孵化知名激光雷達(dá)廠商深圳速騰聚創(chuàng)并任首席科學(xué)家、聯(lián)合創(chuàng)始人。 曾多次組織全球機(jī)器人領(lǐng)域的旗艦國際會議，并于 2012 年開始擔(dān)任 IEEE 國際機(jī)器人與自動化學(xué)會的產(chǎn)業(yè)活動委員會和會員活動委員會執(zhí)委；2014 年曾擔(dān)任被譽(yù)為國際機(jī)器人行業(yè)最高獎項(xiàng)的國際機(jī)器人發(fā)明與創(chuàng)業(yè)獎現(xiàn)場評委，同年被國際機(jī)器人與自動化學(xué)會選為國際事務(wù)委員會主席；2015 年在國際機(jī)器人旗艦會議 ICRA2015 上被評為 Notable Women in Robotics；2016 年與北京大學(xué)高文院士和香港中文大學(xué)（深圳）徐揚(yáng)生院士/校長共同發(fā)起全球人工智能與機(jī)器人峰會（GAIR）并任歷屆組委會主席、程序委員會主席。系統(tǒng)安全會成為無人機(jī)等小型智能系統(tǒng)未來的重要問題
實(shí)際上，在無人機(jī)系統(tǒng)安全這個(gè)項(xiàng)目之前，朱曉蕊教授的研究方向主要是無人機(jī)控制和導(dǎo)航，而之所以轉(zhuǎn)到無人機(jī)系統(tǒng)安全的研究則源自于她與耶魯大學(xué)邵中教授一次對話中受到的啟發(fā)：系統(tǒng)安全會成為無人機(jī)等小型智能系統(tǒng)未來的一個(gè)重要問題。
2014 年底，朱曉蕊教授在與來自耶魯大學(xué)的邵中教授進(jìn)行學(xué)術(shù)交流的過程中，了解到邵中教授一直在進(jìn)行安全操作系統(tǒng)方面的研究，并在這個(gè)領(lǐng)域處于國際最前沿。而當(dāng)時(shí)還在專注于無人機(jī)控制、導(dǎo)航研究的朱曉蕊教授，意識到她此前所做的這些研究工作實(shí)際上都已經(jīng)趨向成熟，正在思考無人機(jī)未來的研究方向，邵中教授的這一研究方向則帶給了她一個(gè)新的研究思路。朱曉蕊教授在采訪中分享到：「他正在做這項(xiàng)工作就提醒了我，無人機(jī)這類小型智能系統(tǒng)的安全問題，會成為未來一個(gè)比較重要的問題 」。
然而，當(dāng)時(shí)甚至是現(xiàn)在，無人機(jī)領(lǐng)域?qū)τ诎踩詥栴}的關(guān)注度都比較少。對此，朱曉蕊教授指出：「需要注意的一點(diǎn)是我們研究的基本上是小型飛行器，而小型飛行器和大型飛行器的區(qū)別是非常大的。光就安全性而言，大型飛行器很早就按照 Safety Critical System 啟用了標(biāo)準(zhǔn)度很高的 系統(tǒng)安全驗(yàn)證，雖然在安全驗(yàn)證方面的人力、物力的耗費(fèi)量都非常巨大，但是它們的一個(gè)小小的安全問題就可能帶來非常嚴(yán)重的后果，因而即便投入巨大，大家也不得不關(guān)注這一問題。然而對于小型飛行器的安全驗(yàn)證問題，目前領(lǐng)域內(nèi)國際上只有極少數(shù)研究者開始嘗試去做這些事情，因?yàn)檫@是一個(gè)全新的東西，一切都從新開始?！?/p>
正是基于上面的兩點(diǎn)考量，朱曉蕊教授決心要成為「第一批吃螃蟹的人」，與邵中教授開啟了無人機(jī)系統(tǒng)安全的研究項(xiàng)目。
「當(dāng)無人機(jī)這類智能系統(tǒng)進(jìn)入到民用領(lǐng)域后，就不可避免地走向小型化，就會在片上資源方面犧牲掉很多的性能，因此直接將大型飛行器的安全驗(yàn)證系統(tǒng)移植到小型飛行器上是不可行的，所以我們就需要設(shè)計(jì)一個(gè)新的軟件架構(gòu)，既保證小型飛行器理論驗(yàn)證消耗不會那么高，又能夠保障系統(tǒng)的安全性。傳統(tǒng)而言，新系統(tǒng)研發(fā)是通過反復(fù)地模擬和實(shí)際測試來確保系統(tǒng)可靠性和安全性的。但是這種方式從嚴(yán)格意義上是無法完全保證安全性的，會出現(xiàn)看似隨機(jī)的一些故障，甚至引起飛機(jī)墜毀現(xiàn)象。」
同時(shí)，為了促成雙方正式將無人機(jī)系統(tǒng)安全項(xiàng)目提上重要日程，朱曉蕊教授和邵中教授也特地正式申請了國際合作項(xiàng)目。
打開無人機(jī)底層操作系統(tǒng)和上層系統(tǒng)之間的「隔板」
按照朱曉蕊教授的說法，研究上層系統(tǒng)的人通常并不關(guān)注底層系統(tǒng)的細(xì)節(jié)，只在需要的時(shí)候直接使用底層系統(tǒng)，而反過來，研究操作系統(tǒng)的人往往也很少考慮上層系統(tǒng)的情況。因此，無人機(jī)等智能系統(tǒng)的上層系統(tǒng)和底層操作系統(tǒng)之間相當(dāng)于存在一塊「隔板」，二者間往往只存在最基本的互動。
「這樣的話，這兩個(gè)方向的研究者在進(jìn)行安全測試時(shí)，往往只測試各自系統(tǒng)內(nèi)的交互情況，然而這樣僅僅只能確保系統(tǒng)內(nèi)的安全性，而不能保證上層系統(tǒng)在跟底層操作系統(tǒng)做交互的時(shí)候不會出現(xiàn)問題。因此，我們合作這個(gè)項(xiàng)目的思路就是要將這兩個(gè)系統(tǒng)中間的這塊隔板打開，將二者作為一個(gè)整體來設(shè)計(jì)軟件架構(gòu)，從而完全保證無人機(jī)系統(tǒng)的安全性?！?/p>
對于這項(xiàng)工作成果在保障無人機(jī)整體安全性上的具體工作原理，朱曉蕊教授介紹道：「我們將所有算法形成的代碼設(shè)計(jì)成分層結(jié)構(gòu)，同時(shí)設(shè)計(jì)好層與層之間的交互架構(gòu)，然后使用形式化驗(yàn)證的方法去檢測層與層之間交互的正確性?！?/p>
形式化驗(yàn)證是采用邏輯來驗(yàn)證程序可靠性的一種方法，即用邏輯的方法將一段程序證明一遍，證明它能得到預(yù)期的結(jié)果并且沒有出現(xiàn)錯誤，例如，歐美國家就將這種驗(yàn)證方法廣泛地應(yīng)用于一些大型飛行器中，由于這些設(shè)備的系統(tǒng)一旦出現(xiàn)出現(xiàn)錯誤，導(dǎo)致的后果會非常嚴(yán)重，同時(shí)研究者又無法對其進(jìn)行一遍一遍的測試，因而形式化驗(yàn)證是可以選擇的非常不錯的方法。
因此，朱曉蕊教授項(xiàng)目組的這項(xiàng)研究成果不僅以實(shí)現(xiàn)上層系統(tǒng)和底層操作系統(tǒng)的層級式互動的方式來保障系統(tǒng)整體的安全性，更從邏輯層面避免了人為測試中所存在的偶然性，保障了安全性和可靠性。而同時(shí)從這兩個(gè)方面著手展開（小型）無人機(jī)系統(tǒng)安全測試工作的，朱曉蕊教授等人是首創(chuàng)者。
「道阻且長」的交叉學(xué)科合作之路
實(shí)際上，無人機(jī)系統(tǒng)安全這個(gè)合作項(xiàng)目在 2014 年底就啟動了，然而一直到現(xiàn)在才出成果，朱曉蕊教授表示背后的原因主要有兩點(diǎn)：
一是合作項(xiàng)目的人員投入以及相關(guān)人員的時(shí)間投入都非常緊缺。一般而言，朱曉蕊和邵中兩位教授每年大概各自投入 1 到 2 名研究生，再加上學(xué)生推進(jìn)相關(guān)研究工作的時(shí)間有限，因而整個(gè)研究的推進(jìn)節(jié)奏是比較慢的。
二是交叉學(xué)科之間對于彼此學(xué)科的理解難度以及研究理念上的差異?！高@也是我們在合作研究中遇到的一個(gè)比較大的挑戰(zhàn)，我和邵中老師以及我們各自的學(xué)生，研究方向其實(shí)是不同的，我們是典型的交叉研究領(lǐng)域，因此我這邊的學(xué)生需要去了解很多操作系統(tǒng)方面的東西，邵中老師的學(xué)生同樣也需要重新理解上層系統(tǒng)的相關(guān)知識，所以他們彼此都要花很多時(shí)間去學(xué)習(xí)這些知識，這中間其實(shí)也耗費(fèi)了非常多的時(shí)間?！?/p>
此外，朱曉蕊教授還提到了她這邊存在的一個(gè)比較嚴(yán)峻的問題，就是在現(xiàn)行的培養(yǎng)體制下，一方面是由于研究生培養(yǎng)年限比較短，另一方面則是因?yàn)閷W(xué)生對于新事物的熱情和好奇心也不夠，畏難心理比較明顯，因此她這邊參與項(xiàng)目的學(xué)生更替很快，這樣的話，輪到下一批加入的學(xué)生，他們又要去學(xué)習(xí)操作系統(tǒng)方面的知識，這就又需要耗費(fèi)一個(gè)周期的時(shí)間了。
談及至此，朱曉蕊教授也就目前國內(nèi)高校學(xué)生存在的一些問題提出了兩點(diǎn)自己的期望：
第一是增強(qiáng)自身對學(xué)術(shù)科研的熱愛和好奇心，減少學(xué)術(shù)功利性?！笇?shí)際上現(xiàn)在很多學(xué)生不是因?yàn)闊釔鄄湃プ隹蒲?，所以他們往往會以企業(yè)需要求職者擁有怎樣的技能為衡量標(biāo)準(zhǔn)來做項(xiàng)目，功利性比較強(qiáng)。這樣的心態(tài)一方面讓他們在遇到困難時(shí)就會產(chǎn)生畏難心理，另一方面他們一旦拿到比較好的 offer 就傾向于選擇去就業(yè)，這些因素都會導(dǎo)致他們無法進(jìn)行深度科研。」
第二是要有自己的獨(dú)立思考和判斷能力，不要盲目跟風(fēng)追熱點(diǎn)。「現(xiàn)在很多學(xué)生都在跟熱點(diǎn)做研究，我覺得最關(guān)鍵的原因是他們沒有判斷力，無法獨(dú)立思考目前領(lǐng)域發(fā)展中重要的方向，同時(shí)也缺乏對自己的判斷和思考，因此跟熱點(diǎn)是一種相對來說比較安全的方式。但是現(xiàn)在以及未來，整個(gè)社會的變化都非?？?，因此現(xiàn)在即便是熱點(diǎn)，過段時(shí)間說不定就冷掉了，而一些冷門的方向說不定到某個(gè)時(shí)間就發(fā)展起來了?！?/p>
也正是基于這種期望，朱曉蕊教授在日常教學(xué)中也始終堅(jiān)持引導(dǎo)學(xué)生樹立正確的研究思路：「所以我也一再地跟我的學(xué)生強(qiáng)調(diào)，我要教給他們的是一套系統(tǒng)的做科學(xué)研究的方法論，是怎樣從零或一個(gè) idea 開始做出一套有說服力的成果的方法，讓他們最終在畢業(yè)答辯的時(shí)候能夠自信地將自己做出來的這些成果講給別人聽，而不是說一定局限在課題所涉及的特定研究領(lǐng)域?！?/p>
下一步規(guī)劃：繼續(xù)完善方案、擴(kuò)充科研隊(duì)伍
對于無人機(jī)系統(tǒng)安全研究的這一版研究成果，朱曉蕊教授表示，目前還沒有達(dá)到最理想的狀態(tài)，因此下一步的規(guī)劃還是希望參與研究的學(xué)生能夠再花半年到一年左右的時(shí)間，實(shí)現(xiàn)該方案的最佳效果。
「下一步，我們會利用虛擬化技術(shù)來完善無人機(jī)系統(tǒng)安全方案，具體來說就是用虛擬化技術(shù)來將智能系統(tǒng)中對安全重要和對安全沒那么重要的部分隔開來，從而減少不必要的安全驗(yàn)證消耗 。以無人機(jī)為例，它其中的某些模塊對于安全來說至關(guān)重要，一旦出現(xiàn)問題，可能會直接導(dǎo)致無人機(jī)停止運(yùn)行（從空中掉下來）；而其中也有部分模塊對安全性而言不那么重要的，例如一些第三方程序，對于飛機(jī)整體的安全性不會造成太大影響，就不需要付出代價(jià)去證明這部分模塊的安全性。因此，大概再花一年左右的時(shí)間，整個(gè)安全方案就比較完整了?！?/p>
同時(shí)，朱曉蕊教授希望，這一系統(tǒng)安全性驗(yàn)證方案不要被局限于無人機(jī)。「它同樣可以給其他小型智能系統(tǒng)包括無人駕駛帶來很大的價(jià)值。實(shí)際上，這個(gè)方案如果應(yīng)用到無人駕駛這些場景中，實(shí)現(xiàn)原理其實(shí)還是一樣的，只不過需要針對這一套系統(tǒng)進(jìn)行修改和調(diào)整，因此說，我們實(shí)際上提出的是一套可以廣泛應(yīng)用的方法論?！?/p>
而對于目前每年只能各自投入 1 到 2 名學(xué)生的耶魯合作項(xiàng)目來說，人手同樣是一個(gè)亟需解決的問題，因此擴(kuò)充科研隊(duì)伍同樣也是下一步規(guī)劃中的重要內(nèi)容。
「本次之所以希望通過媒體來報(bào)道這項(xiàng)成果，主要也是有兩個(gè)訴求：第一個(gè)就是希望更多對這項(xiàng)研究感興趣的人能夠加入到我們的研究隊(duì)伍中來，從而更快地推進(jìn)項(xiàng)目進(jìn)度；第二個(gè)就是希望我們在無人機(jī)系統(tǒng)安全方面的這項(xiàng)研究成果能給相關(guān)領(lǐng)域研究者帶來一些啟發(fā)，啟發(fā)他們?nèi)ネ诰蝾I(lǐng)域內(nèi)目前還未受到較大關(guān)注但對未來而言至關(guān)重要的研究方向。」
對于無人機(jī)領(lǐng)域的一些思考
學(xué)界和業(yè)界應(yīng)該怎么分工？
朱曉蕊教授認(rèn)為，學(xué)界和業(yè)界由于各自的性質(zhì)以及承擔(dān)的社會責(zé)任不同，分工也不盡相同，如果二者能夠各司其職，形成一個(gè)非常良性、平衡的合作狀態(tài)，對于無人機(jī)以及整個(gè)人工智能領(lǐng)域的發(fā)展會大有裨益。
「對于學(xué)界而言，首先一定要做一些超前的事情，在一些業(yè)界乃至整個(gè)研究領(lǐng)域還沒有關(guān)注到的問題上，先要嘗試著去開展研究工作，所有的研究工作往往在獲得成功之前都要經(jīng)歷一個(gè)漫長的過程，所以，學(xué)界應(yīng)該充當(dāng)這個(gè)引路者的角色；其次，我認(rèn)為學(xué)界的價(jià)值是提出一些能夠?qū)I(yè)界具有啟發(fā)性意義的新的 idea，正如我之前所提到的，我們的研究實(shí)際上更像是提出了某一套具有普遍適應(yīng)性的新方法，業(yè)界可以借鑒，并在我們的新思路和新方法上進(jìn)行完善，從而最終與真正的應(yīng)用場景實(shí)現(xiàn)對接。
而對于業(yè)界來說，他們需要做的便是將學(xué)界提出的新方法、新成果落地到各個(gè)細(xì)分應(yīng)用場景中，并利用其豐富的人力、物力資源來推進(jìn)某項(xiàng)成果不斷完善和升華，最終對整個(gè)社會的實(shí)際發(fā)展負(fù)責(zé)?！?/p>
無人機(jī)領(lǐng)域的最終目標(biāo)為何？
對于目前無人機(jī)領(lǐng)域的整個(gè)發(fā)展情況，朱曉蕊教授還是比較有信心的，她認(rèn)為在技術(shù)層面，無人機(jī)的通用性已經(jīng)做得相對來說比較成熟的，接下來要著重解決的就是產(chǎn)業(yè)化落地的問題。
「目前就我看來，無人機(jī)領(lǐng)域在基礎(chǔ)技術(shù)方面都不錯，就差在細(xì)分行業(yè)中有針對性地應(yīng)用了。因?yàn)椴煌募?xì)分行業(yè)對于這些基礎(chǔ)技術(shù)都有特殊且具體的要求，因此我認(rèn)為這其中還有很多可以挖掘的東西。當(dāng)技術(shù)和市場、成本達(dá)到一個(gè)平衡的狀態(tài)時(shí)，無人機(jī)領(lǐng)域差不多就是一個(gè)比較理想的狀態(tài)了?！?/p>
?