本文為近日召開的CoRL 2017大會上，MIT TR 35得主、UC Berkeley助理教授 Anca Dragan 所做的演講整理，雷鋒網(wǎng)作為受邀媒體參加了CoRL大會，并與Anca Dragan進(jìn)行了交流。在雷鋒網(wǎng)將于1月舉辦的GAIR硅谷智能駕駛峰會上，Anca Dragan也將出席并發(fā)表演講。

Anca Dragan現(xiàn)任UC Berkeley的電子工程與計算機(jī)科學(xué)助理教授及InterACT實驗室主任。為了令機(jī)器人更好地協(xié)同人類工作，Anca Dragan帶領(lǐng)InterACT實驗室開始專注于人機(jī)交互算法的研究，試圖將復(fù)雜或模糊的人類行為轉(zhuǎn)化為機(jī)器人能理解的簡易數(shù)學(xué)模型，通過建立博弈理論和動力系統(tǒng)理論，聚焦于發(fā)現(xiàn)或?qū)W習(xí)人類行為模型，并計算連續(xù)狀態(tài)和行動空間。

MIT科技評論給她評的獎項為“遠(yuǎn)見者”，稱“她致力于確保機(jī)器人與人類可以和諧地共同生活”。在獲獎報道中，Anca Dragan表示：

當(dāng)人們試圖與機(jī)器人共事時，許多沖突都來自于雙方對彼此的不了解，如果機(jī)器人能夠理解它可能對人類情緒造成的影響，就有望解決這一問題。

Anca Dragan認(rèn)為，機(jī)器人與人工智能的正確觀點應(yīng)該是機(jī)器人試圖優(yōu)化人的目標(biāo)函數(shù)。機(jī)器人不應(yīng)該將任何客觀的功能視為理所當(dāng)然，而應(yīng)該與人類一起去發(fā)現(xiàn)他們真正想要的是什么。該研究在短期之內(nèi)最重要的應(yīng)用莫過于幫助自動駕駛汽車與傳統(tǒng)汽車預(yù)判對方可能的行為，而在演講中，Anca Dragan也多次提到了這一點。以下即為雷鋒網(wǎng)整理的演講內(nèi)容摘要：

Anca Dragan的PPT題目為《人類進(jìn)入機(jī)器人方程》。在傳統(tǒng)的機(jī)器人路徑規(guī)劃問題中，機(jī)器人通常將人類視為和其他不能移動的物體一樣的避障目標(biāo)，而Anca希望將人類作為機(jī)器人決策的一個“變量”實現(xiàn)和人類的最優(yōu)交互。

最簡單的狀態(tài)，只有機(jī)器人和交互的物體，則機(jī)器人的效用函數(shù)為U_R，該效用函數(shù)包含的變量包括初始狀態(tài)x₀以及運動軌跡u_R。

但現(xiàn)實中，機(jī)器人需要和三類不同的人打交道：在運行環(huán)境中的其他人、其使用者，以及其設(shè)計者。

出于安全的考慮，以往通常將人視為機(jī)器人行動和路線規(guī)劃中需要避讓的“障礙物”；

但在人類交互當(dāng)中往往存在某種博弈行為，如這個超車變道的例子，黑色小車意圖超車，但銀色卡車寸步不讓。如果我們與他人的交互都像這個司機(jī)一樣，則會造成許多沖突，但無人駕駛車不會像小汽車司機(jī)這樣做，他們會感知到這里可能沒有足夠的超車空間，會選擇減速在卡車后變道；

如果我們將人視為需要規(guī)避的障礙物進(jìn)行建模，那意味著我們將人類視為這個例子中不會改變主意的卡車司機(jī)一樣進(jìn)行建模。

另一個Google Car無法順利通過四面都有停車標(biāo)志的十字路口的例子。在這個例子中，傳感器會一直探測到有人類司機(jī)并進(jìn)行避讓，而人類司機(jī)可以通過一寸一寸向前挪動讓Google無法行動。

漫畫：“你先走還是我先走？”在圖中，無人車讓人類先走，但行人并不打算走而是揮舞手臂，則會讓無人車?yán)Щ蟆?

機(jī)器人與人類的互動。此時機(jī)器人的效用函數(shù)U_R包含三個變量：初始狀態(tài)x_0、機(jī)器人運動軌跡u_R以及人類運動軌跡u_H，此時人類的效用函數(shù)U_H也包含三個變量：初始狀態(tài)x₀、人類運動軌跡u_H以及覺察到有機(jī)器人后的隱形影響因子θ_H；

我們現(xiàn)在在做的研究：人并不是障礙，而是將其視為需要通過自己效用函數(shù)進(jìn)行優(yōu)化的智能體，但我們并不知道其效用函數(shù)，參數(shù)是隱藏的；機(jī)器通過人的動作估計隱藏狀態(tài)，估計其下一步行為，如果機(jī)器人對人的下一步動作有估計，那么機(jī)器人會將其加入到自己的效用函數(shù)中：如果這件事情發(fā)生，我應(yīng)該怎么做才是最好的選擇。

Anca 6年前做的研究，與人類內(nèi)部狀態(tài)的相互作用，機(jī)器預(yù)測我要做什么，并幫我更好實現(xiàn)目標(biāo)。

以及最近的Paper。

當(dāng)人類也考慮機(jī)器人的行為來調(diào)整自己的行為時，其效用函數(shù)U_H變?yōu)樗膫€變量：初始狀態(tài)x₀、人類運動軌跡u_H、機(jī)器人運動軌跡U_R及覺察到有機(jī)器人后的隱形影響因子θ_H。有不少證據(jù)表明人們實際上并不一定去在博弈中實現(xiàn)均衡，因為人類是通過計算達(dá)到平衡的。

我們?nèi)绾握f明機(jī)器人對人類行為的影響？

例如，在這個軌道車的例子中，你的效用函數(shù)和你如何動操作桿有關(guān)；

再看一個無人車與人類司機(jī)交互的例子。上圖中的橙色汽車是無人駕駛車，U_R是無人駕駛車軌跡，U_H是人類駕駛軌跡，如果我們考慮的是在特定的U_R下，U_H應(yīng)該如何達(dá)到最優(yōu)，這樣人類可以更好地響應(yīng)機(jī)器人的行為。

在這個例子中，這是一個保證效率和安全的博弈。人類的參數(shù)是隱藏的，我們通過反向優(yōu)化控制來猜測這些數(shù)據(jù)，機(jī)器人收集這些展示人們將如何與機(jī)器人互動的數(shù)據(jù)，設(shè)置一個最大似然觀察，然后機(jī)器人去解決這個嵌套優(yōu)化問題，即當(dāng)人不可避免地受到我所做的事情的影響時，我該怎么做才能最大限度地將我的效用最大化？最終會達(dá)到人和機(jī)器人的和諧協(xié)作。

接下來Anca展示了一些簡化后的例子。如果將人類車輛當(dāng)做一個需要避障的目標(biāo)并推斷其行為，無人車通常在人類車輛后變道。在少數(shù)情況下，人類車輛之前有充足的空間的時候，無人車會超車變道，因為在這個嵌套優(yōu)化中，機(jī)器人知道，如果它按這一方式超車變道，那么人的反應(yīng)就是放慢速度，讓無人車進(jìn)入。

在這一模式中，機(jī)器人不再處于被動狀態(tài)，而是更好地和人進(jìn)行互動。Anca稱她最喜歡的一個例子是，仍然是四面停止標(biāo)志的十字路口，當(dāng)處于僵持、沒有乘客的無人車（橙色）需要表示“你先走”的時候，無人車會稍稍后退，在這個路口中，人類司機(jī)同樣在進(jìn)行效率和安全的博弈，而當(dāng)無人車后退的時候，車輛相撞的幾率變小，此時人類司機(jī)就會通過路口，達(dá)到人類車輛效用函數(shù)的最大化。這是一個無人車影響人類效用函數(shù)的例子，同時也是很令人驚異的發(fā)現(xiàn)，因為人類司機(jī)從不會通過后退表示讓對方先走。

同樣在這個漫畫的例子中，無人車也可以通過稍稍后退讓行人先走打破僵局。

三種模型下，真實用戶不同反應(yīng)的影響。

這一模型仍然存在某些局限性，如效用局限于已知的Feature的線性組合，假設(shè)感知問題已經(jīng)得到解決，對車輛運行進(jìn)行了簡化，等等。