我國科學(xué)家牽頭進行的一項研究,，在讓人工智能快速識別人類的價值意圖方面取得突破,，可在復(fù)雜任務(wù)中提高人機協(xié)作的效率。研究成果日前已由國際學(xué)術(shù)期刊《科學(xué)·機器人學(xué)》在線發(fā)表,。

  該研究由北京通用人工智能研究院教授朱松純帶領(lǐng)的團隊完成,。研究團隊提出了一種人機雙向價值對齊的合作框架，并展示了機器人如何與人類用戶通過實時溝通完成一系列復(fù)雜的人機協(xié)作任務(wù),。

  科學(xué)家一直試圖讓人工智能學(xué)習(xí)人類的認知推理能力,，進而學(xué)習(xí)理解人類的意圖，并執(zhí)行人類真正在意的價值需求,。但目前廣泛應(yīng)用的人工智能系統(tǒng),，往往只能機械地按照人類給定的任務(wù)行事。

  “如果一個任務(wù)的目標可以被清晰地描述出來,，那么讓人工智能理解任務(wù)背后的價值需求并不困難,。”論文共同作者,、北京通用人工智能研究院研究員鄭子隆表示,，然而生活中充滿大量很難定義目標的任務(wù)。例如,，一杯咖啡在不同人心中意味著不同的飲料,，當人類用戶跟人工智能說“我要一杯咖啡”時，需要人工智能搞清楚究竟要的是什么咖啡,，也就是與人類“對齊價值”,。

  據(jù)介紹，研究團隊提出了一個基于即時雙向價值對齊模型的可解釋人工智能系統(tǒng),。在該系統(tǒng)中,，一組機器人通過與人類的實時溝通來快速推斷人類用戶的價值目標，同時通過“解釋”將其決策過程傳達給用戶,，讓用戶了解機器人做出判斷的價值依據(jù),。此外，該系統(tǒng)通過推測人類用戶的內(nèi)在價值偏好,，生成更容易理解的解釋,。

  北京通用人工智能研究院是北京市政府,、科技部支持共建的一所非營利性新型研發(fā)機構(gòu)，由北京大學(xué),、清華大學(xué)等單位合作支撐,。