要點(diǎn):

1. 西北工業(yè)大學(xué)李學(xué)龍團(tuán)隊(duì)探索人工智能倫理計(jì)算，試圖建立倫理的定量計(jì)算框架，以解決技術(shù)倫理問題。

2. 人工智能倫理治理已引起廣泛關(guān)注，但倫理的抽象性使規(guī)范難以付諸實(shí)踐。

3. 人工智能倫理計(jì)算分為高階倫理認(rèn)知和低階倫理認(rèn)知兩種范式，旨在規(guī)范機(jī)器的倫理行為。

微新創(chuàng)想（idea2003.com）10月13日 消息:近年來，人工智能的普及已涵蓋醫(yī)療、教育等多個(gè)領(lǐng)域，引發(fā)了一系列技術(shù)倫理問題的緊迫討論。然而，倫理問題的抽象性導(dǎo)致了規(guī)范的困難，這是人工智能倫理治理的主要挑戰(zhàn)之一。

盡管全球已初步達(dá)成一些倫理共識(shí)，但如何確保智能系統(tǒng)做出公平、善意的決策，如何度量倫理表現(xiàn)，以及如何建立明確的倫理規(guī)范仍然是問題。為了應(yīng)對(duì)這一挑戰(zhàn)，西北工業(yè)大學(xué)李學(xué)龍團(tuán)隊(duì)提出了人工智能倫理計(jì)算的概念，將其劃分為高階倫理認(rèn)知和低階倫理認(rèn)知兩種計(jì)算范式。

論文地址：https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076

高階倫理認(rèn)知旨在構(gòu)建倫理推理模塊，使機(jī)器能夠模仿人類的道德決策機(jī)制。這對(duì)于處理復(fù)雜的倫理困境，如自動(dòng)駕駛決策，提供了一種方法。然而，這一方法也面臨復(fù)雜的人類倫理決策動(dòng)機(jī)和解釋性的挑戰(zhàn)。

低階倫理認(rèn)知關(guān)注于建立倫理度量方法，無(wú)需深入理解倫理機(jī)制，通過量化倫理概念來約束機(jī)器行為。這在公平機(jī)器學(xué)習(xí)等領(lǐng)域具有重要應(yīng)用，但度量指標(biāo)的明確定義和適用范圍仍然需要解決。

總之，人工智能倫理計(jì)算旨在通過定量方法規(guī)范機(jī)器的倫理行為，無(wú)論是高自主性系統(tǒng)還是低自主性系統(tǒng)，都可以從中受益。這一方法有望成為突破人工智能倫理治理困境的關(guān)鍵，為確保智能系統(tǒng)更好地服務(wù)人類提供了重要工具。