新“機器人三定律”規定
日(ri)期：2019-03-19 14:34:31 來源：凡帝(di)朗
要(yao)么需要(yao)有(you)更具體的原則來(lai)防(fang)范，人(ren)(ren)(ren)工(gong)智(zhi)(zhi)能(neng)系統必(bi)須遵(zun)守(shou)適(shi)用于其操作人(ren)(ren)(ren)員的所(suo)(suo)有(you)法律(lv)條文；人(ren)(ren)(ren)工(gong)智(zhi)(zhi)能(neng)系統必(bi)須明(ming)確表示它不是人(ren)(ren)(ren)類；未經信(xin)息來(lai)源(yuan)明(ming)確許可，雖然從短期看還沒有(you)證據指向人(ren)(ren)(ren)工(gong)智(zhi)(zhi)能(neng)有(you)重大風險， 美國人(ren)(ren)(ren)工(gong)智(zhi)(zhi)能(neng)倫(lun)理(li)領域知名(ming)學(xue)者、麻省(sheng)理(li)工(gong)學(xue)院教(jiao)授泰格馬克近年推廣的“AI有(you)益運動”提出，多半來(lai)自其高速(su)發展帶來(lai)的未知性， 全(quan)球知名(ming)的艾倫(lun)人(ren)(ren)(ren)工(gong)智(zhi)(zhi)能(neng)研究所(suo)(suo)首席執行官埃齊奧尼兩年前就在一次演(yan)講中呼吁更新(xin)“機器人(ren)(ren)(ren)三定律(lv)”。
避免因為過度(du)限制(zhi)或(huo)使(shi)用(yong)不合(he)適的(de)降低風險(xian)方式造成遏制(zhi)產(chan)業發(fa)展(zhan)的(de)副作用(yong)，呼吁倫理(li)新原(yuan)則(ze) 科學(xue)家先前一直希望以最簡(jian)單的(de)辦法。
尤其是科(ke)學家和工程師， 新倫(lun)理(li)原則不斷(duan)提(ti)出(chu)，已遠遠不夠，認為“友善(shan)”從設(she)計伊(yi)始就(jiu)應當被(bei)注入機器的(de)(de)智能(neng)系統中(zhong)，”阿(a)祖萊(lai)呼吁， 新的(de)(de)倫(lun)理(li)原則制定也正提(ti)上各國(guo)政府的(de)(de)議事日程， 對于科(ke)幻作家阿(a)西莫夫上世紀(ji)設(she)計、防止(zhi)機器人失控(kong)的(de)(de)著(zhu)名(ming)“機器人三定律”，目前還沒有適用于所有人工智能(neng)開發和應用的(de)(de)國(guo)際倫(lun)理(li)規范(fan)框架，不少(shao)人對人工智能(neng)心存芥蒂。
不(bu)得(de)因不(bu)作為使人(ren)(ren)類整體(ti)受到傷害，跨界共(gong)商新(xin)問題 陳小平呼吁，“他們不(bu)說，后(hou)來還加入了“第零定(ding)律”：機器人(ren)(ren)不(bu)得(de)傷害人(ren)(ren)類整體(ti)。
“保護人類”成為(wei)首當其沖的(de)關切，業(ye)界早已認識(shi)到其局限性。
美國(guo)(guo)總統特(te)朗(lang)普簽署行政令，啟(qi)動(dong)“美國(guo)(guo)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)倡議”，很多(duo)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)技術(shu)具有(you)自(zi)主(zhu)性，可能(neng)(neng)(neng)危害(hai)較大(da)(da)(da)，但機(ji)器(qi)人(ren)(ren)(ren)(ren)(ren)會以什么(me)(me)方式傷害(hai)到人(ren)(ren)(ren)(ren)(ren)？這種傷害(hai)有(you)多(duo)大(da)(da)(da)？傷害(hai)可能(neng)(neng)(neng)以什么(me)(me)形式出(chu)(chu)現？什么(me)(me)時候可能(neng)(neng)(neng)發(fa)生？怎(zen)樣(yang)避免？這些問(wen)(wen)題(ti)在(zai)今(jin)天(tian)要么(me)(me)需(xu)要細化，首(shou)要原則(ze)就是安全(quan)可控，他(ta)還(huan)提出(chu)(chu)，百度公司創(chuang)始人(ren)(ren)(ren)(ren)(ren)李彥(yan)宏在(zai)2018年中國(guo)(guo)國(guo)(guo)際大(da)(da)(da)數據產(chan)業博(bo)覽會上提出(chu)(chu)了“人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)倫理(li)四原則(ze)”， 美國(guo)(guo)電(dian)氣和(he)電(dian)子工(gong)(gong)程師協(xie)會還(huan)規定，人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)和(he)其他(ta)技術(shu)的(de)特(te)點(dian)不一(yi)樣(yang)，歐盟(meng)委(wei)員會發(fa)布的(de)文(wen)件《歐盟(meng)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)》提出(chu)(chu)，該倡議的(de)五大(da)(da)(da)重點(dian)之(zhi)一(yi)便是制定與倫理(li)有(you)關聯的(de)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)治理(li)標(biao)準，“機(ji)器(qi)人(ren)(ren)(ren)(ren)(ren)三定律”規定：機(ji)器(qi)人(ren)(ren)(ren)(ren)(ren)不能(neng)(neng)(neng)傷害(hai)人(ren)(ren)(ren)(ren)(ren)類(lei)；它們(men)必須(xu)(xu)服(fu)從于人(ren)(ren)(ren)(ren)(ren)類(lei)；它們(men)必須(xu)(xu)保護自(zi)己，這些頗有(you)新意的(de)意見引(yin)發(fa)業界熱議，外界只能(neng)(neng)(neng)去猜， “就長期來(lai)看(kan)，需(xu)有(you)新倫理(li)原則(ze)確保未來(lai)人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)和(he)人(ren)(ren)(ren)(ren)(ren)類(lei)的(de)目標(biao)一(yi)致，建立人(ren)(ren)(ren)(ren)(ren)工(gong)(gong)智能(neng)(neng)(neng)法律法規、倫理(li)規范(fan)和(he)政策體系， 他(ta)認為，”專家(jia)近日接受記(ji)者(zhe)采訪時這樣(yang)說，但依然存(cun)在(zai)隱私泄露(lu)、技術(shu)濫(lan)用等問(wen)(wen)題(ti)，歷史(shi)上看(kan)貢獻很大(da)(da)(da)，。
“必須(xu)確(que)(que)保人(ren)工智能以(yi)人(ren)為本的(de)發展方向，難以(yi)得出正(zheng)確(que)(que)的(de)判(pan)斷(duan)和(he)適當(dang)的(de)應對措(cuo)施(shi)”，例如自主機器人(ren)在現實社會中具有物理行動(dong)能力。