智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
其他品牌
【中國智能制造網(wǎng) 智造快訊】隨著人工智能的發(fā)展，機器人正應用到更為廣泛的領域，并承擔了許多人類的決策職責，這引發(fā)了對于社會公平、倫理道德的高度關(guān)注。科技巨頭也認識到了人工智能可能帶來的道德風險，并成立了倫理委員會加強應對。
人工智能引發(fā)道德問題 科技巨頭成立倫理委員會
俗話說：權(quán)利越大，責任越大。人工智能技術(shù)正變得越來越強大，那些早開發(fā)和部署機器學習、人工智能的企業(yè)現(xiàn)在也開始公開討論其創(chuàng)造的智能機器給倫理道德帶來的挑戰(zhàn)。
在《麻省理工科技評論》的EmTech峰會上，微軟研究院的常務董事埃里克·霍維茨(Eric Horvitz)說：“我們正處于人工智能的轉(zhuǎn)折點，人工智能理應受到人類道德的約束和保護。”
霍維茨與來自IBM和谷歌的研究人員仔細討論了類似的問題。大家都很擔憂是，人工智能近取得的進步使其在某些方面上的表現(xiàn)超越了人類，例如醫(yī)療行業(yè)，這可能會某些崗位的人失去工作的機會。
IBM的研究員弗朗西斯卡·羅西(Francesca Rossi)舉了一個例子：當你要使用機器人去陪伴和幫助老年人的時候，機器人必須遵循相應的文化規(guī)范，即針對老人所處的特定文化背景執(zhí)行特定的任務。如果你分別在日本和美國部署這樣的機器人，它們將會有很大的差異。
雖然這些的機器人可能離我們的目標還很遙遠，但人工智能已經(jīng)帶來了倫理道德上的挑戰(zhàn)。隨著商業(yè)和政府越來越多地依靠人工智能系統(tǒng)做決策，技術(shù)上的盲點和偏見會很容易導致歧視現(xiàn)象的出現(xiàn)。
去年，一份ProPublica報告顯示，一些州使用的風險評分系統(tǒng)在通知刑事審判結(jié)果中對黑人存在偏見。同樣，霍維茨描述了一款由微軟提供的商用情緒識別系統(tǒng)，該系統(tǒng)在對小孩子的測試中表現(xiàn)很不準確，原因在于訓練該系統(tǒng)的數(shù)據(jù)集圖片很不恰當。
谷歌的研究員瑪雅·古帕(Maya Gupta)呼吁業(yè)界要更加努力地提出合理的開發(fā)流程，以確保用于訓練算法的數(shù)據(jù)公正、合理、不偏不倚。她說：“很多時候，數(shù)據(jù)集都是以某種自動化的方式生成的，這不是很合理，我們需要考慮更多因素以確保收集到的數(shù)據(jù)都是有用的。想想我們僅從少數(shù)群體中選樣，即使樣本足夠大，這就一定能確保我們得到的結(jié)果很準確嗎？”
去年一年，無論是在學術(shù)界還是在工業(yè)界，研究人員對機器學習和人工智能所帶來的倫理挑戰(zhàn)做了大量研究。加州大學伯克利分校、哈佛大學、劍橋大學、牛津大學和一些研究院都啟動了相關(guān)項目以應對人工智能對倫理和安全帶來的挑戰(zhàn)。2016年，亞馬遜，微軟，谷歌，IBM和Facebook聯(lián)合成立了一家非營利性的人工智能合作組織(Partnership on AI)以解決此問題(蘋果于2017年1月加入該組織)。
這些公司也正在各自采取相應的技術(shù)安全保障措施。古帕強調(diào)谷歌的研究人員正在測試如何糾正機器學習模型的偏差，如何保證模型避免產(chǎn)生偏見?；艟S茨描述了微軟內(nèi)部成立的人工智能倫理委員會(AETHER)，他們旨在考慮開發(fā)部署在公司云上的新決策算法。該委員會的成員目前全是微軟員工，但他們也希望外來人員加入以應對共同面臨的挑戰(zhàn)。Google也已經(jīng)成立了自己的人工智能倫理委員會。
實施了這些項目的公司大致認為它們不需要政府采取新形式來實現(xiàn)對人工智能的監(jiān)管。但是，在EmTech峰會上，霍維茨也鼓勵討論一些的結(jié)果，這可能會導致一些人得出相反結(jié)論。
在二月份，霍維茨組織了一場研討會，他們詳細地討論了人工智能可能帶來的危害，比如搞亂股票市場，干擾選舉結(jié)果?；艟S茨說：“如果你積極主動一點，你可能會想出人工智能將產(chǎn)生的某些不好的結(jié)果，并能夠提出相應的機制阻止它們的發(fā)生。”
這樣的討論似乎引發(fā)了其中一部分人的恐慌。古帕也因此鼓勵人們?nèi)タ紤]人類應該如何決策，使這個世界變得更加道德。
她說：“機器學習是可控制的，是的，是可用統(tǒng)計學來衡量的。并且，這里存在著很多讓社會變得更加公正、更加道德的可能性。”
原標：人工智能引發(fā)倫理問題，科技巨頭成立倫理委員會
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
