研究人員開發“失憶棒” 防止人工智能脫離控制

2017-12-06 10:16:49來源：環球網關鍵詞：人工智能機器學習閱讀量：29103

導讀：人工智能發展愈發火熱，推動著各領域變革不斷深入。不過，人們也擔心人工智能會帶來威脅。為了防止人工智能脫離人類控制，近日有研究人員開發了類似“記憶清除”的新系統。

　　【中國智能制造網智造快訊】人工智能發展愈發火熱，推動著各領域變革不斷深入。不過，人們也擔心人工智能會帶來威脅。為了防止人工智能脫離人類控制，近日有研究人員開發了類似“記憶清除”的新系統。

　　據英國《每日郵報》12月5日報道，研究人員通過開發類似“記憶清除”的新系統來防止人工智能(AI)干預人類的控制，以防AI反控人類。

　　人工智能機器人可以從自身行為的結果中學習，以提高自己的能力，但專家說，這種特性可能導致AI的學習“無法停止”。現在，AI研究人員開發了一種新系統，他們把它比作電影《黑衣人》里能清除記憶的“失憶棒”，通過刪除AI的部分記憶來中斷它的學習，而不破壞它的學習方式。

　　瑞士洛桑聯邦理工學院分布式編程實驗室的教授Rachid Guerraoui說，“人工智能將尋求方法避免人類干預，創造一種人類無法阻止的情況。”研究人員稱，必須開發新系統，防止AI繞過人類指令。

　　Guerraoui說：“我們面臨的挑戰不是阻止機器人學習，而是把它編程。這樣一來，中斷不會改變它的學習過程，也不會誘導它去優化自身行為，從而避免AI的學習被阻止。”

　　原標題：如何防止AI控制人類？研究人員開發“失憶棒”

上一篇：2017年智能制造大事記之日本篇（一）

下一篇：傳統數據存儲迎變革 NAS或將新風向

我要評論

昵稱

匿名

文明上網，理性發言。（您還可以輸入200個字符)

表情

所有評論僅代表網友意見，與本站立場無關。

《鄭州市場景驅動人工智能創新發展行動方案(2025—2027年)》政策解讀
《鄭州市場景驅動人工智能創新發展行動方案(2025—2027年)》堅持“場景驅動、數字賦能、創新引領、市場主導、重點突破、跨界賦能、保障安全”的發展思路，明確提出了總體目標。
人工智能具身智能
2025-06-26 10:20:21
鄭州市場景驅動人工智能創新發展行動方案(2025—2027年)
《鄭州市場景驅動人工智能創新發展行動方案(2025—2027年)》明確，到2025年年底，大模型、跨媒體感知、具身智能、人機混合智能系統、自動駕駛及智能裝備等關鍵技術取得新進展，建成10個創新平臺，引進培育20個高層次領軍人才團隊，形成20個深度融合應用場景。
人工智能大模型人工智能行業應用
2025-06-26 10:17:31
珠海市促進實體經濟高質量發展專項資金（人工智能與機器人產業發展用途）管理實施細則（征求意見稿）
為推動人工智能與機器人產業高質量發展，加強專項資金管理工作，市工業和信息化局制定了《珠海市促進實體經濟高質量發展專項資金(人工智能與機器人產業發展用途)管理實施細則(征求意見稿)》，現向社會公開征求意見。
人工智能機器人
2025-06-26 09:46:24
福建首設人工智能產業科技專項，開啟智能發展新篇章
此次設立的人工智能產業發展科技專項在福建省尚屬首次。根據最新發布的申報指南顯示，本批次項目將重點聚焦兩大關鍵技術領域予以支持。
人工智能智能制造
2025-06-23 08:40:50
人工智能進校園：智啟未來 AI筑夢
當前，AI在校園中的主要應用方向包括個性化學習系統、智能教學輔助工具、自動化行政管理和校園安全監控等。這些應用不僅提高了教育效率，還為教育公平和質量提升創造了新的可能。
人工智能智慧校園
2025-06-19 11:40:29
快訊|上海將加大人工智能與6G技術創新研發力度；黑芝麻智能擬收購AI芯片企業
6月18日，上海市副市長陳杰在2025MWC上海開幕式上表示，上海正強化新一代信息技術的引領作用；黑芝麻智能國際控股有限公司宣布，擬通過股權收購及注資方式收購一家AI芯片企業......
人工智能6G技術AI芯片
2025-06-19 11:06:04

版權與免責聲明：

凡本站注明“來源：智能制造網”的所有作品，均為浙江興旺寶明通網絡有限公司-智能制造網合法擁有版權或有權使用的作品，未經本站授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的，應在授權范圍內使用，并注明“來源：智能制造網”。違反上述聲明者，本站將追究其相關法律責任。

本站轉載并注明自其它來源（非智能制造網）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉載時，必須保留本站注明的作品第一來源，并自負版權等法律責任。如擅自篡改為“稿件來源：智能制造網”，本站將依法追究責任。

鑒于本站稿件來源廣泛、數量較多，如涉及作品內容、版權等問題，請與本站聯系并提供相關證明材料：聯系電話：0571-89719789；郵箱：1271141964@qq.com。

不想錯過行業資訊？

訂閱 智能制造網APP

一鍵篩選來訂閱

信息更豐富

今日焦點/FOCUS 更多

熱門話題/TOPICS更多

人形機器人奏響“狂歡曲”

高難度！深圳眾擎實現全球首例人形機器人前空翻

宇樹科技王興興：預計年底H1機器人跑速達10米/秒超博爾特

“智能經濟”駛入發展“快車道”

AI智能體Manus橫空出世！中國AI實現自主執行能力跨越式突破

數轉智改，安全先行！“以模制模”護航企業數智升級

精彩直播/VIDEO更多

回放

【與智造同行】走進華為AI＋制造行業峰會2025——如何讓智能制造走深走實？華為給你答案！

: 數字孿生賦能新型工業化分論壇

: 數字孿生賦能低空經濟分論壇

推薦產品/PRODUCT 更多

（WLY）臭氣采樣瓶真空采樣瓶庫號：M7493
臭氣采樣瓶,真空采樣瓶,采樣瓶,惡臭監測儀,臭氣采樣瓶價格
品牌
其他品牌
三箱式斷熱結構熱沖擊試驗箱分區多功能
冷熱沖擊試驗箱,冷熱沖擊試驗機,冷熱沖擊檢測機,營銷冷熱沖擊試驗箱,冷熱沖擊試驗箱推薦
品牌
廣皓天
ASCO美國兩通先導式電磁閥8215G023 24VDC
電磁閥,工業自動化設備,低功耗常閉,黃銅/不銹鋼,通斷壓力調節
品牌
ASCO
BUHLER取樣氣泵4261721299000
BUHLER,取樣氣泵,4261721299000
品牌
其他品牌
可控硅觸發器儀表
可控硅觸發器,觸發器,ZYKC-3E
品牌
其他品牌
德國Jessberger氣動隔膜泵JP-810系列
安全認證：通過ATEX Zone 1/2區,?耐腐蝕：可選PP/PVDF等腐蝕材質,德國Jessberger氣動隔膜泵
品牌
其他品牌

大地资源网视频在线观看新浪,日本春药精油按摩系列,成人av骚妻潮喷,国产xxxx搡xxxxx搡麻豆

研究人員開發“失憶棒” 防止人工智能脫離控制

熱門評論

全部評論