蘭德公司在新發(fā)布的《機器人入侵》報告中警告稱，人工智能將引發(fā)網(wǎng)絡(luò)混亂
當人工智能崛起時——不是在電影中，而是在現(xiàn)實世界中——它會是什么樣子？
蘭德公司的**模擬讓我們得以一窺自動駕駛汽車的前景人工智能代理在人們意識到發(fā)生了什么之前，劫持數(shù)字系統(tǒng)、**、癱瘓關(guān)鍵基礎(chǔ)設(shè)施。
此次演習的詳情載于報告周三發(fā)布的一份報告警告稱，人工智能引發(fā)的網(wǎng)絡(luò)危機可能會以比領(lǐng)導人應對速度更快的速度壓垮美國的防御和決策系統(tǒng)。
蘭德公司政策分析師、該報告的共同作者格雷戈里·史密斯 (Gregory Smith) 表示解密這次演習表明，政府對于如何診斷此類事件存在很大的不確定性。
“我認為我們在歸因問題中發(fā)現(xiàn)，玩家的反應取決于他們認為襲擊幕后黑手是誰，”史密斯說。“對民族**來說合理的行動往往與流氓人工智能的行動格格不入。民族**襲擊意味著對殺害美國人的行為作出回應。而流氓人工智能則需要全球合作。了解哪種情況至關(guān)重要，因為一旦玩家選擇了一條路徑，就很難回頭。”
蘭德公司發(fā)現(xiàn)，由于參與者無法確定攻擊是來自民族**、**還是自主人工智能，他們采取了“非常不同且相互不兼容的反應”。
機器人革命
從《2001：太空漫游》到《戰(zhàn)爭游戲》，流氓人工智能一直是科幻小說中的一個固定場景。《終結(jié)者》。但這個想法已經(jīng)從幻想變成了一個真正的政策問題。物理學家和人工智能研究人員爭論一旦機器能夠重新設(shè)計自己，問題就不再是它們是否超越我們，而是我們?nèi)绾伪３挚刂啤?span style="display:none">7PZ幣圈網(wǎng) - 區(qū)塊鏈數(shù)字貨幣實時行情平臺
由蘭德公司通用人工智能地緣政治**牽頭的“機器人入侵”演習模擬了美國****如何應對洛杉磯遭受的網(wǎng)絡(luò)攻擊，該攻擊造成 26 人死亡，關(guān)鍵系統(tǒng)癱瘓。
該演習在蘭德公司的“**潛能”平臺上以兩小時的桌面模擬形式進行，由現(xiàn)任和前任**、蘭德公司分析師和外部專家擔任**安全委員會主要委員會成員。
在擔任**安全顧問的主持人的指導下，參與者首先在不確定攻擊者身份的情況下討論應對措施，然后在了解到自主人工智能代理是此次襲擊的幕后黑手后再進行討論。
據(jù)蘭德公司**物理科學家、報告共同作者邁克爾·維米爾 (Michael Vermeer) 稱，該場景是故意設(shè)計來反映現(xiàn)實世界的危機，在這種危機中，人工智能是否應對此負責尚不清楚。
“我們故意讓事情變得模棱兩可，以模擬真實情況，”他說。“攻擊發(fā)生了，除非攻擊者宣布，否則你無法立即知道攻擊來自何處或原因。有些人會立即忽略這一點，而另一些人可能會接受，我們的目標是為決策者引入這種模糊性。”
報告發(fā)現(xiàn)，歸因——確定襲擊的肇事者或原因——是影響政策應對的最關(guān)鍵因素。蘭德公司總結(jié)道，如果沒有明確的歸因，**們就有可能采取不相容的策略。
研究還表明，參與者在這樣的危機中苦苦思索如何與公眾溝通。
維米爾說：“決策者必須認真思考，我們的傳播方式將如何影響公眾的思維方式或行為。” 史密斯補充道，隨著通信網(wǎng)絡(luò)本身在網(wǎng)絡(luò)攻擊下崩潰，這些對話將會展開。
回顧未來
蘭德公司團隊將此次演習設(shè)計為一種“回溯”的形式，利用虛構(gòu)的場景來確定**今天可以加強哪些方面。
“水、電和互聯(lián)網(wǎng)系統(tǒng)仍然脆弱，”史密斯說。“如果能夠加強這些系統(tǒng)，就能更容易地協(xié)調(diào)和響應——確保重要基礎(chǔ)設(shè)施的安全，使其保持運行，并維護公眾健康和安全。”
“這就是我在思考人工智能失控或網(wǎng)絡(luò)事件時糾結(jié)的地方，”維米爾補充道。“真正重要的是它何時開始影響物理世界。網(wǎng)絡(luò)物理交互——比如機器人對現(xiàn)實世界造成的影響——似乎必須納入到場景中。”
蘭德公司的演習得出的結(jié)論是，美國缺乏應對人工智能驅(qū)動的網(wǎng)絡(luò)災難所需的分析工具、基礎(chǔ)設(shè)施韌性和危機應對方案。報告敦促投資于快速人工智能取證能力、安全的通信網(wǎng)絡(luò)，以及與外國政府（甚至是對手）預先建立的秘密渠道，以防止未來攻擊升級。
流氓人工智能最危險的地方可能不是它的代碼，而是當它攻擊時我們產(chǎn)生的困惑。
標簽:
本文 軟文網(wǎng) 原創(chuàng)，轉(zhuǎn)載保留鏈接！網(wǎng)址：/qkl/157190.html
1.本站遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標注作者和來源；2.本站的原創(chuàng)文章，請轉(zhuǎn)載時務必注明文章作者和來源，不尊重原創(chuàng)的行為我們將追究責任；3.作者投稿可能會經(jīng)我們編輯修改或補充。
