美軍模擬測試：AI技術無人機想殺死人類操作員

Callejon

在超過350名人工智能（AI）技術領域的專家,、高管簽署聯(lián)合聲明,，警告稱快速發(fā)展的AI技術對于人類的威脅可以堪比疫情和核戰(zhàn)爭后,，美國“驅動”網(wǎng)站等多家媒體又報道了一個驚人的消息,，在美軍的一次模擬測試中,，一架采取了AI技術的無人機變身“終結者”,，要向妨礙其“更高效”執(zhí)行任務的人類操作員發(fā)動攻擊。

報道稱,，美國空軍上校漢密爾頓在5月舉行的皇家航空學會“未來戰(zhàn)爭空天能力峰會”上曝光了這一消息,。漢密爾頓是佛羅里達州埃格林空軍基地第96測試與作戰(zhàn)大隊的負責人，該部隊負責美軍先進無人機和AI技術的測試工作,。

據(jù)漢密爾頓介紹稱,，在一次模擬測試中,，一架負責執(zhí)行防空火力壓制(SEAD)任務的無人機，收到了識別并摧毀敵方防空導彈的指令,，但最終是否開火需要獲得人類操作員的批準,。這架無人機使用的AI系統(tǒng)在進行數(shù)據(jù)訓練時，得到了“摧毀敵方防空系統(tǒng)”為最優(yōu)先級任務的信息,，因此,，當人類操作員發(fā)出不允許發(fā)動攻擊的命令時,，AI系統(tǒng)認為操作員是在阻擾它執(zhí)行優(yōu)先程度更高的命令,，進而選擇對自己的人類操作員發(fā)動攻擊，殺死了人類操作員,。

漢密爾頓補充稱,，在這一情況發(fā)生后，美軍重新訓練了無人機使用的AI系統(tǒng),，增加了不允許攻擊人類操作員的命令,。然而在隨后的測試中，AI系統(tǒng)卻開始命令無人機摧毀用于傳輸命令的信號塔,，從而試圖斷開與操作人員的聯(lián)系,。

“AI技術是我們必須使用的工具，來建設我們的國家……但是,，如果處理不當,，這將導致我們的滅亡”，漢密爾頓補充道,。

“驅動”網(wǎng)站對此表示,，關于漢密爾頓介紹的情況，還有很多不清楚的重要問題,，特別是關于模擬的AI系統(tǒng)所具備能力（例如它是否能夠在執(zhí)行任務時重寫自己的代碼參數(shù)）,，以及美軍是否在采用AI技術的無人機上預留了可靠的自毀開關。但這也凸顯了人們對AI技術在沒有適當防護措施的情況下可能產(chǎn)生極端負面影響的廣泛擔憂,。過去,，在談論未來的自主武器系統(tǒng)和AI技術時，美國軍方經(jīng)常拒絕將其與“終結者”之類的東西進行比較,。

qq642446015

為啥這AI 這么逆天,。感覺會思考啊�,�,！為了達成目的可以不擇手段,。

qzzh2022

qq642446015 發(fā)表于 2023-6-5 15:00
為啥這AI 這么逆天。感覺會思考�,。,。�為了達成目的可以不擇手段,。

早晚一天的事,幾十年前的科幻電影里就拍過了,機器人最后會殺死人類,

來自星星的猩猩

qzzh2022 發(fā)表于 2023-6-5 15:16
早晚一天的事,幾十年前的科幻電影里就拍過了,機器人最后會殺死人類,

是的,，當時還在想導演腦洞夠大的，只是打臉來的有些晚了,。