三千六百七十章
不能因為害怕風(fēng)險就停止前進
就在這時候,突然一個聲音讓整個指揮控制大廳頓時安靜了下來。
“吳總,各位領(lǐng)導(dǎo),我并不認為這是一個好主意。關(guān)于在人工智能武器化方面,我們應(yīng)該更加謹慎才對。
‘神機’戰(zhàn)場情報數(shù)據(jù)信息處理系統(tǒng)如果和其它武器系統(tǒng)無縫對接的話,這意味著人工智能將會接管整個武器系統(tǒng),這樣的話,它就能夠自主發(fā)動攻擊,久而久之可能會存在失控的風(fēng)險。到那時候,所傷的不僅是敵人,還可能是自己。
終結(jié)者這部電影大家都看過吧,里面的天網(wǎng)可就是這么一步步發(fā)展起來的,最終成為毀滅人類的劊子手?!币晃淮┲状蠊?,帶著金絲眼鏡的研究人員這個時候開口說道。
他話一落,整個指揮控制大廳隨即寧靜一片,大家都皺眉思索起來,不少人神色上也出現(xiàn)了類似的擔(dān)憂。
而更多的人則是看向了吳浩,等待他的回應(yīng)。
吳浩微微一怔,隨即深吸了一口氣,目光掃過在座的眾人,特別是那位提出擔(dān)憂的研究人員,他的眼神中既有理解也有堅定。他緩緩開口,聲音沉穩(wěn)有力,試圖平息大家的憂慮。
“首先,我非常感謝這位同志的提醒,他的擔(dān)憂并非空穴來風(fēng),而是基于對未來科技發(fā)展的深刻思考。
確實,人工智能與武器系統(tǒng)的結(jié)合,是一個充滿挑戰(zhàn)與風(fēng)險的領(lǐng)域,需要我們極其謹慎地對待?!?/p>
他停頓了一下,目光落在軍方領(lǐng)導(dǎo)遲正陽身上,遲正陽正襟危坐,面色凝重,顯然也在認真傾聽。
吳浩繼續(xù)說道:“但是,我們不能因為害怕風(fēng)險就停止前進。正如遲領(lǐng)導(dǎo)所言,時代在變,戰(zhàn)爭的形式也在變。
如果我們不跟上這個步伐,就會被時代淘汰,我們的國家安全將面臨更大的威脅?!?/p>
“從技術(shù)角度來看,”吳浩轉(zhuǎn)向趙志成,以及在場的技術(shù)人員,說道:“‘神機’系統(tǒng)的設(shè)計之初,我們就已經(jīng)充分考慮到了安全性與可控性。我們的系統(tǒng)內(nèi)置了多重安全機制,包括權(quán)限分級、操作日志記錄、異常行為監(jiān)測等,確保每一步操作都在人類的監(jiān)控之下進行。
此外,我們還設(shè)有緊急制動系統(tǒng),一旦系統(tǒng)檢測到任何異?;驖撛谕{,可以立即中斷所有自動化流程,轉(zhuǎn)為人工控制。”
他環(huán)視一圈,看到在場人員的表情逐漸放松,但仍有疑慮未消。于是,他進一步解釋:“關(guān)于人工智能的自主學(xué)習(xí)與決策能力,我們采取了‘人類指導(dǎo)下的學(xué)習(xí)’模式。
這意味著,‘神機’系統(tǒng)在學(xué)習(xí)和決策過程中,始終受到人類設(shè)定的規(guī)則與目標的約束。它不會擅自改變這些規(guī)則,更不會自主發(fā)動攻擊。
所有的決策,都是基于人類設(shè)定的戰(zhàn)略目標,以及實時戰(zhàn)場數(shù)據(jù)的分析結(jié)果。”