軍事論壇丨生成式AI：認知對抗的新武器

生成式AI：認知對抗的新武器

(資料圖)

■陳東恒 許 炎

引 言

日前，美國的OpenAI將ChatGPT升級為GPT-4的全新版本。相比于只能接收文字提問的老版本，GPT-4能用數十種語言開展工作，還可識別圖片信息。以ChatGPT為代表的生成式AI的迅猛發展，打開了人類認知世界的新路徑，也為一些國家對外實施認知滲透攻擊提供了新武器。

生成式AI的認知應用功能

所謂生成式AI，是指通過各種機器學習方法從數據中學習抽取對象的內核特征，進而生成全新的、完全原創的內容的AI。ChatGPT及其迭代產品，本質是基于人類自然語言的人工智能語言模型。它以大型數據為原料，通過強化訓練和深度學習，具備了類似神經網絡的反饋糾錯機制，能夠根據用戶的具體需求創造新的內容，自動完成諸如撰文本、寫文章、編代碼，以及作畫、編輯視頻等復雜工作，為人類認知插上了翅膀。

認知速度提升。生成式AI以AI為核心支撐，以高性能算法為武器，匯聚了大規模數據信息，是人類智慧和數據信息的集大成者。生成式AI的橫空出世，標志著人工智能發展從量變正走向質變，其認知速度遠超此前所有AI認知機器。有資料顯示，支撐ChatGPT語言合成結果更自然流暢的是45TB的數據、近1萬億個單詞的訓練模型，其規模相當于1351萬本牛津詞典。GPT-4雖然其認知算法、算力和訓練數據等尚未公開，但無疑是一個更加強大的超級天文數字，這是其強大認知速度和認知能力的關鍵支撐所在。

認知趨勢預測。生成式AI的神奇之處還在于，能夠基于強大的數據支撐、算法和事物生成發展規律，預測事物的發展趨勢。公開資料顯示，目前由類GPT人工智能支撐的美軍“先進算法作戰系統”，能對敵人成千上萬次炮擊、地面進攻和空襲信息進行匯總，利用AI算法總結敵人的行動規律、戰斗習慣，甚至模擬敵軍指揮官的“思維方式”，提出針對性應對方案。

認知偏向誘導。生成式AI不管如何快速迭代，其說到底還是一個人類創造并控制的AI。在令人眼花繚亂的功能背后，是其研發操縱者利用掌握的設計密鑰和訓練數據集，對機器輸出的認知立場和態度實施操控，同時也不排除由于機器認知故障或失控有可能造成的重大風險挑戰。資料顯示，OpenAI將調試的大量精力花在英文數據而非中文內容，中文數據在ChatGPT的訓練語料里占比僅0.1%，英文輸出結果的邏輯性和準確性要遠大于中文，其文化價值傾向可見一斑。當帶有鮮明政治立場和價值觀傾向的生成式AI及其產品日益深入世人的生活時，受眾認知很難不受到其提供的預設政治立場的答案的傾向性影響，這一系統也由此更加容易淪為認知攻防的工具。

生成式AI的認知應用特征

生成式AI作為高度智慧化的AI形態，對認知戰的作用特征具有AI認知戰應用的一般特征，同時又兼具高智慧認知對抗的特殊性狀。掌握生成式AI認知應用的特點規律，有助于我們認清其在認知攻防中的現實和潛在價值，拓展認知戰方法路徑。

自主運行。這是生成式AI認知應用的顯著特征。生成式AI具有一定程度的自我意識，能夠按照其研發應用的底層邏輯，自主“涌現”生成新的內容，進而對人的認知產生連續性的不確定性影響。其認知應用的價值在于，研發應用者能夠依靠對系統設計和訓練語言的掌握，更加高質高效持續作用于目標對象的思維認知；同樣，作為對手的“受眾”在看似客觀的AI連續影響干預下，更容易難辨真假、受惑受制。未來認知對抗，在生成式AI加持下，攻擊組織者可將認知攻防任務交由AI機器和編程來完成。對“受眾”而言，信息是真是假、判斷是對是錯、決策是優是劣、行動是好是壞，一切都將變得更加撲朔迷離。因為你面對的可能不是活生生的人，而是有智慧的類人認知能力的程序或機器。

交互博弈。這是生成式AI認知應用的邏輯特征。生成式AI實際上是人本體認知與機器認知交互作用的認知。人類將自身智慧賦能于程序和機器，同時認知機器也在回答受眾問題、根據受眾具體需求創造新的內容、進而形成新的能力，并用于充實完善自系統。因此，類ChatGPT所具備的認知，是人與機器程序內互動與外互動的疊加。在這個過程中，基于研發者授權的生成式AI，能夠調動運用所有的數據儲備和算力、算法，與作為“對手”的人或同樣的類ChatGPT，就關注的問題進行博弈，從中潛移默化地施加影響、誘導或壓制對方。

隱蔽擾動。這是生成式AI認知應用的深層特征。生成式AI本質是人在底層回路控制的高度智慧化的程序或機器，其生成是基于人主導之下的混合生成，而不是完全脫離于人的虛浮生成。如同所有科技一樣，游離于人的AI是不存在的。正是其高智慧支撐的令人目不暇接的認知行為，為真正的認知施動者提供了隱秘的作用發揮空間。正是基于此，生成式AI生成的源頭、方式、內容和指向具有鮮明的人文色彩，包括政治立場、價值取向、道德標準、文化屬性甚至性格特征。反過來，我們也可以透過這些人文色彩去認知其本源和性質。當你面對一臺有相當認知應對能力、很有科技感的機器或程序時，你很難從與其往來互動的應答中判斷其背后有無另外的支配力量在起作用。正是這種先驗形成的對科技的崇拜與信任，往往令人喪失對其背負的政治傾向、價值準則、道德標準、人文屬性的警覺。

生成式AI的認知應用方式

生成式AI的迅猛發展及其在認知攻防對抗領域中的廣泛應用，是未來認知戰發展的大趨勢。這就要求我們要深入研究生成式AI的認知應用，把握其作用發揮的方法路徑。

認知習慣塑造。就是增強優勢科技產品使用的便利性，通過長期浸染形成對該產品使用的慣性思維，從而達成可信可親可感、毫不設防的認知趨同，這是美國等一些西方國家的傳統做法。早年美西方開發國際互聯網、操作系統時，通過低價或免費使用來塑造市場，讓對手在使用中不知不覺上“癮”。ChatGPT以工作上的“貼心人”“小助手”形象出現，還提供免費使用版本。這些看似人畜無害、實則人為控制的生成式AI們，一旦成為人們無比信任、無話不談的“密友”時，它對人的影響將是潛移默化的。這提醒我們，“親民”之中有陷阱，切不可被溫情脈脈的表象迷惑。

認知信息滲透。通過媒體平臺和文創產品輸出價值觀，影響其他國家百姓的價值取向，是美西方等國的通行做法。美國曾利用技術優勢，通過互聯網絡投放大量數據庫和信息產品推廣美式價值觀。美國在生成式AI上的先發優勢，無疑使其擁有了向對手進行信息滲透的新工具。這提醒我們，某些看似客觀公正的數據信息，其實不少都被“染了色”甚至是“變了質”。切實加強國家安全尤其是加強數據信息等戰略資源的保護，防止以技術理性代替價值理性等。

認知思維構陷。就是利用人性的弱點，通過激發追求安逸、新奇、刺激的認知感受等原始欲望，以“獵奇娛樂+意識滲透”的方式影響人的思維認知。ChatGPT等生成式AI針對現代人的社交、情感困境，以愉人悅性的聊天機器人面目出現，契合了許多人的情感訴求。這種專注于迎合利用人性特點的技術運用，極易將人的思維認知引入狹隘的、片面的、淺表的陷阱。這警示我們，必須保持對新技術的足夠理性，在用其所優所長的同時，防止掉入可能負載的人為陷阱。

認知標準挾持。就是以技術邏輯捆綁價值邏輯，利用科技優勢在產品中強行貫注相應價值觀，這是美西方等國新興做法。比如，互聯網是現代社會不可或缺的重要工具，掌握互聯網絕對控制權的美西方國家更是將其作為價值觀滲透的利器。美國就曾通過控制互聯網使用、國際支付系統使用等手段打壓在某些問題上不同于美西方的聲音和做法。以ChatGPT為代表的生成式AI，仍然能夠復制這種“捆綁”式挾持伎倆，利用生成答案之機強行提供融合美式價值觀的“標準答案”。這提醒我們，加強認知對抗，要加強戰略性信息系統技術創新和產品研發力度，以科技過硬支撐認知對抗話語權過硬。

（作者單位：軍事科學院軍隊政治工作研究院）