前沿 | 筑牢AIGC影响下的意识形态安全屏障
2024-03-23 08:36:00 来源:本站 浏览:128
人工智能生成内容(AIGC)的深度发展和快速普及,为意识形态工作带来全新变量。AIGC从内容层面、语料层面、算法层面,由表及里地重塑了“人机共生”网络生态下的意识形态工作新场景。意识形态大数据有助于从内容倾向识别、账号网络分析、议题联合博弈等维度,开展监测与预警、汇总与回应、过滤与溯源的被动防御,以及精确触达受众、精准调控议题、精细管理平台的主动策划,对打好网络安全攻防战来说具有重要意义。

01
AIGC对网络安全的多层挑战

AIGC对网络安全的表层挑战,体现在意识形态宣传的内容生成层面。其内容呈现出成本低、速度快、形态真、情感强等特点。一方面,AIGC显著降低内容的生成成本,前期集中开发训练之后的边际成本大幅降低。这种快速生成的能力使意识形态宣传者能够迅速响应新闻事件、社会趋势或政治变化,从而更灵活地把握信息传播的重点方向。另一方面,AIGC有望生成“柔性”人格化表达、“深度”流畅化内容,使意识形态工作能够通过回应痛点、响应诉求、调动情绪等方式,更有针对性地激发观众“入脑入心”的内在情感反应。与此同时,AIGC与错误意识形态的结合将更具有隐蔽性、渗透性,虚假舆论共识的遮蔽效应可能进一步提升意识形态工作难度。

AIGC对网络安全的中层挑战,体现在意识形态宣传的语料训练层面。数据投毒、标签投毒、AI投毒等语料污染攻击,是当前逐渐升级的意识形态恶意攻击的典型方式。首先,数据投毒是较为基本的形式,即虚假、偏激或误导性文本语料被注入AIGC的训练数据中。其次,标签投毒关注训练数据的标签或类别,使模型学习错误对应关系,将数据标签错误标记为与实际内容不匹配的标签,实现内容生成的虚实颠倒、阳奉阴违,通过“劫持叙事”弥散历史虚无主义。在此基础上,AI投毒是针对人工智能系统所开展的更深层次威胁,以对抗样本攻击、模型扰动等方式,超越单一的数据或标签投毒,从更为底层的技术逻辑干扰AIGC平台,生成更大规模的意识形态误导性内容,成为意识形态工作中不可小觑的“数字化杀伤武器”。

AIGC对网络安全的深层挑战,体现在意识形态宣传的算法学习层面。计算宣传依托于人工智能、深度学习等技术手段,激化了意识形态工作中的认知竞争与情感争夺,可能衍生出意识形态“算法霸权”的新一轮角力。错误意识形态内容如被AIGC大模型学习,其后续输出的相关信息又会回流至网络,成为进一步被学习加工的错误原料,新旧版本的错误信息相互裹挟、愈演愈烈,就会形成意识形态内容生产的“有害的螺旋”。后续信息分发进入公共领域后,可能进一步激发意识形态分裂、偏见、极端化等问题。因此,未来对于AIGC技术的竞争,极有可能成为大国竞争新的着力点。

02
监测意识形态声量动态变化

面临AIGC对意识形态领域带来的挑战,意识形态大数据或能为意识形态风险的有效洞察提供机遇。意识形态大数据主要通过监测社交媒体、公开文章和在线讨论等数据,将不同意识形态内容及账号信息等作为学习语料,形成意识形态关键词词库,以期持续监测意识形态声量动态变化,描摹多渠道、多平台、多元受众群体的触达反馈情况,及时发现异常传播节点与风险内容,为相关主管部门的管控、应对工作提供技术支持。具体而言,意识形态大数据有望从内容层面、账号层面、议题层面,为助力网络安全提供技术支持。

一是意识形态相关内容的倾向识别。意识形态大数据基于海量多模态数据,深度学习自由主义、保守主义、相对中立等意识形态偏向特征,测算不同意识形态信息内容的左右倾向、情感倾向、传播趋势,预判相关内容的覆盖度和影响力。意识形态大数据有助于快速把握舆论敏感变化点,便于及时采取相应措施应对潜在的网络安全威胁。

二是意识形态所涉账号的网络分析。意识形态大数据还可以用于分析网络上的账号信息及其互动模式。通过分析账号的内容结构、转发关系、时序特征等,可以定位风险敏感者、温和派、极端派等账号属性,识别可能的虚假或自动化的社交机器人账号。同时,网络分析有助于揭示意识形态网络中的关键参与者和信息传播路径,揭示幕后潜在势力和核心参与者,分析其在传播特定意识形态信息方面起到的关键作用,有助于制定针对性应对策略。

三是意识形态风险议题的联合博弈。一方面,意识形态大数据可以通过类别型指标、数量型指标、时序型指标等,为独立议题、联合议题提供风险定量评估标准。另一方面,通过分析人机博弈、机器博弈的战术和意图,意识形态大数据可以为综合性议题的精细化应对提供参考,根据风险程度区分应对环节中的轻重缓急,提升意识形态工作效能。

03
意识形态宣传新模式

意识形态的“攻”与“守”,是筑牢网络安全屏障的核心议题。基于意识形态大数据的核心功能特点,意识形态工作有望从被动转向主动,两相配合以加强网络安全建设。面对意识形态信息的浩荡洪流,意识形态大数据提供底层数据原料,AIGC成为整合流程的生产车间,革新了信息生产方式与意识形态宣传模式。

被动防御是当下意识形态工作的主线任务。基于AIGC的意识形态大数据对于“防”的关键意义,筑牢网络安全屏障主要体现在“三步走”策略。

第一步是监测与预警。传统的网络安全工作更依赖于关键字词识别,而AIGC可通过文本变换与多媒体融合替换的方式予以躲避。基于意识形态大数据的多准则动态管控手段,可以在拟态仿真环境下对网络信息传播安全攻击、防御等博弈行为进行模拟,进一步升级网络风险的监测预警方式,推动人工智能时代的科学决策和依法决策。

第二步是汇总与回应。对于监测到的网络安全问题,意识形态大数据可以配合管理部门,在具象化层面理解语义、语境、语用等传播因素,在抽象化层面把握意识形态特征和传播规律。由此生成的网络信息传播安全管控的案例库、策略库,有助于运筹帷幄、评定等级、区别类别、针对处理,争取网络信息安全的最优管控策略。

第三步是过滤与溯源。意识形态的斗争本质上是人的斗争,监测与回应或可治标,而过滤信息迷雾、溯源背后特殊利益集团则有利于治本。对于特定账号或信息来源,意识形态大数据可以根据信息敏感性、危害性、影响力等因素,分级别、分权重、分期限地进行信息溯源、流量控制、自动降权等,以此达到修正错误意识形态的反制效果。

主动策划是未来意识形态工作的必争之地。基于AIGC的意识形态大数据体现的建设性意义,筑牢网络安全屏障重在实现对受众、议题、平台维度的突破。

首先是精确触达受众,受众是信息传播的接收者、意识形态宣传的目标对象。意识形态大数据有助于感知受众的社会背景、文化习惯、价值观念、信息接收习惯等。在此基础上的AIGC内容生成和传播则会具备高度的灵活性和定制性,生成推送更符合受众需求和接受程度的宣传内容,提升不同受众群体的信息触达体验。

其次是精准调控议题,议题是信息传播的内容、意识形态宣传的核心关切。意识形态大数据可以批量提炼意识形态宣传的多元议题,AIGC则可在此基础上生成丰富的多模态展现形式,针对不同场景的个性化需求予以精准输出。同时,基于AIGC的意识形态大数据可以关注议题的动态变化,进行议题跟踪、调整、优化,“小步快跑”,多管齐下,以适应议题宣传的差异变化。

最后是精细管理平台,平台是信息传播的载体,意识形态宣传的重要场域。意识形态大数据可以捕捉不同平台的传播特性、用户画像、辐射范围等,以此系统性整合、全局性调配宣传策略,突破平台间意识形态宣传的藩篱。同时AIGC可以及时捕捉平台的商业策略与用户群体的调整变化,优化意识形态大数据的算法与算力分布,锁定平台宣传锚点。

筑牢网络安全屏障,需要把握好技术革新“方向盘”、意识形态工作“压舱石”。AIGC新技术变革的挑战中同时蕴含机遇,运用好意识形态大数据这一工具,化被动为主动,强化阵地建设,是彰显大国网络安全治理智慧和魄力的重要考验。

甘公网安备 62010002000517号

陇ICP备15001871号-1

联系地址:甘肃省兰州市城关区南滨河东路58号

©版权所有 2011-2020 甘肃安信信息安全技术有限公司

Copyright © 2011-2020 Gansu Anxin information Safe Technology Ltd