叶奕 谭婷婷
信息生成与传播一直具有强烈的“技术依赖”色彩。自2022年以来,以ChatGPT、Sora为代表的生成式人工智能应用得到爆发式增长与深度运用,带来了信息生产、传播方式和舆论生态的深刻改变。高校作为多元群体并存、多方利益集聚、多种观点碰撞的信息集散中心,也呈现出传播新图景,面临着治理新挑战。
生成式人工智能工具在创制、传播网络信息方面具有强大的优势,呈现出以下几个特点。传播主体多元化。高校信息传播主体既有与之直接相关的教育工作者、学生和家长,也可能是其他社会公众。随着写作机器人、传感器、智能语音助手、AI合成主播等“智能体”的广泛应用,教育信息传播主体非人化、智能化特征日益明显。内容生成与分发智能化。MGC(机器生产内容)、SGC(传感器生成内容)、AGC(算法生成内容)等内容生成模式,使信息产能实现了几何指数的增长;基于算法推荐的内容分发机制,实现了个性化的精准传播,进一步提高了传播效能。传播场域共时性。生成式人工智能可以通过人-机深度互动,与用户进行沉浸式的交流,还可实时根据用户的观点、态度,不断优化交流内容与方式,实现现实世界与虚拟世界的零时差、零距离。信息呈现多模态化。运用生成式人工智能工具,文生文、文生图、文生视频等多模态的复杂场景创作成为现实,且视听语言(音视频、直播等)取代静态的文字、图片等成为信息传播的重要表现形式,增加了信息表达的临场感和沉浸感。
生成式人工智能工具的爆发式增长,在赋能高校信息传播的同时,也带来了一系列潜在风险。内容失真风险。利用机器人水军、“深度伪造”技术,生成以假乱真的合成图片与视频混淆视听。据央视新闻报道,应急管理部四级以上响应的事件,谣言产生的比例达到70%,造谣手段也从过去的图片拼接发展到了利用大模型生成文字信息和图片视频。舆论把关风险。利用生成式人工智能方面的先进能力,可以精确把控当前热点事件公众情绪,运用多模态方式,在短时间内实现批量生成的“类人化”言论。以“大数据+算法”的推送作为信息扩散方向、规模和时间选择的重要控制力量,可以使个别人意见、小概率事件迅速演化为公众观点或群体情绪,加剧了舆论生态的复杂性,甚至使得舆论把关与引导处于失焦、失控状态。“技术依赖”隐藏的价值认同风险。以ChatGPT为代表的生成式人工智能应用,其“全能专家”人设是经过大量训练不断迭代的结果。而用于训练的语料库,包含西方意识形态、文化逻辑甚至偏见错误等各类信息。对于求知欲旺盛、自身知识储备有限的学生而言,或许只是把它当成知识工具、游乐伙伴和创作载体,却可能在不知不觉中陷入“话语陷阱”,形成情感依赖,丧失批判思维,导致原有话语体系和认知框架产生解构风险,甚至充当传播虚假信息、破坏舆论环境的推手而不自知。
作为信息技术革命新样态,生成式人工智能技术为教育信息传播带来的新图景、新挑战,也为创新治理模式带来了新思路、新机遇。法律赋能,完善高校信息传播治理的政策法规。加快推进人工智能治理规范化和法治化,一方面要建立健全生成式人工智能的技术标准和应用指南,发展“安全可控”的人工智能。另一方面,要构建生成式人工智能工具的准入和监督监管制度,尤其是对于利用生成式人工智能工具生成、恶意传播具有危害性信息且造成严重后果的人或组织,进行事后追责,并且通过立法限制或禁止使用此类工具输出结果。技术赋能,“用AI治理AI”。从技术角度解决生成式人工智能政治安全、意识形态安全及文化安全问题,是防范化解人工智能风险、促进智能互联网可持续发展的重要手段。首先,加强对训练数据来源、类型、规模和标注标准的监督。国内外已有开发者通过对网络信息发布方的账户身份画像、社交网络、行动轨迹等进行计算赋值,辨别信息伪造和操纵的情况,以有效打击虚假信息、有毒信息、垃圾信息的传播。其次,充分利用生成式人工智能技术优势,加强本土教育数据库的支持,加大高校信息化建设力度,提高精准度与科学性。人才赋能,提升师生的数字素养。高校师生在教育信息生产与传播中扮演着消费者和生产者的双重角色。要重视培养师生的逻辑思维、批判性思维和创造性思维,让其知晓人工智能的边界与不足,在祛魅中学会借力,在借力中实现增智,形成和谐、高效、可持续的人-机协作关系。
【作者单位:湖南大众传媒职业技术学院。本文为湖南省教育科学“十四五”规划课题“智媒时代高校网络舆情演化与治理研究”(ND229644)阶段性成果】