□罗月 李阳莉
智媒时代的技术革新助推产业不断升级，生成式AI技术凭借强大的自主学习能力、深度交互能力、高效的自创能力，已逐步应用到信息媒体、文化创作等各个领域，开创了信息生产与传播的新局面。伴随生成式AI技术的加持、产业生产效率的逐步提升，因技术应用边界的不清晰，也产生了一系列伦理层面的问题与风险。为了更好地推动生成式AI的技术迭代及广泛应用，应认真研究分析智媒时代生成式AI的伦理风险，积极寻找科学有效的治理方案，以制度保障促进生成式AI的可持续发展，推进应用技术的不断创新，有效约束伦理行为，以实现智媒时代技术与社会的良性互动。
智媒时代生成式AI面临的核心伦理风险
一、信息生产失序引发的真实性危机
生成式AI技术内容生成基础来源于对算法模型的技术应用，基于这种算法技术生成的信息、图片、音视频等内容极易出现信息缺失，导致信息缺乏真实性。算法模型数据多变性及多样性、可复制性的特点，使得生成式AI对信息真实性的处理、鉴别缺乏有效的技术反馈，生成不符合事实的信息内容，并且这些信息内容的高仿真特性，让大众群体无法有效识别。
二、权利边界模糊带来的主体权益侵害
生成式AI技术拓宽了应用层次及场景，使得权利边界模糊，在伦理风险制度还未规范的背景下，产生了一系列的主体权益侵害现象。比如，在数据使用界面，生成式AI的算法模型数据主要依赖于网络资源，数据的真实性及可靠性、可操作性均有待商榷，部分数据还存在未被授权就被擅自使用的情况，严重侵害了数据创作主体的隐私权、知识产权；在创作界面，生成式AI利用极其方便的大数据搜集、整理能力，生成内容多来自现有作品，再通过数据的加工，生成相似度极高的作品，对原作者构成了著作权侵害。与此同时，生成式AI的应用解决了大量重复性、简单化、可复制化的岗位操作内容，使得这部分岗位从业者的岗位数量和就业前景面临巨大的挑战。
智媒时代生成式AI伦理风险的科学治理路径
一、完善制度规范，明确生成式AI的应用边界
智媒时代生成式AI伦理风险的科学治理路径，其核心任务就是完善制度规范体系，用制度明确AI的应用边界及约束其应用行为。法律保障方面应根据行业的现状及未来趋势制定有针对性的法律条款，明确界定生成式AI在数据采集、整理、加工及内容生成、传播使用等各阶段的权限，保障各主体权利，同时严厉打击、处罚利用AI生成虚假信息、侵害主体权益的相关侵害者。行业规范方面需积极主动地制定生成式AI行业规范与伦理准则，在行业普及伦理理念，构建行业、企业伦理保障、监督体系，从数据采集及产品研发等源头阶段进行伦理行为规范，全程监督伦理风险行为。
二、强化技术赋能，构建生成式AI的技术治理体系
治理生成式AI伦理风险的基础则是强化技术赋能，通过技术升级，构建生成式AI的技术治理体系。例如，从根源上进行控制，建立能够对生成式AI内容的识别与溯源技术体系，用户通过对技术体系的应用，实现对生成式AI内容的有效甄别、筛选及有效追踪，避免了虚假信息内容的使用及传播。同时完善生成式AI的算法模型，通过算法的优化设计，在算法模型中即可实现对信息来源的真实性进行自动识别，经过算法模型的设计，在生成环节即可进行数据自我规范、约束，再结合技术数据的自我反馈机制，在算法设计阶段实现实时监测与动态管控，建立对有关伦理风险的行为及时报备或者进行禁用等监督的技术设计。
三、凝聚多方合力，构建生成式AI的协同治理格局
随着生成式AI的广泛应用，AI的伦理治理也不再是单一的主体治理，而是需要凝聚多方合力，构建生成式AI的协同治理格局。企业层面的侧重点主要在于对技术研发阶段的技术把关，通过技术手段及行业管理制度，严格落实行业规范及伦理准则，保障生成式AI在研发过程中的健康发展。社会使用方面，应加强社会群体的伦理引导与素养培育，通过多种形式的宣传，普及社会群体对生成式AI的认知与甄别能力，营造全员参与、共同治理的良好社会氛围。尤其要关注大学生群体，重视他们在其中所起的作用，并将其吸收进治理体系，借助教育引导、实践参与等多样化方式，大力培养他们的伦理意识和责任担当，让他们在生成式AI治理中发挥重要作用，营造全员参与、协同治理氛围。
结语
生成式AI的技术革新是智媒时代的发展趋势，其伦理风险的产生是由于技术迅速发展与伦理行为准则、制度保障措施不能及时匹配的原因。实现生成式AI的可持续发展，需重塑技术创新与伦理治理的协同发展理念，实现二者的深度融合，相辅相成。通过完善制度规范、强化技术赋能、凝聚多方合力，构建生成式AI的协同治理格局，让生成式AI始终在制度及伦理约束范围内应用，使得生成式AI技术在框架内发挥最大技术价值，实现智媒时代与社会的良性互动。
[本文系基金项目：重庆市教委人文社会科学研究课题“人工智能视域下AI伦理融入大学生思想政治教育的路径研究”（25SKSZ049）；重庆市教育科学规划课题“高校智慧课堂教学中的师生互动模式及其有效性研究”（2020-GX-136）阶段性成果。]
（作者单位：长江师范学院， 重庆408000）