中心动态

    “给人工智能一颗良芯”

欢迎访问

中心动态

当前位置: 首页 > 新闻动态 > 中心动态 > 正文

具有社会意识引导能力算法模型伦理风险的防范——湖南师大AI伦理研究中心调研芒果TV

2026年01月18日 12:46  点击:[]


2026年1月16日下午,湖南师范大学人工智能伦理研究中心主任李伦教授率研究团队一行8人,赴芒果TV开展主题为“具有舆论社会动员能力与社会意识引导能力的算法模型伦理风险及防范”的专题调研。芒果TV副总裁、首席技术官卢海波主持调研活动,双方围绕AI系统的数据安全、算法伦理、应用边界、伦理审查和社会意识引导等核心议题展开深度交流。

卢海波和芒果TV智能研究中心总经理宋施恩引导调研团队现场参观AI在影视制作和传播中的成果展。芒果TV技术团队演示了“山海”AIGC内容创作平台的人机交互、场景融图等核心功能,介绍了团队在数字采集、AI生成交互领域取得的突破性进展,并对未来依托自然语言规划技术、实现影视音内容自主创新孵化与生产的前景进行了展望。


芒果TV技术团队展示了多项核心技术应用成果,详细介绍了AIGC分支剧情互动影游、场景化精准识别AI智能审核系统、图片生成式三维采集重建模型,以及AI广告后期植入、经典影视修复与增强等热门应用,并邀请调研团队沉浸式体验AI智作全景声技术。

卢海波介绍了芒果TV全场景智能视听内容审核体系中的“语义魔方”系统。这个系统基于多模态大模型能力,实现隐晦语义意识形态智能审核,能有效识别“低级红高级黑”等语义级问题,推动治理模式从安全审核向主流价值引导的全面升级。

宋施恩讲解了数据处理全流程及现有伦理风控机制,着重阐述了从数据治理、模型价值观对齐到应用层实时干预的技术框架,分享了依托技术手段引导主流价值观的探索实践。


座谈会上,双方围绕AI伦理治理核心痛点展开热烈研讨。卢海波指出,业务的快速增长倒逼技术产业迭代升级,芒果TV在构建面向实际应用的芒果AI生态过程中,始终坚持技术创新与伦理合规双轮驱动。卢海波介绍了芒果TV人工智能科技伦理审查委员会的工作情况,指出芒果TV是湖南省第一批设立人工智能科技伦理审查委员会的单位之一,最近刚刚对两个项目进行了伦理审查。

卢海波强调,芒果TV作为主流媒体,率先将AI引入内容制作和传播,同时也高度重视新技术带来的伦理挑战,坚持以正确价值观引导AI技术的研发和应用。例如,以自有版权数据库作为伦理合规的核心支撑,有效规避算法歧视、数据质量低等伦理风险。

针对系统算法公平性、责任追溯机制、伦理审查流程及标准等关键问题,宋施恩、芒果TV智能研究中心山海研究院算法应用负责人祁晗、大模型研发负责人刘旭升等分别从AI内容生产、算法推荐全流程说明通过工程化方法是当前筑牢伦理风险防控防线的重要手段。

双方还就AIGC用户版权审核责任界定、生成影视音历史文化常识偏误修正、用户二次训练导致数据库污染等行业难点进行深度交流。双方都强调,AI技术发展必须兼顾创新效率与伦理规范,坚持伦理先行原则,建立全周期跟踪审查体系,同时应进一步优化系统伦理风控模块,发挥技术工程方法在AI伦理风险防范中的独特作用。

李伦在总结中指出,芒果AI系统的场景化落地实践与自主约束机制的建立,为AI伦理工程学解决方案提供了鲜活样本。李伦对卢海波及其团队对“具有舆论社会动员能力与社会意识引导能力的算法模型伦理风险及防范”研究项目的支持表示感谢,希望双方通过以伦理工程学防范AI伦理风险方面的合作,能够为 AI系统嵌入正确价值观提供伦理智慧,助力AI技术在合规框架内充分释放创新价值。

上一条:李伦研究成果入选《2025年哲学研究发展报告》 下一条:李伦在2025年湖南省伦理学会年会上作主旨报告“人工智能伦理再启程”

关闭