回应生成式人工智能的风险治理新命题
来源:中国社会科学网

4月25日至26日,“生成式人工智能治理”专题学术研讨会在中国人民大学举行。会议汇聚来自高校、科研机构和业界的专家学者,横跨计算机科学、管理学、经济学、法学、新闻学等多个学科领域,围绕生成式人工智能的政策监管、技术评测、内容安全、科研规范、人智交互和行业应用等议题展开深入讨论,力求在跨学科交流中回应人工智能快速发展带来的现实问题,为生成式人工智能治理研究与实践探索提供新的思路。

构建更具适应性的治理体系 

生成式人工智能正在从技术工具走向社会基础设施,治理问题也不再局限于单一技术风险,而是延伸到政策目标、监管工具、价值判断和社会权利等多个层面。与会专家认为,面对人工智能的快速扩散,治理体系既要回应算法透明、合规审计、风险追溯等现实需求,也要处理国家、市场与社会之间的关系重构。

在制度回应层面,中国人民大学公共管理学院教授刘鹏从全球算法监管政策出发,提出生成式人工智能“只是算法应用的一个场景”,监管不能只看原则,更要看目标、工具和主体的匹配;算法影响评估、算法审计、信息披露与备案追溯等工具,应成为风险治理的基础。中国人民大学新闻学院教授卢家银在全球人工智能政策比较中发现,当前政策目标呈现“强国家、重市场、弱社会”的格局,伦理价值和社会公平尚未得到充分重视。生成式人工智能治理要在发展、安全与社会权利之间形成更均衡的制度组合。

在价值层面,中国人民大学法学院副教授彭雅丽将大模型置于跨文化伦理情境中进行考察,提出模型能否适应所在社会的文化规范和价值观,关系到其是否会成为“文化冲突和安全隐患的来源”。她以关怀范围、决策主体、变革取向等维度评测模型输出,提出治理不仅要问模型是否可用可控,也要追问其价值来源、文化偏向和校正机制。

推动人工智能从“可用”走向“可信” 

生成式人工智能提升了内容生产和知识处理效率,也放大了虚假信息、文本混淆、科研失范和责任不清等风险。与会专家认为,人工智能治理的关键,不是简单限制技术使用,而是在具体场景中建立识别、评测、规范和责任机制,使生成内容能够被理解、被核验、被追溯。

在内容可信方面,中国人民大学信息资源管理学院教授任明认为,AI生成文本表面相似,背后却“不受脑容量、表达能力等生物局限”,因而可借助齐普夫定律、本福德定律等信息学规律识别人类文本与机器文本的差异。中国人民大学信息学院教授杨波提出,治理要明确“决策权交给谁,责任交给谁”,在鼓励合理使用AI的同时,应坚守原创性、真实性和文责自负的底线。

中国人民大学商学院教授王刊良从技术与社会相互塑造出发,探讨AI既可能增强工作,也可能替代工作,其影响要看具体任务而定。尤其在知识生产中,显性知识只是“冰山的一角”,过度依赖生成结果可能带来信任链断裂和能力退化。

在真实应用场景理解人智关系 

生成式人工智能治理不仅发生在政策文本和技术系统之中,也发生在消费者决策、服务体验、文化传播、教育科研和行业应用等具体场景中。与会专家认为,只有进入真实的人智交互过程,才能更准确地理解人工智能如何影响信任、行为、情感和文化表达,并据此形成更细致的治理方案。

在人智交互和消费场景中,中国人民大学信息学院副教授余艳表示,AI在优化型任务中能显著提升质量,但在战略性任务上效果有限;情感人工智能虽可通过识别、理解并回应用户情感来提高服务失败容忍度,仍需区分文旅、政务、医疗等不同风险场景。对外经济贸易大学国际经贸学院副教授金悦认为,电商AI标签能保障用户的知情权,却“并没有解决消费者的信任问题”,平台治理还要依靠高质量用户评论等补偿性信息机制。

北京科技大学经济管理学院副教授傅诗轩以文旅和博物馆场景为例,提出文化遗产可以通过数字化、智能化技术实现新的解构与重塑,但她同时提醒,AI助力文化表达时也要防止错误表达、文化偏见和历史厚重感流失,需要把技术识别、人工校正与人机协作纳入内容开发全过程。

会议由中国人民大学人工智能治理研究院主办。中国人民大学交叉科学研究院、新时代智慧治理学科交叉中心、信息学院、新闻学院、书院建设与管理中心协办。

  • 主       管: 陕西新华出版传媒集团有限责任公司
  • 主       办: 陕西新华出版传媒集团有限责任公司
  • 智力支持: 中国社会科学院西部发展研究中心
  • 出       版: 陕西出版传媒集团报刊有限责任公司
  • 编       辑: 《西部学刊》编辑部
  • 编辑委员会主任: 石鸣
  • 编辑委员会副主任: 叶子
  • 执行主编: 朱希良(上半月)赵良(下半月)
  • 编辑一部主任: 朱希良(兼)
  • 编辑二部主任: 赵良(兼)
  • 综合服务部: 李功(主任)付小梅(副主任)严丽洁
  • 数字出版部: 邢恬恬 袁宝燕
  • 责任编辑: 杨军 雷智勇 冯小卫 王宝林 张震 杨超
    王延河
  • 编辑部电话/传真: (029)89520620
  • 网       站: www.xbxkzz.com
  • 投稿邮箱: xbxkbjb@126.com