生成式大语言模型的社会认知风险与应对
来源:《浙江社会科学》

马忠,高怡英在《浙江社会科学》2025年第2期撰文指出:生成式大语言模型是当前人工智能技术的一种主要新形态,作为一种新的语言形式,不可避免地引发了知识生产的变革、认知结构的嵌入及社会认知的重塑。综观人类科技史,任何新技术的诞生在带来革命性进步的同时,由于技术本身对传统生产方式的颠覆性及实践层面的制度滞后性,必然会带来一定的技术风险。同样,生成式大语言模型在新技术深度赋能新发展的同时,不可避免地产生诸如数据平等、数字孤立、数字鸿沟、算法控制等新问题,在社会认知领域则有可能带来认知倾向的技术操控、社会认知的虚假状态、数字帝国主义的加深等风险。这些风险的产生原因在于技术差异、黑箱逻辑和数据选择所导致的算力不平等、算法不透明和数据局限性。为此要从技术、制度和应用等多个层面入手,通过多元共享打破话语垄断,以制度框架防范潜在风险,提升全民素养以弥合数字鸿沟,确保技术、社会和责任之间的平衡,使人工智能更好服务人类发展。

  • 主       管: 陕西新华出版传媒集团有限责任公司
  • 主       办: 陕西新华出版传媒集团有限责任公司
  • 智力支持: 中国社会科学院西部发展研究中心
  • 出       版: 陕西出版传媒集团报刊有限责任公司
  • 编       辑: 《西部学刊》编辑部
  • 编辑委员会主任: 石鸣
  • 编辑委员会副主任: 叶子
  • 执行主编: 朱希良(上半月)赵良(下半月)
  • 编辑一部主任: 朱希良(兼)
  • 编辑二部主任: 赵良(兼)
  • 综合服务部: 李功(主任)付小梅(副主任)严丽洁
  • 数字出版部: 邢恬恬 袁宝燕
  • 责任编辑: 杨军 雷智勇 冯小卫 王宝林 张震 杨超
    王延河
  • 编辑部电话/传真: (029)89520620
  • 网       站: www.xbxkzz.com
  • 投稿邮箱: xbxkbjb@126.com