• 南方网

  • 南方日报

  • 南方都市报

  • 南方杂志

  • 南方日报出版社

​中国工程院院士方滨兴:为大模型加上“护栏”

2025-09-15 10:54 来源:南方+

  9月15日上午,2025年广东省网络安全宣传周开幕式在珠海国际会展中心举行。

  开幕式上,中国工程院院士方滨兴作主题分享。他表示,当前,“护栏”已经成为应对大模型安全风险的重要工具,建立集约型大语言模型“保险箍”将是未来之路。

  方滨兴介绍,大模型护栏,相当于大模型的“泄压阀”。当用户向大模型提出问题,问题首先被发送到“护栏”系统进行审核,若通过,问题被送至大模型,答案生成后返回给用户;若未通过,系统会拦截该问题,并进行修改或拒绝回答,用其他方式回应。

  大模型“保险箍”就是大模型护栏的一种具体实践,通过三级体系,构建类似电力保险丝的强制断电机制。

  方滨兴认为,应该建立一种通用的护卫模式,将安全作为一项基础设施服务,由专业平台提供给所有企业,有助于避免每个公司重复投资建设安全能力,形成规模效应,降低社会总成本,更有效地管控大模型带来的系统性风险。

编辑:林涛   责任编辑:陈海敏  
回到首页 南方网二维码 回到顶部

南方报业传媒集团简介- 网站简介- 广告服务- 招标投标- 物资采购- 联系我们- 法律声明- 友情链接

本网站由南方新闻网版权所有,未经授权禁止复制或建立镜像 广东南方网络信息科技有限公司负责制作维护

违法和不良信息举报电话:020-87373397 18122015068

ICP备案号:粤B-20050235