【周鸿祎：用DeepSeek要建立知识库】近一段时间，中国人工智能领域迎来里程碑式突破。国产推理大模型DeepSeek-R1的诞生标志着我国AI技术从“追赶者”向“领跑者”实现历史性跨越，成为全新的生产力工具。该模型开源、透明且免费，特别适合政府与企业的私有化部署，但随之而来的安全问题也日益凸显。
周鸿祎：用DeepSeek要建立知识库
今年两会期间，全国政协委员、360集团创始人周鸿祎再度聚焦大模型安全。他认为，先进模型带来了前所未有的机遇，但也面临无法通过传统网络安全手段解决的安全挑战。他呼吁各界共同努力，构建更加完善的大模型应用安全治理体系，在保障安全的前提下最大化地释放大模型技术的潜力。
周鸿祎表示，开源带来大模型的广泛应用，未来将会有各类专业大模型、垂直大模型和场景大模型连接内部知识库，以智能体的形式在大批政府机构和企业中广泛部署，推进数字化转型，实现降本增效。然而，大模型存在幻觉、内容安全等诸多问题，这些无法通过传统安全方案有效化解。一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患，都极有可能诱发整个生产环境爆发系统性风险。
大模型应用安全主要集中在基座模型、知识库和智能体三个方面。由于大模型普遍存在的幻觉现象，特别是在生成文本时可能输出与现实不符的信息，这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。政府和企业核心数据资产存储于内部知识库中，若缺乏有效的安全控制措施，未授权用户可能利用与大模型交互的机会窃取这些宝贵的数据资源。智能体通常与政府、企业内部各类IT、邮件、控制系统相连，一旦遭受攻击，可能会引发一系列连锁反应，从发送有害邮件到中断生产线运作，造成严重的物理损害。
针对上述挑战，360运用人工智能技术重塑安全格局，采用“以模制模”的方式应对新难题，依托安全大模型技术搭建起覆盖“基座模型—知识库—智能体”的全链路安全体系，护航政府与企业数字化转型。为强化这一防御体系，周鸿祎建议推动安全技术创新与成果转化，并组建产业联盟推广安全产品。相关部门应及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的企业开展研发工作，加速技术成果转化。同时，引导相关企业发挥牵头作用，吸纳产业链上下游企业、科研机构及终端用户，组建人工智能大模型安全联盟，在联盟内部共享技术成果，共同开展产品及服务测试，待成熟稳定后推向市场，助力大模型安全保障普及至各行各业。
