“我和家人说哪怕是视频电话打过来要钱，无论画面多么真、声音多么像，都不要信，就问他我们约定好的问题，看对方怎么回答。”360集团创始人、ISC大会主席周鸿祎是人工智能的拥护者，但在网络安全上还是选择“留一手”。在ISC.AI 2025上海大模型安全论坛暨大模型安全卫士产品发布会上，他分享了以约定问答作为身份识别的关键要素。
这是AI应用普及带来新型安全需求的缩影——人们在加速拥抱“人工智能+”，但AI本身的安全管控成为了必须应对的核心挑战。
大模型似乎“无所不能”，技术成熟却也成了违法者用于诈骗的帮凶。此外，周鸿祎提到，大模型容易出现虚假错误，深层敏感信息违规的风险以及由于大模型幻觉导致错误判断。此外，大模型被攻击的可能性增加，容易成为攻击载体和入口，威胁政府和企业数据资产的安全。
网络安全公司要如何应对？
360数字安全集团副总裁余凯提到，要以自身大规模AI业务场景验证产品能力。360基于‘以模制模’理念推出四大智能体解决大模型生命周期中各环节的安全问题，并将大模型安全卫士融入安全运营体系，构建“网数模一体化”安全运营平台。
山石网科（688030.SH）则希望从软件硬件一体化层面来优化解决方案，通过网络安全ASIC芯片与AI相结合，指向“系统算力”与“流程效率”的优化。山石网科董事长兼总经理叶海强认为，未来会从人机协同发展到人机共治，将涉及全域的智能安全，这意味着跨平台的治理，以及未来AI 驱动的零信任升级（即对所有用户、流量和设备通过持续验证和最小权限原则来实现动态防护）。
一方面，企业需要对内部AI应用进行集中管控，包括大模型的选择、数据权限的划分、风险的动态评估；另一方面，需要为智能体构建“身份-行为-责任”的闭环体系，确保AI行为可追溯、责任可界定。
“未来成千上万个智能体协作时，必须有类似二代身份证的数字身份，才能明确‘谁在做事、能做什么、做错了谁负责’。”叶海强提到，山石网科正在通过投资探索为每个AI智能体赋予唯一可验证的数字身份标识，构建“身份-行为-责任”的闭环体系。
Fortinet中国区总经理李宏凯向第一财经记者表示，未来十年，网络安全最大的机会在于用AI打造“自学习、自修复、自进化”的安全神经中枢；最大的挑战在于攻击者也在用同样的AI重构APT（高级持续性威胁）和供应链渗透。“只有把零信任架构、网络安全融合理念与可解释AI三位一体，才能把AI的确定性价值留给产业，把不确定性风险关在笼子里。”
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
宁佳彦
相关阅读
浙江今年已累计侦办网络谣言案事件超千起侦办侵犯公民个人信息案件163起，抓获犯罪嫌疑人491名，查获涉案公民个人信息近亿条。
0 08-29 15:46
百度上线蒸汽机2.0视频生成大模型，实现多人有声视频一体化百度蒸汽机是中文音视频一体化生成的I2V模型。
101 08-21 16:37
阿里云10天“5连发”，大模型发布“卷”起来了AI模型技术正经历从“渐进式创新”到“指数级跃迁”的历史性转变。
158 07-31 20:43
智能体向更多终端延伸，隐私保护如何跟上？智能体正在向终端延伸。智能体在各类应用中展现出更强的泛化与适应能力，从功能方面来看，呈现出从单一任务逐步拓展至编程辅助、社会互动、经济治理等复杂场景。
5 88 07-28 17:38
AI进化速递丨王兴兴：AI大模型写代码成功率已非常高①《全球人工智能创新指数报告2025》发布；②我国大模型数量居全球首位；③AI投资联盟正式成立，聚焦AI领域投资。
54 07-27 21:32 一财最热 点击关闭炒股配资资讯提示：文章来自网络，不代表本站观点。
