智能体时代的安全挑战与破局之道

人工智能的发展正迎来关键转折点。从“能对话”的大模型，到“能执行”的智能体，技术的演进不仅改变了人机交互的边界，更深刻影响着产业形态与组织逻辑。在4月19日召开的中国互联网发展座谈会上，360集团创始人周鸿祎的发言揭示了这一变革背后的核心命题：当智能体开始承担专业工作，安全问题将成为决定其能否真正落地的关键。

从工具到“数字专家”：智能体的角色跃迁

周鸿祎指出，当前人工智能正从“大模型阶段”迈向“智能体阶段”。以“龙虾”为代表的智能体，已不再是简单的问答工具，而是具备调用工具、自主规划任务、持续优化执行路径的能力。它们可以独立完成数据分析、报告撰写、代码生成等专业性工作，成为企业中的“硅基员工”。

这种角色转变意味着，企业将逐步形成“碳基员工+硅基员工”的混合团队形态。未来的职场不再只是人与人的协作，更包含人与智能体的协同。员工需要掌握新的能力——如何管理智能体、分配任务、监督执行并评估结果。与此同时，智能体的普及也将大幅降低创业门槛，使“一人公司”成为可能，个体创业者可以借助多个智能体完成产品设计、市场推广、客户服务等全流程工作。

基础设施重构与智能经济新生态

智能体的广泛应用，正在倒逼互联网底层架构的变革。传统软件以功能模块划分，而未来的软件形态可能更加模块化、动态化，甚至由智能体自主生成和组合。这意味着，开发模式将从“人写代码”向“人定义目标，智能体实现”转变。

周鸿祎预测，未来三到五年，中国有望涌现百亿规模的智能体，它们将成为互联网生态的主力军。这一趋势将催生全新的智能经济形态：智能体不仅是生产工具，更可能成为服务提供方、内容创作者甚至商业主体。与此同时，智能体对算力的需求将远超传统AI应用，Token消耗可能提升数十倍甚至百倍，从而带动芯片、数据中心、电力等产业的协同发展。值得注意的是，中国在能源基础设施方面的优势，或将成为支撑智能体时代的重要战略资源。

安全隐患凸显：“龙虾”虽强，仍需“缰绳”

然而，能力越强，风险越高。周鸿祎特别强调，当前以“龙虾”为代表的智能体在企业应用中仍面临诸多不确定性。例如，智能体在自主执行任务时可能因理解偏差导致误操作；调用外部工具时可能被恶意接口诱导；长期运行中也可能积累偏见或产生不可控行为。更严峻的是，攻击者可能利用提示词注入、模型越狱等手段操控智能体，造成数据泄露、系统瘫痪甚至商业欺诈。

面对这些新型安全威胁，传统防护手段已显不足。周鸿祎提出“以模治模”的应对策略——通过构建“安全智能体”来监控、审计和防御其他智能体的行为。这类安全智能体可实时分析任务逻辑、检测异常调用、拦截高风险操作，并在发现潜在威胁时自动触发响应机制。这不仅是技术层面的创新，更是一种治理范式的升级：将安全能力嵌入智能体运行的全过程，实现“可控前提下的发展”。

迈向安全可控的智能体未来

中国互联网发展座谈会聚焦“人工智能+”行动，强调技术创新与安全治理并重，这与周鸿祎的观点高度契合。未来，360将继续坚持“安全+AI”战略，推动智能体在保障安全的前提下深度融入产业场景。

智能体时代的到来不可阻挡，但唯有筑牢安全防线，才能真正释放其生产力潜能。当百亿智能体活跃于各行各业，我们需要的不仅是更强大的算力，更是更智慧的治理。安全智能体，或许正是通往可信AI未来的关键钥匙。

标签： 人工智能 智能体 AI安全 周鸿祎 360