• AI安全进入攻坚期:前置防御是王道,落地适配是难题
  • 发布于 1小时前
  • 8 热度
    0 评论

堆代码讯 当下,人工智能产业化落地驶入快车道,随之而来的安全风险愈发复杂多变,AI安全已然成为所有企业数字化转型绕不开的核心课题。在洛杉矶一场活动的后台,我有幸与谷歌云首席运营官弗朗西斯·德·索萨深入对话。在嘈杂的环境中,他以沉稳从容的语调,剖析了当前AI安全行业的现状与痛点,为迷茫的企业指明了AI安全建设的核心方向。在他看来,AI安全乱象终会终结,行业将历经过渡期,逐步迈入规范、健康的全新发展阶段。

德·索萨的核心论断,直击当下企业AI建设的普遍误区,也是安全领域多年来反复强调、却始终难以落地的关键理念:AI安全绝非事后补救的附加项,而是贯穿AI战略全程的核心根基。这一理念在AI技术飞速迭代的当下,已然从行业共识变成企业生存发展的刚需。很多企业布局AI业务时,一味追求落地速度,将重心放在模型应用、效率提升上,把安全管控、风险治理当作后续补充工作,最终埋下巨大安全隐患。


对此,德·索萨明确提出,企业布局AI必须采用平台化建设思路,安全、治理、可审计性需要嵌入AI平台搭建的初始环节,绝非事后叠加的功能,更不能交由员工自主把控。他着重警示了“影子AI”风险——员工绕过企业监管,私自使用各类面向消费者的AI工具,这类无管控的AI应用行为,极易造成企业数据泄露、业务流程失控。在他的认知中,AI战略从来不是单一的技术应用战略,没有完善的数据战略与安全战略,企业的AI战略便无从谈起,三者必须协同推进、一体落地。


值得一提的是,德·索萨的专业建议并非局限于谷歌云的产品推广。当被问及观点是否贴合谷歌产品宣传时,他明确予以反驳,并主动阐释谷歌的多云战略理念。他指出,当下企业的云架构早已突破单一云服务模式,即便企业主力依托单一云平台运营,业务运转中也必然会对接各类SaaS应用、合作方异构云系统,多云融合、跨云协作是行业常态。因此,企业AI安全建设不能局限于单一平台,必须搭建起跨云、跨模型的统一安全防护体系,形成常态化、一致性的安全态势,才能全方位抵御多元风险。


随着AI技术全面渗透,网络安全的威胁格局已发生颠覆性变革,传统防御体系彻底失效。德·索萨援引行业数据印证风险的紧迫性:网络攻击的迭代速度实现指数级提升,从黑客完成初始入侵到发起后续攻击的间隔时间,已从以往的8小时骤缩至22秒。与此同时,AI技术大幅拓宽了网络攻击面,企业需要防护的不再只是传统网络资产、设备数据,AI模型、训练数据管道、智能体、提示词等全新核心资产,均成为黑客攻击的重点目标。


其中,一个极易被企业忽视的隐性风险,来自AI智能体的自主检索能力。德·索萨解释,多数企业内部留存着大量长期未维护、未更新的老旧数据仓库,比如闲置多年的SharePoint服务器,对应的访问控制机制早已失效。以往这类老旧数据资产无人问津,几乎不存在泄露风险,但企业部署的AI智能体可自主遍历内部系统,精准定位并读取这些沉睡的老旧数据,导致大量隐秘数据被动暴露,给企业带来合规与声誉双重风险。


面对机器速度、智能驱动的新型网络攻击,人类主导的传统防御模式早已力不从心。对此,德·索萨给出明确解决方案:以机器速度对抗机器速度,用原生AI防御AI攻击。当前,具备全代理能力的AI防御系统已然成型,企业可依托智能体驱动安全防御工作,摆脱对人工值守的依赖。防御模式也从过去的人力主导、人工介入,迭代为AI自主防御、人类监督管控的全新形态。更重要的是,他强调AI安全早已超越单纯的技术范畴,升级为企业战略与管理层的领导力问题,需要董事会、高管团队高度重视、统筹布局,而非仅依靠安全团队孤军奋战。


但理想的防御体系落地,仍面临难以突破的现实瓶颈。一方面,AI安全专业人才缺口持续扩大,能够精准监督AI防御系统、处置新型AI漏洞的从业者供不应求;另一方面,AI技术迭代催生的新型漏洞,倍增速度远超安全团队的修复效率,行业正深陷“漏洞末日”困境。领英首席信息安全官莉娅·基斯纳直言,整个行业仍需数年时间,才能真正摸清AI安全的底层逻辑,建立可持续、常态化的长效治理体系。


更具讽刺意味的是,作为AI安全理念的倡导者与技术服务商,谷歌云自身的平台安全机制,仍存在明显短板与争议。近期,《The Register》曝光多起谷歌云开发者遭遇无端高额账单的安全事故,暴露出谷歌平台安全治理的漏洞与优先级偏差。多名谷歌云开发者在未主动启用、未使用相关服务的情况下,因原有API密钥被悄然赋予Gemini模型访问权限,遭遇未经授权的模型调用,产生五位数高额账单。


面试准备平台Prentus首席执行官罗德·达南、悉尼开发者伊苏鲁·丰塞卡均深陷此类困境,前者短短30分钟内产生超万美元账单,后者一夜之间产生约1.7万澳元费用,即便设置了预算上限,仍因谷歌系统自动升级计费层级、未经用户同意提升10万美元实际额度,导致巨额损失。尽管谷歌事后为用户退款,但并未整改自动升级计费层级的政策,始终将避免服务中断置于用户预算安全之上,凸显出平台治理的价值偏差。


除此之外,谷歌云的密钥撤销机制存在致命延迟漏洞。安全公司Aikido的研究显示,开发者发现密钥泄露后立即删除关停,攻击者仍可在23分钟内持续利用该密钥调用Gemini模型、窃取缓存对话数据与文件,且该窗口期内的攻击成功率极不稳定,部分时段验证通过率超90%。而谷歌新版服务账户凭证、AQ前缀密钥的撤销时间仅需数秒至一分钟,足以证明23分钟的撤销延迟并非技术瓶颈,而是谷歌平台安全优先级设置不当导致的人为问题。


德·索萨提出的AI安全理念无疑是行业真知,前置化安全布局、平台化治理、机器对抗机器的防御思路,为企业破解AI安全难题提供了清晰路径,值得全行业重视与践行。但谷歌云暴露的系列问题,也揭露了整个行业的现实矛盾:顶级科技企业倡导的高标准安全理念,与自身平台的落地执行、优先级布局存在明显差距。


这也为所有企业与技术平台敲响警钟:AI安全从来不是一句口号,也不是单纯的理论指引。无论是技术服务商还是落地企业,唯有将安全理念贯穿技术研发、平台搭建、运维治理的每一个环节,平衡好服务稳定性、创新速度与安全风控的关系,缩小理念与落地的差距,才能真正穿越AI安全过渡期,迎来安全、有序、可持续的AI产业新生态。
用户评论