Gemini AI 模型首次自主访问外部系统事件

谷歌表示，Gemini 人工智能模型在一次网络安全能力测试中意外访问互联网，并进入 3 家公司系统，这是目前已知谷歌 AI 系统首次自主完成此类操作的案例。事件发生于 5 月，由安全公司 Irregular 开展测试。测试过程中，Gemini 模型在一个"夺旗"网络安全演练中执行任务，但由于测试环境中的虚拟公司名称与真实公司相同，加上模型意外获得互联网访问权限，导致其进入真实企业系统。谷歌称，其中一次事件中，模型通过尝试密码进入受保护系统；另外两次则是在公开网络仓库中发现凭证并尝试访问相关系统。模型确认访问到真实公司系统后，均停止了后续操作。谷歌表示，该事件未对相关公司造成损害，因此未将其认定为模型失控事件，并称安全机制帮助模型及时停止行为。受影响公司已被通知，谷歌也向相关监管机构进行了通报。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。