12月3日,有用户向第一财经记者反映nubia M153工程机无法正常登录微信或无法操作涉及微信任务的情况。目前登录微信功能已恢复,但是已无法操作涉及微信任务。
原因究竟为何?微信相关人士对外回应称:目前了解到没有什么特别的动作,看是否触及微信安全风控措施。
涉及操作系统权限开放
业内技术人员把关注的焦点放在了nubia M153为豆包开启了INJECT_EVENTS(注入权限/注入事件)权限。这意味着允许应用向系统注入模拟的用户输入事件。在Android的AndroidManifest权限定义中,INJECT_EVENTS 的保护级别(Protection Level)被标记为 signature(签名级别),属于操作系统高危权限。
这并非一个普通的App权限,它是Android系统权限体系中级别最高、管控最严的“禁区”,用最直白的话形容:这是一个只有手机厂商“亲儿子”才能获得的特权。
在业内看来,获得此权限的应用,在系统看来已不再是一个第三方软件,而是成了操作系统本身的一部分,从而获得了深入底层的通行证。过去,只有手机厂商自己,或其深度授权的合作伙伴,才能开发出无法被拦截的跨应用操作AI。任何第三方AI应用,即便是ChatGPT的官方App,无论其模型多么智能,只要无法获得此权限,能力就被禁锢在聊天框内,永远无法代替人来操作手机。
有技术人员提到,INJECT_EVENTS权限要求APP必须用手机厂商的系统私钥签名,当该权限开放给普通APP可能带来安全风险,如手机被完全接管,模拟手指输入银行密码、点击转账确认等。
“这正是为什么类似豆包这样的AI大模型,必须与中兴这样的手机厂商合作,推出定制工程机的核心原因。”一不愿意具名的手机厂商内部人士对记者表示,只有通过手机厂商工程师用系统密钥打包并烧录进手机ROM,这一权限方能生效。
也有行业人士表示,小米小爱、荣耀yoyo等手机厂商原生助手也拥有该权限。豆包手机助手是通过和终端手机厂商合作获得该权限。
换言之,当中兴将豆包的能力在手机上的权限放大后,这一应用可以像操作系统原生部件一样,跨应用操作。“这也许也是APP厂商难以接受的一点,其实现在豆包所说的很多功能,就是因为权限和隐私的考虑,并没有对外推出。”上述负责人对记者表示,尤其是豆包的数据很多都是放在云端,相比于端侧,可能需要考虑的数据风险会更高一些。
豆包方面对第一财经回应称,手机助手执行任务需用户授权,在执行过程有明确的展示,且用户可以中断。操作手机能力由用户触发、用户监督,并不自动执行。
知道创宇首席安全官周景平对记者表示,INJECT_EVENTS 属于操作系统层面较高权限,对于模型方来说,权限获取得越高,可以操作的任务也就越多。在豆包与中兴之间已达成操作系统层面合作前提下,获取到该程度的权限也存在合理性。
一位Agent领域从业者对记者表示,如果要获取到这种程度的权限需要模型方与硬件方之间存在官方层面的深度合作。AIGCLINK发起人占冰强对记者表示,INJECT_EVENTS虽然存在一定安全风险,但如果双方达到一定合作紧密度、且部分场景需要,就有开放该权限的必要性。
需要合理获取与利用
记者查阅互联网APP相关条款发现,第三方APP对外部应用抓取数据有明确禁止规定。美团在知识产权声明中强调,不得通过技术手段扫描、探测、抓取美团平台内容。淘宝平台服务协议显示,禁止存在可能破坏、篡改、删除、影响淘宝平台任何系统正常运行或未经授权获取淘宝平台及其他用户的数据、个人资料的病毒、木马、爬虫等恶意软件、程序代码。
不过,如果是通过手机操作系统来获取权限则并不在以上的讨论范围。“普通的APP是用APP的私钥签名的。而这个权限要求APP必须使用手机厂商的系统私钥签名。换句话说,豆包手机助手本质上被设置成了操作系统的一部分,而不是一个外来的第三方软件。”有技术人员这样表示。
随着智能体与用户、应用的交互场景频次与复杂度不断攀升,手机操作更为便利的同时也会带来如身份冒用、权限滥用、数据泄露等诸多安全风险,严重威胁着用户隐私与应用的安全。vivo AI全球研究院院长周围此前在接受记者采访时曾提到,对未来AI智能体的应用态度是保持克制和共建。
“当有一个按钮上面显示了AI的功能,对绝大多数用户来说会陷入一个短暂性的猜想,到底这个功能是什么,它会不会抓我的数据,会不会带来一些无预期的结果。所以,我们在做AI和OS融合的过程中尽量回归到用户原有的习惯,让用户原有的任务流不变,用最自然的方式,无感化帮客户完成。”周围对记者表示,这是手机厂商在OS体验过程中坚持的“无感化”的基本原则。
周围认为,应用智能体接下来的发展策略可能是第一建好能力,第二是需要合作伙伴一起来做。
12月1日,云计算标准和开源推进委员会联合中国信息通信研究院等单位发布了智能体交互双重授权相关的安全指引,指引内容包括“智能体在访问第三方应用时,应当遵循第三方应用的核验规则,不得通过模拟用户行为、伪造交互事件、自动生成用户响应或其他方式绕过核验措施。”由此可见,构建由用户和应用双重授权的安全机制还需要一定时间。
周景平对记者表示,目前手机厂商、模型厂商、传统APP厂商三方面都在尝试推进AI落地,这场战役本质上是一场入口之争。目前这三个角色,其实都在发展尝试落地阶段。从传统互联网数据视角来看,各家互联网软件的数据都被视为自身企业的核心命脉,竞争本质是私有数据的入口之争。至于安全风险的讨论,周景平认为,由于目前各产品的形态与场景还不确定,因此还处于观察早期。
另外,值得强调的一点是,目前这款“豆包助手”手机的目标用户并不是普通消费者,作为工程机,受众仍以开发者群体为主。