原標(biāo)題:海量財經(jīng) | 難登微信、銀行、淘寶等App的AI手機遇阻:“上帝權(quán)限”是創(chuàng)新之舉還是隱私殺手?豆包手機引發(fā)侵入式AI治理爭議
海報新聞記者 周凌峰 報道
12月3日,字節(jié)跳動與中興合作推出的nubia(努比亞)M153工程樣機,在首批試用用戶群體中掀起波瀾。多位開發(fā)者及科技愛好者反饋,這款搭載豆包手機助手技術(shù)預(yù)覽版的設(shè)備,無法正常登錄微信等主流應(yīng)用,更有技術(shù)分析指出其搭載的侵入式AI所獲權(quán)限已觸及操作系統(tǒng)安全紅線,一場關(guān)于AI手機創(chuàng)新邊界與隱私保護(hù)的討論就此展開。
“你的微信登錄環(huán)境存在異常。為了賬號安全,請更換設(shè)備重新登錄。”一位獲得該工程機的用戶盯著屏幕的彈窗質(zhì)疑道:AI會讓登錄環(huán)境不安全嗎?
“上帝視角”讓你絲滑的背后:手機被AI控制著
海報新聞記者注意到,這款定價3499元、定位“技術(shù)預(yù)覽”的工程機,本是字節(jié)跳動“生態(tài)合作”戰(zhàn)略的重要展示。據(jù)北京日報客戶端12月1日報道,字節(jié)明確無自研手機計劃,豆包手機助手是其與手機廠商在操作系統(tǒng)層面合作的AI服務(wù),努比亞M153僅為技術(shù)落地的“打樣”產(chǎn)品,目前字節(jié)正與多家手機廠商洽談合作。
從官方演示來看,豆包手機助手的核心優(yōu)勢在于跨應(yīng)用自動操作能力。試想一種場景:對著手機說一句“我要吃全網(wǎng)最便宜的某品牌的外賣”,它就能自動后臺打開美團(tuán)、淘寶進(jìn)行比價,選出最低價并直接下單,全程無需你反復(fù)跳轉(zhuǎn)和點擊,AI就能幫你在APP間跳轉(zhuǎn)查詢、領(lǐng)券下單,僅支付環(huán)節(jié)需手動確認(rèn),這種“絲滑無感”的體驗曾被業(yè)內(nèi)視為AI手機的突破方向。
但這份“突破”背后暗藏權(quán)限隱患。海報新聞記者從一位拿到樣機的業(yè)內(nèi)技術(shù)人員處獲悉,在手機“應(yīng)用權(quán)限申請與使用情況說明”中,明確標(biāo)注了“android.permission.INJECT_EVENTS”權(quán)限,該權(quán)限允許應(yīng)用向系統(tǒng)注入模擬的用戶輸入事件。
“這種權(quán)限意味著,中興-努比亞用自己的系統(tǒng)私鑰簽名,將豆包手機助手設(shè)置成了操作系統(tǒng)的一部分,而不是一個外來的第三方軟件。”技術(shù)從業(yè)者解釋稱,正是有了進(jìn)程注入,才有了這部AI手機絲滑、無感、無法被限制的跨應(yīng)用操作體驗,遠(yuǎn)超之前利用無障礙服務(wù)的端側(cè)AI能力。
但記者注意到,在Android的權(quán)限定義中,INJECT_EVENTS (注入權(quán)限/注入事件)的保護(hù)級別屬于上帝之手級別的操作系統(tǒng)高危權(quán)限。此前黑客突破操作系統(tǒng)限制,拿到這個權(quán)限,但要面臨侵入計算機系統(tǒng)的相關(guān)刑事責(zé)任。
AI繞過用戶直接選擇,誰才是手機的主人?
當(dāng)前,權(quán)限爭議尚未平息,合規(guī)性問題已浮出水面。
12月1日,中國信通院牽頭在互聯(lián)網(wǎng)協(xié)會大會發(fā)布《端云協(xié)同智能體交互雙重授權(quán)安全指引》,其中明確規(guī)定“智能體在訪問第三方應(yīng)用時,應(yīng)當(dāng)遵循第三方應(yīng)用的核驗規(guī)則,不得通過模擬用戶行為、偽造交互事件等方式繞過核驗措施”。
而豆包手機助手依賴注入權(quán)限實現(xiàn)的模擬點擊、自動跳轉(zhuǎn)等功能,顯然與該指引條款存在沖突。“微信等應(yīng)用的登錄核驗機制,本質(zhì)是為了確認(rèn)操作主體為真實用戶,AI模擬輸入恰好繞過了這一核心環(huán)節(jié)。”一位移動安全領(lǐng)域?qū)<冶硎荆瑧?yīng)用廠商對此類行為的攔截,本質(zhì)是安全體系的自我保護(hù)。
除微信外,用戶及技術(shù)人員反饋,多款銀行APP及隱私敏感類應(yīng)用也出現(xiàn)無法登錄的情況。同時,不僅是銀行APP,就連淘寶app也被提示需要各種驗證才能登錄用戶賬號。
這類應(yīng)用往往搭載更為嚴(yán)格的安全校驗機制,對異常操作行為的識別更為敏銳。“當(dāng)AI以系統(tǒng)級權(quán)限在后臺操控金融應(yīng)用時,既可能觸發(fā)交易安全預(yù)警,也讓用戶數(shù)據(jù)面臨未知風(fēng)險。”一位從事銀行信息安全的人士指出,銀行APP對操作行為的合法性、可追溯性要求極高,侵入式AI的介入打破了既有的安全邏輯。
沒有隱私邊界的AI,或讓用戶“裸奔”在虛擬數(shù)據(jù)中
記者在社交平臺發(fā)現(xiàn),不少網(wǎng)友爭議的核心已從單一產(chǎn)品延伸至行業(yè)深層命題:侵入式AI的隱私邊界在哪里?
據(jù)《晚點LatePost》實測,這款工程樣機在機身側(cè)面配備了一顆專屬的物理按鍵。無論手機處于何種狀態(tài),按下該按鍵即可喚醒助手。它以“疊加層”(Overlay)的半屏卡片形式出現(xiàn),不會中斷用戶當(dāng)前正在使用的App。更重要的是,助手具備“屏幕感知”能力,可以理解當(dāng)前屏幕顯示的內(nèi)容。
看似AI更具備了“溫度”,但這也讓用戶不禁擔(dān)憂,在AI深度介入系統(tǒng)操作的模式下,個人隱私數(shù)據(jù)是保留在本機還是會同步至服務(wù)器?“若包含支付習(xí)慣、位置信息的敏感數(shù)據(jù)上傳至云端,一旦發(fā)生數(shù)據(jù)泄露,后果不堪設(shè)想。”一位被訪用戶對海報新聞記者表示。
記者查閱《中華人民共和國個人信息保護(hù)法》發(fā)現(xiàn),法律層面要求個人信息處理遵循“最小必要”原則,即收集和處理的個人信息應(yīng)限于實現(xiàn)處理目的的最小范圍,不得過度收集。然而,系統(tǒng)級AI的權(quán)限獲取是否符合該原則?每時每刻便可以介入用戶正在操作的流程中是否存在過度?這些問題亟待監(jiān)管層面給出明確答案。
與此同時,安全解法的缺失更放大了用戶關(guān)于隱私保護(hù)的焦慮。目前,字節(jié)與中興均未就豆包手機助手的數(shù)據(jù)存儲方式、安全保障機制發(fā)布官方說明。
從行業(yè)常規(guī)邏輯來看,大模型的推理能力依賴數(shù)據(jù)支撐,端側(cè)AI若需實現(xiàn)復(fù)雜決策,往往需要云端算力協(xié)同,這就涉及數(shù)據(jù)上傳的必要性與安全性平衡。“理想狀態(tài)是敏感數(shù)據(jù)本地處理,非敏感數(shù)據(jù)云端優(yōu)化,但技術(shù)上如何界定邊界、實現(xiàn)隔離,尚無成熟標(biāo)準(zhǔn)。”一位AI領(lǐng)域創(chuàng)業(yè)者表示,當(dāng)前侵入式AI的發(fā)展速度已遠(yuǎn)超安全技術(shù)與治理規(guī)范的更新節(jié)奏。
值得注意的是,豆包手機助手的爭議并非個例,而是AI手機發(fā)展浪潮中的必然矛盾。隨著大模型技術(shù)成熟,“手機廠商+大模型廠商”的合作模式已成為行業(yè)趨勢——谷歌Gemini與三星的合作探索、蘋果計劃采購Gemini服務(wù)強化Siri,均印證了這一方向。
截至發(fā)稿,字節(jié)跳動與中興尚未對權(quán)限爭議及應(yīng)用登錄問題作出公開回應(yīng)。但市場已開始關(guān)注相關(guān)上市公司的后續(xù)動作。中興通訊作為合作方,其股價在12月3日午后出現(xiàn)小幅波動,部分投資者擔(dān)憂爭議可能影響其AI手機合作業(yè)務(wù)進(jìn)展。
AI手機的終極目標(biāo)或許是人機交互,但若以安全為代價的技術(shù)迭代,是否是消費者真實的需求?安全底線和治理框架的邊界感該如何定義?“上帝權(quán)限”是創(chuàng)新還是“裸奔”?這些消費者的疑慮與擔(dān)憂都急需給出明確答案。
[來源:海報新聞 編輯:孫寶震]大家愛看