豆包手機(jī)助手團(tuán)隊(duì)近日宣布,對(duì)AI操作手機(jī)功能啟動(dòng)全面規(guī)范化調(diào)整,重點(diǎn)圍繞技術(shù)合規(guī)性、用戶權(quán)益保護(hù)及行業(yè)生態(tài)平衡展開(kāi)優(yōu)化。此次調(diào)整涉及多個(gè)高頻使用場(chǎng)景,旨在構(gòu)建更安全、可持續(xù)的技術(shù)應(yīng)用環(huán)境。
在應(yīng)用生態(tài)維護(hù)方面,針對(duì)部分平臺(tái)通過(guò)用戶行為獲取激勵(lì)的機(jī)制,豆包將嚴(yán)格限制AI模擬人類操作完成刷分、刷任務(wù)等行為。團(tuán)隊(duì)負(fù)責(zé)人解釋稱,此類操作雖能提升效率,但與平臺(tái)鼓勵(lì)真實(shí)用戶互動(dòng)的初衷相悖,長(zhǎng)期來(lái)看可能破壞生態(tài)平衡。目前系統(tǒng)已通過(guò)行為模式識(shí)別技術(shù),對(duì)異常高頻操作進(jìn)行動(dòng)態(tài)攔截。
金融安全領(lǐng)域成為此次調(diào)整的重中之重。盡管此前所有涉及資金交易的操作均需用戶二次授權(quán),但考慮到支付類應(yīng)用的安全敏感性,團(tuán)隊(duì)決定暫時(shí)下線AI操作銀行APP、第三方支付平臺(tái)等功能。據(jù)悉,該團(tuán)隊(duì)正與多家金融機(jī)構(gòu)協(xié)商制定標(biāo)準(zhǔn)化安全協(xié)議,未來(lái)可能通過(guò)生物識(shí)別、動(dòng)態(tài)驗(yàn)證碼等增強(qiáng)驗(yàn)證方式逐步恢復(fù)服務(wù)。
游戲場(chǎng)景的公平性同樣受到關(guān)注。在包含競(jìng)技排名、虛擬資產(chǎn)交易等功能的游戲中,AI代操作功能已被暫停。某熱門MOBA游戲廠商透露,近期檢測(cè)到部分賬號(hào)存在異常操作記錄,經(jīng)排查確認(rèn)與自動(dòng)化工具相關(guān)。此次調(diào)整后,系統(tǒng)將通過(guò)操作頻率、路徑分析等技術(shù)手段強(qiáng)化反作弊檢測(cè)。
此前引發(fā)廣泛討論的微信操作異常事件,在此次調(diào)整中得到特別說(shuō)明。12月初,部分用戶反饋AI操作微信時(shí)出現(xiàn)賬號(hào)強(qiáng)制退出、登錄失敗等情況。經(jīng)技術(shù)排查,問(wèn)題源于微信安全系統(tǒng)檢測(cè)到非常規(guī)操作模式后觸發(fā)的保護(hù)機(jī)制。豆包團(tuán)隊(duì)強(qiáng)調(diào),所有操作均需用戶主動(dòng)授權(quán),且采用端到端加密技術(shù),不會(huì)存儲(chǔ)任何屏幕內(nèi)容或賬號(hào)信息。目前受影響賬號(hào)已完成解封,雙方技術(shù)團(tuán)隊(duì)正建立更緊密的異常響應(yīng)通道。
行業(yè)分析師指出,此次調(diào)整反映出AI工具在商業(yè)化進(jìn)程中面臨的合規(guī)挑戰(zhàn)。隨著技術(shù)滲透率的提升,如何在提升效率與保障安全之間找到平衡點(diǎn),將成為所有智能助手類產(chǎn)品的共同課題。豆包團(tuán)隊(duì)透露,未來(lái)將建立更透明的用戶告知機(jī)制,并在功能更新前開(kāi)展安全影響評(píng)估。















