競爭秩序,,永遠(yuǎn)是常說常新的話題。尤其是在新舊產(chǎn)業(yè)交替的時(shí)刻,。
在過去一年,,我們看到,互聯(lián)網(wǎng)平臺舊腳本的問題尚未解決,,在存量競爭中矛盾越發(fā)突出,;人工智能帶來的新故事里,亦充滿了安全與治理的迷惑,。
即日起,,我們將推出《2024年競爭秩序場報(bào)告》,聚焦電商,、社交平臺和端側(cè)AI三大領(lǐng)域,,從過去一年的典型案例入手,梳理競爭秩序的裂隙與演變,。這不是一份解決問題的清單,,而是一份拋出問題的地圖:哪些秩序出現(xiàn)了裂隙?又將如何塑造未來的市場格局,?
一 實(shí)測六大社交平臺:推薦算法大起底
推薦算法的雙重難題
推薦算法的本質(zhì)是內(nèi)容分發(fā),,旨在提高信息分發(fā)的效率。2012年,,最典型的推薦算法產(chǎn)品今日頭條誕生,;2017年,抖音引入智能推薦算法,。推薦算法從星星之火到烈火烹油,,各大社交平臺都開始通過分析用戶的歷史行為、興趣偏好和個(gè)性特征,,精準(zhǔn)預(yù)測用戶的喜好,并構(gòu)建出信息流式的內(nèi)容推薦體系,。
從工作原理來看,,目前的推薦算法系統(tǒng)大多由三個(gè)要素組成:用戶、項(xiàng),、用戶對項(xiàng)的操作行為,。
簡單理解,“用戶”指的是每個(gè)用戶獨(dú)特的興趣特征、身份特征等等,;“項(xiàng)”是用戶與內(nèi)容之間的相似性,,比如算法會找到與某個(gè)用戶興趣最相似的人群,再給他們互相推薦一方感興趣,、另一方還沒接觸過的內(nèi)容,;“操作行為”則主要包括每個(gè)用戶的點(diǎn)擊、購買,、觀看,、瀏覽數(shù)據(jù)。
在這些大數(shù)據(jù)的基礎(chǔ)上,,推薦算法能夠越來越精準(zhǔn)地“猜你喜歡”,,也引起越來越多的爭議,其爭議點(diǎn)可以歸納為客觀上的“不安全”和主觀上的“不安全感”,。
一方面,,推薦算法是平臺提高用戶黏性的主要競爭手段,它越能精準(zhǔn)向用戶推薦符合其偏好的內(nèi)容,,用戶看到的信息就越單一,,長此以往可能停留在算法構(gòu)造的“過濾氣泡”中。
另外,,推薦算法越來越能“讀人心”,,而透明度沒有及時(shí)跟進(jìn)。面對新技術(shù)的艱深造物,,公眾難免會產(chǎn)生懷疑和不信任感,。
需要提到的是,也有不同觀點(diǎn)認(rèn)為平臺在實(shí)踐中有追求算法多樣性的內(nèi)在動(dòng)力,,因?yàn)橛脩裟芟M(fèi)更多種類的內(nèi)容和商品,,反而是更利好平臺商業(yè)變現(xiàn)的做法。國外學(xué)者在研究算法成癮問題時(shí)進(jìn)一步發(fā)現(xiàn),,平臺留住用戶的最好方式其實(shí)是“提供兩條不感興趣的內(nèi)容,,再提供三條感興趣的內(nèi)容”,這種間歇性的“內(nèi)容獎(jiǎng)勵(lì)”會讓人們產(chǎn)生更多多巴胺,,心理原理類似“老虎機(jī)”的賭博成癮過程,,因此帶來的算法成癮問題同樣值得關(guān)注。
測評:“算法透明”長路漫漫
針對信息繭房和上癮問題,,2024年11月,,國家網(wǎng)信辦下發(fā)的《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動(dòng)的通知》要求相當(dāng)明確:嚴(yán)禁推送高度同質(zhì)化內(nèi)容誘導(dǎo)用戶沉迷。不得強(qiáng)制要求用戶選擇興趣標(biāo)簽,,不得將違法和不良信息記入用戶標(biāo)簽并據(jù)以推送信息,,不得超范圍收集用戶個(gè)人信息用于內(nèi)容推送,。規(guī)范設(shè)置“不感興趣”等負(fù)反饋功能。
結(jié)合專項(xiàng)行動(dòng)的要求,,南財(cái)合規(guī)科技研究院-21世紀(jì)經(jīng)濟(jì)報(bào)道對微信公眾號,、微博、抖音,、快手,、小紅書、B站的推薦算法的合理性進(jìn)行了測評,,測評分為算法可解釋性,、用戶自主性、防沉迷措施三個(gè)方面,。
在算法可解釋性上,,目前只有微博對推薦內(nèi)容給出了非常簡略的原因解釋。在“關(guān)注”頁面,,如果刷到了純粹由算法推薦的博文,,頂部會有一行小字解釋:看到該內(nèi)容是因?yàn)槟P(guān)注的好友“xx關(guān)注了”或您關(guān)注的好友“xx點(diǎn)贊了”。至于為什么在眾多內(nèi)容中算法選擇推薦了這一條,,并沒有給出更多維度的解釋,。不過,在抖音推薦頁面,,如果好友點(diǎn)贊會提示“××推薦”,;在朋友頁面,則可以看到關(guān)注好友發(fā)布的視頻,。
與此同時(shí),,微博、抖音,、嗶哩嗶哩都采用了相似的興趣標(biāo)簽管理設(shè)計(jì):長按一條內(nèi)容,,可以看到“減少xx用戶”“減少xx頻道”“減少xx標(biāo)簽推送”的選擇,一定程度上解釋了這條內(nèi)容在算法中的分類,,也讓用戶更便捷地管理算法偏好,。但微博和嗶哩嗶哩也因此沒有設(shè)置統(tǒng)一的、全方位的偏好管理頁面,。
這就說到了在自動(dòng)算法面前,,用戶能掌握多少自主性的問題。測評發(fā)現(xiàn),,小紅書,、快手、抖音都有統(tǒng)一的標(biāo)簽管理頁面,,用戶能在這些頁面里調(diào)節(jié)每種內(nèi)容的算法推薦強(qiáng)度,,內(nèi)容標(biāo)簽約一百種。
但必須指出的是,,這些標(biāo)簽管理頁面的入口都隱藏很深,,比如抖音的點(diǎn)開步驟為:Tab欄中的“我”→右上角的“設(shè)置”→“更多功能”→“使用管理助手”→“內(nèi)容管理”,五步操作后才能進(jìn)入最終頁面,,而且“使用管理助手”的名字也很難讓普通人直觀理解含義,。相比之下,快手的“內(nèi)容偏好設(shè)置”直接放在了側(cè)邊欄,。
用戶需要能夠關(guān)閉“個(gè)性化推薦”,,已經(jīng)是近三年反復(fù)提及的要求。將個(gè)性化推薦的開關(guān)放在“隱私設(shè)置”中,,也是較為普遍的做法,,但測評仍然注意到兩個(gè)問題:一、關(guān)閉入口隱藏較深,,起碼需要經(jīng)過四次操作,,并且?guī)缀趺恳淮尾僮鞫夹枰吕巾撁孀畹撞浚欢?、所有平臺的個(gè)性化內(nèi)容推薦和個(gè)性化廣告推薦都需要分開關(guān)閉,,甚至有些關(guān)閉按鈕在完全不同的目錄中。比如,,抖音的“個(gè)性化廣告”在單獨(dú)的“了解與管理廣告推送”功能里,。
最后,在防沉迷問題上,,視頻平臺的措施相對完善——抖音和嗶哩嗶哩都有單獨(dú)的時(shí)間管理功能,,用戶可以為自己限制使用時(shí)間或者設(shè)置提醒。而其他平臺只有用戶打開青少年模式后,,才能使用類似功能,。
二 實(shí)測多款A(yù)I手機(jī):技術(shù)發(fā)展背后蟄伏風(fēng)險(xiǎn)
市場現(xiàn)狀:AI注入新活力
繼2023年創(chuàng)下10年來最低紀(jì)錄后,全球智能手機(jī)市場下行趨勢出現(xiàn)逆轉(zhuǎn),。據(jù)市場調(diào)研機(jī)構(gòu)Counterpoint的報(bào)告,,全球智能手機(jī)市場2024年銷量同比增長4%,在連續(xù)兩年下滑后首次迎來復(fù)蘇,。
對于未來,,Counterpoint還預(yù)測到,2025年全球智能手機(jī)市場還將會繼續(xù)增長,,其中收入將增長8%,,銷量增長4%,前景較好,。
直觀的數(shù)字客觀折射出現(xiàn)狀:2023年前,,以手機(jī)為代表的消費(fèi)電子行業(yè)已低迷多年,,各路手機(jī)廠商在外觀、芯片,、續(xù)航等功能上下功夫,,收效微薄。
2022年底ChatGPT的爆火引發(fā)了生成式人工智能熱潮,,大模型成為市場押注的風(fēng)向,。伴隨著技術(shù)的發(fā)展迭代,大模型逐漸走向手機(jī),、汽車,、智能設(shè)備等端側(cè),AI與端側(cè)的融合被視為新的創(chuàng)新錨點(diǎn),,成了手機(jī)廠商刺激增長的抓手,。
2023年起,各個(gè)手機(jī)廠商紛紛推出自己的大模型,。手機(jī)廠商布局大模型并非噱頭,,而是切實(shí)可以帶來手機(jī)性能的提升以及商業(yè)模式創(chuàng)新。
端側(cè)大模型指在終端設(shè)備(如智能手機(jī),、平板,、PC、智能穿戴設(shè)備,、自動(dòng)駕駛及具身智能等)上運(yùn)行的大型預(yù)訓(xùn)練模型,。實(shí)時(shí)性、低延時(shí)等是端側(cè)AI最誘人的優(yōu)勢,。借助端側(cè)大模型,,用戶大部分?jǐn)?shù)據(jù)處理均在本地完成,只有少量高算力需求的場景會調(diào)用云端算力,,大幅提高響應(yīng)速度,。
在手機(jī)上落地大模型具有天然優(yōu)勢。手機(jī)終端直接觸達(dá)用戶,,擁有豐富的用戶數(shù)據(jù),,可以與模型交互,提升模型性能,,并反哺提升用戶體驗(yàn),。
這正是手機(jī)廠商新商業(yè)故事的起點(diǎn),榮耀手機(jī)原CEO趙明曾表示,,AI手機(jī)的核心是基于算力的個(gè)人定制化操作系統(tǒng),,“不是擁有生成式AI功能的手機(jī)就叫AI手機(jī),未來的AI手機(jī)是一個(gè)可以真正懂你的手機(jī)”,。
可以看到,,從2024年下半年開始,,各個(gè)手機(jī)廠商推出新機(jī)型主打的賣點(diǎn)是AI智能體,其類似于大模型的肉身,,作為用戶與數(shù)字世界的交互入口,。比如用戶只需要跟智能體聊天,就可以實(shí)現(xiàn)修圖,、配文一鍵轉(zhuǎn)發(fā)朋友圈;一句話的指令,,智能體就能直接點(diǎn)外賣,、打車、購物,。
在更廣闊的未來中,,智能體將是你最忠實(shí)的助手、最熟悉的伙伴,,理解用戶,,預(yù)測用戶需求,提供個(gè)性化服務(wù)和情感共鳴,,為商業(yè)拓寬邊界,。
目前的市場預(yù)測印證了對智能體商業(yè)邏輯的認(rèn)可:最新市場研究,預(yù)計(jì)到2030年,,全球AI智能體市場規(guī)模將從2024年的51億美元激增至471億美元,,年均復(fù)合增長率達(dá)到44.8%。
隱私保護(hù):AI手機(jī)商業(yè)故事的起點(diǎn)
大模型的技術(shù)特點(diǎn)以及智能體的功能定位,,決定了AI時(shí)代隱私保護(hù)問題的復(fù)雜性,。
首先,數(shù)據(jù)是AI模型的“食糧”,,AI模型的建立,,依賴于大量的數(shù)據(jù)進(jìn)行訓(xùn)練和優(yōu)化,以提升其準(zhǔn)確性和性能,。
其次,,為了提供更加精準(zhǔn)的個(gè)性化服務(wù),必須收集和分析用戶的行為習(xí)慣,、偏好等信息,。
各個(gè)手機(jī)智能體還會嵌入“智能加強(qiáng)”之類的功能,來搜集更多的個(gè)人數(shù)據(jù),。比如榮耀YOYO的“個(gè)人記憶”會收集日程信息,、交易信息、重要人物/地點(diǎn),、紀(jì)念日信息,;小布的意圖感知服務(wù)會收集:位置信息,、應(yīng)用使用信息、亮滅屏狀態(tài),、開關(guān)機(jī)信息,、運(yùn)動(dòng)健康信息(步數(shù)、睡眠)等,。
此外,,在運(yùn)行AI任務(wù)時(shí),也需要充足的數(shù)據(jù)來處理和分析,。這些數(shù)據(jù)可能來自手機(jī)內(nèi)置的傳感器,、用戶輸入的信息以及從云端獲取的數(shù)據(jù)等。
可以看到,,AI手機(jī)的功能須“吞下”大量的個(gè)人數(shù)據(jù)才能夠成立,。因此,隱私保護(hù)也就成了一切商業(yè)故事的起點(diǎn),。隱私保護(hù)做不到位,,將直接影響用戶的信任度。
測評:我的隱私是否被濫用,?
測試多款A(yù)I手機(jī)后,,一個(gè)明顯的感受是:隱私政策變得前所未有的復(fù)雜。
AI時(shí)代,,手機(jī)廠商既是功能聚合的中心,,也是數(shù)據(jù)流轉(zhuǎn)的節(jié)點(diǎn),隱私政策變得更加細(xì)密而難以解讀,。
“AI功能”下設(shè)的每一項(xiàng)功能,,幾乎都會有單獨(dú)的隱私政策,好比不同的App,,負(fù)責(zé)不同模塊,,隨即衍生出了多個(gè)說明文檔。
這種“分工明確”的隱私條款,,一方面體現(xiàn)了廠商對數(shù)據(jù)保護(hù)的重視,,另一方面卻讓消費(fèi)者稍不留神就陷入信息迷宮,難以真正了解自己的數(shù)據(jù)被如何收集與使用,。
而更令人擔(dān)憂的是,,手機(jī)廠商是否“掛著羊頭賣狗肉”,更加難以辨明,。
在實(shí)測過程中,,南財(cái)合規(guī)科技研究院-21世紀(jì)經(jīng)濟(jì)報(bào)道發(fā)現(xiàn)了不少與手機(jī)廠商的宣傳有出入的地方,首當(dāng)其沖的是端側(cè)處理與云側(cè)處理之爭。
上述提到,,端側(cè)AI的用戶大部分?jǐn)?shù)據(jù)處理均在本地完成,,這決定了端側(cè)AI在私密性上的優(yōu)勢。榮耀宣傳時(shí)強(qiáng)調(diào)“端側(cè)AI更個(gè)人化,、人性化,、隱私保護(hù)的智慧體驗(yàn)?!眝ivo也對外表示“今年我們有十幾個(gè),、數(shù)十個(gè)功能都端側(cè)化了,以后可能閑聊,、識別,、決策、執(zhí)行全部都端側(cè)化了,。”
但現(xiàn)實(shí)中,,目前國內(nèi)AI手機(jī)的許多功能依然高度依賴云側(cè)處理,。
一旦數(shù)據(jù)上傳云端,隱私泄露的風(fēng)險(xiǎn)成倍增加,。
聰明的廠商未雨綢繆地強(qiáng)調(diào)自己的數(shù)據(jù)保護(hù)手段:采取優(yōu)先本地化(端側(cè))處理+加密上傳云端處理的措施,。盡管機(jī)制上保證安全,但數(shù)據(jù)上云確實(shí)放大了數(shù)據(jù)隱私保護(hù)的風(fēng)險(xiǎn),,也與端側(cè)大模型的賣點(diǎn)不相符,。
此外,智能體對用戶的響應(yīng),,大多依靠“識屏+模擬點(diǎn)擊”技術(shù)路線,,業(yè)內(nèi)安全技術(shù)專家告訴21世紀(jì)經(jīng)濟(jì)報(bào)道記者,背后的技術(shù)邏輯大概是“無障礙權(quán)限”,,這便引發(fā)了更深的問題,。
無障礙權(quán)限本身是為殘障人士提供無障礙支持,包括iOS的VoiceOver(旁白)功能,、Android的TalkBack功能,。但這些年,無障礙權(quán)限成為不少廠商鉆空子的切入口,,成為繞過用戶授權(quán)的隱秘通道,。
比如自動(dòng)搶紅包的App、游戲自動(dòng)外掛等,,均是利用了無障礙權(quán)限,。與第三方App不同的是,智能體是手機(jī)廠商自己打造的超級助手,擁有更接近技術(shù)系統(tǒng)的優(yōu)勢和更高的權(quán)限調(diào)用能力,,這讓無障礙權(quán)限被濫用的話題更為敏感,。
在實(shí)測中,,21世紀(jì)經(jīng)濟(jì)報(bào)道記者發(fā)現(xiàn)OPPO、vivo,、榮耀的手機(jī)的隱私政策里,無障礙權(quán)限的說明均不夠清晰,。比如榮耀在其“榮耀AI·基礎(chǔ)服務(wù)”中的情景感知功能中提及,會動(dòng)態(tài)借助系統(tǒng)的無障礙功能,,但是哪些具體操作用到無障礙功能未做說明。
相比之下,,OPPO的小布識屏隱私政策則稍顯清晰,提到該功能會調(diào)用無障礙權(quán)限用于防誤觸和朗讀文章,,但未要求用戶在開啟權(quán)限時(shí)進(jìn)行明確授權(quán),。榮耀與vivo因其表述較為模糊,,不明確哪些功能涉及無障礙功能,因此實(shí)測中無法確定是否詢問用戶,。
對此,,OPPO回應(yīng)21世紀(jì)經(jīng)濟(jì)報(bào)道記者稱,無障礙服務(wù)僅會被用于幫助使用有困難的用戶更好的使用智能設(shè)備,,因?yàn)楸憷缘纫恍┛陀^原因,,所以調(diào)用無障礙服務(wù)可以無需授權(quán);但是無障礙服務(wù)的使用前提依然是需要遵循用戶隱私規(guī)范,。