AI也開始“帶貨”了！近日，不少消費(fèi)者反映，在向AI咨詢?nèi)粘Ｉ顔栴}時(shí)，得到的答案中竟植入了商業(yè)推薦內(nèi)容。調(diào)查發(fā)現(xiàn)，向AI定向投喂數(shù)據(jù)以提高品牌曝光度，已形成灰色產(chǎn)業(yè)鏈。由于當(dāng)前AI對海量網(wǎng)絡(luò)信息難辨真?zhèn)危恍┦袌稣J(rèn)知度低、甚至完全虛構(gòu)的品牌，也能進(jìn)入AI的推薦列表，呈現(xiàn)在用戶面前。

當(dāng)本應(yīng)“智能篩選、客觀推薦”的AI機(jī)制異化為“定向投喂、精準(zhǔn)收割”的營銷工具，多方面的危害不容忽視。品牌方將“AI推薦位”作為競購的廣告位，實(shí)際上是將商業(yè)戰(zhàn)的戰(zhàn)場推到了數(shù)據(jù)源頭。然而，如果任由灰色產(chǎn)業(yè)野蠻生長，那么品牌方將陷入惡性競爭，造成AI數(shù)據(jù)輸入失控。計(jì)算機(jī)領(lǐng)域流傳著一句諺語：垃圾進(jìn)，垃圾出。當(dāng)輸入的數(shù)據(jù)受到污染，輸出的必然是錯(cuò)誤或劣質(zhì)的結(jié)果，最終導(dǎo)致消費(fèi)者“踩坑”。

更需警惕的是，技術(shù)倫理的失守早有先例。在搜索引擎時(shí)代，就曾有企業(yè)在搜索結(jié)果、推薦信息的排序上“一切向錢看”，縱容金融、健康等關(guān)鍵領(lǐng)域的商業(yè)信息操縱，釀成財(cái)產(chǎn)損失乃至生命悲劇。進(jìn)入AI紀(jì)元，算法的“價(jià)值觀”由訓(xùn)練它的企業(yè)所賦予。技術(shù)公司在逐利與公益之間的取舍，將決定AI是成為便利生活的工具，還是收割認(rèn)知的利器。如果放任黑灰產(chǎn)組織借AI之力布設(shè)詐騙陷阱，個(gè)體的認(rèn)知安全風(fēng)險(xiǎn)便會升級為社會公共安全威脅。

從這個(gè)意義上講，要整治“AI帶貨”亂象，就必須追溯到數(shù)據(jù)上游、深入到算法內(nèi)核，推動(dòng)多方共治，不僅斬?cái)嗄缓罂v的黑手，更要凈化AI的“認(rèn)知”養(yǎng)成環(huán)境，錨定算法的價(jià)值原點(diǎn)。

政府部門需前瞻立法。在傳統(tǒng)互聯(lián)網(wǎng)廣告監(jiān)管已顯滯后的背景下，必須建立起適配的法律框架。對于數(shù)據(jù)投喂存在的不正當(dāng)競爭風(fēng)險(xiǎn)，以及植入廣告存在的品牌虛假、產(chǎn)品偽劣風(fēng)險(xiǎn)，立法者需要在廣告法、反不正當(dāng)競爭法等法律基礎(chǔ)上，進(jìn)一步明確AI生成商業(yè)內(nèi)容的責(zé)任歸屬；執(zhí)法者則要加強(qiáng)識別能力，嚴(yán)查植入廣告中的假冒偽劣與坑蒙拐騙，懲處違法違規(guī)的營銷企業(yè)，切斷黑灰產(chǎn)業(yè)的利益鏈。

技術(shù)企業(yè)需壓實(shí)責(zé)任。AI服務(wù)提供商應(yīng)打開“技術(shù)黑箱”。在數(shù)據(jù)治理上，應(yīng)建立貫穿輸入、處理、輸出的全流程標(biāo)識與追溯體系，同時(shí)強(qiáng)化對訓(xùn)練數(shù)據(jù)的質(zhì)量篩查與來源審核，避免無效信息、涉險(xiǎn)信息的無節(jié)制輸入；在算法設(shè)計(jì)上，應(yīng)遵循“用戶利益最大化”“社會效益優(yōu)先”的原則，通過持續(xù)優(yōu)化模型結(jié)構(gòu)與權(quán)重配置，使推薦機(jī)制不僅匹配用戶需求，更彰顯社會責(zé)任。

用戶也需完善認(rèn)知。當(dāng)前，AI在生成結(jié)果時(shí)仍難以避免“幻覺”與“偏見”。因此，用戶需培育個(gè)人的“AI素養(yǎng)”，在提高解決問題效率的同時(shí)，不輕信、不盲從AI生成的結(jié)果，對AI推薦的商業(yè)內(nèi)容更要保持天然警惕。此外，用戶要學(xué)會用多角度提問、交叉驗(yàn)證等方式，過濾錯(cuò)誤結(jié)果，提高答案可信度。

說到底，AI推薦的宗旨是服務(wù)于人。整治“AI帶貨”亂象，不是要捆住AI發(fā)展的手腳，而是樹牢底線思維，劃定行為邊界，讓“以人為本、技術(shù)向善”的理念嵌入AI、照亮生活。

來源：新重慶