在技術(shù)與道德的天秤上，算法如何找到平衡點(diǎn)
隨著大數(shù)據(jù)、人工智能的廣泛應(yīng)用，一些商業(yè)網(wǎng)站、移動(dòng)新聞客戶端，包括直播平臺(tái)、瀏覽器、搜索引擎、影音軟件等，都在運(yùn)用算法這個(gè)“讀心術(shù)”，為用戶量身打造信息，創(chuàng)造出一種新的個(gè)性化閱讀體驗(yàn)，信息獲取已經(jīng)從“大海撈針”進(jìn)入“私人定制”模式。然而，技術(shù)往往是一把冷冰冰的雙刃劍，在價(jià)值和利益的天平上，所謂的算法成為了利益的砝碼，一切圍著流量轉(zhuǎn)，唯點(diǎn)擊量、轉(zhuǎn)發(fā)量馬首是瞻，“標(biāo)題黨”泛濫，價(jià)值取向跑偏，內(nèi)容淪為附庸。
2017年12月29日，北京市互聯(lián)網(wǎng)信息辦公室曾針對(duì)今日頭條、鳳凰新聞手機(jī)客戶端持續(xù)傳播色情低俗信息、違規(guī)提供互聯(lián)網(wǎng)新聞信息服務(wù)等問題，分別約談兩家企業(yè)負(fù)責(zé)人，責(zé)令企業(yè)立即停止違法行為。
兩天之后，今日頭條平臺(tái)宣布關(guān)閉社會(huì)頻道，將新時(shí)代頻道設(shè)置為默認(rèn)頻道。同時(shí)，今日頭條集中清理了涉嫌違規(guī)的含低質(zhì)內(nèi)容的自媒體賬號(hào)，共封禁、禁言賬號(hào)1101個(gè)。同時(shí)，2017年 12月29日18時(shí)至12月30日18時(shí)，今日頭條手機(jī)客戶端的“推薦”、“熱點(diǎn)”、“社會(huì)”、“ 圖片 ”、“問答”、“財(cái)經(jīng)”等六個(gè)頻道還暫停更新24小時(shí)。
這一力度不可謂不大，也是聚合型新聞APP史上第一次遭到封禁。公開數(shù)據(jù)顯示，截止到2016年7月，今日頭條累計(jì)激活用戶數(shù)達(dá)5.3億，人均日使用時(shí)間超過70分鐘。
相比人工推薦，智能算法推薦投入產(chǎn)出比更高、覆蓋面更廣、個(gè)性化程度更高，但風(fēng)險(xiǎn)把控能力相對(duì)較低。
我國(guó)人工智能仍然處于初級(jí)應(yīng)用階段，以最為廣泛的語音解析為例，在記錄對(duì)話時(shí)，人工智能可能與人類一樣準(zhǔn)確，但它無法辨別出諷刺、笑話或理解上百萬種其他文化背景，而即使是最普通的信息，理解文化背景也至關(guān)重要。
通過人工智能識(shí)別內(nèi)容最大的難點(diǎn)在于攻克語義的復(fù)雜性，涉及到對(duì)邏輯推理和因果關(guān)系的上下文分析。人工智能可以鑒別色情內(nèi)容，但在區(qū)別色情、性感、藝術(shù)等照片上還存在很大難度。
因此，作為新聞客戶端起家的今日頭條，在信息分發(fā)的同時(shí)，還涉及到價(jià)值體系和新聞把關(guān)。
互聯(lián)網(wǎng)公司唯“流量”是問已經(jīng)是當(dāng)前存在的普遍問題，企業(yè)技術(shù)創(chuàng)新的邊界應(yīng)該是承擔(dān)起更多的社會(huì)責(zé)任。
企業(yè)想盈利無可厚非，可怎么盈利卻有天壤之別。以優(yōu)質(zhì)文化產(chǎn)品取勝，這是健康的產(chǎn)業(yè)模式，而把低俗內(nèi)容兜售給消費(fèi)者，這是不負(fù)責(zé)任的行為。算法推薦賺取巨大流量紅利的同時(shí)，是否應(yīng)該反思這種創(chuàng)新能給社會(huì)帶來怎樣的進(jìn)步。如果新的媒體平臺(tái)，只是為了讓低俗化、媚俗化、娛樂化的信息更加便捷傳播，降低人的思考能力和審美水平，這樣的媒介形態(tài)和產(chǎn)品創(chuàng)新必將在社會(huì)發(fā)展中被淘汰。
整改和處罰只是手段，按照中央要求，營(yíng)造清朗、干凈、健康的網(wǎng)絡(luò)空間，才是管理者和經(jīng)營(yíng)者的共同責(zé)任和目標(biāo)。糾正算法推薦的弊端，治理低俗內(nèi)容傾向，從根本上改變不顧導(dǎo)向的所謂算法推薦，管理部門在關(guān)注，網(wǎng)民更有期待。