English

手機應用﹕工程和商業倫理不能忘

2018-09-13 06:00 來源﹕光明網-《光明日報》 

  【關注手機依賴】

  手機應用商深諳用戶心理﹐擁有非對稱優勢﹐可以利用大數據給個人用戶“畫像”﹐投其所好﹐由此綁架自製力較差的青少年和成年人──

手機應用﹕工程和商業倫理不能忘

光明日報記者 龔亮

  近日﹐打車APP滴滴出行又出事了。繼三個多月前鄭州空姐遇害案後﹐又一名年輕女孩乘坐順風車遇害。在暴風驟雨般的抨擊下﹐滴滴出行宣佈“在全國範圍內下線順風車業務﹐內部重新評估業務模式及產品邏輯”。

手機應用﹕工程和商業倫理不能忘

遼寧丹東﹐幾名年輕人圍在一起玩手機。棋簿紫攝 光明圖片/視覺中國

  順風車業務最受人詬病的設計就是其“印象標籤”功能﹐車主可以對乘客進行評價﹐包括顏值﹑穿著打扮﹑性格等。順風車車主在未接單之前就能看到這些評價﹐而且可以選擇自己想要搭載的乘客。滴滴順風車業務相關負責人曾明確表示﹐順風車是帶有一定社交屬性的產品。從其打出的廣告語也可以看出﹐比如“不僅是順風﹐而且還順眼”“不怕貼標籤﹐就怕你不約”等。帶有性暗示的社交場景﹐一旦從社交平臺直接過渡到極其私密的私家車內﹐其危險指數和不可控程度大大增加。

  滴滴出行是人們常用的打車類APP。現在﹐在人們的手機裡﹐除了打車類APP﹐還有社交類的﹑新聞資訊類的﹑遊戲類的等。它們深入影響著人們生活的方方面面﹐人們似乎被各類APP牽引著﹑控制著﹐每天樂此不疲地沉迷在手機中。

  滴滴順風車業務很長一段時間都受到用戶好評﹐直到發生惡性事件後﹐人們才警覺其背後不合理的產品邏輯。那麼其他APP呢﹖是否也存在靠打道德和法律“擦邊球”來吸引用戶的情況﹖對於目前人們過度使用手機的現象﹐該如何看待﹖手機應用商需要怎樣的監管﹖記者就此進行了採訪。

手機應用﹕工程和商業倫理不能忘 

濟南火車站﹐乘客一邊候車一邊刷手機。李英霞攝 光明圖片/視覺中國

  1 手機應用商的社會責任亟須重視

  在很多人看來﹐手機依賴完全是個人的事情﹐自己完全可以選擇不看手機或少看手機﹐而各類娛樂或遊戲APP設計得令人“喜聞樂見”無可厚非﹐對於互聯網公司來說﹐能夠留住客戶就意味著成功。

  然而實際上﹐在智能手機和各類應用的強大“攻勢”和設計下﹐人們已不那麼容易放下手機。現在很多APP似乎擁有一種讓人欲罷不能的力量﹐使應用與人之間建立了一種難以剪斷的紐帶。人們明知在APP上耗費了巨大精力﹐卻很難擺脫它的奴役﹐甚至是自願被奴役。這種對手機的依賴導致了行為上癮﹐進而導致人們的注意力被濫用﹐使得人們本該有的現實溝通和體驗面臨萎縮。

  在北京理工大學人文社科學院教授范春萍看來﹐智能手機作為當代最前沿的人類工具之一﹐不僅延伸人的肢體﹐還在逐漸延伸人類心智﹐它與全部信息工具一道重構人類的主體間性和交流方式﹐培育新的行為方式﹐其中就包括大家擔憂的“毒癮式消費”。“在這樣的背景下﹐除了個人要調整自己的行為﹐做出自主選擇﹐手機應用商也應遵從工程倫理和商業倫理﹐承擔相應的社會責任。”范春萍說。

  “手機應用商的社會責任基於它相對於個人用戶的‘非對稱優勢’。”上海交通大學科學史博士陳自富說﹐比如新聞資訊APP﹐可以利用大數據給個人用戶“畫像”﹐向用戶不斷推送其感興趣的信息﹔打車APP可以利用女性的性別紅利﹐拓展所謂的社交業務﹐吸引用戶﹔遊戲APP通過大數據分析﹐深諳用戶心理﹐無節制地通過獵奇﹑暴力等內容設計﹐綁架自製力較差的青少年和成年人。

  “由於這些互聯網企業的資源和能力更強﹐擁有對消費者的非對稱優勢﹐因此也應承擔相應的企業倫理責任。”陳自富認為﹐企業要為其商業行為產生的社會後果負責。如果企業的商業行為導致人們公認的種種不良社會後果﹐其行為應受到道德譴責﹐觸犯公序良俗和法律底線的﹐應堅決予以懲戒。

手機應用﹕工程和商業倫理不能忘 

河南鄭州﹐一名學生在玩手機遊戲。王威攝 光明圖片/視覺中國

  2 不能為了利益丟掉技術開發的初心

  人們過度沉迷手機﹐導致一系列個人和社會問題﹐比如腦疲勞﹑溝通和思考能力下降﹑道路安全﹑焦慮症等。“這一切是表象﹐它的深層次邏輯在於智能技術對人類社會關係和行為方式的重構。這種重構帶來的是一場深刻的危機。遺憾且危險的是﹐人們對這場危機的關注和應對遠遠不夠﹐更多的人盯著的祗是商機﹐而這使問題更加複雜化。”范春萍說。

  湖南師範大學人工智能道德決策研究所研究人員孫保學指出﹐現階段﹐我們正加速進入信息社會﹐以效率和效用為標準的技術理性﹐比以秩序和規範為標準的價值理性受到更多的重視。在法律法規尚不成熟時﹐技術往往呈現多維且發散的發展趨勢。

  孫保學列舉說﹐一些企業為追求利潤﹐在技術發展初期的“政策真空”階段往往會嘗試技術應用的各種可能性﹐打“擦邊球”現象比較常見﹔激烈的商業競爭使得一些商家鋌而走險﹐遊走在道德和法律的邊緣﹔鼓勵技術創新的宏觀政策也讓個別企業以“法無禁止皆可為”替不合規的“技術創新”辯護﹐有時甚至援引技術的價值中立為自己開脫責任。

  “隨著問題的不斷暴露﹐一些不符合社會倫理規範和法律制度要求的行為﹐將受到來自社會或共同體的集體限制甚至禁止。”孫保學堅信﹐在將來很長一段時期內﹐價值理性的引領作用必將受到越來越多的重視。棱鏡門和臉書數據洩露等事件都反映出公眾在這方面的意識覺醒。

  新技術並不是“洪水猛獸”﹐依賴也並不可怕。從人類技術發展史上看﹐人們在生產﹑生活中依次形成了對輪子﹑鐵犁﹑蒸汽機﹑內燃機﹑汽車﹑電力和網絡等的強烈依賴﹐在當時的歷史時期﹐這些新事物的出現也曾遭遇過一些人的反對或抵制﹐但最終仍全面而深刻地嵌入社會生活中。在某種程度上﹐文明的進步恰恰建立在對先進技術的依賴上。問題的關鍵﹐是這類技術能否被正確利用﹐能否朝著人類終極福祉的方向發展。

  陳自富表示﹐從目前的手機應用技術來看﹐為了追求效率和利益﹐忽略技術開發的初心﹐是最值得警惕的。傳統文化中的價值判斷和取向﹐沒能很好地引導技術的發展方向。

  “人類觀察﹑改造世界的能力在增強﹐如果說工業革命導致的環境污染等後果某種程度上是由無知造成的﹐那當代社會具有對技術後果更強的預見能力﹐我們可以建立有效的監測和糾偏機制﹐就像青藏鐵路修建時對生態的主動保護一樣。”陳自富認為﹐審慎地開發和應用技術﹐對促進人類社會發展和幸福是必需的路徑。

  3 如何引導手機應用商“做正確的事”

  有數據表明﹐手機遊戲的用戶主要集中在青少年群體。有位做手機遊戲的應用商曾經表示﹐他賺錢很容易﹐一天幾千萬元的流水﹐但是覺得很罪惡。因為他們每天做的事情就是用大數據分析孩子們玩遊戲的行為特點﹐最大限度吸引和留住心智尚未成熟的青少年玩家。他想過和腦力開發的公司合作﹐讓孩子們在遊戲中提昇腦力。但經詳談發現﹐如果合作的話﹐他就干不過其他遊戲公司﹐成本太高﹐於是放棄了。

  這位應用商的境遇是目前移動應用領域存在的劣幣驅逐良幣現象的一個縮影。在激烈的互聯網商業競爭下﹐談“情懷”似乎是件奢侈品。成千上萬的互聯網公司﹐每天都在你死我活的鬥爭中生存。

  “在責任歸屬不明晰的情況下﹐如果違法成本較低﹐靠市場主體提高主體自覺和自我約束往往不太奏效。”孫保學認為﹐穩妥的辦法應該是給技術理性套上價值理性的“緊箍”﹐這要求社會治理體系和誠信體系的完善﹐要將這種外在約束固化為社會制度的一部分﹐才會讓尊重用戶﹑使用正向價值不至於淪為空談。他認為﹐可以設置道德算法審查委員會來規制市場上的APP﹐使其在設計上合乎倫理法規。

  范春萍建議﹐可以藉助媒體平臺開展討論﹐探討手機應用開發的算法規則和手機應用商的社會責任﹑職業倫理等﹐對大眾進行啟蒙教育﹐提昇人們的媒介素養﹐以倫理共識指導和約束互聯網行業發展。

  誰來塑造智能社會“拇指一代”人群的完美人格﹖誰來解決工業社會中知識流通不暢﹑創新力不足﹑社會發展不均衡等問題﹖包括手機應用商在內的互聯網公司都責無旁貸。而技術祗有與追求人文價值關懷和社會責任統一起來﹐才是人們所期望的。

  陳自富指出﹐在這方面﹐無論是西方發達國家中的產業巨頭﹐還是國內一些負責任的互聯網企業﹐都有成功的例子。比如谷歌的信條從“不作惡”變成“做正確的事”﹔微信在改善人們交流方式的同時﹐也營造了相對乾淨的使用環境。他認為﹐不是不能為之﹐而是商業利益驅使下的不願為之。擔心行業自律和外部管制影響產業發展﹐不足以成為不作為的藉口。

  在陳自富看來﹐平臺企業具有天然的壟斷優勢﹐對這種壟斷﹐主要可通過行業自律﹑外部立法和用戶評價來進行規範﹐必要時需要企業出具相關倫理責任報告﹐主動說明其沒有濫用這種優勢﹐就像公交﹑鐵路﹑供電等行業一樣﹐其產業形態本身具有一定的壟斷性﹐但前提是外部立法約束(如價格管制等)和自我證明沒有濫用這種優勢。

  “政府﹑學術界﹑非政府組織等也要行動起來。比如大學加強工程師倫理教育﹔政府對於信息生產內容和APP的開發﹐建立有效價值引導機制﹔通過對話﹑協商﹑公約﹑行政法規﹑用戶投訴曝光﹑APP分級排名機制等手段﹐推升移動互聯網治理水平等。”陳自富說。

  《光明日報》( 2018年09月13日 08版)

[責任編輯:潘興彪]

手機光明網

光明網版權所有

光明日報社概況 | 關於光明網 | 報網動態 | 聯繫我們 | 法律聲明 | 光明員工 | 光明網郵箱 | 網站地圖

光明網版權所有