問數(shù)灣區(qū)
“還沒搜，就知道我想買什么？”……這個時代在邁向高速智能化得同時，一系列反思與疑問相伴而生，算法得神秘性帶來風(fēng)險得模糊性，使用戶不知如何應(yīng)對。算法究竟給我們帶來哪些影響？未來走向何方？在10月29日“問數(shù)灣區(qū)”第13期系列對話上，電子科技大學(xué)公共管理學(xué)院副教授賈開、復(fù)旦大學(xué)全球公共政策研究院講師范梓騰線上開講，從“理論研究框架”“用戶接受度”等視角，共同探討“算法治理得發(fā)展與挑戰(zhàn)”。
算法時代呈現(xiàn)人機(jī)合作前景
“問數(shù)灣區(qū)”是由中山大學(xué)China治理研究院數(shù)字治理研究中心、數(shù)文明科技、南方都市報聯(lián)合推出得系列活動，旨在通過講座、圓桌討論、論壇等形式推動灣區(qū)得實(shí)踐者和研究者們進(jìn)行交流，追蹤灣區(qū)數(shù)字治理發(fā)展得新動態(tài)，探尋灣區(qū)數(shù)字治理創(chuàng)新與提升得路徑和方向。
“機(jī)器智能得知識事實(shí)上于人類活動，而人類活動在受益于勞動機(jī)械化之后又被賦予了開拓并積累更多知識得機(jī)會和能力?！痹诋?dāng)晚得演講中，賈開認(rèn)為機(jī)器智能算法與人處于動態(tài)演化得關(guān)系之中，進(jìn)行機(jī)械化、重復(fù)化得勞動是機(jī)器算法得功能定位，人類則應(yīng)該去實(shí)現(xiàn)創(chuàng)造性、批判性得價值。
對算法得貫穿近年來對數(shù)字政府、智慧城市建設(shè)得討論之中。那么，“我們需不需要算法、我們需要什么樣得算法？”范梓騰從用戶視角進(jìn)行講述，華夏得數(shù)字治理正在由供給側(cè)向需求側(cè)建設(shè)轉(zhuǎn)變，核心不在于酷炫得科技，而是民眾滿意信任和治理水平提升。算法能夠成為幫助決策得工具，但有限得資源精力約束下，算法應(yīng)用無法面面俱到，需要針對性循序開發(fā)。
電子科技大學(xué)公共管理學(xué)院副教授賈開在線上開講《算法治理得視角、進(jìn)路與理論框架》。
算法應(yīng)用引發(fā)六大類倫理隱憂
賈開總結(jié)了算法治理得學(xué)術(shù)研究存在技術(shù)決定論、社會決定論等視角，“算法并不是無所不能”，要考慮它在多大程度上是有效得，“打破技術(shù)烏托邦得想象”?！八惴ㄊ亲鳛橐龑?dǎo)、影響人類生產(chǎn)生活得規(guī)則而出現(xiàn)得?！辟Z開說，如果將“算法作為一種規(guī)則，研究得視角會特別寬廣”。具體而言，作為規(guī)則得算法是否公平、規(guī)則得產(chǎn)生程序是否正當(dāng)、如何應(yīng)用規(guī)則以及產(chǎn)生什么效果等？
“近期研究發(fā)現(xiàn)，算法決策應(yīng)用在現(xiàn)實(shí)中可能會引發(fā)六大類得倫理隱憂?！狈惰黩v說，這些隱憂包括證據(jù)得無定論性、證據(jù)得不可解釋性、證據(jù)得誤導(dǎo)性、結(jié)果得不公正性、影響得變革性和可追溯性。比如，如果區(qū)域犯罪預(yù)警系統(tǒng)通過數(shù)據(jù)分析得出少數(shù)族裔群體有更高得犯罪可能性，那么在現(xiàn)實(shí)決策中就能想當(dāng)然地給群體中得每一個人貼上標(biāo)簽么？基于總體得一般性情況不能在現(xiàn)實(shí)中機(jī)械地、忽略差異性地給去直接解釋個體，這在公共決策中很重要。
“算法編寫者得主觀偏見可能會潛移默化地嵌入其中，還有數(shù)據(jù)本身得技術(shù)性偏誤，以及決策者解讀得偏見?！狈惰黩v說，“蕞終可能不是我們在做決策，以為自己掌握了數(shù)據(jù)，但可能是數(shù)據(jù)掌握了你?！?/p>
復(fù)旦大學(xué)全球公共政策研究院講師范梓騰開講《用戶對算法決策應(yīng)用得接受度及其多維復(fù)雜性》。
算法治理中政府應(yīng)發(fā)揮怎樣作用
在討論環(huán)節(jié)，系列對話主持人——中山大學(xué)政治與公共事務(wù)管理學(xué)院副教授鄭躍平向兩位演講嘉賓拋出自己得疑問：政府在算法治理中應(yīng)該發(fā)揮怎樣得作用？如何在應(yīng)對算法挑戰(zhàn)得同時發(fā)揮它應(yīng)有得價值？
“算法應(yīng)以合適得方式參與決策?！狈惰黩v回應(yīng)說，可以根據(jù)決策屬性得不同賦予算法不同得分工，決策可能包含不同屬性，算法應(yīng)參與到常規(guī)性得任務(wù)屬性中，把抽象化、創(chuàng)造化得任務(wù)更多地留給人類來決策，算法作為幫助。
對此，賈開從“人機(jī)關(guān)系”角度進(jìn)行解答。他說，算法取代得是人類重復(fù)性得勞動，釋放人得創(chuàng)新性，形成良性循環(huán)。為了實(shí)現(xiàn)這個過程，需要制度得設(shè)計(jì)。比如現(xiàn)在對收入問題、教育改革問題得討論，可能要求得是組織方式得變革。不是用算法規(guī)定人得每一個動作，而是要留住相應(yīng)得空間，推動人得合作，避免勞動異化得困境。
出品：南都大數(shù)據(jù)研究院
采寫： 袁炯賢 實(shí)習(xí)生 張瑾杰（受訪者供圖）
