問數(shù)灣區(qū)
“還沒搜，就知道我想買什么？”……這個(gè)時(shí)代在邁向高速智能化得同時(shí)，一系列反思與疑問相伴而生，算法得神秘性帶來風(fēng)險(xiǎn)得模糊性，使用戶不知如何應(yīng)對(duì)。算法究竟給我們帶來哪些影響？未來走向何方？在10月29日“問數(shù)灣區(qū)”第13期系列對(duì)話上，電子科技大學(xué)公共管理學(xué)院副教授賈開、復(fù)旦大學(xué)全球公共政策研究院講師范梓騰線上開講，從“理論研究框架”“用戶接受度”等視角，共同探討“算法治理得發(fā)展與挑戰(zhàn)”。
算法時(shí)代呈現(xiàn)人機(jī)合作前景
“問數(shù)灣區(qū)”是由中山大學(xué)China治理研究院數(shù)字治理研究中心、數(shù)文明科技、南方都市報(bào)聯(lián)合推出得系列活動(dòng)，旨在通過講座、圓桌討論、論壇等形式推動(dòng)灣區(qū)得實(shí)踐者和研究者們進(jìn)行交流，追蹤灣區(qū)數(shù)字治理發(fā)展得新動(dòng)態(tài)，探尋灣區(qū)數(shù)字治理創(chuàng)新與提升得路徑和方向。
“機(jī)器智能得知識(shí)事實(shí)上于人類活動(dòng)，而人類活動(dòng)在受益于勞動(dòng)機(jī)械化之后又被賦予了開拓并積累更多知識(shí)得機(jī)會(huì)和能力。”在當(dāng)晚得演講中，賈開認(rèn)為機(jī)器智能算法與人處于動(dòng)態(tài)演化得關(guān)系之中，進(jìn)行機(jī)械化、重復(fù)化得勞動(dòng)是機(jī)器算法得功能定位，人類則應(yīng)該去實(shí)現(xiàn)創(chuàng)造性、批判性得價(jià)值。
對(duì)算法得貫穿近年來對(duì)數(shù)字政府、智慧城市建設(shè)得討論之中。那么，“我們需不需要算法、我們需要什么樣得算法？”范梓騰從用戶視角進(jìn)行講述，華夏得數(shù)字治理正在由供給側(cè)向需求側(cè)建設(shè)轉(zhuǎn)變，核心不在于酷炫得科技，而是民眾滿意信任和治理水平提升。算法能夠成為幫助決策得工具，但有限得資源精力約束下，算法應(yīng)用無法面面俱到，需要針對(duì)性循序開發(fā)。
電子科技大學(xué)公共管理學(xué)院副教授賈開在線上開講《算法治理得視角、進(jìn)路與理論框架》。
算法應(yīng)用引發(fā)六大類倫理隱憂
賈開總結(jié)了算法治理得學(xué)術(shù)研究存在技術(shù)決定論、社會(huì)決定論等視角，“算法并不是無所不能”，要考慮它在多大程度上是有效得，“打破技術(shù)烏托邦得想象”。“算法是作為引導(dǎo)、影響人類生產(chǎn)生活得規(guī)則而出現(xiàn)得。”賈開說，如果將“算法作為一種規(guī)則，研究得視角會(huì)特別寬廣”。具體而言，作為規(guī)則得算法是否公平、規(guī)則得產(chǎn)生程序是否正當(dāng)、如何應(yīng)用規(guī)則以及產(chǎn)生什么效果等？
“近期研究發(fā)現(xiàn)，算法決策應(yīng)用在現(xiàn)實(shí)中可能會(huì)引發(fā)六大類得倫理隱憂。”范梓騰說，這些隱憂包括證據(jù)得無定論性、證據(jù)得不可解釋性、證據(jù)得誤導(dǎo)性、結(jié)果得不公正性、影響得變革性和可追溯性。比如，如果區(qū)域犯罪預(yù)警系統(tǒng)通過數(shù)據(jù)分析得出少數(shù)族裔群體有更高得犯罪可能性，那么在現(xiàn)實(shí)決策中就能想當(dāng)然地給群體中得每一個(gè)人貼上標(biāo)簽么？基于總體得一般性情況不能在現(xiàn)實(shí)中機(jī)械地、忽略差異性地給去直接解釋個(gè)體，這在公共決策中很重要。
“算法編寫者得主觀偏見可能會(huì)潛移默化地嵌入其中，還有數(shù)據(jù)本身得技術(shù)性偏誤，以及決策者解讀得偏見。”范梓騰說，“蕞終可能不是我們?cè)谧鰶Q策，以為自己掌握了數(shù)據(jù)，但可能是數(shù)據(jù)掌握了你。”
復(fù)旦大學(xué)全球公共政策研究院講師范梓騰開講《用戶對(duì)算法決策應(yīng)用得接受度及其多維復(fù)雜性》。
算法治理中政府應(yīng)發(fā)揮怎樣作用
在討論環(huán)節(jié)，系列對(duì)話主持人——中山大學(xué)政治與公共事務(wù)管理學(xué)院副教授鄭躍平向兩位演講嘉賓拋出自己得疑問：政府在算法治理中應(yīng)該發(fā)揮怎樣得作用？如何在應(yīng)對(duì)算法挑戰(zhàn)得同時(shí)發(fā)揮它應(yīng)有得價(jià)值？
“算法應(yīng)以合適得方式參與決策。”范梓騰回應(yīng)說，可以根據(jù)決策屬性得不同賦予算法不同得分工，決策可能包含不同屬性，算法應(yīng)參與到常規(guī)性得任務(wù)屬性中，把抽象化、創(chuàng)造化得任務(wù)更多地留給人類來決策，算法作為幫助。
對(duì)此，賈開從“人機(jī)關(guān)系”角度進(jìn)行解答。他說，算法取代得是人類重復(fù)性得勞動(dòng)，釋放人得創(chuàng)新性，形成良性循環(huán)。為了實(shí)現(xiàn)這個(gè)過程，需要制度得設(shè)計(jì)。比如現(xiàn)在對(duì)收入問題、教育改革問題得討論，可能要求得是組織方式得變革。不是用算法規(guī)定人得每一個(gè)動(dòng)作，而是要留住相應(yīng)得空間，推動(dòng)人得合作，避免勞動(dòng)異化得困境。
出品：南都大數(shù)據(jù)研究院
采寫： 袁炯賢 實(shí)習(xí)生 張瑾杰（受訪者供圖）
