阿里首席技術(shù)官程立：科技公司的技術(shù)創(chuàng)新和責(zé)任擔(dān)當(dāng)

9月27日消息，阿里巴巴集團(tuán)首席技術(shù)官（CTO）程立在不久前舉行的2022世界人工智能大會(huì)上，發(fā)表了題為“科技公司的技術(shù)創(chuàng)新和責(zé)任擔(dān)當(dāng)”的主題演講。

圖源：阿里研究院

阿里巴巴集團(tuán)官網(wǎng)公開資料顯示，程立，自2019年12月起擔(dān)任阿里巴巴集團(tuán)首席技術(shù)官。加入阿里巴巴集團(tuán)前，程立歷任以下職務(wù)：2014年至2019年，任螞蟻集團(tuán)首席技術(shù)官，2018年至2019年，兼任螞蟻集團(tuán)國(guó)際事業(yè)群首席運(yùn)營(yíng)官，2007年至2014年，任支付寶首席架構(gòu)師，2005年至2007年，任支付寶開發(fā)工程師。

以下為程立演講全文：

01 數(shù)字大科技時(shí)代的科技倫理

相信大家和我一樣都深有體會(huì)，數(shù)字科技的快速發(fā)展，讓我們進(jìn)入了一個(gè)真正的大科學(xué)時(shí)代。大數(shù)據(jù)技術(shù)成為一個(gè)新的科研范式，廣泛應(yīng)用在生物、材料、物理等很多方面，把過去不怎么相關(guān)的科學(xué)門類連成了一個(gè)整體。這帶來了兩個(gè)大的影響：

第一，技術(shù)可能會(huì)對(duì)人的身體、思想產(chǎn)生影響，人本身的概念在科技時(shí)代下出現(xiàn)了挑戰(zhàn)。

第二，科技對(duì)于產(chǎn)業(yè)產(chǎn)生了全面深入的影響，數(shù)字世界和物理世界、生物世界高度融合。

這些都給整個(gè)社會(huì)帶來了很多新的問題。拿一輛車來打個(gè)比方，如果說科技創(chuàng)新是發(fā)動(dòng)機(jī)和油門，那科技倫理就是方向盤、安全帶和剎車。在車速低的時(shí)候安全帶、剎車可能不那么重要，但是車速高的時(shí)候，方向盤、剎車和安全帶的重要性就非常凸顯了。科技企業(yè)必須非常重視科技倫理，把科技倫理作為技術(shù)發(fā)展的一個(gè)非常重要的方向考慮。

阿里巴巴在進(jìn)行科技創(chuàng)新的同時(shí)，也一直在思考科技倫理對(duì)我們的影響，對(duì)整個(gè)社會(huì)的影響。我們認(rèn)為，首先要擺正態(tài)度，才能夠真正把科技倫理這件事情落到實(shí)處。

第一是求真務(wù)實(shí)，面對(duì)新問題的時(shí)候，要去解決具體的問題，必須求真務(wù)實(shí)而不是空談；第二是知行合一，做的和說的必須一致；第三要有敬畏之心，不要簡(jiǎn)單地用過去的想法去理解和處理問題，必須不斷調(diào)整自己，要用全新的視角去思考，要時(shí)時(shí)自省；過程當(dāng)中企業(yè)必須非常開放，自律和他律結(jié)合。

我在阿里15年，也見證了集團(tuán)在這個(gè)方向思考越來越深入的過程。

早期阿里技術(shù)團(tuán)隊(duì)的價(jià)值觀是技術(shù)創(chuàng)造新商業(yè)，那時(shí)候的思考重點(diǎn)是技術(shù)如何給商業(yè)帶來不一樣的創(chuàng)新點(diǎn)，商業(yè)創(chuàng)新是我們認(rèn)為可以對(duì)社會(huì)產(chǎn)生的價(jià)值。

繼續(xù)下來，我們發(fā)現(xiàn)，科技不僅能通過商業(yè)為社會(huì)創(chuàng)造價(jià)值，同時(shí)也能夠幫助解決很多大家關(guān)注的社會(huì)問題。所以我們把科技和公益，特別是和“人人三小時(shí)”公益相結(jié)合，每一位阿里巴巴工程師都會(huì)想辦法用科技去解決社會(huì)上有價(jià)值的問題。比如讓所有人都能平等享受科技便利的“信息無障礙”，向青少年提供科學(xué)系統(tǒng)的毒品預(yù)防教育知識(shí)的“青驕第二課堂”；和公安部合作的兒童失蹤信息緊急發(fā)布平臺(tái)。

隨著平臺(tái)責(zé)任越來越大，我們提出了“人人受益、責(zé)任擔(dān)當(dāng)、人人共享”的好科技概念。我們的科技團(tuán)隊(duì)開始更多地參與綠色低碳相關(guān)的技術(shù)創(chuàng)新，參與到鄉(xiāng)村振興技術(shù)官的項(xiàng)目里，為鄉(xiāng)村提供更有力的技術(shù)人才支撐，助力社會(huì)去解決更廣范圍的一些問題。

作為一家企業(yè)，我們關(guān)心的不僅是客戶，還有整個(gè)社會(huì)、環(huán)境和未來。我們希望用好科技去托起阿里巴巴作為一家有責(zé)任的好公司的未來。

前段時(shí)間，阿里巴巴正式發(fā)布了新的ESG報(bào)告，涵蓋“修復(fù)綠色星球”“支持員工發(fā)展”“服務(wù)可持續(xù)的美好生活”“助力中小微企業(yè)高質(zhì)量發(fā)展”“助力社會(huì)包容和韌性”“推動(dòng)人人參與的公益”和“構(gòu)建信任”七個(gè)方向?？萍挤较蚝涂萍紓惱硪彩侵芜@7個(gè)方向做好的重要基礎(chǔ)。

02 阿里巴巴的科技倫理準(zhǔn)則

在科技倫理的治理上，我們提出了“以人為本、普惠正直、安全可靠、隱私保護(hù)、可信可控、開放共治”六大準(zhǔn)則。

圖源：阿里研究院

這其中，最重要的是以人為本的價(jià)值主張，這一點(diǎn)也是和行業(yè)高度共識(shí)的。這背后代表著一個(gè)根本思考，當(dāng)機(jī)器和人發(fā)生沖突時(shí)該怎么去選擇？我們的答案非常明確，永遠(yuǎn)以人為中心，落到具體的業(yè)務(wù)，始終堅(jiān)持以用戶為中心，以人類整體長(zhǎng)期的福祉為目標(biāo)，把對(duì)人的尊重和關(guān)懷能夠放在第一位，這是所有科技倫理準(zhǔn)則最重要的基礎(chǔ)。

其次是兩個(gè)和科技方法相關(guān)的準(zhǔn)則：

第一是可信可控，讓從事的科技活動(dòng)和開發(fā)運(yùn)營(yíng)的科技系統(tǒng)具備應(yīng)有的透明度和可解釋性；讓用戶自主決定是否采納、終止和退出人工智能相關(guān)的交互和服務(wù)。我們也要努力建立起人工智能的問責(zé)機(jī)制，確保能夠在關(guān)鍵環(huán)節(jié)做到自律和自省。科技系統(tǒng)不斷往前進(jìn)化和發(fā)展，只有做到可信可控，出現(xiàn)問題才能去問責(zé)、防止、解決，才能保證它未來的發(fā)展不會(huì)失控。

第二是開放共治，科技倫理是一個(gè)非常復(fù)雜的問題，對(duì)于阿里巴巴這樣的平臺(tái)企業(yè)，我們不但關(guān)心在自己內(nèi)部發(fā)生的相關(guān)問題，也同時(shí)關(guān)心整個(gè)生態(tài)內(nèi)科技倫理相關(guān)的問題。我們希望能夠建立起多方協(xié)同的合作機(jī)制，打造負(fù)責(zé)任、可持續(xù)的科技。探索建立一個(gè)開放和敏捷的治理機(jī)制，持續(xù)學(xué)習(xí)，不斷探索企業(yè)自律、行業(yè)共治與監(jiān)管規(guī)范相結(jié)合的解決方案。

接下來是三個(gè)具體的科技原則：

第一，普惠正直。阿里要高質(zhì)量發(fā)展，背后最核心的是客戶第一，是為客戶創(chuàng)造價(jià)值。這里的客戶指的是所有的利益相關(guān)者，過程中我們必須尊重和服務(wù)好全體利益相關(guān)者，避免歧視與偏見，充分尊重和幫助弱勢(shì)群體、特殊群體，并根據(jù)需要提供相應(yīng)替代方案，切實(shí)保護(hù)好相關(guān)主體的合法權(quán)益。

其次，安全可靠。阿里巴巴是一家服務(wù)數(shù)億消費(fèi)者和數(shù)千萬商家的平臺(tái)公司，從公司創(chuàng)立第一天起，我們就把系統(tǒng)的安全可靠作為最重要的一個(gè)基石，這是刻在阿里巴巴技術(shù)基因里的。這要求我們?cè)谶M(jìn)行科技系統(tǒng)設(shè)計(jì)時(shí)，充分考慮安全、魯棒和穩(wěn)健性，減少并努力避免系統(tǒng)因缺陷或?yàn)E用而引致的對(duì)用戶的傷害，努力保證科技系統(tǒng)滿足高性能標(biāo)準(zhǔn)。

第三，隱私保護(hù)。這是必須獨(dú)立提出來、并落實(shí)到實(shí)際工作中的一個(gè)準(zhǔn)則。必須充分尊重個(gè)人信息知情、同意等權(quán)利，依照合法、正當(dāng)、必要和誠(chéng)信原則處理個(gè)人信息，過程中也要充分保障個(gè)人隱私與數(shù)據(jù)安全，不得竊取、篡改和泄露個(gè)人信息，不得損害個(gè)人合法的數(shù)據(jù)權(quán)益和隱私權(quán)。

03 多元協(xié)同 共同前行

準(zhǔn)則的建立非常重要，但如何落實(shí)下去？怎樣保證不斷出現(xiàn)的技術(shù)創(chuàng)新、不斷發(fā)布的新產(chǎn)品都能夠符合這些準(zhǔn)則？在阿里內(nèi)部，我們是這么思考和行動(dòng)的：

阿里科技倫理治理模式

阿里巴巴科技倫理治理委員會(huì)成員

圖源：阿里研究院

首先，阿里科技倫理治理模式包括了三個(gè)方面，組織層面最核心的是成立阿里巴巴科技倫理治理委員會(huì)，這是阿里巴巴科技倫理方面的最高決策機(jī)構(gòu)，由多個(gè)不同專業(yè)、不同視角的同事們共同組成委員會(huì)，一起進(jìn)行科技倫理方向的制度建設(shè)和治理體系建設(shè)，對(duì)一些關(guān)鍵問題做出關(guān)鍵決策，影響所有的業(yè)務(wù)部門更好地去做科技倫理治理工作。

委員會(huì)下設(shè)四個(gè)工作組：科技組，負(fù)責(zé)可用可靠可信可控方面技術(shù)的研究和產(chǎn)品工具建設(shè)；倫理組，負(fù)責(zé)科技倫理相關(guān)的理論&政策研究；治理組，圍繞科技倫理相關(guān)的重點(diǎn)領(lǐng)域進(jìn)行評(píng)估與治理，用制度和工具，把科技倫理治理落實(shí)到日常每一個(gè)科研活動(dòng)中去；傳播組，把科技倫理的準(zhǔn)則、文化、意識(shí)落實(shí)到團(tuán)隊(duì)里去，讓阿里巴巴每一位工程師、每一位技術(shù)同學(xué)都要了解和認(rèn)同科技倫理治理的準(zhǔn)則，并且能夠把它運(yùn)用到工作里去。

阿里巴巴科技倫理治理顧問委員會(huì)成員

圖源：阿里研究院

同時(shí)我們意識(shí)到，光靠自己的視角去做還不夠，還需要引入外部視角，引入外部監(jiān)督機(jī)制，所以我們還成立了阿里巴巴科技倫理治理顧問委員會(huì)，引入7位行業(yè)頂尖專家擔(dān)任顧問委員，對(duì)科技倫理問題給出相應(yīng)指導(dǎo)，共同探討前沿問題。這是阿里巴巴科技倫理治理最核心的兩個(gè)組織。特別感謝各位老師成為科技倫理治理委員會(huì)的一員，幫助阿里巴巴在科技方面想得更遠(yuǎn)、做得更實(shí)。

在職能方面，這兩個(gè)組織會(huì)從四個(gè)方向入手進(jìn)行具體治理，包括數(shù)據(jù)合規(guī)和倫理治理、算法合規(guī)和倫理治理、技術(shù)的合規(guī)和倫理治理、以及針對(duì)特定行業(yè)相關(guān)的合規(guī)和倫理治理。

阿里科技倫理治理機(jī)制

在治理方法上，我們正在建立相應(yīng)的科技倫理分級(jí)制度和具體落地執(zhí)行的規(guī)范。按照分類分級(jí)管理、個(gè)案專家研判、類案參照治理、不斷校驗(yàn)迭代的方式，讓更多參與者加入到科技倫理治理中，及時(shí)識(shí)別風(fēng)險(xiǎn)、進(jìn)行有效管控，在實(shí)踐中優(yōu)化治理，以適應(yīng)技術(shù)發(fā)展與外部環(huán)境變化。

其中，很重要的是需要建立一個(gè)能夠發(fā)現(xiàn)和沉淀use case的機(jī)制。問題出現(xiàn)之后，我們將采用分級(jí)分類方式，推進(jìn)快速判斷，高風(fēng)險(xiǎn)上升到科技倫理治理委員會(huì)進(jìn)行決策。

過程中所有的典型案例，我們都會(huì)積累沉淀，指導(dǎo)后續(xù)的同類場(chǎng)景，同時(shí)結(jié)合技術(shù)和法律政策變化，不斷更新迭代，讓治理變得更加清晰。

阿里科技倫理風(fēng)險(xiǎn)能力建設(shè)

在行動(dòng)上，委員會(huì)重點(diǎn)著手風(fēng)險(xiǎn)能力建設(shè)和技術(shù)能力建設(shè)。風(fēng)險(xiǎn)能力建設(shè)，包括建設(shè)算法評(píng)估、風(fēng)險(xiǎn)檢測(cè)、干預(yù)機(jī)制的全生命周期風(fēng)險(xiǎn)管理流程，以及技術(shù)安全性、魯棒性、公平性、可解釋與可干預(yù)性等科技倫理審查和治理工具?，F(xiàn)階段我們會(huì)特別關(guān)注和算法相關(guān)、風(fēng)險(xiǎn)檢測(cè)相關(guān)、干預(yù)機(jī)制建設(shè)相關(guān)的，所有能力建設(shè)必須產(chǎn)品化形成相應(yīng)的平臺(tái)，包括數(shù)據(jù)合規(guī)監(jiān)測(cè)的平臺(tái)，魯棒性的訓(xùn)練平臺(tái)，安全掃描監(jiān)測(cè)、多維度主動(dòng)風(fēng)險(xiǎn)識(shí)別、用戶反饋、風(fēng)險(xiǎn)大盤。

技術(shù)能力建設(shè)，包括增加在隱私保護(hù)、安全可靠、可信可控等關(guān)鍵方向前沿技術(shù)的布局和探索。例如大幅降低了隱私保護(hù)計(jì)算技術(shù)開發(fā)與部署難度的FederatedScope技術(shù)，能夠解決數(shù)據(jù)可用不可見的安全多方計(jì)算平臺(tái)Cheetah。對(duì)于一些新涌現(xiàn)的深度合成問題，我們也有一些創(chuàng)新的技術(shù)方案。通過核心技術(shù)的突破，在更高水平上解決科技倫理的問題。