2023年4月20日，清華大學(xué)文科沙龍第26期“科技倫理”在清華大學(xué)教師發(fā)展中心舉辦。清華大學(xué)社會(huì)學(xué)系教授、清華大學(xué)科技與社會(huì)研究中心主任李正風(fēng)，清華大學(xué)公共管理學(xué)院教授、清華大學(xué)中國(guó)科學(xué)技術(shù)政策研究中心副主任梁正，清華大學(xué)教育研究院副教授、清華大學(xué)工程教育研究中心副主任唐瀟風(fēng)，應(yīng)邀參與討論，清華大學(xué)環(huán)境學(xué)院副教授李淼擔(dān)任沙龍主持。本次活動(dòng)采取線(xiàn)上線(xiàn)下相結(jié)合的形式，共有約6萬(wàn)5千名觀(guān)眾同步參與。
從早期的深藍(lán)，到隨后的AlphaGO，再到如今的ChatGPT，人工智能正在加速挑戰(zhàn)人類(lèi)智慧的腳步。與種種現(xiàn)象級(jí)產(chǎn)品相伴而來(lái)的，是社會(huì)各界關(guān)于科技倫理問(wèn)題的一輪輪思考與討論。何為科技倫理？如何認(rèn)識(shí)科技倫理與科技發(fā)展之間的辯證關(guān)系？如何通過(guò)科技倫理縫合科學(xué)世界與人文世界的裂痕？來(lái)自不同領(lǐng)域的專(zhuān)家學(xué)者分別從社會(huì)學(xué)、管理學(xué)、教育學(xué)等視角出發(fā)，為如何在人類(lèi)科技發(fā)展史上的“科技倫理時(shí)刻”走出一條科技向善、負(fù)責(zé)任發(fā)展的道路提供灼見(jiàn)。
圖 | 沙龍現(xiàn)場(chǎng)
“ChatGPT”：一石激起千層浪
2022年11月30日，ChatGPT橫空出世，并迅速?gòu)目萍紝闷迫?，在全球范圍?nèi)掀起使用與投資熱潮。作為智能技術(shù)，ChatGPT能夠明顯提升人類(lèi)的工作效率，卻也可能引發(fā)種種具有開(kāi)放性特征的社會(huì)風(fēng)險(xiǎn)與倫理挑戰(zhàn)。
李正風(fēng)認(rèn)為，這種現(xiàn)象正是“科林格里奇困境”的再現(xiàn)——盡管ChatGPT在研發(fā)過(guò)程中已經(jīng)主動(dòng)囊括倫理學(xué)方面的考量，但其在問(wèn)世之后，仍然造成了諸多超出預(yù)想的社會(huì)倫理影響，帶來(lái)新的社會(huì)倫理挑戰(zhàn)。在探索如何應(yīng)對(duì)新一輪倫理挑戰(zhàn)時(shí)，克服科技發(fā)展與倫理治理的割裂傾向，尋找兩者之間的平衡點(diǎn)，乃是重中之重。
圖 | 李正風(fēng)在沙龍現(xiàn)場(chǎng)
梁正從兩個(gè)角度剖析了ChatGPT涉及的倫理問(wèn)題。一方面，ChatGPT是人機(jī)對(duì)齊工程的產(chǎn)物，通過(guò)“人在回路”的訓(xùn)練方法人為干預(yù)機(jī)器的學(xué)習(xí)過(guò)程，從而校準(zhǔn)并預(yù)防生成內(nèi)容和語(yǔ)言表達(dá)中的潛在價(jià)值沖突和倫理爭(zhēng)議。梁正認(rèn)為，這種倫理嵌入式的設(shè)計(jì)本身就是研發(fā)者對(duì)倫理風(fēng)險(xiǎn)的回應(yīng)之一。另一方面，ChatGPT也沖擊著現(xiàn)有的社會(huì)秩序，從勞動(dòng)者失業(yè)風(fēng)險(xiǎn)、到價(jià)值觀(guān)滲透風(fēng)險(xiǎn)、再到通用人工智能的法律人格問(wèn)題等等，人與機(jī)器的關(guān)系或?qū)⒚媾R新一輪變革。
唐瀟風(fēng)則跳出“熱點(diǎn)現(xiàn)象”，將注意力轉(zhuǎn)向科技發(fā)展與倫理思潮之間的關(guān)系。他指出，不僅僅是ChatGPT，事實(shí)上，每當(dāng)新興技術(shù)導(dǎo)致社會(huì)關(guān)系發(fā)生階躍式變化時(shí)，都會(huì)迫使人們重新思考同實(shí)現(xiàn)人類(lèi)自身發(fā)展息息相關(guān)的根本性命題。換言之，與其說(shuō)技術(shù)變革不斷引發(fā)著新的倫理命題，不如說(shuō)技術(shù)變革持續(xù)提醒人類(lèi)探尋倫理價(jià)值的真正內(nèi)涵。
展開(kāi)：科技倫理的前世今生
與科學(xué)技術(shù)的發(fā)展相適應(yīng)，科技倫理也在近現(xiàn)代日趨成熟，映射并塑造著科學(xué)技術(shù)與人類(lèi)社會(huì)的關(guān)系。
李正風(fēng)提道，早在科學(xué)處于建制化早期的17世紀(jì)，弗朗西斯·培根等就已經(jīng)指出了科技發(fā)展的社會(huì)價(jià)值和意義，即：科學(xué)的真正的、合法的目標(biāo)是把新發(fā)現(xiàn)和新的力量惠贈(zèng)給人類(lèi)生活。正是因?yàn)橛羞@樣的倫理價(jià)值追求，科學(xué)才發(fā)展為人類(lèi)偉大的社會(huì)事業(yè)。此后，科技發(fā)展的每一次重大進(jìn)步，如人工智能的出現(xiàn)、原子能的問(wèn)世、生物技術(shù)的快速發(fā)展和迭代等等，都伴隨著對(duì)倫理問(wèn)題的不斷反思。
梁正進(jìn)一步指出，盡管我們無(wú)法確定今天的“硅基智能”是否會(huì)在未來(lái)演變成具有自我意識(shí)的“硅基生命”，但從人類(lèi)文明的發(fā)展歷程來(lái)看，人類(lèi)終要面對(duì)與其他主體和諧共生的問(wèn)題。站在這個(gè)立場(chǎng)上，科技倫理不僅要關(guān)心顛覆性科技產(chǎn)品給當(dāng)下生產(chǎn)生活秩序造成的“近憂(yōu)”，更要懷有“遠(yuǎn)慮”，著眼作為整體的人類(lèi)如何與生態(tài)系統(tǒng)、乃至宇宙體系并存。
圖 | 梁正在沙龍現(xiàn)場(chǎng)
唐瀟風(fēng)則具體闡述了教育應(yīng)該如何促進(jìn)科技倫理思考。他認(rèn)為，樹(shù)立科技倫理意識(shí)是當(dāng)前高校倫理教育的首要任務(wù)。這意味著要讓學(xué)生認(rèn)識(shí)到，哪怕表面價(jià)值無(wú)關(guān)的產(chǎn)品設(shè)計(jì)背后都可能蘊(yùn)含著深刻的倫理選擇，從而培育出具有倫理價(jià)值責(zé)任感的“明白人”，從源頭守住科技倫理的底線(xiàn)。
張力：科技倫理與科技發(fā)展
科技創(chuàng)新與科技倫理宛若科技發(fā)展的動(dòng)力系統(tǒng)與剎車(chē)系統(tǒng)，有人認(rèn)為兩者相輔相成，也有人質(zhì)疑雙方彼此掣肘。
李正風(fēng)認(rèn)為，后一種觀(guān)點(diǎn)是狹隘的，陷入了科技發(fā)展與科技倫理二元對(duì)立的窠臼。比起為科技發(fā)展“踩剎車(chē)”，科技倫理更重要的作用是照亮科技發(fā)展的前路，引導(dǎo)科學(xué)創(chuàng)新向著為人類(lèi)和自然帶來(lái)更小風(fēng)險(xiǎn)與更多福祉的方向發(fā)展。為了更好發(fā)揮科技倫理與科技創(chuàng)新發(fā)展之間的相互促進(jìn)關(guān)系，政策制定者、科研從業(yè)者、企業(yè)經(jīng)營(yíng)者、社會(huì)公眾等各類(lèi)主體都應(yīng)該喚醒自身科學(xué)倫理意識(shí)，提升自身科學(xué)倫理素養(yǎng)，充分利用自身的發(fā)言權(quán)，推動(dòng)建立起以共識(shí)塑造為核心、以集體負(fù)責(zé)為基礎(chǔ)、以實(shí)時(shí)評(píng)估與及時(shí)調(diào)整為過(guò)程的科技倫理治理發(fā)展觀(guān)。
梁正將科技倫理與科技創(chuàng)新之間的關(guān)系抽象為社會(huì)與科學(xué)的關(guān)系。在梁正看來(lái)，迄今為止，科學(xué)共經(jīng)歷了四個(gè)發(fā)展階段：純粹受興趣驅(qū)動(dòng)的“求真”階段、致力于改造世界的“求力”階段、資本力量介入后的“求利”階段、以及技術(shù)發(fā)展的可能性逐漸超出人類(lèi)預(yù)期能力而要求對(duì)其發(fā)展方向做出價(jià)值選擇的“求善”階段。發(fā)展到今天，人類(lèi)需要直面科學(xué)的“無(wú)知之幕”，梁正認(rèn)為，既然我們無(wú)法窮盡科學(xué)所有的發(fā)展方向，也無(wú)法準(zhǔn)確預(yù)測(cè)每一種選擇可能帶來(lái)的利弊得失，那么也自然不必將科技倫理視作科技發(fā)展的敵人，幻想容惡的、不設(shè)限的科技發(fā)展一定會(huì)比向善的、可持續(xù)的科技發(fā)展路徑釋放出更豐富的多樣性或進(jìn)步得更快。退一步講，至少這兩者之間是不具有可比性的。
唐瀟風(fēng)以“好事多磨”隱喻科技倫理治理對(duì)科技發(fā)展的影響。正如越優(yōu)質(zhì)的期刊對(duì)文章的學(xué)術(shù)要求越嚴(yán)格、其審稿過(guò)程也會(huì)相應(yīng)更復(fù)雜一樣，科技倫理對(duì)科學(xué)技術(shù)的審視，同樣是以增進(jìn)研究成果的質(zhì)量和價(jià)值為目的。盡管我們難免偶爾產(chǎn)生“這些來(lái)來(lái)回回的調(diào)整耽誤了我的學(xué)術(shù)創(chuàng)新進(jìn)度”的沮喪念頭，然而不可否認(rèn)的是，從長(zhǎng)期來(lái)看，反復(fù)的思辨與修正在絕大多數(shù)情況下都有助于完善學(xué)術(shù)成果。因此，置身于充滿(mǎn)不確定性的科學(xué)技術(shù)發(fā)展新階段，給予凝聚著集體智慧的科技倫理更多的信心，不失為一條通向科技向善的有效途徑。
圖 | 唐瀟風(fēng)在沙龍現(xiàn)場(chǎng)
高校：埋下科技倫理的火種
活動(dòng)尾聲，李正風(fēng)以清華大學(xué)科技倫理教育實(shí)踐工作為例，闡述了高等學(xué)校如何履行自身的科技倫理主體責(zé)任，培育高素質(zhì)、專(zhuān)業(yè)化的科技倫理人才隊(duì)伍。
李正風(fēng)指出，清華大學(xué)的科技倫理教育實(shí)踐致力于彌合科學(xué)文化與人文文化之間的裂痕，試圖通過(guò)多種形式、多個(gè)層次、多個(gè)領(lǐng)域的老師一起參與的科研規(guī)范與科技倫理教育，營(yíng)造共同負(fù)責(zé)任的科技創(chuàng)新氛圍。具體而言，清華大學(xué)的科技倫理教育實(shí)踐起步于20世紀(jì)80、90年代設(shè)置的倫理通識(shí)類(lèi)課程。進(jìn)入21世紀(jì)，清華大學(xué)以工程倫理教育為主要發(fā)力點(diǎn)，于2014年正式成立研究生“學(xué)術(shù)規(guī)范和職業(yè)倫理課組”，并作為研究生的必修課，旨在搭建起工程、科技與倫理三者之間的溝通橋梁，將“價(jià)值塑造”提升為工程教育的核心目標(biāo)之一。
與此同時(shí)，清華大學(xué)也積極推進(jìn)全國(guó)工程倫理教育教學(xué)工作，主持或參與全國(guó)工程專(zhuān)業(yè)學(xué)位研究生教育指導(dǎo)委員會(huì)組織的《工程倫理》教材編寫(xiě)、慕課制作、案例編寫(xiě)、師資培訓(xùn)授課等項(xiàng)目。2022年3月，經(jīng)清華大學(xué)政策建言，教育部啟動(dòng)高校科技倫理教育專(zhuān)項(xiàng)工作，并委托清華大學(xué)作為專(zhuān)項(xiàng)工作秘書(shū)處單位，組建高?？萍紓惱斫逃龑?zhuān)項(xiàng)工作專(zhuān)家組和工作組，分別由校長(zhǎng)王希勤、副校長(zhǎng)楊斌擔(dān)任專(zhuān)家組組長(zhǎng)、工作組召集人。
由此，李正風(fēng)指出，清華大學(xué)已經(jīng)在融合科技發(fā)展與科技倫理治理方面邁出了重要的實(shí)踐探索步伐。未來(lái)，他希望可以與更多的高校和教師合作，共同推進(jìn)科技倫理教育工作，加強(qiáng)專(zhuān)題研究、課程資源建設(shè)、教材建設(shè)等工作，支撐科技倫理教育和科技倫理治理，助力科技向善發(fā)展。
圖 | 李淼在沙龍現(xiàn)場(chǎng)
供稿 | 董琦圓
