“超越人類智慧的AI可以用語言操縱我們，或許會(huì)試圖說服我們不要關(guān)掉開關(guān)。”

今年3月，由ChatGPT掀起的AI（人工智能）技術(shù)革命背后的奠基性科學(xué)家、被譽(yù)為“AI教父”的杰弗里·辛頓（Geoffrey E. Hinton），曾對(duì)媒體提及他對(duì)AI“反噬人類”的擔(dān)憂。如今，在他心中“危險(xiǎn)和機(jī)遇并存”的AI，為他帶來了諾貝爾物理學(xué)獎(jiǎng)的榮譽(yù)。

當(dāng)?shù)貢r(shí)間10月8日，瑞典皇家科學(xué)院宣布，將2024年諾貝爾物理學(xué)獎(jiǎng)授予美國普林斯頓大學(xué)的約翰·霍普菲爾德（John J. Hopfield）和加拿大多倫多大學(xué)的杰弗里·辛頓，以表彰他們“為推動(dòng)利用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)作出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。

諾貝爾化學(xué)獎(jiǎng)則部分授予了谷歌旗下DeepMind公司AI科學(xué)家德米斯·哈薩比斯和約翰·江珀，以表彰他們研發(fā)出的“Alpha Fold2”模型在蛋白質(zhì)結(jié)構(gòu)預(yù)測方面的成就。

當(dāng)AI首次成為諾貝爾獎(jiǎng)的主要元素，這不僅是對(duì)科學(xué)家的認(rèn)可，也是對(duì)“AI輔助科學(xué)研究”這一應(yīng)用趨勢的肯定，“諾貝爾物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)都花落AI，既在意料之外，又在情理之中?！睆?fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華告訴筆者。

在他看來，AI在諾貝爾獎(jiǎng)當(dāng)中占據(jù)相當(dāng)比重，釋放出傳統(tǒng)的自然科學(xué)國際性的獎(jiǎng)項(xiàng)向新興學(xué)科遷移的信號(hào)。傳統(tǒng)上人們認(rèn)為，諾貝爾獎(jiǎng)主要授予在傳統(tǒng)自然科學(xué)領(lǐng)域做出杰出貢獻(xiàn)的個(gè)人或組織。此次諾獎(jiǎng)對(duì)人工智能等新興學(xué)科的傾斜，標(biāo)志著以人工智能驅(qū)動(dòng)的科研方式已不再是“偏門”而是逐漸走向“主流”，并獲得傳統(tǒng)自然科學(xué)領(lǐng)域的廣泛肯定。

AI“攻占”諾貝爾獎(jiǎng)意味著什么？

“我做了這么一輩子科研，從來沒見過AI這么一個(gè)行當(dāng)。每三個(gè)月就有新突破，每半年就要翻天覆地了?！眹H著名計(jì)算生物學(xué)家、復(fù)旦大學(xué)復(fù)雜體系多尺度研究院首任院長、上海人工智能實(shí)驗(yàn)室領(lǐng)軍科學(xué)家馬劍鵬向筆者坦言。

在他看來，過去50年中，“蛋白質(zhì)折疊問題”一直是生物學(xué)界的重大挑戰(zhàn)。此前，生物學(xué)家主要利用X射線晶體學(xué)或冷凍電鏡等實(shí)驗(yàn)技術(shù)來破譯蛋白質(zhì)的三維結(jié)構(gòu)，耗時(shí)長、成本高。幾年前，科學(xué)家用計(jì)算機(jī)預(yù)測復(fù)雜的蛋白質(zhì)折疊結(jié)構(gòu)，正確率還不到40%。Alphafold出現(xiàn)后，奇跡出現(xiàn)了。

2020年11月30日，Alphafold 2在蛋白質(zhì)結(jié)構(gòu)預(yù)測大賽CASP 14中，對(duì)大部分蛋白質(zhì)結(jié)構(gòu)的預(yù)測與真實(shí)結(jié)構(gòu)只差一個(gè)原子的寬度，接近達(dá)到了人類利用冷凍電子顯微鏡等復(fù)雜儀器觀察預(yù)測的水平，這是蛋白質(zhì)結(jié)構(gòu)預(yù)測史無前例的巨大進(jìn)步。

“預(yù)測蛋白質(zhì)結(jié)構(gòu)，向來被認(rèn)為是‘太陽底下最難的科學(xué)問題之一’?！瘪R劍鵬表示，他和好朋友、諾貝爾化學(xué)獎(jiǎng)得主邁克爾·萊維特都曾認(rèn)為，這一問題在他們的有生之年恐怕很難完全解決，“但沒想到人工智能‘Alphafold 2’的出現(xiàn)了，讓這個(gè)問題向前邁進(jìn)一大步，真正體現(xiàn)了算法的力量，將諾貝爾化學(xué)獎(jiǎng)?lì)C給人工智能，是一個(gè)理所應(yīng)當(dāng)或者非常恰當(dāng)?shù)臎Q定。”

馬劍鵬認(rèn)為，人工智能可以將求解的準(zhǔn)確率大幅提升，顯示了“科學(xué)智能”研究范式的強(qiáng)大。雖然“Alphafold 2”和“Alphafold 3”并未完全解決蛋白質(zhì)折疊問題，但它給科學(xué)界帶來了啟示：可以通過數(shù)據(jù)驅(qū)動(dòng)，將人工智能應(yīng)用于更多的科研領(lǐng)域，讓AI助手破解各種難題。

“人工智能現(xiàn)在已經(jīng)成為一場新的技術(shù)革命，或者可以稱之為工具革命?！毙ぱ鋈A告訴筆者，在科學(xué)研究領(lǐng)域，AI已成為推動(dòng)社會(huì)進(jìn)步和研究發(fā)展的最重要引擎。

肖仰華認(rèn)為，諾貝爾獎(jiǎng)授予人工智能相關(guān)研究實(shí)際上起到一個(gè)風(fēng)向標(biāo)的作用，這意味著傳統(tǒng)自然學(xué)科一定會(huì)掀起努力擁抱和學(xué)習(xí)人工智能、積極把人工智能的很多工具和方法融入到科學(xué)自身的科學(xué)研究中的熱潮?！按蠹移毡檎J(rèn)為，獲得諾貝爾獎(jiǎng)的科學(xué)家需要經(jīng)過幾十年的研究，而AI打破了這一定律。未來可能會(huì)有越來越多年輕學(xué)者使用AI工具在傳統(tǒng)自然科學(xué)做出巨大貢獻(xiàn)，在短短幾年之內(nèi)獲得諾獎(jiǎng)，三四十歲左右的諾獎(jiǎng)?wù)呖赡軙?huì)大量涌現(xiàn)，這個(gè)風(fēng)向標(biāo)的意義十分重大，也會(huì)對(duì)傳統(tǒng)的自然科學(xué)研究造成巨大沖擊?！?/p>

“這次的諾獎(jiǎng)授予情況，可以說是打破了一直以來的評(píng)獎(jiǎng)傳統(tǒng)，可以說是諾貝爾獎(jiǎng)評(píng)選的一次自我改革。一方面，這反映了諾貝爾獎(jiǎng)委員會(huì)對(duì)于該獎(jiǎng)項(xiàng)意義的反思，之后的授獎(jiǎng)會(huì)更加地關(guān)注技術(shù)的現(xiàn)實(shí)影響，而非絕對(duì)意義的學(xué)術(shù)前沿。”中央財(cái)經(jīng)大學(xué)經(jīng)濟(jì)學(xué)院教授、清華大學(xué)中國經(jīng)濟(jì)思想與實(shí)踐研究院研究員徐翔告訴筆者。

另一方面，這反映人工智能技術(shù)帶來的巨大沖擊與科技界對(duì)這項(xiàng)技術(shù)的無限期待，說明科技界把人工智能看成了科學(xué)研究的底層技術(shù)，這是過去很多年的獲獎(jiǎng)成果沒有做到的。

“此次AI在諾獎(jiǎng)獲得成功，表明了學(xué)科大交叉、深交叉是趨勢，AI改變了科研范式，突破了傳統(tǒng)科研方式天花板。通過量變推動(dòng)質(zhì)變，AI有望在未來助力更多學(xué)科領(lǐng)域取得突破?！眹鴥?nèi)人工智能專家張春龍向筆者表示，對(duì)于網(wǎng)友們的“ChatGPT獲得諾貝爾文學(xué)獎(jiǎng)”等期待，他認(rèn)為，科學(xué)（科技）工程類學(xué)科可以由大系統(tǒng)AI助力，文學(xué)創(chuàng)作類的可能還是需要人文和情感底蘊(yùn)支撐。

AI發(fā)展有什么風(fēng)險(xiǎn)？如何利用好？

“假設(shè)青蛙創(chuàng)造了人類，那么你認(rèn)為現(xiàn)在誰會(huì)占據(jù)主動(dòng)權(quán)，是人，還是青蛙？”

去年，辛頓本人在北京智源大會(huì)提出的問題仍在耳畔回響，在諾獎(jiǎng)“爆冷”頒給AI后，人們也在質(zhì)疑，AI是否正在奪走科學(xué)家最重要的榮譽(yù)，AI的高速發(fā)展，真的不會(huì)帶來取代人類的風(fēng)險(xiǎn)嗎？

“最后獲獎(jiǎng)的是AI算法背后的科學(xué)家和工程師，而非人工智能本身，目前的人工智能技術(shù)也未能達(dá)到脫離數(shù)據(jù)+算力+算法獨(dú)立運(yùn)行的程度，本質(zhì)上還是人類的智慧，但是我們需要對(duì)于人工智能下一階段的發(fā)展抱有審慎態(tài)度，用客觀的眼光看待并做好治理介入的準(zhǔn)備?！毙煜杼寡?。

“從來不是AI可能取代人類，而是掌握了AI這種先進(jìn)工具的擁有者在淘汰沒有掌握先進(jìn)工具的人，歷史車輪的發(fā)展軌跡一直如此，任何一次技術(shù)革命都是先進(jìn)技術(shù)的擁有者去淘汰沒有獲得先進(jìn)技術(shù)的人，形成了相對(duì)的競爭優(yōu)勢。”

在肖仰華看來，要看到AI在科學(xué)研究發(fā)展上的巨大潛力，也要意識(shí)到AI背后潛在的風(fēng)險(xiǎn)和問題，以目前AI的能力，即便將來發(fā)展很完善，本質(zhì)依然是工具，是對(duì)人類的輔助，需要人類科學(xué)家去引導(dǎo)、規(guī)范和糾正，“因?yàn)锳I很難具有人類科學(xué)家的原始創(chuàng)新能力，它不具備像愛因斯坦那樣提出這種相對(duì)論，去解釋物理現(xiàn)象，突破傳統(tǒng)牛頓力學(xué)對(duì)于這個(gè)世界的機(jī)械力學(xué)的解釋，從零到一的原始創(chuàng)新仍然還是人類科學(xué)家才有可能完成?！?/p>

肖仰華表示，目前AI發(fā)展存在兩大主要弊端，第一是AI會(huì)放大科技的兩面性，當(dāng)AI驅(qū)動(dòng)科學(xué)研究之后，這意味著雙刃劍的劍鋒恐怕要更加鋒利，需要積極管理和管控其可能帶來的風(fēng)險(xiǎn)。

更嚴(yán)重的是價(jià)值觀念和倫理道德的挑戰(zhàn)，“科技是火車頭，整個(gè)人類社會(huì)是車身，目前火車頭動(dòng)力十足，速度越來越快，越來越加速。但是整個(gè)人類社會(huì)是由一個(gè)個(gè)鮮活的個(gè)體組成的，是由還在遵循著傳統(tǒng)倫理和價(jià)值觀念的家庭組成的，一個(gè)個(gè)社區(qū)及小型社會(huì)群體構(gòu)成的。我們還在遵循著幾千年未變的文化價(jià)值、倫理、情感觀念，這些是不可能做那么快的調(diào)整的?！?/p>

在科技的強(qiáng)勁的帶動(dòng)下，生產(chǎn)力會(huì)快速發(fā)展，生產(chǎn)力快速發(fā)展就勢必要求整個(gè)社會(huì)的上層建筑、倫理價(jià)值和情感觀念跟著去做適應(yīng)和調(diào)整，緩慢調(diào)整的社會(huì)上層關(guān)系和在科技帶動(dòng)下快速發(fā)展的生產(chǎn)力之間可能會(huì)誕生新型的矛盾。

今年6月，2024年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主麻省理工學(xué)院（MIT）教授達(dá)龍·阿西莫格魯（Daron Acemoglu）表示，對(duì)于人工智能，非常擔(dān)心它成為將財(cái)富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式，“問題是我們沒有任何必要的控制機(jī)制以確保普通人從AI中獲利，比如強(qiáng)有力的監(jiān)管、工人參與、公民社會(huì)和民主監(jiān)督。我們看到的‘不平等’是‘煤礦里的金絲雀’，意味著更糟糕的事即將到來?！保▉碓矗号炫刃侣劊?/p>