李光滿：AI已成中美戰(zhàn)略競爭制高點(diǎn)！中國需從九方面緊急應(yīng)對(duì)！
原創(chuàng) 李光滿2023-03-31 云阿云智庫•前沿科技
導(dǎo)讀：GPT所引發(fā)的沖擊大潮已經(jīng)洶涌而來，AI已經(jīng)成為大國競爭制高點(diǎn)，中國已不可避免地成為主要競爭者，我們應(yīng)該意識(shí)到AI所帶來的影響和沖擊是巨大的，深刻的，深遠(yuǎn)的，如此才能早準(zhǔn)備、早適應(yīng)、早應(yīng)對(duì)，在與美國的AI戰(zhàn)略競爭中取得戰(zhàn)略主動(dòng)和優(yōu)勢賽道。
最近關(guān)于AI的話題非常火爆，特別是GPT-4出來后，引發(fā)全世界巨大擔(dān)憂，甚至恐慌，這種擔(dān)憂和恐慌不僅是因?yàn)镚PT可能對(duì)整個(gè)社會(huì)就業(yè)的沖擊，而是因?yàn)镚PT快速迭代、進(jìn)化對(duì)人類生存構(gòu)成的更深層次擔(dān)憂。
3月29日，美國未來生命研究所公布一封公開信，目前已有包括馬斯克、“人工智能教父”的杰弗里·辛頓、AI“大�！鄙w瑞·馬庫斯、圖靈獎(jiǎng)得主約書亞·本希奧、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、StabilityAI首席執(zhí)行官埃馬德·莫斯塔克等在內(nèi)的一千多名科技界領(lǐng)袖人物和研究人員簽名，公開信呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。
他們?yōu)槭裁匆粲跛蠥I實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)叫呢？主要原因是GPT進(jìn)化得太快了，從推出GPT到迭代進(jìn)化到GPT-4，不到半年的時(shí)間，GPT的進(jìn)化已經(jīng)遠(yuǎn)遠(yuǎn)超出人們的想像。
下面是這封信的主要內(nèi)容：一、大量研究表明并得到頂級(jí)AI實(shí)驗(yàn)室的認(rèn)可，具有人類競爭智能的AI系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。二、高級(jí)AI可能代表地球生命史上的深刻變化，應(yīng)以相應(yīng)的關(guān)懷和資源進(jìn)行規(guī)劃和管理。三、這種級(jí)別的規(guī)劃和管理并沒有發(fā)生。四、最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場失控的競賽，以開發(fā)和部署更強(qiáng)大的數(shù)字思維，沒有人——甚至他們的創(chuàng)造者——都無法理解，預(yù)測，或可靠地控制。五、當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競爭力，我們是否應(yīng)該發(fā)展最終可能超過我們、超越我們、過時(shí)并取代我們的非人類思維？六、我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？不得將此類決定委托給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。七、只有當(dāng)我們確信它們的影響是積極的并且它們的風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。八、人工智能研究和開發(fā)應(yīng)該重新聚焦于使當(dāng)今強(qiáng)大的、最先進(jìn)的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠。最終結(jié)論是：所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)（包括目前正在訓(xùn)練的GPT-5至少6個(gè)月。
從這封信我們可以知道，這些科學(xué)界精英已經(jīng)意識(shí)到，“人工智能實(shí)驗(yàn)室陷入了一場失控的競賽，以開發(fā)和部署更強(qiáng)大的數(shù)字思維，沒有人——甚至他們的創(chuàng)造者——都無法理解，預(yù)測，或可靠地控制�！�即所有人都已經(jīng)無法預(yù)測、可靠地控制這場AI競賽的方向、速度、趨勢、風(fēng)險(xiǎn)。AI的進(jìn)化太迅猛，而人類又無法控制，這就是GPT給人類帶來的深度擔(dān)憂，不僅僅是給人類就業(yè)帶來的沖擊，也不僅僅是給各產(chǎn)業(yè)帶來的革命性影響，而是我們已經(jīng)無法控制它的方向，它給人類帶來的到底是毀滅還是更幸福的生活，我們無法預(yù)知和控制，這才是最可怕的。
360公司的周鴻祎預(yù)計(jì)，當(dāng)GPT演化到GPT-6、GPT-8的時(shí)候，人工智能將會(huì)產(chǎn)生意識(shí)，變成新的物種。未來，人工智能大語言模型有可能實(shí)現(xiàn)自我進(jìn)化、自動(dòng)更新系統(tǒng)和自我升級(jí)，或者指數(shù)級(jí)進(jìn)化能力，人類將會(huì)面臨不可預(yù)知的安全挑戰(zhàn)。周鴻祎關(guān)于“當(dāng)GPT演化到GPT-6、GPT-8的時(shí)候，人工智能將會(huì)產(chǎn)生意識(shí)，變成新的物種”的觀點(diǎn)令人感到的將不僅僅是擔(dān)憂，而是恐懼。既然GPT已經(jīng)產(chǎn)生了意識(shí)，變成了新的物種，而且比人類更聰明，那一定會(huì)與人類產(chǎn)生競爭，有競爭就有勝利或者失敗，人類是最終的勝利者還是失敗者呢？
其實(shí)還有一個(gè)更深遠(yuǎn)的問題，如果真的按周鴻祎所預(yù)測的那樣，到GPT-6、GPT-8有了意識(shí)，那么我們推想，既然可以讓GPT產(chǎn)生意識(shí)，那就一定會(huì)使它具有感情，還會(huì)有思想以及立場和態(tài)度，或許這才是那些科學(xué)精英們所擔(dān)憂的問題，也是這場AI競賽所面臨的最嚴(yán)峻的倫理挑戰(zhàn)，也就是說，這場科學(xué)變革所帶來的，除了給我們經(jīng)濟(jì)、軍事、教育等等方面帶來深刻的沖擊與變革之外，還會(huì)給人類社會(huì)的文明體系、倫理、價(jià)值觀帶來重大而深刻的沖擊。
而從GPT演化進(jìn)度來看，這種擔(dān)心絕不會(huì)是空穴來風(fēng)，也絕不是杞人憂天，或許在GPT給人類帶來巨大變革的同時(shí)，對(duì)人類所構(gòu)成的威脅才是我們應(yīng)該首先考慮的問題。面對(duì)美國率先掀起的AI浪潮，中國該如何認(rèn)識(shí)和應(yīng)對(duì)GPT崛起及AI迅猛發(fā)展所帶來的挑戰(zhàn)？對(duì)此，我有以下九點(diǎn)想法。
第一，盡管已經(jīng)有人意識(shí)到AI的演進(jìn)或者說GPT的進(jìn)化超出了人們的預(yù)期，引起了人們的擔(dān)憂，就此有人提出了要暫停。但我以為，在當(dāng)今這個(gè)資本和市場主導(dǎo)的全球化浪潮中，任何關(guān)于科技暫停的呼吁都是蒼白無力的，都是不可能阻止GPT以及及類似GPT的AI向前推進(jìn)的，正如居里夫人發(fā)現(xiàn)了放射性元素，卻無法阻止人類利用她的科學(xué)發(fā)現(xiàn)去制造可以毀滅人類的核武器一樣，只要能夠帶來利益，沒有什么力量最終能夠阻止科學(xué)發(fā)現(xiàn)和科技發(fā)明能夠用于軍事和戰(zhàn)爭。因此我們對(duì)此不能心存僥幸，同時(shí)我們要對(duì)GPT以及類似AI給我們帶來的惡的毀滅的力量保持足夠警覺。
第二，我相信無論什么科技成就和成果都會(huì)用于軍事甚至?xí)紫扔糜谲娛拢珹I技術(shù)也不例外，AI技術(shù)或者說GPT系統(tǒng)很快就會(huì)被美國用于軍事，會(huì)在戰(zhàn)場上使用，正如馬斯克搞的星鏈很快就在俄烏戰(zhàn)爭中大規(guī)模使用一樣，GPT系統(tǒng)和搭建在GPT系統(tǒng)上的子系統(tǒng)都會(huì)大量運(yùn)用于武器系統(tǒng)和戰(zhàn)爭環(huán)境，成為影響戰(zhàn)爭勝負(fù)的關(guān)鍵性武器。這一點(diǎn)我們尤其要高度重視。
第三，類似GPT的AI系統(tǒng)對(duì)一個(gè)國家具有越來越重要的戰(zhàn)略價(jià)值，正在成為大國競爭的一個(gè)新的制高點(diǎn)，而且是一個(gè)關(guān)鍵戰(zhàn)場。當(dāng)前美國在這一領(lǐng)域處于領(lǐng)先地位，這對(duì)其它國家來說是一種巨大的戰(zhàn)略威懾，甚至是致命性的優(yōu)勢地位。當(dāng)前中國許多公司也在搞AI系統(tǒng)，但與美國相比存在一定差距，這種差距將會(huì)影響中國產(chǎn)業(yè)競爭、教育競爭、軍事競爭、文化競爭以及輿論影響力競爭，如果中國不能盡快趕上甚至超過美國，將會(huì)在未來的國家整體競爭中處于被動(dòng)的不利的從屬的地位。
第四，GPT的快速迭代進(jìn)化，對(duì)算力的要求越來越高，而決定算力的是高端芯片。由于美國對(duì)中國芯片實(shí)施全面制裁禁運(yùn)，不僅光刻機(jī)進(jìn)口受影響，而且高端芯片也被嚴(yán)格禁運(yùn)。由美國英偉達(dá)公司生產(chǎn)的占據(jù)學(xué)習(xí)機(jī)器人圖形處理市場95%份額的高性能芯片A100和H100或未來峰值性能等于或超過A100和H100的GPU都被禁止向中國出售。這無疑會(huì)給中國AI的迭代進(jìn)化帶來嚴(yán)重制約，因此自主研制能夠生產(chǎn)高性能芯片的光刻機(jī)已經(jīng)成為非常緊迫的任務(wù)。有人認(rèn)為，現(xiàn)在28納米光刻機(jī)生產(chǎn)的芯片已經(jīng)能夠滿足80%的芯片需求，更高端的芯片禁運(yùn)對(duì)中國影響不大，可以緩一緩，最終仍可依靠全球合作解決。這種認(rèn)識(shí)的錯(cuò)誤是非常嚴(yán)重的，如果不盡快解決高端光刻機(jī)問題，我們的科技創(chuàng)新和AI產(chǎn)業(yè)的發(fā)展可能會(huì)長期被美國鎖定在低端，因此仍然對(duì)全球合作解決光刻機(jī)問題抱有幻想是短視、愚蠢而又幼稚的。
第五，中國應(yīng)該從戰(zhàn)略高度，以極強(qiáng)的歷史性敏銳重視AI所帶來的歷史性變革，甚至是歷史性革命，盡快組織專業(yè)力量對(duì)GPT所帶來的沖擊進(jìn)行全面評(píng)估，對(duì)中國AI產(chǎn)業(yè)發(fā)展進(jìn)行全面規(guī)劃和部署，研判AI給我們社會(huì)、文化、教育、產(chǎn)業(yè)、科技、輿論、意識(shí)形態(tài)等等方面會(huì)帶來哪些重要的變革、沖擊、影響，在國家層面成立專門機(jī)構(gòu)，支持和促進(jìn)中國AI產(chǎn)業(yè)加快發(fā)展，使中國AI盡快趕上美國和超過美國，在全球AI競爭中保持領(lǐng)先和優(yōu)勢地位。
第六，由于GPT所具有的巨大的軍事價(jià)值，建議立即成立相關(guān)機(jī)構(gòu)，研究GPT的軍事價(jià)值，研究如何應(yīng)對(duì)GPT給中國國家安全、軍事安全帶來的沖擊和威脅，研究GPT對(duì)戰(zhàn)爭形態(tài)、戰(zhàn)場態(tài)勢帶來的影響，研究GPT在武器研制方面帶來的影響，并制定相應(yīng)的對(duì)策。
第七，由于GPT對(duì)社會(huì)的廣泛滲透和價(jià)值觀傾向，我們需要超前關(guān)注和研究GPT對(duì)我國社會(huì)意識(shí)形態(tài)的影響，防止境內(nèi)外敵對(duì)勢力通過GPT對(duì)我國意識(shí)形態(tài)進(jìn)行深度滲透和影響，隨著GPT的進(jìn)一步迭代和進(jìn)化，境內(nèi)外敵內(nèi)勢力或者GPT本身的知識(shí)體系都可能對(duì)中國人的思想、知識(shí)、價(jià)值觀產(chǎn)生潛移默化的西化的影響和扭曲，以達(dá)到文化破壞、文明變形、價(jià)值觀扭曲、社會(huì)秩序坍塌的目的，對(duì)此我們要高度重視，提前布局防犯。
第八，AI發(fā)展主要還是靠大投入推動(dòng)。近幾年中國在人工智能領(lǐng)域的投入有明顯進(jìn)步，但卻遠(yuǎn)不及美國在人工智能領(lǐng)域的投入力度，中國的投入總額不及美國的十分之一，相差巨大。而且美國還出臺(tái)了一系列鼓勵(lì)A(yù)I產(chǎn)業(yè)發(fā)展的法案，從政策、資金、政府主導(dǎo)等各方面推進(jìn)AI產(chǎn)業(yè)發(fā)展，中國在這方面的表現(xiàn)遠(yuǎn)遠(yuǎn)不及美國。
第九，AI發(fā)展的基礎(chǔ)還要靠基礎(chǔ)理論研究。中國在AI領(lǐng)域的基礎(chǔ)研究相對(duì)較弱，包括人工智能的理論研究、算法開發(fā)、數(shù)據(jù)科學(xué)等方面，需要投入更多的資金和資源，以吸引更多人才從事基礎(chǔ)研究和應(yīng)用研究。由于中國人工智能領(lǐng)域的人才嚴(yán)重短缺，必須盡快在大學(xué)設(shè)置人工智能學(xué)科，開設(shè)人工智能學(xué)院，加快培養(yǎng)相關(guān)人才。同時(shí)國家要在有關(guān)大學(xué)、研究機(jī)構(gòu)和企業(yè)建設(shè)人工智能國家重點(diǎn)實(shí)驗(yàn)室，加大產(chǎn)學(xué)研合作力度。
當(dāng)前，由于GPT的來勢過于迅猛，我們很多人，包括政府可能都還沒有來得及做出必要的反應(yīng)。因此我認(rèn)為高層應(yīng)高度關(guān)注GPT所帶來的沖擊，我們的企業(yè)、社會(huì)上的每個(gè)人也都應(yīng)該重視并適應(yīng)AI可能帶來的就業(yè)、教育、工作方式變革。
從更深層面看，AI可能還會(huì)給我們的價(jià)值觀、思想、文化、倫理、理念帶來深刻而重要的滲透和影響，我們有關(guān)部門應(yīng)及時(shí)了解和應(yīng)對(duì)這種滲透和影響的嚴(yán)重程度。
GPT所引發(fā)的沖擊大潮已經(jīng)洶涌而來，AI已經(jīng)成為大國競爭制高點(diǎn)，中國已不可避免地成為主要競爭者，我們應(yīng)該意識(shí)到AI所帶來的影響和沖擊是巨大的，深刻的，深遠(yuǎn)的，如此才能早準(zhǔn)備、早適應(yīng)、早應(yīng)對(duì)，在與美國的AI戰(zhàn)略競爭中取得戰(zhàn)略主動(dòng)和優(yōu)勢賽道。
關(guān)注手機(jī)移動(dòng)微站
2086
萬字長文解碼全球AI大模型現(xiàn)狀 