1. 技術浪潮

1.1. 俄烏沖突仍是(shi)一(yi)個里(li)程碑式的(de)事件(jian)，因為(wei)它凸(tu)顯了訓(xun)練相對不(bu)足的(de)戰斗力量如何利用消費(fei)市場上相對廉價的(de)技(ji)術(shu)來進行(xing)快速(su)組建和武(wu)裝

1.2. 當技(ji)術能夠帶來如此顯著(zhu)的成本和(he)戰(zhan)術優(you)勢時，它的擴散與(yu)廣泛采用無疑將成為必然趨勢

2. 固有特征

2.1. 技(ji)術(shu)的高度(du)非對(dui)稱(cheng)性影響

• 2.1.1. 新技術會使得那些看似強大的勢力暴露出以前難以想象到的弱點和破綻

2.2. ;技(ji)術(shu)發(fa)展(zhan)迅猛，呈現出(chu)一種(zhong)超(chao)級(ji)進化(hua)性(xing)，它們以(yi)驚人的(de)速度迭(die)代、改進，并不(bu)斷拓展(zhan)至新的(de)領(ling)域

2.3. 往往具有通用性(xing)，能夠(gou)服務于多(duo)種不同的(de)目的(de)

2.4. 與任何以(yi)往的技術相比，它們越來越展現(xian)出一(yi)定(ding)程(cheng)度的自(zi)主性

3. 非對稱性

3.1. 權力大轉移(yi)

• 3.1.1. 新技術的出現(xian)總會產生新的威脅，帶(dai)來權力的重新分配，導致進入障礙(ai)被消除

• 3.1.2. 大炮的出現意味著一小隊(dui)力量便能摧毀城堡(bao)，消滅整(zheng)支軍(jun)隊(dui)

• 3.1.3. 印(yin)刷機的(de)出現意味(wei)著一個車(che)間便能產出數千本小冊子，以中世紀手工抄書的(de)修士(shi)們難以想(xiang)象的(de)便捷方式傳播思想(xiang)

• 3.1.4. 蒸(zheng)汽動力(li)使單個工廠的(de)生產力(li)匹敵整(zheng)個城鎮(zhen)

• 3.1.5. 互聯網(wang)將技術的能力推(tui)向了新的高峰：一條推(tui)文或(huo)一張圖片可(ke)能在幾分(fen)鐘(zhong)甚至幾秒鐘(zhong)內傳遍全(quan)球

• 3.1.6. 一個(ge)算法便可(ke)能助(zhu)力一家小型初創(chuang)公司(si)崛起，并成為全球性的巨型企業(ye)

3.2. 使用武(wu)器化(hua)無人機的(de)不(bu)只有烏克蘭士兵，任何想要(yao)的(de)人都可以(yi)做到(dao)

3.3. 將(jiang)人工智能和技(ji)術自主(zhu)性(xing)的(de)進步、廉價高效的(de)無人機，以(yi)(yi)及機器(qi)(qi)人技(ji)術和計算(suan)機視覺等領域的(de)革新融合起(qi)來，將(jiang)創(chuang)造出強(qiang)大、精準且可能難(nan)以(yi)(yi)被偵測的(de)武器(qi)(qi)設備

3.4. 權力從傳(chuan)統國(guo)家和軍隊轉(zhuan)向任何有能力且有意(yi)愿(yuan)部署這(zhe)些技(ji)術(shu)設(she)備的個(ge)體或組(zu)織

3.5. 技(ji)術的非對稱性影響正在呈現出全(quan)方位擴大的趨(qu)勢

• 3.5.1. 一(yi)個人工智能程序可(ke)能會獨立撰(zhuan)寫出與人類所有文(wen)本作品(pin)規模相匹(pi)敵的巨(ju)量文(wen)字(zi)

• 3.5.2. 筆記本電腦(nao)上運行的(de)(de)一(yi)個僅占用2GB空間的(de)(de)圖像生成模型，可(ke)能足以(yi)整合開放網絡上的(de)(de)全部圖片資源，并(bing)以(yi)前(qian)所未有的(de)(de)創造力(li)和精準度生成全新的(de)(de)圖片

• 3.5.3. 一(yi)次病原體實(shi)驗(yan)或(huo)許就能觸發全球大流(liu)行病

• 3.5.4. 一個小(xiao)小(xiao)的分子事件可(ke)能產生(sheng)全球性的影響

• 3.5.5. 一臺高效運轉的量子計算機可以讓全球的整個加密基礎設(she)施形同虛設(she)

3.6. 單(dan)個(ge)系(xi)統便(bian)有可能創造出巨(ju)大的福祉

3.7. 即便對稱的行動(dong)也未必能幸(xing)免于全球性的風險(xian)

3.8. 即將到來(lai)的(de)技術浪潮(chao)的(de)龐大規模和(he)高度(du)互聯性也帶來(lai)了新的(de)系統(tong)性弱點，單一的(de)故障點就可能觸發(fa)全球范(fan)圍內的(de)連鎖反(fan)應

• 3.8.1. 技術的本地化程度越低，其蔓延速度就越快，遏制難度也就越大

3.9. 汽車是歷史上擴散速(su)度(du)最快、全球化程度(du)最高的技術之一

3.10. 人工智(zhi)能帶來的(de)非對稱(cheng)性(xing)風險(xian)，遠(yuan)超劣質食品、飛機失事或(huo)產品缺陷等傳統風險(xian)范疇

• 3.10.1. 網絡規模的龐大，使得對潛在損害的遏(e)制變得幾乎不可能

• 3.10.2. 相互交織的全球系統已(yi)成為(wei)遏制工作的夢(meng)魘

4. 超級進化性

4.1. 無盡(jin)加(jia)速

4.2. 安全(quan)標準雖然總是有點(dian)兒滯后(hou)，但最終(zhong)還(huan)是能跟上汽車(che)技術的發展

4.3. 在過去的40年里，互聯網(wang)已成為歷史(shi)上成果最為豐碩的創新(xin)平臺之一

4.4. 21世紀初，創新開始沿(yan)著阻(zu)力最小(xiao)的(de)路徑(jing)前行，主要聚(ju)焦于(yu)比特世界而非原子世界

4.5. 軟(ruan)件的超級進(jin)化性正將其(qi)影(ying)響力擴展至各個行業領域

• 4.5.1. 在未來的(de)40年里(li)，我們(men)將看到原子世界(jie)的(de)內(nei)容以空(kong)前的(de)復(fu)雜性與保真度(du)被(bei)轉(zhuan)化為比特信息

• 4.5.2. 比特世(shi)界的內容也將以(yi)前(qian)所未有的效率和便捷性被(bei)轉(zhuan)化為實體的原(yuan)子(zi)內容

4.6. ?“真實世界(jie)”中(zhong)的(de)(de)創新速度可能將(jiang)與數字化的(de)(de)步伐并駕(jia)齊驅，展現(xian)出更為實時的(de)(de)特點，同時其(qi)面臨的(de)(de)阻(zu)力及對外部(bu)條件的(de)(de)依賴都將(jiang)降低

4.7. 物質的配置或組(zu)合方(fang)式的重要性主要在(zai)于它們所蘊(yun)含(han)的信息(xi)

• 4.7.1. 法拉利汽車的(de)(de)價值并不在(zai)于其原始的(de)(de)物質材料，而在(zai)于其精妙(miao)的(de)(de)設(she)計(ji)和構成中(zhong)所包(bao)含的(de)(de)復雜信(xin)息

• 4.7.2. 隨著(zhu)計算基(ji)礎(chu)的不(bu)斷增強，實(shi)現(xian)這(zhe)種(zhong)信息的利用(yong)和轉化(hua)將變得越發容易

4.8. 人工智(zhi)能已在新材料和化(hua)合物的開發(fa)中發(fa)揮(hui)了(le)重要作(zuo)用

• 4.8.1. 通過與(yu)3D打印技術的結合，人工智能還能夠完(wan)成汽車的設計與(yu)制造

• 4.8.2. 由人工智能設(she)計的(de)某些汽車樣式(shi)與人類的(de)常規設(she)計迥(jiong)然不同，前者更像是自(zi)然界中的(de)一(yi)些獨(du)特(te)又高(gao)效的(de)形態

• 4.8.3. 人工智能技術還能將汽車的線路與管(guan)道(dao)布局巧(qiao)妙地整(zheng)合進底盤之中(zhong)，從而實現(xian)空間利用的最優化

• 4.8.4. 對于某些結(jie)構過于復雜的零部件，傳統(tong)制(zhi)造(zao)工具已無(wu)能為力，3D打印技術成了不可或缺的制(zhi)造(zao)手段

4.9. 如今，模擬(ni)技術大(da)大(da)加速了疫苗的研發進程(cheng)

• 4.9.1. 計(ji)算工具可以助(zhu)力部(bu)分(fen)產(chan)品設計(ji)流程實現(xian)自動(dong)化，通過(guo)還原細(xi)(xi)胞“生(sheng)物電路(lu)”將復雜(za)功(gong)能直接(jie)編入細(xi)(xi)胞，從而讓細(xi)(xi)菌按需產(chan)出(chu)特定(ding)蛋(dan)白(bai)質等成(cheng)果成(cheng)為可能

• 4.9.2. 軟件框架（如(ru)Cello）幾乎已成為(wei)合成生物學設(she)計的“開(kai)源語言”?

4.10. 量子技術(shu)的(de)能力(li)遠超最強大(da)的(de)經典計算機數百(bai)萬倍，將使這樣的(de)過程(cheng)在分(fen)子層面上實現

5. 通用性

5.1. 在(zai)近年(nian)原子領(ling)域(yu)創(chuang)新(xin)停滯不前的(de)背(bei)景下，醫療(liao)保(bao)健成(cheng)了發展明顯(xian)放(fang)緩的(de)領(ling)域(yu)之一，這(zhe)打破了傳統認知(zhi)

5.2. 自動化藥物(wu)研(yan)發是(shi)人工(gong)智能領域極具潛力的一個方向(xiang)，也是(shi)醫療保健行業(ye)擺(bai)脫當前嚴(yan)峻形勢的出路(lu)

5.3. 人工智(zhi)能(neng)勢必(bi)將顯著(zhu)推(tui)動藥物(wu)發(fa)現領域的發(fa)展，但其研發(fa)成(cheng)果很可(ke)能(neng)具有“雙重用途”?

5.4. 雙重用(yong)途(tu)技(ji)術是指那些(xie)既可民(min)用(yong)，也可軍用(yong)的技(ji)術

• 5.4.1. 一戰時的合成氨技術(shu)為例，它原本被(bei)視為滿足全球糧食需(xu)求的重要手段，然而(er)，該技術(shu)也為制造爆炸物提供了(le)可能，并為化學武器(qi)的開發奠定(ding)了(le)基礎

• 5.4.2. 用(yong)于(yu)客運飛機(ji)的(de)精密復雜(za)的(de)電子系統，也可(ke)以用(yong)于(yu)制造精確導彈

• 5.4.3. GPS雖起(qi)源于軍(jun)事需求，但(dan)如(ru)今已融入(ru)我們的(de)日常生活(huo)，服務(wu)于眾(zhong)多民用目(mu)的(de)

• 5.4.4. 一(yi)個深度(du)學習系統可能是為了游戲而(er)設(she)計的，也有可能用于操控整個轟炸機艦(jian)隊(dui)

• 5.4.5. 麥克風既可用(yong)于(yu)納粹集(ji)會，也可用(yong)于(yu)披頭士樂隊(dui)

5.5. 雙重用途技術既可(ke)(ke)以(yi)造福，也(ye)可(ke)(ke)能釀(niang)禍，既可(ke)(ke)能是(shi)實用工具(ju)，又可(ke)(ke)能是(shi)致(zhi)命(ming)武器

5.6. 技術發展的一個趨(qu)勢，即通用(yong)性

• 5.6.1. 隨著時間的推移，技術正日益趨于通用化

5.7. 如果人工(gong)智能確實(shi)是新時代的(de)“電力”?，那么，它將如同電力一(yi)(yi)(yi)般，成(cheng)為一(yi)(yi)(yi)種按需提供(gong)的(de)實(shi)用工(gong)具，將深入并(bing)推動(dong)我們的(de)日常生活以及社會(hui)和經濟的(de)方方面面：一(yi)(yi)(yi)種滲透一(yi)(yi)(yi)切的(de)通用技術

5.8. 起初，人工智能系統主要利用深度學習(xi)等通用技(ji)術來達成特定目(mu)標

5.9. 作(zuo)為一種完全通用的(de)(de)技術，生(sheng)命工程技術的(de)(de)潛(qian)在用途幾乎是無(wu)限的(de)(de)

5.10. 改造新(xin)技術以適應多(duo)種用途(tu)并非一個新(xin)鮮概念

6. 自主性及其他

6.1. 自(zi)主性并非技術(shu)固有(you)的屬性

• 6.1.1. 將技術視為“只是個工具”?

6.2. 技(ji)術始終致力于擴大我(wo)們的能力范圍，但(dan)關(guan)鍵的一(yi)點(dian)是，做(zuo)什(shen)么仍然由人類來決定

6.3. 具備(bei)高度自主(zhu)性的(de)技術浪潮正將(jiang)(jiang)我們引(yin)入一個新的(de)世界(jie)，在這里(li)，持續的(de)人為干(gan)預和監督(du)將(jiang)(jiang)變得(de)越發不必要(yao)

6.4. GPT-4所(suo)展(zhan)現(xian)出的這些能(neng)力(li)都不是(shi)通過人(ren)為編(bian)程實現(xian)的，而(er)是(shi)源于一個(ge)更廣(guang)泛的技術架構的涌現(xian)效應，其內(nei)容輸出已遠(yuan)超系(xi)統設(she)計師(shi)預先可以控(kong)制的范(fan)疇(chou)

6.5. 自主性(xing)的新形(xing)態有可能催(cui)生一系列新奇且難以預料的后果

• 6.5.1. 預(yu)測(ce)定(ding)制(zhi)基因(yin)組的行為(wei)表現是極(ji)其(qi)困難的

• 6.5.2. 一旦研究人員對某個物種(zhong)實施了生殖細胞基因改造(zao)，這些改變就有可能在生物體內(nei)存續數千年，遠遠超(chao)出我們的(de)控制和預測范(fan)疇

• 6.5.2.1. 其影響或許會(hui)在物種中延續無數代

• 6.5.2.2. 這樣的變化(hua)未來會如何不斷演進、如何與其他變化(hua)產(chan)生交(jiao)互，無疑是無法預測的，也超出(chu)了(le)我們的掌控(kong)范(fan)圍(wei)

• 6.5.2.3. 合成生物體將開始擁(yong)有它們(men)自(zi)己的生命

6.6. 量子計算等技術更(geng)是在突破(po)我們對世界的認知邊(bian)界

6.7. 自主系統或許具(ju)備(bei)一定程度的可解(jie)釋性，然而(er)即將到來的浪潮(chao)中的諸多(duo)技術正持續挑戰(zhan)我們(men)的認知邊界，這一現象(xiang)值(zhi)得我們(men)深思

6.8. 在人工(gong)智(zhi)能(neng)研(yan)究(jiu)的(de)最前沿，一些研(yan)究(jiu)者想實現人工(gong)智(zhi)能(neng)系(xi)統構建(jian)的(de)全(quan)方位(wei)自動(dong)化，以期推動(dong)人工(gong)智(zhi)能(neng)技術的(de)“超級進化”?

7. 大猩猩問題

7.1. 盡管大(da)猩(xing)(xing)猩(xing)(xing)在(zai)體能上超越任(ren)何人類，更為強壯(zhuang)與(yu)堅(jian)韌，但現實是它(ta)們(men)處(chu)于瀕危狀態或被(bei)囚(qiu)禁(jin)在(zai)動物園中，是它(ta)們(men)受人類遏(e)制

7.2. 人類(lei)雖(sui)肢體(ti)柔弱，但(dan)擁(yong)有強大的(de)大腦，因此能夠實施遏制

7.3. 通過創造出(chu)比(bi)我們(men)更聰明的(de)實體，我們(men)或(huo)許(xu)會使自己陷入一種類似于我們(men)的(de)“靈長類表(biao)親”的(de)處(chu)境(jing)

7.4. 所謂(wei)的“智能爆(bao)炸”?，就是指人工智能擁有(you)(you)持續自(zi)我優化的能力，能夠以前所未(wei)有(you)(you)的速度和效率，循環往(wang)復地改(gai)進自(zi)己

7.5. 技術將(jiang)徹(che)底掌控自身(shen)的進化命運

• 7.5.1. 它(ta)將通過循環遞歸的自(zi)我完善而不(bu)斷壯(zhuang)大

• 7.5.2. 它的復雜程度將超越常(chang)規(gui)解釋(shi)的范疇

7.6. 在極端情況下，即將到來的技術浪(lang)潮或許將顛覆人類的地位，使我們不再穩(wen)坐食物鏈之巔(dian)

7.7. ?“技術人”有可(ke)能最終(zhong)受(shou)到(dao)自身所創之物的威脅

• 7.7.1. 真正的問題并不在于技術浪潮是否會到來—浪潮將至