1. 報復效應

1.1. 艾倫·圖靈(ling)和戈(ge)登·摩爾(er)不(bu)可(ke)能(neng)預(yu)見、更(geng)不(bu)可(ke)能(neng)左右(you)社交(jiao)媒體、表情包、維基百(bai)科(ke)或(huo)網絡攻擊這些新生(sheng)事物(wu)

1.2. 在原子(zi)彈問(wen)世幾十年后(hou)，原子(zi)彈的制造者已無(wu)法再阻止核戰爭(zheng)爆發，就像亨利·福(fu)特無(wu)法阻止車禍發生一樣

1.3. 技術(shu)所面臨的(de)必然的(de)挑戰在(zai)于(yu)，一(yi)旦某項發明問(wen)世并融入世界，其創造者就會迅速失去對其發展走向的(de)控制

1.4. ;技(ji)術(shu)存在于一個復雜(za)且動態(tai)的系統（現實(shi)世(shi)界）中(zhong)，其二階(jie)、三階(jie)乃至更(geng)高階(jie)的影響(xiang)會以不(bu)可預測的方式擴散(san)

1.5. 我們不僅要預測技術帶來的積極溢(yi)出效應(ying)，還要預測其“報復效應(ying)”?

• 1.5.1. 任何技術都有可能(neng)出(chu)錯(cuo)，而(er)(er)且往(wang)往(wang)是(shi)以(yi)一種與初(chu)衷背道而(er)(er)馳的(de)方(fang)式出(chu)錯(cuo)

• 1.5.2. 處方阿片(pian)類藥物如何導致依賴成癮

• 1.5.3. 抗生素的過度(du)使用如何削弱了其藥效

• 1.5.4. 衛星(xing)和所(suo)謂的“太(tai)空垃圾”碎(sui)片的激增如何給太(tai)空飛(fei)行帶來極大風險

1.6. 當技術不斷(duan)擴散，越來(lai)(lai)越多的(de)人能夠使用、修(xiu)改，并按自己的(de)喜好來(lai)(lai)塑造它時，這會(hui)觸及一連(lian)串錯綜復(fu)雜(za)、難以預(yu)料的(de)因果鏈條

• 1.6.1. 隨著我們的(de)工具的(de)力量呈(cheng)指數級增長(chang)，普(pu)及程度急(ji)劇(ju)攀升(sheng)，它們的(de)潛在危害也在同步激(ji)增，其后果仿佛一個復雜難料的(de)迷宮，無人(ren)能預測或防范(fan)

• 1.6.2. 技術的這一問題(ti)是(shi)一個遏制問題(ti)

  • 1.6.2.1. 徹(che)底消除這個問題可(ke)能難(nan)以(yi)(yi)實現，但我們可(ke)以(yi)(yi)減少它的影響

  • 1.6.2.2. ;遏制是一種至關重要的能(neng)力(li)，涵蓋了控制、限制以及必要時在技術(shu)的任(ren)何發展或(huo)部署階段關閉技術(shu)的能(neng)力(li)

  • 1.6.2.3. 意味著我(wo)們一(yi)開(kai)始就應(ying)具備(bei)阻(zu)止技術擴散的能力，從而遏制潛在(zai)意外結果的蔓延，無論這些結果是好(hao)是壞

1.7. 技術的(de)力量越(yue)強(qiang)大，它就越(yue)是深入(ru)生活(huo)和社會的(de)方(fang)(fang)方(fang)(fang)面面

• 1.7.1. 技術的問題往往會隨著技術能力的提升而加劇，所以隨著時間的推移，遏制的需求也變得更加迫切

1.8. 在大(da)多數情況下，遏制代(dai)表著(zhu)一(yi)種富有(you)意(yi)義的(de)控制，表示我們(men)有(you)能力阻(zu)止特定(ding)的(de)使用案例、改變(bian)某(mou)個研(yan)究方(fang)向(xiang)或拒絕有(you)害行為者的(de)使用權(quan)限

• 1.8.1. 意味著我們要保持我們引導浪潮的能力，以確保技術的影響與我們的價值觀相契合，能助力我們這個物種的繁榮發展，并且不會帶來大于其益處的重大危害

2. 遏制是基礎

2.1. 技(ji)術并非(fei)敵人，而是人類社(she)會的一種基本屬性

2.2. 要實現對(dui)技術的遏制，我們需要一個更深(shen)層次的方案，這一方案無關競爭方之間(jian)的力量(liang)平(ping)(ping)衡，而在于人類與工具之間(jian)的力量(liang)平(ping)(ping)衡

2.3. 遏制(zhi)涵蓋了監管、技術安全提升(sheng)、治(zhi)理和所有權模式的(de)創新，以(yi)及(ji)問責制(zhi)和透明度(du)的(de)新機制(zhi)，這(zhe)些都是實現(xian)更(geng)安全的(de)技術的(de)必(bi)要（但非充(chong)分）條件

2.4. 遏(e)制如同一把(ba)統領性的鎖，將尖端工程、倫理價(jia)值觀和政(zheng)府監管緊密(mi)聯系在一起

2.5. 不應將遏制(zhi)視(shi)為解決(jue)所有(you)技術(shu)問題的(de)終極(ji)方案，而應將其(qi)視(shi)為第一步(bu)和(he)關(guan)鍵的(de)一步(bu)，它是(shi)人類未來(lai)所依存的(de)基礎

2.6. 遏制(zhi)(zhi)應被視(shi)為一(yi)套相互關聯、相互增(zeng)強的(de)技術、文化、法律和政治(zhi)機制(zhi)(zhi)，其目標是在技術呈指數級增(zeng)長的(de)時代里，保持社會對技術的(de)駕馭力

2.7. 技術遏制是指在實驗室或(huo)研發設施中進行的一些操(cao)作

• 2.7.1. 技術(shu)遏制(zhi)還包(bao)括國(guo)家和國(guo)際層面(mian)的法(fa)律(lv)機制(zhi)

• 2.7.2. 在任何特定社會中，技術總(zong)是(shi)與(yu)其法律、習俗、規范、習慣以及權力和知(zhi)識結構緊密相連，所有這些方面都必須(xu)得(de)到妥善處理

3. 說不?？

3.1. 當印刷機在15世(shi)紀風靡歐洲(zhou)時(shi)，奧斯曼帝(di)國卻采(cai)取(qu)了截(jie)然不(bu)同的(de)態度，它試圖禁止(zhi)印刷

• 3.1.1. 直到(dao)1727年，也就是印刷機發明(ming)近3個世紀后，這座城市才終于擁(yong)有了(le)第一臺經官方許(xu)可的印刷機

• 3.1.2. 長期以(yi)來，歷史學(xue)家將奧斯曼(man)帝國的這種(zhong)技(ji)術抵制視為早(zao)期技(ji)術民族主義的經典(dian)案例，它展現了一種(zhong)有意識(shi)地對現代性持否定(ding)態度的保守立場(chang)

3.2. 國家(jia)一開(kai)始可(ke)(ke)能會拒(ju)絕技術(shu)，但隨著技術(shu)成本(ben)的降低和普及程度(du)的提高，它(ta)們不可(ke)(ke)能永遠說“不”?

• 3.2.1. 不(bu)應認(ren)為(wei)技術(shu)傳播是輕而易舉(ju)的

• 3.2.2. 技(ji)術(shu)傳播必須(xu)與既(ji)得利益、既(ji)定知識(shi)以及(ji)那些(xie)同時(shi)牢牢掌握兩(liang)者的群體(ti)進行斗(dou)爭

3.3. 浪潮一旦站穩腳(jiao)跟，其勢頭便幾乎無法(fa)阻(zu)擋

• 3.3.1. 大量新的技術不斷涌現，而舊的則不斷被淘汰

3.4. 在一次(ci)次(ci)的技術浪(lang)潮中，我們(men)見證了火的使用被蠟燭和(he)油燈替代，隨(sui)后煤氣燈和(he)電(dian)燈泡又取(qu)代了它們(men)，如今LED燈則成為主流

• 3.4.1. 正如電力替代了蠟燭和蒸汽機一樣，智能手機也取代了衛星導航儀、照相機、個人數字助理、電腦和電話，并開創了全新的應用程序體驗

3.5. 技(ji)術猶如一根(gen)誘人的胡蘿卜，始終在我們眼前晃動，不斷(duan)承諾著更多(duo)、更好、更便(bian)捷、更實惠(hui)的前景(jing)

4. 核技術

4.1. 與更廣泛(fan)的(de)技術傳播的(de)歷(li)史(shi)模式相比，核武器并(bing)未(wei)無休止地擴散

4.2. 核武器(qi)在(zai)戰爭期間僅(jin)被引爆過兩次(ci)

4.3. 人(ren)類(lei)歷史(shi)上(shang)記錄的最大爆(bao)炸(zha)就是(shi)氫彈(dan)爆(bao)炸(zha)試驗，那是(shi)一枚被稱為“沙皇炸(zha)彈(dan)”的氫彈(dan)，1961年，它(ta)在巴倫支(zhi)海(hai)的一個偏遠群島上(shang)空被引爆(bao)，爆(bao)炸(zha)形成了(le)一個直徑(jing)3英(ying)里的火球和一個59英(ying)里寬的蘑(mo)菇云

• 4.3.1. 這次爆炸的(de)威(wei)力是二戰中(zhong)使用的(de)所有(you)常規zha藥總和(he)的(de)10倍，其規模令(ling)所有(you)人為之(zhi)戰栗

• 4.3.2. 從遏制技術的角度看，氫彈試驗(yan)可能實際上幫(bang)助了(le)人類

4.4. 核技術的(de)遏制并非偶然，而是由核大國有(you)意(yi)實(shi)施的(de)防擴散政策所致

• 4.4.1. 核武器制造過程的極端復雜性和高昂成本也起到了輔助作用

4.5. 直(zhi)到(dao)2019年，美國的指揮控制系統才擺脫(tuo)了20世紀70年代的硬件和(he)8英寸(cun)軟盤，完成了升(sheng)級

• 4.5.1. 世界上最先進、最具破壞力的武器庫所依賴的技術竟然如此老舊，對今天的大多數人來說，它們恐怕是極其陌生（且無法使用）的

4.6. 核(he)武器是歷史上(shang)受到最嚴格遏制(zhi)的技(ji)術之(zhi)一(yi)，但是即便(bian)從最單純的字面意義(yi)來看，核(he)武器的遏制(zhi)問(wen)題也遠未(wei)得到解決(jue)

• 4.6.1. 大(da)量(liang)核材料下落不明，它們原本(ben)屬于醫院、企業、軍隊，甚至可(ke)能不久(jiu)前來(lai)自切爾(er)諾貝利

• 4.6.2. 微(wei)小的(de)硬件故障(zhang)也可能(neng)引發巨大的(de)風險

5. 技術動物

5.1. 人(ren)類總(zong)是(shi)有充足的理由來(lai)抵制(zhi)或(huo)限(xian)制(zhi)技術

5.2. 技術的歷史(shi)雖然是(shi)讓人們取得(de)更(geng)多成就、提升能(neng)力、改善福(fu)祉的歷程，但它(ta)并非只有積極的一面(mian)

• 5.2.1. 技(ji)術不(bu)僅帶來了更精良的工具(ju)(ju)，也制造(zao)了更致(zhi)命、更具(ju)(ju)破壞(huai)力的武(wu)器

• 5.2.2. 新技術能夠引發人們的(de)不安，威脅社會(hui)穩定，還會(hui)帶來陌生和侵犯感(gan)

6. 智能技術

6.1. 通用人工智能(neng)中的“通用”指(zhi)的是這(zhe)項技術(shu)預(yu)期(qi)覆蓋的范圍廣闊

6.2. 圍棋

• 6.2.1. 圍(wei)棋(qi)(qi)是一項(xiang)起(qi)源(yuan)于(yu)中國的(de)古老棋(qi)(qi)類游(you)戲，兩位對弈者在19×19的(de)棋(qi)(qi)盤上分別執黑(hei)、白棋(qi)(qi)子進行對局(ju)，目標是用自己的(de)棋(qi)(qi)子包圍(wei)對方的(de)棋(qi)(qi)子，當對方的(de)棋(qi)(qi)子被(bei)完全(quan)包圍(wei)時，這些棋(qi)(qi)子就會被(bei)拿走(zou)

• 6.2.2. AlphaGo最(zui)初(chu)是通(tong)過觀摩人類(lei)專家對弈的15萬(wan)場比(bi)賽進(jin)行學習(xi)的

  • 6.2.2.1. 人工智能發現了數千年來最杰出的棋手都未曾想到的策略

• 6.2.3. AlphaZero，完全(quan)摒棄了對(dui)現有人類知識的參考，系(xi)統只(zhi)是簡單地自(zi)我訓練，與自(zi)己進行數百萬次對(dui)弈

  • 6.2.3.1. AlphaZero僅通過一天的訓練，就能夠掌握比整個人類經驗所能傳授給它的更多的圍棋知識

7. 從原子到比特再到基因

7.1. 直至(zhi)最近，技(ji)術的漫長歷史都可以被一句話概括：人類(lei)對操控(kong)原子的不懈探(tan)求

• 7.1.1. 從(cong)(cong)火(huo)到(dao)電，從(cong)(cong)石器(qi)到(dao)機(ji)床，從(cong)(cong)碳(tan)氫化合物到(dao)藥物，無不體(ti)現這一點

• 7.1.2. 隨(sui)著這種掌控的(de)精確度日益提升(sheng)，技術也呈現出越(yue)發(fa)強大和復雜(za)的(de)態勢(shi)，從而(er)催生了諸如機(ji)(ji)床、電氣工藝(yi)、熱(re)力(li)發(fa)動機(ji)(ji)、塑料等合成材(cai)料，以及能夠抗擊重大疾病的(de)復雜(za)分(fen)子

• 7.1.3. 所有這些新技術的(de)核心驅(qu)動(dong)力(li)都是物(wu)質，源于人類對原子(zi)元素操控需求的(de)不斷增長

7.2. ;信息能(neng)以二(er)進制形式編碼，還能(neng)以DNA的形態成(cheng)為生命運轉(zhuan)的核心

• 7.2.1. 那(nei)些由1和0組成的序列，或是DNA的堿(jian)基(ji)對(dui)，遠不(bu)只是數學上的奇(qi)觀

• 7.2.2. 起初是比(bi)特，而(er)后基因的(de)潛力越發(fa)顯現(xian)，這兩者(zhe)已(yi)逐漸(jian)取代原子，成為技(ji)術發(fa)明的(de)新(xin)基石

7.3. 比特革(ge)命和(he)基(ji)因革(ge)命，這兩場革(ge)命都建立在(zai)信息(xi)的基(ji)礎之(zhi)上，并在(zai)前(qian)所(suo)未有的抽象和(he)復雜維度上運作

7.4. 即將到來的(de)技(ji)術浪潮主(zhu)要建立(li)在兩大通用技(ji)術之上：人(ren)工智能和合成(cheng)生物學

• 7.4.1. 既能在(zai)最宏大的層面(mian)上運作，也能深入最微(wei)觀的層面(mian)

• 7.4.2. 是人類技術生態系(xi)統的核心組件首次(ci)直接(jie)觸及人類世界的兩個基本屬(shu)性(xing)：智能和生命

7.5. 曾經對(dui)技術封閉(bi)的(de)領域正在(zai)打(da)開

• 7.5.1. 人工智能讓我們能夠復制語音和語言、視覺和推(tui)理(li)

• 7.5.2. 合成生物(wu)學的(de)基礎性突破使(shi)我們(men)能夠對(dui)DNA進(jin)行測序(xu)、修改，現在甚至能打印

• 7.5.3. 人工(gong)智(zhi)能和合成(cheng)生物學(xue)是即將(jiang)到來的(de)(de)浪潮(chao)中的(de)(de)核心通用技(ji)(ji)(ji)(ji)術，但同時圍繞它們的(de)(de)還有一系列(lie)具有異常強大影響力的(de)(de)技(ji)(ji)(ji)(ji)術，包括量子計算、機器人技(ji)(ji)(ji)(ji)術、納米(mi)技(ji)(ji)(ji)(ji)術以(yi)及潛(qian)在的(de)(de)豐富能源等

7.6. 精確(que)操控原(yuan)子的(de)能力促(cu)成了硅晶片(pian)的(de)發明，硅晶片(pian)則帶來了每秒萬億次計算的(de)實現，而這一成就(jiu)又使我們得以破(po)譯生命的(de)密碼

7.7. 這(zhe)一浪潮將比歷史上任何一次都更難以遏制，它觸及了(le)人類世界的根(gen)本，影響更加深遠