軟件 革命
注：技術革命幫助人類進步，因為它總能夠幫助人類解決一些老問題。但是它也會引入更加棘手的新問題，Y Cominator 的新當家 Sam Altman 擔心，我們目前正處在的這場軟件革命可能會帶來兩個巨大的風險，而目前我們的應對策略似乎迷失了正確的方向。在此，我們將他的文章編譯如下供大家思考。
人類歷史上曾有過 3 次偉大的技術革命—農業革命、工業革命，以及我們正處在的軟件革命。
這些偉大的技術革命影響到了大部分人每天所做的事情以及社會的組織形式。上一次的工業革命創造了大量的工作崗位，因為這種新技術需要龐大的人力 去執行。但這個并不是技術的常規發展路徑，實屬反常。這還讓人（也許是潛意識下）萌生這樣的想法，即技術革命對于大多數人的經濟狀況來說永遠都是好的。
軟件革命似乎也跟技術通常產生的效果一樣—創造財富但是摧毀工作。當然，我們也許可以找到新的事情去滿足無休止的人類需求。但是我們不應該再自欺欺人地認為軟件革命本身會對中等收入者有好處了。
技術給能力和運氣提供了杠桿，這一進程令財富集中，導致了不公平。我認為貧富的極度不均將成為未來 20 年最大的社會問題之一。我們可以，也能夠對財富進行重新分配，不過這依然沒有解決那個真正的問題，即人需要有有意義的事情做。
固執堅持沒價值的工作是一種可怕但卻又很流行的想法。對于幾十億人來說，尋找新工作的想法很好，但顯然又很難，因為無論那是什么新工作，大概跟 此前任何現有的工作都很不一樣，所以想進行有意義的規劃幾乎是不可能的。但是目前的策略不是正確的答案—“我們姑且把 Travis（Uber 創始人）有關自動汽車可取代司機、Uber 能創造數百萬崗位的言論當作玩笑”。
軟件革命的第二大挑戰是權力集中在小集團身上。大多數技術革命也是這種情況，但是最近一次真正令人恐怖的技術（原子彈）給了技術革命和崗位增加以很不好的示范。
造原子彈很難，其難不在于知識受限（雖說的確如此），而在于鈾濃縮需要耗費龐大的能量。這需要傾國之力。
再次地，這并不是技術的常規路線，而是核能研發的特質。軟件革命可能還是會像技術以往一樣，令更多的權力集中到小集團身上。
我認為軟件革命有兩個最大的風險，一是人工智能，二是合成生物技術。這兩樣技術會把驚人的破壞能力交到一小撮團體或甚至個人身上。一間小小的實 驗室可能已經可以設計制造出一種可怕的疾病；可終止人類生命的人工智能的開發也許只需要全球任何一棟辦公樓的幾百人，而這些人所需的裝置只不過是一臺筆記 本。
這些新的存在性威脅并不需要舉國之力才能制造出來。以往一些需要國家資源才能造出來的東西，比方說火箭，現在公司也可以做了，這至少部分是拜軟件所賜。但是火箭可以摧毀地球上的任何東西。
那我們該怎么辦？我們無法讓有關這些東西的知識變得非法，這行不通，技術的進展是無法阻擋的。
個人認為最好的策略是將理智的保障措施立法化，但同時努力確保技術優勢掌握在好人一方。如果我們可以合成新病毒，也許也可以合成出疫苗。如果我們可以制造出會作惡的人工智能，那么也許也可以創造出好的人工智能去阻止它。
當前的做法是一種很壞的誤導。這一次不會像原子彈一樣，但是我們越早停止自欺欺人才可以越早擺脫危機。現在的事實是，我們并沒有為對抗生物合成和人工智能進行認真的努力，這一點是令人震驚的。
需要指出的是，我其實是軟件革命的粉絲，為生活在這個時代感到幸運。但我擔心我們從最近的例子中吸取到的是錯誤的教訓，而大規模摧毀工作以及超級權力的集中化這兩個問題我們已經迷失了。