研究公司Citrini發佈於2月23日的一份名為《2028年全球智能危機》的報告，引爆了市場對人工智慧的新一輪恐慌。
https://www.citriniresearch.com/p/2028gic
這份報告描繪了一幅灰暗的未來圖景：技術變革將引發白領知識型工作的“逐底競爭”（race to the bottom）。
這篇報告在美中兩國的互聯網上都引發了很多討論。人工智能的發展對人類社會是好是壞？不同人有不同的看法。我認為，無論是好是壞，人類已經無法阻止人工智能的發展，停下來已經不可能了。後面，也只能接受最終的命運裁決。
人類的命運，取決於人工智能最終能發展到什麼程度？過去兩年，通過堆算力，擴大規模，優化算法，AI的智能取得了明顯的進展，但這種智力提升有沒有一個上限？能否無限提升？
如果AI的智力能無限提升，超級人工智能（ASI: Artificial Super Intelligence) 真的可以誕生，AI的智能程度可以達到人類的10倍甚至100倍，人和AI的智力差距，類似於猴子和人之間的智力差距。那時，人類對AI做的各種各樣的對齊限制，都會毫無效果。猴子不管多努力，設計各種各樣的限制條件，都無法戰勝人類。
人類也不會把猴子視為同類，與猴子共情，與猴子對齊。ASI也不會把人類視為同類，與人類共情，和人類對齊，願意為人類服務。
那時，AI會統治一切，AI也不會把人視為同類，不會和人類對齊。人類這個物種最好的結果就是作為AI的寵物。人類的未來將會比那份報告所描繪的更加黑暗。
如果ASI有一天真的會誕生，人類也不用擔心啥了，反而都是完蛋一個結局。Man has invented his doom，first step was touching the moon.
如果AI有一個上限，最終只能達到人類平均智力的1.5倍，類似一個智商150的人，能實現AGI（Artifical General Intelligence），但無法實現ASI。
人類的智商均值100，標準差大概是15，150是三個標準差多一點。智商超過150的人，占人口總數的千分之一。AI的智力能超過99.9%的人類，但還是能有千分之一的人比AI更聰明。中國14億人，還有140萬人智商比AI高。
這個情況下，AI並不是能完全壓倒人類的超級智能，A我最大的優勢是比人的智力更便宜，性價比更高。這時，人類還是有機會控制AI，讓AI為人類所用。《2028年全球智能危機》的報告描繪的場景是AGI，不是ASI。
那篇報告認為，美國經濟本質上是一個白領服務型經濟。白領工人占就業總數的 50%，並貢獻了約 75%的可自由支配消費支出，而消費佔了美國GDP的70%。這些白領中大部分從事的行業，本質上是一種中介服務，依託人際摩擦而盈利。AI使摩擦力變為零，這些依託摩擦存在的中介行業，也就灰飛煙滅了。
文中舉了很多例子：SaaS模式的軟件行業，旅遊預訂平台，保險代理公司，財務稅務籌劃，法律服務，房產經紀人，外賣平台，銀行結算網絡等等。
然而，這個故事並不是第一次回蕩在我們的耳邊。當互聯網剛剛興起時，當時的說法也是互聯網會提高經濟效率，去中介化。互聯網也確實讓一些中小企業舉步維艱，很多傳統行業大幅縮水甚至消失，產業鏈的資源和利潤集中到了互聯網平台的手中。
但互聯網也確實提高了效率，創造了新的機會。回頭看，我認為互聯網對經濟和社會的正面效果更大。舊的中介模式消亡，出現了新的更強大的，效率更高的中介。
《2028年全球智能危機》這篇文章看上去危言聳聽。但我認為其實還是低估了AI的影響。就算實現不了ASI，只能實現AGI，AI的衝擊也遠遠不止降低摩擦，替代中介。
AI最大的衝擊是，有可能會讓99.9%的人無法為社會貢獻“價值”，變成“無用之人”。
今天為什麼AI相關的高端人才可以拿到難以想象的高報酬？如果一家大公司花1000億在AI領域的投入上，一個優秀技術人才優化算法，提高了10%的效率，就是價值百億的貢獻，只需要一個人就夠了。如果1000億是勞動成本，養幾十萬人，沒有任何個體有能力大幅提高几十萬人的效率。
AGI時代，會有兩種不同的人，一類是有能力幫助AI提高效率的，這部分人非常少，可能低於千分之一。只有這些人，才能對社會生產力有實質性的貢獻。其他的人，在生產力提升角度，都會變成“無用之人”。
有些人認為，現代社會生產力高度發達，人的社會價值更多體現在消費，而不是生產上。生產可以交給AI和機器。但是，會有企業願意給無法貢獻“產出”的人發工資嗎？
今天，服務業佔了GDP的大部分。現代人類社會的絕大部分經濟活動，都是服務人類本身，滿足其他人的需求。A獲得報酬，然後把報酬消費出去。B從A的消費中獲得報酬，然後再消費出去。人類社會的經濟循環就是建立在這個收入-消費循環的基礎上。
然而，AI不會消費，數據中心建好後，主要的成本就是電力。AI公司的老闆會消費，但一個人的消費，再窮奢極侈，也有上限。如果一個富豪有一百萬人的財富總和，他的消費可能也就是一千人的消費總和。
AI可以提高效率，可以增加產出，可以把人類社會的生產力提高到一個新的層次。但是，如何分配AI的產出，才是未來社會最難解決的問題。如果產出可以更公平分配，讓大部分人的消費能力可以繼續維持，就不會出現社會危機。然而，怎麼分配，誰來分配？
也許ASI到來的幾率不高，只有10%，AGI到來的幾率應該有七八成了。產出能力高度集中，大部分人變成“無用之人”，很可能成為現實。
AGI時代，重要的不再是生產，而是分配。
那麼，到底是西方的一人一票的選舉機制能更合理公平的分配，還是中國的“不忘初心”能更合理公平的分配，保持住“效率和公平”之間的平衡？
也許這才是未來最重要的事情。