會展天下是做什么的？
你的位置 企業咨訊芯片可能成為我們追趕ChatGPT的最大瓶頸
熱門出售信息
201８年第十一屆海峽兩岸(廈門）文化產業博覽交易會
2018年第十四屆深圳文博會冬季工藝美術精品展
求購一臺立式轉盤機，雙工位，150噸到160噸，最好是日本品牌，年份新點5年內。 求購5年內60噸電動沖壓機一臺，急，
2017第66屆秋季全國五金商品交易會
2017中國國際五金展
熱門求購信息
文章標題:
文章內容
作者｜劉正
Simon Kucher 戰略咨詢顧問
ChatGPT一聲驚雷，平靜的搜索江湖瞬間風暴驟起。微軟高調上線ChatGPT版Bing搜索引擎，逼得Google倉促應戰，推出基于LaMDA 模型的同款聊天機器人，結果Bard變bug，反而把自家股價打掉了2000億美元。
與此同時，百度也宣布自研的“文心一言”正在加速內測，預計三月底問世。
蟄伏已久的科技巨頭們同時變得緊張，除了ChatGPT在公眾中掀起的熱潮，也因為他們預感到ChatGPT所代表的LLM（大語言模型）應用很可能是一種“元技術”。
“元技術”指的是該技術的持續運用可以反過來加速技術本身的進步。 例如：芯片在現實世界中的應用能從開發效率，應用場景和資金投入上反哺研發，從而加速芯片本身的進步；“元技術”的發展符合指數增長的規律，因此能夠克服研發管理中常見的復雜度爆炸，逃離“中等進步陷阱”的引力束縛。
也正是由于“元技術”的屬性，芯片的研發才能夠不斷實現突破，追上摩爾定律的要求，相比而言生物技術等非“元技術”，則在摘光低垂的果實后搭不出技術升級的墊腳石，從而深陷Eroom’s Law（反摩爾定律）的泥潭。
正如大家體驗到的，使用ChatGPT可以極大解放工作效率，這也包括Open AI自己的研發人員。億級用戶對ChatGPT的花式提問和反復測試出的“prompt黑魔法”，也為后續版本的迭代迅速積攢了海量素材。
除此以外，LLM單次訓練的巨大成本和對算力資源的占據，也構成了對新玩家殘酷的進入壁壘。
隨著競爭的加劇，無論是資金還是算力都會理性的向技術領先者集中，從而自我實現“強者愈強”的馬太定律。
至此，ChatGPT的“元技術”飛輪，隱隱已形成閉環。所以，如果沒有在“技術奇點”前及時上車，已有科技巨頭和OpenAI在AI應用上差距將不可逆的拉大，最終陷入萬劫不復的螺旋衰落；而那些小型AI創業團隊，面對模型代差和資源無法彌補的差距，滅頂之災已然到來。
而在更高的層面上，作為“元技術”的ChatGPT可能對中國的未來具有核彈級的震蕩性。
過去十年中國科技產業的進展，靠的是“fast follow”和工程化上充滿暴力美學的 “飽和式執行”。而這背后所依托的，則是國內教育體制帶來的“工程師福利”。
雖然培養不出S級的創新人才，但產出的B級標品量大管飽：穩定、勤奮、執行力強、而且還相當便宜，可以迅速填平從源頭創新到應用落地的時間差距，直接把海外的原創者給卷沒了。
但ChatGPT作為史上最優秀的復讀機，恰好和“中國機器人”的功能重合了。
你會的我也會，你不懂的我還懂，你能996，但我能365天007，你行嗎？更何況ChatGPT還不是人，無負面情緒之亂耳，無柴米油鹽之勞形，不會辭職，絕不躺平。
熟練運用ChatGPT相當于雇了一個隨叫隨到，皮實耐造，擁有各知識領域基礎技能的助理團隊。
對眼高過頂的S級創新者而言， ChatGPT為其想法的prototype落地提供了全天候的助力；對集聚S級人才的創新企業而言，ChatGPT則意味著執行落地不再成為主要的發展瓶頸。而人員規模的瘦身和智力濃度的提升，還能進一步減少內部信息傳導的損耗，如只有四百人的Open AI那樣敏捷高效。
在這種情況下，使用開源框架fast follow的大廠策略還能產生規模效應嗎？即便還能壓縮出成本優勢，也會在時間效率上遭遇降維打擊。國內有人常常嘲笑美國大學在產出少量S級和A級精英的同時，卻制造了一堆垃圾，以至于要從中印長期進口B級好員工；現在可能要笑不出來了。
過去擅長的騎射武功突然過時了，而機關槍對射的世界里沒有你的位置。因此，如果BAT沒有搶到此輪ChatGPT的船票，科技產業將錯失這一致命的“奇點時刻”。遺憾的是，國內眾多玩家不但在模型上被拉開身位，在算力和數據上也即將甚至已經面臨極大的限制。
LLM對算力的吞噬是貪婪的，GPT-3 的1750億參數（45.3T）模型單次訓練需要1024張NVIDA A100 GPU訓練34天。但是，目前A100這個級別的芯片是禁運的。接下來，GPT-4需要的算力可能會繼續增加兩個數量級，我們那時候用什么芯片來追趕呢？畢竟現在連45nm制程的光刻機都要被禁運了。
芯片禁運對國內AI技術的壓制堪稱智子鎖死。
有人說這沒關系，可以通過疊加成熟制程的芯片以量換質，或是慢點訓練最終也能達到同等技術水平。芯片禁運，本來就不是為了一錘子打死你，而是通過增加中國科技企業的算力成本，讓任何AI應用的落地在財務上不可行（甚至在熱力學上都不可行），搞得你只能在利潤失血和被迫繳械之間二選一，無法進入良性業務循環。
只要持續禁運，拖慢對手的進程，在過了“奇點時刻”后，“元技術”的代差可能就無法收斂了。如果新一輪LLM輸出的成果反哺到芯片研發的流程，那么這種速度差距將會進一步拉開。
而在數據來源上，微軟和Google依托的是超主權的全球互聯網文本。以GPT-3為例，數據主要來自Common Crawl，共31億個頁面，覆蓋了2016-2021年間的互聯網文本數據，并用WebText2作為高質量文檔類對原始數據進行了質量過濾；此外還導入2個圖書庫和Wikipedia進行了額外補充。
BAT所依托的中文互聯網，在量級上不夠（Common Crawl里中文數據不到5%），而且數據生態也不夠好。
大部分中文頁面的信息可信度還不如百度貼吧，極少的高質量數據則被圈在各個廠家私域的“圍墻花園”中，而且有相當多的鏈接打開后是404。至于用結構化數據庫進行補充，你指的是知網和百度百科這對哼哈二將嗎？
以這種質量和結構性缺失的數據集進行訓練，結果很可能是garbage in garbage out的廢話生成器，就比如百度匆匆下線的Plato杠精機器人。
而在當前的數據主權和信息安全規范下，利用海外數據“西數東算”再翻譯回中文也困難重重。更深一層思考，又如何剔除“進口模型”中內隱的意識形態植入？“根據相關法律，本答案不予顯示”？精明如微軟，一開始就封掉了中國IP使用ChatGPT版Bing搜索引擎的權限，割以永治。
致命的奇點時刻，正在敲響警鐘。
免責聲明：
該文章僅代表作者個人觀點，該文章來源于網絡，與本站無關。該文章內容的完整性，及時性及真實性，本站不作任何保證或承諾，僅供讀者參考閱讀。