Skip to main content

Sam Altman,以及他的 AGI 烏托邦

為什麼 ChatGPT 會突然爆發?我在這次的浪潮中應該做些什麼事情?這次的 AI 革命會帶給人類什麼影響?

最近 AI 應用大爆發,處於無業狀態的我,前一陣子又陷入了幾天(還好只有幾天)的 FOMO 狀態,第一個念頭,就是要好好利用這些工具,來讓我的生產力大爆發。

先是每天刷著 Reddit 上世界各地的網民分享的應用,嘗試用 ChatGPT 幫我寫影片腳本,但出來的東西根本不能用,查證加上修改的時間,比我自己寫還慢。(但後來的確有被我試出幾個好應用)

自己也安裝了 Stable Diffusion,抓了一堆 model 下來,再用自己的顯卡跑 Dreambooth 訓練自己的照片,生了一堆自己的大頭貼,本來想拿來做 YouTube 縮圖,但發現直接用拍的快多了 XD

折騰了一陣子,大概摸清楚目前這幾個熱門應用的侷限,以及能幫到我的事情後,終於冷靜下來好好思考,心裡開始出現一些問題。

  1. 為什麼 ChatGPT 會突然爆發?之前的發展軌跡是什麼?
  2. 我在這次的浪潮中應該做些什麼事情?
  3. 這次的 AI 革命會帶給人類什麼影響?

自己想當然會有限制,所以我上網找了始作俑者:OpenAI 的共同創辦人兼 CEO—Sam Altman 接受的一堆訪問,其中包括 Guy Raz 去年九月的專訪、OpenAI 創始人兼董事會成員 Reid Hoffman 的訪問等等。

收穫最多且最新的是他接受 StrictlyVC 的 Connie Loizos 的訪問,超級精彩,大家有空可以去聽聽。

除此之外,我也看了大量相關的影片和文章,自己也開始在 Corsera 開始上 Deep Learning 的課(無業狀態時間真的很多)

整個看(聽)完之後,心中很多疑問都被解開了,也對之後世界會變怎樣大概有個底,比較不那麼焦慮了。

在講這次的 AI 革命前,先來介紹一下 Sam Altman 這個狂人。我覺得,如果他想做的事情都做成的話,他可能會成為全世界最有影響力的人。

Sam Altman 是何方神聖

第一次知道這個人是在 2016 年,那時候想要開發一個手機 app,除了加入 Appworks 以外,我也瘋狂在網路上學新東西,什麼叫做 DAU,什麼是 AARRR,什麼叫做 NPS 啊等等。

其中一個超重量級的資源,就是當時矽谷傳奇新創公司加速器:Y combinator 在史丹佛大學開的課程 CS183B,a.k.a “How to start a startup” 。

這課程的講師說有多夢幻就有多夢幻,有 YC 的老大 PG(Paul Graham),大家熟知的 Peter Thiela16z 的共同創辦人 Marc Andreessen 等等矽谷的大老們,把成立一家成功的新創公司要學的東西全部講了一遍。

這課實在太誇張了,而且完全免費放在網路上讓大家看。我覺得如果你想創業,一定要先去看這一系列,你的功力和成功機率絕對會高上不少。

而這一系列課程的主持人和前兩堂課的講者,就是當時剛接下 YC 總裁的 Sam Altman,他當時才 29 歲。

十年前他從史丹佛大學退學創業,做了一個地圖社群服務 Loopt,成功進入 YC,成了第一批受輔導團隊,並且募到了 B 輪資金,之後以 4340 萬美金賣掉。

他拿這些錢的一部分成立了一個創投,再把大部分的錢投資到 YC,之後自己也加入 YC,成了兼職合夥人。

2014 年,PG 邀請還不到三十歲的他成為 YC 的總裁,這應該是許多人作夢也想不到的機會,但他並不這樣想。

Guy Raz 在專訪中問他當時會不會害怕,畢竟要這麼年輕的他來開這艘大船,還要帶頭指引這麼多新創團隊前進的方向。

沒想到他回:「很奇怪,我一點也不感到害怕,而是有點悲傷。我花了好一段時間才說服自己接下這個工作,因為我還想成立另一間新創,我想證明自己。」

原來擔任 YC 總裁對他來說,是個「退休」後才會去做的爽缺。

甚至在 Connie Loizos 的訪問裡,他說:「在當時那個環境,隨便一個白痴來經營 YC 都能讓它很成功。」(他真的這樣講,我聽到整個噴出來,在 StriclyVc 那集 Podcast 的 23:50)

於是他在 2015 年和包括 Elon Musk 等一堆科技大頭一起創辦 OpenAI,並且在 2019 年接下 OpenAI 的 CEO 後,就慢慢的淡出 YC 的經營,專注在他的 AI 大業,而他的目標就是創造出能造福全人類的 AGI(通用人工智慧)。

但在那之前,OpenAI 先以 ChatGPT 震驚了全世界。

橫空出世的 ChatGPT 是怎麼來的,接下來呢?

Connie Loizos 問他,包括 google 在內的科技巨頭都在開發類似的東西,為什麼 ChatGPT 會引起全世界這麼大的驚嚇?

他想了整整五秒(超級久,我還以為網路斷線),然後說:「窩真的不知道 ¯\(ツ)/¯ 」

他說,因為在推出 ChatGPT 的 10 個月前,它的前身:InstructGPT 的 API 就已經上線了,甚至 GPT-3 在兩年半前就出現了。

他覺得應該有人會拿來做些很屌的東西,他也一直在跟別人說,做一個很強的對話機器人出來一定會爆,但講了一陣子沒有人做,所以只好自己跳下來做。

但是對一個不想搶快賺錢的平台供應者,為什麼要急著做這件事情呢?因為不做不行了,人類需要趕快意識到這場 AI 革命已經到來。

Sam Altman 認為,在 AGI 到來之前,比較負責任的方法是把 AI 技術慢慢放到世界上,讓社會、政策制定者、還有相關機構有時間來做反應。

先把還有很多缺陷的 ChatGPT 放出來,讓大眾先熟悉它的存在,並且展開討論,等大家普遍習慣後,再一步一步讓它更強,對社會的衝擊會比較小。

但 ChatGPT 竟然會造成這麼大的反響,是他始料未及的,他預期中 ChatGPT 在各個層面的衝擊,都要比現在小於一個數量級。

至於為什麼會造成這個現象,他認為可能有兩個原因。

第一,專家們對於 AI 取代人類工作的預測,有了很大的誤判

五年前大家的認知,是 AI 會先取代藍領,像是重複性高且勞力密集的工作,比如卡車司機等。再來是低階的白領工作,再來是比較需要花腦力的白領工作,像是寫程式的工程師,最後才會是我們人類特有的:創作。

但事實證明是整個反過來,所以大家慌了。

第二,人們誤解了 ChatGPT 做的事情

它目前就是個在網路上抄了一大堆人類的對話,很會模仿人類接話,但是不求甚解、沒辦法查證事實的機器人。(大家可以去看台大李宏毅教授的影片,他解釋得很清楚)

但在很多為了衝流量的網紅加油添醋之下,它忽然變成了全知全能的神,不但能思考、有感情,而且過沒多久就要取代人類。

有張圖把 GPT-4 和 GPT-3 的參數做比較然後畫了張圖,把 GPT-3 弄成一小點,GPT-4 弄成一個大圓,意思是 GPT-4 將會比 ChatGPT 強大 n 倍。

Sam Altman 直接在訪問裡說這根本是胡扯(bullshit),覺得這些人真的很閒。

他會確保 GPT-4 是安全的之後才會發布,這過程會相當謹慎,也會比大家想像中的慢,到時候大家一定會感到失望。

什麼是 AGI,它能做到什麼?

OpenAI 的官網部落格最近的一篇文章開宗明義講到,這間公司的任務就是「確保通用人工智慧(AGI)是能造福全人類的」。

那這 AGI 到底是什麼?

Sam Altman 在 Reid Hoffman 的訪談裡面說:「AGI 是一個可以學習和自我改進,並且創造和推理新信息的系統。」

「他就會像是你平常接觸的同事一樣,你可以很自然和他協作,但他比所有人類加起來還聰明。」

「他可以是西部世界的人形機器人,或者可以根據數十萬個數據檢測人類疾病的機器。我們未來每個人都會有一個 AGI 夥伴,它幫助我們學習、提高效率、更快樂,成為最好的自己。」

為什麼 OpenAI 一開始會是個非營利組織,就是因為他認為 AGI 應該應該是個最民主化的技術。

它將對所有人產生極深遠的影響,全人類都應該對它的管理、使用方式、以及如何分配產生的利益有發言權。

在未來五年內,能夠思考的程式將可以閱讀法律文件並提供醫療建議。未來十年,它們將從事流水線工作,甚至成為你的同事。

在之後的幾十年裡,隨著這些聰明的機器本身就能幫助我們製造更聰明的機器,創新將持續加速,包括做出新的科學發現,像是找到絕症的治療方式,或是找到氣候變遷的解法等等。

大家都看過鋼鐵人對吧?你就想像幾十年後 Jarvis 真的會出現,而且每個人都有機會使用。

Sam Altman 的夢想版圖

從 Sam Altman 的言論和做的事情來看,我覺得他是一個謹慎又樂觀的理想主義者,這可以從他的幾項投資看出來。

他是一間核融合新創公司 Helion 最大的個人投資者和執行主席,這家公司在 2021 年完成由他領投的 E 輪融資,總金額 5 億美元裡面他自己就佔了 3.75 億。

他們的終極目標是提供乾淨而且永續的電力,而且一度電只要一分美元(0.3 台幣),據他說,Helion 很快會有令人驚豔的 Demo 公布。

Sam Altman 投資的另一間公司叫做 Hermeus,目標是做出五倍音速的商用客機。

他覺得以目前可持續航空燃料(SAF)的發展,讓他可以比以前更放心地投資包括 Boom 在內的超音速客機公司,而不用擔心這對環境的衝擊。

他認為更頻繁更快速的跨國旅行,可以加快人們的交流、商務活動、創新,並且讓人們更了解彼此,這對整個人類世界是好處多多的。

再來是他共同創辦的加密貨幣 Worldcoin,這個項目曾引起軒然大波,因為它需要掃描你的視網膜,來建立一個獨一無二的 World ID 和加密貨幣錢包。

理論上每個人都只會有一個 World ID,所以不會像現在的加密貨幣錢包一樣,每個人都可以有無限個。

為什麼對 Web3 不是持太正面看法的 Sam Altman,會共同創辦這個項目呢?答案是為了實現他的理想:UBI。

UBI 的全名叫做 Universal Basic Income,中文是全民基本收入,意思是一個國家中的合法居民,每個月都能無條件收到一筆收入,來維持基本的生活所需。

這想法聽起來相當的烏托邦,但是因為整個世界的貧富差距越來越大,這幾年越來越常被提起。

台裔美籍政治人物楊安澤就把這個當成他的重要政見之一,而 Sam Altman 在他參加總統初選時還幫他募過款

事實上,在 Sam Altman 還是 YC 總裁的時候,他們就在奧克蘭實驗過 UBI,史丹佛大學也有一個 Basic Income Lab 專門在研究。

這也許聽起來好像跟我們沒關係,但是在 AI 的持續進化之下,這件事不再這麼遙不可及了。

短期之內世界會有什麼變化?

烏托邦離我們可能還太遠,先來聽聽 Sam Altman 認為短期之內世界會有什麼變化吧。

他覺得這會是第一次 google 受到強力的挑戰,但是人家也不是吃素的,有那麼豐富的資金和人才,一定可以做出某種程度的反制。

他認為未來幾年,除了語言模型會有大家超乎想像的進展以外,圖片、影像等模型也會迅速發展。

而 AI 的大爆發也會幫助以下幾個領域加速發展,第一個是生技領域,AI 會讓做實驗的速度加快,再來就是科技領域,會使用 AI 工具的工程師生產力將會開外掛。

除此之外,會有很多 startup 出現,把這些超大模型調校成某個領域專用的服務。

而現有的公司更要運用 AI 來打造更好的產品,和客戶建立更深的關係,打造某種不能被科技輕易取代的護城河。

我現在隨便想就一大堆了,以我現在每天都在用的東西來說,Garmin 或 RQ 馬上就可以用 ChatGPT 做成更人性化的專屬教練,根據我每天運動和睡眠的狀況來排課表。

但相對的也會有些壞處出現,在學術、教育、媒體等領域已經有很多討論了,詐騙集團現在應該沒日沒夜的在想怎麼利用 AI 來騙錢吧。

人類到底會不會被 AI 取代?

在 Greylock 的訪談裡,有個觀眾就提了個問題:「我很好奇,生命的哪個面向是不會被 AI 改變的?」

Sam 答:「所有底層的生理機制都是,我們依舊擁有一樣的身體和大腦,五萬年前人類在意的事情,像是競爭地位,組織家庭等,即便到現在,以及一百年後,都還會是一樣的。」

就像我在 FB 上的貼文:AI 能取代你享受一碗牛肉麵或五十嵐嗎?不行嘛。AI 能取代你體會看一本好書或看場好電影的樂趣嗎?不行嘛。AI 取代幫你和朋友打一場酣暢淋漓的籃球嗎?不行嘛。

所以大家的問題應該是:「我的工作會不會被 AI 搶走,而導致失業、付不起帳單、甚至流落街頭」吧?

Sam Altman 說,人們第一時間會擔心的這件事,其實是不會發生的。人們可能會做和現在不一樣的工作,但總會有事情做。

他說 Covid 給他一個很大的啟示,就是他發現:人類遠比他想像的能夠適應變化。

就像是 google 出現前,記東西很重要,計算機出現前,算數的能力很重要,但這些都被取代了,而我們也活得好好的。

而現今的職場必備的技能,就是用 google 找資料,以及用 excel 來整理資料等等。

所以會取代掉你的人,不是 AI,而是會使用 AI 工具的人。

我們要怎麼做才不會被取代?

Connie Loizos 也幫他的兒子(和我們其他人)問了大家最關心的問題:「處於這場 AI 大革命中,我們需要具備甚麼技能來因應呢?」

Sam Altman 的回答是:「韌性,適應性,快速學習新事物的能力,能夠使用 AI 工具的創造力」

這跟我想的一模一樣。但他講的都是軟技能,我還想補充幾個硬的。

至少在十年內,要能夠在第一時間獲取第一手的資訊,以及能夠順暢的和全世界溝通、協作,「英文」還是必要的。

第二個是「解決陌生問題的能力」。自從上過 Sherman 老師的 CTPS 後,我就成了他的腦粉。

我覺得這世界接下來的變化速度會快到難以理解,對我這一個還在拚搏的一介鄉民來說,當然就是緊跟這個趨勢,努力學習。

而身為一個爸爸,就是盡我所能讓我的孩子具備上述這些技能。

以前那種「現在什麼火紅選什麼科系」的策略會完全失效,甚至該不該花四年去換一個會不斷貶值的學歷,都是值得討論的。

有內在動機的孩子,現在很輕易的可以在網路上學到一切技能,開始打造自己的東西,只要有人提點,他們的成長也將會難以理解。

未來世界會變怎樣

在描繪這個世界之前,要先介紹他在 2021 年寫的文章:”Moore’s Law for Everything

摩爾定律是我前東家 Intel 的共同創辦人:Gordon Moore 提出來的,他說:「單位面積 IC 上的電晶體,每兩年就會增加一倍」,換句話說,同效能的電腦每兩年會便宜一半。

Sam Altman 很大膽地提出一個預測:「摩爾定律將適用於一切」。

他說:「想像這樣一個世界,接下來的幾十年,住房、教育、食物、衣服等——每兩年就便宜一半。」(但房價我持保留態度)

而這一切的驅動力,就是 AI。他認為接下來的世界,AI 每兩年就會變強一倍,在這樣指數型的增長下,AGI 終將出現,如果這件事情成真,那就會是人類歷史上最重要的發明。

這場技術革命已經開始了,而且將勢不可擋。他認為三個重要的後果如下:

  1. 這場革命將創造驚人的財富。一旦足夠強大的人工智能加入勞動力,多種勞動力的價格(推動商品和服務的成本)將降至零。
  2. 世界變化如此之快和劇烈,以至於需要在政策上做出同樣劇烈的變化,來分配這些創造出來的財富,並使更多的人能夠追求他們想要的生活。
  3. 如果我們把這兩個都做好,我們就能比以往任何時候都更能提高人們的生活水平。

在 AI 持續的進步下,現在人類無法解決的問題都有希望被解決了,核融合商轉指日可待,能源變得跟空氣一樣取之不盡用之不竭,環遊世界變得又快又便宜,癌症也不再令人絕望,每個人的壽命都會從 100 歲起跳。

到時會有多種 AGI 任君挑選,每個人都可以依照他的需求做選擇,並且高度個人化。專業型的就像是 Jarvis,陪伴小朋友的就會是《天兵阿榮》裡的那種機器人。(但我知道很多人會敲碗 Joi 或 K)

最棒的是,因為所有東西都變得太便宜,而且每個月都有 UBI 進到你的錢包,我們再也不用為了生存而工作了。

Sam Altman 說,最好的世界是連他都無法想像的好,有可能像 Star Trek 那樣,人類的資源和科技已經進步到把地球的問題全解決了,也能讓地球上每個人都能過上好生活,所以無聊到只好去探索宇宙。

最糟情況呢?

他說,他可以很清楚的想像出幾個「意外的誤用」,而結果會很糟,不過既然想得到,他就有信心能防堵,但如果是他沒想到的呢?

Guy Raz 在專訪裡問 Sam Altman:「我曾經在 2010 年訪問過 Mark Zuckerberg,當時他對社群媒體的願景超級清晰,認為這會帶給人類社會種種好處,讓世界成為一個真正的地球村,但這並沒有實現。」

「我知道你很聰明,一定有想過這些事情,你講的那些好事都會發生,但壞事呢?現在讓你夜不成眠的事情是什麼?」

他回答:「我有三個會一直重複的惡夢,第一個是忘記去考試,第二個是創辦公司失敗,第三個就是現在會夢到的:如果我們錯了呢?」

他認為,每個新科技一定都會帶來好事和壞事,只要好事比壞事多出一個數量級就好,他相信未來就是會這樣,所以他相當樂觀。

他說 OpenAI 的非營利結構有個好處,就是他們能去做一些只為追求利益最大化的公司不能做的事情。

像是投入 alignment research,確保 AI 的利益和人類是相符的;他們也會做足所有安全措施,防止 AI 被有心人利用在壞事上;

他們會竭盡所能地謹慎部署新技術,寧願讓大家不開心,也不會躁進;他們也正在做一個全世界最大的 UBI 實驗,為以後財富的公平分配做準備。

Guy Raz 在訪談的最後說:「Sam,你還不到 40 歲,但我保證你不會像奧本海默一樣,做出一個自己都覺得很可怕的東西。」

Sam 回答:「我有那本書,而且我每天都盯著它。我不能跟你保證,對吧?但我可以告訴你,我會盡我所能地努力工作,聚集最好的人才,來確保我們不會落到那部田地。

這將會改變幾乎所有事情,要通往那個最好版本的世界,就需要大家一起集思廣益。我們需要很多人認真對待它、理解它、將寶貴且有限的注意力轉於到它上面。我們的使命就是讓這件事情發生。」