Skip to main content
Tag

Sam Altman

Sam Altman,以及他的 AGI 烏托邦

最近 AI 應用大爆發,處於無業狀態的我,前一陣子又陷入了幾天(還好只有幾天)的 FOMO 狀態。

那時我第一個念頭,就是要好好利用這些 AI 工具,來讓我的生產力大爆發。

所以這篇文章,就讓我來介紹 Sam Altman 這號當前最紅的人物、他心目中的 AGI 烏托邦,以及我們可以怎麼利用 AI 工具,來協助我們完成大大小小的目標。

進入 AI 的世界,總是要經過一些「嘗試與錯誤」(trial and error)的過程。

我先是每天刷著 Reddit 上世界各地網民分享的應用,嘗試用 ChatGPT 幫我寫影片腳本。

但它生出來的東西根本不能用,最後查證加上修改的時間,比我自己寫還慢。

(但後來的確有被我試出幾個好的應用方式。)

後來我自己也安裝了 Stable Diffusion,抓了一堆 model 下來,再用自己的顯卡跑 Dreambooth 訓練自己的照片,生了一堆自己的大頭貼。

這些我本來想拿來做 YouTube 縮圖,但發現直接用拍的還是快多了。

折騰了一陣子,大概摸清楚目前這幾個熱門應用的侷限,以及能幫到我的事情後,我終於冷靜下來好好思考,心裡出現了一些問題:

  1. 為什麼 ChatGPT 會突然爆發?之前的發展軌跡是什麼?
  2. 我在這次的浪潮中應該做些什麼事情?
  3. 這次的 AI 革命會帶給人類什麼影響?

自己想當然會有限制,所以我上網找了始作俑者——OpenAI 的共同創辦人兼 CEO Sam Altman——接受的一堆訪問來參考。

其中包括 Guy Raz 去年九月的專訪、OpenAI 創始人兼董事會成員 Reid Hoffman 的訪問等等。

收穫最多且最新的是他接受 StrictlyVC 的 Connie Loizos 的訪問。真的超級精彩,大家有空可以去聽聽。

除此之外,我也看了大量相關的影片和文章,自己也開始在 Corsera 開始上 Deep Learning 的課。

(無業狀態時間真的很多⋯⋯)

這些全部看完和聽完之後,心中很多疑問都被解開了,也對之後世界會變怎樣大概有個底,比較不那麼焦慮了。

在講這次的 AI 革命前,先來介紹一下 Sam Altman 這個狂人。

我覺得,如果他想做的事情都做成的話,他可能會成為全世界最有影響力的人。

Sam Altman 是何方神聖?

Sam Altman

圖片來源:WIRED

我第一次知道這個人是在 2016 年。

那時候我想要開發一個手機 app,除了加入 Appworks 以外,我也瘋狂在網路上學新東西。

像是什麼叫做 DAU,什麼是 AARRR,什麼叫做 NPS 啊等等。

其中一個超重量級的資源,就是當時矽谷傳奇新創公司加速器:Y combinator 在史丹佛大學開的課程 CS183B,a.k.a “How to start a startup” 。

這課程的講師說有多夢幻就有多夢幻,有 YC 的老大 PG(Paul Graham),大家熟知的 Peter Thiela16z 的共同創辦人 Marc Andreessen 等等矽谷的大老們。

他們把成立一家成功的新創公司要學的東西全部講了一遍。

這課實在太誇張了,而且完全免費放在網路上讓大家看。

我覺得如果你想創業,一定要先去看這一系列,你的功力和成功機率絕對會高上不少。

而這一系列課程的主持人和前兩堂課的講者,就是當時剛接下 YC 總裁的 Sam Altman,他當時才 29 歲。

十年前他從史丹佛大學退學創業,做了一個地圖社群服務 Loopt,成功進入 YC,成了第一批受輔導團隊,並且募到了 B 輪資金,之後以 4340 萬美金賣掉。

他拿這些錢的一部分成立了一個創投,再把大部分的錢投資到 YC,之後自己也加入 YC,成了兼職合夥人。

2014 年,PG 邀請還不到三十歲的他成為 YC 的總裁。

這應該是許多人作夢也想不到的機會,但他並不這樣想。

Guy Raz 在專訪中問他當時會不會害怕,畢竟要這麼年輕的他來開這艘大船,還要帶頭指引這麼多新創團隊前進的方向。

沒想到他回:

「很奇怪,我一點也不感到害怕,而是有點悲傷。

我花了好一段時間才說服自己接下這個工作,因為我還想成立另一間新創,我想證明自己。」

原來擔任 YC 總裁對他來說,是個「退休」後才會去做的爽缺。

甚至在 Connie Loizos 的訪問裡,他說:

「在當時那個環境,隨便一個白痴來經營 YC 都能讓它很成功。」

(他真的這樣講,我聽到整個噴出來,在 StriclyVc 那集 Podcast 的 23:50。)

於是他在 2015 年和包括 Elon Musk 等一堆科技大頭一起創辦 OpenAI,並且在 2019 年接下 OpenAI 的 CEO 後,就慢慢地淡出 YC 的經營,專注在他的 AI 大業。

而他的目標就是創造出能造福全人類的 AGI(通用人工智慧)。

但在那之前,OpenAI 先以 ChatGPT 震驚了全世界。

橫空出世的 ChatGPT 是怎麼來的,接下來呢?

Connie Loizos 問他,包括 google 在內的科技巨頭都在開發類似的東西,為什麼 ChatGPT 會引起全世界這麼大的驚嚇?

他想了整整五秒(超級久,我還以為網路斷線),然後說:「窩真的不知道 ¯\(ツ)/¯。 」

他說,因為在推出 ChatGPT 的 10 個月前,它的前身:InstructGPT 的 API 就已經上線了,甚至 GPT-3 在兩年半前就出現了。

他覺得應該有人會拿來做些很屌的東西,他也一直在跟別人說,做一個很強的對話機器人出來一定會爆。

但講了一陣子沒有人做,所以只好自己跳下來做。

但是對一個不想搶快賺錢的平台供應者,為什麼要急著做這件事情呢?

因為不做不行了,人類需要趕快意識到,這場 AI 革命已經到來。

Sam Altman 認為,在 AGI 到來之前,比較負責任的方法是把 AI 技術慢慢放到世界上。

這樣能讓社會、政策制定者、還有相關機構有時間來做反應。

先把還有很多缺陷的 ChatGPT 放出來,讓大眾先熟悉它的存在,並且展開討論。

等大家普遍習慣後,再一步一步讓它更強,對社會的衝擊會比較小。

但 ChatGPT 竟然會造成這麼大的迴響,是他始料未及的。

他預期中 ChatGPT 在各個層面的衝擊,都要比現在小於一個數量級。

至於為什麼會造成這個現象,他認為可能有 2 個原因。

第一:專家們對於 AI 取代人類工作的預測,有了很大的誤判

五年前大家的認知,是 AI 會先取代藍領,像是重複性高且勞力密集的工作,比如卡車司機等。

再來是低階的白領工作,再來才是比較需要花腦力的白領工作,像是寫程式的工程師。

最後才會是我們人類特有的:創作。

但事實證明是整個反過來,所以大家慌了。

第二:人們誤解了 ChatGPT 做的事情

它目前就是個在網路上抄了一大堆人類的對話,很會模仿人類接話,但是不求甚解、沒辦法查證事實的機器人。

(大家可以去看台大李宏毅教授的影片,他解釋得很清楚。)

但在很多為了衝流量的網紅加油添醋之下,它忽然變成了全知全能的神,不但能思考、有感情,而且過沒多久就要取代人類。

有張圖把 GPT-4 和 GPT-3 的參數做比較然後畫了張圖,把 GPT-3 弄成一小點,GPT-4 弄成一個大圓。

這個意思是 GPT-4 將會比 ChatGPT 強大 n 倍。

Sam Altman 直接在訪問裡說這根本是胡扯(bullshit),覺得這些人真的很閒。

他會確保 GPT-4 是安全的之後才會發布,這過程會相當謹慎,也會比大家想像中的慢,到時候大家一定會感到失望。

什麼是 AGI,它能做到什麼?

什麼是 AGI,它能做到什麼?

圖片來源:AI Magazine

OpenAI 的官網部落格最近的一篇文章開宗明義講到,這間公司的任務就是「確保通用人工智慧(AGI)是能造福全人類的」。

那這 AGI 到底是什麼?

Sam Altman 在 Reid Hoffman 的訪談裡面說:

「AGI 是一個可以學習和自我改進,並且創造和推理新信息的系統。

它就會像是你平常接觸的同事一樣,你可以很自然和他協作,但它比所有人類加起來還聰明。

它可以是西部世界的人形機器人,或者可以根據數十萬個數據檢測人類疾病的機器。

我們未來每個人都會有一個 AGI 夥伴,它會幫助我們學習、提高效率、更快樂,成為最好的自己。」

為什麼 OpenAI 一開始會是個非營利組織,就是因為他認為 AGI 應該應該是個最民主化的技術。

它將對所有人產生極深遠的影響,全人類都應該對它的管理、使用方式、以及如何分配產生的利益有發言權。

在未來五年內,能夠思考的程式將可以閱讀法律文件並提供醫療建議。

未來十年,它們將從事流水線工作,甚至成為你的同事。

在之後的幾十年裡,隨著這些聰明的機器本身就能幫助我們製造更聰明的機器,創新將持續加速。

到時候就可能做出新的科學發現,像是找到絕症的治療方式,或是找到氣候變遷的解法等等。

大家都看過《鋼鐵人》對吧?你就想像幾十年後 Jarvis 真的會出現,而且每個人都有機會使用。

Sam Altman 的夢想版圖

從 Sam Altman 的言論和做的事情來看,我覺得他是一個謹慎又樂觀的理想主義者。

這可以從他的幾項投資看出來。

他是一間核融合新創公司 Helion 最大的個人投資者和執行主席。

這家公司在 2021 年完成由他領投的 E 輪融資,總金額 5 億美元裡面他自己就佔了 3.75 億。

他們的終極目標是提供乾淨而且永續的電力,而且一度電只要一分美元(0.3 台幣)。

據他說,Helion 很快會有令人驚豔的 Demo 公布。

Sam Altman 投資的另一間公司叫做 Hermeus,目標是做出五倍音速的商用客機。

他覺得以目前可持續航空燃料(SAF)的發展,讓他可以比以前更放心地投資包括 Boom 在內的超音速客機公司,而不用擔心這對環境的衝擊。

他認為更頻繁更快速的跨國旅行,可以加快人們的交流、商務活動、創新,並且讓人們更了解彼此,這對整個人類世界是好處多多的。

再來是他共同創辦的加密貨幣 Worldcoin

這個項目曾引起軒然大波,因為它需要掃描你的視網膜,來建立一個獨一無二的 World ID 和加密貨幣錢包。

理論上每個人都只會有一個 World ID,所以不會像現在的加密貨幣錢包一樣,每個人都可以有無限個。

為什麼對 Web3 不是持太正面看法的 Sam Altman,會共同創辦這個項目呢?

答案是為了實現他的理想:UBI。

UBI 的全名叫做 Universal Basic Income,中文是「全民基本收入」。

這是指一個國家中的合法居民,每個月都能無條件收到一筆收入,來維持基本的生活所需。

這想法聽起來相當的烏托邦,但是因為整個世界的貧富差距越來越大,這幾年越來越常被提起。

台裔美籍政治人物楊安澤就把這個當成他的重要政見之一,而 Sam Altman 在他參加總統初選時還幫他募過款

事實上,在 Sam Altman 還是 YC 總裁的時候,他們就在奧克蘭實驗過 UBI,史丹佛大學也有一個 Basic Income Lab 專門在研究。

這也許聽起來好像跟我們沒關係,但是在 AI 的持續進化之下,這件事不再這麼遙不可及了。

短期之內世界會有什麼變化?

這個烏托邦離我們可能還太遠,先來聽聽 Sam Altman 認為短期之內世界會有什麼變化吧。

他覺得這會是第一次 google 受到強力的挑戰,但是人家也不是吃素的,有那麼豐富的資金和人才,一定可以做出某種程度的反制。

他認為未來幾年,除了語言模型會有大家超乎想像的進展以外,圖片、影像等模型也會迅速發展。

而 AI 的大爆發也會幫助以下幾個領域加速發展:

第一個是生技領域,AI 會讓做實驗的速度加快;

再來就是科技領域,會使用 AI 工具的工程師生產力將會開外掛。

除此之外,會有很多 startup 出現,把這些超大模型調校成某個領域專用的服務。

而現有的公司更要運用 AI 來打造更好的產品,和客戶建立更深的關係,打造某種不能被科技輕易取代的護城河。

我現在隨便想就一大堆了。

以我現在每天都在用的東西來說,Garmin 或 RQ 馬上就可以用 ChatGPT 做成更人性化的專屬教練,根據我每天運動和睡眠的狀況來排課表。

但相對的,當然也會有些壞處出現,這在學術、教育、媒體等領域已經有很多討論了。

詐騙集團現在應該沒日沒夜的在想怎麼利用 AI 來騙錢吧。

人類到底會不會被 AI 取代?

在 Greylock 的訪談裡,有個觀眾就提了個問題:「我很好奇,生命的哪個面向是不會被 AI 改變的?」

Sam 答:「所有底層的生理機制都是,我們依舊擁有一樣的身體和大腦。

五萬年前人類在意的事情,像是競爭地位,組織家庭等,即便到現在,以及一百年後,都還會是一樣的。」

就像我在 FB 上的貼文:AI 能取代你享受一碗牛肉麵或五十嵐嗎?不行嘛。

AI 能取代你體會看一本好書或看場好電影的樂趣嗎?不行嘛。

AI 取代幫你和朋友打一場酣暢淋漓的籃球嗎?不行嘛。

所以大家的問題應該是:「我的工作會不會被 AI 搶走,而導致失業、付不起帳單、甚至流落街頭」吧?

Sam Altman 說,人們第一時間會擔心的這件事,其實是不會發生的。

人們可能會做和現在不一樣的工作,但總會有事情做。

他說 Covid 給他一個很大的啟示,就是他發現:人類遠比他想像的能夠適應變化。

就像是 google 出現前,記東西很重要,計算機出現前,算數的能力很重要,但這些都被取代了,而我們也活得好好的。

而現今的職場必備的技能,就是用 google 找資料,以及用 excel 來整理資料等等。

所以會取代掉你的人,不是 AI,而是會使用 AI 工具的人。

我們要怎麼做才不會被取代?

Connie Loizos 也幫他的兒子(和我們其他人)問了大家最關心的問題:

「處於這場 AI 大革命中,我們需要具備什麼技能來因應呢?」

Sam Altman 的回答是:「韌性,適應性,快速學習新事物的能力,能夠使用 AI 工具的創造力」

這跟我想的一模一樣。但他講的都是軟技能,我還想補充幾個硬的。

至少在十年內,要能夠在第一時間獲取第一手的資訊,以及能夠順暢的和全世界溝通、協作,「英文」還是必要的。

第二個是「解決陌生問題的能力」。

自從上過 Sherman 老師的 CTPS 後,我就成了他的腦粉。

我覺得這世界接下來的變化速度會快到難以理解,對我這一個還在拚搏的一介鄉民來說,當然就是緊跟這個趨勢,努力學習。

而身為一個爸爸,就是盡我所能讓我的孩子具備上述這些技能。

以前那種「現在什麼火紅選什麼科系」的策略會完全失效,甚至該不該花四年去換一個會不斷貶值的學歷,都是值得討論的。

有內在動機的孩子,現在很輕易的可以在網路上學到一切技能,開始打造自己的東西。

只要有人提點,他們的成長也將會難以理解。

未來世界會變怎樣?

未來世界會變怎樣?在描繪這個世界之前,要先介紹 Sam Altman 在 2021 年寫的文章:Moore’s Law for Everything

摩爾定律是我前東家 Intel 的共同創辦人:Gordon Moore 提出來的。

他說:「單位面積 IC 上的電晶體,每兩年就會增加一倍。」

換句話說,同效能的電腦每兩年會便宜一半。

Sam Altman 很大膽地提出一個預測:「摩爾定律將適用於一切。」

他說:「想像這樣一個世界,接下來的幾十年,住房、教育、食物、衣服等——每兩年就便宜一半。」

(房價我持保留態度。)

而這一切的驅動力,就是 AI。

他認為接下來的世界,AI 每兩年就會變強一倍,在這樣指數型的增長下,AGI 終將出現。

如果這件事情成真,那就會是人類歷史上最重要的發明。

這場技術革命已經開始了,而且將勢不可擋。他認為三個重要的後果如下:

  1. 這場革命將創造驚人的財富。一旦足夠強大的人工智能加入勞動力,多種勞動力的價格(推動商品和服務的成本)將降至零。
  2. 世界變化如此之快和劇烈,以至於需要在政策上做出同樣劇烈的變化,來分配這些創造出來的財富,並使更多的人能夠追求他們想要的生活。
  3. 如果我們能把前面兩項都做好,我們就能比以往任何時候都更能提高人們的生活水平。

在 AI 持續的進步下,現在人類無法解決的問題都有希望被解決了:

核融合商轉指日可待,能源變得跟空氣一樣取之不盡用之不竭,環遊世界變得又快又便宜,癌症也不再令人絕望,每個人的壽命都會從 100 歲起跳。

到時會有多種 AGI 任君挑選,每個人都可以依照他的需求做選擇,並且高度個人化。

專業型的就像是 Jarvis,陪伴小朋友的就會是《天兵阿榮》裡的那種機器人。(但我知道很多人會敲碗 Joi 或 K。)

最棒的是,因為所有東西都變得太便宜,而且每個月都有 UBI 進到你的錢包,我們再也不用為了生存而工作了。

Sam Altman 說:最好的世界是連他都無法想像的好。

說不定有可能像《星際爭霸戰》那樣,人類的資源和科技已經進步到把地球的問題全解決了,也能讓每個人都過上好生活,所以無聊到只好去探索宇宙。

最糟情況呢?

他說,他可以很清楚的想像出幾個「意外的誤用」,而結果會很糟。

不過既然想得到,他就有信心能防堵,但如果是他沒想到的呢?

Guy Raz 在專訪裡問 Sam Altman:

「我曾經在 2010 年訪問過 Mark Zuckerberg,當時他對社群媒體的願景超級清晰,認為這會帶給人類社會種種好處,讓世界成為一個真正的地球村,但這並沒有實現。

我知道你很聰明,一定有想過這些事情,你講的那些好事都會發生,但壞事呢?現在讓你夜不成眠的事情是什麼?」

他回答:「我有三個會一直重複的惡夢。

第一個是忘記去考試;第二個是創辦公司失敗;第三個就是現在會夢到的:如果我們錯了呢?」

他認為,每個新科技一定都會帶來好事和壞事,只要好事比壞事多出一個數量級就好。

他相信未來就是會這樣,所以他相當樂觀。

他說 OpenAI 的非營利結構有個好處,就是他們能去做一些只為追求利益最大化的公司不能做的事情。

像是投入 alignment research,確保 AI 的利益和人類是相符的;

他們也會做足所有安全措施,防止 AI 被有心人利用在壞事上;

他們會竭盡所能地謹慎部署新技術,寧願讓大家不開心,也不會躁進;

他們也正在做一個全世界最大的 UBI 實驗,為以後財富的公平分配做準備。

Guy Raz 在訪談的最後說:

「Sam,你還不到 40 歲,但我保證你不會像奧本海默一樣,做出一個自己都覺得很可怕的東西。」

Sam 回答:「我有那本書,而且我每天都盯著它。

我不能跟你保證,對吧?

但我可以告訴你,我會盡我所能地努力工作,聚集最好的人才,來確保我們不會落到那部田地。」

我相信 AI 將會改變幾乎所有事情,要通往那個最好版本的世界,就需要大家一起集思廣益。

我們需要很多人認真對待它、理解它、將寶貴且有限的注意力轉於到它上面。

我們的使命就是讓這件事情發生。