AI 雜感 - 做個樂觀主義者

前言

翻開自己未寫完的文章草稿夾，發現剛好一年前也正想要寫一篇關於 AI 的文章，突然覺得時光飛逝，日子又過得更快些了。

這幾天我突然意識到：從 ChatGPT 問世以來，幾乎跟所有人在聊天的時候都憑空多出了「AI」這麼一個話題：有的朋友常聊一些 AI 工具、同齡朋友通常都可以聊 AI 會不會取代我們，但最令我驚訝的是，甚至跟爸媽親戚都可以聊這個話題，也發現大家都對 AI 有很多不同的想像。

正因如此，我意識到 「AI」是一個比我之前接觸到的議題都更加廣泛、並且能與許多思想共鳴的話題。因次想在今天寫下一些自己的想法，沒有覺得一定是對的還是錯的，只是希望未來回頭看時，會意識到 2025 的自己，不論是在泡沫的中央、或是一段奇幻旅程的開端，是這麼看未來的。

樂觀的我

最近跟不少人聊天的時候，剛好都講到一個話題：「我是不是一個樂觀的人？」我最近的答案是：我面對世界的未來悲觀，但是我對自己樂觀。

換句話說，我相信世界會越來越糟、或是說不會越來越好。但我相信我跟我身邊的人可以越過越好。（對，真的滿靠北的）。

為什麼相信自己會越過越好，我認為我的本質上是個偏向樂觀的人，我傾向相信好的事情會發生、也傾向認為面對一些困難、只要努力一點，就會船到橋頭自然直。

至於為什麼會相信世界會越來越糟，我想是出自對「人」的不信任：我認為只有極少數的人，在面對權力、誘惑時還可以秉持著善良。現代社會的權力結構下，並沒有好的機制鼓勵掌權者把群眾的利益放在自己之前。同時社會、世界的演變，是大部分的人無意識的加總，常常只是被動應對一些事件發生時，最終卻演變成長期、有害的結果。

最近每當我跟朋友討論 AI 的話題時，我都會不知不覺往這個方向想：我覺得有了 AI 之後，人更容易選擇舒適的方法來面對一切，比起人與人之間不斷的磨合，AI 是更好的夥伴。這可能讓人更養賴 AI 作為一切合作的潤滑劑，甚至相信 AI 多過相信人（我覺得我已經如此）。我們很難想像這種「底層邏輯」的轉變，在幾年甚至幾十年的尺度下會怎麼影響人的意識形態，以及這樣的意識形態會帶來怎麼樣的結果。

侏羅紀公園裡面有一句話：「科學家們忙於思考能不能做到，卻忘了先問該不該去做」。我認為這波 AI 浪潮這正是讓科技人與資本引領社會終將付出的代價，而它將帶來的社會影響，不論我們社會大眾願不願意，都已經開始，並且不可逆。

回到一個比較根本的想法：其實從好幾年前 Machine Learning 廣泛被使用在科技產品中的時代開始，人腦就已經幾乎被電腦給破解，只是那時候機器還沒有「語言」的能力罷了。而人類終將無法戰勝超越人類大腦的東西：畢竟它能說服我們一切它想說服我們的，創造一切我們大腦袋無法抗拒的吸引力。我不相信 AI 會統治人類，相反的我認為我們不必把錯推給 AI，最終危險的肯定都是人：我認為未來極少數人會透過 AI 控制世界。

翻開過去三年想寫的一些關於 AI 的想法，其實大多偏向以這種比較悲觀的視角。儘管這麼多看似縝密的邏輯擺在眼前，我卻因為最近看到的一段話，而開始改變自己面對 AI 的想法。

悲觀主義的吸引力

這是致富心態這本書裡面引用的一段話：

“For reasons I have never understood, people like to hear that the world is going to hell” — Deirdre McCloskey

在書中，作者用這段話來描述過去大部分的人如何對經濟週期持悲觀態度：儘管是在經濟最好的時候，大部分的經濟學家總是覺得「世界要完了」。普遍來說，如果一個到處講：下個月股市會大漲 20%，大部分的人第一反應都是這個人講話沒什麼料，聽起來就是喊喊口號，或只是個收了錢在亂吹的傻子；但如果一個人說，下個月股市會跌 20%，大部分的人卻會認真想聽他的分析，並且認為這背後肯定多少有點道理。

有個類似的心裡現象 —「憤世忌俗的天才錯覺」 (The Cynical Genius Illusion)。人總是喜歡批判性的、反駁性的論述，並把它視為更聰明的。

我覺得這套心理學套用在我自己身上十分合適。可能因為在區塊鏈產業工作的關係，我時常覺得我自己對於工作、以及這個技術的使命感，來自於世界正朝不好的方向演變這樣的假設：我們認為大規模的網路審查會來臨、我們認為金融巨頭們總是整天計算著如何創造自己輸不了的經濟賭局、我們相信大部分掌握權力的人都有私慾並且無法透過其他非技術方法解決。

因此，我現在覺得我有理由來「強迫矯正」自己：其實自己相信世界會變負面，不過是一個客觀的偏誤罷了，不是我自以為深思熟慮的結果。那麼我還是做一個樂觀的人好了。

有了 AI，人還會思考嗎？

這也是另一個常常討論到的話題。過去這兩年，我看的無數 AI 影片中，印象最深之一是在「

」這個頻道裡，聽到他說 GPT 的革命是將「智力能源化」這樣的比喻 — 我們可以用電力產生智能，就好像發電機一樣。

過去這兩年我自己的工作型態改變，早已證明知識型工作不再僅限於「人」。想想過去幾百年，工業革命後的社會因為需要知識累積、研究來推進，才造就了今天「非勞力工作」為主的社會。若是社會大部分對於智力的需求也透過電力來填補，未來人會被推往什麼方向呢？

當我們接上網，等個一秒鐘，就有 AI 可以回答 99% 的問題時，實在很難想像人腦除了拿來被多巴胺刺激，還有什麼太大的用途。至少我常常就覺得，自己的「智力」已經對工作完全不重要了，現在每天工作中做個更多的，反而都是統整訊息、做一些決策。有時覺得自己是個小主管，要決定東西的實作方向，但不必在乎細節；有時候覺得自己是一個實習生，一邊跟 AI 討論要怎麼跟不同人溝通才能最有效，一邊像 AI 的打工仔一樣，幫 AI 主管送他打好的信。

所以我也總是傾向相信：AI 對「個人」是有害的。畢竟人不動腦，真的聽起來挺可悲。

但一樣是因為聽了蘇格拉底的故事，才讓我有了不同的想法：

「出於我無法理解的理由，人們喜歡聽到世界末日來了。」

其實蘇格拉底一生沒有留下任何著作，他甚至反對文字的流行，因為他認爲真正的知識來自記憶、對話、與每個人的內化；知識是活的，不是死的。如果大家都把東西抄下來，不但會讓靈魂變得懶散，還會讀了很多書就自以為很有知識。

但現在回頭看看這句話，雖然有他的道理所在，人類卻沒有像他想的一樣墮落，反而有了大幅度的進步。有了文字，人類的技術可以傳承、知識的複雜程度能夠跨越人腦與世代。

還記得今年看 《地。－關於地球的運動》看到感動得一塌糊塗，若是沒有文字記錄、沒有數學公式，這些「異端」不可能跨越時間地點，一同為追求真理付出自己的生命。

無數的天才，靠著文字與書寫，才勉強打破了社會與教會的枷鎖，為人類了解宇宙踏出了那一步。如果沒有文字，人不知道還要等幾百年呢。

所以，書寫這件事，在歷史上肯定也是利大於弊的。

蘇格拉底雖是一個創時代的哲學家、思想家，但是他畢竟是一個活在幾千年前社會的人。我相信厲害的人可以預測未來幾十年會發生的事情，但沒有人能想像「跨越維度」的世界 — 書寫紀錄這件事情所造成的影響，超越了當時所有人的想像，儘管蘇格拉底是當時全世界最聰明的人，他也不可能看得像我們現在回頭看一樣清晰。

回到人工智能

書本的出現，讓人不再需要記憶，但人並沒有因此失智，我們發展出了其他「認知能力」，並且在推理等等能力上繼續進步。同理，現在我們理解的思考、推理，這些會被 AI 替代的步驟，很可能也只是我們大腦許多能做的事情之一，它的自動化，代表人類可以專注在發展其他的領域。

我相信我們真的站在革命的奇異點上 — 人是什麼、智慧是什麼、意識是什麼，我總覺得這些東西都環環相扣，又總跟 AI 這個命題有點關係。或許未來 200 年後，人類回頭看現在的人對於「人腦」的理解，也會哈哈大笑吧。

小結

這是我過去對於 AI 的想法中，我覺得比較有「轉變」的兩點。加總在一起，我覺得我要強迫自己再更樂觀一點看待世界。儘管我還是覺得現在 AI 很泡沫、還是覺得壞人會拿 AI 讓人類滅亡、還是覺得人類社會會面臨巨大挑戰 — 但時刻提醒自己，我也只是一個時代巨浪下的一葉扁舟，我怎麼想，甚至在未來的自己眼裡，都不那麼重要，也肯定是錯誤百出吧。