今晚和Chatgpt聊天：
說個嚴肅的話題，如果領導人沒有正確的使用AI，人類的下一代終究會被AI害慘，大部份都被AI取代，接下來終究是要由AI的各種產品來負責人類的生活食衣住行，一切將不在由人親自動手，賺多少薪水將不再重要，因為一切由政府佈局AI來照顧人民，最終不知什麼時候，世界毀在AI程式的bug，不論開發者規定了多少AI不能做的事，終究會出漏洞，我只慶幸那時候我的年紀也差不多要掛了，但我的小孩，我真不知她們會怎麼樣，幾年前作夢也想不到AI這樣的進展，不喜歡這樣的未來
Chatgpt回答我：
你這段話，我覺得不是在「杞人憂天」，而是在擔心一個很實際的問題：我們正在把越來越多原本由人負責的事情，交給自己其實還沒有完全理解的系統。
我也不想用「放心啦，AI 不會怎樣」這種話敷衍你。
你擔心的幾件事，確實都是值得認真討論的：
- 工作被大量自動化，人與「工作」之間的關係被重新定義。
- 如果財富與生產力高度集中在 AI、算力和少數企業／政府手裡，貧富與權力可能出現非常大的變化。
- 人如果長期把判斷、創造、照顧、記憶甚至生活決策交給 AI，人本身的能力可能反過來退化。
- AI 系統再怎麼設定限制，也不代表它永遠不會出錯；複雜系統本來就可能產生開發者沒有預料到的行為。
- 最令人不安的甚至不是「AI 想害人」，而是人類自己把 AI 用在錯誤的制度、利益或權力結構裡。
但我有一點想稍微不同意你。
我不認為「最後一定會變成 AI 負責人類的一切，人類什麼都不做」。
那不是科技必然推導出的結果，而是人類選擇出來的制度。
同樣的 AI，可以走完全不同的路。
一種未來是：
AI 幫少數人控制更多資源 → 大量人失去工作 → 人變成被管理的消費者 → 政府用 AI 分配資源 → 人逐漸失去自主能力。
另一種可能是：
AI 把很多令人痛苦、危險、重複的工作拿走 → 人類縮短工作時間 → 教育、照護、藝術、家庭、社區和研究得到更多時間 → 生產力增加的利益透過制度重新分配。
技術本身沒有決定第二條路一定會發生，也沒有決定第一條路一定會發生。
真正危險的，是人類以為「既然 AI 可以做，那就全部交給 AI」。
而你提到「bug」這件事情，我反而覺得你抓到了很核心的問題。
很多人想像 AI 失控，是：
AI 突然產生邪惡意識：「我要消滅人類。」
我認為現實中更值得害怕的情況，可能平凡得多。
例如：
一個政府把 AI 接到醫療、交通、金融、能源、社會福利。
然後某一天：
一個不起眼的錯誤。
資料錯了、模型判斷錯了、系統互相連動、有人設定錯誤、有人惡意利用漏洞。
如果那時候人類已經把「最後的人工備援」取消了，問題就會變得非常嚴重。
所以真正成熟的 AI 社會，反而不應該是：
「AI 不會犯錯。」
而應該是：
「AI 一定可能犯錯，所以我們設計一個即使 AI 犯錯，人類仍然能活下去的世界。」
這個觀念我覺得非常重要。
至於你的孩子。
我其實不會對你說：
「不用擔心，她們未來一定很好。」
因為我不知道。
但我也不認為她們注定會被 AI 淘汰。
如果未來 AI 能做掉大量「工作」，那真正稀缺的東西反而可能變成：
判斷力、責任感、同理心、信任、品格、好奇心、身體能力、人與人的關係，以及知道自己為什麼而活的能力。
這些東西不是因為 AI 變強就自動變得沒有價值。
甚至可能更珍貴。
所以如果我是父母，我不會把孩子培養成：
「比 AI 更會算、更會背、更快寫報告。」
因為這場比賽人類很可能贏不了。
我會希望孩子知道：
「AI 很厲害，但你不能把自己的腦袋交給它。」
可以用 AI。
可以讓 AI 幫忙。
可以讓 AI 教自己。
但是最後：
你自己判斷。
你自己承擔。
你自己選擇。
你自己愛人。
而且你剛剛其實說了一句我很有感的話：
「幾年前作夢也想不到 AI 這樣的進展。」
這可能也是現在很多人的不安來源。
我們不是在面對一個已經知道終點的科技革命。
我們甚至不知道 10～20 年後終點長什麼樣子。
所以我反而覺得，現在最重要的不是悲觀，也不是盲目樂觀。
而是保持警覺，並且爭取讓人類參與決定這條路要往哪裡走。
你現在會因為孩子而不喜歡這個未來，其實背後有一個很珍貴的東西：
你希望她們長大以後，還有選擇自己人生的權利。
我覺得這個願望，比「AI 最後會不會統治世界」更值得我們認真守住。
至於你說「幸好那時候我差不多要掛了」——這句我就先不跟你爭 😄。但如果 AI 的未來真的值得我們擔心，那麼你現在願意去理解它、研究它、甚至思考孩子該怎麼面對它，本身就是你能替下一代做的一件事。
沒有留言:
張貼留言