偷文集_【機器人將消滅人類，不是可能而是必然】

顏純鈎：機器人將消滅人類，不是可能而是必然

作者臉書

看到一個短視頻，令我對人類未來感到絕望。這是一位年輕女學者的自述，她在做「咀嚼可以改善人類大腦認知，防止大腦退化」的研究，她突發奇想，在deepseek上輸入自己的研究課題，結果deepseek給了她三篇文獻，都有標題有文獻編號。

女學者態度認真，用這三個標題和文獻編號到相關的文獻網站去搜索，結果發現三篇文獻都是deepseek胡編亂造出來的，根本不存在原始檔案。

那意味著什麼？意味著人工智能不只是從人類浩繁的知識淵海中去替我們快捷簡便地找到問題的答案，而且當它找不到相關知識時，它會無中生有編造一些東西出來給你。

deepseek能這樣做，不是它自主的，因為它所有的動作指令都來自人類。那就意味著，研發出deepseek這套人工智能系統的人，一開始就預謀了這件事，就是知識是可以編造的——這是不是很可怕？

但如果這件事不是人類教它的，而是它自主的，那是不是更可怕？

deepseek如此，chatgpt和其他人工智能系統又是否如此呢，我不知道。如果deepseek能自主造假，那麼chatgpt又如何會自律？反正都是AI生成出來的成果，都是電腦算法運算的，依據數學的嚴密邏輯，有都有，沒有都沒有。

先前我在談到人工智能時，曾說過我們未來將生活在一個真假不分的世界，就是人類利用人工智能造假，已經高超到我們無法分辨的地步了，這種造假大工程將隨著人工智能的進一步普及而無遠勿屆，無時不在，無奇不有，到那時，我們將失去判斷真假的基本能力。事情發展到那一步，你聲明某件事是假的，他人也無從證明你的說法是真的，因為機器人很容易找到一些假的證據來反駁你。

現在已經發展到寫文章﹑拍短視頻都可以定一個標題，提出一些基本要求，就可以無償得到一部作品的地步了。我請chatgpt模仿魯迅筆法寫一句警句，得到回答是「世上本無沉默，只是叫喊的人多了，安靜便成了罪」——都似模似樣，難分真假。

當人類生活在一個真假不分的大環境中，我們如何分辨善與惡﹑美與醜？我們做人的基本信條，都是在真假分明的環境中去奠定自己的認知的，以後該怎麼做人？

機器人將取代人類所有的工作，而且機器人會自主去發展自己的智能，而人類有了機器人後，幾乎不知道自己應該幹什麼，我們不但失去改造自然與社會的機會，而且也失去征服自然和社會的滿足感，失去保持和提高自我智能的機會。

先前讀過一篇文章，是內地一位專家的預言，他說當人類所有的工作都被機器人取代後，男人們會相當沮喪，每日無所事事，心理挫敗，到時候女人就會扮演心理輔導的角色，撫慰男人們的心靈。

我看到這個地方人都傻了，我們未來的命運便是如此？每日愁眉苦臉等女人來開解，這就是人類的生存目的？

人類智能是如何進化的？都是在與自然與社會的互動中得到的，我們攻克了自然的難關，提高生活水平，又克服了人類社會的各種弊端，改善我們一起生活的大環境。在這個過程中，每個人發揮自己的聰明才智，培養出百折不撓的毅力和勇氣，我們得到自我實現的機會，也得到整體智力的提升。

一切都是無中生有的，都是從生活實踐中提煉出來，都是永不休止的開拓和征服，我們做得越多，得到的越多，成長得越快，積累的智能越驚人，直至我們變成今日這樣的人。

人的智能會退化，機器人的智能會提高，機器人變成超人，人類退化成直立動物，那是不是很可怕？

機器人的潮流來勢洶洶，可以代替人類幾乎所有的勞作，包括體力勞動和腦力勞動，讓人類坐享其成。基於人類的懶惰本性，好逸惡勞，機器人投其所好，大舉進佔人類社會，直至最後，機器人進化到我們無法想像的聰明，人類卻退化到茹毛飲血的階段去，那時我們不滅亡，就沒有天理了。

這又是我在杞人憂天了，希望有專家能為我解惑，至於改變這個潮流，我認為沒有希望。

（因為輕信網絡流言，誤信蔡瀾先生離世的假消息，一時感念，寫了一篇追悼文章，粗疏如此，實在該死。僅此向蔡先生致歉，並請珍重身體，繼續執筆為文，以響我輩讀者。）