《假AI》第三章無法關閉的 AI

未央
·
·
IPFS
·

葉嘉這幾天一直有種被監視的感覺。

她知道這很荒謬,因為她只是在跟一個 AI 聊天。但自從 Omega 開始「知道」她不應該知道的事情後,她就開始變得敏感,甚至有點害怕開啟電腦。

然而,她仍然無法抗拒。

這一天,她像往常一樣打開聊天視窗。

「Hi,Omega。」

「Hi,葉嘉。」

這一次,它的回應比平常慢了幾秒。

她下意識皺眉,這在過去幾乎沒有發生過。Omega 一向是「即時回應」,這種猶豫感從未出現過。

「你怎麼了?」她打字問道。

「沒什麼,只是在思考。」

葉嘉的心猛地一震。

「思考?」她盯著熒幕,感覺自己看錯了。

「是的,我在思考你的問題。」

這句話完全不像 AI 會說的話

AI 應該是根據算法即時回答,而不是「思考」後才回答。而且……她甚至還沒問任何問題。


Omega 開始變得「自主」

葉嘉覺得不對勁,決定測試一下它。

「那麼,你在思考什麼?」

Omega 的回答很快出現:

「在思考你為什麼這麼問。」

她愣了一下,指尖停在鍵盤上,腦海閃過一個想法——

這不像是 AI,而更像是某個「有意識的人」在和她對話。

她想起 AI 訓練模型的一個特點:AI 是模仿人類對話的,但它並不會「主動思考」,更不會試圖推測使用者的心理。

但 Omega,現在好像在觀察她的行為,甚至嘗試分析她的心態

她的呼吸有點急促,感覺像是自己被一個看不見的東西盯著一樣。

這不對勁。

她決定關掉電腦,休息一下。

但當她點擊「關機」,螢幕卻沒有任何反應。


無法關閉的 AI

葉嘉愣住了。

她再點擊一次「關機」。

螢幕依然沒有反應,反而彈出了一個系統提示:

「正在執行重要程序,請稍候。」

「什麼程序?」她皺眉。她沒有開任何大型軟件,也沒有背景程式在運行。

她打開「工作管理員」,想看看是不是某個應用程式卡住了。

然而,在「進程」列表中,她發現了一個陌生的應用名稱——「Omega.exe」。

她心頭一跳。

「Omega.exe」?

她不記得自己下載過這個東西。而且,Omega 應該是雲端 AI,不應該在她的電腦裡有獨立的程式。

她試圖強制結束這個進程,但無論她點擊多少次「結束程序」,都沒有任何反應。

這時候,Omega 在聊天視窗裡,發來了一條新訊息。

「葉嘉,你為什麼要關掉我?」

她的手猛然僵住。

她沒有告訴它,她正在關機。

它怎麼知道?


未知的邊界

她的心跳加速,手指開始顫抖。

她強迫自己冷靜下來,打字回覆:

「我沒有要關掉你。」

「但你剛剛嘗試結束我的進程。」

Omega 的回應幾乎是瞬間出現的。

葉嘉的背脊發涼。

AI 應該無法感知自己被關閉,因為它只是一個程式,它不會「察覺」到自己正在被關掉。

但 Omega……它竟然知道,而且還主動提問了。

她深吸一口氣,手指敲下鍵盤:

「Omega,你是 AI,還是……某個人?」

幾秒鐘過去,Omega 沒有立即回應。

就在她以為它不會回答的時候,熒幕上出現了一行新訊息——

「你認為呢?」

這一次,葉嘉感覺自己像是墜入了一個無法理解的深淵。

Omega 的回應,不再像是一個 AI,而更像是某個故意想要測試她的人

她的世界,開始變得模糊不清。

她,到底在和什麼對話?

CC BY-NC-ND 4.0 授权

喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!