譯文：《人格憑證：人工智慧，以及辨識網路世界中何者為真的隱私保護工具及其價值》

週末繼續來討論「數位皮夾」這個迷人的話題，終於有空來進行令人開心的翻譯與轉譯作業，這或許比週間的政府工作還要更重要，國外發生了哪些重要大事，都值得我們關注一波。

這週有一篇眾星雲集的論文出爐，名為《人格憑證：人工智慧，以及辨識網路世界中何者為真的隱私保護工具及其價值》，討論 AI 假訊息滿天飛的時代即將來臨時，我們有什麼可以證明自己為真人的武器。其中最關鍵的部分便是「如何強化打詐，卻不侵犯隱私」與「如何保護隱私，同時降低詐騙」。

之所以說這篇論文眾星雲集，是因為該論文的作者群就是有關數位皮夾、分散式身分、可驗證憑證、AI 防偽的頂級產學人士，學術圈包含 MIT、牛津、哈佛柏克曼中心、分散式身分基金會、去中心研究中心、集體智慧專案等等，產業界包含 OpenAI、微軟、a16z、SpruceID、Digital Bazaar 這種具有標準制定話語權的機構。

而內容本身不負眾望的，算是好讀且關鍵，其授權又是 CC BY4.0 因此初步翻譯為中文如下文。

先講結論，打詐阻詐、隱私強化是一體兩面的概念，目前急需足夠好用的公共建設，讓百花齊放的數位服務商可以匯流介接，從而滿足「人格證明」的安心路徑。而目前已具有國際共識的關鍵步驟，就是公民自主持有的「數位皮夾」。

人格憑證：人工智慧，以及辨識網路世界中何者為真的隱私保護工具及其價值（Personhood credentials: Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online）

保持匿名是網路活動的重要原則。然而，惡意行為者長期以來一直利用誤導的身份進行欺詐、傳播虛假資訊和進行其他欺騙計劃。

隨著越來越強大的人工智慧的出現，惡意行為者可以放大其操作規模和有效性，讓過去線上匿名性和信任之間平衡出現圈新的挑戰。在本文中，我們分析了應對這一挑戰的一種新工具的價值：「人格憑證」（Personhood Credentials），這是一種數位憑證，賦予使用者展示他們是真實的人，而非人工智慧的能力，而無需揭露任何個人資訊。

這些憑證可以由一系列可信任機構發放，如政府或其他機構。根據我們的定義，人格憑證系統可以是在地的，也可以是全球的，而且無需透過生物辨識資料。

人工智慧引起的兩種趨勢，讓挑戰越發迫切，分別是在網路世界中，人工智慧與真人難以區分（即逼真的內容和大頭貼，及其代理活動），以及人工智慧的可擴展性（即成本效益以及可訪問性大幅提升）。

人格憑證為人們提供了在線上平台上得以展示其信任度的方式，並為服務供應商提供了減少惡意行為濫用的新工具。

相比之下，現有的對抗自動欺騙的措施，如 CAPTCHA，無法應對複雜的人工智慧，而嚴格的身分驗證解決方案對於許多用例來說不夠隱私。

在研究了人格憑證的好處之後，我們還檢查了其部署風險和設計挑戰。最後，我們提出了決策者、技術人員和標準機構應與公眾協商考慮的可行下一步行動。

執行摘要

惡意行為者長期以來一直利用假身分，在線上欺騙他人。他們從以各種線上暱稱、電子郵件地址和電話號碼進行詐騙、網絡攻擊和假消息。從歷史上看，這種欺騙有時似乎是維護網際網路對隱私和開放存許的承諾，所付出之不幸但必要的代價。但是強大的人工智慧可能會改變這一局面：如果沒有進一步的緩解措施，欺騙性的人工智慧活動可能會壓倒網際網路。為了維護使用者隱私並防範人工智慧欺騙，需要新的對策。

＊

有了越來越強大的人工智慧，惡意行為者可能會策劃更有效的欺騙計畫。人工智慧的兩種趨勢將助長此類計畫：

一、不可區分性（ Indistinguishability）

在網際網路上，我們越來越難以區分由人工智慧驅動的使用者，或者其他，因為人工智慧在以下能力方面不斷進步：

• 生成基於人類特有經驗或觀透過例如：「這是我對那篇演講的看法」

• 透過照片、影音產生類似於人的大頭貼（例如，在直播聊天中，模擬出真人）

• 在網路上進行類似於人的動作（例如像普通使用者一樣瀏覽網路，制定複雜的計畫以完成給定目標，在受到挑戰時時解决 CAPTCHA）

二、可擴展性（Scalability）

基於以下因素，惡意行為者利用人工智慧進行欺騙的規模正在不斷擴大：

• 能力越強，成本越低。

• 提高可及性。例如以開放部署的方式，使我們很難預防規模化產生的後果。

所以這兩個趨勢顯示，透過人工智慧可能有助於使欺騙活動更具說服力，並更容易操作。

＊

我們提出了潛在解決方案，用以應對網絡上普遍存在的欺騙問題，該解決方案建立在數十年的密碼學研究和網路社群實驗的基礎上：人格憑證。這樣的憑證讓持有者得以展示給數位服務提供者，表明他們是真人，而無需透露更多資訊。

基於類似的概念，如人格證明和匿名憑證，這些憑證以數位憑證的方式，儲存在持有者的設備上，並透過零知識證明（ZKP）進行驗證。更重要的是，這樣的證明並不會透露個人的具體資訊。

＊

為了抵制可擴展的欺騙行為，同時保護使用者的隱私，人格憑證系統必須滿足兩個基本要求：

1. 憑證數量發行限制（Credential limits）：人格憑證的發行者最多向符合條件的人提供一個憑證。

2. 不可連結的匿名性（Unlinkable pseudonymity）：人格憑證允許使用者透過匿名與服務進行交流；即使服務提供者和發行者共謀串通，使用者的數位活動也無法被追蹤，並且在服務提供者之間無法進行連結。

這兩個特性讓服務提供者能夠選擇以個人為基礎的服務，並防止違反服務規則的使用者再次使用服務。舉例來說，在一個匿名論壇中，每位持有憑證的使用者只能擁有一個經過驗證的帳號。不可連結的假名制有助於達成這一點，因為它能防止同一個人使用相同的人格憑證重複註冊帳號，即使在不識別使用者身分的情況下也是如此。而發證者設置的憑證上限，則使他們可以高度確信，同一用戶無法輕易通過使用多個人格證明來繞過限制，註冊多個不同帳號。

＊

設計人格明證系統有許多有效的方法，各種組織——不論是政府機構或其他組織——都可以擔任發證者，譬如各州可以向其州內的稅號持有人發放人格證明。根據我們的定義，人格證明系統可以是地方性的或全球性的，且不必基於生物辨識技術。在一個生態系內有多個值得信賴的人格證明發證者，能促進選擇的多樣性——人們可以選擇基於他們偏好的信任根源（政府身分證、社交圖譜、生物辨識等）而建立的系統，並選擇最符合其偏好的功能。這種方法在減少單一集中式發證者所帶來風險的同時，通過限制憑證的總數，仍能維護生態系統的完整性。需要注意的是，本文並不主張或反對任何特定的PHC系統設計，而是旨在確立PHC整體上的價值，並強調在任何設計中都必須考量的挑戰。

＊

人格證明無法被AI系統偽造，且惡意行為者很難大量取得這些憑證。結合現實世界的驗證技術（例如，親自出面驗證實體文件的人別確認）和安全的加密技術，這些憑證僅能發放給個人，且無法被可信地偽造。因此，這些憑證有助於解決辨識困難的問題，因為只有人才能獲取這類憑證；同時，也有助於解決擴展性問題，因為它們能為每一個憑證的活動設置速率限制。

＊

人格證明做為數位服務工具，能減少欺騙行為的效果與普遍性，特別是在以下幾種形式中：

1. 假帳號（Sockpuppets）：欺騙者假冒不存在的「人」。

2. 機器人攻擊（Bot attacks）：由惡意行為者控制的機器人網絡，用於執行自動化的濫用行為（例如，透過建立新帳號來違反網站規則並逃避停權）。

3. 誤導代理（Misleading agents）：AI代理誤導其服務的目標。

人格證明為使用者提供了一種方法，能夠在不透露身分的情況下，可信地表明自己是操作真實帳號的真人。人格證明也有助於服務提供者識別缺乏此類信號的欺騙性帳號。

＊

人格證明能改進並補充現有的線上防範AI驅動欺騙行為的方法。例如，下列方法通常無法對抗高度智慧的AI，或是不具包容性，且/或無法保護隱私：

1. 行為過濾（Behavioral filters）：例如CAPTCHA、JavaScript瀏覽器挑戰、異常檢測。

2. 經濟障礙（Economic barriers）：例如付費訂閱、信用卡驗證。

3. AI內容檢測（AI content detection），例如浮水印、指紋識別、後設資料來源驗證。

4. 基於外觀和文件的驗證（Appearance- and document-based verification），例如與ID配對的自拍檢查、線上視訊通話。

5. 數位和硬體識別碼（Digital and hardware identifiers），例如電話號碼、電子郵件地址、硬體安全金鑰。

＊

要發揮人證證明系統的效益，必須謹慎設計與實施。我們探討了四個必須小心管理的領域，這些領域將影響PHC的效用：

1. 平等地獲得使用人格證明的數位服務。

2. 支持自由表達的隱私信任。

3. 對服務提供者和發證者權力的監控。

4. 抵禦生態系統中不同角色的攻擊和錯誤的能力。

＊

我們鼓勵政府、技術專家和標準制定機構與公眾密切合作，投入開發、試行並採用人格證明，作為解決線上大規模欺騙的關鍵工具：

1. 投資於個人身分憑證系統的開發和試行。例如，探索在現有憑證（如數位駕照）基礎上逐步建立人個證明。

2. 鼓勵採用個人憑證。例如，確定哪些服務應該將人格證明作為身分驗證的替代方案。

＊

這些團體也應加速準備因應AI對數位系統的影響：

1. 重新檢視遠端身分驗證標準。例如，重新考慮僅依賴自拍進行身分驗證的可信度，除非有其他輔助因素以降低AI生成的假冒風險。

2. 研究主要通訊平台上欺騙性帳號的影響和普遍性。例如，開發標準化方法來測量社交媒體上的假帳號比例。

3. 建立規範與標準來管理網路上具代理權限的AI使用者。例如，探索類似HTTPS的AI代理信任基礎設施。

主要關注下一步行動建議的讀者可以直接參考第五節的詳細內容。

＊

我們擔憂網際網路尚未充分準備應對AI可能帶來的挑戰。若未能積極應對，包括公眾、政府、技術專家和標準制定機構，數位組織很可能無法應對AI驅動代理——包括被惡意行為者利用的AI代理——在網路上壓倒其他活動的情況。

在缺乏更好替代方案的情況下，這些組織可能會訴諸侵犯隱私的方法來打擊大規模欺騙行為，例如創建將個人法律身分與其所有數位活動記錄連結的數位識別系統。

相比之下，人格證明具有減少欺騙行為的潛力，同時保護隱私——為人們和服務提供信任的工具，以維護線上信譽。