譯者：Fred
一樁里程碑式的案件與一次概念上的轉變
近期美國的一起案件裁定，Meta和 YouTube在涉及社交媒體成癮的訴訟中存在過失，這標誌著一個深刻的轉折點。法院首次採納了這樣一種主張：數字平台造成的損害，其根源可能並非主要來自用戶生成的內容，而是源於系統本身的架構設計。通過將責任歸屬的重心從「言論內容」轉移至「設計架構」，該案開始在法律領域開闢出一片新天地：即「算法產品責任」。
其重要意義遠不止局限於侵權法理論範疇。它預示著一個治理難題的初步顯現——而法律界尚未對其形成完整的概念認知：即應當如何規制那些旨在對人類行為進行大規模優化的系統。原告方提出的一項論點——即平台刻意構建了誘導用戶產生強迫性互動的「參與閉環」（尤其是針對弱勢用戶群體）——在潛移默化中重構了「成癮」這一概念的內涵：將其從一種基於物質濫用的病理學狀態，轉化為一種由系統機制所誘發的不正常行為。
本文正是基於這一概念上的轉變而展開論述。文中提出了一套用於理解與規制所謂「算法成癮」的理論框架；引入了一項可量化的「成癮強度指數」；並進一步確立了一項以「最低可接受成癮強度水平」為核心的政策標準。歸根結底，本文旨在探究一個看似簡單卻寓意深遠的問題：既然數字平台具備塑造人類行為的能力，那麼社會又該如何對這種權力施以必要的制約？
從物質成癮到算法成癮
傳統的成癮觀念主要聚焦於各類物質——如酒精、尼古丁或毒品——即那些能夠引發化學依賴的物質。然而，不斷湧現的證據，以及Meta與YouTube相關案例所揭示的邏輯，均指向一種更為廣泛的現象：成癮不僅可能源於人們所攝取的物質，更可能源於各類系統對人們行為的塑造方式。
其中的關鍵區別在於：短期回報與長期福祉之間往往存在差異。人類天生傾向於追求即時滿足、新奇體驗、社會認可、情感刺激等。然而，這些短期回報並不總是與心理健康、生產力、自主性等長期利益相吻合。
算法系統恰恰利用了這一落差。通過持續學習何種內容最能吸引注意力，這些系統能夠精準推送那些旨在最大化即時參與度的內容。久而久之，這便形成了一種特定的行為模式：用戶在平台上投入的時間越來越多，而其整體福祉卻在持續下降。
這正是我們所定義的「算法成癮」：一種在用戶與系統之間自適應交互作用的驅動下，用戶參與度不斷提升，而長期福祉卻持續惡化的狀態。值得強調的是，此處所指的成癮並非僅僅是用戶個體的某種屬性，而是系統與用戶之間特定關係的一種屬性。
由此引申出一個更為深刻的結構性洞察：現代人工智慧系統並非僅僅被動地響應人類的偏好，而是在積極地塑造這些偏好。在此過程中，系統構建了一個反饋循環，促使系統與用戶雙方不斷地相互適應。這一反饋循環最終產生的後果究竟是有益還是有害，完全取決於該系統的具體設計方式。
成癮的衡量：成癮強度指數
若要對算法成癮現象進行有效治理，首要前提是必須使其具備可衡量性。這絕非易事，因為成癮並非單一維度的現象；它涵蓋了行為、心理以及福祉等多個維度。
我們所提出的「成癮強度指數」（Addiction Intensity Index），旨在將上述各個維度整合進一個統一的衡量框架之中。
首要維度是「行為維度」。該維度涵蓋了一系列可觀測的行為模式，例如用戶在平台上停留的時長、回訪的頻率，以及是否持續超出其預設的使用時長等。其中一個關鍵的信號是「無法停止」——即用戶儘管已萌生停止使用的意念，卻依然無法自控地持續投入其中。
第二個維度是「心理維度」。這捕捉到了強迫性體驗的主觀感受：即那種無法抽離的感覺，當無法使用平台時隨之產生的焦慮或不適感，以及那種覺得平台已變得難以抗拒的知覺。
第三個維度——也是最為關鍵的一個維度——是「福祉」。這一維度旨在探究：對平台的使用是否擠占了那些更具價值的活動，或者是否導致了睡眠紊亂、壓力增大、事後懊悔等負面後果。通過問卷調查來詢問用戶是否在平台上花費了超出預期的時長，或者在使用後是否感到情緒低落，可以作為衡量這一維度的實用代理指標。
關鍵在於，成癮絕非僅僅意味著高頻率的使用。它指的是高頻率的使用伴隨著失控感以及福祉水平的下降。「成癮強度指數」（Addiction Intensity Index）的設計初衷，正是為了精準捕捉並區分出這一本質差異。
從測量到監管：成癮的最低標準
一旦成癮可以被量化測量，設定限制便成為可能。本文提議確立一個「成癮強度最低閾值」（Minimum Addiction Intensity Threshold），作為一項基準，用以界定系統被允許誘導的成癮程度上限。
這種做法並非旨在消除用戶的參與度或愉悅感。相反，它設定了一道邊界：平台可以致力於優化以吸引用戶注意力，但必須在不損害用戶福祉的限度內進行。
若要行之有效，這一標準必須貫穿於人工智慧系統的整個生命周期之中。
在設計階段，開發者應評估「無限滾動」、「自動播放」以及「算法個性化推薦」等功能是否可能誘發強迫性的使用模式。在訓練階段，系統的優化目標不應僅限於提升用戶參與度，還應包含最大程度地抑制成癮機制。在測試階段，平台應開展對照實驗，以評估潛在的成癮風險。系統部署上線後，還需通過持續監測與獨立審計，確保其始終符合相關標準。
這標誌著一種從「被動式」向「主動式」治理模式的轉變。監管不再是坐等損害發生後再追究責任，而是在系統設計的伊始階段便介入並加以規範。
信任、採納與平台的戰略性激勵
人們自然會想當然地認為，平台方會對這類標準產生牴觸情緒。畢竟，其商業模式正是建立在最大化用戶參與度的基礎之上；從表面上看，對成癮性設計施加任何限制，似乎都意味著對營收構成了威脅。
然而，這種假設卻忽略了一個至關重要的動態變化：公眾信任正日益遭受侵蝕。
公眾對於「算法成癮」的擔憂已不再是邊緣化的議題。家長們開始限制子女使用社交媒體的時長；用戶們試圖通過「數字排毒」等方式來約束自己的使用習慣；各國政府與監管機構也在審慎考量實施禁令或限制措施的可能性。所有這些反應，都折射出一種深層的焦慮——即人們懷疑平台方並未真正將用戶的利益置於首位。
這種「信任赤字」已然開始制約整個行業的增長勢頭及其正當性基礎。
若有平台能夠以令人信服的方式證明其嚴格遵守了「成癮最低標準」，便能從根本上扭轉這一局面。通過向外界展示「用戶福祉」已內嵌於其產品設計理念之中，該平台將有效消弭用戶的恐懼與牴觸情緒。一旦信任得以重建，不僅潛在的用戶群體將隨之擴容，用戶的長期參與度也能獲得穩固的保障。
從短期來看，削弱成癮性功能或許會導致用戶使用強度的暫時性下降；但從長遠來看，此舉卻能有效擴大用戶基數，並確保用戶參與度的可持續性。其最終結果，便是實現從一種脆弱且具有「掠奪性」的商業模式，向一種更為穩健且基於「信任」的商業模式的根本性轉型。若能妥善校準，這一路徑將提供一種難得的可能性：一種真正的「雙贏」局面——社會因危害減少而獲益，平台則因正當性提升及普及度增加而受益。
核心張力：福利與激勵
核心挑戰在於平衡兩種相互競爭的力量。一方是平台激勵機制，它傾向於最大化用戶參與度；另一方則是社會福利，它要求限制過度參與所帶來的有害影響。
若任其自由發展，平台往往會優先考慮短期參與度，因為這能直接推動營收增長。但這會產生一種負面外部性：成癮所帶來的社會成本並未完全由平台自身承擔。
治理的作用正是為了糾正這種失衡。通過設定最低的「成癮標準」，監管機構實際上重新界定了平台進行優化操作的邊界。其目的並非要消除激勵機制，而是要使其與社會利益相協調。
這類似於環境法規在不禁止工業活動的前提下限制污染，或是金融法規在不取締市場的前提下約束風險。在上述各類情境中，其共同目標都是在防止系統性危害的同時，維護創新與增長。
成功的關鍵在於找到恰當的平衡點。如果標準過於嚴苛，可能會扼殺創新並損害用戶體驗；如果標準過於寬鬆，則無法有效解決問題。真正的挑戰在於如何確定一個既能保障社會福利，又能讓平台蓬勃發展的適度水平。
可行性與戰略啟示
從社會視角來看，進行干預的理由十分充分。這一議題本質上關乎「自主性」：即個體能否保有對其時間、注意力和選擇的掌控權。
從技術視角來看，這一治理框架雖然尚不完美，但具有可行性。平台目前已在收集關於用戶行為的詳盡數據。主要的難點在於如何衡量「福祉」——這本身就是一個極其複雜的概念。儘管如此，諸如「後悔感」和「時間不一致性」等實用的代理指標，仍可作為切入這一問題的有效起點。
從政治視角來看，推動治理改革的勢頭雖在積聚，但發展並不均衡。歐洲已著手針對具有成癮特性的設計功能實施監管；中國也已針對青少年用戶的使用行為設定了限制（儘管其出發點可能有所不同）；而在美國，法律體系才剛剛開始涉足並探討此類議題——Meta與YouTube的相關案例便是這一趨勢的體現。
來自業界的阻力預計將十分巨大。然而，正如「信任論」所揭示的那樣，那些具有前瞻性眼光的企業或許終將意識到：遵守監管規定並非一種負擔，而是一種能夠轉化為競爭優勢的寶貴資產。
結語：對「優化過程」的治理
人工智慧系統的崛起標誌著一種根本性的轉變。這些系統不再僅僅是迎合人類的既有偏好，而是在主動塑造人類的偏好。正因如此，治理的範疇必須實現超越——不再僅僅局限於對「結果」進行監管，而應進一步延伸至對「優化過程」本身實施監管。本文提出的這一框架——以衡量並限制成癮強度為核心——為解決這一問題提供了一條途徑。它將一種道德關切轉化為切實可行的標準，從而使治理這一複雜且不斷演變的問題成為可能。
Meta與YouTube的相關案例，最終或許會被銘記為這一議題正式進入公眾視野的關鍵時刻。它迫使我們直面一個全新的現實：當技術能夠人為製造強迫性行為時，社會就必須學會人為設定限制。
人工智慧治理的未來，將取決於我們能否妥善應對這一挑戰。
楊建利博士是哈佛大學甘迺迪政府學院的研究員、國家利益中心（Center for the National Interest）的傑出訪問學者，同時也是《國家評論》（National Review）的專欄作家。
原文連結：https://nationalinterest.org/blog/techland/from-meta-and-youtube-to-ai-why-platforms-need-limits-on-addictive-design