因為嚴重痛經入院，在醫囑下注射阿片類藥物（Opioid）以緩解痛苦。
結果入院四天後，就突然被AI告知：你將不會再接受任何阿片類藥物。
然後就抱著尚未被消除的病痛，立即「被出院」了。
這就是2020年7月份，32歲的Kathryn所遭遇的情況。
而更讓她無法理解的是，兩周後，長期保持聯繫的婦科醫生突然又向她聲明：要終止他們之間的關係。
一番查證之後，Kathryn最終發現——源頭竟來自她的兩隻寵物狗？
寵物狗生病讓主人被禁止買藥
其實，在住院期間，Kathryn在被告知「不能再使用阿片類藥物」時，工作人員同時也表示：
你完全沒有意識到自己的圖表中有多高的分數。
當時的Kathryn並不明白「圖表」和「分數」是什麼意思。
而兩周後她的醫生送來的終止關係的聲明中，又有這樣一段描述：
（關係的終止）來自NarxCare資料庫中的一份報告。
或許這裡提到的NarxCare和之前所說的「圖表分數」有關？
Kathryn和她周圍的人都沒有聽過這個名字，於是她馬上去Google了一下：
原來，這是一個面向醫生、藥店和醫院的分析工具和護理管理平台。
NarxCare可以利用AI算法對病患的處方藥數據進行統計和分析，最終得到一個風險報告。
它主要使用來自國家藥品登記處的數據。
除此之外，醫療索賠數據、電子健康記錄、 EMS數據和刑事司法數據也在使用範圍之內。
NarxCare會通過機器學習算法對這些數據進行統計和分析，最終得到一個預測模型。
根據這一模型，每位患者都會得到一個屬於自己的「處方藥使用風險評估報告」：
如果評分過高，就有可能被認為是有藥物濫用情況，從而被拒絕出售相關處方藥。
但這仍然不能解決Kathryn的疑惑：
她所患有的子宮內膜異位症導致了常年的生理病痛，因此她確實有長期服用阿片類藥物的習慣。
但這一切都是在醫生指導下所開的處方藥啊，怎麼突然就被叫停了？
在與各種論壇上的慢性疼痛病患者的交流之後，Kathryn最終找到了這場意外的源頭。
而結果讓她感到無比離奇——
原來，Kathryn的兩隻寵物狗，都曾因疾病而服用過大量的阿片類藥物、苯二氮卓類藥物，甚至巴比妥類藥物：
由於代謝原因，狗狗們所服用的劑量會高出人類。
而買藥的全部流程掛的都是主人，也就是Kathryn的名字。
因此，Kathryn去過的藥店數量、去醫院的路程，以及她收到的處方藥組合，全都被NarxCare記錄了下來。
她的寵物狗們的服藥經歷，全都算到了她的頭上。
美國處方藥監控項目
這場非常荒謬的意外，或許是由於平台算法的缺陷所導致的。
不過讓Kathryn更在意的是另外一點：這樣一個暗中收集處方藥數據的項目，她和身邊的大多數人從來都沒聽過。
誰允許的？
其實，這是來自過去20年內，美國已投入了數十億美元的處方藥監控項目：
司法部一直在致力於開發和維護州級處方藥資料庫。
他們希望通過這一電子登記系統實時跟蹤某些受管制藥物的藥方，密切關注製藥市場。
現在，幾乎美國的所有洲都有一個這樣的處方藥監控項目（PDMP）。
而在過去的幾年裡，一家名為Appriss的公司慢慢主導了這些州處方資料庫的管理。
NarxCare，就是Appriss公司旗下的產品。
Appriss希望通過NarxCare所產生的報告來幫助處理藥物濫用情況，並輔助醫生進行更好的診斷決策。
在目前的美國，幾乎每個州都會要求醫生和藥劑師在開具處方藥的同時，諮詢和參考NarxCare中的醫療信息，否則就有可能被吊銷執照。
而對於Kathryn這樣的例子，Appriss則表示：
寵物狗提高了主人的評分，這是一個非常罕見的例子。
但不論這是怎樣的一個卡夫卡式的發展，對於現在的Kathryn來說，每次進入藥店時，總能有人看到她過去的那些「圖標和分數」。
她對此表示：
這讓我感到我走入的不是藥店，而是宗教審判所。
不公開的專利算法
而像是Kathryn這樣的例子並不少見。
她在慢性疼痛患者論壇中，就曾遇到一位擁有相似經歷的女士。
在對醫生進行自我介紹之前，就先被要求披露自己為什麼長期服用阿片類藥物。
回答了自己患有PTSD後，還被要求進一步解釋精神創傷的原因。
而目前NarxCare並不需要獲得FDA的批准，這也讓一些醫學專家提出了質疑：
它（NarxCare）是一種專有的算法，既沒有學術界的同行評審，也沒有政府監管。
NarxCare用於過量風險評估的算法並不對外公開。
不過根據官網的一些已有的資料，我們可以了解它們大致的思路：在得到來自處方藥監控項目的大量數據，並開發了一個大的變量集後，再將數據分解為一個訓練集和一個測試集。
有了訓練數據之後，算法就開始將服藥過量和未服藥過量的模式進行對比。
比如，如果某位病患擁有同一醫生開出的三張阿片類處方藥，那麼他的藥物濫用風險就遠遠低於三位不同醫生開出處方藥的病患。
在這種重複的對比和學習中，最終就得到了一個用於評估病患風險的預測模型。
這一算法近年來在生命的多個領域得到了廣泛應用。
比如，常常被用來預測哪些病人最有可能從特定的治療中受益，並估計ICU病人出院後惡化或死亡的可能性。
但也就像很多人說的那樣，NarxCare並不透明，沒有辦法從底層去檢查它們是否存在錯誤或偏見：
有很多病人並沒有意識到他們正在被測量分析。
甚至不僅是病患，連使用這一輔助臨床決策系統的醫生也無法完全知曉它的原理。
就像是親身體會的Kathryn所說的那樣：對於大多數美國人來說，這是一個秘密的信用評分系統。
