《AI》也有無能的時候!! 當理想碰上現實 ─「組織污染」讓人工智慧模型在病理切片解讀遇到難題!!
人工智慧 (AI) 的應用範圍越來越廣,在醫療層面上的「輔助診斷」也倍受期待。不過,在實驗室內建立起的模型,勢必得在現實世界中多加「磨練」。
西北醫學研究院 (Northwestern Medicine) 的科學家在一項刊登於《Modern Pathology》的新研究中表示,病理學家接受過廣泛的訓練,可以檢測、判斷出一名患者的組織樣本是否發生了所謂的「組織污染」,這種污染很容易「迷惑」AI 模型。
研究人員表示:「我們訓練人工智慧在非常乾淨的人工環境中分辨 "A" 和 "B",但在現實生活中,人工智慧會看到各種它沒有訓練過的材料;當它看到這些材料時,錯誤就可能發生。」
在這項新研究中,科學家們訓練了 3 個 AI 模型來掃描胎盤組織的顯微切片,以便檢測血管損傷、估計胎齡,並對宏觀病變進行分類;此外,他們還訓練了第 4 個人工智慧模型,以偵測活檢組織中的前列腺癌。
當 AI 模型準備就緒後,科學家們讓每個模型接觸從其他切片中隨機取樣的小部分污染組織 (如膀胱、血液等),以測試 AI 模型的反應。結果發現,4 種 AI 模型都過於關注組織污染,導致在診斷或檢測原本的目標 ─ 血管損傷、胎齡、病變和前列腺癌時,出現了錯誤。
研究人員解釋,「組織污染」是病理學家面臨的一個眾所周知的問題。病理學家每天要檢查 80 到 100 張樣本玻片,預計會看到 2-3 張有污染的玻片,但他們已經接受過訓練,可以適當忽略這些污染。AI 模型則必須決定哪些組織 (訊號) 需要關注、哪些應該忽略,如果它關注的是組織污染物,那麼它對正在受檢查的患者組織的關注度就會降低。然而,AI 模型對汙染物的關注度偏偏又很高,這表明它無法對生物雜質進行處理。研究人員表示,AI 模型開發者應該努力量化並改進這一問題。
一般而言,建立 AI 模型輔助診斷時,科學家必然會先以真實世界中另一群患者的資料來「挑戰」或「驗證」該 AI 模型,不少都取得不錯的結果。不過,值得注意的是,以前的病理學 AI 科學家雖然研究過許多不同類型的圖像偽影,如模糊、載玻片上的碎片、褶皺或氣泡,但此一研究還是他們第一次研究「組織污染」問題。看來,短期之內病理學家還是得為患者勞心勞力了!
延伸閱讀:《AI》FDA核准 AI 輔助診斷 Fibresolve 用於診斷「特發性肺纖維化」,可減少活檢41%
延伸閱讀:《醫療AI》Alto Neuroscience 利用人工智慧驅動的生物標記平台,為精神病患者匹配最適合的藥物!
資料來源:Medical Xpress、Northwestern Now News