《AI》資料的隱私、偏見、準確性、安全性與數據量夠不夠?? 人工智慧先行,立法刻不容緩!
人工智慧 (AI) 在今年年初由 OPEN AI 團隊的 ChatGPT 打響了第一戰,微軟以及 Google 的加入,更讓人工智慧的競爭白熱化。人工智慧的迅速發展改變了我們的生活,並在各個領域不斷地取得成就,其中也包括生技製藥產業。而隨著人工智慧不斷被製藥行業採用,美國和其他國家的監管機構也在不斷修正改進,以應對產業內的種種挑戰 (包括資料的隱私、偏見、準確性和訪問,人工智慧的適當使用以及對人工智慧納入制衡的制度)。
2023 年 10 月 30 日,白宮發佈了《行政命令:安全可靠且值得信賴的人工智慧開發暨使用》(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence,簡稱 EO),指示各機構制定計劃,在各行各業中適當、負責任地使用人工智慧,其中包括責成美國衛生與公共服務部 (HHS) 制定一項安全計畫。美國國會在幾週內就提出了一項深入的人工智慧提案,而美國 FDA 也一直在努力解決人工智慧問題。
EO 只是一個藍圖,因為各行各業有著自己的規則。Genialis 聯合創始人兼首席執行官、人工智慧醫療聯盟 (AAIH) 聯合創始人兼董事會董事 Rafael Rosengarten 指出,隨著人工智慧在各行各業的應用,人們越來越關注如何在部門和機構的基礎上對橫向技術進行監管,因為不同機構的職權在彼此管轄範圍之間可能存在差距,包括在醫療保健和製藥行業。
HHS的安全計畫
EO 授權 HHS 成立一個特別工作組,目的是在 2024 年前制定一項安全計畫。對於 HHS 來說,在一年內創建一個安全計畫是個有挑戰性的目標,尤其是考慮到人工智慧的複雜性,更不用說它在醫療保健領域的應用。ConversationHEALTH 的聯合創始人 Richard Marcil 解釋:該特別工作組的不同之處在於,必須界定人工智慧在醫療保健領域的危害和不安全行為的範圍、建立健全的報告制度、確定調查和補救機制,並對人工智慧在醫療保健領域的應用提供明確的法律和倫理考慮。他指出,該工作組必須與醫療服務提供者、研究人員和患者合作,在創新和患者安全之間建立必要的平衡。
人工智慧可能是未來醫療保健不公平的最終解藥,可能實現醫療資訊和醫療保健的民主化;但也可能是造成不公平的主要原因,人工智慧可能根據技術的可行性,進一步的將健康結果分層分類,在有限的醫療資源下如何公平,將會是一大難題。因此,立法就很重要。
未來的人工智慧立法
2023 年 11 月中旬,一個由兩黨參議員組成的小組發佈了擬議的《2023 年人工智慧研究、創新和責任法案》,該法案與歐洲的人工智慧法類似。未來亞洲、歐洲和美國之間將出現全球人工智慧趨同,因為大家對風險都有共識,而風險的主觀性和文化依賴性要小於「隱私」。
DLA Piper 律師事務所人工智慧與資料分析部合夥人兼主席、法學博士 Danny Tobey 指出,HHS 特別工作組將圍繞準確性、透明度、可及性和公平性之間的哲學問題和權衡進行艱難的選擇。美國國家標準與技術研究院 (NIST) 也提出,不同行業所奉行的人工智慧原則,可能會與其它行業別的人工智慧原則相衝突,這又是個手心手背的難題。
數據是根本
與其他行業一樣,製藥行業面臨的最大障礙是在一個地方獲得足夠多的高品質資料,以使人工智慧盡可能準確和公正。目前製藥業擁有的醫療保健資料是為保險和計費目的而收集的,它們並非用於醫療保健研究或科學目的,而是被用於藥物發現和開發。大量的立法提案為行業領導者提供了機會,引導政府機構制定標準和程式化,透過研發所需的適當資料,實現現代化的資料收集。
獲得高品質的資料是行業繼續發展的關鍵。BioSymetrics 公司首席戰略官兼 AAIH 副主席 Stacie Calad-Thomson 強調,立法需要資料,以促進創新和競爭。但資料差距反映了更大的基礎性問題,即在獲得醫療保健方面存在的差距,以及在處理這些問題時存在的人為偏見。
Richard Marcil 表示,新的私人和公共資料庫正在出現,其範圍超出了學術界現有的資料庫。從生物基因組學到個人化藥物,一批以人工智慧為根本動力的新型公司帶來了更廣泛的競爭挑戰,這些創新型公司以完全不同的商業模式營運,並在一個由資料提供商和合作夥伴組成的全新生態系統中開展合作。
人工智慧為未來提供了無數可能性,負責任地使用人工智慧將使各行業領域蓬勃發展。近年來層出不窮的詐騙,手法屢屢翻新,歹徒現在利用人工智慧,複製聲音甚至於影像傳給被害者的案例已經發生,新的科技帶來了便利卻也給了有心人更稱手的犯罪工具,立法必須加快速度以應對日新月異的科技進步。期待人類與人工智慧之間的協同合作,為醫療保健帶來更好的未來。
延伸閱讀:《AI》十年過去了,首批以人工智慧設計出的候選新藥,臨床表現如何? (必必讀)
延伸閱讀:《AI》可能強十倍!! 人與人工智慧的偕同努力,設計出新一代胃酸抑制劑
資料來源: BioSpace、HHS、FDA