| 研究生: |
楊宇婷 Yang, Yu-Ting |
|---|---|
| 論文名稱: |
論醫療用人工智慧之法律主體與監管制度問題 Study on Legal Entity and Regulation of Artificial Intelligence in Medical Applications |
| 指導教授: |
陳思廷
Chen, Szu-Ting |
| 學位類別: |
碩士 Master |
| 系所名稱: |
社會科學院 - 法律學系 Department of Law |
| 論文出版年: | 2022 |
| 畢業學年度: | 110 |
| 語文別: | 中文 |
| 論文頁數: | 134 |
| 中文關鍵詞: | 人工智慧 、法律主體 、電子人格 、軟體即醫療器材(SaMD) 、監管制度 |
| 外文關鍵詞: | Artificial Intelligence, Electronic Personality, Legally Recognized Entity, Software as a Medical Device (SaMD), Regulation |
| 相關次數: | 點閱:181 下載:50 |
| 分享至: |
| 查詢本校圖書館目錄 查詢臺灣博碩士論文知識加值系統 勘誤回報 |
隨著人工智慧崛起,相關技術之應用產品與服務早已默默改變我們的生活,並且大量導入醫療領域以人工智慧技術來推動醫療產業的改革興起,藉由醫療技術結合人工智慧,來協助醫生進行診斷甚至輔助醫療,除提供更好醫療品質外同時提升醫療照顧效率並改善醫療保健從業人員從業環境,然建構於深度學習與機器學習上之人工智慧已開始擁有自主學習之能力,也使人工智慧未來發 展有更大可能性,同時衝擊既有監管模式與法律體系。
本文目的主要在於討論是否可因為社會經濟與人類群體生活所需,而透過法律承認或擬制法律人格賦予人工智慧民事法上權利義務主體之地位,並進一步分析歸納判斷人工智慧是否具有法律主體地位之要件;另外,過去系統軟體屬於醫療器材的一部分,但現在人工智慧出現後與以往單純硬體的醫療器材有別,而此類非醫療器材之醫療軟體需創新的監管制度,故本文參酌國際間有關醫療軟體之管理規範與立法趨勢比較其中之異同,以提供我國法制後續研議之參考。
本研究結果認為現階段各方面來判斷人工智慧皆不足以做為法律上獨立之個體,且基於人工智慧各種風險尚無法完全掌握情況下,仍可建構人工智慧判斷方式以及等級表,依照人工智慧之智慧性、自主性、溝通互動性,以及理性等要件,進行綜合評價而區分等級,並根據人工智慧等級給予不同程度之資格或限制,又醫療行為涉及人類生命身體安全甚鉅,應將人工智慧定位為「輔助工具」不宜交由人工智慧自主進行醫療行為,並可考量對於醫療領域應用人工智慧產品時對其自主性之限制,以維護醫療安全。
在醫療器材軟體監管方面,美國FDA、歐洲CE以及日本PMDA等認證單位都針對醫療器材軟體、軟體即醫療器材(SaMD)持續修訂相關規範,並制定專門監管措施,而我國現階段所公布之指引多集中於上市前之查驗登記,然上市前審查僅是全產品生命週期之一部分,且主管機關頻繁公告相關指引,足以見得對於醫療器材軟體之監管相當之迫切,為因應國際趨勢以及對於產品安全性維護,應建構屬於我國之醫療軟體監管制度。
Recently, the development of artificial intelligence technologies has surged at unimaginable speeds. With the new technology, artificial Intelligence hereinafter referred to as AI will change our current social structures and n a revolutionary way with several challenges in regulation and legal aspects. The situation needs to reform urgently.
This thesis aims to discuss if we need to entitle AI as a legally recognized entity, especially in view of the current trend of expanding legal subjectivity.
Additionally, the usage of artificial intelligence, which combines machine learning (hereinafter referred to as ML) into the base of software as a medical device (hereinafter referred to as SaMD), in the healthcare industry has increased rapidly.
However, the regulation for such innovative products is pretty unclear, which may pose danger to our society. Therefore, this thesis will examine the regulate SaMD in US, Europe, and Japan, and hope us can take a leaf out of their book for its future direction.
The thesis insists that it is necessary to establish a whole new regulatory system in legal aspect for AI-based medical devices in the Taiwan. Ensure that such devices are reasonably safe and effective in their life cycle when listing in the market.
一、中文部分(依筆畫排列)
(一) 專書:
1. Amir Husain著,溫力秦譯,AI創世紀:即將來臨的超級人工智慧時代,寶鼎,2018年。
2. Clifford A. Pickover著,林柏宏譯,AI之書:圖解人工智慧發展史,臺北市:時報文化,2020年。
3. Donald J. Norris著,曾吉弘譯,Raspberry Pi x Python x Prolog:虛實整合的AI人工智慧專案開發實戰,臺北市:碁峰,2018年。
4. Ian McLeod著,楊智傑譯,法理論的基礎,新北市:韋伯,2005年。
5. K‧茨威格特,H‧克茨著,潘漢典等譯,比較法總論,北京:中國法制出版社,2017年。
6. Ranjit Kumar著,黃國光譯,研究方法入門與實務,臺北市:雙葉書廊,2014年。
7. Ulfrid Neumann, Winfried Hassemer, Ulrich Schroth原著; 劉幸義等合譯,自我負責人格之法律─Arthur Kaufmann 的法律哲學,臺北市:五南,2010年。
8. 三宅陽一郎,森川幸人著,鄭佩嵐譯,從人到人工智慧,破解AI革命的68個核心概念,臺北市:臉譜出版,2018年。
9. 王琬昀等作,《智慧醫療趨勢暨應用案例》,臺北:資策會產研所,2018年。
10. 王維嘉,AI背後的暗知識:機器如何學習、認知與改造我們的未來世界,台北市:大寫出版,2020年。
11. 王澤鑑,人格權法-法釋義學、比較法、案例研究,作者出版,2012年。
12. 王澤鑑,民法總則(增訂版),作者自版,2010年。
13. 古明地正俊, 長谷佳明著,林仁惠譯,AI人工智慧的現在‧未來進行式:一目了然!最新發展應用實例,6大核心觀念全面掌握AI,生活‧商業‧經濟‧社會大革新!,臺北市:遠流,2018年。
14. 史蒂芬.懷斯著;李以彬譯,憤怒的獸籠,臺北市:高寶國際,2001年。
15. 尼克.伯斯特隆姆著,唐澄暐譯,超智慧: 出現途徑、可能危機,與我們的因應對策,新北市:八旗文化,2016年。
16. 列奧.施特勞斯著,彭剛譯,自然權利與歷史,台北縣:左岸文化,2005年。
17. 吳俊穎等著,實證法學──醫療糾紛的全國性實證研究,臺北市:元照出版,2014年。
18. 李友專,AI醫療大未來 台灣第一本智慧醫療關鍵報告,好人出版,2018年。
19. 李建良等著,法律思維與制度的智慧轉型,臺北市:元照出版,2020年11月。
20. 松尾豐著,江裕真譯,了解人工智慧的第一本書:機器人和人工智慧能否取代人類?,臺北市:經濟新潮社出版,2016年。
21. 孫曉明,世界醫療制度,臺北市:時報文化,2020年。
22. 陳妙芬,法哲學:自然法研究,新北市:聯經出版,2021年。
23. 陳誌雄, 楊哲銘, 李崇僖,人工智慧與相關法律議題,臺北市:元照,2019年。
24. 陳聰富,民法總則,第三版,臺北市:元照出版,2019。
25. 陳聰富,侵權違法性與損害賠償—《美國醫療過失舉證責任之研究》臺北:元照出版,2007年。
26. 陳聰富,醫療責任的形成與展開(修訂版),臺北市:臺大出版,2020年。
27. 富勒著,鄭戈譯,法律的道德性,二版,臺北市:五南出版,2016年11月。
28. 詹森林等人著,民法概要,第15版,臺北市;五南圖書出版,2020年。
29. 蔣榮先,從AI到智慧醫療,臺北市:商周出版,2020年。
30. 羅成典,西洋法律哲 學導論,臺北市:威秀資訊,2013年。
(二) 研究報告:
31. 主計資料大數據分析之研究報告,臺北醫學大學管理學院大數據研究中心-行政院主計總處委託研究,2016年。
32. 林孟昭、李侑霖,2017日本獨立行政法人醫藥品醫療機器綜合機構(PMDA)國際醫療器材主管機關研討會心得報告,衛生福利部食品藥物管理署,2018年。
33. 科技部,人工智慧科研發展指引,2019年。
34. 郭年真等人,智慧醫療關鍵議題與對策之研究,國家發展委員會委託研究,2017年。
35. 黃玉卉、莊懷堯,2019日本獨立行政法人醫藥品醫療機器綜合機構(PMDA)國際醫療器材主管機關研討會心得報告,衛生福利部食品藥物管理署,2020年。
(三) 期刊:
1. 王柏霳,人工智慧之發展-論人工智慧專利發明人適格性,科技法律透析,第32卷第10期,2020年10月,頁51-72。
2. 王豔慧,人工智能民事主體地位的論證進路及其批判,華東政法大學學報,第23卷第4期, 2020年7月,頁 82-92。
3. 何亦婕,日本醫藥品醫療器材等法修正研析──以醫療應用軟體為中心,科技法律透析,第27卷第6期, 2015年6月,頁43-51。
4. 吳佳琳,初探人工智慧的民事法律責任──從歐洲議會機器人民事法律 規範建議開展,法學新論,第32卷第1期, 2020年1月,頁 54-70。
5. 吳采薇,人工智慧醫療器材軟體之監理初探-以美國 FDA 新監理構想為核心,科技法律透析,第32卷第1期, 2020年1月,頁29-36。
6. 吳晉榮,論人工智慧技術應用、法律問題定位及監管立法趨勢 以美國實務發展為核心,成大法學,第39期, 2020年5月,頁173-235。
7. 呂宜瑾,淺析台灣人工智慧醫療之發展,科技政策觀點,第9期, 2019年9月,頁41-45 。
8. 李友專、劉立、邱文達,醫學診斷決策支援系統,台灣醫學,第1:6期,1997年11月,頁722-726。
9. 周晨蕙,日本國會通過藥品及醫療器材法修正案 科技法律透析 , 第31:12期,2019年12月,頁4-6。
10. 林大洋,公司侵權責任之法律適用-民法第 28 條與公司法第23條第2項之交錯與適用,台灣法學雜誌,第175期,2011年5月,頁69-86。
11. 張志堅,論人工智能的電子法人地位,現代法學,第五期, 2019年5月,頁75-88。
12. 張怡,醫療器材管理法總統公布醫材產業接軌國際新紀元,衛衛福季刊,第24期, 2020 年 3 月,頁18-21。
13. 張麗卿, AI 倫理準則及其對臺灣法制的影響,月旦法學雜誌 ,第301期,2020年 6月,頁97-117。
14. 許力儒、莊弘鈺,人工智慧創作之著作權適格與歸屬-法律與技術之綜合觀點,萬國法律,第241期, 2022年2月,頁20-38。
15. 陳宜縼、陳學德, AI 衍生醫療糾紛之民事責任──以構成要件為中心,月旦醫事法報告,第 58 期, 2021年8月,頁 159-178。
16. 陳怡君,美國人工智慧軟體醫材立法趨勢簡介,月旦醫事法報告,第45期, 2020年7月,頁154-165 。
17. 陳聰富,蔡甫昌,大數據應用於醫學研究之法律議題,臺灣醫學,第21卷第1期, 2017年1月,頁34-42 。
18. 楊 秀儀,美國「告知後同意」法則之考察之分析,月但法學,第121卷,2005年6月,頁138-152 。
19. 廖俊威,人工智慧技術發展,零組件雜誌,第341期, 2020年3月,頁82-86 。
20. 劉明生,人工智慧醫療產品瑕疵事件舉證責任分配與舉證減輕之研究──以醫院、醫師與產品製造人為中心,月旦民商法雜誌,第74期, 2021年12月,頁28-48。
21. 劉洪華,論人工智能的法律地位,政治與法律, 2019年第1期, 2021年1月,頁11-21。
22. 蔡甫昌,胡嘉輝,人工智慧醫療應用與倫理準則,澄清醫護管理雜誌,第16卷2期, 2020年04月,頁4-8 。
23. 蔡宜臻 (2019 05),人工智慧醫療器材軟體上市監管之法律與歐美政策概述,科技法律透析,第31卷第10期,頁11-16。
24. 蔡惠如,台灣醫療糾紛之法律課題,月旦民商法雜誌,第4期, 2004年6月,頁 126-137。
25. 黎家興,歐盟人工智能的最新監理趨勢,月旦會計實務研究,第24期,2019年12月,頁109-117。
26. 蕭仁豪,日本人工智慧( AI )發展與著作權法制互動課題之探討,科技法律透析,第30卷第1期, 2018年1月,頁46-72。
27. 蕭文生,自駕車法制之發展(上),月旦法學雜誌,第319期,2012年11月,頁102-123 。
28. 賴煥升,論損害賠償因果關係 兼評比例因果關係之適用可能性,全國律師,23:10期, 2019年10月,頁43-62。
(四) 學位論文:
1. 李坤容,人工智慧與精準醫療之法律疑義,東吳大學法學院法律學系碩士在職專班法律專業組碩士論文,2021年 。
2. 翁呈瑋,人工智慧法律主體之論爭─以人工智慧創作為例,國立政治大法律學系碩士學位論文,2020年 。
3. 許文欣,人工智慧介入醫療行為後之侵權責任研究,國立高雄科技大學科技法律研究所碩士論文,2021年。
4. 陳炯瑜,論醫療器材衍生之民 事法律責任,國立清華大學科技法律研究所碩士論文,2005年。
5. 曾淑瑜,人工智慧之刑法相關議題研究,國立台北大學法律學系碩士論文,2021年 。
6. 廖蕙玟,人工智慧與人格權之研究,中正大學法律學研究所學位論文,2018年 。
7. 劉國斯,我國人格保護之理論與實務 以民法上人格權為中心,中國文化大學社會科學院中山學術研究所博士論文,2010年 。
8. 羅康銘,人工智慧科技法律議題與規範研究 以人工智慧醫療為核心,國立高雄科技大學科技法律研究所碩士論文,2020年。
(五) 網路資料:
1. 36Kr ,機器人三 大法則太過簡單?微軟 CEO 發表 AI 人工智慧的六大法則, T 客邦新聞,資料來源: https://www.techbang.com/posts/44430three laws of robotics is too simple google ceo made ai tenprinciples 最後瀏覽日期: 2022 年 6 月 6 日) 。
2. Apple ,心電圖 App 進駐 Apple Watchhttps://www.apple.com/tw/newsroom/2020/12/ecg app coming toa pplewatch/( 最後瀏覽日期: 2022 年 5 月 10 日 )。
3. Business Wire CureApp :全球首款高血壓數位治療 App 獲得醫療器材法規核准, https://www.businesswire.com/news/home/20220502005378/zhHK/( 最後瀏覽日期: 2022 年 5 月 10 日) 。
4. Chris ,大學生用 GPT 3 AI 寫假文登上 Hacker News 榜首, INSIDEhttps://www.inside.com.tw/article/20684 a college stu dent usedgpt 3 to write fake blog posts and ended up at the top of hackernews( 最後瀏覽日期: 2022 年 3 月 1 日) 。
5. HST 採訪報導,成大醫院智慧醫療臨床決策輔助系統 加速鑑別診斷提升篩檢效能,台灣智慧醫療創新整合平台,資料來源:https://www.hst.org.tw/tw/board/news/261( 最後瀏覽日期: 2022 年 4月 26 日 。
6. MEDROBOT 木青,全球醫療機器人產業現狀,亞洲健康互聯網,資料來源:http s://www.hea.com.tw/infoDetail.asp?id=2409( 最後瀏覽日期: 2022年 4 月 25 日 。
7. NVIDIA NVIDIA 發表英國最強大的超級電腦,供人工智慧與健康照護研究使用,資料來源: https://blogs.nvidia.com.tw/2021/07/07/nvidialaunches uks most powerful supercomputer for research in ai andhealthcare/( 最後瀏覽日期: 2022 年 4 月 27 日) 。
8. Therac 25 案例,華人百科,資料來源:https://www.itsfun.com.tw/Therac 25 案例 /wiki 7923871 8546861( 最後瀏覽日期: 2022 年, 4 月 2 日) 。
9. 報導者,【不斷更新】 COVID 19 大事記:從全球到台灣,疫情如何發展資料來源: https://www.twreporter.org/a/2019 ncov epidemic( 最後瀏覽日期: 2022 年 3 月 9 日) 。
10. 每日健康,比起現有的途徑能夠更快速地將產品推向市場,同時病患也能夠得到更好的醫療照護,資料來源: http s://tw.news.yahoo.com/news/ 糖尿病進入 數位化照護 時代 台灣卻只核准 3 項軟體 歐洲在台商會籲093226420.html( 最後瀏覽日期: 2022 年 5 月 20 日)。
11. 杜育綺,提升整體醫療品質 全球積極發展 AI 醫療器材, DIGITIMES 智慧應用,https://www.digitimes.com.tw/iot/article.asp?cat=130&cat1=40&id=0000627562_HQK6QY565NDOEN3FNE93E( 最後瀏覽日期: 2022 年 5 月 8 日) 。
12. 吳采薇,美 國監管醫療用基因檢驗之法制與實務趨勢,資訊工業策進會科技法律研究所, https://stli.iii.org.tw/articledetail.aspx?no=55&tp=1&i=180&d=8421( 最後瀏覽日期: 2022 年 7 月 2 0日) 。
13. 端傳媒,向新西蘭學習,污染嚴重的印度恆河也有法定人權了,資料來源: https://theinitium.com/article/20170321 dailynews indiariver legal personality/( 最後瀏覽日期: 2022 年 5 月 15 日) 。
14. 賴岳炫,醫療器材產業趨勢:創新創業之機會與挑戰, TAcc+ 趨勢分析,資料來源: https://taccplus.com/technews1018/( 最後瀏覽日期: 2022年 3 月 15 日 。
15. 李建良,人工智慧的法律責任與法人格設計 法律經濟分析的觀點,公共性與 AI 論壇,資料來源: https://ai.iias.sinica.edu.tw/legalresponsibility and personality of ai minutes/( 最後瀏覽日期: 2022年 5 月 7 日) 。
16. 李友專,李友專:「 AI 會取代人 類醫師」?你可能問錯問題了,環球生技,資料來源:https://news.gbimonthly.com/tw/celebrity/show.php?num=841( 最後瀏覽日期: 2022 年 4 月 26 日 。
17. 吳采薇,美國監管醫療用基因檢驗之法制與實務趨勢,資訊工業策進會科技法律研究所, 2020 年 3 月,資料來源:https://stli.iii.org.tw/articledetail.aspx?no=55&tp=1&i=180&d=8421 最後瀏覽日期: 2022 年 5 月 26日) 。
18. 林蒧均、陳信宏,歐洲人工智慧 發展:政策、產業、科研趨勢,財團法人中華經濟研究院, https://cieropencall.org/ 歐洲人工智慧發展:政策、產業、科研趨勢 最後瀏覽日期: 2022 年 4 月 18 日) 。
19. 林昱均,資安失守?謝昀澤:人工智慧變武器 駭客技能再進化, ETtoday財經雲,資料來源: https://finance.ettoday.net/news/1142919( 最後瀏覽日期: 2022 年 4 月 8 日)。
20. 高敬原,擁有公民權的機器人索非亞,是過度崇拜還是開創新局?,數位時代 AI 與大數據,資料來源:https://www.b next.com.tw/article/49740/hanson robotics sophiathe robot pr stunt artificial intelligence( 最後瀏覽日期: 2022 年 5月 17 日) 。
21. 科技部,加速醫療影像 AI 發展 再創台灣優勢 科技部啟動台灣首座跨醫療院所之醫療影像標註資料庫,科技部 新聞資料,資料來源:https://www.most.gov.tw/folksonomy/detail?article_uid=9eafcc5350c3 4803 aff6 fa578 c25b1f7&menu_id=9aa56881 8df0 4eb6 a5a732a2f72826ff&l=ch( 最後瀏覽日期: 2022 年 4 月 26 日) 。
22. 科技部, AI 醫療科技新突破 台灣首創個人化「肺癌臨床智能決策輔助系統」,駐加拿大台北經濟文化代表處科技組 公告事項 ,資料來源https://www.most.gov.tw/canada/ch/detail/b38edaf3 49e4 4e7c b6878e16b9be3934( 最後瀏覽日期: 2022 年 4 月 26 日) 。
23. 火石創造,國內外醫療機器人行 業現狀及趨勢分析,每日頭條,資料來源: https://kknews.cc/zh tw/health/qxmx4nr.html( 最後瀏覽日期:2022 年 4 月 25 日) 。
24. 李爾芳,人工智慧於放射醫學影像 3D 造影成像之應用 趨勢新知 ]],經濟部技術處,https://www.moea.gov.tw/mns/doit/bulletin/Bulletin.aspx?kind=4&htl=1&menu_id=13553&bull_id=8754( 最後瀏覽日期: 2022 年 4 月 26 日) 。
25. 黃浥昕 上市後使用 AI 技術改良的醫療 器材再審查之必要性 月但醫事法網 ,www.angle.com.tw/ahlr/discovery/post.aspx?ipost= 最後瀏覽日期: 2022 年 5 月 26 日) 。
26. 青年日報社,北醫研究 AI 揪肺癌病灶 3 分鐘判讀, YAHOO 股市,資料來源: https://tw.stock.yahoo.com/news/ 北醫研究 ai 揪肺癌病灶 3 分鐘判讀 160000465.html( 最後瀏覽日期: 2022 年 4 月 26 日) 。
27. 張凱喬,淺談美國自動駕駛政策,財團法人車輛研究測試中心 電子報,2017 年,https:https://www.artc.org.tw/chinese/03_service/03_02detail.aspx?pid=3166 最後瀏覽日期: 2022 年 6 月 1 6 日) 。
28. 趙淑鈺,人工智慧各國戰略解讀系列之四《日本機器人新戰略》,壹讀,資料來於: https://read01.com/eRjEO2.html https://read01.com/zhtw/eRjEO2.html#.Yl1mD hByUk( 最後瀏覽日期: 2022 年 4 月 18 日) 。
29. 中山醫學大學附設醫院,【新聞】華碩、中山附醫推智慧健康管理 APP 將整 合遠距醫療,資料來源: web.csh.org.tw/web/csh/?p=19273( 最後瀏覽日期: 2022 年 4 月 27 日) 。
30. 產業拓展處,歐洲醫材市場現況及發展趨勢 )),台灣經貿網,資料來源https://info.taiwantrade.com/biznews/ 歐洲醫材市場現況及發展趨勢1927263.html( 最後瀏覽日期: 2022 年 5 月 10 日) 。
31. 國家發展委員會,歐盟一般資料保護規則專區,資料來源:https://www.ndc.gov.tw/Content_List.aspx?n=2A22E5DE B45D2552( 最後瀏覽日期: 2022 年, 3 月 28 日) 。
32. 陳亭瑋,人工智慧複製人類偏見, AI 與性別議題間的拉扯 高醫大性別所余貞誼專訪,科技大觀園,資料來源:https://scitechvista.nat.gov.tw/Article/C000003/detail?ID=386e5d7fbd9c406ca3fdf84313443fb9(最後瀏覽日期: 2022 年, 3 月 28 日) 。
33. 陳錫平,歐盟人工智慧規則草案之初探 以市場、風險、價值及信賴為核心的管制架構,公共性與 AI 論壇,資料來源:http s://ai.iias.sinica.edu.tw/eu ai regulation draft minutes/( 最後瀏覽日期: 2022 年 4 月 18 日) 。
34. 陳箴,英國展開醫療器材監管公眾意見徵詢並公布《人工智慧軟體醫材改革計畫》,科技法律研究所,資料來源:https://stli.iii.org.tw/article detail.aspx?no=67&tp=1&d=8765( 最後瀏覽日期: 2022 年 4 月 18 日) 。
35. 食品藥物管理,公告修訂「醫用軟體分類分級參考指引」,現代化健康促進產品管理規定以加速我國產業 發展,衛生福利部 焦點新聞https://www.mohw.gov.tw/cp 16 57304 1.html( 最後瀏覽日期: 2022 年 5月 20 日) 。
36. 食品藥物管理署,「醫療器材管理法」 110 年 5 月 1 日正式上路 醫療器材管理邁向新紀元,資料來源: https://www.mohw.gov.tw/cp 5016 594431.html( 最後瀏覽日期: 2022 年 3 月 10 日) 。
37. 食藥署,食藥署 109 年 12 月 24 日修訂「醫用軟體分類分級參考指引」,資料來源: https://www.hst.org.tw/tw/boa rd/notice/20( 最後瀏覽日期:2022 年 5 月 13 日) 。
38. 適用於製造業者之醫療器材網路安全指引,適用於製造業者之醫療器材網路安全指引,衛生福利部 本署公告,https://www.fda.gov.tw/TC/newsContent.aspx?cid=3&id=27018( 最後瀏覽日期: 2022 年 5 月 20 日 )。
39. 蘇揚傑, Expert System ,台灣人工智慧行動網,資料來源https://ai.iias.sinica.edu.tw/glossary/expert system/( 最後瀏覽日期: 20 22 年 4 月 26 日) 。
40. 維基百科,達特矛斯會議,資料來源: https://zh.wikipedia.org/wiki/达特矛斯会议 最後瀏覽日期: 2022 年 3 月 2 日) 。
41. 衛生福利部食品藥物管理署,公告「醫用軟體分類分級參考指引」,資料來源: https://www.fda.gov.tw/TC/newsContent.aspx?cid=3&id=26636(最後瀏覽日期: 2022 年 3 月 18 日 )。
二、英文 部分
(一) 專書:
1. Dan B. Dobbs, Paul T. Hayden, Torts and compensation : personal accountability and social responsibility for injury, 5th ,St. Paul, MN : Thomson/West(2005).
2. Jan De Bruyne, Cedric Vanleenhove, Artificial Intelligence and the Law, Intersentia; 1st ed. (2021).
3. Marcelo Corrales, Mark Fenwick, Nikolaus Forgó,Robotics, AI and the Future of Law, Springe; 1st ed.(2018)
4. Woodrow Barfield , Ugo Pagallo Research Handbook on the Law of Artificial Intelligence, Edward Elgar Publishing(2018 ).
(二) 研究報告:
1. Angela Spatharou et al., Transforming healthcare with AI: The impact on the workforce and organizations(2020) .
2. Clay Heskett, Ben Faircloth, Stephen Roper, Artificial Intelligence in Life Sciences: The Formula for Pharma Success Across the Drug Lifecycle, L.E.K. Executive Insights, Volume XX, Issue 60(2018).
3. World Commission on the Ethics of Scientific Knowledge and Technology, Report of COMEST on robotics ethics(2017).
(三) 期刊:
1. Bernhard Lobmayr, An Assessment of the EU Approach to Medical Device Regulation against the Backdrop of the US System, European Journal of Risk Regulation, Volume 1 Issue 2, p137-149(2010).
2. Bertolini, A. Robots as products: The case for a realistic analysis of robotic applications and liability rules, Law Innovation and Technology, 5(2), 214–247 (2013).
3. Corneliu Andy Pusca, Should We Share Rights and Obligations with Artificial Intelligence Robots?, Science and Technologies for Smart Cities. SmartCity 360 2019, p412-419(2020).
4. Chopra S., White L. F. A Legal Theory for Autonomous Artificial Agents. Ann Arbor, University of Michigan Press.P1-262(2011).
5. Cynthia Rudin, Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Nature Machine Intelligence, Vol 1,p206-215 (2019).
6. Directorate-General for Communications Networks, Content and Technology, Ethics guidelines for trustworthy AI,p1-41(2019).
7. Hage J. Theoretical Foundations for the Responsibility of Autonomous Agents. Artificial Intelligence Law7, no. 25 (3), p255–271(2017).
8. Helen Nissenbaum, Computing and accountability, Communications of the ACM, Volume 37,Issue 1,p 72–80(1994).
9. Jessa Boubker, When Medical Devices Have a Mind of Their Own: The Challenges of Regulating Artificial Intelligence, American Journal of Law & Medicine, 47 (2021) ,p427-454(2022).
10. Karni A. Chagal Feferkorn, Am I an Algorithm or a Product? When Products Liability Should Apply to Algorithmic Decision-Makers, 30 Stan. L. & Pol'y Rev. 61, p61-114 (2019).
11. Kaspar LUDVIGSEN, Shishir NAGARAJA, Angela DALY, When Is Software a Medical Device? Understanding and Determining the “Intention” and Requirements for Software as a Medical Device in European Union Law, European Journal of Risk Regulation, Volume 13, Issue 1, P78-93 (2021).
12. Michelle Chan Sin Cheong, Artificial Intelligence in Healthcare, 30-2 J. BIOMED. & LAB. SCI. 33, p33-37(2018).
13. Richards, N. M., & King, J. H. Big data ethics. Wake Forest Law Review, 49, 393-432(2014).
14. Robert Cundick et al., ILIAD as a Patient Case Simulator to Teach Medical Problem Solving, Proc Annu Symp Comput Appl Med Care, P902–906(1989).
15. Revolidis I. Dahi A. Roboticshe Peculiar Case of the Mushroom Picking Robot: Extra-contractual Liability in Robotics. In Robotics, AI and the Future of Law, p57-79(2018).
16. Roman Dremliuga, Pavel Kuznetcov, Alexey Mamychev, Roman Dremliuga1, Criteria for Recognition of AI as a Legal Person, Journal of Politics and Law, Vol. 12, No.3, p105-112(2019).
17. Schwartz R, Vassilev A, Greene K, Perine L, Burt A and Hall P, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, Special Publication (NIST SP), National Institute of Standards and Technology, p1-77 (2022).
18. Shawn Bayern, The Implications of Modern Business-Entity Law for the Regulation of Autonomous Systems, 19 Stanford Technology Law Review Vol.19:93 , p93-112 (2015).
19. Simon Chesterman, ARTIFICIAL INTELLIGENCE AND THE LIMITS OF LEGAL PERSONALITY, International & Comparative Law Quarterly , Volume 69 , Issue 4 , p819-844 (2020).
20. S. K. Stepanov, Deconstruction of the legal personhood of artificial intelligence ,Digital Law Journal Vol 2, No 2, p14-30(2021).
21. Turing AM. Computing Machinery and Intelligence. Mind.59(236).433-460(1950).
22. van den Hoven van Genderen, R. Do We Need New Legal Personhood in the Age of Robots and AI? , Robotics, AI and the Future of Law, p 15–55 (2018).
23. Visa Kurki, A Theory of Legal Personhood, Helsinki Legal Studies Research Paper, No. 58 ,p1-p202(2019).
24. Wei-Hsiang Yu,.el, Machine Learning Based on Morphological Features Enables Classification of Primary Intestinal T-Cell Lymphomas, Cancers 2021, 13(21), 5463 ,p1-15( October).
25. Yaniv Benhamou, Justine Ferland, ARTIFICIAL INTELLIGENCE & DAMAGES: ASSESSING LIABILITY AND CALCULATING THE DAMAGES, Leading Legal Disruption: Artificial Intelligence and a Toolkit for Lawyers and the Law, Forthcoming , Available at SSRN: https://ssrn.com/abstract=3535387,p1-p20(2020).
(四) 行政公報 及法令
1. European Commission, MEDDEV 2.1/ 6 Guidelines on the qualification and classification of stand alone software used in healthcare within the Regulatory framework of medical device(2016).
2. European Commission-Expert Group on Liability and New Technologies, Liability for Artificial Intelligence and other emerging digital technologies(2019).
3. European Union, Council Directive 90/385/EEC(AIMDD). (1990).
4. European Union, Council Directive 93/42/EEC(MDD) (1993).
5. European Union, Regulation (EU) 2017/745(2017).
6. FDA Guidance, Software as a Medical Device (SaMD): Clinical Evaluation - Guidance for Industry and Food and Drug Administration Staff(2017).
7. FDA, Software as a Medical Device (SaMD): Clinical Evaluation(2017).
8. FDA, Developing a Software Precertification Program: A Working Model – Version 1.0(2019).
9. Food and Drug Administration Staff, and Clinical Laboratories: Framework for Regulatory Oversight of Laboratory Developed Tests (LDTs), Food and Drug Administration, Draft Guidance for Industry(2014).
10. IMDRF, SaMD N10: Software as a Medical Device (SaMD): Key Definitions(2013).
11. IMDRF, SaMD N12: Software as a Medical Device: Possible Framework for Risk Categorization and Corresponding Considerations(2014).
12. IMDRF, SaMD N23: Software as a Medical Device (SaMD): Application of Quality Management System(2015).
13. Jean Paul ,Jean-Marc, Legal and regulatory implications of Artificial Intelligence. The case of autonomous vehicles, m-health and data mining, Publications Office of the European Union(2019).
14. WHO. Resolution WHA58.28 eHealth(2005).
15. World Health Organization, Ethics and governance of artificial intelligence for health: WHO guidance Executive summary (2021).
(五) 網路資料:
1. ABILIFY MYCITE System,https://www.abilifymycite.com(last visited May4, 2022).
2. ALEXANDRA MOUSAVIZADEH、ALEXI MOSTROUS、ALEX CLARK(2019 Dec),the global ai index, Tortoise,https://www.tortoisemedia.com/2019/12/03/global-ai-index/(last visited Apr 18, 2022).
3. Anastasia Moloney, The Colombian Amazon now has the same legal rights as you, World Economic Forum, https://www.weforum.org/agenda/2018/04/colombias-top-court-orders-government-to-protect-amazon-forest-in-landmark-case/(last visited May15, 2022).
4. Anna V. Smith ,The Klamath River now has the legal rights of a person, High Country News ,https://www.hcn.org/issues/51.18/tribal-affairs-the-klamath-river-now-has-the-legal-rights-of-a-person(last visited May15, 2022).
5. Authors: Swati Satturwar, Liron Pantanowitz, Augmented reality microscopy (ARM) , PathologyOutlines.com, https://www.pathologyoutlines.com/topic/informaticsaugmentedrealitymic.html(last visited Apr. 26, 2022).
6. Bastien L, L’intelligence artificielle est déjà consciente selon le fondateur d’OpenAI, lebigdata.fr, https://www.lebigdata.fr/intelligence-artificielle-consciente-openai(last visited Mar 2, 2022).
7. Ben Dickson, The dangers of trusting black-box machine learning,TechTalks,https://bdtechtalks.com/2020/07/27/black-box-ai-models/(last visited Apr 5, 2022).
8. Bill Siwicki , 86% of Healthcare Companies Use Some Form of AI, Healthcare IT News, https://www.healthcareitnews.com/news/86-healthcare-companies-use-some-form-ai, last visited 3/15/2022. (last visited Mar 12, 2022).
9. CHRISTIANNA REEDY, Kurzweil Claims That the Singularity Will Happen by 2045, Futurism, https://futurism.com/kurzweil-claims-that-the-singularity-will-happen-by-2045(last visited May 3, 2022).
10. Daniel Phillips, New natural language processing model may be "biggest thing since Bitcoin", Decrypt, https://decrypt.co/36057/new-natural-language-processing-model-may-be-biggest-thing-since-bitcoin(last visited Mar 8, 2022)..
11. Daniel Piekarz, AI in Drug Development: A Glimpse Into the Future of Drug Discovery, DataArt, https://www.dataart.com/blog/ai-in-drug-development-a-glimpse-into-the-future-of-drug-discovery(last visited Mar 11, 2022).
12. Douglas O. Linder, The Case for Recognizing the Legal Personhood of Certain Animal Species, UMKC School of Law ,https://famous-trials.com/animalrights/2600-the-case-for-animal-personhood(last visited May15, 2022).
13. European Commission, Artificial intelligence for Europe , https://www.europeansources.info/record/communication-artificial-intelligence-for-europe/(last visited May 18, 2022).
14. European Parliament, European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics, http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html (last visited Mar 10, 2022).
15. FDA, Digital Health Software Precertification (Pre-Cert) Program,,https://www.fda.gov/medical-devices/digital-health-center-excellence/digital-health-software-precertification-pre-cert-program(last visited May 13, 2022).
16. Find Care, https://www.walgreens.com/findcare/partner/trihealth(last visited Apr. 27, 2022).
17. IBM, Deep Blue,https://www.ibm.com/ibm/history/ibm100/us/en/icons/deepblue/(last visited Mar 8, 2022).
18. Intuitive History, Intuitive ,https://www.intuitive.com/en-us/about-us/company/history(last visited Apr. 19, 2022).
19. Joanna Bryson, AI & Global Governance: No One Should Trust AI, United Nations University Center for Policy Research , https://cpr.unu.edu/publications/articles/ai-global-governance-no-one-should-trust-ai.html(last visited May10, 2022).
20. JOANNA BRYSON, RESEARCH: ETHICS AND POLICY FOR TECHNOLOGY, The Hertie School of Governance, https://www.joannajbryson.org/ethics-and-policy-of-technology(last visited May10, 2022).
21. Justine Townsend, Alexis Bunten, Catherine Iorns, Lindsay Borrows、 Lloyd Smith, Rights for nature: How granting a river ''personhood'' could help protect it, The conversation , https://theconversation.com/rights-for-nature-how-granting-a-river-personhood-could-help-protect-it-157117?utm_source=dlvr.it&utm_medium=twitter(last visited May15, 2022).
22. Lauren Choplin, Chimpanzee Recognized As Legal Person, nonhumanrights , https://www.nonhumanrights.org/blog/cecilia-chimpanzee-legal-person/(last visited May15, 2022).
23. McKinsey & Company. https://www.mckinsey.com/industries/healthcare-systems-and-services/our-insights/transforming-healthcare-with-ai#(last visited Mar 1, 2022).
24. Meta AI, ReSkin: a versatile, replaceable, low-cost skin for AI research on tactile perception,https://ai.facebook.com/blog/reskin-a-versatile-replaceable-low-cost-skin-for-ai-research-on-tactile-perception(last visited Mar 8, 2022).
25. Michael Daly, Whanganui River gets the rights of a legal person, Stuff ,https://www.stuff.co.nz/national/politics/90488008/whanganui-river-gets-the-rights-of-a-legal-person(last visited May15, 2022).
26. New Zealand, Landmark day for Taranaki Maunga , https://www.beehive.govt.nz/release/landmark-day-taranaki-maunga(last visited May 15, 2022).
27. Nitasha Tiku, The Google engineer who thinks the company’s AI has come to life, The Washington Post,https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/(last visited Jul 23, 2022).
28. NOOR AL-SIBAI, MIT Researcher: Don’t Ignore the Possibility That AI Is Becoming Conscious,futurism,https://futurism.com/mit-researcher-conscious-ai(last visited Mar 3, 2022).
29. OpenAI, GPT-3 Powers the Next Generation of Apps, https://openai.com/blog/gpt-3-apps/(last visited Mar. 1, 2022).
30. RICHARD GRAY FOR MAILONLINE, Google apologizes after Photos app tags black couple as gorillas: Fault in image recognition software mislabeled picture, MailOnline, https://www.dailymail.co.uk/sciencetech/article-3145887/Google-apologises-Photos-app-tags-black-people-gorillas-Fault-image-recognition-software-mislabelled-picture.html(last visited Apr 3, 2022).
31. Rory Cellan Jones, Stephen Hawking warns artificial intelligence could end mankind, BBC News, https://www.bbc.com/news/technology-30290540(last visited May 3, 2022).
32. Sophia, Hanson Robotics, https://www.hansonrobotics.com/sophia/(last visited May16, 2022).
33. TBS Report, OPENAI chief scientist says advanced AI may already be conscious, THE BUSINESS STANDARD, https://www.tbsnews.net/tech/openai-chief-scientist-says-advanced-ai-may-already-be-conscious-369724(last visited Mar 2, 2022).
34. THE MASSACHUSETTS GENERAL HOSPITAL LABORATORY OF COMPUTER SCIENCE, DXplain, www.mghlcs.org/projects/dxplain(last visited Mar 11, 2022).
35. United Nations, World Population Ageing Report(2019). https://www.un.org/en/global-issues/ageing(last visited Mar 1, 2022).
三、日文部分
(一) 專書:
1. 大磯 義一郎 山田 奈美恵 加治 一毅 医療法学入門 東京都:医学書院(2013).
2. 松田 晋哉 医療のなにが問題なのか : 超高齢社会日本の医療モデル 東京都:勁草書房(2013).
3. 畔柳 達雄 医療と法の交錯 : 医療倫理・医療紛争の解決 東京都:商事法務 (2012).
(二) 行政公報及法令:
1. 人間中心のAI社会原則会議,人間中心のAI社会原則(案),2019,頁1-16。
2. 厚生労働省,保健医療分野 AI 開発加速コンソーシアム 議論の整理と今後の方向性(令和元 年6月 28 日策定)を踏まえた工程表について,保健医療分野 AI 開発加速コンソーシアム 2 020 ,頁 7 。
3. 医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律 昭和三十五年法律第百四十五号 。
(三) 期刊
1. 久我 貴洋,「 AI 創作物」の著作権法上の保護,パテント 2019,Vol.72 No.8,201 9 年 8 月,p86-91 。
(四) 網路資料:
1. 公益財団法人医療機器センタ ( JAME),「プログラムの医療機器への該当性に関するガイドライン」が公表されました!,資料來源:https://www.jaame.or.jp/mdsi/program.2. 日本首相官邸,これまでの成長戦略について,日本経済再生本部 政策会議, https://www.kantei.go.jp/jp/singi/kei(最後瀏覽日期: 202 2 年 4 月 18 日)。