生成式AI在各產業正如火如荼發展中，不只軟體業深入發展產業別應用及模型，也看見許多業者如研華、104人力銀行等拿出獎金在公司內舉辦AI競賽，催生企業內部創新，並串連生態系合作擴大影響力。儘管AI顯著提升工作效率、解決缺工問題並驅動產業前進發展，各國專家仍不斷呼籲需因應其所帶來的風險與挑戰。包括歐盟、美國、加拿大在內，越來越多國家陸續提出人工智慧法規，我國國科會在今年7月也公告《人工智慧基本法》草案，法案攸關各產業應用AI的原則，目前正搜集各界意見中。
不當使用AI事件層出不窮
自從ChatGPT大語言模型參數量大到一定程度並湧現出強大的學習與推理能力，各個領域不管是企業、學校、醫院到政府機關紛紛嘗試運用在營業活動中。AI儘管提升了各行各業工作效率，但不當使用AI的例子也層出不窮，包括論文或學生作業中用AI代勞、用AI生成的畫作參加比賽等造假事件、利用深偽技術合成照片或影片進行詐騙、敲詐名人，或製造選舉假消息。前陣子好萊塢知名女星Scarlett Johansson還公開指控Open AI的語音助理盜用她的聲音，Open AI雖然拿出證據否認，但為避免爭議仍然下架。
除此之外，企業在消費者不知情下使用個人資料進行分析或廣告，也涉及侵犯個人隱私。外媒還曾報導，某些企業招聘系統使用的AI，能藉由分析過去招聘時的資料篩選機制與模式來推薦面試人選，但由於資料集數據量不足，恐怕造成演算法產生偏見，會有種族、性別、膚色上的歧視產生。
數發部在AI基本法草案扮演重要角色
AI將對整體社會產生巨大影響，小到影響比賽的公平，大到侵害人權隱私或傷害民主。上述所列問題在共計18條的草案當中皆有涵蓋，尤其是第9至12條。而草案中也可見數位發展部將扮演關鍵角色，包括負責提供或建議評估驗證工具及方法，以及負責人工智慧風險分級框架，再接著由各目的事業主管機關以各自的業務權責分別辦理。
包括第9條提及「政府應避免人工智慧之應用，造成國民生命、身體、自由或財產安全、社會秩序、生態環境之損害，或出現利益衝突、偏差、歧視、廣告不實、資訊誤導或造假等問題而違反相關法規之情事。數位發展部及其他相關機關得提供或建議評估驗證之工具或方法，以利各目的事業主管機關辦理前項事項。」
第10條提及「數位發展部應參考國際標準或規範發展之人工智慧資訊安全保護、風險分級與管理，推動與國際介接之人工智慧風險分級框架。各目的事業主管機關得循前項風險分級框架，訂定其主管業務之風險分級規範。」
第12條提及「政府應依人工智慧風險分級，透過標準、驗證、檢測、標記、揭露、溯源或問責等機制，提升人工智慧應用可信任度，建立人工智慧應用條件、責任、救濟、補償或保險等相關規範，明確責任歸屬與歸責條件。人工智慧技術開發與研究，於應用前之任何活動，除應遵守第三條之基本原則外，不適用前項應用責任相關規範，以利技術創新發展。」
關於第9條所提及的評估驗證工具與方法，正是要防止AI用於造假舞弊必要的工具，在美國國家標準暨技術研究院（NIST）今年4月啟動了GenAI的評估前導計畫，其中一項目標就是要發展對於不同模態（文字、語音、圖片、影片等）內容真實性的偵測技術。
而在學術領域中能比對論文或作業原創性的檢查工具Turnitin，已在校園廣泛使用中，上傳文章後可在幾分鐘內計算出與文章有相似部分的百分比率，還能與教師使用的應用程式或學習管理系統整合，如Moodle、Canvas等。相信未來在各專業領域的檢查工具也將陸續上市。
《人工智慧基本法》與各行業息息相關，自即日起至9月13日草案預告截止期間，關心人工智慧發展的人都能上公共政策網路參與平台陳述意見。
- 首圖來源：Depositphotos
