歐盟在 8 日針對人工智慧(AI)使用管理法規達成重要的臨時協議,其中包括針對政府使用 ChatGPT 等 AI 系統、AI 進行生物識別監控..等使用進行監管。
(前情提要:拜登簽署首份AI行政命令!加強監管「人工智慧」國安危險)
(背景補充:拜登怕 AI 危及國安!緊急召集微軟、Google、OpenAI 進白宮商談「人工智慧風險」)
歐盟當地時間 8 日針對人工智慧法案(Artificial Intelligence Act)達成臨時協議,使歐盟成為全球首個頒布 AI 法律的世界強權。據路透報導,歐盟各成員國和歐洲議會議員在前日經歷將近 24 小時辯論,又在隔日談判近 15 小時後,才終於達成這項協議。
各方將在接下來數天就法規細節展開討論,最終法規內容還可能有變數,且仍需尚待歐盟成員國和議會的正式批准。假如一切順利獲得批准,預計最快將於明年初生效,並應在兩年後實施。
這項協議要求:Chatgpt 、通用人工智慧系統等基礎模型在投放到市場前,需要遵守透明度義務,包括需要起草技術文件,遵守歐盟版權法,發布關於模型訓練內容的詳細摘要。
具有系統性風險的高影響基礎模型必須進行模型評估,包括需要估量和減輕系統性風險,進行對抗性測試,向歐盟執委會報告嚴重事件,確保網路安全,並報告其能源效率。
如果是有系統性風險的通用人工智慧系統 ,也可能需依照行為守則,來遵守新的規定。
另外關於 AI 即時生物辨識的應用,協議規定政府只能在公共場合發生對某些罪行,如恐怖攻擊,方可運用該技術搜索涉嫌犯下重罪的嫌疑犯,主要應用於防止真實、當下或可預見的威脅。
協議進一步補充,禁止適用該技術於認知行為操縱、使用社會評分和生物辨識分類系統,來推斷政治、宗教、哲學信仰、性取向和種族等行為
一旦有違反,消費者將有權提出投訴。針對違規行為,罰款可高達 750 萬歐元或公司營業額的 1.5% ,到 3500 萬歐元或公司全球營業額的 7% 之間。
目前,全球各國政府都試圖納管 AI,美國總統拜登在今年 10 月簽署首份關於 AI 技術的行政命令,旨在加強監管和推動 AI 技術的發展,以確保國家安全和社會的穩定,中國的「生成式人工智能服務管理暫行辦法」則在今年 8 月實施。
延伸閱讀:拜登簽署首份AI行政命令!加強監管「人工智慧」國安危險
相關報導
AI教父後悔了!警告:生成式AI可能「導致人類滅亡」
AI教父Geoffrey Hinton為何年過70,還化身新創公司的推手?
馬斯克「Grok」AI聊天機器人向美國 X Premium+ 訂閱戶開放,同名迷因幣一度飆漲20%
