西班牙新法案：未標註AI生成內容將面臨巨額罰款

西班牙政府近期通過了一項新法案，旨在對未正確標註的人工智能（AI）生成內容的公司處以高額罰款，以打擊“深度偽造” 現象。

數字化轉型部長奧斯卡・洛佩斯（Oscar Lopez）在新聞發布會上表示，此項法案參考了歐盟的《人工智能法案》，規定了對被認為是高風險的人工智能係統實施嚴格的透明度要求。

洛佩斯指出，人工智能在提升生活質量的同時，也可能被用來傳播錯誤信息、攻擊民主，具有潛在的風險。他強調，任何人都有可能成為“深度偽造” 攻擊的受害者，這種攻擊是通過人工智能技術編輯或生成視頻、照片和音頻，偽裝成真實內容，從而誤導公眾。

根據新法案，未對AI 生成內容進行適當標註的行為將被視為“嚴重違法”，最高可處以3500萬歐元（約合3820萬美元）的罰款，或者罰款額度將根據公司的全球年營業額的7% 計算。此外，該法案還將禁止一些操控行為，例如使用潛意識技術去影響弱勢群體。洛佩斯提到，聊天機器人可能會鼓勵有賭博傾向的人賭博，而某些玩具則可能引導兒童參與危險的活動。

法案還規定，禁止機構利用人工智能通過生物識別數據來對個人進行分類或評級，從而影響他們獲得社會福利或評估犯罪風險的可能性。不過，基於國家安全考慮，公共場所仍可使用實時生物識別監控。

新規的實施將由新設立的人工智能監管機構AESIA 負責，但涉及數據隱私、犯罪、選舉、信用評級、保險及資本市場的特定情況將由相關監管機構負責管理。該法案仍需下議院的批准才能正式生效，西班牙將成為首批執行這一系列規定的歐盟國家之一。