09/09/2024 17:55
《AI熱潮》《AI安全治理框架》發布,分四板塊提供技術指引
《經濟通通訊社9日專訊》全國網絡安全標準化技術委員會今日正式發布《人工智能安全治理框架》(以下簡稱《框架》)1﹒0版。 《框架》主要分為4個板塊,包括人工智能安全治理原則、安全風險、技術應對與綜合治理措施、安全開發應用指引。 第一板塊是治理原則,闡述了人工智能安全治理的理念和原則,提出了「包容審慎、確保安全,風險導向、敏捷治理,技管結合、協同應對,開放合作、共治共享」等原則。 第二板塊對人工智能可能面臨的安全風險進行了梳理和歸類,包括內生安全風險和應用安全風險。內生安全風險包括偏見歧視、訓練數據被投「毒」等風險;應用安全風險包括用於違法犯罪活動,加劇「信息繭房」等風險。 第三板塊針對不同類型的安全風險,從技術、管理兩方面提出防範應對措施,包括安全開發運維、輸出內容標識、安全防護機制、最終用途追溯等技術手段。 第四板塊提出人工智能安全開發應用指引,明確人工智能模型算法研發者、服務提供者、重點領域使用者和社會公眾等不同主體,分別提出人工智能安全指引規範。 據了解,《框架》為促進人工智能健康發展和規範應用,提供了基礎性、框架性技術指南,推動各方就人工智能安全治理達成共識,促進人工智能安全有序發展。(jq)