人工智能安全治理框架1.0-分析人工智能風(fēng)險(xiǎn)來(lái)源和表現(xiàn)形式，提出相應(yīng)技術(shù)應(yīng)對(duì)和綜合防治措施

《框架》以鼓勵(lì)人工智能創(chuàng)新發(fā)展為第一要?jiǎng)?wù)，以有效防范化解人工智能安全風(fēng)險(xiǎn)為出發(fā)點(diǎn)和落腳點(diǎn)，提出了包容審慎、確保安全，風(fēng)險(xiǎn)導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對(duì)，開(kāi)放合作、共治共享等人工智能安全治理的原則。《框架》按照風(fēng)險(xiǎn)管理的理念，緊密結(jié)合人工智能技術(shù)特性，分析人工智能風(fēng)險(xiǎn)來(lái)源和表現(xiàn)形式，針對(duì)模型算法安全、數(shù)據(jù)安全和系統(tǒng)安全等內(nèi)生安全風(fēng)險(xiǎn)和網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域、倫理域等應(yīng)用安全風(fēng)險(xiǎn)，提出相應(yīng)技術(shù)應(yīng)對(duì)和綜合防治措施，以及人工智能安全開(kāi)發(fā)應(yīng)用指引。

1.1 包容審慎、確保安全。鼓勵(lì)發(fā)展創(chuàng)新，對(duì)人工智能研發(fā)及應(yīng)用采取 包容態(tài)度。嚴(yán)守安全底線(xiàn)，對(duì)危害國(guó)家安全、社會(huì)公共利益、公眾合法權(quán)益的 風(fēng)險(xiǎn)及時(shí)采取措施。

1.2 風(fēng)險(xiǎn)導(dǎo)向、敏捷治理。密切跟蹤人工智能研發(fā)及應(yīng)用趨勢(shì)，從人工 智能技術(shù)自身、人工智能應(yīng)用兩方面分析梳理安全風(fēng)險(xiǎn)，提出針對(duì)性防范應(yīng)對(duì) 措施。關(guān)注安全風(fēng)險(xiǎn)發(fā)展變化，快速動(dòng)態(tài)精準(zhǔn)調(diào)整治理措施，持續(xù)優(yōu)化治理機(jī) 制和方式，對(duì)確需政府監(jiān)管事項(xiàng)及時(shí)予以響應(yīng)。

1.3 技管結(jié)合、協(xié)同應(yīng)對(duì)。面向人工智能研發(fā)應(yīng)用全過(guò)程，綜合運(yùn)用技術(shù)、 管理相結(jié)合的安全治理措施，防范應(yīng)對(duì)不同類(lèi)型安全風(fēng)險(xiǎn)。圍繞人工智能研發(fā) 應(yīng)用生態(tài)鏈，明確模型算法研發(fā)者、服務(wù)提供者、使用者等相關(guān)主體的安全責(zé) 任，有機(jī)發(fā)揮政府監(jiān)管、行業(yè)自律、社會(huì)監(jiān)督等治理機(jī)制作用。

1.4 開(kāi)放合作、共治共享。在全球范圍推動(dòng)人工智能安全治理國(guó)際合作， 共享最佳實(shí)踐，提倡建立開(kāi)放性平臺(tái)，通過(guò)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界 的對(duì)話(huà)和合作，推動(dòng)形成具有廣泛共識(shí)的全球人工智能治理體系。

附件：人工智能安全治理框架1.0-分析人工智能風(fēng)險(xiǎn)來(lái)源和表現(xiàn)形式，提出相應(yīng)技術(shù)應(yīng)對(duì)和綜合防治措施