自chatgpt問世以來，人工智能行業(yè)高速發(fā)展，已成為當(dāng)前社會一大主流趨勢。然而，高速發(fā)展的新行業(yè)不可避免的帶來一些弊端，生成式人工智能帶來的風(fēng)險(xiǎn)也日益顯現(xiàn)。例如生成技術(shù)可能被用于制造虛假信息或進(jìn)行網(wǎng)絡(luò)攻擊，對網(wǎng)絡(luò)安全構(gòu)成威脅;生成內(nèi)容難以與真實(shí)內(nèi)容區(qū)分，可能誤導(dǎo)公眾;AI生成內(nèi)容可能觸及道德和倫理底線，如生成違法或不道德的內(nèi)容。其中與網(wǎng)民最息息相關(guān)的還是信息泄露問題，AI需要收集更多類型的用戶信息作為“養(yǎng)料”，增加了個人信息泄露的風(fēng)險(xiǎn)。

　　在此背景下，中國信息通信研究院(簡稱“中國信通院”)聯(lián)合抖音、百度、阿里巴巴、科大訊飛、合合信息等科技企業(yè)，共同參與了《生成式人工智能個人信息保護(hù)技術(shù)要求》系列標(biāo)準(zhǔn)(下稱“標(biāo)準(zhǔn)”)的編制。

　　經(jīng)過充分的研討，《生成式人工智能個人信息保護(hù)技術(shù)要求》系列標(biāo)準(zhǔn)覆蓋了生成式人工智能的設(shè)計(jì)、訓(xùn)練與應(yīng)用三個階段，主要圍繞總則、隱私聲明告知、訓(xùn)練數(shù)據(jù)構(gòu)建、模型規(guī)制控制、供應(yīng)鏈保障、二次開發(fā)管理、輸出階段管理、個人權(quán)利響應(yīng)，共計(jì)從八個方面提出個人信息保護(hù)指引。

　　從用戶角度看，標(biāo)準(zhǔn)的制定有利于保護(hù)個人合法權(quán)益;從企業(yè)發(fā)展角度看，標(biāo)準(zhǔn)為企業(yè)研發(fā)生成式人工智能降低了不確定性;從行業(yè)發(fā)展角度看，能為監(jiān)管機(jī)構(gòu)指導(dǎo)企業(yè)活動提供參考和依據(jù)，引導(dǎo)生成式AI行業(yè)健康發(fā)展。除此之外，標(biāo)準(zhǔn)也有利于企業(yè)積極承擔(dān)個人信息保護(hù)義務(wù)，為用戶提供更安全、更可靠的信息服務(wù)。

　　在數(shù)據(jù)安全和隱私保護(hù)方面，合合信息積極響應(yīng)號召，針對產(chǎn)品設(shè)計(jì)、運(yùn)營多個維度建立起了一套標(biāo)準(zhǔn)完善的體系、流程、控制措施和規(guī)范，獲得了多方認(rèn)可。合合信息曾榮獲上海市網(wǎng)信辦“2023年度網(wǎng)絡(luò)數(shù)據(jù)安全風(fēng)險(xiǎn)評估試點(diǎn)工作優(yōu)秀單位”稱號，旗下的掃描全能王、名片全能王、啟信寶等產(chǎn)品在中國網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟(CCIA)數(shù)據(jù)安全工作委員會個人信息保護(hù)影響評估專題工作(簡稱“PIA專題工作”)中榮獲“PIA二星級標(biāo)識”。

　　此外，合合信息還發(fā)布了AI圖像安全技術(shù)方案，包括AI圖像篡改檢測、生成式圖像鑒別等重點(diǎn)技術(shù)，可用于對抗惡意的圖像篡改、虛假生成圖片和非法個人信息的獲取。

　　科技向善不僅是一項(xiàng)理念，更是一個實(shí)踐過程。合合信息將始終堅(jiān)持擁抱創(chuàng)新，用技術(shù)的力量造福社會群眾，發(fā)現(xiàn)潛在風(fēng)險(xiǎn)，積極尋求行業(yè)共識和解決方案，讓人們在AI發(fā)展的高速列車上享受科技帶來的便利生活。