人工智能破新局 恒昌以AI構(gòu)建“可信安全”

近年來(lái)，隨著人工智能相關(guān)技術(shù)的持續(xù)演進(jìn)，人工智能已融入人類(lèi)生活的方方面面，產(chǎn)業(yè)化深度融合，商業(yè)化進(jìn)程不斷加快，成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)、重要驅(qū)動(dòng)力量，但同時(shí)也對(duì)人工智能賦能過(guò)程中產(chǎn)生的“可信安全”風(fēng)險(xiǎn)提出了挑戰(zhàn)。

對(duì)于具有高度數(shù)據(jù)化特點(diǎn)的金融行業(yè)而言，伴隨著高質(zhì)量的大數(shù)據(jù)積累，得益于在深度學(xué)習(xí)算法上的突破，“AI+金融”加速落地，催生了金融行業(yè)一系列產(chǎn)品和業(yè)務(wù)模式的創(chuàng)新。與此同時(shí)，不斷出臺(tái)的政策為人工智能在金融領(lǐng)域的應(yīng)用提供了良好的發(fā)展環(huán)境。人工智能與金融業(yè)務(wù)的深度融合，已經(jīng)成為推動(dòng)金融機(jī)構(gòu)數(shù)智化轉(zhuǎn)型的新引擎和防范化解金融風(fēng)險(xiǎn)的新利器。

但是，人工智能在推動(dòng)金融服務(wù)走向主動(dòng)化、個(gè)性化、智慧化發(fā)展的同時(shí)，所帶來(lái)的風(fēng)險(xiǎn)與挑戰(zhàn)也已引發(fā)廣泛關(guān)注。首先，人工智能存在泄漏敏感數(shù)據(jù)的可能。人工智能的應(yīng)用建立在大量數(shù)據(jù)分析的基礎(chǔ)之上，然而數(shù)據(jù)的流通過(guò)程涉及到多個(gè)方面，包括應(yīng)用方、提供方和個(gè)人用戶(hù)，使用過(guò)程中會(huì)涉及同行間、跨行業(yè)、個(gè)人和機(jī)構(gòu)以及機(jī)構(gòu)內(nèi)部的數(shù)據(jù)整合等各方，使得人工智能存在泄漏敏感數(shù)據(jù)的可能，因而人工智能可靠性難以得到足夠的信任。其次，人工智能傳統(tǒng)技術(shù)范式存在天然的算法漏洞和缺陷，技術(shù)風(fēng)險(xiǎn)也在持續(xù)放大。如深度學(xué)習(xí)模型存在脆弱和易受攻擊的缺陷，黑箱模型因算法不透明容易引發(fā)不確定性風(fēng)險(xiǎn)，此外算法產(chǎn)生的結(jié)果過(guò)度依賴(lài)訓(xùn)練數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)中存在偏見(jiàn)歧視，就會(huì)導(dǎo)致不公平的智能決策產(chǎn)生。

因此，中國(guó)信息通信研究院近日發(fā)布的《人工智能白皮書(shū)（2022 年）》中就指出，“可信安全”逐漸成為人工智能賦能過(guò)程中不可或缺的保障。人工智能的“可信安全”最早由學(xué)術(shù)界提出，近年來(lái)圍繞著安全性、穩(wěn)定性、可解釋性、隱私保護(hù)、公平性等方面的可信人工智能研究持續(xù)升溫。具體到金融行業(yè)，2021年3月26日，人民銀行發(fā)布并實(shí)施《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》，作為一部由人民銀行提出，全國(guó)金融標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口的文件，其也規(guī)定了人工智能算法在金融領(lǐng)域應(yīng)用的基本要求、評(píng)價(jià)方法和判定標(biāo)準(zhǔn)，適用于開(kāi)展人工智能算法金融應(yīng)用的金融機(jī)構(gòu)、算法提供商及第三方安全評(píng)估機(jī)構(gòu)等。

人工智能可信安全是人工智能大規(guī)模應(yīng)用的前提和必備條件。對(duì)于金融行業(yè)而言，風(fēng)險(xiǎn)控制是金融業(yè)最核心的能力和挑戰(zhàn)，可信安全尤為突出。一直以來(lái)，數(shù)據(jù)、算法、算力是人工智能的三駕馬車(chē)。對(duì)于金融行業(yè)而言，以數(shù)據(jù)安全支持智慧決策，用算法安全賦能感官感知，數(shù)據(jù)安全、算法安全顯得尤為重要。為此，作為金融科技企業(yè)之一，恒昌通過(guò)打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴(lài)帶來(lái)的隱私泄漏等隱患，同時(shí)提升算法可靠性。

在數(shù)據(jù)安全領(lǐng)域，經(jīng)過(guò)多年的科技創(chuàng)新及實(shí)踐積累，恒昌已從不同維度建立了完善的數(shù)據(jù)安全防護(hù)體系。技術(shù)層面，恒昌嚴(yán)格采用符合業(yè)界標(biāo)準(zhǔn)的安全防護(hù)措施，以匿名化、密碼學(xué)、權(quán)限控制、加密存儲(chǔ)、數(shù)據(jù)脫敏等業(yè)內(nèi)通行的安全技術(shù)來(lái)防止客戶(hù)個(gè)人信息泄露、損壞或丟失。制度層面，恒昌通過(guò)建立數(shù)據(jù)分類(lèi)分級(jí)、數(shù)據(jù)安全策略、安全開(kāi)發(fā)規(guī)范，制定和實(shí)施相應(yīng)的管理制度等方式來(lái)保護(hù)客戶(hù)個(gè)人隱私，保障信息安全。安全事件管控方面，恒昌組建了專(zhuān)門(mén)的應(yīng)急響應(yīng)團(tuán)隊(duì)。一旦發(fā)生安全事件，會(huì)立即啟動(dòng)安全預(yù)案，實(shí)施處置并報(bào)送信息，最大程度進(jìn)行止損、分析、定位、補(bǔ)救，聯(lián)合相關(guān)部門(mén)進(jìn)行溯源和打擊。

在算法安全領(lǐng)域，人工智能系統(tǒng)面臨病毒攻擊、對(duì)抗攻擊等特有攻擊，這加大了安全性方面的挑戰(zhàn)。目前，人工智能系統(tǒng)穩(wěn)定性技術(shù)重點(diǎn)逐步從數(shù)字域擴(kuò)展到物理域。以人臉識(shí)別算法模型為例，刷臉支付與驗(yàn)證常態(tài)下，人臉識(shí)別算法被廣泛應(yīng)用，但技術(shù)和算法風(fēng)險(xiǎn)所帶來(lái)的諸如換臉，或以干擾圖案破解身份驗(yàn)證等問(wèn)題也隨之出現(xiàn)，給金融行業(yè)反欺詐帶來(lái)挑戰(zhàn)。為此，針對(duì)人工智能在刷臉支付與驗(yàn)證等的實(shí)際應(yīng)用中，因算法缺陷出現(xiàn)的突出風(fēng)險(xiǎn)問(wèn)題，恒昌積極調(diào)整與落地安全解決方案。例如，針對(duì)模型安全性進(jìn)行加固，針對(duì)人臉偽造問(wèn)題，建立深度偽造內(nèi)容檢測(cè)平臺(tái)，快速、精準(zhǔn)對(duì)多種格式與質(zhì)量的圖像與視頻進(jìn)行真?zhèn)舞b別。

當(dāng)下，金融機(jī)構(gòu)數(shù)智化轉(zhuǎn)型正在如火如荼地進(jìn)行，人工智能作為數(shù)智化轉(zhuǎn)型的重要手段之一，因其可構(gòu)建涵蓋智能投顧、智能營(yíng)銷(xiāo)、智能風(fēng)控、智能客服等全流程的智能金融服務(wù)模式，正在成為加速金融數(shù)智化轉(zhuǎn)型、重塑金融業(yè)務(wù)的關(guān)鍵力量。然而“AI+金融”加速落地之下，金融服務(wù)更加便捷化、智能化的同時(shí)，也為金融科技安全賦予了全新的內(nèi)容，對(duì)金融科技安全提出了新的挑戰(zhàn)。

目前，發(fā)展“可信安全”人工智能已經(jīng)成為全球共識(shí)。作為金融科技企業(yè)之一，恒昌圍繞“隱私數(shù)據(jù)安全、算法模型安全”兩大核心能力初步構(gòu)建人工智能“可信安全”能力。未來(lái)，恒昌將通過(guò)“安全可信”人工智能技術(shù)的研究和突破，提升AI生產(chǎn)部署的“安全可信”支撐能力，增強(qiáng)多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟(jì)社會(huì)提供更高效率、更低成本、更低門(mén)檻的高質(zhì)量可持續(xù)服務(wù)。