“生成式AI應(yīng)用就像是海面上的冰山，安全地駕馭這項(xiàng)新技術(shù)，還需要關(guān)注海面下的冰川。”

亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞在“2023亞馬遜云科技re:Inforce中國(guó)站“上說(shuō)。

事實(shí)上，作為一家公有云市場(chǎng)上的開(kāi)拓者和絕對(duì)領(lǐng)導(dǎo)者，服務(wù)全球幾十萬(wàn)大中型用戶(hù)，保證其業(yè)務(wù)持續(xù)穩(wěn)定運(yùn)行，亞馬遜云科技應(yīng)對(duì)各類(lèi)安全威脅的策略和方案一直是值得研究的重要課題。

亞馬遜云科技很早就提出“洋蔥型“的安全防護(hù)模型，將安全防護(hù)分為多個(gè)層次，每個(gè)層次都有不同的安全策略和控制措施。

數(shù)據(jù)安全仍然是重中之重

亞馬遜云科技在大數(shù)據(jù)和人工智能領(lǐng)域有著多年的經(jīng)驗(yàn)，提供了一個(gè)全面的數(shù)據(jù)治理流程，可以貫穿生成式AI的整個(gè)生命周期。

從數(shù)據(jù)源的采集到智能湖倉(cāng)的數(shù)據(jù)分析和處理，再到將分析結(jié)果安全地傳送到AI平臺(tái)進(jìn)行訓(xùn)練、調(diào)優(yōu)和推理，整個(gè)鏈路上的數(shù)據(jù)分類(lèi)和治理都可以在亞馬遜云科技上得到完善的支持。

此外，亞馬遜云科技還提供了一系列的產(chǎn)品和工具，幫助企業(yè)更好地管理和分析數(shù)據(jù)，提高數(shù)據(jù)治理的效率和質(zhì)量。

當(dāng)企業(yè)使用大語(yǔ)言模型時(shí)，保護(hù)數(shù)據(jù)安全變得尤為重要。亞馬遜云科技提供了一系列的安全措施來(lái)確保數(shù)據(jù)在存儲(chǔ)、傳輸和使用過(guò)程中的安全性。

首先，對(duì)于存儲(chǔ)中的數(shù)據(jù)，亞馬遜云科技采用了加密技術(shù)來(lái)防止數(shù)據(jù)的泄露和篡改。

通過(guò)加密數(shù)據(jù)，可以確保只有授權(quán)的用戶(hù)能夠訪問(wèn)和使用數(shù)據(jù)。同時(shí)，亞馬遜云科技還提供了安全密鑰的證書(shū)管理，確保定期輪換密鑰，并嚴(yán)格控制訪問(wèn)權(quán)限。此外，通過(guò)自動(dòng)檢測(cè)意外的數(shù)據(jù)訪問(wèn)和對(duì)網(wǎng)絡(luò)通信進(jìn)行身份驗(yàn)證等措施，可以及時(shí)發(fā)現(xiàn)并阻止未經(jīng)授權(quán)的數(shù)據(jù)訪問(wèn)。

其次，在數(shù)據(jù)傳輸過(guò)程中，亞馬遜云科技也采取了一系列的安全措施。

例如，使用安全協(xié)議（如TLS 1.2）來(lái)加密數(shù)據(jù)的傳輸，確保數(shù)據(jù)在傳輸過(guò)程中的機(jī)密性和完整性。此外，通過(guò)虛擬化層的硬件加速和隔離運(yùn)算環(huán)境等技術(shù)手段，亞馬遜云科技進(jìn)一步增加了數(shù)據(jù)傳輸過(guò)程中的安全性。

另外，在使用數(shù)據(jù)的過(guò)程中，亞馬遜云科技也提供了一些解決方案來(lái)幫助用戶(hù)更好地管理和保護(hù)敏感數(shù)據(jù)。

例如，敏感數(shù)據(jù)保護(hù)解決方案可以自動(dòng)發(fā)現(xiàn)和識(shí)別存儲(chǔ)中的敏感數(shù)據(jù)，并通過(guò)人工智能技術(shù)發(fā)出告警，提醒用戶(hù)及時(shí)采取措施。這些解決方案可以幫助企業(yè)減少敏感數(shù)據(jù)泄露的風(fēng)險(xiǎn)，并確保合規(guī)性。

除了以上提到的功能，亞馬遜云科技還提供了基礎(chǔ)設(shè)施和服務(wù)來(lái)支持?jǐn)?shù)據(jù)的安全傳輸和處理。

跨區(qū)域之間的數(shù)據(jù)傳輸可以通過(guò)專(zhuān)門(mén)的網(wǎng)絡(luò)和連接來(lái)實(shí)現(xiàn)，保障了數(shù)據(jù)的可靠性和穩(wěn)定性。同時(shí)，VPC內(nèi)部和VPC之間的傳輸也受到保護(hù)，確保數(shù)據(jù)在不同環(huán)境中的安全。

此外，亞馬遜云科技的一些服務(wù)節(jié)點(diǎn)還支持VPN、專(zhuān)線和私有數(shù)據(jù)的加密傳輸，進(jìn)一步提高了數(shù)據(jù)傳輸?shù)陌踩浴?/p>

總之，亞馬遜云科技通過(guò)多層次的安全措施來(lái)保護(hù)企業(yè)在使用大語(yǔ)言模型時(shí)的數(shù)據(jù)安全。

從數(shù)據(jù)的存儲(chǔ)到傳輸和使用，都考慮了各種可能的安全威脅，并提供了相應(yīng)的解決方案。

這些安全措施不僅保障了數(shù)據(jù)的機(jī)密性和完整性，還提高了數(shù)據(jù)處理的效率和可靠性。通過(guò)采用亞馬遜云科技提供的安全措施和解決方案，企業(yè)可以更好地保護(hù)自身的數(shù)據(jù)資產(chǎn)，并專(zhuān)注于業(yè)務(wù)發(fā)展而無(wú)需過(guò)多擔(dān)心數(shù)據(jù)安全問(wèn)題。

訪問(wèn)控制策略與時(shí)俱進(jìn)保證模型安全

隨著大模型時(shí)代的到來(lái)，企業(yè)面臨著訪問(wèn)控制策略的復(fù)雜性和動(dòng)態(tài)性的挑戰(zhàn)。

傳統(tǒng)的靜態(tài)規(guī)則無(wú)法滿足需求，因?yàn)榇竽Ｐ偷纳山Y(jié)果具有不確定性和難以準(zhǔn)確把控的特點(diǎn)。

因此，訪問(wèn)控制策略需要定期進(jìn)行驗(yàn)證和調(diào)優(yōu)，以保持其與最新需求和技術(shù)發(fā)展保持一致。

為了解決這個(gè)問(wèn)題，亞馬遜云科技提供了Amazon Identity and Access Management（Amazon IAM）作為支撐服務(wù)。歷經(jīng)12年的發(fā)展，Amazon IAM已經(jīng)推出了許多相關(guān)服務(wù)，為各種訪問(wèn)控制需求提供了全面的支持。

用戶(hù)可以通過(guò)Amazon IAM 的API調(diào)用來(lái)設(shè)置、驗(yàn)證和管理訪問(wèn)控制策略，而每秒超過(guò)10億次的調(diào)用量證明了其在大規(guī)模場(chǎng)景下的強(qiáng)大性能和可靠性。

除了基本的權(quán)限控制外，監(jiān)控模型運(yùn)行也是至關(guān)重要的。

亞馬遜云科技的Amazon SageMaker提供了Amazon SageMaker Model Cards、Amazon SageMaker Model Registry和Amazon SageMaker Model Monitor等功能來(lái)幫助用戶(hù)集中管理模型信息和版本，確保模型的安全和高效運(yùn)行。

Amazon SageMaker Model Cards是存儲(chǔ)模型用途和元數(shù)據(jù)的工具，方便各個(gè)部門(mén)共享和使用數(shù)據(jù)進(jìn)行分析。這對(duì)于技術(shù)部門(mén)來(lái)說(shuō)已經(jīng)足夠重要，因?yàn)楝F(xiàn)在模型的使用已經(jīng)擴(kuò)展到了業(yè)務(wù)部門(mén)、合規(guī)部門(mén)和法務(wù)部門(mén)。通過(guò)Amazon SageMaker Model Cards，這些部門(mén)可以了解模型的具體用途，并共同判斷是否適合他們的業(yè)務(wù)需求。

Amazon SageMaker Model Registry是一個(gè)私有倉(cāng)庫(kù)，用于存儲(chǔ)和管理所有模型及其版本。這消除了傳統(tǒng)電子表格管理模型版本的問(wèn)題，大大提高了效率。現(xiàn)在，用戶(hù)可以方便地創(chuàng)建、部署和管理自己的模型版本，而無(wú)需擔(dān)心數(shù)據(jù)丟失或混亂。

Amazon SageMaker Model Monitor負(fù)責(zé)監(jiān)控模型的性能和安全性。在模型上線后，用戶(hù)需要了解其運(yùn)行狀態(tài)、基礎(chǔ)設(shè)施需求以及安全性。Amazon SageMaker Model Monitor提供了一個(gè)全面的界面，讓用戶(hù)能夠?qū)崟r(shí)監(jiān)測(cè)模型的運(yùn)行情況，并在出現(xiàn)問(wèn)題時(shí)及時(shí)采取措施解決。

為了進(jìn)一步簡(jiǎn)化大模型時(shí)代的工作并增強(qiáng)安全性，亞馬遜云科技推出了Amazon Bedrock。

Amazon Bedrock連接了大型模型API，使用戶(hù)能夠快速構(gòu)建和開(kāi)發(fā)應(yīng)用程序，而無(wú)需管理底層基礎(chǔ)設(shè)施。這大大減輕了用戶(hù)的負(fù)擔(dān)，同時(shí)保證了基礎(chǔ)設(shè)施的安全。

Amazon Bedrock還負(fù)責(zé)選擇合作伙伴模型，確保選擇合適的模型適用于特定場(chǎng)景。它與AI21 Labs、Anthropic、Stability AI等合作伙伴合作，為用戶(hù)提供了負(fù)責(zé)任的AI選項(xiàng)。用戶(hù)可以根據(jù)實(shí)際需求選擇適當(dāng)?shù)哪Ｐ停_保模型的準(zhǔn)確性和適用性。

最后，亞馬遜云科技承諾提供負(fù)責(zé)任的人工智能。它通過(guò)集成Amazon KMS、Amazon IAM等安全功能來(lái)管理加密、權(quán)限控制和日志記錄。

這確保了用戶(hù)的數(shù)據(jù)安全和隱私保護(hù)。同時(shí)，公司也致力于負(fù)責(zé)任的AI實(shí)踐，通過(guò)減少和消除有害內(nèi)容來(lái)支持技術(shù)的發(fā)展和應(yīng)用。

隨著大模型時(shí)代的到來(lái)，企業(yè)需要關(guān)注訪問(wèn)控制策略的動(dòng)態(tài)性和迭代性，同時(shí)確保模型的監(jiān)控、集中管理和版本控制。

亞馬遜云科技通過(guò)Amazon IAM、Amazon SageMaker、Amazon Bedrock和其他服務(wù)提供了解決方案，幫助用戶(hù)在安全高效地構(gòu)建和擴(kuò)展大模型應(yīng)用程序方面取得成功。

應(yīng)用安全是實(shí)現(xiàn)AI價(jià)值的保障

亞馬遜云科技在應(yīng)用安全方面提出了DevSecOps的概念，將安全防護(hù)貫穿于整個(gè)開(kāi)發(fā)生命周期。為了解決防護(hù)問(wèn)題，亞馬遜云科技推出了兩項(xiàng)新服務(wù)：Amazon CodeWhisperer和Amazon CodeGuru Security。

Amazon CodeWhisperer是一個(gè)基于AI的代碼自動(dòng)補(bǔ)全工具，它不僅能夠自動(dòng)補(bǔ)全代碼，還能檢查代碼中的漏洞。該工具可以識(shí)別開(kāi)源協(xié)議的限制和要求，并生成符合要求的代碼。

此外，它還能檢測(cè)原型代碼中可能存在的DDoS攻擊。最重要的是，Amazon CodeWhisperer對(duì)個(gè)人開(kāi)發(fā)者免費(fèi)開(kāi)放。

Amazon CodeGuru Security主要在CICD階段發(fā)揮作用，它可以掃描代碼并發(fā)現(xiàn)漏洞，包括調(diào)用包漏洞和其他邏輯漏洞。

通過(guò)人工智能和機(jī)器學(xué)習(xí)技術(shù)，它能夠降低誤報(bào)率，并方便地集成到開(kāi)發(fā)工作流中，實(shí)現(xiàn)集中化和擴(kuò)展性。這個(gè)服務(wù)能夠幫助團(tuán)隊(duì)在整個(gè)DevOps過(guò)程中保護(hù)應(yīng)用程序的安全。

除了開(kāi)發(fā)階段的安全防護(hù)，亞馬遜云科技還提供了Amazon Verified Access和Amazon Verified Permissions來(lái)管理訪問(wèn)應(yīng)用的權(quán)限。

前者可以在不需要VPN的情況下授權(quán)應(yīng)用程序，后者可以在應(yīng)用程序代碼中嵌入策略來(lái)控制訪問(wèn)權(quán)限。為了方便編寫(xiě)授權(quán)規(guī)則，亞馬遜云科技還發(fā)布了一個(gè)新的開(kāi)源語(yǔ)言CEDAR。

在網(wǎng)絡(luò)防護(hù)方面，亞馬遜云科技提供了Amazon Shield、Amazon WAF和Amazon Firewall Manager等服務(wù)來(lái)抵御DDoS攻擊和網(wǎng)頁(yè)防火墻的支持。這些服務(wù)每天處理大量的日志流量和托管規(guī)則請(qǐng)求，確保了高可用性和安全性。

對(duì)于大模型的應(yīng)用安全，亞馬遜云科技還引入了零信任和網(wǎng)絡(luò)控制的概念。它們不是互斥的關(guān)系，而是相互補(bǔ)充的機(jī)制。

亞馬遜云科技通過(guò)Amazon Verified Access實(shí)現(xiàn)了按需授權(quán)和認(rèn)證，同時(shí)結(jié)合網(wǎng)絡(luò)控制來(lái)實(shí)現(xiàn)端到端的應(yīng)用程序安全。

最后，亞馬遜云科技還推出了Amazon GuardDuty服務(wù)來(lái)識(shí)別威脅并采取早期防護(hù)措施。該服務(wù)使用基于人工智能和機(jī)器學(xué)習(xí)的技術(shù)，減少了50%的安全事件的誤報(bào)率。它可以檢測(cè)數(shù)據(jù)庫(kù)、容器平臺(tái)和無(wú)服務(wù)器環(huán)境等數(shù)據(jù)源中的安全威脅，并提供智能化的行動(dòng)建議。

結(jié) 語(yǔ)

亞馬遜云科技通過(guò)推出Amazon CodeWhisperer、Amazon CodeGuru Security、Amazon Verified Access、Amazon Verified Permissions、CEDAR、Amazon Shield、Amazon WAF、Amazon Firewall Manager和Amazon GuardDuty等服務(wù)和應(yīng)用工具，為開(kāi)發(fā)者和企業(yè)提供了全面的安全防護(hù)解決方案。

這些工具和服務(wù)能夠貫穿整個(gè)開(kāi)發(fā)生命周期，從代碼的開(kāi)發(fā)到投產(chǎn)、監(jiān)控以及整個(gè)反饋的過(guò)程中提供支持。

無(wú)論是個(gè)人開(kāi)發(fā)者還是企業(yè)用戶(hù)，都能夠受益于亞馬遜云科技提供的強(qiáng)大的安全防護(hù)能力。

一個(gè)層層遞進(jìn)的“洋蔥型”安全防護(hù)體系，可以確保企業(yè)的網(wǎng)絡(luò)、數(shù)據(jù)和應(yīng)用程得等俱多方面到全面保護(hù)。

從另外層面來(lái)看，已經(jīng)有超過(guò)130多個(gè)國(guó)家和地區(qū)制定和頒布了數(shù)據(jù)保護(hù)和隱私安全相關(guān)的法律法規(guī)，大模型運(yùn)用帶來(lái)的業(yè)務(wù)的變化給安全帶來(lái)的挑戰(zhàn)。

目前，亞馬遜云科技在全球已經(jīng)獲得了超過(guò)140個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證，除了更好地保護(hù)AI的應(yīng)用以外，亞馬遜云科技也在非常積極的利用人工智能的技術(shù)來(lái)提升自己的合規(guī)能力，從實(shí)踐出發(fā)，總結(jié)出經(jīng)驗(yàn)再惠及到所有用戶(hù)。

“從構(gòu)建開(kāi)始，需要把安全作為企業(yè)AI戰(zhàn)略發(fā)展中的核心環(huán)節(jié)。不能只是關(guān)注 AI 應(yīng)用本身，而是從一個(gè)全棧的角度，去全面審視 應(yīng)用、模型、數(shù)據(jù)、基礎(chǔ)架構(gòu)的安全規(guī)范、技術(shù)策略和平臺(tái)工具。”代聞表示。

一個(gè)能在云計(jì)算市場(chǎng)長(zhǎng)期領(lǐng)先的企業(yè)，一定是長(zhǎng)期不斷創(chuàng)新的結(jié)果。

亞馬遜云科技結(jié)合自身長(zhǎng)期實(shí)踐前沿探索，不斷重塑，對(duì)生成式AI應(yīng)用興起可能帶來(lái)的安全威脅提出了新的主張和解決方案。

生成式AI安全那些事兒，亞馬遜云科技早早看透了 ……