重磅通知
Amazon FSx for Lustre及Amazon FSx for Windows File Server現已在由光環(huán)新網運營的Amazon Web Services(AWS)中國(北京)區(qū)域和西云數據運營的AWS中國(寧夏)區(qū)域推出。
Amazon FSx for Lustre
Amazon FSx for Lustre是一項完全托管的高性能文件存儲服務,可為計算密集型工作負載提供經濟高效的高性能存儲。機器學習、高性能計算(HPC)、電子設計自動化(EDA),生命科學,自動駕駛和視頻渲染等許多工作負載都需要高性能共享存儲來實現快速的數據處理和分析。
Amazon FSx for Lustre可提供亞毫秒級延遲、高達每秒數百GB的吞吐量和百萬級的IOPS。它提供了多種部署選項以及包括機械硬盤和固態(tài)硬盤的存儲類型,可以根據您的工作負載需求優(yōu)化成本和性能。
Amazon FSx for Lustre文件系統也可以鏈接到Amazon Simple Storage Service(Amazon S3)存儲桶,使您可以同時從高性能文件系統和S3 API快速訪問和處理數據。
Amazon FSx for Windows File Server
Amazon FSx for Windows File Server提供了完全托管、高度可靠且可擴展的文件存儲,可通過行業(yè)標準的SMB協議進行訪問。它在Windows Server上構建,提供了用戶配額、用戶文件備份和恢復,以及Microsoft Active Directory(AD)集成等眾多管理功能。
Amazon FSx for Windows File Server提供單可用區(qū)和多可用區(qū)部署選項、完全托管的備份功能,支持數據加密。您可以針對工作負載選擇使用SSD和HDD存儲選項需求優(yōu)化成本和性能,并且可以隨時擴展存儲和更改文件系統的吞吐量性能。您可通過部署在AWS上的Windows、Linux和MacOS計算實例或本地機房運行的設備訪問Amazon FSx文件存儲。
Amazon FSx for Lustre
產品優(yōu)勢
高性能和可擴展
Amazon FSx for Lustre提供的性能可以滿足各種高性能作負載的要求。Lustre文件系統針對數據處理進行了優(yōu)化,提供亞毫秒級延遲,和可擴展至每秒數百GB的吞吐量。只需單擊幾下,即可實現數以萬計的計算實例同時訪問高性能共享存儲。
與對象存儲Amazon S3高度集成
Amazon FSx for Lustre使您可以輕松地在Amazon S3中處理數據集。當鏈接到Amazon S3存儲桶時,Amazon FSx for Lustre以透明方式將對象顯示為文件,從而使您可以運行工作負載,而無需花費時間和精力管理來自Amazon S3的數據傳輸。隨著Amazon S3存儲桶中內容的變化,Amazon FSx for Lustre會自動更新文件系統,提供最新數據來運行工作負載。
經濟高效
Amazon FSx for Lustre提供了多種存儲選項,以優(yōu)化價格和性能。固態(tài)硬盤(SSD)存儲針對延遲敏感型工作負載進行了優(yōu)化。機械硬盤(HDD)存儲針對以吞吐量為中心的工作負載進行了優(yōu)化。您還可以選擇多種部署模式,以進一步降低數據處理的成本。
簡單且完全托管
Amazon FSx for Lustre讓您可以輕松在云中啟動和運行高性能的Lustre文件系統。您無需擔心硬件預配置和維護、軟件安裝、補丁更新,備份管理,以及復雜的文件系統性能優(yōu)化等問題。只需幾分鐘,您就可以使用AWS管理控制臺、AWS Command Line Interface(AWS CLI)或AWS開發(fā)工具包創(chuàng)建并啟動Amazon FSx for Lustre文件系統。
全面兼容各類Linux工作負載
Amazon FSx for Lustre兼容POSIX標準,因此您可以使用當前基于Linux的應用程序訪問高性能存儲,無需進行任何更改。Amazon FSx for Lustre提供原生文件系統接口,支持文件鎖定,保證數據一致性。您可以從Amazon EC2實例、Amazon Elastic Kubernetes Service(Amazon EKS)集群訪問您的文件系統,也可通過AWS Direct Connect或AWS VPN從本地數據中心訪問文件系統。
安全合規(guī)
Amazon FSx for Lustre支持數據加密,符合PCI-DSS、ISO和SOC標準以及HIPAA的規(guī)定,保證您的數據存放安全合規(guī)。您也可以通過POSIX權限或Amazon Virtual Private Cloud(VPC)安全組規(guī)則來管理訪問控制。
News
Amazon FSx for Lustre使用場景
·機器學習
機器學習通常需要多個計算實例同時訪問大批量訓練數據,Amazon FSx for Lustre提供處理機器學習數據集訓練所需的共享文件存儲,具有高吞吐量、高一致性和低延遲的特點,是機器學習工作負載的極佳選擇。Amazon FSx for Lustre與Amazon SageMaker集成,讓您可以加速機器學習訓練。
·高性能計算
高性能計算(HPC)讓科學家和工程師們能夠解決復雜的計算密集型問題。HPC工作負載需要處理大量數據,如仿真建模,生命科學等,這些數據需要由具有高吞吐量的多個計算實例同時訪問和處理。Amazon FSx for Lustre提供面向高性能工作負載和成本優(yōu)化的文件系統,能支持數以千計的Amazon EC2實例訪問,是HPC和科學計算工作負載的理想選擇。Amazon FSx for Lustre與AWS ParallelCluster和AWS Batch集成,讓您可以輕松處理HPC工作負載。
·媒體制作和轉碼
視頻渲染、視覺效果和媒體制作等媒體數據處理工作需要使用計算和存儲資源來處理大量數據。Amazon FSx for Lustre可以實現處理、分發(fā)和分析大量媒體文件所需的高性能和低延遲。
·自動駕駛訓練
自動駕駛汽車系統通過對大量汽車傳感器和攝像頭數據進行仿真和訓練來測試模型,以確保汽車駕駛安全。借助Amazon FSx for Lustre,您可以實現數以千計的高性能節(jié)點同時訪問訓練數據,讓您更輕松地大規(guī)模運行自動駕駛模擬訓練。
·大數據分析
大數據分析項目需要處理海量數據,需要高性能存儲才能支持數據密集型應用程序。處理不斷增長的數據可能成本極高、十分復雜。Amazon FSx for Lustre可以大規(guī)模處理海量數據,同時提供多種高性能和成本優(yōu)化的部署模式,可以讓您的組織更高效地完成數據分析作業(yè)并發(fā)現數據價值。
·電子設計自動化
電子設計自動化(EDA)是一種高性能應用程序,用于在芯片設計階段模擬性能和故障。Amazon FSx for Lustre提供的性能和靈活性使您能夠更快地創(chuàng)新、設計和驗證新產品,并根據需要進行擴展。
快速上手Amazon FSx for Lustre
登入Amazon FSx控制臺,選擇創(chuàng)建文件系統,啟動文件系統創(chuàng)建向導。
可以按需選擇需要的硬盤類型SSD和HDD,設置吞吐量和存儲容量。
選擇要與文件系統關聯的VPC和安全組;
選擇用于在您的文件系統上對靜態(tài)中的數據進行加密;
選擇從Amazon S3導入數據并導出數據(可選);
配置Amazon FSx for Lustre的備份維護窗口;
查看創(chuàng)建文件系統摘要并創(chuàng)建文件系統;
在您的實例上安裝和配置Lustre客戶端。這里我們使用Amazon Linux 2作為客戶端。
在客戶端上打開終端。通過運行以下命令,確定當前在計算實例上運行的內核。
uname-r
命令返回4.14.104-95.84.amzn2.x86_64基于x86的Amazon EC2實例,或4.14.181-142.260.amzn2.aarch64基于Graviton2的Amazon EC2實例,或更高,請使用以下命令下載并安裝Lustre客戶端。
sudo amazon-linux-extras install-y lustre2.10
將Amazon FSx for Lustre文件系統掛載到您所創(chuàng)建的目錄中。使用以下命令并替換以下內容:
更換file_system_dns_name使用實際文件系統的域名系統(DNS)名稱。
更換mountname使用文件系統的掛載名稱,您可以通過運行describe-file-systems AWS CLI命令或文件系統API操作。
sudo mount-t lustre-o noatime,flock file_system_dns_name tcp:/mountname/mnt/fsx
使用以下命令,通過列出您掛載文件系統/mnt/fsx的目錄內容,驗證掛載命令是否成功;
通過以上簡單的步驟我們即可以創(chuàng)建一個完全托管的,高度可靠且可擴展的Lustre文件系統。
Amazon FSx for
Windows File Server優(yōu)勢
基于Windows Server構建而成
Amazon FSx for Windows File Server是構建在Windows Server的完全托管文件存儲服務,提供了豐富的管理功能,其中包括最終用戶文件恢復、用戶配額和訪問控制列表(ACL)等?;赪indows Server對SMB協議的源生支持,Amazon FSx for Windows File Server與Windows應用程序完全兼容。Linux和MacOS操作系統也可以通過SMB協議訪問Amazon FSx for Windows File Server共享文件存儲。
簡單且完全托管
您不再需要花費時間和精力設置和管理文件服務器,存儲卷、復制數據、安裝軟件更新和補丁、管理故障轉移和故障恢復以及手動執(zhí)行備份等工作。您可以通過AWS管理控制臺、AWS CLI或AWS開發(fā)工具包在幾分鐘之內輕松地創(chuàng)建單個可用區(qū)或跨多個可用區(qū)的完全托管共享文件系統。Amazon FSx for Windows File Server還提供自動持久性備份服務。
云上低成本的SMB文件存儲
使用Amazon FSx for Windows File Server,您可以獲得高可用、持久性的文件存儲,根據業(yè)務需求的不同,可以選擇HDD或者SSD存儲介質。同時借助于數據去重功能,您可以通過冗余數據消重技術來進一步優(yōu)化成本。您可以隨時提高文件系統存儲和擴展吞吐容量,從而輕松應對不斷變化的業(yè)務需求,沒有預置成本或許可證費用。
高性能和靈活部署
Amazon FSx for Windows File Server提供多種存儲選項,讓您可以選擇適合您的文件系統的吞吐量水平并可以隨時對它進行更改。通過使用DFS Namespaces,您可以擴展至每秒數十GB的帶寬、百萬級IOPS以及數百PB數據的處理性能。
安全與合規(guī)
Amazon FSx for Windows File Server可提供多級別的安全和合規(guī)來確保您的數據安全。支持數據加密,符合ISO、PCI-DSS、SOC認證,以及HIPAA標準。通過AWS CloudTrail日志您可以追蹤到用戶在文件系統中中所采取的所有操作記錄。為了控制用戶訪問,Amazon FSx for Windows File Server可以與您的本地Microsoft Active Directory(AD)或者AWS Microsoft Managed AD集成。
多操作系統支持
通過標準的SMB協議,Amazon FSx for Windows File Server可為Amazon EC2、VMware Cloud on AWS、Amazon WorkSpaces和Amazon AppStream 2.0實例提供共享文件存儲服務。Amazon FSx for Windows File Server支持所有的Windows版本包括Windows Server 2008和Windows 7,以及當前的Linux和MacOS版本。客戶本地機房的設備也可以通過AWS Direct Connect或AWS VPN等服務訪問Amazon FSx for Windows File Server。
Amazon FSx for
Windows File Server使用場景
·用戶主目錄
很多公司在實際使用中會構建組織的主目錄或者共享目錄,這些組織通常需要向成千上萬的用戶共享常用數據集。您可以使用Amazon FSx for Windows File Server創(chuàng)建可以被成千上萬用戶訪問的文件系統,并可以實現文件或文件夾級別的權限訪問控制。
·Windows應用程序遷移
許多基于Windows系統的業(yè)務關鍵型應用程序和工作負載,例如ERP、CRM等都需要通過SMB協議訪問基于Windows的共享文件系統。Amazon FSx for Windows File Server基于Windows Server構建而成,可提供應用程序所需的全面兼容Windows功能和性能的文件存儲服務,同時支持Microsoft AD集成和自動備份等多種功能,您可以輕松地將基于文件存儲的應用程序遷移至AWS。
·高可用的Microsoft SQL Server部署
Amazon FSx for Windows File Server作為全托管的文件系統,支持多可用區(qū)部署,可為運行關鍵業(yè)務的Microsoft SQL Server數據庫提供高可用和持久性的共享文件存儲。Amazon FSx for Windows File Server可以自動處理數據復制和故障轉移,從而簡化數據庫部署所需的共享存儲管理并能夠有效降低成本。
·媒體工作流
媒體轉碼、處理和流媒體等工作流通常依賴于性能一致的共享文件存儲。Amazon FSx for Windows File Server可為這些應用程序和工作負載提供高吞吐、低延遲共享文件系統。
·Web服務和內容管理
企業(yè)內容管理和Web服務應用程序如Microsoft Internet Information Services(IIS)和WordPress等需要存儲和處理文件,多個Web或內容服務器通常需要訪問同一文件,都需要使用共享文件存儲。Amazon FSx for Windows File Server可為這些工作負載提供成千上萬個實例同時訪問的共享文件存儲。
·數據分析業(yè)務
數據分析應用程序使用來自多種數據源的大量數據,且通常需要成千上萬的計算實例訪問和分析數據。Amazon FSx for Windows File Server可支持運行數據密集型分析工作負載,包括商業(yè)智能和數據可視化應用程序,為這些工作負載提供高吞吐、低延遲的可擴展文件系統。
快速上手Amazon FSx for
Windows File Server
·網絡環(huán)境準備
VPC CIDR:10.100.0.0/16
Subnet1:10.100.0.0/24
Subnet2:10.100.1.0/24
配置安全組以允許Windows實例通過SMB協議訪問文件系統;
·目錄服務
當用戶創(chuàng)建文件系統時,您可以將Amazon FSx for Windows File Server加入到Microsoft Active Directory域以提供用戶身份驗證以及實現文件和文件夾級別的訪問控制。Amazon FSx for Windows File Server支持兩種類型的Active Directory:Directory Service中的AWS Managed Microsoft AD或者用戶自建的AD。在這里我們使用托管的AWS Managed Microsoft AD作為目錄類型,我們預先在Directory Service中創(chuàng)建好Managed Microsoft AD,關于目錄的創(chuàng)建步驟可以參考下方文檔。
·創(chuàng)建文件系統
1.登陸AWS控制臺并切換到FSx服務,點擊創(chuàng)建文件系統并選擇Amazon FSx for Windows File Server,點擊Next。
2.在文件系統詳細配置頁面,輸入文件系統名稱、可用區(qū)部署模式、存儲類型、存儲容量和吞吐能力,在此次測試中我們選擇多單可用區(qū)部署模式,200G SSD類型存儲并使用默認吞吐量。
3.在網絡與安全配置選項中我們選擇之前創(chuàng)建的VPC,安全組和文件系統所在的子網。
4.在Windows Authentication配置選項中我們選擇之前創(chuàng)建的AWS Managed AD,用戶也可以根據自己的實際情況選擇用戶自己管理的AD。加密選項中我們選擇默認的KMS密鑰來對文件系統進行加密。
5.點擊下一步會出現Summary頁面,繼續(xù)點擊頁面右下角創(chuàng)建文件系統進行文件系統的創(chuàng)建。
6.切換到Amazon FSx服務頁面我們可以看到系統系統正在創(chuàng)建,等待幾分鐘待文件系統創(chuàng)建完畢后我們可以點擊文件系統名稱查看文件系統的相關信息,如下圖所示,記錄文件系統的DNS名稱,后續(xù)連接文件系統中會用到此地址。
·準備Windows實例并連接Amazon FSx for Windows File Server文件系統
1.創(chuàng)建一臺Windows實例,并加入我們之前創(chuàng)建的AD域,關于加域的方式可以使用手動或者無縫加域的方式來完成。
2.通過RDP的方式遠程連接到此Windows實例,打開File Explorer,右鍵點擊This PC,在彈出的菜單中選擇Map network drive…
3.在配置窗口中我們輸入之前創(chuàng)建的文件系統的DNS名稱,格式如下圖所示,點擊Finish即可完成文件系統的映射,掛載成功后用戶即可以創(chuàng)建文件。
通過以上簡單的步驟我們即可以創(chuàng)建一個完全托管的,高度可靠且可擴展的文件系統,如果您想體驗更多高級的功能,快登錄AWS管理控制臺吧