Thiết kế mạng SAN iSCSI 25GbE và FC 32G cho cụm ảo hoá: MPIO, VLAN
Tác giả
Nguyen Huu Cuong
Ngày đăng

Khi triển khai cụm máy chủ ảo hoá kết nối tủ đĩa lưu trữ dùng chung qua mạng SAN iSCSI 25GbE hoặc Fibre Channel (FC) 32Gb, thiết kế chuẩn bắt buộc phải tách hai nhánh vật lý độc lập hoàn toàn từ cặp card mạng/HBA trên mỗi máy chủ, đi qua hai switch SAN riêng biệt (Fabric A và Fabric B thuộc hai VLAN và hai lớp mạng IP khác nhau) rồi đấu chéo vào cả hai bộ điều khiển Dual-Active của tủ SAN. Trên tầng hệ điều hành ảo hoá (VMware ESXi hoặc Windows Server Hyper-V), quản trị viên tuyệt đối không dùng gộp cổng LACP cho lưu lượng iSCSI mà phải cấu hình đa đường MPIO (Multipath I/O) theo thuật toán Round Robin kết hợp ALUA, đồng thời bật đồng bộ khung tin lớn Jumbo Frame (MTU 9000) và điều khiển luồng Flow Control / PFC xuyên suốt từ cổng máy chủ, cổng switch cho tới cổng Host của tủ SAN.
Hiểu nhanh bằng hình

Vì sao cụm ảo hoá đầu tư tủ SAN đắt tiền vẫn bị treo máy ảo hoặc rớt LUN lúc nửa đêm?
Trong kiến trúc ảo hoá 3 lớp (máy chủ tính toán, mạng chuyển mạch SAN và tủ đĩa lưu trữ tập trung), toàn bộ ổ đĩa ảo của hệ thống ERP, cơ sở dữ liệu SQL/Oracle, phần mềm điều hành sản xuất MES và máy chủ tệp đều nằm trên các phân vùng dùng chung (Cluster Shared Volumes - CSV trên Hyper-V hoặc VMFS Datastore trên VMware vSphere). Mạng lưu trữ SAN chính là mạch máu nối giữa CPU/RAM của máy chủ và các khay ổ cứng SSD/SAS bên trong tủ đĩa.
Đi xử lý sự cố thực tế tại nhiều nhà máy sản xuất và doanh nghiệp vừa, anh em kỹ thuật NTCOM nhận thấy không ít hệ thống dù đã mua máy chủ 2 socket đời mới như Dell PowerEdge R760xs, Dell PowerEdge R760 cùng tủ SAN 2 bộ điều khiển như Dell PowerVault ME5224 hay Infortrend EonStor GS 3012R3 nhưng vẫn gặp cảnh máy ảo bị khựng I/O hoặc mất kết nối ổ đĩa khi có sự cố phần cứng. Nguyên nhân hầu hết nằm ở bốn lỗi thiết kế mạng lưu trữ dưới đây:
- Cắm chung một switch hoặc nối cáp Trunk gộp chung hai nhánh SAN: Một số đơn vị tận dụng cặp switch mạng LAN có sẵn, gom toàn bộ cổng iSCSI của máy chủ và tủ SAN vào chung một VLAN hoặc kéo dây Trunk nối thông hai VLAN lưu trữ giữa hai switch. Khi một switch bị treo phần mềm, khởi động lại để nâng cấp firmware hoặc phát sinh bão gói tin (Broadcast Storm), cả hai đường truyền lưu trữ sập cùng lúc làm toàn bộ máy ảo mất ổ đĩa cứng tức thì.
- Dùng LACP (NIC Teaming) cho cổng iSCSI thay vì MPIO: Theo thói quen cấu hình mạng LAN, nhiều quản trị viên bó 2 cổng 25GbE trên máy chủ thành một nhóm LACP (IEEE 802.3ad) rồi đặt một địa chỉ IP duy nhất để nối vào tủ SAN. Thực tế, thuật toán băm (Hash) của LACP giữ cố định một phiên kết nối TCP trên một sợi cáp vật lý duy nhất, khiến lưu lượng đọc ghi từ một máy chủ vào một IP cổng SAN không bao giờ vượt quá băng thông của 1 cổng đơn lẻ, đồng thời thời gian hội tụ lại khi đứt cáp của LACP chậm hơn nhiều so với cơ chế đa đường MPIO ở tầng khối (Block-level).
- Đấu thẳng (không đấu chéo) giữa Switch và 2 bộ điều khiển SAN: Tủ SAN có 2 bộ điều khiển hoạt động song song (Controller A và Controller B), nhưng khi đi cáp người lắp lại cắm toàn bộ cổng của Controller A vào Switch A và toàn bộ cổng của Controller B vào Switch B. Nếu Switch A mất nguồn, máy chủ mất sạch đường đi trực tiếp vào Controller A; mọi lệnh đọc ghi các Volume đang do Controller A nắm quyền sở hữu buộc phải vòng sang Controller B hoặc phải chuyển quyền sở hữu LUN (LUN Trespass / Failover), gây khựng hệ thống trong nhiều giây.
- Bật Jumbo Frame (MTU 9000) lệch pha giữa máy chủ, switch và tủ SAN: Có nơi bật MTU 9000 trên card mạng 25GbE của máy chủ và trên cổng iSCSI của tủ SAN, nhưng lại quên nâng giới hạn khung Jumbo trên các cổng switch trung gian (vẫn để mặc định 1500 bytes). Ban ngày chạy các truy vấn SQL nhỏ vài trăm byte thì hệ thống vẫn thông, nhưng đúng 23 giờ đêm khi phần mềm sao lưu hoặc tác vụ Live Migration đẩy các khối dữ liệu lớn 8 KB - 64 KB làm khung Ethernet vọt lên 9000 bytes, switch lập tức huỷ gói tin (Drop), gây lỗi
iSCSI session timeouthàng loạt.

Chọn iSCSI 25GbE hay Fibre Channel 32Gb cho cụm ảo hoá doanh nghiệp?
Các dòng tủ lưu trữ SAN chuyên dụng hiện nay như Dell PowerVault ME5224 (2U 24 khay 2.5 inch), Dell PowerVault ME5212 (2U 12 khay 3.5 inch) và dòng lưu trữ hợp nhất Infortrend EonStor GS 3012R3 (2U 12 khay), Infortrend EonStor GS 4016R3 (3U 16 khay) đều hỗ trợ tuỳ chọn cổng giao tiếp Host chuẩn iSCSI 25GbE (SFP28) và Fibre Channel 32Gb.
Theo tài liệu kỹ thuật PowerVault ME52xx Specification Sheet của Dell Technologies, mỗi tủ ME5224 hoặc ME5212 trang bị 2 bộ điều khiển cắm nóng Dual-Active (CPU Intel Xeon, tổng bộ nhớ 24 GB gồm 8 GB hệ thống mỗi controller và 16 GB Cache), cung cấp tối đa 8 cổng FC 32Gb (tự động đàm phán lùi về 16Gb FC), hoặc 8 cổng iSCSI 25Gb SFP+/SFP28, hoặc 8 cổng iSCSI 10GBASE-T trên mỗi mảng (4 cổng trên mỗi bộ điều khiển). Trong khi đó, theo Product Data Sheet của Infortrend, mẫu EonStor GS 3012R3 và GS 4016R3 tích hợp sẵn 4 cổng 25GbE SFP28 onboard (2 cổng mỗi controller) kèm 4 khe Host Board mở rộng, cho phép nâng tổng số cổng lên tới 16 cổng FC 16Gb/32Gb hoặc 20 cổng 25GbE SFP28 (hỗ trợ cả iSCSI truyền thống lẫn iSCSI qua RDMA - iSER).
Tiêu chí kỹ thuật | Mạng lưu trữ IP SAN iSCSI 25GbE (SFP28) | Mạng lưu trữ Fibre Channel (FC) 32Gb |
|---|---|---|
Giao thức truyền tải & Đóng gói | Đóng gói lệnh SCSI vào gói tin TCP/IP chạy trên nền Ethernet 25GbE (cổng TCP 3260) hoặc iSER (RDMA) | Giao thức Fibre Channel chuyên dụng tầng 2 cho lưu trữ khối (Block-level), tách rời hoàn toàn khỏi ngăn xếp TCP/IP |
Cổng Host trên tủ SAN tiêu biểu | Dell PowerVault ME5224 / ME5212: 8x 25GbE SFP28 (4 cổng/controller); Infortrend GS 3012R3: 4x 25GbE tích hợp + mở rộng tới 20x 25GbE SFP28 | Dell PowerVault ME5224 / ME5212: 8x FC 32Gb (hỗ trợ auto-negotiate 16Gb FC); Infortrend GS 3012R3 / 4016R3: mở rộng tới 16x FC 32Gb/16Gb |
Thiết bị chuyển mạch (SAN Switch) | Switch Ethernet Data Center tốc độ 10G/25G/100G có bộ đệm lớn, hỗ trợ Jumbo Frame 10K và Flow Control / PFC (như PLANET DCS-7342-24X6C) | Switch SAN Fibre Channel 32Gb chuyên dụng (2 switch tạo thành Fabric A và Fabric B độc lập, cấp phép theo số cổng kích hoạt) |
Card giao tiếp trên máy chủ (R760 / R760xs) | Card mạng Ethernet 25GbE SFP28 chuẩn OCP 3.0 kết hợp card PCIe 25GbE SFP28 (dùng cáp DAC Twinax trong cùng tủ hoặc module quang SFP28 SR) | 2 card Fibre Channel HBA 32Gb khe cắm PCIe (mỗi card 2 cổng quang 32Gb FC SFP+ kết nối qua cáp quang Multimode OM4 LC-LC) |
Cơ chế chống mất gói & Phân vùng | Dùng IEEE 802.3x Pause Frame / Priority Flow Control (PFC), chia tách bằng VLAN 802.1Q và danh sách kiểm soát truy cập IQN (iSCSI Qualified Name) | Điều khiển luồng phần cứng bằng tín dụng bộ đệm (Buffer-to-Buffer Credits - BB_Credit), phân vùng phần cứng theo WWPN (Single-Initiator Zoning) |
Bối cảnh lựa chọn thực tế tại Việt Nam | Phù hợp cho cụm 2 đến 8 máy chủ muốn đồng nhất hạ tầng Ethernet 25GbE cho cả SAN, Live Migration/vMotion và sao lưu, dễ quản trị với đội ngũ IT sẵn có | Phù hợp cho hệ thống ngân hàng, tài chính, bệnh viện hoặc nhà máy chạy cơ sở dữ liệu giao dịch cường độ cao cần cách ly vật lý 100% mạng lưu trữ |
3 nguyên tắc thiết kế mạng lưu trữ SAN không điểm lỗi đơn (Zero Single Point of Failure)
Dù doanh nghiệp chọn iSCSI 25GbE hay Fibre Channel 32Gb, để cụm ảo hoá (như 3 hoặc 4 node máy chủ đã tính toán tài nguyên tại bài gom 10 máy chủ vật lý lên cụm ảo hoá 3 node) vận hành liên tục khi đứt cáp, hỏng card mạng, tắt nguồn 1 switch hay rút nóng 1 bộ điều khiển SAN, anh em kỹ thuật chúng tôi luôn tuân thủ ba nguyên tắc thiết kế dưới đây.
1. Nguyên tắc 1: Tách 2 miền lỗi vật lý (Dual-Fabric / Dual-Subnet A-B) và đấu chéo Controller
Mạng lưu trữ SAN không được thiết kế theo mô hình gộp chung một mạng lớn mà phải tách thành hai đường ray độc lập hoàn toàn (Path A và Path B) từ đầu máy chủ đến đuôi tủ đĩa:
- Dự phòng cấp độ card trên từng máy chủ (Adapter-level Redundancy): Trên máy chủ Dell PowerEdge R760xs hoặc Dell PowerEdge R760 (cấu hình khởi động hệ điều hành bằng cụm ổ
BOSS-N1chạy RAID 1 trên 2 ổ M.2 NVMe tách biệt với ổ dữ liệu), chúng tôi không lấy 2 cổng trên cùng một chiếc card mạng duy nhất để làm HA. Thay vào đó, mỗi máy chủ trang bị 1 card mạng 25GbE khe OCP 3.0 và 1 card mạng 25GbE khe PCIe Gen4/Gen5 (hoặc 2 card FC HBA 32Gb trên 2 khe PCIe khác nhau). Khi đấu cáp,Cổng 1 của Card 1đi vàoSwitch SAN A, cònCổng 1 của Card 2đi vàoSwitch SAN B. Nếu muốn tăng gấp đôi băng thông lưu trữ trên mỗi máy chủ,Cổng 2 của Card 1sẽ đi vàoSwitch SAN BvàCổng 2 của Card 2đi vàoSwitch SAN A. Nhờ vậy, dù cháy hỏng cả một chiếc card vật lý trên khe PCIe, máy chủ vẫn còn nguyên đường xuống cả hai switch. - Hai VLAN và hai lớp mạng IP không định tuyến (với iSCSI 25GbE): Trên
Switch SAN A, chúng tôi tạo riêngVLAN 101sử dụng dải địa chỉ172.16.101.0/24. TrênSwitch SAN B, tạo riêngVLAN 102sử dụng dải địa chỉ172.16.102.0/24. Hai VLAN này không đặt địa chỉ Default Gateway, không bật định tuyến Layer 3 và tuyệt đối không nối cáp Trunk truyền VLAN 101/102 giữa hai switch. Mọi gói tin lưu trữ chỉ đi thẳng một chặng (Single-hop Layer 2) từ máy chủ qua một switch vào thẳng cổng Controller của tủ SAN. - Đấu chéo 2 bộ điều khiển Dual-Active của tủ SAN: Trên tủ Dell PowerVault ME5224 hoặc Dell PowerVault ME5212 (có 4 cổng Host từ Port 0 đến Port 3 trên mỗi Controller A và B), quy tắc cắm cáp chuẩn là: các cổng chẵn (
Port 0vàPort 2) của cả Controller A lẫn Controller B cắm vàoSwitch SAN A (VLAN 101 / Fabric A); các cổng lẻ (Port 1vàPort 3) của cả Controller A lẫn Controller B cắm vàoSwitch SAN B (VLAN 102 / Fabric B). Cách đấu chéo này đảm bảo dù tắt nguồn hoàn toànSwitch SAN A, mọi máy chủ trong cụm vẫn nhìn thấy trực tiếp cả Controller A lẫn Controller B thông quaSwitch SAN Bmà không cần chuyển quyền sở hữu Volume.
2. Nguyên tắc 2: Cấu hình đa đường MPIO Round Robin với ALUA (Không dùng LACP cho iSCSI)
Sau khi đấu cáp theo ma trận đấu chéo trên, mỗi máy chủ ảo hoá sẽ nhìn thấy mỗi Volume (LUN) trên tủ SAN thông qua 8 đường vật lý (8 Paths): 4 đường đi qua Controller đang nắm quyền sở hữu Volume đó và 4 đường đi qua Controller đối diện.
- Cơ chế ALUA (Asymmetric Logical Unit Access): Cả dòng Dell PowerVault ME5 và Infortrend EonStor GS đều vận hành theo kiến trúc Dual-Active hỗ trợ chuẩn ALUA. Giả sử
Volume_ERPđược gán quyền sở hữu chính choController A, thì 4 đường kết nối từ máy chủ vào các cổng của Controller A sẽ mang trạng thái Active/Optimized (AO - Đường ưu tiên trực tiếp), còn 4 đường kết nối vào Controller B sẽ mang trạng thái Active/Unoptimized (AU - Đường dự phòng chờ sẵn). Ngược lại,Volume_Databasegán choController Bsẽ lấy 4 đường vào Controller B làmActive/Optimized. - Chính sách MPIO Round Robin và tinh chỉnh IOPS Limit: Khi bật tính năng Multipath I/O (MPIO) trên Windows Server Hyper-V hoặc Native Multipathing Plugin (NMP) / High Performance Plugin (HPP) trên VMware ESXi với chính sách Round Robin, hệ điều hành sẽ tự động nhận diện ALUA để chỉ rải đều các luồng đọc/ghi lên 4 đường
Active/Optimized, nhân tổng thông lượng thực tế lên gấp nhiều lần một cổng đơn lẻ. Nếu một đường đứt cáp, MPIO tự động dồn tải sang các đường còn lại trong vài giây mà ứng dụng không hề hay biết. Đặc biệt trên VMware ESXi, mặc định hệ thống gửi đủ 1000 lệnh I/O trên một đường rồi mới chuyển sang đường tiếp theo; anh em kỹ thuật chúng tôi luôn hạ thông sốIOPS limittừ1000xuống1để mọi gói I/O được phân bổ tức thời trên tất cả các cổng 25GbE / 32G FC. - Quy tắc Single-Initiator Zoning trên mạng Fibre Channel 32Gb: Với mạng FC 32Gb, thay vì dùng VLAN và Subnet IP, quản trị viên cấu hình phân vùng (Zoning) trên từng switch FC theo địa chỉ WWPN (World Wide Port Name) theo nguyên tắc Single-Initiator Multiple-Target: mỗi vùng (Zone) chỉ chứa duy nhất 1 cổng HBA của 1 máy chủ cùng các cổng FC trên Controller A và Controller B cắm vào switch đó. Cách làm này ngăn chặn hoàn toàn hiện tượng các card HBA của nhiều máy chủ gửi thông báo trạng thái RSCN (Registered State Change Notification) làm phiền lẫn nhau khi một máy chủ khởi động lại.
3. Nguyên tắc 3: Đồng bộ Jumbo Frame (MTU 9000) và điều khiển luồng Lossless Ethernet
Đối với mạng iSCSI 25GbE, để đạt hiệu suất tiệm cận mạng Fibre Channel và giải phóng tải xử lý ngắt (CPU Interrupt) cho máy chủ ảo hoá, toàn bộ đường truyền phải được cấu hình truyền khung tin lớn không rớt gói:
- Đồng bộ MTU 9000 toàn tuyến (End-to-End Jumbo Frame): Một khung Ethernet tiêu chuẩn chỉ chở được 1500 bytes dữ liệu, nghĩa là để ghi một khối dữ liệu lưu trữ 64 KB xuống tủ SAN, máy chủ phải cắt nhỏ thành 45 gói tin. Khi bật Jumbo Frame (MTU 9000), mỗi khung Ethernet chở được 9000 bytes (giảm số lượng gói tin xuống chỉ còn 8 gói cho mỗi khối 64 KB). Điều kiện bắt buộc là MTU phải đồng bộ ở cả 3 chặng: trên card mạng máy chủ và cổng ảo
VMkernel / Host vNICđặtMTU = 9000(trên Windows Server giá trị thuộc tínhJumboPacketcủa driver bao gồm cả 14 bytes Ethernet Header nên chọn9014); trên cổng Host iSCSI của tủ SAN đặtMTU = 9000; và trên switch chuyển mạch đặt mức trần lớn hơn hoặc bằng9216 bytes(như switch PLANET DCS-7342-24X6C hỗ trợ khung Jumbo tới 10K bytes / 10.240 bytes). - Bật Flow Control (IEEE 802.3x) / Priority Flow Control (PFC) và bộ đệm phần cứng: Lưu lượng lưu trữ SAN có đặc thù dồn cục bộ (Micro-burst) khi nhiều máy chủ cùng ghi xuống một cổng đích trên tủ SAN. Switch dùng cho mạng iSCSI bắt buộc phải có kiến trúc không nghẽn (như PLANET DCS-7342-24X6C đạt băng thông 1,7 Tbps non-blocking, thông lượng 600 Mpps và bộ đệm dữ liệu dùng chung 24 MB Shared Data Buffer), đồng thời bật IEEE 802.3x Pause Frame (hoặc Priority Flow Control - PFC khi chạy iSER/RoCEv2), bật
Spanning Tree PortFast / Edgevà tắt tính năngUnicast Storm Controltrên toàn bộ các cổng nối máy chủ và tủ SAN.
Thành phần trong cụm | Nhánh lưu trữ SAN A (Fabric A / Subnet A) | Nhánh lưu trữ SAN B (Fabric B / Subnet B) | Cấu hình chuẩn tại hiện trường |
|---|---|---|---|
Switch chuyển mạch SAN | Switch SAN A (VLAN 101 cho iSCSI hoặc FC Switch A) | Switch SAN B (VLAN 102 cho iSCSI hoặc FC Switch B) | 2 switch vật lý độc lập, cắm 2 lộ nguồn PDU A/B (như bài nâng cấp lên trung tâm dữ liệu nhỏ); không trunk VLAN iSCSI giữa 2 switch |
Tủ SAN Controller A (ME5224 / GS 3012R3) |
|
| Đấu chéo sang cả 2 switch; bật Jumbo Frame MTU 9000; gán quyền sở hữu (Preferred Owner) các LUN lẻ (LUN 1, LUN 3) |
Tủ SAN Controller B (ME5224 / GS 3012R3) |
|
| Đấu chéo sang cả 2 switch; bật Jumbo Frame MTU 9000; gán quyền sở hữu (Preferred Owner) các LUN chẵn (LUN 2, LUN 4) |
Máy chủ Node 1 (Dell PowerEdge R760xs) |
|
| Không gộp LACP; bật MPIO Round Robin ALUA; tắt đăng ký DNS trên cổng iSCSI; kiểm thông MTU 9000 bằng gói 8972 bytes |
Máy chủ Node 2 & Node 3 (Dell PowerEdge R760xs) |
|
| Mỗi máy chủ có 4 đường Active/Optimized + 4 đường Active/Unoptimized tới từng LUN; hỗ trợ Live Migration / vMotion tức thì |
Kịch bản lệnh thực tế: cấu hình MPIO Round Robin và kiểm chứng Jumbo Frame 9000 trên cụm ảo hoá
Để tránh sai sót khi cấu hình bằng tay trên từng máy chủ, anh em kỹ thuật NTCOM thường sử dụng kịch bản PowerShell dưới đây trên các máy chủ Windows Server Hyper-V (kết nối tủ Dell PowerVault ME5224 hoặc Infortrend EonStor GS 3012R3) nhằm kích hoạt MPIO, đặt chính sách cân bằng tải Round Robin, cấu hình IP tách 2 Subnet cho cặp cổng 25GbE, bật Jumbo Packet 9014 và kiểm tra thực tế bằng lệnh ping -f -l 8972 (8972 bytes dữ liệu + 8 bytes ICMP header + 20 bytes IP header = đúng 9000 bytes):
# 1. Cai dat tinh nang Multipath I/O (MPIO) va tu dong nhan dien thiet bi iSCSI / SASEnable-WindowsOptionalFeature -Online -FeatureName MultiPathIO -NoRestartEnable-MSDSMAutomaticClaim -BusType iSCSIEnable-MSDSMAutomaticClaim -BusType SAS# Dang ky Hardware ID cua tu SAN Dell PowerVault ME5 (Vendor 8 ky tu + Product 16 ky tu)New-MSDSMSupportedHW -VendorId "DellEMC " -ProductId "ME5 "# Đặt chính sách đa đường mặc định là Round Robin (RR) cho các đường Active/Optimized (ALUA)Set-MSDSMGlobalDefaultLoadBalancePolicy -Policy RRSet-MPIOSetting -NewPathRecoveryInterval 10 -UseCustomPathRecoveryInterval "Enabled" -NewPDORemovePeriod 20# 2. Cau hinh 2 cong 25GbE (1 cong tren card OCP 3.0, 1 cong tren card PCIe) cho SAN A va SAN B# Tuyet doi khong tao NIC Teaming / LACP; tat dang ky DNS tren cong luu tru$NicSanA = "SAN-A-OCP-Slot1-Port1"$NicSanB = "SAN-B-PCIe-Slot2-Port1"Set-NetAdapterAdvancedProperty -Name $NicSanA, $NicSanB -RegistryKeyword "*JumboPacket" -RegistryValue 9014Set-NetAdapterAdvancedProperty -Name $NicSanA, $NicSanB -RegistryKeyword "*FlowControl" -RegistryValue 3New-NetIPAddress -InterfaceAlias $NicSanA -IPAddress 172.16.101.21 -PrefixLength 24New-NetIPAddress -InterfaceAlias $NicSanB -IPAddress 172.16.102.21 -PrefixLength 24Set-DnsClient -InterfaceAlias $NicSanA, $NicSanB -RegisterThisConnectionsAddress $false# 3. Kiem chung Jumbo Frame 9000 toan tuyen (Co -f khong cho phan manh, goi 8972 bytes)ping.exe -f -l 8972 -S 172.16.101.21 172.16.101.10ping.exe -f -l 8972 -S 172.16.102.21 172.16.102.12# 4. Tao phien ket noi iSCSI da duong (MultipathEnabled = True) toi ca Controller A va BNew-IscsiTargetPortal -TargetPortalAddress 172.16.101.10 -InitiatorPortalAddress 172.16.101.21New-IscsiTargetPortal -TargetPortalAddress 172.16.102.12 -InitiatorPortalAddress 172.16.102.21Get-IscsiTarget | Connect-IscsiTarget -IsMultipathEnabled $true -IsPersistent $truempclaim.exe -s -d
Nếu cụm ảo hoá chạy nền tảng VMware vSphere (ESXi), anh em quản trị kiểm tra khung Jumbo bằng lệnh vmkping -I vmk1 -d -s 8972 172.16.101.10 và đặt quy tắc chuyển đường ngay sau mỗi 1 IOPS (IOPS limit = 1) cho các ổ đĩa tủ SAN bằng lệnh esxcli storage nmp satp rule add -s "VMW_SATP_ALUA" -V "DellEMC" -M "ME5" -P "VMW_PSP_RR" -O "iops=1".
Case study: Xử lý lỗi nghẽn I/O và rớt ổ đĩa CSV lúc sao lưu đêm tại nhà máy điện tử ở Bắc Ninh
Tháng 8 năm 2026, anh em kỹ thuật NTCOM được mời rà soát và khắc phục sự cố mạng lưu trữ cho một nhà máy sản xuất linh kiện điện tử tại KCN VSIP Bắc Ninh (các thông số địa chỉ IP và dung lượng dưới đây là ví dụ thực tế từ hiện trường đã được làm tròn để minh hoạ).
Hiện trạng và sự cố: Nhà máy đầu tư cụm 3 máy chủ Dell PowerEdge R760xs (mỗi máy lắp 2 CPU Xeon Gold, 512 GB RAM DDR5, card mạng 25GbE) kết nối về tủ SAN Dell PowerVault ME5224 gắn 16 ổ SSD đọc ghi hỗn hợp để chạy hệ thống điều hành sản xuất MES, cơ sở dữ liệu SQL Server và phần mềm kế toán ERP. Tuy phần cứng rất mạnh nhưng hệ thống gặp hai bệnh mãn tính suốt 3 tháng:
- Cứ đến 23 giờ đêm khi phần mềm sao lưu bắt đầu chụp ảnh nhanh (Snapshot) và đọc toàn bộ máy ảo (như kịch bản đã phân tích ở bài cụm máy chủ sẵn sàng cao HA: quorum, mạng, diễn tập), độ trễ ổ đĩa (Disk Latency) trên SQL Server vọt từ 2 ms lên 18 ms - 25 ms, làm dây chuyền ca đêm bị treo màn hình quét mã vạch.
- Tháng trước, khi kỹ thuật viên nhà máy khởi động lại 1 chiếc switch để bảo trì định kỳ, toàn bộ 3 máy chủ Hyper-V báo mất kết nối ổ đĩa dùng chung
CSV (Cluster Shared Volume)trong hơn 40 giây, khiến 12 máy ảo sản xuất bị dừng đột ngột.
Nguyên nhân khi NTCOM kiểm tra hiện trường:
- Đơn vị lắp đặt ban đầu đã cấu hình NIC Teaming (LACP) gộp 2 cổng 25GbE của mỗi máy chủ R760xs thành 1 card mạng ảo duy nhất mang 1 địa chỉ IP trên
VLAN 100, và nối cáp Trunk thông VLAN 100 giữa hai chiếc switch. Toàn bộ phiên kết nối iSCSI từ máy chủ xuống tủ ME5224 chỉ đi trên 1 sợi cáp duy nhất, không hề kích hoạt tính năngMultipath I/O (MPIO)trong Windows Server. - Trên tủ SAN ME5224, toàn bộ cáp của
Controller Acắm cả vào Switch 1, cònController Bcắm cả vào Switch 2. Khi Switch 1 khởi động lại, toàn bộ các Volume do Controller A sở hữu bị mất đường truy cập, buộc tủ SAN phải chuyển quyền sở hữu (Failover) toàn bộ LUN sang Controller B trong lúc LACP đang hội tụ lại. - Card mạng máy chủ đã bật
Jumbo Packet 9014nhưng cổng trên switch vẫn đểMTU 1500mặc định, dẫn tới việc mỗi đêm khi sao lưu khối lớn thì gói tin bị phân mảnh và truyền lại (TCP Retransmission) liên tục.
Cách xử lý của anh em kỹ thuật NTCOM trong ca bảo trì Chủ nhật:
- Phá bỏ LACP, tách 2 nhánh Subnet/VLAN độc lập và đấu chéo cáp: Chúng tôi gỡ bỏ nhóm NIC Teaming trên các cổng lưu trữ, chia lại trên cặp switch trung tâm dữ liệu thành
VLAN 101 (172.16.101.0/24)trên Switch A vàVLAN 102 (172.16.102.0/24)trên Switch B, cắt bỏ VLAN lưu trữ khỏi đường cáp Trunk giữa 2 switch. Phía sau tủ Dell PowerVault ME5224, chúng tôi đi lại cáp quang SFP28 theo đúng chuẩn đấu chéo:Port 0, 2của cả Controller A và B vào Switch A;Port 1, 3của cả Controller A và B vào Switch B. - Bật MPIO Round Robin ALUA và đồng bộ MTU 9000 + Flow Control: Cài đặt
MultiPathIOtrên cả 3 máy chủ R760xs, nhận diện mảngDellEMC ME5với chính sáchRound Robin(mỗi LUN hiện đủ 8 đường: 4 Active/Optimized và 4 Active/Unoptimized). Đồng thời bật Jumbo Frame (10K bytes) và IEEE 802.3x Flow Control trên toàn bộ cổng switch, kiểm tra thông suốt bằng lệnhping -f -l 8972.
Kết quả: Độ trễ đọc/ghi trên phân vùng CSV chứa cơ sở dữ liệu SQL Server và MES giảm từ 18 ms xuống chỉ còn 0,4 ms - 0,6 ms ngay cả trong khung giờ sao lưu 23 giờ đêm; thời gian chạy bản sao lưu toàn phần rút ngắn từ 3 giờ 15 phút xuống còn 42 phút. Trong bài kiểm tra nghiệm thu trước mặt ban giám đốc nhà máy, khi kỹ sư rút thẳng dây nguồn của Switch SAN A trong lúc máy ảo đang chạy tải nặng, MPIO tự động dồn 100% I/O sang Switch SAN B tức thì, không rớt một gói ping nào của dây chuyền sản xuất.
Cách ghi yêu cầu mạng lưu trữ SAN trong hồ sơ mời thầu (HSMT) và nghiệm thu
1. Cách ghi yêu cầu kỹ thuật trong HSMT
- Kiến trúc tủ lưu trữ SAN và số cổng Host: Tủ lưu trữ SAN mức khối (Dell PowerVault ME5224, Dell PowerVault ME5212) hoặc lưu trữ hợp nhất (Infortrend EonStor GS 3012R3, GS 4016R3) trang bị 2 bộ điều khiển hoạt động song song (Dual-Active / Dual Redundant Controllers), bộ nhớ đệm được bảo vệ an toàn khi mất điện, trang bị tối thiểu 8 cổng Host iSCSI 25GbE SFP28 hoặc 8 cổng Fibre Channel 32Gb trên mỗi tủ (4 cổng mỗi bộ điều khiển).
- Card giao tiếp trên máy chủ ảo hoá: Mỗi máy chủ ảo hoá (Dell PowerEdge R760xs, Dell PowerEdge R760) phải trang bị tối thiểu 2 card giao tiếp vật lý độc lập dành cho mạng lưu trữ (1 card OCP 3.0 25GbE 2 cổng + 1 card PCIe 25GbE 2 cổng, hoặc 2 card PCIe Fibre Channel HBA 32Gb 2 cổng) để loại bỏ điểm lỗi đơn trên khe cắm bo mạch chủ; ổ khởi động hệ điều hành dùng cụm
BOSS-N1(RAID 1 phần cứng với 2 ổ M.2 NVMe) tách rời khỏi khoang ổ dữ liệu. - Thiết bị chuyển mạch SAN (Switch SAN): Gồm 2 switch vật lý độc lập tạo thành 2 miền lỗi tách biệt (Fabric A và Fabric B), mỗi switch có 2 bộ nguồn dự phòng thay nóng (Hot-swappable Dual Power Supplies). Nếu dùng mạng IP SAN iSCSI 10G/25G, switch (như PLANET DCS-7342-24X6C) phải đạt kiến trúc chuyển mạch không nghẽn (Non-blocking), bộ đệm dữ liệu dùng chung tối thiểu 24 MB, hỗ trợ khung Jumbo Frame tối thiểu 9216 bytes (10K bytes), điều khiển luồng IEEE 802.3x Pause Frame và Priority Flow Control (PFC).
2. Các bài kiểm tra nghiệm thu thực tế (ATP)
- Kiểm tra số đường đa đường (Multipath Verification): Chạy lệnh
mpclaim -s -d <DiskID>trên Windows Server hoặc kiểm tra tabPathstrên VMware vCenter: mỗi Volume (LUN) phải hiển thị đủ số đườngActive/Optimized(qua Controller sở hữu) vàActive/Unoptimized(qua Controller còn lại) theo chuẩn ALUA, chính sách cân bằng tải làRound Robin. - Kiểm tra Jumbo Frame 9000 không phân mảnh: Chạy lệnh
ping -f -l 8972(hoặcvmkping -d -s 8972) từ từng cổng lưu trữ của mọi máy chủ tới từng địa chỉ IP cổng Host trên cả 2 Controller của tủ SAN, kết quả trả về 0% mất gói. - Diễn tập ngắt nguồn Switch SAN và rút Controller khi đang có tải I/O: Trong lúc máy ảo đang chạy công cụ tạo tải đọc/ghi liên tục (DiskSpd / Iometer), lần lượt ngắt nguồn hoàn toàn
Switch SAN Atrong 10 phút, sau đó cấp điện lại và chuyển đổi quyền sở hữu Volume giữaController AvàController B. Hệ thống đạt yêu cầu khi ổ đĩa dùng chung (CSV/VMFS) luôn trực tuyến và máy ảo không bị gián đoạn dịch vụ.
Xem thêm các dòng tủ đĩa lưu trữ doanh nghiệp tại danh mục SAN, NAS NTCOM (gồm Dell PowerVault ME5224, Dell PowerVault ME5212, Infortrend EonStor GS 3012R3, Infortrend EonStor GS 4016R3), các dòng máy chủ ảo hoá tại danh mục Máy chủ (Dell PowerEdge R760xs, Dell PowerEdge R760, Dell PowerEdge R660) và thiết bị chuyển mạch tốc độ cao tại danh mục Switch trung tâm dữ liệu (PLANET DCS-7342-24X6C). Tham khảo các bài viết cùng giải pháp: Nâng cấp phòng máy chủ lên trung tâm dữ liệu nhỏ: điện, mát, an ninh, Giám sát, cập nhật, vá lỗi cụm ảo hoá không làm gián đoạn, Ảo hoá cho ERP, kế toán, SCADA: lưu ý hiệu năng và bản quyền, Cụm máy chủ sẵn sàng cao (HA): quorum, mạng, diễn tập rút nguồn, Chọn máy chủ cho ảo hoá: CPU, RAM, ổ đĩa và mạng 10/25G, Hyper-converged (HCI) và kiến trúc 3 lớp: chọn gì cho doanh nghiệp và chuyên mục Giải pháp ảo hoá máy chủ - Trung tâm dữ liệu NTCOM. Giá: liên hệ báo giá.
Nhận hỗ trợ hồ sơ thầu trong 24 giờ
Gửi cho NTCOM thông tin gói thầu kèm Phạm vi cung cấp (PVCC), datasheet, bảng thông số hoặc bảng điền đáp ứng. NTCOM tra mã sản phẩm, hãng sản xuất và điền đáp ứng kỹ thuật, phản hồi trong vòng 24 giờ. Báo giá ngay sau khi có đầy đủ hồ sơ, tên dự án, tên EU.
- Hotline: 0986 397 886
- Zalo: 0986397886
- Email: nguyen.cuong@ntcomvn.com
Nguồn tham khảo
- Dell Technologies: Dell PowerVault ME52xx Series Storage Specification Sheet (ME5212, ME5224 Dual-Active Controllers, 8x 32Gb FC & 8x 25Gb iSCSI Host Ports, ALUA & ADAPT RAID)
- Infortrend Technology: EonStor GS SAS HDD Series Product Data Sheet PRN PDS v5.3.2 (GS 3012R3 & GS 4016R3 Built-in 4x 25GbE SFP28 & Host Board Options up to 16x 32Gb FC / 20x 25GbE)
- Dell Technologies: Dell PowerEdge R760xs & R760 Rack Server Specification Sheets (OCP 3.0, PCIe Gen4/Gen5 Slots & BOSS-N1 Boot Subsystem)
- PLANET Technology: DCS-7342-24X6C Layer 3 Data Center Switch Datasheet (1.7 Tbps Non-blocking, 24MB Shared Buffer, 10K Jumbo Frame, IEEE 802.3x Pause Frame & PFC)
- Microsoft Learn: Multipath I/O (MPIO) Overview & MSDSM Load Balance Policies for Windows Server Hyper-V
Tài liệu mang tính tham khảo kỹ thuật; số lượng cổng Host 25GbE SFP28 / 32Gb FC, loại module quang và thông số cấu hình đa đường có thể thay đổi theo từng phiên bản phần cứng và hệ điều hành cụ thể, cần đối chiếu tài liệu chính thức của hãng và khảo sát hạ tầng thực tế trước khi triển khai.
Bình luận(0)
Chưa có bình luận. Hãy là người đầu tiên chia sẻ ý kiến!

