์ฌ์ฉ ์ค๋ช
์ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 BC0154503-03 F Dell EMC ์ ํ๊ฐ๋ก ์ ๊ณต๋๋ ์ 3 ์ ์ ๋ณด
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 ๋ฌธ์ ๊ฐ์ ์ด๋ ฅ ๊ฐ์ ํ A, 2015 ๋
1 ์ 11 ์ผ ๊ฐ์ ํ B, 2016 ๋
4 ์ 19 ์ผ ๊ฐ์ ํ C, 2017 ๋
1 ์ 27 ์ผ ๊ฐ์ ํ D, 2017 ๋
8 ์ 24 ์ผ ๊ฐ์ ํ E, 2018 ๋
1 ์ 31 ์ผ ๊ฐ์ ํ F, 2018 ๋
4 ์ 19 ์ผ ๋ณ๊ฒฝ์ฌํญ ์ํฅ๋ฐ์ ์น์
๋ฌธ์ ๊ท์ฝ ์๊ฐ ์
๋ฐ์ดํธ๋จ xiii ํ์ด์ง์ " ๋ฌธ์ ๊ท์ฝ " ๋ ์ด์ ์ฌ์ฉํ์ง ์๋ QLogic ๋ผ์ด์ ์ค ๊ณ์ฝ ๋ฐ ๋ณด ์ฆ ์น์
์ด ์ญ์ ๋จ ๋จธ๋ฆฌ๋ง ํ 3-5 ์ ๊ฐ์ฃผ๋ก " ์ด ์ฌ์ฉ์ ์ค๋ช
์๋ฅผ ๊ฒ์ํ ํ์ ๋ ESXi ๋๋ผ์ด๋ฒ๋ฅผ ์ถ๊ฐ๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค . ์์ธํ ๋ด์ฉ์ ๋ฆด๋ฆฌ์ค ๋
ธํธ๋ฅผ ์ฐธ์กฐํ์ญ์์ค ." ๊ฐ ์ถ ๊ฐ๋จ 28 ํ์ด์ง์ "VMware ๋๋ผ์ด๋ฒ ๋ฐ ๋๋ผ์ด๋ฒ ํจํค์ง " ํ 6-1 ์์ : 55 ํ์ด์ง์ " ์ง์๋๋ ์ด์ ์ฒด์ ๋ฐ OFED" ๏ฎ Windows Server ๋ฐ VMware ESXi ์ OED ๊ฐ์ด ์
๋ฐ์ดํธ๋จ ๏ฎ VMware ESXi 6.
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 108 ํ์ด์ง์ "VMware ์์ SR-IOV ๊ตฌ์ฑ " VMware ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ์ ์ฐจ์์ ๋ค ์๊ณผ ๊ฐ์ด ์ผ๋ถ ๋จ๊ณ๊ฐ ์ฌ์กฐ์ ๋จ . ๏ฎ " ํฌํธ์ ๋ฐ๋ผ VF ์ ์ ํจ์ฑ์ ๊ฒ์ฌํ๋ ค๋ฉด esxcli ๋ช
๋ น์ ์คํ ..." ๋จ๊ณ๊ฐ "Edit Settings ( ์ค์ ํธ์ง ) ๋ํ ์์๋ฅผ ..." ๋จ๊ณ ๋ค๋ก ์ด๋ํ์ ์ต๋๋ค . ๏ฎ "VM ์ ํ์ฑํ ..." ๋จ๊ณ๊ฐ "QLogic ๋๋ผ์ด๋ฒ๋ฅผ ํ ์ง๋ ์ด๋ํฐ์ ์ค์น ..." ๋จ๊ณ ๋ค๋ก ์ด๋ํ์์ต๋ ๋ค.
๋ชฉ์ฐจ ๋จธ๋ฆฌ๋ง . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xii xii xii xiii xv xv xvi xvi xvii xvii xvii ๊ธฐ๋ฅ ์ค๋ช
. . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 RDMA ์์ด Linux ๋๋ผ์ด๋ฒ ์ค์น . . . . . . . . . . . . . . . . . . . Linux ๋๋ผ์ด๋ฒ ์ ๊ฑฐ . . . . . . . . . . . . . . . . . . . . . . . src RPM ํจํค์ง๋ฅผ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ ์ค์น . . . . . kmp/kmod RPM ํจํค์ง๋ฅผ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ ์ค์น . TAR ํ์ผ์ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ ์ค์น. . . . . . . . . . RDMA ์ ํจ๊ป Linux ์ค์น . . . . . . . . . . . . . . . . . . . . . . . Linux ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ . . . . . . . . . . . . . . . . . . . . . Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ . . . . . . . . . . . . . . . . . . . . . . Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 6 RoCE ๊ตฌ์ฑ ์ง์๋๋ ์ด์ ์ฒด์ ๋ฐ OFED . . . . . . . . . . . . . . . . . . . . . . . . . . . . RoCE ๋ฅผ ์ํ ๊ณํ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ด๋ํฐ ์ค๋น. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ด๋๋ท ์ค์์น ์ค๋น . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cisco Nexus 6000 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ. . . . . . . . . . . . . . . . . . . Dell Z9100 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 8 SR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . Linux ์์ SR-IOV ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . VMware ์์ SR-IOV ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 95 102 108 Windows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ. . . . . . . . . . . RDMA ๊ฐ์ NIC ๋ฅผ ์ฌ์ฉํ Hyper-V ๊ฐ์ ์ค์์น ์์ฑ ํธ์คํธ ๊ฐ์ NIC ์ VLAN ID ์ถ๊ฐ . . . . . . . . . . . . RoCE ๊ฐ ํ์ฑํ๋์ด ์๋์ง ํ์ธ . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 Hyper-Converged ์์คํ
๋ฐฐํฌ. . . . . . . . . . . . . . . . . . . . . ์ด์ ์ฒด์ ๋ฐฐํฌ . . . . . . . . . . . . . . . . . . . . . . . . . . . ๋คํธ์ํฌ ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . . . . . . Storage Spaces Direct ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ญํ ๊ณผ ๊ธฐ๋ฅ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ค์ ์๋ฒ์ Nano ์๋ฒ ๋ฐฐํฌ . . . . . . . . . . . . . . . . . . . . . . ๊ฐ์ ๋จธ์ ์ Nano ์๋ฒ ๋ฐฐํฌ . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 ๊ทธ๋ฆผ ๋ชฉ๋ก ๊ทธ๋ฆผ 3-1 3-2 3-3 3-4 3-5 3-6 3-7 3-8 3-9 3-10 4-1 4-2 4-3 4-4 4-5 4-6 5-1 5-2 5-3 5-4 5-5 5-6 5-7 5-8 5-9 5-10 5-11 5-12 5-13 5-14 6-1 6-2 6-3 6-4 6-5 6-6 6-7 6-8 6-9 6-10 7-1 7-2 7-3 ํ์ด์ง Dell ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . QLogic InstallShield ๋ง๋ฒ์ฌ : ์์ ์ฐฝ . . . . . . . . . . . . . . . . . . . . . . . . . QLogic InstallShield ๋ง๋ฒ์ฌ : License Agreement( ์ฌ์ฉ๊ถ ๊ณ์ฝ ) ์ฐฝ . . . . . . InstallShield ๋ง๋ฒ์ฌ : Setup Type( ์ค์ ์ ํ ) ์ฐฝ. . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 7-4 8-1 8-2 8-3 8-4 8-5 8-6 8-7 8-8 8-9 8-10 8-11 8-12 8-13 8-14 8-15 9-1 9-2 9-3 9-4 9-5 9-6 9-7 9-8 9-9 9-10 9-11 9-12 9-13 9-14 9-15 9-16 9-17 9-18 9-19 9-20 9-21 9-22 ์ iSCSI ์ฅ์น๊ฐ ์๋์ง ํ์ธ . . . . . . . . . . . . . . . . SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ํตํฉ ์ฅ์น . . . . . . . . . SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ . . . . . ์ด๋ํฐ ์์ฑ , ๊ณ ๊ธ : SR-IOV ํ์ฑํ. . . . . . . . . . . . ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ : SR-IOV ํ์ฑํ . . . . . . . . . . . VM ์ ์ค์ : SR-IOV ํ์ฑํ . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 ํ ๋ชฉ๋ก ํ 2-1 2-2 3-1 3-2 3-3 3-4 3-5 3-6 3-7 5-1 6-1 6-2 6-3 9-1 10-1 A-1 B-1 B-2 ํ์ด์ง ํธ์คํธ ํ๋์จ์ด ์๊ตฌ ์ฌํญ . . . . . . . . . . . . . . . . . . ์ต์ ํธ์คํธ ์ด์ ์ฒด์ ์๊ตฌ ์ฌํญ . . . . . . . . . . . . . . QLogic QL45212 Adapters Linux ๋๋ผ์ด๋ฒ . . . . . . . . qede ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ . . . . . . . . . . . . . . . . Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ . . . . . . . . . . . . . . . . . VMware ๋๋ผ์ด๋ฒ . . . . . . . . . . . . . . . . . . . . . . . ๋ฆด๋ฆฌ์ค๋ณ ESXi ๋๋ผ์ด๋ฒ ํจํค์ง . . . . . . . . . . . . . . . VMware ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ . . . . . . . . . .
๋จธ๋ฆฌ๋ง ๋จธ๋ฆฌ๋ง์์๋ ์ง์๋๋ ์ ํ์ ๋์ดํ๊ณ , ๋์ ๋
์๋ฅผ ๊ตฌ์ฒด์ ์ผ๋ก ์ ์ํ๊ณ , ์ด ์ค๋ช
์์ ์ฌ์ฉ๋๋ ์ธ์ ๊ท์น ๊ทธ๋ฆฌ๊ณ ๋ฒ์ ๊ณ ์ง๋ฅผ ์ค๋ช
ํฉ๋๋ค . ์ง์๋๋ ์ ํ ๋ณธ ์ฌ์ฉ์ ์ค๋ช
์๋ Caviumโข QL45212 25Gb ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ (QL45212HLCU-DE, ํ์ค ๋์ด ๋ธ๋ํท ) ์ ์ค์น , ๊ตฌ์ฑ ๋ฐ ๊ด๋ฆฌ์ ๋ํด์ ๋ค๋ฃจ๊ณ ์์ต๋๋ค . ๋์ ๋
์ ๋ณธ ์ค๋ช
์๋ Windowsยฎ, Linuxยฎ ๋๋ VMwareยฎ ํ๊ฒฝ์์ Dellยฎ PowerEdgeยฎ ์๋ฒ ์ ์ค์น๋ ์ด๋ํฐ์ ๊ตฌ์ฑ๊ณผ ๊ด๋ฆฌ๋ฅผ ๋ด๋นํ๋ ์์คํ
๊ด๋ฆฌ์ ๋ฐ ๊ธฐํ ๊ธฐ์ ์ง์์ ์ ํด ์์ฑ๋์์ต๋๋ค . ์ค๋ช
์ ๋ด์ฉ ์ด ๋จธ๋ฆฌ๋ง์ ์ด์ด , ๋ณธ ์ค๋ช
์์ ๋๋จธ์ง๋ ์๋ ๊ฐ ์ฅ๊ณผ ๋ถ๋ก์ผ๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . ๏ฎ ์ฅ 1 ์ ํ ๊ฐ์์์๋ ์ ํ ๊ธฐ๋ฅ ์ค๋ช
, ๊ธฐ๋ฅ ๋ชฉ๋ก ๊ทธ๋ฆฌ๊ณ ์ด๋ํฐ ์ฌ์์ ๋ํด ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 2 ํ๋์จ์ด ์ค์น์์๋ ์์คํ
์๊ตฌ ์ฌํญ ๋ฐ ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก์ ํฌํจํด ์ด๋ํฐ์ ์ค์น ๋ฐฉ๋ฒ์ ๋ํด ์ค๋ช
ํฉ๋๋ค .
๋จธ๋ฆฌ๋ง ๋ฌธ์ ๊ท์ฝ ๏ฎ ์ฅ 7 iSER ๊ตฌ์ฑ์์๋ Linux RHEL ๋ฐ SLES ์ ๋ํด iSER(iSCSI Extensions for RDMA) ์ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 8 SR-IOV ๊ตฌ์ฑ์์๋ Windows, Linux ๋ฐ VMware ์์คํ
์์ SR-IOV(๋จ ์ผ ๋ฃจํธ ์
/ ์ถ๋ ฅ ๊ฐ์ํ ) ๋ฅผ ๊ตฌ์ฑํ๋ ์ ์ฐจ๋ฅผ ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 9 Windows Server 2016์์๋ Windows Server 2016 ๊ธฐ๋ฅ์ ๋ํด ์ค๋ช
ํฉ ๋๋ค . ๏ฎ ์ฅ 10 ๋ฌธ์ ํด๊ฒฐ์์๋ ๋ค์ํ ๋ฌธ์ ํด๊ฒฐ ๋ฐฉ๋ฒ๊ณผ ๋ฆฌ์์ค์ ๋ํด ์ค๋ช
ํฉ๋๋ค . ๏ฎ ๋ถ๋ก A ์ด๋ํฐ LED์์๋ ์ด๋ํฐ LED์ ๊ฐ LED์ ์๋ฏธ์ ๋ํด ์ค๋ช
ํฉ๋๋ค. ๏ฎ ๋ถ๋ก B ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋์๋ QL45212 Adapters ๊ฐ ์ง์ํ๋ ์ผ์ด๋ธ๊ณผ ๊ด ํ ๋ชจ๋์ด ๋์ ์์ต๋๋ค . ๏ฎ ๋ถ๋ก C Dell Z9100 ์ค์์น ๊ตฌ์ฑ์์๋ Dell Z9100 ์ค์์น ํฌํธ๋ฅผ 25Gbps ๋ก ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ๋ํด ์ค๋ช
ํฉ๋๋ค .
๋จธ๋ฆฌ๋ง ๋ฌธ์ ๊ท์ฝ ๏ฎ ๏ฎ ๊ตต๊ฒ ํ์๋ ํ
์คํธ๋ ๋ฉ๋ด ํญ๋ชฉ , ๋จ์ถ , ํ์ธ๋ ๋๋ ์ด ์ ๋ชฉ ๋ฑ ์ฌ์ฉ์ ์ธํฐ ํ์ด์ค ์์๋ฅผ ๊ฐ๋ฆฌํต๋๋ค . ์ : ๏ฑ ์์ ๋จ์ถ๋ฅผ ํด๋ฆญํ๊ณ ํ๋ก๊ทธ๋จ์ ๊ฐ๋ฆฌํจ ํ ๋ณด์กฐ ํ๋ก๊ทธ๋จ์ ๊ฐ๋ฆฌํจ ๋ค์ ๋ช
๋ น ํ๋กฌํํธ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๏ฑ ์๋ฆผ ์ต์
์๋์์ ๊ฒฝ๊ณ ์๋ ํ์ธ๋์ ์ ํํฉ๋๋ค . Courier ๊ธ๊ผด๋ก ํ์๋ ํ
์คํธ๋ ํ์ผ ์ด๋ฆ , ๋๋ ํฐ๋ฆฌ ๊ฒฝ๋ก ๋๋ ๋ช
๋ นํ ํ
์คํธ๋ฅผ ๊ฐ๋ฆฌํต๋๋ค . ์ : ๏ฑ ํ์ผ ๊ตฌ์กฐ ์ด๋์๋ ์ง ๋ฃจํธ ๋๋ ํฐ๋ฆฌ๋ก ๋์์ค๋ ๋ฐฉ๋ฒ : cd /root ๋ฅผ ์
๋ ฅํ๊ณ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๏ฑ ๏ฎ ๏ฎ ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . sh ./install.bin. ํค ์ด๋ฆ๊ณผ ํค ์คํธ๋กํฌ๋ ๋ค์๊ณผ ๊ฐ์ด ๋๋ฌธ์๋ก ํ์๋ฉ๋๋ค . ๏ฑ CTRL+P ๋ฅผ ๋๋ฆ
๋๋ค . ๏ฑ ์์ชฝ ํ์ดํ ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ธฐ์ธ์๊ผด๋ก ํ์๋ ํ
์คํธ๋ ์ฉ์ด, ๊ฐ์กฐ, ๋ณ์ ๋๋ ๋ฌธ์ ์ ๋ชฉ์ ๊ฐ๋ฆฌํต๋๋ค.
๋จธ๋ฆฌ๋ง ๋ฒ์ ๊ณ ์ง ๏ฑ |(์์ง์ )์ ์ํธ ๋ฐฐํ์ ์ธ ์ต์
์ ์๋ฏธํ๋ ๊ฒ์ผ๋ก์ 1๊ฐ์ง ์ต์
๋ง ์ ํํ ์ ์์ต๋๋ค . ์ : ๏ฑ ๏ฎ on|off ๏ฎ 1|2|3|4 ... ( ๋ง์ค์ํ ) ๋ ์ ํ ํญ๋ชฉ์ด ๋ฐ๋ณต๋ ์ ์์์ ๋ํ๋
๋๋ค . ์ : ๏ฎ x... 1 ๊ฐ ์ด์์ x ์ธ์คํด์ค๋ฅผ ์๋ฏธํฉ๋๋ค . ๏ฎ [x...] 0 ๊ฐ ์ด์์ x ์ธ์คํด์ค๋ฅผ ์๋ฏธํฉ๋๋ค . ๏ฑ ๋ช
๋ น ์์ ์ถ๋ ฅ ๋ด์ ์์ง ์ค์ํ๋ ๋ฐ๋ณต์ ์ธ ์ถ๋ ฅ ๋ฐ์ดํฐ์ ๋ถ๋ถ์ด ์ ๋์ ์ผ๋ก ์๋ต๋์์์ ๋ํ๋
๋๋ค . ๏ฑ ๋
ผ๋ฆฌ์ ๋ชจํธํจ์ ๋ฐฉ์งํ๊ธฐ ์ํด ( )( ๊ดํธ ) ๋ฐ { }( ์ค๊ดํธ ) ๊ฐ ์ฌ์ฉ๋ฉ๋ ๋ค.์: ๏ฎ a|b c ๋ ๋ชจํธํฉ๋๋ค . {(a|b) c} ๋ a ๋๋ b ๋ค์ c ๋ฅผ ์๋ฏธํฉ๋๋ค . {a|(b c)} ๋ a ๋๋ b c ๋ฅผ ์๋ฏธํฉ๋๋ค . ๋ฒ์ ๊ณ ์ง ์ด ์น์
์ ๋์ค๋ ๋ฒ์ ๊ณ ์ง์๋ ๋ ์ด์ ์์ (FDA ๊ณต์ง ์ฌํญ ), ๊ธฐ๊ด ์ธ์ฆ ๋ฐ ์ ํ ์์ ๊ท์ ์ค์ ์ฌํญ์ด ํฌํจ๋ฉ๋๋ค .
๋จธ๋ฆฌ๋ง ๋ฒ์ ๊ณ ์ง ๊ธฐ๊ด ์ธ์ฆ ๋ค์ ์น์
์ QL45212 Adapters ์ ๊ด๋ จํ์ฌ ๋ฐฐ์ถ๊ฐ์ค , ๋ด์ฑ ๋ฐ ์ ํ ์์ ์ฑ ๊ธฐ์ค ์ ์ค์ํ ๋ชฉ์ ์ผ๋ก ์ค์ํ EMC ๋ฐ EMI ํ
์คํธ ๊ท๊ฒฉ์ ๋ํ ์์ฝ์
๋๋ค . EMI ๋ฐ EMC ์๊ตฌ ์ฌํญ FCC ํํธ 15 ์ค์ : A ๊ธ FCC ๊ท์ ์ค์ ์ ๋ณด ์ง์ ๋ฌธ : ์ด ์ฅ์น๋ FCC ๊ท์ ์ ํํธ 15 ๋ฅผ ์ค์ํฉ๋๋ค . ์๋์๋ ๋ค์ ๋ ๊ฐ์ง ์กฐ๊ฑด์ด ์ ์ฉ๋ฉ๋๋ค : (1) ๋ณธ ์ฅ์น๋ ์ ํด ๊ฐ์ญ์ ์ผ์ผํค์ง ์ ์ผ๋ฉฐ , (2) ๋ณธ ์ฅ์น๋ ์์น ์๋ ์๋์ ์ผ์ผํฌ ์ ์๋ ๊ฐ์ญ์ ํฌํจํ์ฌ ์์ ๋ ์ด๋ ํ ๊ฐ์ญ๋ ์์ฉํด์ผ ํฉ๋๋ค . ICES-003 ๊ท์ ์ค์ : A ๊ธ ๋ณธ A ๊ธ ๋์งํธ ์ฅ์น๋ Canadian ICES-003 ์ ์ค์ํฉ๋๋ค . Cet appareil numรฉriquรฉ de la classe A est conformรฉ ร la norme NMB-003 du Canada.
๋จธ๋ฆฌ๋ง ๋ฒ์ ๊ณ ์ง KCC: A ๊ธ ํ๊ตญ RRA A ๊ธ ์ธ์ฆ ํ๋ ์ ํ ์ด๋ฆ / ๋ชจ๋ธ : ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ ๋ฐ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ ์ธ์ฆ ์์ ์ : QLogic Corporation ์ ์กฐ์ผ : ์ ํ์ ํ์๋ ๋ ์ง ์ฝ๋ ์ฐธ์กฐ ์ ์กฐ์
์ฒด / ์ ์กฐ๊ตญ : QLogic Corporation/ ๋ฏธ๊ตญ A ๋ฑ๊ธ ์ฅ๋น ๋ณธ ์ฅ์น๋ ๊ธฐ์
์ฉ EMC ๋ฑ๋ก์ด ๋์ด ์์ผ๋ฏ๋ก ํ๋งค์ ๋ฐ / ๋๋ ๊ตฌ๋งค์์๊ฒ ์ด๋ฌํ ์ฌ์ค์ ์ธ์์์ผ์ผ ํ๋ฉฐ , ๋ถ๋นํ ํ ( ์ฌ์
์ฉ ์ ๋ณด / ํต์ ์ฅ๋น ) ๋งค ๋๋ ๊ตฌ๋งค๋ก ํ์ธ๋๋ฉด ๊ฐ์ ์ฉ์ผ๋ก ๋ณ๊ฒฝํด์ผ ํฉ๋๋ค . ํ๊ตญ์ด ํฌ๋งท - A ๊ธ VCCI: A ๊ธ ๋ณธ ์ ํ์ ์ ์ํ ์ฅ์ ์์ฃผ ๊ท์ ํ์ํ (VCCI) ์ ํ์ค์ ๊ธฐ๋ณธ์ผ๋ก ํ A ๊ธ ์ ํ ์
๋๋ค . ์ด ์ฅ์น๊ฐ ๊ตญ๋ด ํ๊ฒฝ์์ ์ฌ์ฉ๋๋ ๊ฒฝ์ฐ ๋ฌด์ ์ ์ํ๊ฐ ๋ฐ์ํ ์ ์์ผ๋ฉฐ , ์ด ๊ฒฝ์ฐ ์ฌ์ฉ์๋ ๊ต์ ์กฐ์น๋ฅผ ์ํํด์ผ ํ ์ ์์ต๋๋ค .
๋จธ๋ฆฌ๋ง ๋ฒ์ ๊ณ ์ง 2006/95/EC ์ ์ ์ ์ง์นจ : TUV EN60950-1:2006+A11+A1+A12+A2 ์ 2 ํ TUV IEC 60950-1: 2005 ์ 2 ํ Am1: 2009 + Am2: 2013 CB IEC 60950-1 ์ 2 ํ์ ๋ํ CB ์ธ์ฆ ํ๋ xviii BC0154503-03 F
1 ์ ํ ๊ฐ์ ์ด ์ฅ์์๋ QL45212 Adapters ์ ๋ํด ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ๊ธฐ๋ฅ ์ค๋ช
๏ฎ ๊ธฐ๋ฅ ๏ฎ 3 ํ์ด์ง์ " ์ด๋ํฐ ์ฌ์ " ๊ธฐ๋ฅ ์ค๋ช
Cavium QL45212 ์ด๋ํฐ๋ Dell PowerEdge ์์คํ
์ ๋ํด ๊ฐ์ํ๋ ๋ฐ์ดํฐ ๋คํธ ์ํน์ ์ํํ๋๋ก ๊ณ ์๋ 25Gb ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ์
๋๋ค . QL45212 ์ด๋ํฐ ์๋ ์ ์ด์ค ๊ธฐ๋ฅ์ด ๊ฐ๋ฅํ 25Gb ์ด๋๋ท MAC ์ด ํฌํจ๋์ด ์์ต๋๋ค . ๊ธฐ๋ฅ QL45212 ์ด๋ํฐ๋ ๋ค์๊ณผ ๊ฐ์ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค . ๏ฎ NIC ๋ถํ (NPAR) ๏ฎ ๋จ์ผ ์นฉ ์๋ฃจ์
: ๏ฎ ๏ฑ 25Gb MAC ๏ฑ ์ง์ ์ฐ๊ฒฐ ๊ตฌ๋ฆฌ ์ผ์ด๋ธ (DAC) ๋ฐฉ์์ ํธ๋์๋ฒ ์ฐ๊ฒฐ์ ์ํ SerDes ์ธ ํฐํ์ด์ค ๏ฑ PCIeยฎ 3.
1โ ์ ํ ๊ฐ์ ๊ธฐ๋ฅ ๏ฎ ๏ฎ ๏ฎ 1 2 ๏ฎ RSC( ์์ ์ธ๊ทธ๋จผํธ ํตํฉ ) ๏ฎ Microsoftยฎ Dynamic VMQ(Virtual Machine Queue), VMMQ(Virtual Machine Multiqueues) ๋ฐ Linux ๋ค์ค ๋๊ธฐ์ด ์ ์ ์ธํฐ๋ฝํธ : ๏ฑ TSS/RSS( ์ก์ / ์์ ์ธก ๋ฐฐ์จ ์กฐ์ ) ๏ฑ ์ผ๋ฐ ๋ผ์ฐํ
์บก์ํ(NVGRE) ๋ฐ ๊ฐ์ LAN(VXLAN) L2/L3 GRE ํฐ๋ ํธ ๋ํฝ์ ์ฌ์ฉํ๋ ๋คํธ์ํฌ ๊ฐ์ํ๋ฅผ ์ํ ๋ฌด์ํ ์คํ๋ก๋1 ๊ด๋ฆฌ : ๏ฑ SMB( ์์คํ
๊ด๋ฆฌ ๋ฒ์ค ) ์ปจํธ๋กค๋ฌ ๏ฑ ACPI(Advanced Configuration and Power Interface) 1.1a ํธํ ( ๋ค์ค ์ ๋ ฅ ๋ชจ๋ ) ๏ฑ NC-SI(Network controller-sideband interface) ์ง์ ๊ณ ๊ธ ๋คํธ์ํฌ ๊ธฐ๋ฅ : ๏ฑ ์ ๋ณด ํ๋ ์ ( ์ต๋ 9,600 ๋ฐ์ดํธ ).
1โ ์ ํ ๊ฐ์ ์ด๋ํฐ ์ฌ์ Dell QL45212 ๊ธฐ๋ฅ Dell QL45212 ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ๋ ์ ์ ์ธํฐ๋ฝํธ ์ฃผํ์๋ฅผ ๋น๋กฏํด ์๋ฒ ๋๋ RISC ํ๋ก์ธ์์ ASIC ๊ธฐ๋ฅ์ ์ง์ํฉ๋๋ค . ์ ์ ์ธํฐ๋ฝํธ ์ฃผํ์ ์ด๋ํฐ ๋๋ผ์ด๋ฒ๋ ํธ๋ํฝ ์กฐ๊ฑด์ ๋ฐ๋ผ ์ง๋ฅ์ ์ผ๋ก ํธ์คํธ ์ธํฐ๋ฝํธ ์ฃผํ์๋ฅผ ์กฐ ์ ํ์ฌ ์ ์ฒด ์์ฉ ํ๋ก๊ทธ๋จ ์ฒ๋ฆฌ๋์ ํฅ์ํฉ๋๋ค . ํธ๋ํฝ์ด ๋ฎ์ ๊ฒฝ์ฐ , ์ด๋ํฐ ๋ ๋ผ์ด๋ฒ๋ ์์ ๋ ๊ฐ ํจํท์ ๋ํ์ฌ ํธ์คํธ๋ฅผ ์ธํฐ๋ฝํธํ์ฌ ์ง์ฐ ์๊ฐ์ ์ต๋ํ ์ค ์ฌ์ค๋๋ค . ํธ๋ํฝ์ด ๋์ ๊ฒฝ์ฐ ์ด๋ํฐ๋ ์ง์์ ์ผ๋ก ์์ ๋๋ ์ฌ๋ฌ ํจํท์ ๋ํด ํ ๊ฐ์ ํธ์คํธ ์ธํฐ๋ฝํธ๋ฅผ ๋ฐ์์์ผ ํธ์คํธ CPU ์ฃผ๊ธฐ๋ฅผ ์ ์งํฉ๋๋ค . ์๋ฒ ๋๋ RISC ํ๋ก์ธ์์ ASIC QL45212 Adapter ์ ํต์ฌ์ ์ธ ์ ์ด ๊ธฐ๋ฅ์ ์์ ํตํฉ๋ ๊ณ ์ฑ๋ฅ ASIC ์ ์์ต๋๋ค .
1โ ์ ํ ๊ฐ์ ์ด๋ํฐ ์ฌ์ ๏ฑ 802.1ad(QinQ) ๏ฑ 802.1p( ์ฐ์ ์์ ์ธ์ฝ๋ฉ ) ๏ฑ 1588-2002 PTPv1(Precision Time Protocol) ๏ฑ 1588-2008 PTPv2 ๏ฑ IEEE 802.
2 ํ๋์จ์ด ์ค์น ์ด ์ฅ์์๋ ๋ค์๊ณผ ๊ฐ์ ํ๋์จ์ด ์ค์น ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ์์คํ
์๊ตฌ ์ฌํญ ๏ฎ 6 ํ์ด์ง์ " ์์ ์ฃผ์์ฌํญ " ๏ฎ 7 ํ์ด์ง์ " ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก " ๏ฎ 7 ํ์ด์ง์ " ์ด๋ํฐ ์ค์น " ์์คํ
์๊ตฌ ์ฌํญ Cavium QL45212 Adapter ๋ฅผ ์ค์นํ๊ธฐ ์ ์ ์์คํ
์ด ํ 2-1 ๋ฐ ํ 2-2 ์ ํ์๋ ํ๋์จ์ด ๋ฐ ์ด์ ์ฒด์ ์๊ตฌ ์ฌํญ์ ๋ง์กฑํ๋์ง ํ์ธํ์ญ์์ค . ์ง์๋๋ ์ด์ ์ฒด ์ ์ ์ ์ฒด ๋ชฉ๋ก์ Cavium ์น์ฌ์ดํธ์์ ํ์ธํ ์ ์์ต๋๋ค . ํ 2-1.
2โ ํ๋์จ์ด ์ค์น ์์ ์ฃผ์์ฌํญ ํ 2-2. ์ต์ ํธ์คํธ ์ด์ ์ฒด์ ์๊ตฌ ์ฌํญ ์ด์ ์ฒด์ ์๊ฑด Windows Server 2012, 2012 R2, 2016(Nano ํฌํจ ) Linux RHELยฎ 6.8, 6.9, 7.2, 7.3, 7.4 SLESยฎ 11 SP4, SLES 12 SP2, SLES 12 SP3 VMware 25G ์ด๋ํฐ์ฉ ESXi 6.0 u3 ์ด์ ์ฃผ ํ 2-2 ๋ ์ต์ ํธ์คํธ OS ์๊ฑด์ ๋ํ๋
๋๋ค . ์ง์๋๋ ์ด์ ์ฒด์ ์ ์ ์ฒด ๋ชฉ ๋ก์ Cavium ์น์ฌ์ดํธ์์ ํ์ธํ ์ ์์ต๋๋ค . ์์ ์ฃผ์์ฌํญ ! ๊ฒฝ๊ณ ์ด๋ํฐ๊ฐ ์ ์์ด ํ๋ฅด๋ ์์คํ
์ ์ค์น๋์ด ์์ผ๋ฉด ์ํํ ์ ์์ต๋๋ค . ์ ์คํ
์ ์ผ์ด์ค๋ฅผ ์ด๊ธฐ ์ ์ , ์ฌ์ฉ์๋ฅผ ๋ณดํธํ๊ณ ์์คํ
๊ตฌ์ฑ ์์์ ์์์ ๋ฐฉ์งํ๋ ค๋ฉด ์๋์ ์ฃผ์์ฌํญ์ ์ค์ํ์ญ์์ค . ๏ฎ ์๊ณผ ์๋ชฉ์์ ๊ธ์ ๋ฌผ์ฒด๋ ๊ท๊ธ์์ ์ ๊ฑฐํฉ๋๋ค . ๏ฎ ์ ์ฐ ๋ฐ ๋น์ ๋์ฑ ๋๊ตฌ๋ง ์ฌ์ฉํ์ญ์์ค .
2โ ํ๋์จ์ด ์ค์น ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก ์ด๋ํฐ๋ฅผ ์ค์นํ๊ธฐ ์ ์ ๋ค์ ์ ์ฐจ๋ฅผ ์๋ฃํ์ญ์์ค . 1. ์์คํ
์ด 5 ํ์ด์ง์ " ์์คํ
์๊ตฌ ์ฌํญ " ์ ๋์ด๋ ํ๋์จ์ด ๋ฐ ์ํํธ์จ์ด ์๊ตฌ์ฌํญ์ ์ถฉ์กฑํ๋์ง ํ์ธํ์ญ์์ค . 2. ์์คํ
์ด ์ต์ BIOS ๋ฅผ ์ฌ์ฉํ๊ณ ์๋์ง ํ์ธํฉ๋๋ค . ์ฃผ Cavium ์น์ฌ์ดํธ์์ ์ด๋ํฐ ์ํํธ์จ์ด๋ฅผ ๊ตฌ๋งคํ ๊ฒฝ์ฐ ์ด๋ํฐ ๋๋ผ ์ด๋ฒ ํ์ผ์ ๊ฒฝ๋ก๋ฅผ ํ์ธํ์ญ์์ค . 3. ์์คํ
์ด ํ์ฑํ๋์์ผ๋ฉด ์์คํ
์ ์ข
๋ฃํฉ๋๋ค . 4. ์์คํ
์ข
๋ฃ๊ฐ ์๋ฃ๋๋ฉด ์ ์์ ๋๊ณ ์ ์ ์ฝ๋๋ฅผ ๋ฝ์ต๋๋ค . 5. ์ด๋ํฐ๋ฅผ ํฌ์ฅ ์์์์ ๊บผ๋ด ์ ์ ๊ธฐ ๋ฐฉ์ง ์ฒ๋ฆฌ๋ ๊ณณ์ ๋์ต๋๋ค . 6. ํนํ ์ด๋ํฐ์ ๊ฐ์ฅ์๋ฆฌ ์ปค๋ฅํฐ์ ์์๋ ํ์ ์ด ์๋์ง ๊ฒ์ฌํฉ๋๋ค. ์์๋ ์ด๋ํฐ๋ฅผ ์ค์นํ๋ ค๊ณ ์๋ํ์ง ๋ง์ญ์์ค . ์ด๋ํฐ ์ค์น ๋ค์์ ๋๋ถ๋ถ์ ์์คํ
์์ Cavium QL45212 Adapters ๋ฅผ ์ค์นํ ๋ ์ ์ฉ๋๋ ์ง ์นจ์
๋๋ค .
2โ ํ๋์จ์ด ์ค์น ์ด๋ํฐ ์ค์น 5. ์นด๋์ ์ ์ชฝ ๋ชจํ์ด์ ํ์ ์ฃผ์ด ์ฌ๋กฏ์ด ์์ ํ ์ฅ์ฐฉ๋ ๋๊น์ง ์ด๋ํฐ ์นด๋๋ฅผ ๋ฐ์ด ๋ฃ์ต๋๋ค . ์ด๋ํฐ๊ฐ ์ฌ๋ฐ๋ฅด๊ฒ ์์นํ๋ฉด , ์ด๋ํฐ ํฌํธ ์ปค๋ฅํฐ๊ฐ ์ฌ๋กฏ ๊ฐ ๊ตฌ๋ถ์ ์ ๋ ฌ๋๊ณ ์ด๋ํฐ ๋ฎ๊ฐ ๋์ด๊ฐ ์์คํ
์์์ ๋์ผํ ๋์ด๊ฐ ๋ฉ๋๋ค . ์ฃผ์ ์์คํ
์ด๋ ์ด๋ํฐ๊ฐ ์์๋ ์ ์์ผ๋ฏ๋ก ์นด๋๋ฅผ ์ฅ์ฐฉํ ๋ ๋๋ฌด ํ์ ์ฃผ์ง ๋ง์ญ์์ค . ์ด๋ํฐ๊ฐ ์ฅ์ฐฉ๋์ง ์์ผ๋ฉด ์ด๋ํฐ๋ฅผ ๋นผ๋ด๊ณ ๋ง์ถ ํ ๋ค ์ ํด๋ณด์ญ์์ค . 6. ์ด๋ํฐ๋ฅผ ์ด๋ํฐ ํด๋ฆฝ์ด๋ ๋์ฌ๋ก ๊ณ ์ ํฉ๋๋ค . 7. ์์คํ
์ผ์ด์ค๋ฅผ ์์ ํ ๋ซ๊ณ ๊ฐ์ธ์ฉ ์ ์ ๊ธฐ ๋ฐฉ์ง ์ฅ์น๋ฅผ ๋ชจ๋ ๋ผ์ด๋
๋๋ค .
3 ๋๋ผ์ด๋ฒ ์ค์น ์ด ์ฅ์์๋ ๋๋ผ์ด๋ฒ ์ค์น์ ๋ํ ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๏ฎ 17 ํ์ด์ง์ "Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น " ๏ฎ 27 ํ์ด์ง์ "VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น " Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ์ด ์น์
์์๋ RDMA(Remote Direct Memory Access) ๊ฐ ์๊ฑฐ๋ ์๋ ์ํ์์ Linux ๋ฅผ ์ค์นํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . ๋ํ Linux ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ , ๊ธฐ๋ณธ ๊ฐ , ๋ฉ์์ง ๋ฐ ํต๊ณ์ ๋ํด์๋ ์ค๋ช
ํฉ๋๋ค . ๏ฎ RDMA ์์ด Linux ๋๋ผ์ด๋ฒ ์ค์น ๏ฎ RDMA ์ ํจ๊ป Linux ์ค์น ๏ฎ Linux ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ๏ฎ Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ ๏ฎ Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง ๏ฎ ํต๊ณ QL45212 Adapter Linux ๋๋ผ์ด๋ฒ์ ์ง์ ๋ฌธ์๋ Dell ์ง์ ํ์ด์ง์์ ๋ค์ด๋ก๋ํ ์ ์์ต๋๋ค . dell.support.
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ํ 3-1. QLogic QL45212 Adapters Linux ๋๋ผ์ด๋ฒ Linux ๋๋ผ ์ด๋ฒ ์ค๋ช
qed qed ์ฝ์ด ๋๋ผ์ด๋ฒ ๋ชจ๋์ ํ์จ์ด๋ฅผ ์ง์ ์ ์ดํ๊ณ , ์ธํฐ๋ฝํธ ์ ํธ๋ฅผ ์ฒ๋ฆฌํ๊ณ , ํ๋กํ ์ฝ ์ ๋ฐ๋ฅธ ๋๋ผ์ด๋ฒ ์ธํธ์ ์ ๋ ๋ฒจ API ๋ฅผ ์ ๊ณตํฉ๋๋ค . qed ๋ qede, qedr, qedi ๋ฐ qedf ๋๋ผ ์ด๋ฒ์ ์ธํฐํ์ด์คํฉ๋๋ค . Linux ์ฝ์ด ๋ชจ๋์ PCI ์ฅ์น ๋ฆฌ์์ค ( ๋ ์ง์คํฐ , ํธ์คํธ ์ธํฐํ ์ด์ค ๋๊ธฐ์ด ๋ฑ ) ๋ฅผ ๋ชจ๋ ๊ด๋ฆฌํฉ๋๋ค . ์ด ๋ชจ๋์ ์คํํ๊ธฐ ์ํด์๋ Linux ์ปค๋ ๋ฒ์ 2.6.32 ์ด์์ด ํ์ํฉ๋๋ค . ํ
์คํธ๋ x86_64 ์ํคํ
์ฒ๋ฅผ ์ค์ฌ์ผ๋ก ์คํ๋์์ต๋๋ค . qede QL45212 Adapter ์ ์ฌ์ฉํ๋ Linux ์ด๋๋ท ๋๋ผ์ด๋ฒ์
๋๋ค . ์ด ๋๋ผ์ด๋ฒ๋ ํ๋์จ์ด๋ฅผ ์ง์ ์ ์ดํ๊ณ , Linux ํธ์คํธ ๋คํธ์ํน ํธ์คํธ๋ฅผ ์ํด ์ด๋๋ท ํจํท์ ๋ณด๋ด๊ณ ๋ฐ๋ ์์
์ ๋ด๋นํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๋ค์ ์์ค RPM ์ RHEL ๋ฐ SLES ํธ์คํธ์ RDMA ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ฝ๋๋ฅผ ์ค์นํฉ๋๋ค . ๏ฎ qlgc-libqedr-...src.rpm ๋ค์ ์์ค ์ฝ๋ TAR BZip2(BZ2) ์์ถ ํ์ผ์ RHEL ๋ฐ SLES ํธ์คํธ์ Linux ๋๋ผ ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๏ฎ fastlinq-.tar.bz2 ์ฃผ NFS, FTP ๋๋ HTTP( ๋คํธ์ํฌ ๋ถํ
๋์คํฌ ) ๋ฅผ ํตํด ๋คํธ์ํฌ๋ฅผ ์ค์นํ ๋ ๋ qede ๋๋ผ์ด๋ฒ๊ฐ ์ ์ฅ๋ ๋๋ผ์ด๋ฒ ๋์คํฌ๊ฐ ํ์ํ ์ ์์ต๋๋ค . Linux ๋ถํ
๋๋ผ์ด๋ฒ๋ makefile ๋ฐ make ํ๊ฒฝ์ ์์ ํ์ฌ ์ปดํ์ผํ ์ ์์ต๋๋ค . RDMA ์์ด Linux ๋๋ผ์ด๋ฒ ์ค์น RDMA ์์ด Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๋ ค๋ฉด : 1. ์๋ Dell ์ง์ ์ฌ์ดํธ์์ QL45212 Adapter Linux ๋๋ผ์ด๋ฒ๋ฅผ ๋ค์ด๋ก๋ํฉ ๋๋ค . dell.support.com 2.
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น depmod -a rpm -e qlgc-fastlinq-kmp-default-. ๏ฎ TAR ํ์ผ์ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ ๊ฒฝ์ฐ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋ ๋ค. rmmod qede rmmod qed depmod -a ๏ฑ RHEL ์ ๊ฒฝ์ฐ : cd /lib/modules//extra/qlgc-fastlinq rm -rf qed.ko qede.ko qedr.ko ๏ฑ SLES ์ ๊ฒฝ์ฐ : cd /lib/modules//updates/qlgc-fastlinq rm -rf qed.ko qede.ko qedr.ko RDMA ๊ฐ ์๋ ํ๊ฒฝ์์ Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด 1. ํ์ฌ ์ค์น๋์ด ์๋ ๋๋ผ์ด๋ฒ์ ๋ํ ๊ฒฝ๋ก๋ฅผ ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค . modinfo 2. Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ธ๋ก๋ํ๊ณ ์ ๊ฑฐํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 3. qed.ko, qede.ko ๋ฐ qedr.ko ํ์ผ์ด ์๋ ๋๋ ํฐ๋ฆฌ์์ ์ด๋ค ํ์ผ์ ์ญ์ ํฉ ๋๋ค . ์๋ฅผ ๋ค์ด , SLES ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . cd /lib/modules//updates/qlgc-fastlinq rm -rf qed.ko rm -rf qede.ko rm -rf qedr.ko depmod -a RDMA ํ๊ฒฝ์์ Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด 1. ์ค์น๋์ด ์๋ ๋๋ผ์ด๋ฒ์ ๋ํ ๊ฒฝ๋ก๋ฅผ ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . modinfo 2. Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ธ๋ก๋ํ๊ณ ์ ๊ฑฐํฉ๋๋ค . modprobe -r qedr modprobe -r qede modprobe -r qed depmod -a 3. ๋๋ผ์ด๋ฒ ๋ชจ๋ ํ์ผ์ ์ ๊ฑฐํฉ๋๋ค . ๏ฑ RPM ํจํค์ง๋ฅผ ์ฌ์ฉํ์ฌ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ ๊ฒฝ์ฐ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 2. ๋๋ ํฐ๋ฆฌ๋ฅผ RPM ๊ฒฝ๋ก๋ก ๋ณ๊ฒฝํ๊ณ ์ปค๋์ฉ ์ด์ง RPM ์ ๊ตฌ์ถํฉ๋๋ค . RHEL ์ ๊ฒฝ์ฐ : cd /root/rpmbuild rpmbuild -bb SPECS/fastlinq-.spec SLES ์ ๊ฒฝ์ฐ : cd /usr/src/packages rpmbuild -bb SPECS/fastlinq-.spec 3. ๋ค์์ ์๋ก ์ปดํ์ผ๋ RPM ์ ์ค์นํฉ๋๋ค . rpm -ivh RPMS//qlgc-fastlinq-..rpm ์ฃผ ์ถฉ๋์ด ๋ณด๊ณ ๋ ๊ฒฝ์ฐ ์ผ๋ถ Linux ๋ฐฐํฌํ์ --force ์ต์
์ ์ค์นํด์ผ ํฉ ๋๋ค . ๋๋ผ์ด๋ฒ๊ฐ ๋ค์ ๊ฒฝ๋ก์ ์ค์น๋ฉ๋๋ค . SLES ์ ๊ฒฝ์ฐ : /lib/modules//updates/qlgc-fastlinq RHEL ์ ๊ฒฝ์ฐ : /lib/modules//extra/qlgc-fastlinq 4.
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น TAR ํ์ผ์ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ ์ค์น TAR ํ์ผ์ ์ฌ์ฉํด Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๋ ค๋ฉด 1. ๋๋ ํฐ๋ฆฌ๋ฅผ ์์ฑํ๊ณ ํด๋น ๋๋ ํฐ๋ฆฌ์ TAR ํ์ผ ์์ถ์ ํ๋๋ค . tar xjvf fastlinq-.tar.bz2 2. ์ต๊ทผ ๋ง๋ ๋๋ ํฐ๋ฆฌ๋ก ๋ณ๊ฒฝํ ํ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . cd fastlinq- make clean; make install qed ๋ฐ qede ๋๋ผ์ด๋ฒ๊ฐ ๋ค์ ๊ฒฝ๋ก์ ์ค์น๋ฉ๋๋ค . SLES ์ ๊ฒฝ์ฐ : /lib/modules//updates/qlgc-fastlinq RHEL ์ ๊ฒฝ์ฐ : /lib/modules//extra/qlgc-fastlinq 3. ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํด ํ
์คํธํฉ๋๋ค ( ํ์ํ ๊ฒฝ์ฐ ๋จผ์ ๊ธฐ์กด ๋๋ผ์ด๋ฒ๋ฅผ ์ธ๋ก ๋ํจ ).
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 5. RDMA ์ฌ์ฉ์ ๊ณต๊ฐ ์์ฉํ๋ก๊ทธ๋จ๊ณผ ์๋ํ๋ libqedr ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ค์นํฉ ๋๋ค . libqedr RPM ์ ์ธ๋ฐ์ค OFED ์์๋ง ์ฌ์ฉํ ์ ์์ต๋๋ค . ๋ค์ ๋ช
๋ น ์ ์คํํฉ๋๋ค . rpm โivh qlgc-libqedr-..rpm 6. libqedr ์ฌ์ฉ์ ๊ณต๊ฐ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ๋น๋ํ์ฌ ์ค์นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ ๋๋ค . 'make libqedr_install' 7. ๋ค์๊ณผ ๊ฐ์ด ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํ์ฌ ํ
์คํธํฉ๋๋ค . modprobe qedr make install_libeqdr Linux ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ํ 3-2 ์๋ qede ๋๋ผ์ด๋ฒ์ ๋ํ ์ต์
๋งค๊ฐ๋ณ์๊ฐ ์ค๋ช
๋์ด ์์ต๋๋ค . ํ 3-2. qede ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ๋งค๊ฐ๋ณ์ ์ค๋ช
debug ethtool -s msglvl ๊ณผ ์ ์ฌํ ๋๋ผ์ด๋ฒ ์ธ๋ถ ์ ๋ณด ํ์ ์์ค์ ์ ์ดํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ ํ 3-3 ์๋ qed ๋ฐ qede Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ์ด ๋์ ์์ต๋๋ค . ํ 3-3. Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ qed ๋๋ผ์ด๋ฒ ๊ธฐ๋ณธ๊ฐ qede ๋๋ผ์ด๋ฒ ๊ธฐ๋ณธ๊ฐ Speed ๋ณด๊ธ๋ ๋ชจ๋ ์๋ ์๋ ํ์ ๋ณด๊ธ๋ ๋ชจ๋ ์๋ ์๋ ํ์ MSI/MSI-X ํ์ฑํ๋จ ํ์ฑํ๋จ ์์
Flow Control โ ๋ณด๊ธ๋ ์์ ๋ฐ ์ ์ก ์๋ ํ์ MTU โ 1500( ๋ฒ์ : 46โ9600) Rx Ring Size โ 1000 Tx Ring Size โ 4078( ๋ฒ์ : 128โ8191) Coalesce Rx Microseconds โ 24( ๋ฒ์ : 0โ255) Coalesce Tx Microseconds โ 48 TSO โ ํ์ฑํ๋จ Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง๋ฅผ ์ธ๋ถ ๋ ๋ฒจ๊น์ง ์ค์ ํ๋ ค๋ฉด ๋ค์ ์ค ํ ๊ฐ์ง ๋ช
๋ น์ ์คํ ํ์ญ์์ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๏ฎ ์ด๋ํฐ ์์ฑ ๊ด๋ฆฌ ๏ฎ ์ ์ ๊ด๋ฆฌ ์ต์
์ค์ Windows ๋๋ผ์ด๋ฒ ์ค์น DUP(Dell ์
๋ฐ์ดํธ ํจํค์ง ) ๋ฅผ ์ฌ์ฉํ์ฌ Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด๋ฅผ ์ค์นํฉ ๋๋ค . ๏ฎ GUI ์์ DUP ์คํ ๏ฎ DUP ์ค์น ์ต์
๏ฎ DUP ์ค์น ์์ GUI ์์ DUP ์คํ GUI ์์ DUP ๋ฅผ ์คํํ๋ ค๋ฉด 1. Dell ์
๋ฐ์ดํธ ํจํค์ง ํ์ผ์ ๋ํ๋ด๋ ์์ด์ฝ์ ๋ ๋ฒ ํด๋ฆญํฉ๋๋ค . ์ฃผ Dell ์
๋ฐ์ดํธ ํจํค์ง์ ์ค์ ํ์ผ๋ช
์ ๋ค๋ฆ
๋๋ค . 2. Dell ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ ( ๊ทธ๋ฆผ 3-1) ์์ Install( ์ค์น ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-1.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 3. QLogic Super InstallerโInstallShieldยฎ ๋ง๋ฒ์ฌ์ Welcome( ์์ ) ์ฐฝ ( ๊ทธ๋ฆผ 3-2) ์์ Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-2. QLogic InstallShield ๋ง๋ฒ์ฌ : ์์ ์ฐฝ 4. ๋ง๋ฒ์ฌ์ ๋ผ์ด์ ์ค ๊ณ์ฝ ์ฐฝ ( ๊ทธ๋ฆผ 3-3) ์์ ๋ค์์ ์ํํฉ๋๋ค . a. QLogic ์ต์ข
์ฌ์ฉ์ ์ํํธ์จ์ด ๋ผ์ด์ ์ค ๊ณ์ฝ์ ์ฝ์ต๋๋ค . b. ๊ณ์ํ๋ ค๋ฉด I accept the terms in the license agreement( ๋์ํจ ) ๋ฅผ ์ ํํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น c. Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-3. QLogic InstallShield ๋ง๋ฒ์ฌ : License Agreement( ์ฌ์ฉ๊ถ ๊ณ์ฝ ) ์ฐฝ 5. ๋ค์๊ณผ ๊ฐ์ด ๋ง๋ฒ์ฌ์ ์ค์ ์ ํ ์ฐฝ ( ๊ทธ๋ฆผ 3-4) ์ ์๋ฃํฉ๋๋ค . a. b. ๋ค์ ์ค์ ์ ํ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฎ ๋ชจ๋ ํ๋ก๊ทธ๋จ ๊ธฐ๋ฅ์ ์ค์นํ๋ ค๋ฉด Complete( ์ ์ฒด ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๏ฎ ์ค์นํ ๊ธฐ๋ฅ์ ์ง์ ์ ํํ๋ ค๋ฉด Custom( ์ฌ์ฉ์ ์ง์ ) ์ ํด๋ฆญํฉ ๋๋ค . ๊ณ์ํ๋ ค๋ฉด Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น Complete( ์ ์ฒด ) ๋ฅผ ํด๋ฆญํ ๊ฒฝ์ฐ ๋จ๊ณ 6b ๋ก ๋ฐ๋ก ์ด๋ํ์ญ์์ค . ๊ทธ๋ฆผ 3-4. InstallShield ๋ง๋ฒ์ฌ : Setup Type( ์ค์ ์ ํ ) ์ฐฝ 6. ๋จ๊ณ 5 ์์ Custom( ์ฌ์ฉ์ ์ง์ ) ์ ์ ํํ ๊ฒฝ์ฐ ๋ค์๊ณผ ๊ฐ์ด ์ฌ์ฉ์ ์ง์ ์ค์ ์ฐฝ ( ๊ทธ๋ฆผ 3-5) ์ ์๋ฃํฉ๋๋ค . a. ์ค์นํ ๊ธฐ๋ฅ์ ์ ํํ์ญ์์ค . ๊ธฐ๋ณธ์ ์ผ๋ก , ๋ชจ๋ ๊ธฐ๋ฅ์ด ์ ํ๋์ด ์์ต ๋๋ค. ํน์ ๊ธฐ๋ฅ์ ์ค์น ์ค์ ์ ๋ณ๊ฒฝํ๋ ค๋ฉด ๊ทธ ์์ ์์ด์ฝ์ ํด๋ฆญํ ํ ๋ค์ ์ต์
์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฎ This feature will be installed on the local hard drive(์ด ๊ธฐ๋ฅ์ ๋ก์ปฌ ํ๋ ๋๋ผ์ด๋ธ์ ์ค์น๋ฉ๋๋ค .) โ ํด๋น ๊ธฐ๋ฅ์ ํ์ ๊ธฐ๋ฅ์ ์๋ฌด๋ฐ ์ํฅ๋ ๋ฏธ์น์ง ์๊ณ ๊ทธ ๊ธฐ๋ฅ์ ์ค์นํ๊ณ ์ ํ ๋ ์ ํํฉ๋ ๋ค.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น b. ๊ณ์ํ๋ ค๋ฉด Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-5. InstallShield ๋ง๋ฒ์ฌ : Custom Setup( ์ฌ์ฉ์ ์ง์ ์ค์ ) ์ฐฝ 7. InstallShield ๋ง๋ฒ์ฌ์ ์ค์น ์ค๋น ์ฐฝ ( ๊ทธ๋ฆผ 3-6) ์์ Install( ์ค์น ) ์ ํด๋ฆญํฉ ๋๋ค . InstallShield ๋ง๋ฒ์ฌ๊ฐ QLogic ์ด๋ํฐ ๋๋ผ์ด๋ฒ ๋ฐ ๊ด๋ฆฌ ์ํํธ์จ์ด ์ค ์น ํ๋ก๊ทธ๋จ์ ์ค์นํฉ๋๋ค . ๊ทธ๋ฆผ 3-6.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 8. ์ค์น๊ฐ ์๋ฃ๋๋ฉด InstallShield ๋ง๋ฒ์ฌ ์๋ฃ ๋ํ ์์๊ฐ ๋ํ๋ฉ๋๋ค ( ๊ทธ๋ฆผ 3-7). Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํ์ฌ ์ค์น ํ๋ก๊ทธ๋จ์ ๋ซ์ต๋๋ค . ๊ทธ๋ฆผ 3-7. InstallShield ๋ง๋ฒ์ฌ : Completed( ์๋ฃ ) ์ฐฝ 9. Dell Update Package(Dell ์
๋ฐ์ดํธ ํจํค์ง ) ์ฐฝ ( ๊ทธ๋ฆผ 3-8) ์์ "Update installer operation was successful"( ์ค์น ํ๋ก๊ทธ๋จ ์
๋ฐ์ดํธ ์์
์ฑ๊ณต ) ์ ์๋ฃ๋์์์ ํ์ํฉ๋๋ค . ๏ฑ (์ ํ ์ฌํญ) ๋ก๊ทธ ํ์ผ์ ์ด๋ ค๋ฉด View Installation Log(์ค์น ๋ก๊ทธ ๋ณด๊ธฐ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๋ก๊ทธ ํ์ผ์๋ DUP ์ค์น์ ์งํ๋ฅ , ์ค์น๋ ์ด์ ๋ฒ์ , ์ค๋ฅ ๋ฉ์์ง ๋ฐ ์ค์น์ ๋ํ ๊ธฐํ ์ ๋ณด๊ฐ ํ์๋ฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๏ฑ ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ์ ๋ซ์ผ๋ ค๋ฉด CLOSE( ๋ซ๊ธฐ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-8. Dell ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ DUP ์ค์น ์ต์
DUP ์ค์น ๋์์ ์ฌ์ฉ์ ์ง์ ํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น ํ ์ต์
์ ์ฌ์ฉํ์ญ์์ค . ๏ฎ ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ง ๋๋ ํฐ๋ฆฌ๋ก ์ถ์ถํ๋ ค๋ ๊ฒฝ์ฐ : /drivers= ์ฃผ ์ด ๋ช
๋ น์ ์ฌ์ฉํ๋ ค๋ฉด /s ์ต์
์ด ํ์ํฉ๋๋ค . ๏ฎ ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ง ์ค์น ๋๋ ์
๋ฐ์ดํธํ๋ ค๋ ๊ฒฝ์ฐ : /driveronly ์ฃผ ์ด ๋ช
๋ น์ ์ฌ์ฉํ๋ ค๋ฉด /s ์ต์
์ด ํ์ํฉ๋๋ค . ๏ฎ (๊ณ ๊ธ) /passthrough ์ต์
์ ์ฌ์ฉํด DUP์ QLogic ์ค์น ์ํํธ์จ์ด์ ์ง์ /passthrough ๋ค์ ๋ชจ๋ ํ
์คํธ๋ฅผ ๋ณด๋
๋๋ค . ์ด ๋ชจ๋์๋ ์ ๊ณต๋ GUI ๊ฐ ํ ์๋์ง ์์ง๋ง QLogic ์ํํธ์จ์ด์ GUI ์ผ ํ์๋ ์์ต๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ์ฃผ ์ด ๋ช
๋ น์ ์ฌ์ฉํ๋ ค๋ฉด /s ์ต์
์ด ํ์ํฉ๋๋ค . DUP ์ค์น ์์ ๋ค์ ์์ ์์๋ ์ค์น ์ต์
์ฌ์ฉ ๋ฐฉ๋ฒ์ ๋ณด์ฌ์ค๋๋ค . ์์คํ
์ ์๋์ผ๋ก ์
๋ฐ์ดํธํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s ์
๋ฐ์ดํธ ๋ด์ฉ์ C:\mydir\ ๋๋ ํฐ๋ฆฌ๋ก ์ถ์ถํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s /e=C:\mydir ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ฅผ C:\mydir\ ๋๋ ํฐ๋ฆฌ๋ก ์ถ์ถํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s /drivers=C:\mydir ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ง ์ค์นํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s /driveronly ๊ธฐ๋ณธ ๋ก๊ทธ ์์น์์ C:\my path with spaces\log.txt ๋ก ๋ณ๊ฒฝํ๋ ค๋ ๊ฒฝ์ฐ : .exe /l="C:\my path with spaces\log.txt" Windows ๋๋ผ์ด๋ฒ ์ ๊ฑฐ Windows ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด 1.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 3. Advanced( ๊ณ ๊ธ ) ํ์ด์ง ( ๊ทธ๋ฆผ 3-9) ์์ Property( ์์ฑ ) ์๋์ ํญ๋ชฉ์ ์ ํํ ๋ค์ ํ์์ ๋ฐ๋ผ ๊ทธ ํญ๋ชฉ์ ๋ํ Value( ๊ฐ ) ๋ฅผ ๋ณ๊ฒฝํฉ๋๋ค . ๊ทธ๋ฆผ 3-9.
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ์ ์ ๊ด๋ฆฌ ์ต์
์ค์ ์ ์ ๊ด๋ฆฌ ์ต์
์ ์ค์ ํ์ฌ ์ด์ ์ฒด์ ๊ฐ ์ปจํธ๋กค๋ฌ๋ฅผ ๊บผ์ ์ ์ ํ๋๋ก ํ๊ฑฐ๋ ์ปจํธ ๋กค๋ฌ๊ฐ ์ปดํจํฐ์ ์ ์ ๋ชจ๋๋ฅผ ํด์ ํ๋๋ก ํ ์ ์์ต๋๋ค . ์ฅ์น๊ฐ ๋ค๋ฅธ ์์
( ์ : ํธ์ถ ์๋น์ค ) ์ ์ํํ๊ณ ์๋ค๋ฉด ์ด์ ์ฒด์ ๋ ํด๋น ์ฅ์น๋ฅผ ์ข
๋ฃํ์ง ์์ต๋๋ค . ์ด ์ ์ฒด์ ๋ ์์คํ
์ด ์ต๋ ์ ์ ๋ชจ๋๋ฅผ ์๋ํ ๊ฒฝ์ฐ์๋ง ๊ฐ๋ฅํ ๋ชจ๋ ์ฅ์น๋ฅผ ์ข
๋ฃํ ๋ ค ํฉ๋๋ค . ์ด๋ํฐ๊ฐ ํญ์ ์ ์์ด ์ผ์ ธ ์๊ฒ ํ๋ ค๋ฉด Allow the computer to turn off the device to save power( ์ ์์ ์ ์ฝํ๊ธฐ ์ํด ์ปดํจํฐ๊ฐ ์ด ์ฅ์น๋ฅผ ๋ ์ ์ ์ ) ํ์ธ๋์ ์ ํํ์ง ๋ง์ญ์์ค ( ๊ทธ๋ฆผ 3-10). ๊ทธ๋ฆผ 3-10. ์ ์ ๊ด๋ฆฌ ์ต์
์ฃผ ๏ฎ ์ ์ ๊ด๋ฆฌ ํ์ด์ง๋ ์ ์ ๊ด๋ฆฌ๋ฅผ ์ง์ํ๋ ์๋ฒ์๋ง ์ฌ์ฉํ ์ ์์ต๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๏ฎ ๏ฎ VMware ๋๋ผ์ด๋ฒ ๋งค๊ฐ๋ณ์ ๊ธฐ๋ณธ๊ฐ VMware ๋๋ผ์ด๋ฒ ์ ๊ฑฐ VMware ๋๋ผ์ด๋ฒ ๋ฐ ๋๋ผ์ด๋ฒ ํจํค์ง ํ 3-4 ์๋ ํ๋กํ ์ฝ์ ๋ํ VMware ESXi ๋๋ผ์ด๋ฒ๊ฐ ๋์ด๋์ด ์์ต๋๋ค . ํ 3-4. VMware ๋๋ผ์ด๋ฒ VMware ๋๋ผ์ด๋ฒ a ์ค๋ช
qedentv ๋ค์ดํฐ๋ธ ๋คํธ์ํน ๋๋ผ์ด๋ฒ qedrntv Native RDMA-Offload(RoCE ๋ฐ RoCEv2) ๋๋ผ์ด๋ฒ a qedf ๋ค์ดํฐ๋ธ FCoE-Offload ๋๋ผ์ด๋ฒ qedil ๋ ๊ฑฐ์ iSCSI-Offload ๋๋ผ์ด๋ฒ ์ด๋ฒ ๋ฆด๋ฆฌ์ค์๋ ์ธ์ฆ RoCE ๋๋ผ์ด๋ฒ๊ฐ ํฌํจ๋์ด ์์ง ์์ต๋๋ค . ์ธ์ฆ๋์ง ์์ ๋๋ผ์ด ๋ฒ๋ฅผ ๋ฏธ๋ฆฌ๋ณด๊ธฐ๋ก ๋จผ์ ์ฌ์ฉํ ์๋ ์์ต๋๋ค . ESXi ๋๋ผ์ด๋ฒ๋ ๋ณ๋๋ก ์ธ๊ธ๋ ๊ฒฝ์ฐ๋ฅผ ์ ์ธํ๊ณ ๊ฐ๋ณ ๋๋ผ์ด๋ฒ ํจํค์ง๋ก ํฌํจ๋ ๊ณ ํจ๊ป ๋ฒ๋ค๋์ง ์์ต๋๋ค . ํ 3-5 ์๋ ESXi ๋ฒ์ ๊ณผ ํด๋น ๋๋ผ์ด๋ฒ ๋ฒ์ ์ด ๋์ด ๋์ด ์์ต๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๋ค์ ์ค ํ๋๋ฅผ ์ฌ์ฉํ์ฌ ๊ฐ๋ณ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๏ฎ ํ์ค ESXi ํจํค์ง ์ค์น ๋ช
๋ น (VMware ๋๋ผ์ด๋ฒ ์ค์น ์ฐธ์กฐ ) ๏ฎ ๊ฐ๋ณ ๋๋ผ์ด๋ฒ ์ถ๊ฐ ์ ๋ณด ํ์ผ์ ๋์ ์๋ ์ ์ฐจ ๏ฎ ๋ค์ VMware KB ๋ฌธ์์ ๋์ ์๋ ์ ์ฐจ : https://kb.vmware.com/selfservice/microsites/search.do?language=en_US& cmd=displayKC&externalId=2137853 NIC ๋๋ผ์ด๋ฒ๋ฅผ ๋จผ์ ์ค์นํ ํ ์คํ ๋ฆฌ์ง ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํด์ผ ํฉ๋๋ค . VMware ๋๋ผ์ด๋ฒ ์ค์น ๋๋ผ์ด๋ฒ ์์ถ ํ์ผ์ ์ฌ์ฉํ์ฌ ์ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๊ฑฐ๋ ๊ธฐ์กด ๋๋ผ์ด๋ฒ๋ฅผ ์
๋ฐ ์ดํธํ ์ ์์ต๋๋ค . ๊ฐ์ ๋๋ผ์ด๋ฒ ์์ถ ํ์ผ์์ ์ ์ฒด ๋๋ผ์ด๋ฒ ์ธํธ๋ฅผ ์ค์นํด ์ผ ํฉ๋๋ค . ์ฌ๋ฌ ์์ถ ํ์ผ์ ๋๋ผ์ด๋ฒ๋ฅผ ํผํฉํ๋ฉด ๋ฌธ์ ๊ฐ ๋ฐ์ํฉ๋๋ค . VMware ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๋ ค๋ฉด 1.
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 6. ๋ค์ ์ค์น ์ต์
์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ ์ต์
1: CLI ๋๋ VMware Update Manager(VUM) ๋ฅผ ์ฌ์ฉํ์ฌ .vib ๋ฅผ ESX ์๋ฒ์ ์ง์ ์ค์นํฉ๋๋ค . ๏ฎ CLI ๋ฅผ ์ฌ์ฉํ์ฌ .vib ํ์ผ์ ์ค์นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋ ๋ค . ์ ์ฒด .vib ํ์ผ ๊ฒฝ๋ก๋ฅผ ์ง์ ํด์ผ ํฉ๋๋ค . # esxcli software vib install -v /tmp/qedentv-1.0.3.11-1OEM.550.0.0.1331820.x86_64.vib ๏ฎ VUM ์ ์ฌ์ฉํ์ฌ .vib ํ์ผ์ ์ค์นํ๋ ค๋ฉด ๋ค์ ๊ธฐ์ ์๋ฃ๋ฅผ ์ฐธ ์กฐํ์ญ์์ค . VMware vCenter Update Manager 4.x ๋ฐ 5.x ๋ฅผ ์ฌ์ฉํ ESXi/ESX ํธ์คํธ ์
๋ฐ์ดํธ (1019545) ๏ฑ ์ต์
2: ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ ๊ฐ๋ณ VIB ํ์ผ์ ๋ชจ๋ ํ ๋ฒ์ ์ค์นํฉ๋ ๋ค.
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ํ 3-6. VMware ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ( ๊ณ์ ) ๋งค๊ฐ๋ณ์ num_queues ์ค๋ช
TX/RX ๋๊ธฐ์ด ํ์ด์ ์๋ฅผ ์ง์ ํฉ๋๋ค . num_queues ๋ 1~11 ๋๋ ๋ค์ ์ค ํ๋์ผ ์ ์์ต๋๋ค . ๏ฎ โ1 ์ ๋๋ผ์ด๋ฒ์์ ์ต์ ์ ๋๊ธฐ์ด ํ์ด ์๋ฅผ ๊ฒฐ์ ํ ์ ์๋๋ก ํ์ฉํฉ๋ ๋ค ( ๊ธฐ๋ณธ๊ฐ ). ๏ฎ 0 ์ ๊ธฐ๋ณธ ๋๊ธฐ์ด์ ์ฌ์ฉํฉ๋๋ค . ๋ค์ค ํฌํธ ๋๋ ๋ค์ค ๊ธฐ๋ฅ ๊ตฌ์ฑ์ ๋ํด ์ฝค๋ง๋ก ๊ตฌ๋ถ๋๋ ๋ค์ค ๊ฐ์ ์ง์ ํ ์ ์์ต๋๋ค . multi_rx_filters ๊ธฐ๋ณธ ๋๊ธฐ์ด์ ์ ์ธํ๊ณ RX ๋๊ธฐ์ด๋น RX ํํฐ์ ์๋ฅผ ์ง์ ํฉ๋๋ค . multi_rx_filters ๋ 1~4 ๋๋ ๋ค์ ๊ฐ ์ค ํ๋์ผ ์ ์์ต๋๋ค . ๏ฎ โ1 ์ ๋๊ธฐ์ด๋น ๊ธฐ๋ณธ ๊ฐ์์ RX ํํฐ๋ฅผ ์ฌ์ฉํฉ๋๋ค . ๏ฎ 0 ์ RX ํํฐ๋ฅผ ๋นํ์ฑํํฉ๋๋ค . disable_tpa TPA(LRO) ๊ธฐ๋ฅ์ ํ์ฑํ (0) ํ๊ฑฐ๋ ๋นํ์ฑํ (1) ํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ํ 3-6. VMware ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ( ๊ณ์ ) ๋งค๊ฐ๋ณ์ ์ค๋ช
vxlan_filter_en ์ธ๋ถ MAC, ๋ด๋ถ MAC ๋ฐ VNI(VXLAN ๋คํธ์ํฌ ) ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํน์ ๋๊ธฐ์ด์ ๋ํ ํธ๋ํฝ๊ณผ ์ง์ ์ผ์นํ๋๋ก VXLAN ํํฐ๋ง์ ํ์ฑํ (1) ํ๊ฑฐ๋ ๋นํ์ฑ ํ (0) ํฉ๋๋ค . ๊ธฐ๋ณธ๊ฐ์ vxlan_filter_en=1 ์
๋๋ค . ๋ค์ค ํฌํธ ๋๋ ๋ค ์ค ๊ธฐ๋ฅ ๊ตฌ์ฑ์ ๋ํด ์ฝค๋ง๋ก ๊ตฌ๋ถ๋๋ ๋ค์ค ๊ฐ์ ์ง์ ํ ์ ์์ต๋๋ค . enable_vxlan_offld VXLAN ํฐ๋ ํธ๋ํฝ ์ฒดํฌ์ฌ ์คํ๋ก๋์ TSO(TCP ์ธ๊ทธ๋จผํธํ ์คํ๋ก๋ ) ๊ธฐ ๋ฅ์ ํ์ฑํ (1) ํ๊ฑฐ๋ ๋นํ์ฑํ (0) ํฉ๋๋ค . ๊ธฐ๋ณธ๊ฐ์ enable_vxlan_offld=1 ์
๋๋ค . ๋ค์ค ํฌํธ ๋๋ ๋ค์ค ๊ธฐ๋ฅ ๊ตฌ์ฑ์ ๋ํด ์ฝค ๋ง๋ก ๊ตฌ๋ถ๋๋ ๋ค์ค ๊ฐ์ ์ง์ ํ ์ ์์ต๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น VMware ๋๋ผ์ด๋ฒ ์ ๊ฑฐ .vib ํ์ผ (qedentv) ์ ์ ๊ฑฐํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . # esxcli software vib remove --vibname qedentv ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค .
4 ํ์จ์ด ์
๊ทธ๋ ์ด๋ ์ด ์ฅ์์๋ DUP(Dell ์
๋ฐ์ดํธ ํจํค์ง ) ๋ฅผ ์ฌ์ฉํ ํ์จ์ด ์
๊ทธ๋ ์ด๋์ ๋ํ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ํ์จ์ด DUP ๋ ํ๋์ ์
๋ฐ์ดํธ ์ ํธ๋ฆฌํฐ๋ก๋ง ์ฌ์ฉํด์ผ ํ๋ฉฐ , ์ด๋ํฐ ๊ตฌ์ฑ ์ฉ๋ ๋ก ์ฌ์ฉํด์๋ ์ ๋ฉ๋๋ค . ์คํ ํ์ผ์ ๋ ๋ฒ ํด๋ฆญํ์ฌ ํ์จ์ด DUP ๋ฅผ ์คํํ ์ ์์ต๋๋ค . ๋๋ ์ง์๋๋ ์ฌ๋ฌ ๊ฐ์ง ๋ช
๋ น ํ ์ต์
์ผ๋ก ๋ช
๋ น ํ์์ ํ์จ์ด DUP ๋ฅผ ์คํํ ์๋ ์์ต๋๋ค . ๏ฎ ๋ ๋ฒ ํด๋ฆญ์ผ๋ก DUP ์คํ ๏ฎ 37 ํ์ด์ง์ " ๋ช
๋ น ํ์์ DUP ์คํ " ๏ฎ 38 ํ์ด์ง์ ".bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ " (Linux ๋ง ํด๋น ) ๋ ๋ฒ ํด๋ฆญ์ผ๋ก DUP ์คํ ์คํ ํ์ผ์ ๋ ๋ฒ ํด๋ฆญํ์ฌ ํ์จ์ด DUP ๋ฅผ ์คํํ๋ ค๋ฉด 1. ํ์จ์ด Dell ์
๋ฐ์ดํธ ํจํค์ง ํ์ผ์ ๋ํ๋ด๋ ์์ด์ฝ์ ๋ ๋ฒ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 4-1 ์์์ ๊ฐ์ด Dell ์
๋ฐ์ดํธ ํจํค์ง ์์ ํ๋ฉด์ด ๋ํ๋ฉ๋๋ค . ๊ณ์ํ ๋ ค๋ฉด Install( ์ค์น ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 4-1.
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ ๋ ๋ฒ ํด๋ฆญ์ผ๋ก DUP ์คํ 2. ํ๋ฉด์ ๋ํ๋๋ ์ง์๋ฅผ ๋ฐ๋ฆ
๋๋ค . ๊ทธ๋ฆผ 4-2 ์ ๊ฐ์ด Warning( ๊ฒฝ๊ณ ) ๋ํ ์ ์์์ Yes( ์ ) ๋ฅผ ํด๋ฆญํด ์ค์น๋ฅผ ๊ณ์ํฉ๋๋ค . ๊ทธ๋ฆผ 4-2.
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ ๋ ๋ฒ ํด๋ฆญ์ผ๋ก DUP ์คํ ๊ทธ๋ฆผ 4-3 ์ ํ์๋ ๋๋ก ์ค์น ํ๋ก๊ทธ๋จ์ด ์ ํ์จ์ด๋ฅผ ๋ก๋ ์ค์์ ๋ํ๋
๋ ๋ค. ๊ทธ๋ฆผ 4-3. Dell ์
๋ฐ์ดํธ ํจํค์ง : ์ ํ์จ์ด ๋ก๋ ์๋ฃ๋๋ฉด ๊ทธ๋ฆผ 4-4 ์ ํ์๋ ๋๋ก ์ค์น ํ๋ก๊ทธ๋จ์ด ์ค์น ๊ฒฐ๊ณผ๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 4-4.
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ ๋ช
๋ น ํ์์ DUP ์คํ 3. Yes( ์ ) ๋ฅผ ํด๋ฆญํ์ฌ ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค . 4. ๊ทธ๋ฆผ 4-5 ์ ํ์๋ ๋๋ก Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํ์ฌ ์ค์น๋ฅผ ์๋ฃํฉ๋๋ค . ๊ทธ๋ฆผ 4-5. Dell ์
๋ฐ์ดํธ ํจํค์ง : ์ค์น ์๋ฃ ๋ช
๋ น ํ์์ DUP ์คํ ์ต์
์ด ์ง์ ๋์ด ์์ง ์์ ์ํ๋ก ๋ช
๋ น ํ์์ ํ์จ์ด DUP ๋ฅผ ์คํํ๋ฉด DUP ์ ์ด์ฝ์ ๋ ๋ฒ ํด๋ฆญํ๋ ๊ฒฝ์ฐ์ ๋์ผํ ๋์์ด ์ํ๋ฉ๋๋ค . DUP ์ ์ค์ ํ์ผ ์ด๋ฆ ์ ๋ค๋ฆ
๋๋ค . ๋ช
๋ น ํ์์ ํ์จ์ด DUP ๋ฅผ ์คํํ๋ ค๋ฉด ๏ฎ ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . C:\> Network_Firmware_2T12N_WN32__X16.
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ .bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ ๊ทธ๋ฆผ 4-6 ์์๋ Dell ์
๋ฐ์ดํธ ํจํค์ง ์ค์น๋ฅผ ์ฌ์ฉ์ ์ง์ ํ๋ ๋ฐ ์ฌ์ฉํ ์ ์๋ ์ต์
์ ํ์ํฉ๋๋ค . ๊ทธ๋ฆผ 4-6. DUP ๋ช
๋ น ํ ์ต์
.bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ ๋ค์ ์ ์ฐจ๋ Linux OS ์์๋ง ์ํํ ์ ์์ต๋๋ค . .bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ๋ฅผ ์
๋ฐ์ดํธํ๋ ค๋ฉด 1. Network_Firmware_NJCX1_LN_X.Y.Z.BIN ํ์ผ์ ํ
์คํธ ์ค์ธ ์์คํ
(SUT) ์ผ๋ก ๋ณต์ฌํฉ๋๋ค . 2. ๋ค์๊ณผ ๊ฐ์ด ํ์ผ ์ ํ์ ์คํ ํ์ผ๋ก ๋ณ๊ฒฝํฉ๋๋ค . chmod 777 Network_Firmware_NJCX1_LN_X.Y.Z.BIN 3. ์
๋ฐ์ดํธ ํ๋ก์ธ์ค๋ฅผ ์์ํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . ./Network_Firmware_NJCX1_LN_X.Y.Z.BIN 4. ํ์จ์ด๊ฐ ์
๋ฐ์ดํธ๋๋ฉด ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค .
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ .bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ DUP ์
๋ฐ์ดํธ ๋์ค SUT ๋ก๋ถํฐ ์ถ๋ ฅํ ์ : ./Network_Firmware_NJCX1_LN_08.07.26.BIN Collecting inventory... Running validation... BCM57810 10 Gigabit Ethernet rev 10 (p2p1) The version of this Update Package is the same as the currently installed version. Software application name: BCM57810 10 Gigabit Ethernet rev 10 (p2p1) Package version: 08.07.26 Installed version: 08.07.
5 ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํธ์คํธ ๋ถํ
ํ๋ก์ธ์ค ์ค์ HII(Human Infrastructure Interface) ์์ฉํ๋ก๊ทธ๋จ์ ์ฌ ์ฉํด ์ด๋ํฐ ๊ด๋ฆฌ ์์
์ ์ํํ๊ณ ์ผ์ ์ ์งํ ์ ์์ต๋๋ค . ์ด๋ฌํ ์์
์๋ ๋ค ์์ด ํฌํจ๋ฉ๋๋ค . ๏ฎ 41 ํ์ด์ง์ " ์์ํ๊ธฐ " ๏ฎ 44 ํ์ด์ง์ " ํ์จ์ด ์ด๋ฏธ์ง ์์ฑ ํ์ " ๏ฎ 45 ํ์ด์ง์ " ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ " ๏ฎ 46 ํ์ด์ง์ "NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ " ๏ฎ 49 ํ์ด์ง์ "Data Center Bridging ๊ตฌ์ฑ " ๏ฎ 51 ํ์ด์ง์ " ํํฐ์
๊ตฌ์ฑ " ์ฃผ ์ด ์ฅ์ ๋์ค๋ HII ์คํฌ๋ฆฐ์ท์ ๋ํ์ ์ธ ์ฌ๋ก๋ก , ์ฌ์ฉ์์ ์์คํ
์ ๋ํ๋ ๋ ํ๋ฉด๊ณผ ์ผ์นํ์ง ์์ ์ ์์ต๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์์ํ๊ธฐ ์์ํ๊ธฐ HII ์์ฉํ๋ก๊ทธ๋จ์ ์์ํ๋ ค๋ฉด 1. ํ๋ซํผ์ System Setup( ์์คํ
์ค์ ) ์ฐฝ์ ์ฝ๋๋ค . ์์คํ
์ค์ ์ ์์ํ ๋ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์์คํ
์ฌ์ฉ ์ค๋ช
์๋ฅผ ์ฐธ์กฐํ์ญ์์ค . 2. System Setup( ์์คํ
์ค์ ) ์ฐฝ ( ๊ทธ๋ฆผ 5-1) ์์ Device Settings( ์ฅ์น ์ค์ ) ๋ฅผ ์ ํํ ํ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 5-1. ์์คํ
์ค์ 3. Device Settings( ์ฅ์น ์ค์ ) ์ฐฝ ( ๊ทธ๋ฆผ 5-2) ์์ ๊ตฌ์ฑํ๋ ค๋ QL45212 Adapter ํฌํธ๋ฅผ ์ ํํ ํ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 5-2.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์์ํ๊ธฐ ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ( ๊ทธ๋ฆผ 5-3) ์๋ ๋ถํ ๋ชจ๋๋ฅผ ์ค์ ํ ์ ์๋ ์ด๋ํฐ ๊ด๋ฆฌ ์ต์
์ด ์์ต๋๋ค . ๊ทธ๋ฆผ 5-3. ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง 4. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ์์ ๊ทธ๋ฆผ 5-4 ์ ๊ฐ์ด Partitioning Mode( ๋ถํ ๋ชจ๋ ) ๋ฅผ NPAR ๋ก ์ค์ ํ์ฌ NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ์ฑ ) ์ต์
์ ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง (Main Configuration Page) ์ ์ถ๊ฐํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์์ํ๊ธฐ ์ฃผ NPAR ์ ์ต๋ ์๋๊ฐ 1G ์ธ ํฌํธ์์ ์ด์ฉํ ์ ์์ต๋๋ค . ๊ทธ๋ฆผ 5-4. ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง์์ Partitioning Mode ๋ฅผ NPAR ๋ก ์ค์ ๊ทธ๋ฆผ 5-5. ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง์์ NPAR Partitioning Mode ์ค์ ๊ทธ๋ฆผ 5-3 ๋ฐ ๊ทธ๋ฆผ 5-4 ์์ Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์ ๊ฐ ์ต์
์ ๋ค์๊ณผ ๊ฐ์ด ํ์๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํ์จ์ด ์ด๋ฏธ์ง ์์ฑ ํ์ ๏ฎ Data Center Bridging (DCB) Settings(DCB ์ค์ )(49 ํ์ด์ง์ "Data Center Bridging ๊ตฌ์ฑ " ์ฐธ์กฐ ) ๏ฎ NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ์ฑ )(Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง์์ NPAR ์ด ์ ํ๋์ด ์๋ ๊ฒฝ์ฐ ) (51 ํ์ด์ง์ " ํํฐ์
๊ตฌ์ฑ " ์ฐธ์กฐ ) ๊ทธ ๋ฐ์๋ Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์๋ ํ 5-1 ์ ๋์ด๋ ์ด ๋ํฐ ์์ฑ์ด ํ์๋ฉ๋๋ค . ํ 5-1.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ๏ฎ L2B Firmware Version(L2B ํ์จ์ด ๋ฒ์ ) ์ ๋ถํ
์ ์ํ NIC ์คํ๋ก๋ ํ์จ ์ด ๋ฒ์ ์
๋๋ค . ๊ทธ๋ฆผ 5-6. ํ์จ์ด ์ด๋ฏธ์ง ์์ฑ ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ์ ๋จ์ผ ๋ฃจํธ -I/O ๊ฐ์ํ (SR-IOV) ๋ฐ NIC ๋ถํ ํ์ฑํ์ NPAReP ํ์ฑํ ๋๋ ๋นํ์ฑํ๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ์ ์ํํ๋ ค๋ฉด Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ์ ์ ํํ ํ Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํ์ญ์์ค . ๊ทธ๋ฆผ 5-7 ์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง๋ฅผ ํ์ํ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 5-7.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ NIC ๋ถํ (NPAR), ๋จ์ผ ๋ฃจํธ ์
/ ์ถ๋ ฅ ๊ฐ์ํ (SR-IOV) ๋๋ ๋ ๋ค ํ์ฑํํ๋ ค๋ฉด 1. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง , 42 ํ์ด์ง์ ๊ทธ๋ฆผ 5-3) ์์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ์ ์ ํํ ๋ค์ Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-7) ์์ Virtualization Mode( ๊ฐ์ํ ๋ชจ๋ ) ๋ฅผ ํด๋ฆญํ ํ ๋ค์ ์ต์
์ค ํ๋๋ฅผ ์ ํํฉ ๋๋ค . 3. ๏ฑ NPAR ์ NPAR ์ ํ์ฑํํฉ๋๋ค . ๏ฑ SRIOV ๋ SR-IOV( ๋น๋ถํ ๊ฐ์ํ ) ๋ฅผ ํ์ฑํํฉ๋๋ค . ๏ฑ NPAR+SRIOV ๋ SR-IOV ์ ํจ๊ป NPAR ์ ํ์ฑํํฉ๋๋ค . ๏ฑ None( ์์ ) ์ ๋ชจ๋ ๊ฐ์ํ๋ฅผ ๋นํ์ฑํํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ๏ฎ ๏ฎ PXE Virtual LAN Mode(PXE ๊ฐ์ LAN ๋ชจ๋ ) Virtual LAN ID( ๊ฐ์ LAN ID) NIC ๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ NIC Configuration(NIC ๊ตฌ์ฑ , 42 ํ์ด์ง์ ๊ทธ๋ฆผ 5-3) ์ ์ ํํ ๋ค์ Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 5-8 ์ NIC Configuration(NIC ๊ตฌ์ฑ ) ํ์ด์ง๋ฅผ ํ์ํ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 5-8. NIC ๊ตฌ์ฑ 2. ๋ค์ Link Speed( ๋งํฌ ์๋ ) ์ต์
์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ์ ํํ๋ ๋งํฌ ์ ๋ ์ต์
์ด ๋ ๊ฐ์ ์ด๋ํฐ ํฌํธ ๋ชจ๋์ ์ ์ฉ๋ฉ๋๋ค . ์ฐ๊ฒฐ ์๋์ FEC(Forward Error Correction) ๊ฐ ์ฐ๊ฒฐ๋ ์ค์์น ๋๋ ์ฅ์น ํฌํธ์ ์ผ์นํด์ผ ํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ๏ฑ 5. 6. Fire Code๋ ๋งํฌ๊ฐ Fire Code FEC๋ฅผ ์ฌ์ฉํ๋๋ก ๊ตฌ์ฑ๋์ด ์๋ค๋ ๊ฒ์ ์๋ฏธํฉ๋๋ค . FEC ๋ถ๊ณ์ธต์ Clause 74 FEC ์ ์ ์ฌํ๊ฒ ์๋ํฉ๋๋ค . Boot Mode( ๋ถํ
๋ชจ๋ ) ์ผ ๋๋ ๋ค์ ๊ฐ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ PXE ๋ PXE ๋ถํ
์ ํ์ฑํํฉ๋๋ค . ๏ฑ Disabled(๋นํ์ฑํ)๋ ํ์ฌ ํฌํธ๊ฐ ์๊ฒฉ ๋ถํ
์์ค๋ก ์ฌ์ฉ๋๋ ๊ฒ์ ๋ฐฉ ์งํฉ๋๋ค . Virtual LAN Mode( ๊ฐ์ LAN ๋ชจ๋ ) ๋งค๊ฐ๋ณ์๋ PXE ์๊ฒฉ ์ค์น ๋ชจ๋์ผ ๋ ์ ์ฒด ํฌํธ์ ์ ์ฉ๋ฉ๋๋ค . PXE ์๊ฒฉ ์ค์น ๋ชจ๋๊ฐ ๋๋ ํ์๋ ๋ ์ด์ ์ ์ฉ๋ ์ง ์์ต๋๋ค . ๋ค์ VLAN ์ต์
์์ ํ ๊ฐ์ง๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ Enabled( ํ์ฑํ ) ๋ PXE ์๊ฒฉ ์ค์น ๋ชจ๋์ผ ๋ ํ์ฌ ํฌํธ์์ VLAN ๋ชจ ๋๋ฅผ ํ์ฑํํฉ๋๋ค . ๏ฑ Disabled( ๋นํ์ฑํ ) ๋ ํ์ฌ ํฌํธ์์ VLAN ๋ชจ๋๋ฅผ ๋นํ์ฑํํฉ๋๋ค . 7.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ Data Center Bridging ๊ตฌ์ฑ VLAN ์ ์ฌ์ฉํ๋๋ก ํฌํธ์ PXE ์๊ฒฉ ์ค์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ์ฃผ PXE ์๊ฒฉ ์ค์น๊ฐ ๋๋ ํ์๋ VLAN ์ ๋ ์ด์ ์ฌ์ฉํ์ง ์์ต๋๋ค . 1. Virtual LAN Mode( ๊ฐ์ LAN ๋ชจ๋ ) ๋ฅผ Enabled( ํ์ฑํ ) ๋ก ์ค์ ํฉ๋๋ค . 2. Virtual LAN ID( ๊ฐ์ LAN ID) ์์์ ์ฌ์ฉํ ์ซ์๋ฅผ ์
๋ ฅํฉ๋๋ค . 3. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 4. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค . Data Center Bridging ๊ตฌ์ฑ DCB(Data Center Bridging) ์ค์ ์ DCBX ํ๋กํ ์ฝ ๋ฐ RoCE ์ฐ์ ์์๋ก ๊ตฌ์ฑ๋ฉ ๋๋ค . DCB ์ค์ ์ ๊ตฌ์ฑํ๋ ค๋ฉด 1.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ Data Center Bridging ๊ตฌ์ฑ ๏ฑ 3 ์ ๋ฌด์์ค FCoE ํธ๋ํฝ์์ ์ฌ์ฉํ๋ ์ฐ์ ์์ ๋ฒํธ๋ฅผ ๋ํ๋
๋๋ค . ๏ฑ 4 ๋ ๋ฌด์์ค iSCSI-TLV over DCB ํธ๋ํฝ์์ ์ฌ์ฉํ๋ ์ฐ์ ์์ ๋ฒํธ ๋ฅผ ๋ํ๋
๋๋ค . ๏ฑ 1, 2, 5, 6 ๋ฐ 7 ์ RoCE ์ฉ๋๋ก ์ฌ์ฉ๋๋ DCB ํธ๋ํฝ ํด๋์ค์ ์ฐ์ ์ ์ ๋ฒํธ๋ฅผ ๋ํ๋
๋๋ค ์ด RoCE ์ ์ด ๋ฐฉ๋ฒ์ ์ฌ์ฉํ๋ ค๋ฉด ๊ฐ OS RoCE ์ค์ ์ง์นจ์ ๋ฐ๋ฅด์ญ์์ค . ๊ทธ๋ฆผ 5-9. ์์คํ
์ค์ : Data Center Bridging(DCB) ์ค์ 4. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 5. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค . ์ฃผ DCBX ๊ฐ ํ์ฑํ๋ ๋ ์ด๋ํฐ๋ ์์ค MAC ์ด๋๋ ์ค ์ญํ ์ ํ๋ ์ ์ฉ ์ ๋ ์บ์คํธ ์ฃผ์๋ฅผ ํฌํจํ LLDP(Link Layer Discovery Protocol) ํจํท์ ์ฃผ๊ธฐ์ ์ผ ๋ก ์ ์กํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ์ด๋ํฐ์์ ๊ฐ ํํฐ์
์ ๋ํ ๋์ญํญ ๋ฒ์๋ฅผ ๊ตฌ์ฑํ ์ ์์ต๋๋ค . ์ต๋ ๋ฐ ์ต์ ๋์ญํญ ํ ๋น์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ์ฑ ) ์ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . 2. Partitions Configuration( ํํฐ์
๊ตฌ์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-10) ์์ Global Bandwidth Allocation( ์ ์ญ ๋์ญํญ ํ ๋น ) ์ ์ ํํฉ๋๋ค . ๊ทธ๋ฆผ 5-10.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ๊ทธ๋ฆผ 5-11 ์ ํํฐ์
1 ์ ์ ์ญ ๋์ญํญ ํ ๋น์ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 5-11. ์ ์ญ ๋์ญํญ ํ ๋น , ํํฐ์
1 ๊ตฌ์ฑ 3. Global Bandwidth Allocation( ์ ์ญ ๋์ญํญ ํ ๋น ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-12) ์์ ๋ ์ญํญ์ ํ ๋นํ ๊ฐ ํํฐ์
์ต์ ๋ฐ ์ต๋ TX ๋์ญํญ ํ๋๋ฅผ ํด๋ฆญํฉ๋๋ค . NPAReP ๋ชจ๋๋ฅผ ๋นํ์ฑํํ ๊ฒฝ์ฐ ํฌํธ๋น 4 ๊ฐ์ ํํฐ์
์ด ์๊ณ , NPAReP ๋ชจ ๋๋ฅผ ํ์ฑํํ ๊ฒฝ์ฐ ํฌํธ๋น 8 ๊ฐ์ ํํฐ์
์ด ์์ต๋๋ค . NPAReP ๋ชจ๋์ ๊ฒฝ์ฐ BIOS ์์ ์ด๋ํฐ PCI ์ฌ๋กฏ์ ๋ํด ARI ๊ฐ ํ์ฑํ๋์ด ์์ด์ผ ํฉ๋๋ค . ๊ทธ๋ฆผ 5-12.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ๏ฑ Partition n Minimum TX Bandwidth( ํํฐ์
n ์ต์ TX ๋์ญํญ ) ๋ ์ต ๋ ์ค์ ํฌํธ ์ฐ๊ฒฐ ์๋์ ๋ฐฑ๋ถ์จ๋ก ํ์ํ, ์ ํํ ํํฐ์
์ ์ต์ ์ ์ก ๋์ญํญ์
๋๋ค . ๊ฐ์ 0-100 ์ผ๋ก ์
๋ ฅํ ์ ์์ต๋๋ค . DCBX ETS ๋ชจ๋ ๊ฐ ํ์ฑํ๋์ด ์๋ ๊ฒฝ์ฐ ํธ๋ํฝ๋น ํด๋์ค DCBX ETS ์ต์ ๋์ญํญ ๊ฐ ์ด ํํฐ์
๋น ์ต์ TX ๋์ญํญ ๊ฐ๊ณผ ๋์์ ์ฌ์ฉ๋ฉ๋๋ค . ๋จ์ผ ํฌํธ์ ์ ๋ ๋ชจ๋ ํํฐ์
์ ์ต์ TX ๋์ญํญ ๊ฐ์ ํฉ์ 100 ๊ณผ ๊ฐ๊ฑฐ๋ ๋ชจ๋ 0 ์ด์ด ์ผ ํฉ๋๋ค . ๏ฑ TX ๋์ญํญ์ ๋ชจ๋ 0 ์ผ๋ก ์ค์ ํ๋ฉด ์ ์ฒด ํ์ฑ ํํฐ์
์ ํตํด ์ฌ์ฉํ ์ ์๋ ๋์ญํญ์ ๋์ผํ๊ฒ ๋๋๋ ๊ฒ๊ณผ ๋น์ทํ์ง๋ง ์ ์ฒด ํ์ฑ ํํฐ์
์ ํตํด์๋ ๋์ญํญ์ด ๋์ ์ผ๋ก ํ ๋น๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ๊ทธ๋ฆผ 5-13. ํํฐ์
1 ๊ตฌ์ฑ 3. ๋ ๋ฒ์งธ ํํฐ์
์ ๊ตฌ์ฑํ๋ ค๋ฉด Partition 2 Configuration( ํํฐ์
2 ๊ตฌ์ฑ ) ์ ์ ํํ์ฌ Partition 2 Configuration( ํํฐ์
2 ๊ตฌ์ฑ ) ํ์ด์ง๋ฅผ ์ฝ๋๋ค . FCoE Offload ๊ฐ ์๋ ๊ฒฝ์ฐ Partition 2 Configuration( ํํฐ์
2 ๊ตฌ์ฑ , ๊ทธ๋ฆผ 5-14) ํ ์ด์ง์ ๋ค์ ๋งค๊ฐ๋ณ์๊ฐ ํ์๋ฉ๋๋ค . ๏ฑ NIC Mode(NIC ๋ชจ๋ ) ํํฐ์
2 ์ด์์์ L2 ์ด๋๋ท NIC ํ๋กํ์ ํ์ฑ ํํ๊ฑฐ๋ ๋นํ์ฑํํฉ๋๋ค . ๋๋จธ์ง ํํฐ์
์ ๋ชจ๋ ๋นํ์ฑํํ๋ ค๋ฉด NIC Mode(NIC ๋ชจ๋ ) ๋ฅผ Disabled( ๋นํ์ฑํ ) ๋ก ์ค์ ํ์ญ์์ค . ์คํ๋ก๋ ๊ฐ ๊ฐ๋ฅํ ํํฐ์
์ ๋นํ์ฑํํ๋ ค๋ฉด NIC Mode(NIC ๋ชจ๋ ) ์ ๊ฐ ์คํ ๋ก๋ ๋ชจ๋๋ฅผ ๋ชจ๋ ๋นํ์ฑํํ์ญ์์ค .
6 RoCE ๊ตฌ์ฑ ์ด ์ฅ์์๋ QL45212 Adapter, ์ด๋๋ท ์ค์์น ๋ฐ Windows ๋๋ Linux ํธ์คํธ์์ RoCE v1 ๋ฐ v2(RDMA over converged Ethernet) ๊ตฌ์ฑ์ ๋ํด ์ค๋ช
ํ๋ฉฐ , ๋ค์์ ํฌํจํฉ๋๋ค . ๏ฎ ์ง์๋๋ ์ด์ ์ฒด์ ๋ฐ OFED ๏ฎ 56 ํ์ด์ง์ "RoCE ๋ฅผ ์ํ ๊ณํ " ๏ฎ 57 ํ์ด์ง์ " ์ด๋ํฐ ์ค๋น " ๏ฎ 57 ํ์ด์ง์ " ์ด๋๋ท ์ค์์น ์ค๋น " ๏ฎ 59 ํ์ด์ง์ "Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ " ๏ฎ 68 ํ์ด์ง์ "Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ " ๏ฎ 78 ํ์ด์ง์ "VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ " ์ฃผ ํ์ฌ ๋ฆด๋ฆฌ์ค์์ ์ผ๋ถ RoCE ๊ธฐ๋ฅ์ ์์ ํ ์ฌ์ฉํ์ง ๋ชปํ ์๋ ์์ต๋๋ค . ์ง์๋๋ ์ด์ ์ฒด์ ๋ฐ OFED ํ 6-1 ์ RoCE v1, RoCE v2 ๋ฐ OFED ์ ๋ํ ์ด์ ์ฒด์ ์ง์์ ๋ณด์ฌ์ค๋๋ค . ํ 6-1.
6โRoCE ๊ตฌ์ฑ RoCE ๋ฅผ ์ํ ๊ณํ ํ 6-1. RoCE v1, RoCE v2, iWARP ๋ฐ OFED ์ ๋ํ OS ์ง์ ( ๊ณ์ ) ์ธ๋ฐ์ค OFED 3.18-3 GA OFED-4.8-1 GA RHEL 7.4 RoCE v1, RoCE v2, iSER ์๋์ค ์๋์ค SLES 12 SP3 RoCE v1, RoCE v2, iSER ์๋์ค ์๋์ค CentOS 7.3 RoCE v1, RoCE v2, iSER ์๋์ค RoCE v1, RoCE v2 CentOS 7.4 RoCE v1, RoCE v2, iSER ์๋์ค ์๋์ค ์๋์ค N/A N/A VMware ESXi 6.5, 6.5U1 RoCE v1, RoCE v2 N/A N/A VMware ESXi 6.7 RoCE v1, RoCE v2 N/A N/A ์ด์ ์ฒด์ VMware ESXi 6.0 u3 RoCE ๋ฅผ ์ํ ๊ณํ RoCE ๊ตฌํ์ ์ค๋นํ ๋ ๋ค์ ์ฌํญ์ ๊ณ ๋ คํ์ญ์์ค .
6โRoCE ๊ตฌ์ฑ ์ด๋ํฐ ์ค๋น ์ด๋ํฐ ์ค๋น ๋ค์ ๋จ๊ณ๋ฅผ ๋ฐ๋ผ DCBX ๋ฅผ ํ์ฑํํ๊ณ , HII ๊ด๋ฆฌ ์์ฉํ๋ก๊ทธ๋จ์ ์ฌ์ฉํด RoCE ์ฐ ์ ์์๋ฅผ ์ง์ ํฉ๋๋ค . HII ์์ฉํ๋ก๊ทธ๋จ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ฅ 5 ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ์ ์ฐธ์กฐํ์ญ์์ค . ์ด๋ํฐ๋ฅผ ์ค๋นํ๋ ค๋ฉด 1. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Data Center Bridging (DCB) Settings(DCB(Data Center Bridging) ์ค์ ) ๋ฅผ ์ ํํ ํ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2. DCB(Data Center Bridging) ์ค์ ์ฐฝ์์ DCBX Protocol(DCBX ํ๋กํ ์ฝ ) ์ต์
์ ํด๋ฆญํฉ๋๋ค . QL45212 Adapter ๋ CEE ๋ฐ IEEE ํ๋กํ ์ฝ์ ๋ชจ๋ ์ง ์ํฉ๋๋ค . ์ด ๊ฐ์ DCB ์ค์์น์ ํด๋น ๊ฐ๊ณผ ์ผ์นํด์ผ ํฉ๋๋ค . ์ด ์์ ์์ ๋ CEE ๋๋ Dynamic( ๋์ ) ์ ์ ํํฉ๋๋ค . 3.
6โRoCE ๊ตฌ์ฑ ์ด๋๋ท ์ค์์น ์ค๋น Cisco ์ค์์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. config ํฐ๋ฏธ๋ ์ธ์
์ ๋ค์๊ณผ ๊ฐ์ด ์ฝ๋๋ค . Switch# config terminal switch(config)# 2. ๋ค์๊ณผ ๊ฐ์ด QoS(Quality of Service) ํด๋์ค ๋งต์ ๊ตฌ์ฑํ๊ณ ์ด๋ํฐ (5) ์ ์ผ ์นํ๋๋ก RoCE ์ฐ์ ์์๋ฅผ ์ค์ ํฉ๋๋ค . switch(config)# class-map type qos class-roce switch(config)# match cos 5 3. ๋ค์๊ณผ ๊ฐ์ด ๋๊ธฐ์ด ์ง์ ํด๋์ค ๋งต์ ๊ตฌ์ฑํฉ๋๋ค . switch(config)# class-map type queuing class-roce switch(config)# match qos-group 3 4. ๋ค์๊ณผ ๊ฐ์ด ๋คํธ์ํฌ QoS ํด๋์ค ๋งต์ ๊ตฌ์ฑํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 9. ์ด๋ํฐ (5) ์ ํ ๋น๋ VLAN ID ์ ์ผ์นํ๋๋ก ์ค์์น ํฌํธ์ VLAN ID ๋ฅผ ํ ๋นํฉ๋๋ค . switch(config)# interface ethernet x/x switch(config)# switchport mode trunk switch(config)# switchport trunk allowed vlan 1,5 Dell Z9100 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ RoCE ์ฉ Dell Z9100 ์ด๋๋ท ์ค์์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด Appendix C Dell Z9100 ์ค์์น ๊ตฌ์ฑ์ ์ ์ฐจ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ์ ์ด๋ํฐ์์ RoCE ๋ฅผ ํ์ฑํํ๊ณ Network Direct MTU ํฌ๊ธฐ๋ฅผ ํ์ธํ๋ ๊ณผ์ ์ผ๋ก ์ด๋ฃจ์ด์ง๋๋ค . Windows Server ํธ์คํธ์์ RoCE ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด : 1.
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-1 ์ ์์ฑ ๊ฐ ๊ตฌ์ฑ ์๋ฅผ ๋ณด์ฌ์ค๋๋ค . ๊ทธ๋ฆผ 6-1. RoCE ์์ฑ ๊ตฌ์ฑ 2. Windows PowerShell ์ ์ฌ์ฉํ์ฌ ์ด๋ํฐ์์ RDMA ๊ฐ ํ์ฑํ๋์ด ์๋์ง ํ์ธํฉ๋๋ค . Get-NetAdapterRdma ๋ช
๋ น์ RDMA ๋ฅผ ์ง์ํ๋ ์ด๋ํฐ๋ฅผ ๋ ์ดํฉ๋๋ค . ๋ ํฌํธ ๋ชจ๋ ํ์ฑํ๋์ด ์์ต๋๋ค . ์ฃผ RoCE over Hyper-V ๋ฅผ ๊ตฌ์ฑํ๋ ๊ฒฝ์ฐ VLAN ID ๋ฅผ ์ค์ ์ธํฐํ์ด์ค์ ํ ๋นํ์ง ๋ง์ญ์์ค . PS C:\Users\Administrator> Get-NetAdapterRdma Name InterfaceDescription Enabled ----- -------------------- ------- SLOT 4 3 Port 1 QLogic FastLinQ QL45212... True SLOT 4 3 Port 2 QLogic FastLinQ QL45212...
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 3. Windows PowerShell ์ ์ฌ์ฉํ์ฌ ํธ์คํธ ์ด์ ์ฒด์ ์์ NetworkDirect ๊ฐ ํ์ฑํ๋์ด ์๋์ง ํ์ธํฉ๋๋ค . Get-NetOffloadGlobalSetting ๋ช
๋ น์ NetworkDirect ๊ฐ ํ์ฑํ๋์ด ์์์ ๋ณด์ฌ ์ค๋๋ค . PS C:\Users\Administrators> Get-NetOffloadGlobalSetting 4.
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ RDMA ์นด์ดํฐ ๋ณด๊ธฐ RoCE ์ฉ RDMA ์นด์ดํฐ๋ฅผ ๋ณด๋ ค๋ฉด 1. ์ฑ๋ฅ ๋ชจ๋ํฐ๋ง์ ์คํํฉ๋๋ค . 2. Add Counters( ์นด์ดํฐ ์ถ๊ฐ ) ๋ํ ์์๋ฅผ ์ฝ๋๋ค . ๊ทธ๋ฆผ 6-2 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-2.
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 3. ๋ค์ ์นด์ดํฐ ์ ํ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ ๏ฑ ๏ฑ 4. Cavium FastLinQ Congestion Control(Cavium FastLinQ ํผ์ก ์ ์ด): ๏ฎ ์ค์์น์ ECN ์ด ํ์ฑํ๋์ด ์์ ๊ฒฝ์ฐ ๋คํธ์ํฌ ํผ์ก์ด ๋ฐ์ํ ๋ฉด ๋์
๋๋ค . ๏ฎ ์ฑ๊ณต์ ์ผ๋ก ์ ์ก๋๊ฑฐ๋ ์์ ๋ RoCE v2 ECN Marked Packet ๋ฐ Congestion Notification Packet(CNP) ์ ์ค๋ช
ํฉ๋๋ค . ๏ฎ RoCE v2 ์๋ง ์ ์ฉ๋ฉ๋๋ค . Cavium FastLinQ Port Counters(Cavium FastLinQ ํฌํธ ์นด์ดํฐ ): ๏ฎ ๋คํธ์ํฌ ํผ์ก์ด ๋ฐ์ํ ๋ ๋์
๋๋ค . ๏ฎ ํ๋ฆ ์ ์ด ๋๋ ์ ์ญ ์ผ์ ์ ์ง๊ฐ ๊ตฌ์ฑ๋์ด ์์ ๊ฒฝ์ฐ์๋ ๋คํธ์ ํฌ ํผ์ก์ด ๋ฐ์ํด๋ ์นด์ดํฐ๋ฅผ ๋์ด์ง ๋ง์ญ์์ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-3 ์ ์นด์ดํฐ ๋ชจ๋ํฐ๋ง ์ถ๋ ฅ์ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-3. ์ฑ๋ฅ ๋ชจ๋ํฐ : Cavium FastLinQ ์นด์ดํฐ ํ 6-3 ์ ์ค๋ฅ ์นด์ดํฐ์ ์ธ๋ถ ์ ๋ณด๋ฅผ ๋ํ๋
๋๋ค . ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ RDMA ์ค๋ฅ ์นด์ดํฐ RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ์ค๋ช
๋ฌธ์ ํด๊ฒฐ CQ overflow (CQ ์ค๋ฒํ๋ก ์ฐ) CQ ๋ RDMA ์์
์์ฒญ์ด ๊ฒ์๋๋ ์๋ฃ ๋๊ธฐ์ด์
๋๋ค . ์ด ์นด์ดํฐ๋ ์ธ ์คํด์ค ์๋ฅผ ์ง์ ํฉ๋๋ค . ์ ์ก ๋๋ ์์ ๋๊ธฐ์ด์ ์๋ฃ๋ ์์
์์ฒญ์ด ์ ์ง๋ง ์ฐ๊ฒฐ๋ ์๋ฃ ๋๊ธฐ์ด์ ๊ณต๊ฐ์ด ์ ์ต๋๋ค . ์ ์๋ฃ ๋๊ธฐ์ด์ ํฌ๊ธฐ๊ฐ ๋ถ์กฑํ ์์ธ์ ์ํํธ ์จ์ด ์ค๊ณ ๋ฌธ์ ์ ์์ต ๋๋ค . Requestor Bad response ( ์์ฒญ์์ ์ ๋ชป๋ ์๋ต ) ์๋ต์์์ ์๋ชป๋ ์๋ต์ด ๋ฐํ๋์ ์ต๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ ( ๊ณ์ ) RDMA ์ค๋ฅ ์นด์ดํฐ RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ์ค๋ช
๋ฌธ์ ํด๊ฒฐ Requestor CQEs flushed with error ( ์ค๋ฅ๋ก ์ธํด Requestor CQE ์ญ์ ๋จ ) ์ด๋ ํ ์ด์ ๋ก QP ๊ฐ ์ค๋ฅ ์ํ๋ก ์ ํ๋์ด ๋๊ธฐ ์ค์ธ ์์
์์ฒญ์ด ์์ ๊ฒฝ์ฐ์๋ flush status ๋ฅผ ์คํํ์ฌ ์ ๋ฃ๋ ์์
( ์ค์ ๋ก๋ ์์
์์ฒญ ์คํ ์ด ์๋ฃ๋์ง ์์ ) ์ CQ ๋ก ์ ์กํ ๋ฉด์ ๊ฒ์๋ ์์
์์ฒญ์ด ์ญ์ ๋ ์ ์์ต๋๋ค . ์ค๋ฅ ์ํ์์ ์๋ฃ๋ ์ ์
์์ฒญ์ด ์์ ๊ฒฝ์ฐ์๋ ํด๋น QP ์ ์ ๋๊ธฐ ์ค์ธ ๋ค๋ฅธ ๋ชจ๋ ์์
์์ฒญ๊น ์ง ์ญ์ ๋ฉ๋๋ค . ์ RDMA ์ฐ๊ฒฐ์ด ๋๊ธธ ๋ ๋ฐ์ํฉ๋๋ค . Requestor Local length ( ์์ฒญ์ ๋ก์ปฌ ๊ธธ์ด ) RDMA READ ์๋ต ๋ฉ์์ง์ ํฌํจ๋ ํ์ด๋ก๋ ๋ฐ์ดํฐ๊ฐ ๋๋ฌด ๋ง๊ฑฐ๋ ์ ์ต ๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ ( ๊ณ์ ) RDMA ์ค๋ฅ ์นด์ดํฐ RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ์ค๋ช
๋ฌธ์ ํด๊ฒฐ Requestor Remote Invalid request( ์์ฒญ ์์ ์๋ชป๋ ์๊ฒฉ ์์ฒญ ) ์๊ฒฉ ์ธก์์ ์ฑ๋์ ํตํด ์๋ชป๋ ๋ฉ์ ์ง๋ฅผ ์์ ํ์์ต๋๋ค. ์๋ชป๋ ์์ฒญ์ ์ ์ก ๋ฉ์์ง ๋๋ RDMA ์์ฒญ์ด ๋ ์ ์์ต๋๋ค . ์ ๊ฐ๋ฅํ ์์ธ์ผ๋ก๋ ์ด ์์ ๋๊ธฐ์ด์์ ์์
์ ์ง์ํ์ง ์๊ฑฐ๋ , ์๋ก์ด RDMA ๋๋ ์ ์ ์ฐ์ฐ ์์ฒญ์ ์์ ํ ์ ์๋ ๋ฒํผ๋ง์ด ์ถฉ๋ถ ํ์ง ์๊ฑฐ๋ , ํน์ RDMA ์์ฒญ์์ ์ง์ ๋ ๊ธธ์ด๊ฐ 231 ๋ฐ์ดํธ ๋ณด๋ค ํฐ ๊ฒฝ์ฐ ๋ฑ์ด ์์ต ๋๋ค . Requestor remote operation ( ์์ฒญ์ ์๊ฒฉ ์์
) ์๊ฒฉ ์ธก์์ ๋ก์ปฌ ๋ฌธ์ ๋ก ์ธํด ์์ฒญ๋ ์์
์ ์๋ฃํ ์ ์์ต๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ ( ๊ณ์ ) RDMA ์ค๋ฅ ์นด์ดํฐ RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ์ค๋ช
๋ฌธ์ ํด๊ฒฐ Responder local length ( ์๋ต์ ๋ก์ปฌ ๊ธธ์ด ) ์ธ๋ฐ์ด๋ ๋ฉ์์ง์ ๊ธธ์ด๊ฐ ์๋ชป๋์ ์ต๋๋ค . ์ ์๊ฒฉ ํผ์ด์ ๋์ ์ค๋ฅ ์
๋๋ค . ์๋ฅผ ๋ค์ด ์ธ ๋ฐ์ด๋ ์ ์ก ๋ฉ์์ง์ ๊ธธ์ด๊ฐ ์์ ๋ฒํผ์ ํฌ๊ธฐ๋ณด๋ค ํฌ๊ธฐ ๋๋ฌธ์
๋๋ค . Responder local protection ( ์๋ต์ ๋ก์ปฌ ๋ณดํธ ) ๋ก์ปฌ์ ๊ฒ์๋ ์์
์์ฒญ์ ๋ฐ์ดํฐ ์ธ ๊ทธ๋จผํธ๊ฐ ์์ฒญ๋ ์์
์ ์ ํจํ ๋ฉ๋ชจ ๋ฆฌ ์์ญ์ ์ฐธ์กฐํ์ง ์์ต๋๋ค . ์ ์ํํธ์จ์ด์ ๋ฉ๋ชจ๋ฆฌ ๊ด๋ฆฌ์ ๋ฌธ์ ๊ฐ ์์ต๋ ๋ค. Responder Local QP Operation error( ์๋ต์ ๋ก์ปฌ QP ์์
์ค๋ฅ ) ์ด ์์
์์ฒญ์ ์ฒ๋ฆฌํ๋ ๋์ค ๋ด๋ถ QP ์ผ๊ด์ฑ ์ค๋ฅ๊ฐ ํ์ง๋์์ต๋๋ค . ์ ์ํํธ์จ์ด์ ๋ฌธ์ ๊ฐ ์์ต๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ์ด ์น์
์ RHEL ๋ฐ SLES ์ RoCE ๊ตฌ์ฑ ์ ์ฐจ๋ฅผ ์ค๋ช
ํฉ๋๋ค . ๋ํ , RoCE ๊ตฌ์ฑ์ ํ์ธํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํ๊ณ VLAN ์ธํฐํ์ด์ค์ ํจ๊ป ๊ทธ๋ฃน ID(GID) ๋ฅผ ์ฌ์ฉํ๋ ๋ฐฉ ๋ฒ์ ๋ํ ์ง์นจ์ ์ ๊ณตํฉ๋๋ค . ๏ฎ RHEL ์ RoCE ๊ตฌ์ฑ ๏ฎ SLES ์ RoCE ๊ตฌ์ฑ ๏ฎ Linux ์์ RoCE ๊ตฌ์ฑ ํ์ธ ๏ฎ VLAN ์ธํฐํ์ด์ค ๋ฐ GID ์ธ๋ฑ์ค ๊ฐ ๏ฎ Linux ์ RoCE v2 ๊ตฌ์ฑ RHEL ์ RoCE ๊ตฌ์ฑ ์ด๋ํฐ์์ RoCE ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด RHEL ํธ์คํธ์ OFED(Open Fabrics Enterprise Distribution) ๊ฐ ์ค์น๋๊ณ ๊ตฌ์ฑ๋์ด ์์ด์ผ ํฉ๋๋ค . RHEL ์ ์ธ๋ฐ์ค OFED ๋ฅผ ์ค๋นํ๋ ค๋ฉด 1. ์์คํ
์ ์ค์นํ๊ฑฐ๋ ์
๊ทธ๋ ์ด๋ํ๋ ์ค์ InfiniBandยฎ ๋ฐ OFED ์ง์ ํจํค ์ง๋ฅผ ์ ํํฉ๋๋ค . 2.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ SLES ์ RoCE ๊ตฌ์ฑ SLES ํธ์คํธ์ฉ ์ด๋ํฐ์์ RoCE ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด SLES ํธ์คํธ์ OFED ๊ฐ ์ค์น ๋๊ณ ๊ตฌ์ฑ๋์ด ์์ด์ผ ํฉ๋๋ค . SLES ์ ์ธ๋ฐ์ค OFED ๋ฅผ ์ค์นํ๋ ค๋ฉด 1. ์์คํ
์ ์ค์นํ๊ฑฐ๋ ์
๊ทธ๋ ์ด๋ํ๋ ์ค์ InfiniBand ์ง์ ํจํค์ง๋ฅผ ์ ํํฉ ๋๋ค . 2. ํด๋น SLES SDK ํคํธ ์ด๋ฏธ์ง์์ ๋ค์ RPM ์ ์ค์นํฉ๋๋ค . libibverbs-devel-x.x.x.x86_64.rpm (libqedr ์ค์น์ ํ์ํจ ) perftest-x.x.x.x86_64.rpm ( ๋์ญํญ ๋ฐ ์ง์ฐ ์๊ฐ ์์ฉํ๋ก๊ทธ๋จ์ ํ์ํจ ) 3. 15 ํ์ด์ง์ "RDMA ์ ํจ๊ป Linux ์ค์น " ์ ์ค๋ช
๋ ๋๋ก Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๋๋ # systemctl start rdma.service 3. dmesg ๋ก๊ทธ๋ฅผ ๊ฒํ ํด RoCE ์ฅ์น๊ฐ ๋ฐ๊ฒฌ๋์๋์ง ํ์ธํฉ๋๋ค . # dmesg|grep qedr [87910.988411] qedr: discovered and registered 2 RoCE funcs 4. ๋ชจ๋ ๋ชจ๋์ด ๋ก๋๋์๋์ง ํ์ธํฉ๋๋ค . ์ : # lsmod|grep qedr 5. qedr 89871 0 qede 96670 1 qedr qed 2075255 ib_core 88311 16 qedr, rdma_cm, ib_cm, ib_sa,iw_cm,xprtrdma,ib_mad,ib_srp, ib_ucm,ib_iser,ib_srpt,ib_umad, ib_uverbs,rdma_ucm,ib_ipoib,ib_isert 2 qede,qedr IP ์ฃผ์๋ฅผ ๊ตฌ์ฑํ๊ณ ifconfig ๊ฐ์ ๊ตฌ์ฑ ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์ฌ ํฌํธ๋ฅผ ํ์ฑํํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 7. ๋ชจ๋ ์๋ฒ ์ฌ์ด์ L2 ๋ฐ RoCE ์ฐ๊ฒฐ์ ํ์ธํฉ๋๋ค . ํ ์๋ฒ๋ ์๋ฒ ์ญํ ์ ํ ๊ณ ๋ค๋ฅธ ์๋ฒ๋ ํด๋ผ์ด์ธํธ ์ญํ ์ ํฉ๋๋ค . ๏ฑ ๋จ์ ping ๋ช
๋ น์ ์ฌ์ฉํด L2 ์ฐ๊ฒฐ์ ํ์ธํฉ๋๋ค . ๏ฑ ์๋ฒ ๋๋ ํด๋ผ์ด์ธํธ์์ RDMA ping ์ ์คํํ์ฌ RoCE ์ฐ๊ฒฐ ์ฌ๋ถ๋ฅผ ํ์ธํฉ๋๋ค . ์๋ฒ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ibv_rc_pingpong -d -g 0 ํด๋ผ์ด์ธํธ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ibv_rc_pingpong -d -g 0 ๋ค์์ ์๋ฒ ๋ฐ ํด๋ผ์ด์ธํธ์์ ์ฑ๊ณต์ ์ธ ping pong ํ
์คํธ์ ์์ ์
๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ VLAN ์ธํฐํ์ด์ค ๋ฐ GID ์ธ๋ฑ์ค ๊ฐ ์๋ฒ์ ํด๋ผ์ด์ธํธ์์ VLAN ์ธํฐํ์ด์ค๋ฅผ ์ฌ์ฉ ์ค์ธ ๊ฒฝ์ฐ ์ค์์น์์๋ ๊ฐ์ VLAN ID ๋ฅผ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . ์ค์์น๋ฅผ ํตํด ํธ๋ํฝ์ ์คํ ์ค์ด๋ผ๋ฉด InfiniBand ์์ฉํ๋ก๊ทธ๋จ์์ VLAN ID ๋ฐ VLAN IP ์ฃผ์๋ฅผ ๊ธฐ์ค์ผ๋ก ์ฌ๋ฐ๋ฅธ GID ๊ฐ์ ์ฌ์ฉํด ์ผ ํฉ๋๋ค . ๋ค์ ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ์ค์ผ๋ก GID ๊ฐ (-x 4 / -x 5) ์ ๋ชจ๋ perftest ์์ฉํ๋ก๊ทธ๋จ์์ ์ฌ์ฉ ํด์ผ ํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ์ฃผ RoCE v2 ์ง์ ์ปค๋์ ์ฌ์ฉํ์ฌ RoCE v1 ๋ฐ RoCE v2 ๋ฅผ ๊ตฌ์ฑํ ์ ์ ์ต๋๋ค . ์ด๋ฌํ ์ปค๋์ ์ฌ์ฉํ๋ฉด ๋์ผํ ์๋ธ๋ท๋ฟ ์๋๋ผ RoCE v2 ์ ๋ค๋ฅธ ๋ผ์ฐํ
ํ๊ฒฝ๊ณผ ๊ฐ์ด ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ํตํด์๋ RoCE ํธ๋ํฝ์ ์ ์กํ ์ ์์ต๋๋ค . ๋ค๋ฅธ ๋ชจ๋ ์ค์์น ๋ฐ ์ด๋ํฐ ์ค์ ์ RoCE v1 ๋ฐ RoCE v2 ์์ ๊ณตํต๋๋ฉฐ , ๋ช ๊ฐ์ง ์ค์ ๋ง RoCE v2 ์ ๋ ํ์ํฉ๋๋ค . RoCE v2 GID ์ธ๋ฑ์ค ๋๋ ์ฃผ์ ์๋ณ RoCE v1 ๋ฐ RoCE v2 GID ๋ฅผ ์ฐพ์ผ๋ ค๋ฉด sys ๋๋ class ๋งค๊ฐ๋ณ์๋ฅผ ์ฌ์ฉํ๊ฑฐ๋ , QL45212 FastLinQ ์์ค ํจํค์ง์์ RoCE ์คํฌ๋ฆฝํธ๋ฅผ ์คํํฉ๋๋ค . ๊ธฐ๋ณธ๊ฐ RoCE GID Index(RoCE GID ์ธ๋ฑ์ค ) ๋ฐ ์ฃผ์๋ฅผ ํ์ธํ๋ ค๋ฉด ibv_devinfo ๋ช
๋ น ์ ๋ฐ๊ธํ๊ณ ์ด๋ฅผ sys ๋๋ class ๋งค๊ฐ๋ณ์์ ๋น๊ตํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๏ฎ ์ต์
2 FastLinQ ์์ค ํจํค์ง์์ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํฉ๋๋ค . #/../fastlinq-8.x.x.x/add-ons/roce/show_gids.sh DEV PORT INDEX GID IPv4 VER DEV --- ---- ----- --- ------------ --- --- v1 p4p1 qedr0 1 0 fe80:0000:0000:0000:020e:1eff:fec4:1b20 qedr0 1 1 fe80:0000:0000:0000:020e:1eff:fec4:1b20 v2 p4p1 qedr0 1 2 0000:0000:0000:0000:0000:ffff:1e01:010a 30.1.1.10 v1 p4p1 qedr0 1 3 0000:0000:0000:0000:0000:ffff:1e01:010a 30.1.1.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ RoCE v2 ํ์ธ ๋์ผํ ์๋ธ๋ท์์ ์คํํ๋ ๊ฒฝ์ฐ , RoCE v2 GID ์ธ๋ฑ์ค๋ฅผ ์ฌ์ฉํฉ๋๋ค . Server# ib_send_bw -d qedr0 -F -x 1 Client# ib_send_bw -d qedr0 -F -x 1 192.168.100.3 ์ฃผ ์ค์์น PFC ๊ตฌ์ฑ์ ํตํด ์คํ๋๋ ๊ฒฝ์ฐ ๋์ผํ ์๋ธ๋ท์ ํตํด RoCE v1 ๋๋ v2 ์ VLAN GID ๋ฅผ ์ฌ์ฉํฉ๋๋ค . ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ํตํด RoCE v2 ํ์ธ ์ฃผ ๋จผ์ ์ค์์น ๋ฐ ์๋ฒ์ ๋ํด ๋ผ์ฐํ
์ค์ ์ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . ์ด๋ํฐ์์ , HII ๋๋ UEFI ์ฌ์ฉ์ ์ธํฐํ์ด์ค๋ฅผ ์ฌ์ฉํ์ฌ RoCE ์ฐ์ ์์ ๋ฐ DCBX ๋ชจ ๋๋ฅผ ์ค์ ํฉ๋๋ค . ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ํตํด RoCE v2 ๋ฅผ ํ์ธํ๋ ค๋ฉด 1. DCBX-PFC ๊ตฌ์ฑ์ ์ฌ์ฉํ์ฌ ์๋ฒ ๋ฐ ํด๋ผ์ด์ธํธ์ ๋ํ ๋ผ์ฐํ
๊ตฌ์ฑ์ ์ค์ ํฉ๋๋ค . ๏ฑ ์์คํ
์ค์ : ์๋ฒ VLAN IP : 192.168.100.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๏ฑ PFC ๊ตฌ์ฑ ๋ฐ L3 ๋ผ์ฐํ
์ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ์ฌ์ฉํ์ฌ VLAN ์ ํตํด RoCE v2 ํธ๋ํฝ์ ์คํํ๊ณ RoCE v2 VLAN GID ์ธ๋ฑ ์ค๋ฅผ ์ฌ์ฉํฉ๋๋ค . Server# ib_send_bw -d qedr0 -F -x 5 Client# ib_send_bw -d qedr0 -F -x 5 192.168.100.3 ์๋ฒ ์ค์์น ์ค์ : ๊ทธ๋ฆผ 6-4.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํด๋ผ์ด์ธํธ ์ค์์น ์ค์ : ๊ทธ๋ฆผ 6-5. ์ค์์น ์ค์ , ํด๋ผ์ด์ธํธ RDMA_CM ์์ฉํ๋ก๊ทธ๋จ์ ๋ํ RoCE v1 ๋๋ RoCE v2 ์ค์ ๊ตฌ์ฑ RoCE ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด FastLinQ ์์ค ํจํค์ง์์ ๋ค์ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํฉ๋๋ค . # ./show_rdma_cm_roce_ver.sh qedr0 is configured to IB/RoCE v1 qedr1 is configured to IB/RoCE v1 # ./config_rdma_cm_roce_ver.sh v2 configured rdma_cm for qedr0 to RoCE v2 configured rdma_cm for qedr1 to RoCE v2 ์๋ฒ ์ค์ : ๊ทธ๋ฆผ 6-6.
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํด๋ผ์ด์ธํธ ์ค์ : ๊ทธ๋ฆผ 6-7. RDMA_CM ์์ฉํ๋ก๊ทธ๋จ ๊ตฌ์ฑ : ํด๋ผ์ด์ธํธ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ์ด๋ฒ ์น์
์์๋ ์๋์ ๊ฐ์ด RoCE ๊ตฌ์ฑ์ ์ํ ์ ์ฐจ ๋ฐ ์ ๋ณด์ ๋ํด์ ์ค๋ช
ํฉ ๋๋ค . ๏ฎ RDMA ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๏ฎ MTU ๊ตฌ์ฑ ๏ฎ RoCE ๋ชจ๋ ๋ฐ ํต๊ณ ๏ฎ PVRDMA(Paravirtual RDMA Device) ๊ตฌ์ฑ RDMA ์ธํฐํ์ด์ค ๊ตฌ์ฑ RDMA ์ธํฐํ์ด์ค๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. QLogic NIC ๋๋ผ์ด๋ฒ์ RoCE ๋๋ผ์ด๋ฒ๋ฅผ ๋ชจ๋ ์ค์นํฉ๋๋ค . 2. ๋ชจ๋ ๋งค๊ฐ๋ณ์์์ ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น์ ์คํํ์ฌ NIC ๋๋ผ์ด๋ฒ์ RoCE ๊ธฐ ๋ฅ์ ํ์ฑํํฉ๋๋ค . esxcfg-module -s 'enable_roce=1' qedentv ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฉํ๋ ค๋ฉด NIC ๋๋ผ์ด๋ฒ๋ฅผ ๋ค์ ๋ก๋ํ๊ฑฐ๋ ์์คํ
์ ์ฌ๋ถํ
ํด์ผ ํฉ๋๋ค . 3.
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 4. RDMA ์ฅ์น ๋ชฉ๋ก์ ๋ณด๋ ค๋ฉด esxcli rdma device list ๋ช
๋ น์ ์คํํฉ๋๋ค. ์: esxcli rdma device list Name Driver State Speed Paired Uplink Description ------- ------- ------ ---- ------- ------------- ------------------------------- vmrdma0 qedrntv Active 1024 25 Gbps vmnic0 QLogic FastLinQ QL45xxx RDMA Interface vmrdma1 qedrntv Active 1024 25 Gbps vmnic1 QLogic FastLinQ QL45xxx RDMA Interface 5. MTU ์๋ก์ด ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ VLAN ID ๋ก RoCE ํธ๋ํฝ์ ์คํํ๋ ค๋ฉด ํด๋น VMkernel ํฌํธ ๊ทธ๋ฃน์์ VLAN ID ๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . MTU ๊ตฌ์ฑ RoCE ์ธํฐํ์ด์ค์ MTU ๋ฅผ ์์ ํ๋ ค๋ฉด ํด๋นํ๋ vSwitch ์ MTU ๋ฅผ ๋ณ๊ฒฝํฉ๋๋ค . vSwitch ์ MTU ์ ๋ฐ๋ผ ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น์ ์คํํ์ฌ RDMA ์ธํฐํ์ด์ค์ MTU ํฌ ๊ธฐ๋ฅผ ์ค์ ํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ Queue pairs in INIT state: 0 Queue pairs in RTR state: 0 Queue pairs in RTS state: 0 Queue pairs in SQD state: 0 Queue pairs in SQE state: 0 Queue pairs in ERR state: 0 Queue pair events: 0 Completion queues allocated: 1 Completion queue events: 0 Shared receive queues allocated: 0 Shared receive queue events: 0 Protection domains allocated: 1 Memory regions allocated: 3 Address handles allocated: 0 Memory windows allocated: 0 PVRDMA(Paravirtual RDMA Device) ๊ตฌ์ฑ vCenter
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-8 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-8. ์ ๋ถ์ฐ ์ค์์น ๊ตฌ์ฑ 2. 3. ๋ค์๊ณผ ๊ฐ์ด ๋ถ์ฐ ๊ฐ์ ์ค์์น๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . a. VMware vSphere ์น ํด๋ผ์ด์ธํธ์์ ํ์๊ธฐ ์ผ์ชฝ ์ฐฝ์ ์๋ RoCE ๋
ธ ๋๋ฅผ ํ์ฅํฉ๋๋ค . b. RoCE-VDS ๋ฅผ ๋ง์ฐ์ค ์ค๋ฅธ์ชฝ ๋ฒํผ์ผ๋ก ํด๋ฆญํ ํ Add and Manage Hosts( ํธ์คํธ ์ถ๊ฐ ๋ฐ ๊ด๋ฆฌ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . c. Add and Manage Hosts( ํธ์คํธ ์ถ๊ฐ ๋ฐ ๊ด๋ฆฌ ) ์์ ๋ค์ ์ต์
์ ๊ตฌ์ฑ ํฉ๋๋ค . ๏ฎ Assign uplinks( ์
๋งํฌ ํ ๋น ). ์ฌ์ฉ ๊ฐ๋ฅํ ์
๋งํฌ ๋ชฉ๋ก ์ค์์ ์ ํํฉ๋๋ค . ๏ฎ Manage VMkernel network adapters(VMkernel ๋คํธ์ํฌ ์ด๋ ํฐ ๊ด๋ฆฌ ). ๊ธฐ๋ณธ๊ฐ์ ๊ทธ๋๋ก ์ ์งํ ์ฑ Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-9 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-9. PVRDMA ์ vmknic ํ ๋น 4. ๋ค์๊ณผ ๊ฐ์ด PVRDMA ์ ๋ฐฉํ๋ฒฝ ๊ท์น์ ์ค์ ํฉ๋๋ค . a. ํธ์คํธ๋ฅผ ๋ง์ฐ์ค ์ค๋ฅธ์ชฝ ๋ฒํผ์ผ๋ก ํด๋ฆญํ ํ Settings( ์ค์ ) ๋ฅผ ํด๋ฆญ ํฉ๋๋ค . b. Settings( ์ค์ ) ํ์ด์ง์์ System( ์์คํ
) ๋
ธ๋๋ฅผ ํ์ฅํ ํ Security Profile( ๋ณด์ ํ๋กํ์ผ ) ์ ํด๋ฆญํฉ๋๋ค . c. Firewall Summary( ๋ฐฉํ๋ฒฝ ์์ฝ ) ํ์ด์ง์์ Edit( ํธ์ง ) ๋ฅผ ํด๋ฆญํฉ๋ ๋ค. d. Edit Security Profile( ๋ณด์ ํ๋กํ์ผ ํธ์ง ) ๋ํ ์์์ Name( ์ด๋ฆ ) ์์ ์คํฌ๋กค์ ์๋๋ก ๋ด๋ ค pvrdma ํ์ธ๋๊ณผ Set Firewall( ๋ฐฉํ๋ฒฝ ์ค ์ ) ํ์ธ๋์ ์ฐจ๋ก๋๋ก ์ ํํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-10 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-10. ๋ฐฉํ๋ฒฝ ๊ท์น ์ค์ 5. ๋ค์๊ณผ ๊ฐ์ด PVRDMA ์ VM ์ ์ค์ ํฉ๋๋ค . a. ์๋์์ ์ง์๋๋ ๊ฒ์คํธ OS ์ค ํ๋๋ฅผ ์ค์นํฉ๋๋ค . ๏ฎ ๏ฎ RHEL 7.2 Ubuntu 14.04( ์ปค๋ ๋ฒ์ 4.0) b. OFED-3.18 ์ ์ค์นํฉ๋๋ค . c. PVRDMA ๊ฒ์คํธ ๋๋ผ์ด๋ฒ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ปดํ์ผํ์ฌ ์ค์นํฉ๋๋ค . d. ๋ค์๊ณผ ๊ฐ์ด ์๋ก์ด PVRDMA ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ VM ์ ์ถ๊ฐํฉ๋๋ค . ๏ฎ ๏ฎ ๏ฎ ๏ฎ e. VM ์ค์ ์ ํธ์งํฉ๋๋ค . ์๋ก์ด ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ ์ถ๊ฐํฉ๋๋ค . ์๋กญ๊ฒ ์ถ๊ฐ๋ DVS ํฌํธ ๊ทธ๋ฃน์ Network( ๋คํธ์ํฌ ) ๋ก ์ ํํฉ๋ ๋ค. PVRDMA ๋ฅผ ์ด๋ํฐ ์ ํ์ผ๋ก ์ ํํฉ๋๋ค . VM ๋ถํ
ํ PVRDMA ๊ฒ์คํธ ๋๋ผ์ด๋ฒ๊ฐ ๋ก๋๋๋์ง ํ์ธํฉ๋๋ค .
7 iSER ๊ตฌ์ฑ ์ด ์ฅ์์๋ Linux(RHEL ๋ฐ SLES) ESXi 6.7 ์ ๋ํด iSER(iSCSI Extensions for RDMA) ์ ๊ตฌ์ฑํ๋ ์ ์ฐจ๋ฅผ ์ ์ํ๋ฉฐ , ๋ค์ ์น์
์ผ๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . ๏ฎ ์์ํ๊ธฐ ์ ์ ๏ฎ RHEL ์ฉ iSER ๊ตฌ์ฑ ๏ฎ 89 ํ์ด์ง์ "SLES 12 ์ฉ iSER ๊ตฌ์ฑ " ๏ฎ 90 ํ์ด์ง์ "Linux ์ฑ๋ฅ ์ต์ ํ " ๏ฎ 91 ํ์ด์ง์ "ESXi 6.7 ์์ iSER ๊ตฌ์ฑ " ์์ํ๊ธฐ ์ ์ iSER ๊ตฌ์ฑ ์ค๋น๋ฅผ ํ ๋ ๋ค์ ์ฌํญ์ ๊ณ ๋ คํ์ญ์์ค . ๏ฎ iSER ์ ๋ค์ ์ด์ ์ฒด์ ์ ๊ฒฝ์ฐ ์ธ๋ฐ์ค OFED ์์๋ง ์ง์๋ฉ๋๋ค . ๏ฑ ๏ฑ ๏ฑ RHEL 7.1 ๋ฐ 7.2 SLES 12 ๋ฐ 12 SP1 CentOS 7.2 ๏ฎ ์์์ค๋ธ๋ฐ์ค(Out-of-box) OFED๋ iSER ๋์ ๊ตฌ์ฑ์ ์ง์ํ์ง ์์ผ๋ฉฐ, ์ต์ ์์์ค๋ธ๋ฐ์ค OFED ๋ฒ์ ์ ๋ํด ib_isert ๋ชจ๋์ ์ฌ์ฉํ ์ ์์ต๋๋ค .
7โiSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ RHEL ์ฉ iSER ์ ๊ตฌ์ฑํ๋ ค๋ฉด : 1. 68 ํ์ด์ง์ "RHEL ์ RoCE ๊ตฌ์ฑ " ์ ์ค๋ช
๋ ๋๋ก ์ธ๋ฐ์ค OFED ๋ฅผ ์ค์นํฉ ๋๋ค . ์์์ค๋ธ๋ฐ์ค (Out-of-box) OFED 3.18-2 GA/3.18-3 GA ๋ฒ์ ์์ ib_isert ๋ชจ๋์ ์ฌ์ฉํ ์ ์๊ธฐ ๋๋ฌธ์ iSER ์์๋ ์์์ค๋ธ๋ฐ์ค OFED ๊ฐ ์ง์๋์ง ์์ต๋๋ค . ์ธ๋ฐ์ค ib_isert ๋ชจ๋์ ์์์ค๋ธ๋ฐ์ค OFED ๋ฒ์ ๊ณผ ์๋ ํ์ง ์์ต๋๋ค . 2. 11 ํ์ด์ง์ "Linux ๋๋ผ์ด๋ฒ ์ ๊ฑฐ " ์ ์ค๋ช
๋ ๋๋ก ๊ธฐ์กด FastLinQ ๋๋ผ์ด๋ฒ ๋ฅผ ์
๋ก๋ํฉ๋๋ค . 3. 15 ํ์ด์ง์ "RDMA ์ ํจ๊ป Linux ์ค์น " ์ ์ค๋ช
๋ ๋๋ก ์ต์ FastLinQ ๋๋ผ ์ด๋ฒ์ libqedr ํจํค์ง๋ฅผ ์ค์นํฉ๋๋ค . 4. ๋ค์๊ณผ ๊ฐ์ด RDMA ์๋น์ค๋ฅผ ๋ก๋ํฉ๋๋ค .
7โiSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ ๊ทธ๋ฆผ 7-1 ์ ์ฑ๊ณต์ ์ธ RDMA Ping ์ ์๋ฅผ ๋ณด์ฌ ์ค๋๋ค . ๊ทธ๋ฆผ 7-1. RDMA Ping ์ฑ๊ณต 8. Linux TCM-LIO ๋์์ ์ฌ์ฉํ์ฌ iSER ์ ํ
์คํธํ ์ ์์ต๋๋ค . ํด๋น ํฌํธ ์์ enable_iser Boolean=true ๋ช
๋ น์ ๋ฐ๊ธํ ๋๋ฅผ ์ ์ธํ๋ฉด ๋ชจ๋ iSCSI ๋์์ ๋ํ ์ค์ ์ด ๋์ผํฉ๋๋ค . ๊ทธ๋ฆผ 7-2 ์์ ํฌํธ ์ธ์คํด์ค๋ iser ๋ก ์ ๋ณ๋ฉ๋๋ค . ๊ทธ๋ฆผ 7-2. iSER ํฌํธ ์ธ์คํด์ค 9. yum install iscsi-initiator-utils ๋ช
๋ น์ ์ฌ์ฉํ ์ฌ Linux iSCSI ์ด๊ธฐ์ ์ ํธ๋ฆฌํฐ๋ฅผ ์ค์นํฉ๋๋ค . a. iSER ๋์์ ๊ฒ์ํ๋ ค๋ฉด iscsiadm ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ์ : iscsiadm -m discovery -t st -p 192.168.100.
7โiSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ b. ์ ์ก ๋ชจ๋๋ฅผ iSER ๋ก ๋ณ๊ฒฝํ๋ ค๋ฉด iscsiadm ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ์ : iscsiadm -m node -T iqn.2015-06.test.target1 -o update -n iface.transport_name -v iser c. iSER ๋์์ ์ฐ๊ฒฐํ๊ฑฐ๋ ๋ก๊ทธ์ธํ๋ ค๋ฉด iscsiadm ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ์: iscsiadm -m node -l -p 192.168.100.99:3260 -T iqn.2015-06.test.target1 d. ๊ทธ๋ฆผ 7-3 ์์์ ๊ฐ์ด Iface Transport ๊ฐ ๋์ ์ฐ๊ฒฐ์์ iser ์ธ์ง ํ์ธํฉ๋๋ค . iscsiadm ๋ช
๋ น์ ์คํํฉ๋๋ค . ์ : iscsiadm -m session -P2 ๊ทธ๋ฆผ 7-3.
7โiSER ๊ตฌ์ฑ SLES 12 ์ฉ iSER ๊ตฌ์ฑ e. ๊ทธ๋ฆผ 7-4 ์์์ ๊ฐ์ด ์ iSCSI ์ฅ์น๊ฐ ์๋์ง ํ์ธํ๋ ค๋ฉด lsscsi ๋ช
๋ น์ ๋ฐ๊ธํ์ญ์์ค . ๊ทธ๋ฆผ 7-4. ์ iSCSI ์ฅ์น๊ฐ ์๋์ง ํ์ธ SLES 12 ์ฉ iSER ๊ตฌ์ฑ targetcli ๊ฐ SLES 12.x ์์ ์ธ๋ฐ์ค๊ฐ ์๋๋ฏ๋ก ๋ค์ ์ ์ฐจ๋ฅผ ์๋ฃํด์ผ ํฉ๋๋ค . SLES 12 ์ฉ iSER ์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. targetcli ๋ฅผ ์ค์นํ๋ ค๋ฉด ISO ์ด๋ฏธ์ง์์ ๋ค์ RPM ์ ๋ณต์ฌํด ์ค์นํ์ญ์์ค (x86_64 ๋ฐ noarch ์์น ). lio-utils-4.1-14.6.x86_64.rpm python-configobj-4.7.2-18.10.noarch.rpm python-PrettyTable-0.7.2-8.5.noarch.rpm python-configshell-1.5-1.44.noarch.rpm python-pyparsing-2.0.1-4.10.noarch.rpm python-netifaces-0.8-6.55.x86_64.
7โiSER ๊ตฌ์ฑ Linux ์ฑ๋ฅ ์ต์ ํ ์ฃผ targetcli ๋ฒ์ ์ RHEL ๊ณผ SLES ์์ ๋ค๋ฆ
๋๋ค . ์ฌ๋ฐ๋ฅธ ๋ฐฑ์คํ ์ด๋ฅผ ์ฌ ์ฉํด ๋์์ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . ๏ฎ RHEL ์ ramdisk ๋ฅผ ์ฌ์ฉํจ ๏ฎ SLES ๋ rd_mcp ๋ฅผ ์ฌ์ฉํจ Linux ์ฑ๋ฅ ์ต์ ํ ์ด ์น์
์์ ์ค๋ช
ํ๋ ๋ค์ Linux ์ฑ๋ฅ ๊ตฌ์ฑ ๊ฐ์ ์ฌํญ์ ๊ณ ๋ คํ์๊ธฐ ๋ฐ๋๋๋ค . ๏ฎ ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก CPU ๊ตฌ์ฑ ๏ฎ ์ปค๋ sysctl ์ค์ ๊ตฌ์ฑ ๏ฎ IRQ Affinity ์ค์ ๊ตฌ์ฑ ๏ฎ ๋ธ๋ก ์ฅ์น ์คํ
์ด์ง ๊ตฌ์ฑ ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก CPU ๊ตฌ์ฑ ๋ชจ๋ CPU ๋ฅผ ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก ์ค์ ํ๋ ค๋ฉด ๋ค์ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํด CPU ๋ฐฐ์จ ์กฐ ์ ๊ด๋ฆฌ์๋ฅผ ๊ตฌ์ฑํ์ญ์์ค .
7โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ sysctl -w net.ipv4.tcp_sack=1 sysctl -w net.ipv4.tcp_low_latency=1 sysctl -w net.ipv4.tcp_adv_win_scale=1 echo 0 > /proc/sys/vm/nr_hugepages IRQ Affinity ์ค์ ๊ตฌ์ฑ ๋ค์ ์์ ๋ CPU ์ฝ์ด 0, 1, 2 ๋ฐ 3 ์ ๊ฐ๊ฐ ์ธํฐ๋ฝํธ ์์ฒญ (IRQ) XX, YY, ZZ ๋ฐ XYZ ๋ก ์ค์ ํฉ๋๋ค . ํฌํธ์ ํ ๋น๋ ๊ฐ IRQ ์ ๋ํด ์ด๋ฐ ์ ์ฐจ๋ฅผ ์ํํฉ๋๋ค ( ๊ธฐ๋ณธ๊ฐ์ ํฌํธ๋น ๋๊ธฐ์ด 8 ๊ฐ ).
7โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ vmrdma0 qedrntv Active 1024 40 Gbps vmnic4 QLogic FastLinQ QL45xxx RDMA Interface vmrdma1 qedrntv Active 1024 40 Gbps vmnic5 QLogic FastLinQ QL45xxx RDMA Interface [root@localhost:~] esxcfg-vmknic -l Interface Port Group/DVPort/Opaque Network Netmask Broadcast IP Family IP Address MAC Address MTU TSO MSS Enabled Type NetStack vmk0 Management Network 255.255.240.0 172.28.15.255 IPv4 e0:db:55:0c:5f:94 1500 172.28.12.
7โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ vmnic4 0000:42:00.0 qedentv Up 40000Mbps Full 00:0e:1e:d5:f6:a2 1500 QLogic Corp. QLogic FastLinQ QL45xxx 10/25/40/50/100 GbE Ethernet Adapter vmnic5 0000:42:00.1 qedentv Up 40000Mbps Full 00:0e:1e:d5:f6:a3 1500 QLogic Corp.
7โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ ------- ------------------------ vmhba65 iqn.2015-06.test.target1 ----- ---------------- ---------- SENDTARGETS No Error esxcli storage core adapter rescan --adapter vmhba65 5. ์ฐ๊ฒฐ๋ ๋์์ ๋ค์๊ณผ ๊ฐ์ด ๋์ดํฉ๋๋ค . esxcfg-scsidevs -l mpx.vmhba0:C0:T4:L0 Device Type: CD-ROM Size: 0 MB Display Name: Local TSSTcorp CD-ROM (mpx.vmhba0:C0:T4:L0) Multipath Plugin: NMP Console Device: /vmfs/devices/cdrom/mpx.vmhba0:C0:T4:L0 Devfs Path: /vmfs/devices/cdrom/mpx.
8 SR-IOV ๊ตฌ์ฑ SR-IOV( ๋จ์ผ ๋ฃจํธ ์
/ ์ถ๋ ฅ ๊ฐ์ํ ) ๋ ๋จ์ผ PCIe(PCI Express) ์ฅ์น๊ฐ ์ฌ๋ฌ ๊ฐ ์ ๊ตฌ๋ถ๋ ์ค์ PCIe ์ฅ์น๋ก ๋ํ๋๋๋ก ํด์ฃผ๋ PCI SIG ์ ์ฌ์์
๋๋ค . SR-IOV ๋ ์ฑ๋ฅ , ์ํธ ์ด์ฉ์ฑ ๋ฐ ๊ด๋ฆฌ์ฑ์ ์ํด PCIe ๋ฆฌ์์ค์ ๊ฒฉ๋ฆฌ๋ฅผ ํ์ฉํฉ๋๋ค . ์ฃผ ํ์ฌ ๋ฆด๋ฆฌ์ค์์ ์ผ๋ถ SR-IOV ๊ธฐ๋ฅ์ ์์ ํ ์ฌ์ฉํ์ง ๋ชปํ ์๋ ์์ต๋๋ค . ์ด ์ฅ์์๋ ๋ค์ ์์
์ ์ง์นจ์ ์ ์ํฉ๋๋ค . ๏ฎ Windows ์์ SR-IOV ๊ตฌ์ฑ ๏ฎ 102 ํ์ด์ง์ "Linux ์์ SR-IOV ๊ตฌ์ฑ " ๏ฎ 108 ํ์ด์ง์ "VMware ์์ SR-IOV ๊ตฌ์ฑ " Windows ์์ SR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์๋ฒ BIOS System Setup(BIOS ์์คํ
์ค์ ) ์ผ๋ก ์ด๋ํ์ฌ System BIOS Settings( ์์คํ
BIOS ์ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2.
8โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 8-1. SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ํตํฉ ์ฅ์น 4. ์ ํํ ์ด๋ํฐ์ ๋ํ Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ์ ํด๋ฆญํฉ๋๋ค . 5. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ )( ๊ทธ๋ฆผ 8-2) ์์ ๋ค์์ ์ํํ์ญ์์ค . a. Virtualization Mode( ๊ฐ์ํ ๋ชจ๋ ) ๋ฅผ SR-IOV ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 8-2. SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ 6. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 7.
8โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ 9. ๋ฏธ๋ํฌํธ ์ด๋ํฐ์์ SR-IOV ๋ฅผ ํ์ฑํํ๋ ค๋ฉด a. ์ฅ์น ๊ด๋ฆฌ์์ ์ก์ธ์คํฉ๋๋ค . b. ๋ฏธ๋ํฌํธ ์ด๋ํฐ ์์ฑ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . c. Advanced properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 8-3) SR-IOV ๋ฅผ ์ ํํ ํ ๊ฐ์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ ๋๋ค . d. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 8-3. ์ด๋ํฐ ์์ฑ , ๊ณ ๊ธ : SR-IOV ํ์ฑํ 10. SR-IOV ๋ก ๊ฐ์ ๋จธ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด (98 ํ์ด์ง์ ๊ทธ๋ฆผ 8-4) a. ํ์ดํผ๋ฐ์ด์ ๊ด๋ฆฌ์๋ฅผ ์์ํฉ๋๋ค . b. Virtual Switch Manager( ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ ) ๋ฅผ ์ ํํฉ๋๋ค . c. Name( ์ด๋ฆ ) ์
๋ ฅ๋์ ๊ฐ์ ์ค์์น์ ์ด๋ฆ์ ์
๋ ฅํฉ๋๋ค . d.
8โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ์ฃผ vSwitch ๋ฅผ ์์ฑํ ๋ SR-IOV ๋ฅผ ๋ฐ๋์ ํ์ฑํํด์ผ ํฉ๋๋ค . vSwitch ๋ฅผ ์์ฑํ ํ์๋ ์ด ์ต์
์ ์ฌ์ฉํ ์ ์์ต๋๋ค . ๊ทธ๋ฆผ 8-4. ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ : SR-IOV ํ์ฑํ f. Apply Networking Changes( ๋คํธ์ํน ๋ณ๊ฒฝ ์ฌํญ ์ ์ฉ ) ๋ฉ์์ง ์์์ Pending changes may disrupt network connectivity( ๋ณด๋ฅ ์ค์ธ ๋ณ ๊ฒฝ ์ฌํญ์ผ๋ก ์ธํด ๋คํธ์ํฌ ์ฐ๊ฒฐ์ด ๋์ด์ง ์ ์์ ) ๋ผ๋ ๋ด์ฉ์ด ํ์๋ฉ ๋๋ค . ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํ๊ณ ๊ณ์ํ๋ ค๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
8โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ 11. ๊ฐ์ ๋จธ์ ์ค์์น ๊ธฐ๋ฅ์ ์ฌ์ฉํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํ ํฉ๋๋ค . PS C:\Users\Administrator> Get-VMSwitch -Name SR-IOV_vSwitch | fl Get-VMSwitch ๋ช
๋ น ์ถ๋ ฅ์ ๋ค์๊ณผ ๊ฐ์ SR-IOV ๊ธฐ๋ฅ์ด ํฌํจ๋ฉ๋๋ค . 12. IovVirtualFunctionCount : 96 IovVirtualFunctionsInUse : 1 ๋ค์๊ณผ ๊ฐ์ด ๊ฐ์ ๋จธ์ (VM) ์ ์์ฑํ๊ณ VM ์์ ๊ฐ์ ๊ธฐ๋ฅ (VF) ์ ๋ด๋ณด๋
๋๋ค . a. ๊ฐ์ ๋จธ์ ์ ์์ฑํฉ๋๋ค . b. VMNetworkadapter ๋ฅผ ๊ฐ์ ๋จธ์ ์ ์ถ๊ฐํฉ๋๋ค . c. ๊ฐ์ ์ค์์น๋ฅผ VMNetworkadapter ์ ํ ๋นํฉ๋๋ค . d.
8โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 8-5. VM ์ ์ค์ : SR-IOV ํ์ฑํ 13. VM ์์ ๊ฐ์ง๋ ์ด๋ํฐ์ QLogic ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๊ณต๊ธ์
์ฒด์์ ํธ ์คํธ OS ์ ์ต์ ๋๋ผ์ด๋ฒ๋ฅผ ์ป์ด ์ฌ์ฉํฉ๋๋ค ( ๊ธฐ๋ณธ ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ง ๋ง ์ญ์์ค ). ์ฃผ VM ๊ณผ ํธ์คํธ ์์คํ
์์ ๋์ผํ ๋๋ผ์ด๋ฒ ํจํค์ง๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค . ์๋ฅผ ๋ค์ด Windows VM ๊ณผ Windows Hyper-V ํธ์คํธ์์ ๋์ผํ ๋ฒ์ ์ qeVBD ๋ฐ qeND ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ญ์์ค .
8โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ๋๋ผ์ด๋ฒ ์ค์น ํ , VM ์ QLogic ์ด๋ํฐ๊ฐ ํ์๋ฉ๋๋ค . ๊ทธ๋ฆผ 8-6 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 8-6. ์ฅ์น ๊ด๋ฆฌ์ : QLogic ์ด๋ํฐ๊ฐ ํฌํจ๋ VM 14. SR-IOV VF ์ธ๋ถ ์ ๋ณด๋ฅผ ํ์ธํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํ ํฉ๋๋ค . PS C:\Users\Administrator> Get-NetadapterSriovVf ๊ทธ๋ฆผ 8-7 ์ ์ถ๋ ฅ ์์
๋๋ค . ๊ทธ๋ฆผ 8-7.
8โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์๋ฒ BIOS System Setup(BIOS ์์คํ
์ค์ ) ์ผ๋ก ์ด๋ํ์ฌ System BIOS Settings( ์์คํ
BIOS ์ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2. System BIOS Settings( ์์คํ
BIOS ์ค์ ) ํ์ด์ง์์ Integrated Devices ( ํตํฉ ์ฅ์น ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 3. System Integrated Devices( ์์คํ
ํตํฉ ์ฅ์น ) ํ์ด์ง (96 ํ์ด์ง์ ๊ทธ ๋ฆผ 8-1 ์ฐธ์กฐ ) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . 4. a. SR-IOV Global Enable(SR-IOV ์ ์ญ ํ์ฑํ ) ์ต์
์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค .
8โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ 5. Processor Settings( ํ๋ก์ธ์ ์ค์ ) ํ์ด์ง ( ๊ทธ๋ฆผ 8-8) ์์ ๋ค์ ์์
์ ์ ํํฉ๋๋ค . a. Virtualization Technology( ๊ฐ์ํ ๊ธฐ์ ) ์ต์
์ Enabled ( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 8-8. ์์คํ
์ค์ : SR-IOV ๋ฅผ ์ํ ํ๋ก์ธ์ ์ค์ 6. System Setup( ์์คํ
์ค์ ) ํ์ด์ง์์ Device Settings( ์ฅ์น ์ค์ ) ๋ฅผ ์ ํํฉ๋๋ค . 7. Device Settings( ์ฅ์น ์ค์ ) ํ์ด์ง์์ QLogic ์ด๋ํฐ์ฉ Port 1( ํฌํธ 1) ์ ์ ํํฉ๋๋ค .
8โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ 8. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 8-9) ์์ ๋ค์ ์ ์
์ ์ํํฉ๋๋ค . a. Virtualization Mode( ๊ฐ์ํ ๋ชจ๋ ) ๋ฅผ SR-IOV ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 8-9. SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ํตํฉ ์ฅ์น 9. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํ๊ณ ์ค์ ์ ์ ์ฅํ ํ ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค . 10. ๋ค์๊ณผ ๊ฐ์ด ๊ฐ์ํ๋ฅผ ํ์ฑํํ๊ณ ํ์ธํฉ๋๋ค . a. ๊ทธ๋ฆผ 8-10 ๊ณผ ๊ฐ์ด grub.conf ํ์ผ์ ์ด๊ณ iommu ๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑํฉ ๋๋ค . ๏ฎ ๏ฎ Intel ๊ธฐ๋ฐ ์์คํ
์ผ ๊ฒฝ์ฐ์๋ intel_iommu=on ์ ์ถ๊ฐํฉ๋๋ค . AMD ๊ธฐ๋ฐ ์์คํ
์ผ ๊ฒฝ์ฐ์๋ amd_iommu=on ์ ์ถ๊ฐํฉ๋๋ค .
8โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 8-10. SR-IOV ์ฉ grub.conf ํ์ผ ํธ์ง b. grub.conf ํ์ผ์ ์ ์ฅํ๊ณ ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค . c. ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋๋์ง ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . dmesg | grep -I iommu ์๋ฅผ ๋ค์ด ๋ค์๊ณผ ๊ฐ์ด ์ฑ๊ณต์ ์ธ IOMMU(inputโoutput memory management unit) ๋ช
๋ น ์ถ๋ ฅ์ด ํ์๋์ด์ผ ํฉ๋๋ค . Intel-IOMMU: enabled d. VF ์ธ๋ถ ์ ๋ณด (VF ์์ ์ด VF ์ ) ๋ฅผ ๋ณด๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . find /sys/|grep -I sriov 11. ํน์ ํฌํธ์ ๋ํด VF ์ ์๋์ ํ์ฑํํฉ๋๋ค . a. ์๋ฅผ ๋ค์ด ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น์ ์คํํ์ฌ PCI ์ธ์คํด์ค 04:00.0( ๋ฒ์ค 4, ์ฅ์น 0, ๊ธฐ๋ฅ 0) ์์ VF 8 ๊ฐ๋ฅผ ํ์ฑํํฉ๋๋ค .
8โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ b. ๋ช
๋ น ์ถ๋ ฅ ( ๊ทธ๋ฆผ 8-11) ์ ์ดํด๋ณด๋ฉด์ ์ค์ ๋ก VF ๊ฐ ๋ฒ์ค 4, ์ฅ์น 2(0000:00:02.0 ๋งค๊ฐ๋ณ์ ), ๊ธฐ๋ฅ 0~7 ์ ์์ฑ๋์๋์ง ํ์ธํฉ๋๋ค . ๋จ , PF( ์ด ์์์ 8070) ์ VF( ์ด ์์์ 9090) ๋ฅผ ๋น๊ตํ์ ๋ ์ค์ ์ฅ์น ID ๋ ์๋ก ๋ค๋ฆ
๋๋ค . ๊ทธ๋ฆผ 8-11. sriov_numvfs ์ ๋ํ ๋ช
๋ น ์ถ๋ ฅ 12. ๋ชจ๋ PF ๋ฐ VF ์ธํฐํ์ด์ค์ ๋ชฉ๋ก์ ๋ณด๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . # ip link show | grep -i vf -b2 ๊ทธ๋ฆผ 8-12 ์ ์ถ๋ ฅ ์์
๋๋ค . ๊ทธ๋ฆผ 8-12.
8โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ 13. MAC ์ฃผ์๋ฅผ ํ ๋นํ๊ณ ํ์ธํฉ๋๋ค . a. MAC ์ฃผ์๋ฅผ VF ์ ํ ๋นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ip link set vf mac b. 14. VF ์ธํฐํ์ด์ค๊ฐ ํ ๋น๋ MAC ์ฃผ์๋ก ์๋๋์ด ์คํ ์ค์ธ์ง ํ์ธํฉ๋ ๋ค. VM ์ ๋๊ณ VF ๋ฅผ ์ฐ๊ฒฐํฉ๋๋ค . ( ์ผ๋ถ OS ์์๋ VF ๋ฅผ VM ์ ํซํ๋ฌ๊ทธ ์ฐ ๊ฒฐํ ์ ์๋๋ก ์ง์ํฉ๋๋ค .) a. Virtual Machine( ๊ฐ์ ๋จธ์ ) ๋ํ ์์ ( ๊ทธ๋ฆผ 8-13) ์์ Add Hardware( ํ๋์จ์ด ์ถ๊ฐ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 8-13. RHEL68 ๊ฐ์ ๋จธ์ b. Add New Virtual Hardware( ์ ๊ฐ์ ํ๋์จ์ด ์ถ๊ฐ ) ๋ํ ์์์ ์ผ์ชฝ ์ฐฝ ์์ ( ๊ทธ๋ฆผ 8-14) PCI Host Device(PCI ํธ์คํธ ์ฅ์น ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . c.
8โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ d. Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 8-14. ์ ๊ฐ์ ํ๋์จ์ด ์ถ๊ฐ 15. VM ์ ์ผ ํ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . check lspci -vv|grep -I ether 16. VM ์์ ๊ฐ์ง๋ ์ด๋ํฐ์ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๊ณต๊ธ์
์ฒด์์ ํธ์คํธ OS ์ ์ต์ ๋๋ผ์ด๋ฒ๋ฅผ ์ป์ด ์ฌ์ฉํฉ๋๋ค ( ๊ธฐ๋ณธ ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ง ๋ง์ญ์์ค ). ํธ์คํธ ๋ฐ VM ์ ๋์ผํ ๋๋ผ์ด๋ฒ ๋ฒ์ ์ ์ค์นํด์ผ ํฉ๋๋ค . 17. ํ์ํ ๊ฒฝ์ฐ VM ์ VF ๋ฅผ ๋ ์ถ๊ฐํฉ๋๋ค . VMware ์์ SR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์๋ฒ BIOS System Setup(BIOS ์์คํ
์ค์ ) ์ผ๋ก ์ด๋ํ์ฌ System BIOS Settings( ์์คํ
BIOS ์ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2.
8โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ 5. Device Settings( ์ฅ์น ์ค์ ) ํ์ด์ง์์ 25G QL45212 Adapter ์ฉ ํฌํธ๋ฅผ ์ ํํฉ๋๋ค . 6. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง (96 ํ์ด์ง์ ๊ทธ๋ฆผ 8-2 ์ฐธ์กฐ ) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. Virtualization Mode( ๊ฐ์ํ ๋ชจ๋ ) ๋ฅผ SR-IOV ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 7. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 8. ๊ตฌ์ฑ ์ค์ ์ ์ ์ฅํ๊ณ ์์คํ
์ ๋ค์ ๋ถํ
ํฉ๋๋ค . 9. ํฌํธ 1 ๊ฐ๋น ํ์ํ VF ์๋ ( ์ด ์์์๋ ๋์ผ ํฌํธ ์ด๋ํฐ์ ๊ฐ ํฌํธ๋น 16 ๊ฐ ) ์ ํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค .
8โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ . . 0000:05:03.7 Network controller: QLogic Corp. QLogic FastLinQ QL45xxx Series 10/25 GbE Controller (SR-IOV VF) [PF_0.5.0_VF_15] 0000:05:0e.0 Network controller: QLogic Corp. QLogic FastLinQ QL45xxx Series 10/25 GbE Controller (SR-IOV VF) [PF_0.5.1_VF_0] 0000:05:0e.1 Network controller: QLogic Corp. QLogic FastLinQ QL45xxx Series 10/25 GbE Controller (SR-IOV VF) [PF_0.5.1_VF_1] 0000:05:0e.2 Network controller: QLogic Corp.
8โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ d. ๊ตฌ์ฑ ๋ณ๊ฒฝ ์ฌํญ์ ์ ์ฅํ๊ณ ์ด ๋ํ ์์๋ฅผ ๋ซ์ผ๋ ค๋ฉด OK( ํ์ธ ) ๋ฅผ ํด ๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 8-15.
8โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ 15. ํฌํธ๋น VF ์์ ์ ํจ์ฑ์ ๊ฒ์ฌํ๋ ค๋ฉด ๋ค์๊ณผ ๊ฐ์ด esxcli ๋ช
๋ น์ ๋ฐ๊ธํฉ๋ ๋ค. [root@localhost:~] esxcli network sriovnic vf list -n vmnic6 VF ID Active PCI Address Owner World ID ----- ------ ----------- -------------- 0 true 005:02.0 60591 1 true 005:02.1 60591 2 false 005:02.2 - 3 false 005:02.3 - 4 false 005:02.4 - 5 false 005:02.5 - 6 false 005:02.6 - 7 false 005:02.7 - 8 false 005:03.0 - 9 false 005:03.1 - 10 false 005:03.2 - 11 false 005:03.
9 Windows Server 2016 ์ด ์ฅ์์๋ Windows Server 2016 ์ ๋ํด ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๏ฎ 119 ํ์ด์ง์ "RoCE over Switch Embedded Teaming" ๏ฎ 121 ํ์ด์ง์ "RoCE ์ ๋ํ QoS ๊ตฌ์ฑ " ๏ฎ 129 ํ์ด์ง์ "VMMQ ๊ตฌ์ฑ " ๏ฎ 136 ํ์ด์ง์ "VXLAN ๊ตฌ์ฑ " ๏ฎ 137 ํ์ด์ง์ "Storage Spaces Direct ๊ตฌ์ฑ " ๏ฎ 144 ํ์ด์ง์ "Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ " Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ Windows Server 2016 ์์๋ Hyper-V ์ Network Direct Kernel Provider Interface(NDKPI) Mode-2 ๊ฐ ๊ตฌํ๋๋ฉด์ ํธ์คํธ ๊ฐ์ ๋คํธ์ํฌ ์ด๋ํฐ ( ํธ์คํธ ๊ฐ ์ NIC) ๊ฐ RDMA ๋ฅผ ์ง์ํฉ๋๋ค .
9โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ RDMA ๊ฐ์ NIC ๋ฅผ ์ฌ์ฉํ Hyper-V ๊ฐ์ ์ค์์น ์์ฑ ์ด ์น์
์ ์ ์ฐจ์ ๋ฐ๋ผ Hyper-V ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ ํ ํธ์คํธ VNIC ์์ RDMA ๋ฅผ ํ์ฑํํฉ๋๋ค . RDMA ๊ฐ์ NIC ๋ก Hyper-V ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด 1. ํ์ดํผ๋ฐ์ด์ ๊ด๋ฆฌ์๋ฅผ ์์ํฉ๋๋ค . 2. Virtual Switch Manager( ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค ( ๊ทธ๋ฆผ 9-1 ์ฐธ์กฐ ). ๊ทธ๋ฆผ 9-1. ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ํ์ฑํ 3. ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํฉ๋๋ค . 4. Allow management operating system to share this network adapter( ๊ด ๋ฆฌ ์ด์ ์ฒด์ ๊ฐ ์ด ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ ๊ณต์ ํ๋๋ก ํ์ฉ ) ํ์ธ๋์ ์ ํํฉ๋ ๋ค.
9โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด 1. Hyper-V Virtual Ethernet Adapter Properties( ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ด๋๋ท ์ด ๋ํฐ ์์ฑ ) ์ฐฝ์ ์ฝ๋๋ค . 2. Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 3. Advanced( ๊ณ ๊ธ ) ํ์ด์ง ( ๊ทธ๋ฆผ 9-2) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. Property( ์์ฑ ) ์์ Network Direct(RDMA) ๋ฅผ ์ ํํฉ๋๋ค . b. Value( ๊ฐ ) ์์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ฅผ ์ ํํฉ๋๋ค . c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-2. ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ด๋๋ท ์ด๋ํฐ ์์ฑ 4. RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Enable-NetAdapterRdma "vEthernet (Ne
9โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ํธ์คํธ ๊ฐ์ NIC ์ VLAN ID ์ถ๊ฐ ํธ์คํธ ๊ฐ์ NIC ์ VLAN ID ๋ฅผ ์ถ๊ฐํ๋ ค๋ฉด 1. ํธ์คํธ ๊ฐ์ NIC ์ด๋ฆ์ ์ฐพ์ผ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrator> Get-VMNetworkAdapter -ManagementOS ๊ทธ๋ฆผ 9-3 ์ ๋ช
๋ น ์ถ๋ ฅ์ ๋ํ๋ธ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 9-3. Windows PowerShell ๋ช
๋ น : Get-VMNetworkAdapter 2. VLAN ID ๋ฅผ ํธ์คํธ ๊ฐ์ NIC ๋ก ์ค์ ํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น ์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Set-VMNetworkAdaptervlan -VMNetworkAdapterName "New Virtual Switch" -VlanId 5 -Access -Management05 ์ฃผ ํธ์คํธ ๊ฐ์
9โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๊ทธ๋ฆผ 9-4 ์ ํ์๋ ๊ฒ์ฒ๋ผ ๋ช
๋ น ์ถ๋ ฅ์ RDMA ์ง์ ์ด๋ํฐ๊ฐ ๋์ด๋ฉ๋๋ค . ๊ทธ๋ฆผ 9-4. Windows PowerShell ๋ช
๋ น : Get-NetAdapterRdma ํธ์คํธ ๊ฐ์ NIC( ๊ฐ์ ํฌํธ ) ์ถ๊ฐ ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ์ถ๊ฐํ๋ ค๋ฉด 1. ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ์ถ๊ฐํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . Add-VMNetworkAdapter -SwitchName "New Virtual Switch" -Name SMB - ManagementOS 2. 115 ํ์ด์ง์ " ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด " ์ ํ์๋ ๊ฒ ์ฒ๋ผ ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ๋ฅผ ํ์ฑํํฉ๋๋ค . 3. ๊ฐ์ ํฌํธ์ VLAN ID ๋ฅผ ํ ๋นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค .
9โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ c. ์ถ๊ฐ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-5.
9โWindows Server 2016 RoCE over Switch Embedded Teaming RoCE ํธ๋ํฝ์ด ์คํ ์ค์ธ ๊ฒฝ์ฐ ๊ณ์๊ธฐ๊ฐ ๊ทธ๋ฆผ 9-6 ์ ํ์๋ ๊ฒ์ฒ๋ผ ๋ํ๋ฉ ๋๋ค . ๊ทธ๋ฆผ 9-6. RoCE ํธ๋ํฝ์ ํ์ํ๊ณ ์๋ ์ฑ๋ฅ ๋ชจ๋ํฐ RoCE over Switch Embedded Teaming SET(Switch Embedded Teaming) ๋ Windows Server 2016 Technical Preview ์ Hyper-V ๋ฐ SDN(Software Defined Networking) ์คํ์ ํฌํจํ๋ ํ๊ฒฝ์์ ์ฌ์ฉํ ๊ธฐ ์ํด ์ ๊ณต๋๋ Microsoft ์ ๋์ฒด NIC ํฐ๋ฐ ์๋ฃจ์
์
๋๋ค . SET ๋ ์ ํ๋ NIC ํฐ๋ฐ ๊ธฐ๋ฅ์ ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ค์์น๋ก ํตํฉํฉ๋๋ค . ํ๋์ ์ค์ ์ด๋๋ท ๋คํธ์ํฌ ์ด๋ํฐ์ 8 ๊ฐ์ ์ค์ ์ด๋๋ท ๋คํธ์ํฌ ์ด๋ํฐ ์ฌ์ด ์์ SET ๋ฅผ ์ฌ์ฉํ์ฌ ํ๋ ์ด์์ ์ํํธ์จ์ด ๊ธฐ๋ฐ ๊ฐ์ ๋คํธ์ํฌ ์ด๋ํฐ๋ก ๊ทธ๋ฃน ํํฉ๋๋ค .
9โWindows Server 2016 RoCE over Switch Embedded Teaming SET ๋ฐ RDMA ๊ฐ์ NIC ๋ฅผ ํฌํจํ ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ค์์น ์์ฑ SET ๋ฐ RDMA ๊ฐ์ NIC ๋ฅผ ํฌํจํ ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด ๏ฎ SET ๋ฅผ ์์ฑํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> New-VMSwitch -Name SET -NetAdapterName "Ethernet 2","Ethernet 3" -EnableEmbeddedTeaming $true ๊ทธ๋ฆผ 9-7 ์ ๋ช
๋ น ์ถ๋ ฅ์ ๋ํ๋ธ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 9-7. Windows PowerShell ๋ช
๋ น : New-VMSwitch SET ์์ RDMA ํ์ฑํ SET ์์ RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด 1. ์ด๋ํฐ์์ SET ๋ฅผ ๋ณด๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Get-Ne
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ์ฃผ ํธ์คํธ ๊ฐ์ NIC ์ VLAN ID ๋ฅผ ์ถ๊ฐํ ๋ ๋ค์ ์ฌํญ์ ์ฐธ๊ณ ํ์ญ์์ค . ๏ฎ RoCE ์ฉ ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ์ฌ์ฉํ ๋ ์ค์ ์ธํฐํ์ด์ค์ VLAN ID ๊ฐ ํ ๋น๋์ด ์์ง ์์์ง ํ์ธํ์ญ์์ค . ๏ฎ ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ๋ ๊ฐ ์ด์ ์์ฑํ ๊ฒฝ์ฐ ํธ์คํธ ๊ฐ์ NIC ๋ง๋ค ๋ค๋ฅธ VLAN ์ ํ ๋นํ ์ ์์ต๋๋ค . SET ์์ RDMA ํธ๋ํฝ ์คํ SET ์์์ RDMA ํธ๋ํฝ ์คํ์ ๋ํ ์ ๋ณด๋ ๋ค์ ๋งํฌ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . https://technet.microsoft.com/en-us/library/mt403349.aspx RoCE ์ ๋ํ QoS ๊ตฌ์ฑ QoS( ์๋น์ค ํ์ง ) ๋ฅผ ๊ตฌ์ฑํ๋ ๋ ๊ฐ์ง ๋ฐฉ๋ฒ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค .
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ 5. ๋ค์๊ณผ ๊ฐ์ด ๋ฏธ๋ํฌํธ์์ QoS ๋ฅผ ํ์ฑํํฉ๋๋ค . a. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . b. ์ด๋ํฐ์ Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 9-9) Quality of Service( ์๋น์ค ํ์ง ) ๋ฅผ ์ ํํ ํ ๊ฐ ์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-9. ๊ณ ๊ธ ์์ฑ : QoS ํ์ฑํ 6. ๋ค์๊ณผ ๊ฐ์ด VLAN ID ๋ฅผ ์ธํฐํ์ด์ค์ ํ ๋นํฉ๋๋ค . a. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . b. ์ด๋ํฐ์ Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 9-10) VLAN ID ๋ฅผ ์ ํํ ํ ๊ฐ์ ์ค์ ํฉ๋๋ค .
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ์ฃผ ์์ ๋จ๊ณ๋ PFC( ์ฐ์ ์์ ํ๋ฆ ์ ์ด ) ์ ํ์์ ์
๋๋ค . ๊ทธ๋ฆผ 9-10. ๊ณ ๊ธ ์์ฑ : VLAN ID ์ค์ 7. ํน์ ์ฐ์ ์์์ ๋ํด RoCE ์ ์ฐ์ ์์ ํ๋ฆ ์ ์ด๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . PS C:\Users\Administrators> Enable-NetQoSFlowControl -Priority 4 ์ฃผ RoCE over Hyper-V ๋ฅผ ๊ตฌ์ฑํ๋ ๊ฒฝ์ฐ VLAN ID ๋ฅผ ์ค์ ์ธํฐํ์ด์ค์ ํ ๋นํ์ง ๋ง์ญ์์ค .
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ 8. ๋ค๋ฅธ ์ฐ์ ์์์ ๋ํด ์ฐ์ ์์ ํ๋ฆ ์ ์ด๋ฅผ ๋นํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ ๊ธํฉ๋๋ค . PS C:\Users\Administrator> Disable-NetQosFlowControl 0,1,2,3,5,6,7 PS C:\Users\Administrator> Get-NetQosFlowControl Priority Enabled PolicySet IfIndex IfAlias -------- ------- --------- ------- ------- 0 False Global 1 False Global 2 False Global 3 False Global 4 True Global 5 False Global 6 False Global 7 False Global 9.
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ NetDirectPort : 445 PriorityValue : 4 10. ์ด์ ๋จ๊ณ์์ ์ ์๋ ๋ชจ๋ ํธ๋ํฝ ํด๋์ค์ ๋ํ ETS ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . PS C:\Users\Administrators> New-NetQosTrafficClass -name "RDMA class" -priority 4 -bandwidthPercentage 50 -Algorithm ETS PS C:\Users\Administrators> New-NetQosTrafficClass -name "TCP class" -priority 0 -bandwidthPercentage 30 -Algorithm ETS PS C:\Users\Administrator> Get-NetQosTrafficClass Name Algorithm Bandwidth(%) Priority ---- --------- ------------ -------- P
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ 12. ์์คํ
์ฌ๋ถํ
๊ณผ์ ์์ ์ค์ ์ ๊ณ์ ์ ์ง์์ผ ์ฃผ๋ ์์ ์คํฌ๋ฆฝํธ๋ฅผ ๋ง๋ญ๋ ๋ค. 13. 55 ํ์ด์ง์ "RoCE ๊ตฌ์ฑ " ์ ์ค๋ช
์ ๋ฐ๋ผ RDMA ํธ๋ํฝ์ ์คํํ๊ณ ํ์ธํฉ ๋๋ค . ์ด๋ํฐ์์ DCBX ๋ฅผ ํ์ฑํํ์ฌ QoS ๊ตฌ์ฑ ์ฌ์ฉ ์ค์ธ ๋ชจ๋ ์์คํ
์์ ๋ชจ๋ ๊ตฌ์ฑ์ ์๋ฃํด์ผ ํฉ๋๋ค . ์ค์์น์ ์๋ฒ์์ PFC, ETS ๋ฐ ํธ๋ํฝ ํด๋์ค ๊ตฌ์ฑ์ด ๋์ผํด์ผ ํฉ๋๋ค . DCBX ๋ฅผ ํ์ฑํํ์ฌ QoS ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. DCBX(IEEE, CEE ๋๋ Dynamic) ๋ฅผ ํ์ฑํํฉ๋๋ค . 2. HII ๋ฅผ ์ฌ์ฉํ์ฌ RoCE Priority(RoCE ์ฐ์ ์์ ) ๋ฅผ 0 ์ผ๋ก ์ค์ ํฉ๋๋ค . 3. ํธ์คํธ์ DCB ์ญํ ์ ์ค์นํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrators> Install-WindowsFeature Data-Center-Bridging ์ฃผ ์ด ๊ตฌ
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ 5. ๋ค์๊ณผ ๊ฐ์ด ๋ฏธ๋ํฌํธ์์ QoS ๋ฅผ ํ์ฑํํฉ๋๋ค . a. ์ด๋ํฐ์ Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 9-11) Quality of Service( ์๋น์ค ํ์ง ) ๋ฅผ ์ ํํ ํ ๊ฐ์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . b. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-11. ๊ณ ๊ธ ์์ฑ : QoS ํ์ฑํ 6. ๋ค์๊ณผ ๊ฐ์ด VLAN ID ๋ฅผ ์ธํฐํ์ด์ค (PFC ์ ๊ฒฝ์ฐ ํ์ ) ์ ํ ๋นํฉ๋๋ค . a. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . b. ์ด๋ํฐ์ Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 9-12) VLAN ID ๋ฅผ ์ ํํ ํ ๊ฐ์ ์ค์ ํฉ๋๋ค . c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
9โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ๊ทธ๋ฆผ 9-12. ๊ณ ๊ธ ์์ฑ : VLAN ID ์ค์ 7. ์ค์์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrators> Get-NetAdapterQoS Name : Ethernet 5 Enabled : True Capabilities : Hardware Current -------- ------- MacSecBypass : NotSupported NotSupported DcbxSupport : CEE NumTCs(Max/ETS/PFC) : 4/4/4 OperationalTrafficClasses OperationalFlowControl : TC TSA Bandwidth Priorities -- --- --------- ---------- 0 ETS 5% 0-3,5-7 1 ETS 95% 4 CEE 4/4/4 : Prio
9โWindows Server 2016 VMMQ ๊ตฌ์ฑ RemoteTrafficClasses : TC TSA Bandwidth Priorities -- --- --------- ---------- 0 ETS 5% 0-3,5-7 1 ETS 95% 4 RemoteFlowControl : Priority 4 Enabled RemoteClassifications : Protocol Port/Type Priority -------- --------- -------- NetDirect 445 4 ์ฃผ ์์ ๋์จ ์๋ ์ด๋ํฐ ํฌํธ๊ฐ Aristaยฎ 7060X ์ค์์น์ ์ฐ๊ฒฐ๋์ด ์์ ๋์ ์์
๋๋ค . ์ด ์์์๋ ์ค์์น PFC ๊ฐ Priority 4 ์์ ํ์ฑํ๋ฉ๋๋ค . RoCE App TLV ๊ฐ ์ ์๋ฉ๋๋ค . ์ด ๋ ํธ๋ํฝ ํด๋์ค๋ TC0 ๋ฐ TC1 ๋ก ์ ์๋๋ฉฐ , ์ฌ๊ธฐ์ TC1 ์ RoCE ์ฉ์ผ๋ก ์ ์๋ฉ๋๋ค .
9โWindows Server 2016 VMMQ ๊ตฌ์ฑ ์ด๋ํฐ์์ VMMQ ํ์ฑํ ์ด๋ํฐ์์ VMMQ ๋ฅผ ํ์ฑํํ๋ ค๋ฉด 1. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 2. Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 9-13) ์ Property( ์์ฑ ) ์ ๋์์ Virtual Switch RSS( ๊ฐ์ ์ค์์น RSS) ๋ฅผ ์ ํํ ํ ๊ฐ์ Enabled ( ํ์ฑํ ) ๋ก ์ค์ ํฉ๋๋ค . 3. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-13. ๊ณ ๊ธ ์์ฑ : ๊ฐ์ ์ค์์น RSS ํ์ฑํ VMMQ ์ต๋ QP ๊ธฐ๋ณธ๊ฐ ๋ฐ ๋น๊ธฐ๋ณธ VPort ์ค์ VMMQ ์ต๋ QP ๊ธฐ๋ณธ๊ฐ ๋ฐ ๋น๊ธฐ๋ณธ VPort ๋ฅผ ์ค์ ํ๋ ค๋ฉด 1. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ด๊ณ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 2. Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ๋ค์ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค .
9โWindows Server 2016 VMMQ ๊ตฌ์ฑ ๏ฑ VMMQ Max QPs - Non-Default VPort(VMMQ ์ต๋ QP - ๋น๊ธฐ๋ณธ VPort) 3. ์ ์ ํ ๊ฒฝ์ฐ ์ ํํ ์์ฑ์ ๋ํ Value( ๊ฐ ) ๋ฅผ ์กฐ์ ํฉ๋๋ค . 4. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . SR-IOV ๊ฐ ์๊ฑฐ๋ ์๋ ๊ฐ์ ๋จธ์ ์ค์์น ์์ฑ SR-IOV ๊ฐ ์๊ฑฐ๋ ์๋ ๊ฐ์ ๋จธ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด 1. ํ์ดํผ๋ฐ์ด์ ๊ด๋ฆฌ์๋ฅผ ์์ํฉ๋๋ค . 2. Virtual Switch Manager( ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ ) ๋ฅผ ์ ํํฉ๋๋ค ( ๊ทธ๋ฆผ 9-14 ์ฐธ ์กฐ ). 3. Name( ์ด๋ฆ ) ์
๋ ฅ๋์ ๊ฐ์ ์ค์์น์ ์ด๋ฆ์ ์
๋ ฅํฉ๋๋ค .
9โWindows Server 2016 VMMQ ๊ตฌ์ฑ 4. Connection type( ์ฐ๊ฒฐ ์ ํ ) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. External network( ์ธ๋ถ ๋คํธ์ํฌ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . b. Allow management operating system to share this network adapter( ๊ด๋ฆฌ ์ด์ ์ฒด์ ๊ฐ ์ด ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ ๊ณต์ ํ๋๋ก ํ์ฉ ) ํ ์ธ๋์ ์ ํํฉ๋๋ค . ๊ทธ๋ฆผ 9-14. ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ 5. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
9โWindows Server 2016 VMMQ ๊ตฌ์ฑ ๊ฐ์ ๋จธ์ ์ค์์น์์ VMMQ ํ์ฑํ ๊ฐ์ ๋จธ์ ์ค์์น์์ VMMQ ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๏ฎ ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrators> Set-VMSwitch -name q1 -defaultqueuevmmqenabled $true -defaultqueuevmmqqueuepairs 4 ๊ฐ์ ๋จธ์ ์ค์์น ๊ธฐ๋ฅ ๊ฐ์ ธ์ค๊ธฐ ๊ฐ์ ๋จธ์ ์ค์์น ๊ธฐ๋ฅ์ ๊ฐ์ ธ์ค๋ ค๋ฉด ๏ฎ ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Get-VMSwitch -Name ql | fl ๊ทธ๋ฆผ 9-15 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 9-15.
9โWindows Server 2016 VMMQ ๊ตฌ์ฑ VM ์์ฑ ํ VM ์ VMNetworkadapter ์์ VMMQ ํ์ฑํ ๊ฐ์ ๋จธ์ (VM) ์ ์์ฑํ๊ณ VM ์ VMNetworksadapter ์์ VMMQ ๋ฅผ ํ์ฑํ ํ๋ ค๋ฉด 1. VM ์ ์์ฑํฉ๋๋ค . 2. VMNetworkadapter ๋ฅผ VM ์ ์ถ๊ฐํฉ๋๋ค . 3. ๊ฐ์ ์ค์์น๋ฅผ VMNetworkadapter ์ ํ ๋นํฉ๋๋ค . 4. VM ์์ VMMQ ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrators> set-vmnetworkadapter -vmname vm1 -VMNetworkAdapterName "network adapter" -vmmqenabled $true -vmmqqueuepairs 4 ์ฃผ SR-IOV ์ง์ ๊ฐ์ ์ค์์น : VM ์ค์์น ๋ฐ ํ๋์จ์ด ๊ฐ์์ด SR-IOV ๋ฅผ ์ง์ํ๋ ๊ฒฝ์ฐ VMMQ ๋ฅผ ํ์ฉํ๋ ค๋ฉด ๊ฐ๊ฐ 8 ๊ฐ์ ๊ฐ์ NIC ๊ฐ ์
9โWindows Server 2016 VMMQ ๊ตฌ์ฑ Ethernet Ethernet Ethernet Name ---Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet Ethernet 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 66 67 68 ID -69 70 71 72 73 74 75 76 77 78 79 80 00-15-5D-36-0A-04 00-15-5D-36-0A-05 00-15-5D-36-0A-06 MacAddress ---------00-15-5D-36-0A-07 00-15-5D-36-0A-08 00-15-5D-36-0A-09 00-15-5D-36-0A-0A 00-15-5D-36-0A-0B 00-15-5D-36-0A-F4 00-15-5D-36-0A-F5 00-15-5D-36-0A-F6 00-15-5D-36-0A-F7 00-15-5D-36-0A-F8 0
9โWindows Server 2016 VXLAN ๊ตฌ์ฑ ํธ๋ํฝ ํต๊ณ ๋ชจ๋ํฐ๋ง ๊ฐ์ ๋จธ์ ์์ ๊ฐ์ ๊ธฐ๋ฅ ํธ๋ํฝ์ ๋ชจ๋ํฐ๋งํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Use get-netadapterstatistics | fl VXLAN ๊ตฌ์ฑ VXLAN ๊ตฌ์ฑ ์ ๋ณด๋ ๋ค์์ ํฌํจํฉ๋๋ค . ๏ฎ ์ด๋ํฐ์์ VXLAN ์คํ๋ก๋ ํ์ฑํ ๏ฎ ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ ๋ฐฐํฌ ์ด๋ํฐ์์ VXLAN ์คํ๋ก๋ ํ์ฑํ ์ด๋ํฐ์์ VXLAN ์คํ๋ก๋๋ฅผ ํ์ฑํํ๋ ค๋ฉด 1. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 2. Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 9-16) VXLAN Encapsulated Task Offload(VXLAN ์บก์ํ ์์
์คํ ๋ก๋ ) ๋ฅผ ์ ํํฉ๋๋ค . ๊ทธ๋ฆผ 9-16. ๊ณ ๊ธ ์์ฑ : VXLAN ํ์ฑํ 3.
9โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ 4. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ ๋ฐฐํฌ ๊ฐ์ ๋จธ์ ์์ VXLAN ์บก์ํ ์์
์คํ๋ก๋๋ฅผ ์ด์ฉํ๋ ค๋ฉด Microsoft ๋คํธ์ํฌ ์ปจ ํธ๋กค๋ฌ๋ฅผ ํ์ฉํ๋ SDN( ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ ) ์คํ์ ๋ฐฐํฌํด์ผ ํฉ๋๋ค . ์์ธํ ๋ด์ฉ์ ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ์ ๋ํ ๋ค์ Microsoft TechNet ๋งํฌ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . https://technet.microsoft.com/en-us/windows-server-docs/networking/sdn/ software-defined-networking--sdn- Storage Spaces Direct ๊ตฌ์ฑ Windows Server 2016 ์๋ Storage Spaces Direct ๊ฐ ๋์
๋์๋๋ฐ , ์ด๋ฅผ ์ด์ฉํด ๋ก์ปฌ ์คํ ๋ฆฌ์ง๋ก ๊ณ ๋์ ๊ฐ์ฉ์ฑ๊ณผ ํ์ฅ์ฑ์ ์ง๋ ์คํ ๋ฆฌ์ง ์์คํ
์ ๋ง๋ค ์ ์์ต ๋๋ค .
9โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ ํ๋์จ์ด ๊ตฌ์ฑ ๊ทธ๋ฆผ 9-17 ์ ํ๋์จ์ด ๊ตฌ์ฑ์ ์๋ฅผ ๋ํ๋ธ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 9-17. ํ๋์จ์ด ๊ตฌ์ฑ ์ ์ฃผ ์ด ์์์ ์ฌ์ฉ๋๋ ๋์คํฌ๋ 4 ร 400G NVMeโข ๋ฐ 12 ร 200G SSD ๋์คํฌ ์
๋๋ค . Hyper-Converged ์์คํ
๋ฐฐํฌ ์ด ์น์
์์๋ Windows Server 2016 ์ ์ฌ์ฉํ์ฌ Hyper-Converged ์์คํ
์ ๊ตฌ ์ฑ์์๋ฅผ ์ค์น ๋ฐ ๊ตฌ์ฑํ๊ธฐ ์ํ ์ง์นจ์ ์๊ฐํฉ๋๋ค . Hyper-Converged ์์คํ
์ ๋ฐฐํฌํ๋ ์์
์ ๋ค์ ์ธ ๊ฐ์ง ํฐ ๋จ๊ณ๋ก ๋๋ ์ ์์ต๋๋ค .
9โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ ์ด์ ์ฒด์ ๋ฐฐํฌ ์ด์ ์ฒด์ ๋ฅผ ๋ฐฐํฌํ๋ ค๋ฉด 1. ์ด์ ์ฒด์ ๋ฅผ ์ค์นํฉ๋๋ค . 2. Windows ์๋ฒ ์ญํ ( ํ์ดํผ๋ฐ์ด์ ) ์ ์ค์นํฉ๋๋ค . 3. ๋ค์ ๊ธฐ๋ฅ์ ์ค์นํฉ๋๋ค . ๏ฑ ๏ฑ ๏ฑ 4. ์ฅ์ ์กฐ์น ํด๋ฌ์คํฐ DCB(Data Center Bridging) ๋
ธ๋๋ฅผ ๋๋ฉ์ธ์ ์ฐ๊ฒฐํ๊ณ ๋๋ฉ์ธ ๊ณ์ ์ ์ถ๊ฐํฉ๋๋ค . ๋คํธ์ํฌ ๊ตฌ์ฑ Storage Spaces Direct ๋ฅผ ๋ฐฐํฌํ๋ ค๋ฉด RDMA ์ฌ์ฉ ํธ์คํธ ๊ฐ์ NIC ์ ํจ๊ป ํ์ดํผ ๋ฐ์ด์ ์ค์์น๋ฅผ ๋ฐฐํฌํด์ผ ํฉ๋๋ค . ์ฃผ ๋ค์ ์ ์ฐจ์์๋ RDMA NIC ํฌํธ๊ฐ 4 ๊ฐ ์๋ ๊ฒ์ผ๋ก ๊ฐ์ ํฉ๋๋ค . ๊ฐ ์๋ฒ์์ ๋คํธ์ํฌ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ๋ค์๊ณผ ๊ฐ์ด ์ค์ ๋คํธ์ํฌ ์ค์์น๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . a. ๋ชจ๋ ์ด๋ํฐ NIC ๋ฅผ ์ค์์น ํฌํธ์ ์ฐ๊ฒฐํฉ๋๋ค . ์ฃผ ํ
์คํธ ์ด๋ํฐ์ NIC ํฌํธ๊ฐ ๋ ๊ฐ ์ด์ ์๋ ๊ฒฝ์ฐ ๋ ํฌํธ ๋ชจ๋ ๊ฐ์ ์ค์์น์ ์ฐ๊ฒฐํด์ผ ํฉ๋๋ค . b.
9โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ 2. Network Quality of Service( ๋คํธ์ํฌ ์๋น์ค ํ์ง ) ๋ฅผ ํ์ฑํํฉ๋๋ค . ์ฃผ ๋คํธ์ํฌ ์๋น์ค ํ์ง์ ์ํํธ์จ์ด ์ ์ ์คํ ๋ฆฌ์ง ์์คํ
์ด ๋ณต์๋ ฅ๊ณผ ์ฑ๋ฅ์ ๋ณด์ฅํ๊ธฐ ์ํด ๋
ธ๋ ๊ฐ์ ํต์ ์ ์ํ ๋์ญํญ์ด ์ถฉ๋ถํ์ง ํ์ธ ํ๋ ๋ฐ ์ฌ์ฉ๋ฉ๋๋ค . ์ด๋ํฐ์์ QoS ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 121 ํ์ด์ง์ "RoCE ์ ๋ํ QoS ๊ตฌ์ฑ " ์ ์ฐธ์กฐํ์ญ์์ค . 3. ๋ค์๊ณผ ๊ฐ์ด SET ๋ฐ RDMA ๊ฐ์ NIC ๋ฅผ ํฌํจํ ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํฉ๋๋ค . a. ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ ์๋ณํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . Get-NetAdapter | FT Name,InterfaceDescription,Status,LinkSpeed b. ๋ชจ๋ ์ค์ ๋คํธ์ํฌ ์ด๋ํฐ์ ์ฐ๊ฒฐ๋ ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ ๋ค์ ์ค์ ์น ์๋ฒ ๋๋ ํฐ๋ฐ์ ํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค .
9โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ ์ฃผ ์ด๋ฐ ๋ช
๋ น์ ๊ฐ์ VLAN ์ด๋ ์๋ก ๋ค๋ฅธ VLAN ์์ ์คํํ ์ ์ ์ต๋๋ค . e. VLAN ID ๊ฐ ์ค์ ๋์ด ์๋์ง ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . Get-VMNetworkAdapterVlan -ManagementOS f. VLAN ์ ์๋๋๋๋ก ๊ฐ ํธ์คํธ ๊ฐ์ NIC ์ด๋ํฐ๋ฅผ ๋นํ์ฑํํ ํ์ ํ ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . Disable-NetAdapter "vEthernet (SMB_1)" Enable-NetAdapter "vEthernet (SMB_1)" Disable-NetAdapter "vEthernet (SMB_2)" Enable-NetAdapter "vEthernet (SMB_2)" g. ํธ์คํธ ๊ฐ์ NIC ์ด๋ํฐ์์ RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธ ํฉ๋๋ค . Enable-NetAdapterRdma "SMB1","SMB2" h.
9โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํ์ฌ Storage Spaces Direct ํด๋ฌ์คํฐ๋ก ์ฌ ์ฉํ๊ธฐ ์ํด ์๋ฒ ์งํฉ์ ์ ํจ์ฑ์ ๊ฒ์ฌํฉ๋๋ค . Test-Cluster -Node -Include "Storage Spaces Direct", Inventory, Network, "System Configuration" 2 ๋จ๊ณ . ํด๋ฌ์คํฐ ์์ฑ 1 ๋จ๊ณ . ํด๋ฌ์คํฐ ์ ํจ์ฑ ๊ฒ์ฌ ๋๊ตฌ ์คํ์ ์๋ 4 ๊ฐ์ ๋
ธ๋ ( ํด๋ฌ์คํฐ ์์ฑ์ ๋ ํ ์ ํจ์ฑ ๊ฒ์ฌ๋ฅผ ์ค์ํ ๋
ธ๋ ) ๋ฅผ ํฌํจํ ํด๋ฌ์คํฐ๋ฅผ ์์ฑํฉ๋๋ค . ํด๋ฌ์คํฐ๋ฅผ ์์ฑํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค .
9โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ icm (Get-Cluster -Name HCNanoUSClu3 | Get-ClusterNode) { Update-StorageProviderCache Get-StoragePool |? IsPrimordial -eq $false | Set-StoragePool -IsReadOnly:$false -ErrorAction SilentlyContinue Get-StoragePool |? IsPrimordial -eq $false | Get-VirtualDisk | Remove-VirtualDisk -Confirm:$false -ErrorAction SilentlyContinue Get-StoragePool |? IsPrimordial -eq $false | Remove-StoragePool -Confirm:$false -ErrorAction SilentlyContinue Get-PhysicalDisk | Reset-Physic
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ 6 ๋จ๊ณ . ๊ฐ์ ๋์คํฌ ์์ฑ Storage Spaces Direct ๋ ํ์ฑํ๋ ๊ฒฝ์ฐ์ ๋ชจ๋ ๋์คํฌ๋ฅผ ์ฌ์ฉํ์ฌ ๋จ์ผ ํ์ ์ ์ฑํฉ๋๋ค . ๋ํ , ์ด๋ฆ์ ์ง์ ๋ ํด๋ฌ์คํฐ์ ์ด๋ฆ์ผ๋ก ํ์ ์ด๋ฆ์ ์ง์ ํฉ๋๋ค ( ์ : S2D on Cluster1). ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํ๋ฉด ์คํ ๋ฆฌ์ง ํ์์ ๋ฏธ๋ฌ ๋ฐ ํจ๋ฆฌํฐ ๋ณต์ ๋ ฅ์ ๋ชจ๋ ๊ฐ์ง ๊ฐ์ ๋์คํฌ๊ฐ ์์ฑ๋ฉ๋๋ค .
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ํ 9-1. Nano ์๋ฒ์ ์ญํ ๊ณผ ๊ธฐ๋ฅ ( ๊ณ์ ) ์ญํ ๋๋ ๊ธฐ๋ฅ ์ต์
Nano ์๋ฒ๋ฅผ ๊ฐ์ ๋จธ์ ์ผ๋ก ํธ์คํธํ๊ธฐ ์ํ ํ์ด ํผ๋ฐ์ด์ ๊ฒ์คํธ ๋๋ผ์ด๋ฒ -GuestDrivers ๋ค์ํ ๋คํธ์ํฌ ์ด๋ํฐ ๋ฐ ์คํ ๋ฆฌ์ง ์ปจํธ๋กค๋ฌ์ฉ ๊ธฐ๋ณธ ๋๋ผ์ด๋ฒ . ์ด๋ Windows Server 2016 Technical Preview ์ Server Core ์ค์น์ ํฌํจ๋ ๋๋ผ์ด๋ฒ ์งํฉ๊ณผ ๋์ผํฉ๋๋ค . -OEMDrivers ํ์ผ ์๋ฒ ์ญํ ๋ฐ ๊ธฐํ ์คํ ๋ฆฌ์ง ๊ตฌ์ฑ์์ -Storage ๊ธฐ๋ณธ ์๋ช
ํ์ผ์ ํฌํจํ Windows Defender Antimalware -Defender ์์ฉ ํ๋ก๊ทธ๋จ ํธํ์ฑ์ ์ํ ์ญ๋ฐฉํฅ ์ ๋ฌ์ , ์๋ฅผ ๋ค์ด , Ruby, Node.
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ๋ค์ ์น์
์์๋ ํ์ ํจํค์ง๋ก Nano ์๋ฒ ์ด๋ฏธ์ง๋ฅผ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ๊ณผ QLogic ์ฅ ์น์ ํน์ ํ ์ฅ์น ๋๋ผ์ด๋ฒ๋ฅผ ์ถ๊ฐํ๋ ๋ฐฉ๋ฒ์ ์ฐจ๋ก๋ก ์ค๋ช
ํฉ๋๋ค . ๋ํ , Nano ์ ๋ฒ ๋ณต๊ตฌ ์ฝ์ ์ฌ์ฉ ๋ฐฉ๋ฒ , Nano ์๋ฒ ์๊ฒฉ ๊ด๋ฆฌ ๋ฐฉ๋ฒ , Nano ์๋ฒ์์ Ntttcp ํธ๋ํฝ ์คํ ๋ฐฉ๋ฒ๋ ์ค๋ช
ํฉ๋๋ค . ์ค์ ์๋ฒ์ Nano ์๋ฒ ๋ฐฐํฌ ๋ค์ ์ ์ฐจ์ ๋ฐ๋ผ ๋ฏธ๋ฆฌ ์ค์น๋์ด ์๋ ์ฅ์น ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ฌ ์ค์ ์๋ฒ์์ ์ค ํํ Nano ์๋ฒ VHD( ๊ฐ์ ํ๋ ๋์คํฌ ) ๋ฅผ ์์ฑํฉ๋๋ค . Nano ์๋ฒ๋ฅผ ๋ฐฐํฌํ๋ ค๋ฉด 1. Windows Server 2016 OS ์ด๋ฏธ์ง๋ฅผ ๋ค์ด๋ก๋ํฉ๋๋ค . 2. ISO ๋ฅผ ํ์ฌํฉ๋๋ค . 3. NanoServer ํด๋์์ ํ๋ ๋๋ผ์ด๋ธ์ ์๋ ํด๋๋ก ๋ค์ ํ์ผ์ ๋ณต์ฌํฉ๋ ๋ค. ๏ฑ ๏ฑ NanoServerImageGenerator.psm1 Convert-WindowsImage.ps1 4.
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ์: New-NanoServerImage โDeploymentType Host โEdition Datacenter -MediaPath C:\tmp\TP4_iso\Bld_10586_iso -BasePath ".\Base" -TargetPath "C:\Nano\PhysicalSystem\Nano_phy_vhd.vhd" -ComputerName "Nano-server1" โCompute -Storage -Cluster -OEMDrivers -DriversPath "C:\Nano\Drivers" ์์ ์์์ C:\Nano\Drivers ๋ QLogic ๋๋ผ์ด๋ฒ ๊ฒฝ๋ก์
๋๋ค . ์ด ๋ช
๋ น์ผ ๋ก VHD ํ์ผ์ ์์ฑํ๋ ๋ฐ ์ฝ 10~15 ๋ถ ์ ๋ ๊ฑธ๋ฆฝ๋๋ค . ์ด ๋ช
๋ น์ ์คํํ์ ๋์ ์ถ๋ ฅ ์ํ์ด ์๋์ ๋์ ์์ต๋๋ค .
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ 9. VHD ๋ฅผ ์ค์ ์๋ฒ๋ก ๋ณต์ฌํ๊ณ ์ VHD ์์ ๋ถํ
ํ๋๋ก ๊ตฌ์ฑํ๋ ค๋ฉด a. Computer Management > Storage > Disk Management( ์ปดํจํฐ ๊ด ๋ฆฌ > ์คํ ๋ฆฌ์ง > ๋์คํฌ ๊ด๋ฆฌ ) ๋ก ์ด๋ํฉ๋๋ค . b. Disk Management( ๋์คํฌ ๊ด๋ฆฌ ) ๋ฅผ ๋ง์ฐ์ค ์ค๋ฅธ์ชฝ ๋จ์ถ๋ก ํด๋ฆญํ๊ณ Attach VHD(VHD ์ฐ๊ฒฐ ) ๋ฅผ ์ ํํฉ๋๋ค . c. VHD ํ์ผ ๊ฒฝ๋ก๋ฅผ ์
๋ ฅํฉ๋๋ค . d. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . e. bcdboot d:\windows ๋ฅผ ์คํํฉ๋๋ค . ์ฃผ ์ด ์์์๋ VHD ๊ฐ D:\ ์๋์ ์ฐ๊ฒฐ๋ฉ๋๋ค . f. Disk Management( ๋์คํฌ ๊ด๋ฆฌ ) ๋ฅผ ๋ง์ฐ์ค ์ค๋ฅธ์ชฝ ๋จ์ถ๋ก ํด๋ฆญํ๊ณ Detach VHD(VHD ๋ถ๋ฆฌ ) ๋ฅผ ์ ํํฉ๋๋ค . 10. ์ค์ ์๋ฒ๋ฅผ Nano ์๋ฒ VHD ๋ก ์ฌ๋ถํ
ํฉ๋๋ค . 11.
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ 7. ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํ์ฌ ์ปดํจํฐ ์ด๋ฆ์ ์ค์ ํ๊ณ ํ์ดํผ ๋ฐ์ด์ ๊ฒ์คํธ ๋๋ผ์ด๋ฒ๋ฅผ ํฌํจํ๋ VHD ๋ฅผ ์์ฑํฉ๋๋ค . ์ฃผ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํ๋ฉด ์ VHD ์ ๋ํ ๊ด๋ฆฌ์ ์ํธ๋ฅผ ์
๋ ฅํ๋ผ๋ ๋ฉ์ ์ง๊ฐ ํ์๋ฉ๋๋ค . New-NanoServerImage โDeploymentType Guest โEdition -MediaPath -BasePath .\Base -TargetPath .\NanoServerPhysical\NanoServer.vhd -ComputerName โGuestDrivers ์: New-NanoServerImage โDeploymentType Guest โEdition Datacenter -MediaPath C:\tmp\TP4_iso\Bld_10586_iso -BasePath .
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ INFO : Applying image to VHD. This could take a while... INFO : Image was applied successfully. INFO : Making image bootable... INFO : Fixing the Device ID in the BCD store on VHD... INFO : Drive is bootable. INFO : Closing VHD... INFO : Deleting pre-existing VHD : Base.vhd... INFO : Closing Windows image... INFO : Done. Cleaning up... Done. The log is at: C:\Users\ADMINI~1\AppData\Local\Temp\2\NanoServerImageGenerator.log 8.
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ 2. Nano ์๋ฒ์ ๊ด๋ฆฌ์์ ์์ ์ด ์ฌ์ฉ ์ค์ธ ๊ณ์ ์ ์ถ๊ฐํฉ๋๋ค . 3. ( ์ ํ ์ฌํญ ) ํด๋น๋๋ ๊ฒฝ์ฐ CredSSP ๋ฅผ ํ์ฑํํฉ๋๋ค . ์ ๋ขฐํ ์ ์๋ ํธ์คํธ ๋ชฉ๋ก์ Nano ์๋ฒ ์ถ๊ฐ ๊ด๋ฆฌ์ ๊ถํ์ผ๋ก ์คํํ๋ Windows PowerShell ํ๋กฌํํธ์์ ๋ค์ ๋ช
๋ น์ ์คํ ํ์ฌ ์ ๋ขฐํ ์ ์๋ ํธ์คํธ ๋ชฉ๋ก์ Nano ์๋ฒ๋ฅผ ์ถ๊ฐํฉ๋๋ค . Set-Item WSMan:\localhost\Client\TrustedHosts "" ์: Set-Item WSMan:\localhost\Client\TrustedHosts "172.28.41.152" Set-Item WSMan:\localhost\Client\TrustedHosts "*" ์ฃผ ์์ ๋์จ ๋ช
๋ น์ ์คํํ๋ฉด ๋ชจ๋ ํธ์คํธ ์๋ฒ๊ฐ ์ ๋ขฐํ ์ ์๋ ํธ์คํธ๋ก ์ค ์ ๋ฉ๋๋ค .
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ Windows Nano ์๋ฒ์์ QLogic ์ด๋ํฐ ๊ด๋ฆฌ Nano ์๋ฒ ํ๊ฒฝ์์ QLogic ์ด๋ํฐ๋ฅผ ๊ด๋ฆฌํ๋ ค๋ฉด Cavium ์น์ฌ์ดํธ์์ ๊ตฌํ ์ ์๋ Windows QConvergeConsole GUI ๋ฐ Windows QLogic Control Suite CLI ๊ด ๋ฆฌ ๋๊ตฌ์ ๊ด๋ จ ์ค๋ช
์๋ฅผ ์ฐธ์กฐํ์ญ์์ค . RoCE ๊ตฌ์ฑ Windows PowerShell ์๊ฒฉ์ผ๋ก Nano ์๋ฒ๋ฅผ ๊ด๋ฆฌํ๋ ค๋ฉด 1. ๋ค๋ฅธ ๋จธ์ ์์ Windows PowerShell ์๊ฒฉ์ ํตํด Nano ์๋ฒ์ ์ฐ๊ฒฐํฉ๋๋ค . ์: PS C:\Windows\system32> $1p="172.28.41.152" PS C:\Windows\system32> $user="172.28.41.152\Administrator" PS C:\Windows\system32> Enter-PSSession -ComputerName $ip -Credential $user ์ฃผ ์์ ์์์ Nan
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ๊ทธ๋ฆผ 9-19 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 9-19. Windows PowerShell ๋ช
๋ น : Get-NetAdapterRdma 4. ์ด๋ํฐ์ ๋ชจ๋ ์ธํฐํ์ด์ค์ IP ์ฃผ์์ VLAN ID ๋ฅผ ํ ๋นํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . [172.28.41.152]: PS C:\> Set-NetAdapterAdvancedProperty -InterfaceAlias "slot 1 port 1" -RegistryKeyword vlanid -RegistryValue 5 [172.28.41.152]: PS C:\> netsh interface ip set address name="SLOT 1 Port 1" static 192.168.10.10 255.255.255.0 5. Nano ์๋ฒ์ SMBShare ๋ฅผ ์์ฑํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . [172.28.41.
9โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ 6. ํด๋ผ์ด์ธํธ ์ปดํจํฐ์์ SMBShare ๋ฅผ ๋คํธ์ํฌ ๋๋ผ์ด๋ธ๋ก ๋งคํํ๋ ค๋ฉด ๋ค ์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . ์ฃผ Nano ์๋ฒ์์ ์ธํฐํ์ด์ค์ IP ์ฃผ์๋ 192.168.10.10 ์
๋๋ค . PS C:\Windows\system32> net use z: \\192.168.10.10\smbshare This command completed successfully. 7. SMBShare ์์ ์ฝ๊ธฐ / ์ฐ๊ธฐ๋ฅผ ์ํํ๊ณ Nano ์๋ฒ์์ RDMA ํต๊ณ์ ๋ณด๋ฅผ ํ์ธํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . [172.28.41.152]: PS C:\> (Get-NetAdapterStatistics).RdmaStatistics ๊ทธ๋ฆผ 9-22 ์ ๋ช
๋ น ์ถ๋ ฅ์ ๋ํ๋ธ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 9-22.
10 ๋ฌธ์ ํด๊ฒฐ ์ด ์ฅ์์๋ ๋ค์ ๋ฌธ์ ํด๊ฒฐ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ๋ฌธ์ ํด๊ฒฐ ๊ฒ์ฌ ๋ชฉ๋ก ๏ฎ 156 ํ์ด์ง์ " ํ์ฌ ๋๋ผ์ด๋ฒ์ ๋ก๋ ์ฌ๋ถ ํ์ธ " ๏ฎ 157 ํ์ด์ง์ " ๋คํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ " ๏ฎ 158 ํ์ด์ง์ "Hyper-V ๋ฅผ ์ด์ฉํ Microsoft ๊ฐ์ํ " ๏ฎ 158 ํ์ด์ง์ "Linux ๊ด๋ จ ๋ฌธ์ " ๏ฎ 158 ํ์ด์ง์ " ๊ธฐํ ๋ฌธ์ " ๏ฎ 159 ํ์ด์ง์ " ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง " ๋ฌธ์ ํด๊ฒฐ ๊ฒ์ฌ ๋ชฉ๋ก ์ฃผ์ ์ด๋ํฐ๋ฅผ ์ถ๊ฐํ๊ฑฐ๋ ์ ๊ฑฐํ๊ธฐ ์ํด ์๋ฒ ์บ๋น๋์ ์ด๊ธฐ ์ ์ 6 ํ์ด์ง์ " ์์ ์ฃผ์์ฌํญ " ์ ๊ฒํ ํ์ญ์์ค . ๋ค์ ๊ฒ์ฌ ๋ชฉ๋ก์ ์์คํ
์์ QL45212 Adapter ๋ฅผ ์ค์นํ๊ฑฐ๋ ์คํํ๋ ์ค์ ๋ฐ ์ํ ์ ์๋ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๊ถ์ฅ๋๋ ์กฐ์น๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ์ผ์ด๋ธ๊ณผ ์ฐ๊ฒฐ ๋ถ๋ถ์ ๋ชจ๋ ๊ฒ์ฌํฉ๋๋ค . ๋คํธ์ํฌ ์ด๋ํฐ์ ์ผ์ด๋ธ๊ณผ ์ค์์น ๊ฐ ์ฌ๋ฐ๋ก ์ฐ๊ฒฐ๋์๋์ง ํ์ธํฉ๋๋ค .
10โ ๋ฌธ์ ํด๊ฒฐ ํ์ฌ ๋๋ผ์ด๋ฒ์ ๋ก๋ ์ฌ๋ถ ํ์ธ ๏ฎ ๊ฒฐํจ์ด ์๋ ์ด๋ํฐ๋ฅผ ์ฌ๋ฐ๋ฅด๊ฒ ์๋ํ๋ ์ด๋ํฐ๋ก ๊ต์ฒดํฉ๋๋ค. ์ฒซ ๋ฒ์งธ ์ด๋ ํฐ๊ฐ ์๋ํ์ง ์๋ ์ฌ๋กฏ์ ๋ ๋ฒ์งธ ์ด๋ํฐ๊ฐ ์๋ํ๋ ๊ฒฝ์ฐ ์๋ ์ด๋ํฐ์ ๊ฒฐํจ์ด ์์ ์ ์์ต๋๋ค . ๏ฎ ์ ๋๋ก ์๋์ด ๋๋ ๋ค๋ฅธ ์์คํ
์ ์ด๋ํฐ๋ฅผ ์ค์นํ ํ ํ
์คํธ๋ฅผ ๋ค์ ์คํํฉ ๋๋ค . ์ด๋ํฐ๊ฐ ์ ์์คํ
์์ ํ
์คํธ๋ฅผ ํต๊ณผํ ๊ฒฝ์ฐ ์๋ ์์คํ
์ ๊ฒฐํจ์ด ์์ ์ ์์ต๋๋ค . ๏ฎ ์์คํ
์์ ๋ค๋ฅธ ์ด๋ํฐ๋ฅผ ๋ชจ๋ ์ ๊ฑฐํ ํ ํ
์คํธ๋ฅผ ๋ค์ ์คํํฉ๋๋ค. ์ด๋ํฐ ๊ฐ ํ
์คํธ๋ฅผ ํต๊ณผํ ๊ฒฝ์ฐ ๋ค๋ฅธ ์ด๋ํฐ์ ์ถฉ๋์ด ๋ฐ์ํ์ ์ ์์ต๋๋ค . ํ์ฌ ๋๋ผ์ด๋ฒ์ ๋ก๋ ์ฌ๋ถ ํ์ธ ํ์ฌ ๋๋ผ์ด๋ฒ๊ฐ Windows, Linux ๋๋ VMware ์์คํ
์ฉ์ผ๋ก ๋ก๋๋๋์ง ํ์ธํฉ ๋๋ค . Windows ๋๋ผ์ด๋ฒ ํ์ธ ์ด๋ํฐ , ๋งํฌ ์ํ ๋ฐ ๋คํธ์ํฌ ์ฐ๊ฒฐ์ ๋ํ ์ค์ ์ ๋ณด๋ ์ฅ์น ๊ด๋ฆฌ์์์ ํ์ธํฉ ๋๋ค . Linux ๋๋ผ์ด๋ฒ ํ์ธ qed.
10โ ๋ฌธ์ ํด๊ฒฐ ๋คํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ ์๋ก์ด ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํ์ฌ๋ ์์ง ์ฌ๋ถํ
์ ์ธ ๊ฒฝ์ฐ์๋ modinfo ๋ช
๋ น์ ์คํ ํด๋ ์
๋ฐ์ดํธ๋ ๋๋ผ์ด๋ฒ ์ ๋ณด๊ฐ ํ์๋์ง ์์ต๋๋ค. ์ด๋ฐ ๊ฒฝ์ฐ์๋ ๋ค์๊ณผ ๊ฐ์ด dmesg ๋ช
๋ น์ ๋ฐ๊ธํ์ฌ ๋ก๊ทธ ์ ๋ณด๋ฅผ ํ์ธํ ์ ์์ต๋๋ค. ์๋ ์์์ ๋ง์ง๋ง ํญ๋ชฉ ์ด ์ฌ๋ถํ
์ ํ์ฑํ๋๋ ๋๋ผ์ด๋ฒ๋ฅผ ๋ํ๋
๋๋ค . # dmesg | grep -i "Cavium" | grep -i "qede" [ 10.097526] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 23.093526] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 34.975396] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 34.975896] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 3334.
10โ ๋ฌธ์ ํด๊ฒฐ Hyper-V ๋ฅผ ์ด์ฉํ Microsoft ๊ฐ์ํ Linux ์ฉ ๋คํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ ์ด๋๋ท ์ธํฐํ์ด์ค๊ฐ ์๋๋์ด ์คํ ์ค์ธ์ง ํ์ธํ๋ ค๋ฉด 1. ์ด๋๋ท ์ธํฐํ์ด์ค์ ์ํ๋ฅผ ํ์ธํ๋ ค๋ฉด ifconfig ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . 2. ์ด๋๋ท ์ธํฐํ์ด์ค์ ๋ํ ํต๊ณ๋ฅผ ํ์ธํ๋ ค๋ฉด netstat -i ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค . ์ฐ๊ฒฐ์ด ์ค์ ๋์๋์ง ํ์ธํ๋ ค๋ฉด 1. ๋คํธ์ํฌ์์ IP ํธ์คํธ๋ฅผ Ping ํฉ๋๋ค . ๋ช
๋ น ํ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋ ๋ค. ping 2. ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ํ์๋๋ ping ํต๊ณ๋ ๋คํธ์ํฌ ์ฐ๊ฒฐ์ด ์๋ํ๋์ง ์ฌ๋ถ๋ฅผ ๋ํ๋
๋๋ค . ์ด์ ์ฒด์ GUI ๋๊ตฌ๋ ethtool ๋ช
๋ น , ethtool โs ethX speed SSSS ๋ฅผ ์ฌ์ฉํ์ฌ ์ด๋ํฐ ์ฐ๊ฒฐ ์๋๋ฅผ 10Gbps ๋๋ 25Gbps ๋ก ๊ฐ์ ์ค์ ํ ์ ์์ต๋๋ค . QL45212 Adapter ์์ ๋ ํฌํธ๋ฅผ ๋ชจ๋ ๋์ผํ ์๋์ธ 10Gbps ๋๋ 25Gbps ๋ก ์ค์ ํฉ๋๋ค .
10โ ๋ฌธ์ ํด๊ฒฐ ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง ํ 10-1 ์ ๋ช
๋ น์ ์ฌ์ฉํ์ฌ ๋๋ฒ๊ทธ ๋ฐ์ดํฐ๋ฅผ ์์งํฉ๋๋ค . ํ 10-1. ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง ๋ช
๋ น ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์ค๋ช
demesg-T ์ปค๋ ๋ก๊ทธ ethtool-d ๋ ์ง์คํฐ ๋คํ sys_info.
A ์ด๋ํฐ LED ํ A-1 ์๋ ์ด๋ํฐ ํฌํธ ๋งํฌ ๋ฐ ์๋ ์ํ๋ฅผ ๋ํ๋ด๋ LED ํ์๋ฑ์ด ๋์ ์์ต๋๋ค . ํ A-1.
B ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ์ด ๋ถ๋ก์์๋ ์ง์๋๋ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋์ ๋ํด ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ์ง์๋๋ ์ฌ์ ๏ฎ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ๏ฎ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น ์ง์๋๋ ์ฌ์ QL45212 Adapters ๋ SFF8024 ๋ฅผ ์ค์ํ๋ ๋ค์ํ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋์ ์ง์ํฉ ๋๋ค . ํน์ ํผํฉํฐ ๊ท์ ์ค์๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . ๏ฎ ๏ฎ ๏ฎ SFP: ๏ฑ SFF8472( ๋ฉ๋ชจ๋ฆฌ ๋งต์ฉ ) ๏ฑ SFF8419 ๋๋ SFF8431( ์ ์ ์ ํธ์ ์ ๋ ฅ ) QSFP(Quad small form factor pluggable): ๏ฑ SFF8636( ๋ฉ๋ชจ๋ฆฌ ๋งต์ฉ ) ๏ฑ SFF8679 ๋๋ SFF8436( ์ ์ ์ ํธ์ ์ ๋ ฅ ) ๊ดํ ๋ชจ๋ ์ ๊ธฐ ์
๋ ฅ/์ถ๋ ฅ, ACC(Active Copper ์ผ์ด๋ธ), AOC(๋ฅ๋ํ ๊ดํ ์ผ ์ด๋ธ ): ๏ฑ 10GโSFF8431 ์ ํ ์ธํฐํ์ด์ค ๏ฑ 25GโIEEE802.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ Cavium ์ ๊ท์ ์ค์ ์๊ฑด์ ์ถฉ์กฑํ๋ ๋ชจ๋ ์ผ์ด๋ธ ๋๋ ๊ดํ ๋ชจ๋์ด QL45212 Adapters ์ ํจ๊ป ์๋ํ ๊ฒ์ด๋ผ ๋ณด์ฅํ์ง ์์ต๋๋ค . QL45212 Adapter ๋ 3m DAC ๋ฐ 30m AOC ๋ฅผ ์ง์ํ์ง๋ง 25G SR ๊ดํ ๋ชจ๋์ ์ง์ํ์ง ์์ต๋๋ค . Cavium ์ ํ B-1 ์ ๋์ด๋ ์ผ์ด๋ธ์ ์ฌ์ฉํ์ฌ QL45212 ์ด๋ํฐ์ ์ํธ ์ด์ฉ์ฑ ํ
์คํธ๋ฅผ ๋ง์ณค์ต๋๋ค . ํ B-1.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น ํ B-1. ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ( ๊ณ์ ) ์๋ / ํผํฉํฐ 25G AOC ์ ์กฐ ์
์ฒด InnoLight ๋ถํ ๋ฒํธ ์ ํ ์ผ์ด๋ธ ๊ธธ์ด a ๊ฒ์ด์ง TF-PY003-N00 SFP28 AOC 3 N/A TF-PY020-N00 SFP28 AOC 20 N/A a ์ผ์ด๋ธ ๊ธธ์ด์ ๋จ์๋ ๋ฏธํฐ (m) ๋ก ํ์๋ฉ๋๋ค . b DAC ๋ ์ง์ ์ฐ๊ฒฐ ์ผ์ด๋ธ (Direct Attach Cable) ์ ์ฝ์ด์
๋๋ค . c AOC ๋ ์กํฐ๋ธ ๊ดํ ์ผ์ด๋ธ (Active Optical Cable) ์ ์ฝ์ด์
๋๋ค . ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น ํ B-2 ๋ QL45212 Adapters ์ ์ํธ ์ด์ฉ์ฑ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น๋ฅผ ๋์ดํ ๊ฒ์
๋๋ค . ์ด ๋ชฉ๋ก์ ์ ํ ์ถ์ ์์ ์ ์ฌ์ฉ ๊ฐ๋ฅํ ์ค์์น๋ฅผ ๊ธฐ์ค์ผ๋ก ํ ๊ฒ์ด๋ฉฐ , ์ ๊ฐ์ ๊ฒฝ๊ณผ์ ๋ฐ๋ผ ์๋ก์ด ์ค์์น๊ฐ ์ถ์๋๊ฑฐ๋ ๋จ์ข
๋๋ ์ค์์น๊ฐ ์์ ๋ ๋ณ๊ฒฝ๋ ์ ์์ต๋๋ค . ํ B-2.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น 164 BC0154503-03 F
C Dell Z9100 ์ค์์น ๊ตฌ์ฑ QL45212 Adapters ๋ Dell Z9100 ์ด๋๋ท ์ค์์น์ ์ฐ๊ฒฐํ ์ ์๋๋ก ์ง์ํฉ๋๋ค . ๋จ , ์๋ ํ์ ํ๋ก์ธ์ค๊ฐ ํ์คํ๋ ๋๊น์ง๋ 25Gbps ์ ์๋๋ก ์ด๋ํฐ์ ์ฐ๊ฒฐํ ์ ์๋๋ก ์๋์ผ๋ก ์ค์์น๋ฅผ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . QL45212 Adapter ๋ฅผ 25Gbps ์ ์๋๋ก ์ฐ๊ฒฐํ๋๋ก Dell Z9100 ์ค์์น ํฌํธ๋ฅผ ๊ตฌ ์ฑํ๋ ๋ฐฉ๋ฒ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . 1. ๊ด๋ฆฌ ์ํฌ์คํ
์ด์
๊ณผ ์ค์์น ์ฌ์ด์ ์๋ฆฌ์ผ ํฌํธ ์ฐ๊ฒฐ์ ๊ตฌ์ฑํฉ๋๋ค . 2. ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น ํ ์ธ์
์ ์ฐ ๋ค์ ์ค์์น์ ๋ก๊ทธ์ธํฉ๋๋ค . Login: admin Password: admin 3. ์ค์์น ํฌํธ ๊ตฌ์ฑ์ ํ์ฑํํฉ๋๋ค . Dell> enable Password: xxxxxx Dell# config 4. ๊ตฌ์ฑํ ๋ชจ๋๊ณผ ํฌํธ๋ฅผ ์ง์ ํฉ๋๋ค . ๋ค์ ์์์๋ ๋ชจ๋ 1, ํฌํธ 5 ๋ฅผ ์ฌ์ฉํฉ ๋๋ค .
CโDell Z9100 ์ค์์น ๊ตฌ์ฑ ์ด๋ํฐ ๋งํฌ ์๋๋ฅผ ๋ณ๊ฒฝํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ 157 ํ์ด์ง์ " ๋ค ํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ " ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . 5. ํฌํธ๊ฐ 25Gbps ์ ์๋๋ก ๋์ํ๋์ง ํ์ธํฉ๋๋ค . Dell# Dell#show running-config | grep "port 5" stack-unit 1 port 5 portmode quad speed 25G 6. ์ค์์น ํฌํธ 5 ์์ ์๋ ํ์์ ๋นํ์ฑํํ๋ ค๋ฉด a. ์ค์์น ํฌํธ ์ธํฐํ์ด์ค ( ๋ชจ๋ 1, ํฌํธ 5, ์ธํฐํ์ด์ค 1) ๋ฅผ ์ง์ ํ ํ ์๋ ํ์ ์ํ๋ฅผ ํ์ธํฉ๋๋ค . Dell(conf)#interface tw 1/5/1 Dell(conf-if-tf-1/5/1)#intf-type cr4 ? autoneg b. Enable autoneg ์๋ ํ์์ ๋นํ์ฑํํฉ๋๋ค . Dell(conf-if-tf-1/5/1)#no intf-type cr4 autoneg c. ์๋ ํ์์ด ๋นํ์ฑํ๋์๋์ง ํ์ธํฉ๋๋ค .
์ฉ์ด ์ด๋ํฐ ํธ์คํธ ์์คํ
๊ณผ ๋์ ์ฅ์น๋ฅผ ์๋ก ์ฐ๊ฒฐํด ์ฃผ๋ ๋ณด๋ . ์ด๋ํฐ๋ ํธ์คํธ ๋ฒ์ค ์ด๋ํฐ , ํธ์คํธ ์ด๋ํฐ ๋ฐ ๋ณด๋์ ๋์ผํ ์๋ฏธ๋ก ์ฌ ์ฉ๋ฉ๋๋ค . ๊ณ ๊ธ ๊ตฌ์ฑ ๋ฐ ์ ์ ์ธํฐํ์ด์ค ACPI ์น์
์ ์ฐธ์กฐํ์ญ์์ค . ๋์ SCSI ์ธ์
์ ์คํ ๋ฆฌ์ง ์ฅ์น ์๋ํฌ์ธํธ . ๊ฐ์ ์ฅ์น๋ ๋์์ผ๋ก๋ถํฐ ๋ฐ์ดํฐ๋ฅผ ์์ฒญ ํฉ๋๋ค . ๋์์ ์ผ๋ฐ์ ์ผ๋ก ๋์คํฌ ๋๋ผ์ด ๋ธ , ํ
์ดํ ๋๋ผ์ด๋ธ ๋๋ ๊ธฐํ ๋ฏธ๋์ด ์ฅ ์น์
๋๋ค . ์ผ๋ฐ์ ์ผ๋ก SCSI ์ฃผ๋ณ ์ฅ์น๋ ๋์์ด์ง๋ง , ์ด๋ํฐ๋ ๊ฒฝ์ฐ์ ๋ฐ๋ผ ๋์์ผ ์ ์์ต๋๋ค . ํ ๋์์ด ๋ค์์ LUN ์ ํฌ ํจํ ์ ์์ต๋๋ค . ์ด๋ํฐ ํฌํธ ์ด๋ํฐ ๋ณด๋์ ํฌํธ ์ด๋๋ท ์ปดํจํฐ๋ผ๋ฆฌ ์ ๋ณด๋ฅผ ์ ์กํ๋ ๋ฐ ๊ฐ์ฅ ๋๋ฆฌ ์ฌ์ฉ๋๋ LAN ๊ธฐ์ ๋ก์ ์ผ๋ฐ์ ์ผ๋ก ์ ์ก ์๋๊ฐ 10~100Mbps ์ ์ด๋ฆ
๋๋ค . ๋์์ ๊ฐ์ ์ฅ์น ( ํธ์คํธ ์์คํ
) ์ ์์ฒญ ์ ์๋ตํ๋ ์ฅ์น์
๋๋ค .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 Basic Input Output System ACPI BIOS ์น์
์ ์ฐธ์กฐํ์ญ์์ค . ACPI(Advanced Configuration and Power Interface) ์ฌ์์ ํตํฉ ์ด์ ์ฒด์ ์ค์ฌ์ ์ฅ ์น ๊ตฌ์ฑ ๋ฐ ์ ์ ๊ด๋ฆฌ๋ฅผ ์ํ ๊ฐ๋ฐฉํ ํ์ค์ ์ ๊ณตํฉ๋๋ค . ACPI ๋ ํ๋์จ์ด ๊ฒ์ , ๊ตฌ์ฑ , ์ ์ ๊ด๋ฆฌ ๋ฐ ๋ชจ๋ํฐ๋ง์ ์ํ ํ๋ซํผ์ ๋
๋ฆฝ์ ์ธ ์ธํฐํ์ด์ค๋ฅผ ์ ์ํฉ๋๋ค . ์ด ์ฌ์ ์ ACPI ๋ฅผ ๊ตฌํํ๋ ์์คํ
์ ์ค๋ช
ํ๋ ๋ฐ ์ฌ์ฉ๋๋ ์ฉ์ด์ธ OSPM(Operating System-directed configuration and Power Management) ์ ์ค์ฌ์ด ๋๋ ์ฌ์์ผ๋ก , ๋ ๊ฑฐ์ ํ์จ์ด ์ธํฐํ์ด์ค์์ ์ฅ์น ๊ด๋ฆฌ ์ฑ
์์ ์์ ์ค๋๋ค . BIOS Basic Input Output System.
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 Dynamic Host Configuration Protocol ETS DHCP ์น์
์ ์ฐธ์กฐํ์ญ์์ค . Enhanced Transmission Selection. ํธ๋ํฝ ํด๋์ค ์ฌ์ด์์ ๋์ญํญ ํ ๋น์ ์ง์ํ๋ ๋ก ์ ์ก ์ ํ ํฅ์์ ๊ท์ ํ๋ ํ์ค . ํธ๋ ํฝ ํด๋์ค์ ์ ๊ณต๋ ๋ก๋๊ฐ ํ ๋น๋ ๋์ญํญ ์ ์ฌ์ฉํ์ง ์์ผ๋ฉด ํฅ์๋ ์ ์ก ์ ํ์์ ๋ค๋ฅธ ํด๋์ค๊ฐ ์ฌ์ฉ ๊ฐ๋ฅํ ๋์ญํญ์ ์ฌ์ฉ ํ ์ ์๋๋ก ํ์ฉํฉ๋๋ค . ๋์ญํญ - ํ ๋น ์ฐ ์ ์์๋ ์๊ฒฉํ ์ฐ์ ์์์ ํจ๊ป ๊ณต์กดํฉ ๋๋ค . ETS ์๋ ๋์ญํญ ํ ๋น์ ์ง์ํ๊ธฐ ์ํด ๊ด๋ฆฌ๋๋ ๊ฐ์ฒด๋ฅผ ํฌํจํฉ๋๋ค. ์์ธํ ๋ด์ฉ์ http://ieee802.org/1/pages/802.1az.html eCore OS ์ ํ๋์จ์ด ๋ฐ ํ์จ์ด ์ฌ์ด์ ๊ณ์ธต . ์ฅ์น๋ณ๋ก ๋ค๋ฅด๋ฉฐ OS ์๋ ๋ฌด๊ดํฉ๋๋ค .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 Layer 2 Human Interface Infrastructure ๋ค์ค ๊ณ์ธต ํต์ ๋ชจ๋ธ์ธ OSI(Open Systems Interconnection) ์ ๋ฐ์ดํฐ ๋งํฌ ๊ณ์ธต์ ์ง ์นญํฉ๋๋ค . ๋ฐ์ดํฐ ๋งํฌ ๊ณ์ธต์ ๊ธฐ๋ฅ์ ๋คํธ ์ํฌ์์ ์ค์ ๋งํฌ๋ฅผ ํตํด ๋ฐ์ดํฐ๋ฅผ ์ด๋ ํ๋ ๊ฒ์ด๋ฉฐ , ์ด ๊ฒฝ์ฐ ์ค์์น๋ ๋ฉ์์ง ๋ ์์ ํ์ธํ๊ธฐ ์ํด ๋์ MAC ์ฃผ์๋ฅผ ์ฌ์ฉ ํ์ฌ Layer 2 ๋ ๋ฒจ์์ ๋ฐ์ดํฐ ๋ฉ์์ง๋ฅผ ๋ฆฌ ๋๋ ํธํฉ๋๋ค . HII ์น์
์ ์ฐธ์กฐํ์ญ์์ค . HII Human Interface Infrastructure. ์ฌ์ฉ์ ์
๋ ฅ , ํ์งํ๋ ๋ฌธ์์ด , ๊ธ๊ผด ๋ฐ ์์์ ๊ด๋ฆฌ ํ๊ธฐ ์ํ ์ฌ์ (UEFI 2.1 ์ ์ผ๋ถ ) ์ผ๋ก , OEM ์ด ์ฌ์ ๋ถํ
๊ตฌ์ฑ์ ์ํ ๊ทธ๋ํฝ ์ธ ํฐํ์ด์ค๋ฅผ ๊ฐ๋ฐํ ์ ์๊ฒ ํด ์ค๋๋ค . IEEE Institute of Electrical and Electronics Engineers.
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 NPAR Maximum Transmission Unit NIC Partitioning. ๋จ์ผ NIC ํฌํธ๋ฅผ ์ฌ๋ฌ ๊ฐ ์ ์ค์ ๊ธฐ๋ฅ ๋๋ ํํฐ์
์ผ๋ก ๋๋๋ ๊ฒ์ผ ๋ก , ๋ถํ ๋ ๋ถ๋ถ์ ๊ฐ๊ฐ ์ฌ์ฉ์๊ฐ ๊ตฌ์ฑํ ์ ์๋ ๋์ญํญ๊ณผ ๊ฐ์ธ ์ค์ ( ์ธํฐํ์ด์ค ์ ํ ) ์ด ์์ต๋๋ค . ๊ฐ์ธ ์ค์ ์๋ NIC, FCoE ๋ฐ iSCSI ๊ฐ ํฌํจ๋ฉ๋๋ค . MTU ์น์
์ ์ฐธ์กฐํ์ญ์์ค . Message Signaled Interrupts MSI, MSI-X ์น์
์ ์ฐธ์กฐํ์ญ์์ค . MSI, MSI-X Message Signaled Interrupts. PCI 2.2 ์ด์ ๋ฒ์ ๊ณผ PCI Express ์์ ๋ฉ์์ง ์ ํธ ์ธํฐ ๋ฝํธ (MSI) ๋ฅผ ์ง์ํ๊ธฐ ์ํ PCI ํ์ฅ ์ฌ ๋กฏ 2 ๊ฐ ์ค 1 ๊ฐ . MSI ๋ ํ ์ด์ค์
๋๋ ๋ ์ด์ค์
์ ์๋ฎฌ๋ ์ด์
ํ ์ ์๋ ํน๋ณํ ๋ฉ ์์ง๋ฅผ ํตํด ์ธํฐ๋ฝํธ ์ ํธ๋ฅผ ์์ฑํ๋ ๋ ์ฒด ๋ฐฉ๋ฒ์
๋๋ค .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 SerDes Quality of Service Serializer/Deserializer. ๊ณ ์ ํต์ ์์ ์ ํ ๋ ์
/ ์ถ๋ ฅ์ ๋ณด์ํ ๋ชฉ์ ์ผ๋ก ๋๋ฆฌ ์ฌ์ฉ ๋๋ ํ ์์ ๊ธฐ๋ฅ ๋ธ๋ก . ์ด ๋ธ๋ก์ ์ง๋ ฌ ๋ฐ ์ดํฐ์ ๋ณ๋ ฌ ์ธํฐํ์ด์ค ์ฌ์ด์์ ๊ฐ ๋ฐฉํฅ ์ผ๋ก ์ ์ก๋๋ ๋ฐ์ดํฐ๋ฅผ ๋ณํํฉ๋๋ค . QoS ์น์
์ ์ฐธ์กฐํ์ญ์์ค . RDMA Remote Direct Memory Access. ๋คํธ์ํฌ ๋ฅผ ํตํด ํ๋์ ๋
ธ๋๋ฅผ ์ง์ ๋ค๋ฅธ ๋
ธ๋์ ๋ฉ ๋ชจ๋ฆฌ์ ์ธ ์ ์๋ ๊ธฐ๋ฅ ( ์ฃผ์ ๋ฐ ํฌ๊ธฐ ์๋ฏธ ์ฒด๊ณ ํฌํจ ). ์ด ๊ธฐ๋ฅ์ VI ๋คํธ์ํฌ์์ ๋งค ์ฐ ์ค์ํฉ๋๋ค . Serializer/Deserializer SerDes ์น์
์ ์ฐธ์กฐํ์ญ์์ค . Single Root Input/Output Virtualization Reduced Instruction Set Computer SR-IOV ์น์
์ ์ฐธ์กฐํ์ญ์์ค . RISC ์น์
์ ์ฐธ์กฐํ์ญ์์ค .
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 Unified Extensible Firmware Interface TLV UEFI ์น์
์ ์ฐธ์กฐํ์ญ์์ค . Type-Length-Value. ํ๋กํ ์ฝ ๋ด๋ถ์์ ์ ์๋ก ์ธ์ฝ๋ฉ๋ ์ ์๋ ์ ํ์ ์ ๋ณด . ์ ํ ๋ฐ ๊ธธ์ด ํ๋๋ ํฌ๊ธฐ๊ฐ ๊ณ ์ ๋์ด ์๊ณ ( ์ผ ๋ฐ์ ์ผ๋ก 1~4 ๋ฐ์ดํธ ), ๊ฐ ํ๋๋ ํฌ๊ธฐ๊ฐ ๊ฐ๋ณ์ ์
๋๋ค . ์ด๋ฐ ํ๋๋ ๋ค์๊ณผ ๊ฐ์ด ์ฌ์ฉ๋ฉ๋๋ค . User Datagram Protocol UDP ์น์
์ ์ฐธ์กฐํ์ญ์์ค . VF Virtual Function. ๏ฎ Type(์ ํ)โ๋ฉ์์ง์ ์ด ๋ถ๋ถ์ด ๋ํ๋ด ๋ ํ๋์ ์ข
๋ฅ๋ฅผ ํ์ํ๋ ์ซ์ ์ฝ๋ . VI Virtual Interface. ํ์ด๋ฒ ์ฑ๋๊ณผ ๊ธฐํ ํต์ ํ๋กํ ์ฝ์์ ์๊ฒฉ ์ง์ ๋ฉ๋ชจ๋ฆฌ ์ก์ธ์ค๋ฅผ ์ํ ์ด๋์
ํฐ๋ธ . ํด๋ฌ์คํฐ๋ง๊ณผ ๋ฉ์์ง์ ์ฌ์ฉ๋ฉ๋๋ค . ๏ฎ Length( ๊ธธ์ด )โ ๊ฐ ํ๋์ ํฌ๊ธฐ ( ์ผ๋ฐ์ ์ผ๋ก ๋ฐ์ดํธ ๋จ์ ).
์ฌ์ฉ ์ค๋ช
์ โ ์ง๋ฅํ ์ด๋๋ท ์ด๋ํฐ QL45212 Wake on LAN WoL ์น์
์ ์ฐธ์กฐํ์ญ์์ค . WoL Wake on LAN. ๋๊ฐ ๋คํธ์ํฌ์์ ๋ค๋ฅธ ์ปด ํจํฐ์์ ์คํ๋๋ ๊ฐ๋จํ ํ๋ก๊ทธ๋จ์ ํต ํด ์ ์ก๋๋ ๋คํธ์ํฌ ๋ฉ์์ง์ ์ํด ์ด๋ค ์ปดํจํฐ๋ฅผ ์๊ฒฉ์ผ๋ก ์ผ๊ฑฐ๋ ์ ์ ๋ชจ๋๋ฅผ ํด ์ ํ ์ ์๋๋ก ์ง์ํ๋ ์ด๋๋ท ์ปดํจํฐ ๋ค ํธ์ํน ํ์ค .
๋ณธ์ฌ Cavium, Inc. 2315 N. First Street San Jose, CA 95131 408-943-7100 ์ธํฐ๋ด์
๋ ์คํผ์ค ์๊ตญ | ์์ผ๋๋ | ๋
์ผ | ํ๋์ค | ์ธ๋ | ์ผ๋ณธ | ์ค๊ตญ | ํ์ฝฉ | ์ฑ๊ฐํฌ๋ฅด | ๋๋ง | ์ด์ค๋ผ์ Copyright ยฉ 2015โ2018 Cavium, Inc. ์ ์ธ๊ณ ํ๊ถ ๋ณธ์ฌ ์์ . QLogic ์ฝํผ๋ ์ด์
์ ์ ์ ์ผ๋ก Cavium, Inc. ์ ์ํ์ฌ์
๋๋ค . Cavium, FastLinQ, QConvergeConsole, QLogic ๋ฐ SmartAN ์ Cavium, Inc. ์ ๋ฑ๋ก์ํ์
๋๋ค . ๊ธฐํ ๋ชจ๋ ๋ธ๋๋๋ช
๋ฐ ์ ํ๋ช
์ ํด๋น ๋ช
์นญ์ ์์ ํ ํ์ฌ์ ์ํ ๋๋ ๋ฑ๋ก์ํ์
๋๋ค . ๋ณธ ๋ฌธ์๋ ์ฐธ๊ณ ์ฉ์ผ๋ก๋ง ์ ๊ณต๋๋ฉฐ ์ค๋ฅ๊ฐ ์์ ์ ์์ต๋๋ค . Cavium ์ ๋ณธ ๋ฌธ์ , ์ ํ ์ค๊ณ ๋๋ ์ฌ์์ ์ฌ์ ๊ณ ์ง ์์ด ๋ณ๊ฒฝํ ์ ์๋ ๊ถ๋ฆฌ๊ฐ ์์ต๋๋ค .