์ฌ์ฉ ์ค๋ช
์ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ AH0054602-03 F ํ์ฌ ์ ๋ณด๋ Dell EMC ์ ๊ณ ๊ฐ ์ง์ ์ฐจ์์์ ์ ๊ณต๋๋ ๊ฒ์
๋๋ค .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ ๋ฌธ์ ๊ฐ์ ์ด๋ ฅ ๊ฐ์ ํ A, 2017 ๋
4 ์ 28 ์ผ ๊ฐ์ ํ B, 2017 ๋
8 ์ 24 ์ผ ๊ฐ์ ํ C, 2017 ๋
10 ์ 1 ์ผ ๊ฐ์ ํ D, 2018 ๋
1 ์ 24 ์ผ ๊ฐ์ ํ E, 2018 ๋
3 ์ 15 ์ผ ๊ฐ์ ํ F, 2018 ๋
4 ์ 19 ์ผ ์ํฅ๋ฐ์ ์น์
์ํฅ๋ฐ์ ์น์
๋ฌธ์ ๊ท์ฝ ์๊ฐ ์
๋ฐ์ดํธ๋จ xix ํ์ด์ง์ " ๋ฌธ์ ๊ท์ฝ " ๋ ์ด์ ์ฌ์ฉํ์ง ์๋ QLogic ๋ผ์ด์ ์ค ๊ณ์ฝ ๋ฐ ๋ณด์ฆ ์น์
์ด ์ญ์ ๋จ ๋จธ๋ฆฌ๋ง ํ 3-5 ์ ๊ฐ์ฃผ๋ก " ์ด ์ฌ์ฉ์ ์ค๋ช
์๋ฅผ ๊ฒ์ํ ํ์ ๋ ESXi ๋๋ผ์ด๋ฒ๋ฅผ ์ถ๊ฐ๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค . ์์ธํ ๋ด์ฉ์ ๋ฆด๋ฆฌ์ค ๋
ธํธ๋ฅผ ์ฐธ์กฐํ์ญ์์ค .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ ๋ค์ ์ฃผ์ ์น์
์ด Linux ํ๊ฒฝ์ iSCSI Offload ์๋ ํ์ ์น์
์ผ๋ก ๋ณ๊ฒฝ๋จ ๏ฎ 149 ํ์ด์ง์ "bnx2i ์์ ์ฐจ์ด์ " 148 ํ์ด์ง์ "Linux ํ๊ฒฝ์ iSCSI Offload" ๏ฎ 149 ํ์ด์ง์ "qedi.ko ๊ตฌ์ฑ " ๏ฎ 149 ํ์ด์ง์ "Linux ์์ iSCSI ์ธํฐํ์ด์ค ํ ์ธ" ๏ฎ 152 ํ์ด์ง์ "Open-iSCSI ๋ฐ SAN ์์ ๋ถํ
์ ๋ํด ๊ณ ๋ คํ ์ " 158 ํ์ด์ง์ "SAN ๋ง์ด๊ทธ๋ ์ด์
์์ SLES 11 SP4 iSCSI L4 ๋ถํ
" ๋น์คํ๋ก๋ ์ธํฐํ์ด์ค์์ ์คํ๋ก๋ ์ธํฐํ์ด์ค ๋ก ๋ง์ด๊ทธ๋ ์ด์
ํ๋ ค๋ฉด ์ ์ฐจ์์ ๏ฎ 1 ๋จ๊ณ๊ฐ "Open-iscsi ๋๊ตฌ ๋ฐ iscsiuio ๋ฅผ ์ต์ ๋ฒ ์ ์ผ๋ก ์
๋ฐ์ดํธ ..." ๋ก ๋ณ๊ฒฝ๋จ ๏ฎ 2 ๋จ๊ณ๊ฐ ์ฒซ ๋ฒ์งธ ๊ธ๋จธ๋ฆฌ ๊ธฐํธ์ "(์๋ ๊ฒฝ์ฐ)"๋ฅผ ์ถ๊ฐํ์ฌ ํธ์ง๋๊ณ , ๋ง์ง๋ง ๊ธ๋จธ๋ฆฌ ๊ธฐํธ ("rd.driver.pre=qed rd.driver.
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ VMware ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ์ ์ฐจ์์ ๋ค ์๊ณผ ๊ฐ์ด ์ผ๋ถ ๋จ๊ณ๊ฐ ์ฌ์กฐ์ ๋จ . ๏ฎ " ํฌํธ์ ๋ฐ๋ผ VF ์ ์ ํจ์ฑ์ ๊ฒ์ฌํ๋ ค๋ฉด esxcli ๋ช
๋ น์ ์คํ ..." ๋จ๊ณ๊ฐ "Edit Settings ( ์ค์ ํธ์ง ) ๋ํ ์์๋ฅผ ..." ๋จ๊ณ ๋ค๋ก ์ด๋ํ ์์ต๋๋ค . 195 ํ์ด์ง์ "VMware ์์ SR-IOV ๊ตฌ์ฑ " ๏ฎ "VM ์ ํ์ฑํ ..." ๋จ๊ณ๊ฐ "QLogic ๋๋ผ์ด๋ฒ๋ฅผ ํ ์ง๋ ์ด๋ํฐ์ ์ค์น ..." ๋จ๊ณ ๋ค๋ก ์ด๋ํ์์ต๋ ๋ค.
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ ํ B-1 ์ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ์๋ฃจ์
์ด ์ถ๊ฐ๋จ 260 ํ์ด์ง์ " ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ " ํ B-2 ์ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น๊ฐ ์ถ๊ฐ๋จ 264 ํ์ด์ง์ " ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น " ๋ ์ด์ ์ฌ์ฉ๋์ง ์๋ ๋ค์ ์น์
์ด ์ญ์ ๋จ ๏ฎ SR-IOV ๋ฅผ ์ด๋ฏธ ๊ตฌ์ฑํ ๊ฒฝ์ฐ NPAR ๊ตฌ์ฑ์ด ์ง์ ์๋จ Appendix D ๊ธฐ๋ฅ ์ ์ฝ ์กฐ๊ฑด ๏ฎ NPAR ์ ์ด๋ฏธ ๊ตฌ์ฑํ ๊ฒฝ์ฐ RoCE ๋ฐ iWARP ๊ตฌ์ฑ์ด ์ง์ ์ ๋จ v AH0054602-03 F
๋ชฉ์ฐจ ๋จธ๋ฆฌ๋ง ์ง์๋๋ ์ ํ . . . . . . . . . . . . . ๋์ ๋
์ . . . . . . . . . . . . . . . . ์ค๋ช
์ ๋ด์ฉ. . . . . . . . . . . . . . . ๋ฌธ์ ๊ท์ฝ . . . . . . . . . . . . . . . . ๋ฒ์ ๊ณ ์ง . . . . . . . . . . . . . . . . ๋ ์ด์ ์์ โFDA ๊ณต์ง ์ฌํญ ๊ธฐ๊ด ์ธ์ฆ . . . . . . . . . . . . EMI ๋ฐ EMC ์๊ตฌ ์ฌํญ . KCC: A ๊ธ. . . . . . . . . VCCI: A ๊ธ . . . . . . . . ์ ํ ์์ ์ค์ . . . . . . . . . 1 3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ RDMA ์ ํจ๊ป Linux ์ค์น . . . . . . . . Linux ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ . . . . . . Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ . . . . . . . Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง . . . . . . . . . . ํต๊ณ . . . . . . . . . . . . . . . . . . . . . . Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น. . . . . . Windows ๋๋ผ์ด๋ฒ ์ค์น. . . . . . . . . . GUI ์์ DUP ์คํ . . . . . . . . . DUP ์ค์น ์ต์
. . . . . . . . . . . . DUP ์ค์น ์์ . . . . . . . . . . . . Windows ๋๋ผ์ด๋ฒ ์ ๊ฑฐ. . . . . . . . . . ์ด๋ํฐ ์์ฑ ๊ด๋ฆฌ . . . . . . . . . . . . . . ์ ์ ๊ด๋ฆฌ ์ต์
์ค์ . . . . . . . . . . . . VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ 6 RoCE ๊ตฌ์ฑ ์ง์๋๋ ์ด์ ์ฒด์ ๋ฐ OFED . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . RoCE ๋ฅผ ์ํ ๊ณํ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ด๋ํฐ ์ค๋น. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ด๋๋ท ์ค์์น ์ค๋น . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Cisco Nexus 6000 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ. . . . . . . . . . . . . . . . . . . Dell Z9100 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ 8 iSER ๊ตฌ์ฑ ์์ํ๊ธฐ ์ ์ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . RHEL ์ฉ iSER ๊ตฌ์ฑ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . SLES 12 ์ฉ iSER ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . RHEL ๋ฐ SLES ์์ iWARP ์ ํจ๊ป iSER ์ฌ์ฉ . . . . . . . . . . . . . . . . . . . . . Linux ์ฑ๋ฅ ์ต์ ํ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก CPU ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ iSCSI Offload FAQ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Windows Server 2012 R2 ๋ฐ 2016 iSCSI ๋ถํ
์ค์น . . . . . . . . . . . iSCSI Crash Dump . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Linux ํ๊ฒฝ์ iSCSI Offload . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . bnx2i ์์ ์ฐจ์ด์ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . qedi.ko ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ ๋์ ์๋ฒ์ ์ ์ฒ๋ฆฌ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . NVMe-oF ์ฅ์น ํ
์คํธ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ฑ๋ฅ ์ต์ ํ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .IRQ ์ ํธ๋ (multi_rss-affin.sh) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . CPU ์ฃผํ์ (cpufreq.sh) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ Hyper-Converged ์์คํ
๋ฐฐํฌ. . . . . . . . . . . . . . . . . . . . . ์ด์ ์ฒด์ ๋ฐฐํฌ . . . . . . . . . . . . . . . . . . . . . . . . . . . ๋คํธ์ํฌ ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . . . . . . Storage Spaces Direct ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ญํ ๊ณผ ๊ธฐ๋ฅ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ค์ ์๋ฒ์ Nano ์๋ฒ ๋ฐฐํฌ . . . . . . . . . . . . . . . . . . . . . . ๊ฐ์ ๋จธ์ ์ Nano ์๋ฒ ๋ฐฐํฌ . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ ๊ทธ๋ฆผ ๋ชฉ๋ก ๊ทธ๋ฆผ 3-1 3-2 3-3 3-4 3-5 3-6 3-7 3-8 3-9 3-10 4-1 4-2 4-3 4-4 4-5 5-1 5-2 5-3 5-4 5-5 5-6 5-7 5-8 5-9 5-10 5-11 5-12 5-13 5-14 5-15 5-16 5-17 5-18 5-19 5-20 6-1 6-2 6-3 6-4 6-5 6-6 6-7 6-8 ํ์ด์ง Dell ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . QLogic InstallShield ๋ง๋ฒ์ฌ : ์์ ์ฐฝ . . . . . . . . . . . . . . . . . . . . . . . . . . . . QLogic InstallShield ๋ง๋ฒ์ฌ : License Agreement( ์ฌ์ฉ๊ถ ๊ณ์ฝ ) ์ฐฝ . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ 6-9 6-10 7-1 7-2 7-3 7-4 8-1 8-2 8-3 8-4 8-5 9-1 9-2 9-3 9-4 9-5 9-6 9-7 9-8 9-9 9-10 9-11 9-12 9-13 9-14 9-15 9-16 9-17 9-18 9-19 9-20 9-21 9-22 9-23 9-24 9-25 10-1 10-2 10-3 10-4 10-5 10-6 10-7 10-8 11-1 PVRDMA ์ vmknic ํ ๋น . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ๋ฐฉํ๋ฒฝ ๊ท์น ์ค์ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Windows PowerShell ๋ช
๋ น : Get-NetAdapterRdma . . . . . . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ 11-2 11-3 11-4 11-5 11-6 11-7 11-8 11-9 11-10 11-11 11-12 11-13 11-14 11-15 12-1 12-2 12-3 12-4 13-1 13-2 13-3 13-4 13-5 13-6 13-7 13-8 13-9 13-10 13-11 13-12 13-13 13-14 13-15 13-16 13-17 13-18 13-19 13-20 13-21 13-22 13-23 SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ . . . . . . . . . . . . . . . . . . . . . . ์ด๋ํฐ ์์ฑ , ๊ณ ๊ธ : SR-IOV ํ์ฑํ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ : SR-IOV ํ์ฑํ . . . . . . . . . . . . . . . . . . . . . . . . . . . .
์ฌ์ฉ ์ค๋ช
์ โ ์๋ ดํ ๋คํธ์ํฌ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ ํ ๋ชฉ๋ก ํ 2-1 2-2 3-1 3-2 3-3 3-4 3-5 3-6 3-7 3-8 3-9 5-1 6-1 6-2 6-3 9-1 9-2 9-3 9-4 12-1 13-1 14-1 A-1 B-1 B-2 ํ์ด์ง ํธ์คํธ ํ๋์จ์ด ์๊ตฌ ์ฌํญ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ์ต์ ํธ์คํธ ์ด์ ์ฒด์ ์๊ตฌ ์ฌํญ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . QLogic 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ Linux ๋๋ผ์ด๋ฒ . . . . . . . . . . . . . . . . . . . . . . . qede ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ . . . . . . . . . . . .
๋จธ๋ฆฌ๋ง ๋จธ๋ฆฌ๋ง์์๋ ์ง์๋๋ ์ ํ์ ๋์ดํ๊ณ , ๋์ ๋
์๋ฅผ ๊ตฌ์ฒด์ ์ผ๋ก ์ ์ํ๊ณ , ์ด ์ค๋ช
์์ ์ฌ์ฉ๋๋ ์ธ์ ๊ท์น ๊ทธ๋ฆฌ๊ณ ๋ฒ์ ๊ณ ์ง๋ฅผ ์ค๋ช
ํฉ๋๋ค . ์ง์๋๋ ์ ํ ๋ณธ ์ฌ์ฉ ์ค๋ช
์์์๋ ๋ค์ Caviumโข ์ ํ์ ์ค๋ช
ํฉ๋๋ค .
๋จธ๋ฆฌ๋ง ์ค๋ช
์ ๋ด์ฉ ๏ฎ ์ฅ 2 ํ๋์จ์ด ์ค์น์์๋ ์์คํ
์๊ตฌ ์ฌํญ ๋ฐ ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก์ ํฌํจํด ์ด๋ํฐ์ ์ค์น ๋ฐฉ๋ฒ์ ๋ํด ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 3 ๋๋ผ์ด๋ฒ ์ค์น์์๋ Windows, Linux ๋ฐ VMware์์ ์ด๋ํฐ ๋๋ผ์ด๋ฒ ์ค์น์ ๋ํด ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 4 ํ์จ์ด ์
๊ทธ๋ ์ด๋์์๋ DUP(Dell ์
๋ฐ์ดํธ ํจํค์ง)๋ฅผ ์ฌ์ฉํ ์ด๋ํฐ ํ์จ์ด ์
๊ทธ๋ ์ด๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 5 ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ์์๋ HII(Human Infrastructure Interface) ์์ฉ ํ๋ก๊ทธ๋จ์ ์ฌ์ฉํ๋ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์์
์ ๋ํด ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 6 RoCE ๊ตฌ์ฑ์์๋ RoCE(RDMA over converged Ethernet) ๋ฅผ ์ฌ์ฉํ๋ ๋ก ์ด๋ํฐ , ์ด๋๋ท ์ค์์น ๋ฐ ํธ์คํธ๋ฅผ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . ๏ฎ ์ฅ 7 iWARP ๊ตฌ์ฑ์์๋ Windows, Linux ๋ฐ VMware ESXi 6.
๋จธ๋ฆฌ๋ง ๋ฌธ์ ๊ท์ฝ ๋ฌธ์ ๊ท์ฝ ์ด ์ค๋ช
์๋ ๋ค์ ๋ฌธ์ ๊ท์ฝ์ ์ฌ์ฉํฉ๋๋ค . ๏ฎ ์ฃผ ๏ฎ ์ฃผ์ ๏ฎ ๊ธฐํธ๊ฐ ์์ ๊ฒฝ์ฐ ์ถ๊ฐ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๊ธฐํธ ( ๊ฒฝ๊ณ ๊ธฐํธ ์์ ) ๋ ์ฅ๋น ์์ ๋๋ ๋ฐ์ดํฐ ์์ค์ ์ด๋ ํ ์ ์๋ ์ํ์ด ์กด์ฌํจ์ ๊ฐ๋ฆฌํต๋๋ค . ! ์ฃผ์ ! ๊ฒฝ๊ณ ๊ธฐํธ ( ๊ฒฝ๊ณ ๊ธฐํธ ์์ ) ๋ ๊ฒฝ๋ฏธํ๊ฑฐ๋ ์ํ๋ ๋ถ์์ ์ด๋ํ ์ ์๋ ์ํ์ด ์กด์ฌํจ์ ๊ฐ๋ฆฌํต๋๋ค . ๏ฎ ๊ธฐํธ๋ ์ฌ๊ฐํ ๋ถ์์ด๋ ์ฌ๋ง์ ์ด๋ํ ์ ์๋ ์ํ์ด ์กด์ฌ ํจ์ ๊ฐ๋ฆฌํต๋๋ค . ๏ฎ ํ๋์ ๊ธ๊ผด๋ก ํ์๋ ํ
์คํธ๋ ์ด ์ค๋ช
์์ ๊ทธ๋ฆผ , ํ ๋๋ ์น์
์ผ๋ก ์ด๋ํ ๋ ํ์ดํผ๋งํฌ ( ์ ํ ) ๋ฅผ ๊ฐ๋ฆฌํค๋ฉฐ ์น ์ฌ์ดํธ๋ก ์ฐ๊ฒฐ๋๋ ๋งํฌ๋ ๋ฐ์ค ํ์ ๊ฐ ๋ ํ๋์์ผ๋ก ํ์๋ฉ๋๋ค . ์ : ๏ฎ ๏ฎ ๏ฑ ํ 9-2 ๋ ์ฌ์ฉ์ ์ธํฐํ์ด์ค ๋ฐ ์๊ฒฉ ์์ด์ ํธ์ ๊ด๋ จ๋ ๋ฌธ์ ๋ฅผ ๋์ดํฉ ๋๋ค . ๏ฑ 6 ํ์ด์ง์ " ์ค์น ๊ฒ์ฌ ๋ชฉ๋ก " ์ ์ฐธ์กฐํ์ญ์์ค . ๏ฑ ๋ ์์ธํ ์ ๋ณด๋ www.cavium.com ์ ๋ฐฉ๋ฌธํ์ญ์์ค .
๋จธ๋ฆฌ๋ง ๋ฌธ์ ๊ท์ฝ ๏ฎ ๊ธฐ์ธ์๊ผด๋ก ํ์๋ ํ
์คํธ๋ ์ฉ์ด, ๊ฐ์กฐ, ๋ณ์ ๋๋ ๋ฌธ์ ์ ๋ชฉ์ ๊ฐ๋ฆฌํต๋๋ค. ์: ๏ฑ ๋ฐ๋ก ๊ฐ๊ธฐ ํค๋ ๋ฌด์์
๋๊น ? ๏ฑ ๋ ์ง ์ ํ์ ์
๋ ฅํ๋ ค๋ฉด mm/dd/yyyy(mm์ ์, dd๋ ๋ ์ง, yyyy๋ ์ฐ๋ ๋ฅผ ๊ฐ๋ฆฌํด ) ๋ก ์
๋ ฅํ์ญ์์ค . ๏ฎ ๋ฐ์ดํ๋ก ๋ฌถ์ฌ ์๋ ์ฃผ์ ์ ๋ชฉ์ ์ด ์ค๋ช
์๋ ์จ๋ผ์ธ ๋์๋ง์ ํฌํจ๋ ๊ด๋ จ ์ฃผ์ ๋ฅผ ๊ฐ๋ฆฌํค๋ฉฐ ๋ํ ์ด ๋ฌธ์์์ Help System ์ ๋ํ๋
๋๋ค . ๏ฎ CLI( ๋ช
๋ น ํ ์ธํฐํ์ด์ค ) ๋ช
๋ น ๊ตฌ๋ฌธ ๊ท์ฝ์๋ ๋ค์ ์ฌํญ์ด ํฌํจ๋ฉ๋๋ค . ๏ฑ ์ผ๋ฐ ํ
์คํธ๋ ํ์๋ ๋๋ก ์
๋ ฅํด์ผ ํ๋ ํญ๋ชฉ์ ๋ํ๋
๋๋ค . ์ : ๏ฎ ๏ฑ qaucli -pr nic -ei < > ( ๊บพ์ ๊ดํธ ) ๋ ๊ฐ์ ์ง์ ํด์ผ๋ง ํ๋ ๋ณ์๋ฅผ ๋ํ๋
๋๋ค . ์ : ๏ฎ ์ฃผ CLI ๋ช
๋ น์ ๊ฒฝ์ฐ์๋ง ๋ณ์ ์ด๋ฆ์ด ํญ์ ๊ธฐ์ธ์๊ผด์ด ์๋ ๊บพ์ ๊ด ํธ๋ฅผ ์ฌ์ฉํด ํ์๋ฉ๋๋ค . ๏ฑ [ ] ( ๋๊ดํธ ) ๋ ์ ํ์ ๋งค๊ฐ๋ณ์๋ฅผ ๋ํ๋
๋๋ค .
๋จธ๋ฆฌ๋ง ๋ฒ์ ๊ณ ์ง ๏ฑ ๋
ผ๋ฆฌ์ ๋ชจํธํจ์ ๋ฐฉ์งํ๊ธฐ ์ํด ( ) (๊ดํธ) ๋ฐ { } (์ค๊ดํธ)๊ฐ ์ฌ์ฉ๋ฉ๋ ๋ค.์: ๏ฎ a|b c ๋ ๋ชจํธํฉ๋๋ค . {(a|b) c} ๋ a ๋๋ b ๋ค์ c ๋ฅผ ์๋ฏธํฉ๋๋ค . {a|(b c)} ๋ a ๋๋ b c ๋ฅผ ์๋ฏธํฉ๋๋ค . ๋ฒ์ ๊ณ ์ง ์ด ์น์
์ ๋์ค๋ ๋ฒ์ ๊ณ ์ง์๋ ๋ ์ด์ ์์ (FDA ๊ณต์ง ์ฌํญ ), ๊ธฐ๊ด ์ธ์ฆ ๋ฐ ์ ํ ์์ ๊ท์ ์ค์ ์ฌํญ์ด ํฌํจ๋ฉ๋๋ค . ๋ ์ด์ ์์ โFDA ๊ณต์ง ์ฌํญ ์ด ์ ํ์ DHHS Rules 21CFR Chapter I, Subchapter J ์ ๋ถํฉํฉ๋๋ค . ์ด ์ ํ์ ๋ ์ด์ ์ ํ์ ์์ ๋ ์ด๋ธ์ ๋ํ IEC60825-1 ์ ๋ฐ๋ผ ์ค๊ณ๋๊ณ ์ ์กฐ๋์์ต๋๋ค . 1 ๊ธ ๋ ์ด์ ์ ํ 1 ๋ฑ๊ธ ๋ ์ด์ ์ ํ ์ฃผ์ - ๋ฎ๊ฐ๋ฅผ ๊ฐ๋ดํ ๊ฒฝ์ฐ 1 ๋ฑ๊ธ ๋ ์ด์ ๊ด์ ๋
ธ์ถ๋ ์ ์์ต๋๋ค . ๊ดํ ์ฅ์น๋ฅผ ์ฌ์ฉํ์ฌ ์ง์ ๋ณด์ง ๋ง์ญ์์ค .
๋จธ๋ฆฌ๋ง ๋ฒ์ ๊ณ ์ง ICES-003 ๊ท์ ์ค์ : A ๊ธ ๋ณธ A ๊ธ ๋์งํธ ์ฅ์น๋ Canadian ICES-003 ์ ์ค์ํฉ๋๋ค . Cet appareil numรฉriquรฉ de la classe A est conformรฉ ร la norme NMB-003 du Canada.
๋จธ๋ฆฌ๋ง ๋ฒ์ ๊ณ ์ง ํ๊ตญ์ด ํฌ๋งท - A ๊ธ VCCI: A ๊ธ ๋ณธ ์ ํ์ ์ ์ํ ์ฅ์ ์์ฃผ ๊ท์ ํ์ํ (VCCI) ์ ํ์ค์ ๊ธฐ๋ณธ์ผ๋ก ํ A ๊ธ ์ ํ ์
๋๋ค . ์ด ์ฅ์น๊ฐ ๊ตญ๋ด ํ๊ฒฝ์์ ์ฌ์ฉ๋๋ ๊ฒฝ์ฐ ๋ฌด์ ์ ์ํ๊ฐ ๋ฐ์ํ ์ ์์ผ๋ฉฐ , ์ด ๊ฒฝ์ฐ ์ฌ์ฉ์๋ ๊ต์ ์กฐ์น๋ฅผ ์ํํด์ผ ํ ์ ์์ต๋๋ค . ์ ํ ์์ ์ค์ UL, cUL ์ ํ ์์ ์ฑ : UL 60950-1 ( ์ 2 ํ ) A1 + A2 2014-10-14 CSA C22.2 No.60950-1-07 ( ์ 2 ํ ) A1 +A2 2014-10 ๋ฐ๋์ ์ด๊ฑฐ๋ ITE ๋๋ ๋๋ฑํ ์ฅ์น์ ํจ๊ป ์ฌ์ฉํ์ญ์์ค . 21 CFR 1040.10 ๋ฐ 1040.11, 2014/30/EU, 2014/35/EU ์ค์ .
1 ์ ํ ๊ฐ์ ์ด ์ฅ์์๋ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์ ๋ํด ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ๊ธฐ๋ฅ ์ค๋ช
๏ฎ ๊ธฐ๋ฅ ๏ฎ 3 ํ์ด์ง์ " ์ด๋ํฐ ์ฌ์ " ๊ธฐ๋ฅ ์ค๋ช
Cavium FastLinQยฎ 41000 ์๋ฆฌ์ฆ ์ด๋ํฐ๋ ์๋ฒ ์์คํ
์ ์ํ ๊ฐ์ ๋ฐ์ดํฐ ๋คํธ ์ํน์ ์ํํ๋๋ก ์ค๊ณ๋ 10Gb ๋ฐ 25Gb ์ปจ๋ฒ์ง๋ ๋คํธ์ํฌ ์ด๋ํฐ์ ์ง๋ฅํ ์ด ๋๋ท ์ด๋ํฐ๋ฅผ ํฌํจํฉ๋๋ค . 41000 ์๋ฆฌ์ฆ ์ด๋ํฐ์๋ ์ ์ด์ค ๊ธฐ๋ฅ์ด ๊ฐ๋ฅํ 10/25Gb ์ด๋๋ท MAC ์ด ์ง์ ๋์ด ์์ต๋๋ค . ์ด์ ์ฒด์ ์ ํฐ๋ฐ ๊ธฐ๋ฅ์ ์ฌ์ฉํ๋ฉด ๋คํธ์ํฌ๋ฅผ ๊ฐ์ LAN(VLAN) ์ผ๋ก ๋ถํ ํ๊ณ ์ฌ ๋ฌ ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ ํ์ผ๋ก ๊ทธ๋ฃนํํ์ฌ ๋คํธ์ํฌ ๋ก๋ ๋ฐธ๋ฐ์ฑ ๋ฐ ๊ฒฐํจ ํ์ฉ ๊ธฐ๋ฅ ์ ์ ๊ณตํ ์ ์์ต๋๋ค . ํฐ๋ฐ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ด์ ์ฒด์ ์ค๋ช
์๋ฅผ ์ฐธ์กฐํ์ญ ์์ค . ๊ธฐ๋ฅ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ ๋ค์์ ํน์ง์ ์ ๊ณตํฉ๋๋ค . ์ด๋ํฐ์ ์ข
๋ฅ์ ๋ฐ๋ผ ์ผ๋ถ ๊ธฐ ๋ฅ์ ์ฌ์ฉํ ์ ์์ ์๋ ์์ต๋๋ค .
1โ ์ ํ ๊ฐ์ ๊ธฐ๋ฅ ๏ฎ ๏ฎ ๏ฎ ๏ฎ 1 ์ฑ๋ฅ ๊ด๋ จ ๊ธฐ๋ฅ : ๏ฑ TCP, IP, UDP ์ฒดํฌ์ฌ ์คํ๋ก๋ ๏ฑ TCP TSO( ์ธ๊ทธ๋จผํธํ ์คํ๋ก๋ ) ๏ฎ ๋์ฉ๋ ์ธ๊ทธ๋จผํธ ์คํ๋ก๋ (LSO) ๏ฎ GSO( ์ผ๋ฐ ์ธ๊ทธ๋จผํธ ์คํ๋ก๋ ) ๏ฎ ๋ํ ์์ ์คํ๋ก๋ (LRO) ๏ฎ RSC( ์์ ์ธ๊ทธ๋จผํธ ํตํฉ ) ๏ฎ Microsoftยฎ Dynamic VMQ(Virtual Machine Queue) ๋ฐ Linux ๋ค์ค ๋๊ธฐ์ด ์ ์ ์ธํฐ๋ฝํธ : ๏ฑ TSS/RSS( ์ก์ / ์์ ์ธก ๋ฐฐ์จ ์กฐ์ ) ๏ฑ ์ผ๋ฐ ๋ผ์ฐํ
์บก์ํ(NVGRE) ๋ฐ ๊ฐ์ LAN(VXLAN) L2/L3 GRE ํฐ๋ ํธ ๋ํฝ์ ์ฌ์ฉํ๋ ๋คํธ์ํฌ ๊ฐ์ํ๋ฅผ ์ํ ๋ฌด์ํ ์คํ๋ก๋1 ๊ด๋ฆฌ : ๏ฑ SMB( ์์คํ
๊ด๋ฆฌ ๋ฒ์ค ) ์ปจํธ๋กค๋ฌ ๏ฑ ACPI(Advanced Configuration and Power Interface) 1.
1โ ์ ํ ๊ฐ์ ์ด๋ํฐ ์ฌ์ ๏ฎ PCI ์ ์ ๊ด๋ฆฌ ์ธํฐํ์ด์ค (v1.1) ๏ฎ 64 ๋นํธ ๊ธฐ์ค ์ฃผ์ ๋ ์ง์คํฐ (BAR) ์ง์ ๏ฎ EM64T ํ๋ก์ธ์ ์ง์ ๏ฎ iSCSI ๋ฐ FCoE ๋ถํ
์ง์2 ์ด๋ํฐ ์ฌ์ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ ์ฌ์์๋ ์ด๋ํฐ์ ๋ฌผ๋ฆฌ์ ํน์ฑ ๋ฐ ํ์ค ( ๊ท์ ์ค์ ์ฐธ์กฐ ) ์ด ํฌํจ๋์ด ์์ต๋๋ค . ์ค์ ํน์ฑ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ ์ด๋ํฐ๋ ํ์ค PCIe ์นด๋๋ก์ ํ์ค PCIe ์ฌ๋กฏ์์ ์ฌ์ฉํ ์ ์๋๋ก ์ ์ฒด ๋์ด ๋๋ ๋ก์ฐ ํ๋กํ์ผ ๋ธ๋ํท์ด ํจ๊ป ์ ๊ณต๋ฉ๋๋ค . ํ์ค ์ฌ์ ์ง์๋๋ ํ์ค ์ฌ์์๋ ๋ค์ ์ฌ์์ด ํฌํจ๋ฉ๋๋ค . 2 ๏ฎ PCI Express ๊ธฐ๋ณธ ์ฌ์ , rev. 3.1 ๏ฎ PCI Express ์นด๋ ์ ์ ๊ธฐ๊ณ ์ฌ์ , rev. 3.0 ๏ฎ PCI ๋ฒ์ค ์ ์ ๊ด๋ฆฌ ์ธํฐํ์ด์ค ์ฌ์ , rev. 1.2 ๏ฎ IEEE ์ฌ์ : ๏ฑ ์ด๋๋ท์ฉ 802.3-2015 IEEE ํ์ค ( ํ๋ฆ ์ ์ด ) ๏ฑ 802.1q(VLAN) ๏ฑ 802.
2 ํ๋์จ์ด ์ค์น ์ด ์ฅ์์๋ ๋ค์๊ณผ ๊ฐ์ ํ๋์จ์ด ์ค์น ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ์์คํ
์๊ตฌ ์ฌํญ ๏ฎ 5 ํ์ด์ง์ " ์์ ์ฃผ์์ฌํญ " ๏ฎ 6 ํ์ด์ง์ " ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก " ๏ฎ 6 ํ์ด์ง์ " ์ด๋ํฐ ์ค์น " ์์คํ
์๊ตฌ ์ฌํญ Cavium 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ฅผ ์ค์นํ๊ธฐ ์ ์ ์์คํ
์ด ํ 2-1 ๋ฐ ํ 2-2 ์ ํ์ ๋ ํ๋์จ์ด ๋ฐ ์ด์ ์ฒด์ ์๊ตฌ ์ฌํญ์ ๋ง์กฑํ๋์ง ํ์ธํ์ญ์์ค . ์ง์๋๋ ์ด์ ์ฒด์ ์ ์ ์ฒด ๋ชฉ๋ก์ Cavium ์น์ฌ์ดํธ์์ ํ์ธํ ์ ์์ต๋๋ค . ํ 2-1. ํธ์คํธ ํ๋์จ์ด ์๊ตฌ ์ฌํญ ํ๋์จ์ด ์๊ฑด ์ํคํ
์ฒ ์ด์ ์ฒด์ ์๊ฑด์ ์ถฉ์กฑํ๋ IA-32 ๋๋ EMT64 PCIe PCIe Gen2 x8(2x10G NIC) PCIe Gen3 x8(2x25G NIC) ์ ์ฒด ๋์ผ ํฌํธ 25Gb ๋์ญํญ์ PCIe Gen3 x8 ๋๋ ์๋๊ฐ ๋ ๋น ๋ฅธ ์ฌ๋กฏ์์ ์ง์ ๊ฐ๋ฅํฉ๋๋ค .
2โ ํ๋์จ์ด ์ค์น ์์ ์ฃผ์์ฌํญ ํ 2-2. ์ต์ ํธ์คํธ ์ด์ ์ฒด์ ์๊ตฌ ์ฌํญ ์ด์ ์ฒด์ ์๊ฑด Windows Server 2012, 2012 R2, 2016(Nano ํฌํจ ) Linux RHELยฎ 6.8, 6.9, 7.2, 7.3, 7.4 SLESยฎ 11 SP4, SLES 12 SP2, SLES 12 SP3 VMware 25G ์ด๋ํฐ์ฉ ESXi 6.0 u3 ์ด์ ์ฃผ ํ 2-2 ๋ ์ต์ ํธ์คํธ OS ์๊ฑด์ ๋ํ๋
๋๋ค . ์ง์๋๋ ์ด์ ์ฒด์ ์ ์ ์ฒด ๋ชฉ ๋ก Cavium ์น์ฌ์ดํธ์์ ํ์ธํ ์ ์์ต๋๋ค . ์์ ์ฃผ์์ฌํญ ! ๊ฒฝ๊ณ ์ด๋ํฐ๊ฐ ์ ์์ด ํ๋ฅด๋ ์์คํ
์ ์ค์น๋์ด ์์ผ๋ฉด ์ํํ ์ ์์ต๋๋ค . ์ ์คํ
์ ์ผ์ด์ค๋ฅผ ์ด๊ธฐ ์ ์ , ์ฌ์ฉ์๋ฅผ ๋ณดํธํ๊ณ ์์คํ
๊ตฌ์ฑ ์์์ ์์์ ๋ฐฉ์งํ๋ ค๋ฉด ์๋์ ์ฃผ์์ฌํญ์ ์ค์ํ์ญ์์ค . ๏ฎ ์๊ณผ ์๋ชฉ์์ ๊ธ์ ๋ฌผ์ฒด๋ ๊ท๊ธ์์ ์ ๊ฑฐํฉ๋๋ค . ๏ฎ ์ ์ฐ ๋ฐ ๋น์ ๋์ฑ ๋๊ตฌ๋ง ์ฌ์ฉํ์ญ์์ค .
2โ ํ๋์จ์ด ์ค์น ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก ์ค์น ์ ๊ฒ์ฌ ๋ชฉ๋ก ์ด๋ํฐ๋ฅผ ์ค์นํ๊ธฐ ์ ์ ๋ค์ ์ ์ฐจ๋ฅผ ์๋ฃํ์ญ์์ค . 1. ์์คํ
์ด 4 ํ์ด์ง์ " ์์คํ
์๊ตฌ ์ฌํญ " ์ ๋์ด๋ ํ๋์จ์ด ๋ฐ ์ํํธ์จ์ด ์๊ตฌ์ฌํญ์ ์ถฉ์กฑํ๋์ง ํ์ธํ์ญ์์ค . 2. ์์คํ
์ด ์ต์ BIOS ๋ฅผ ์ฌ์ฉํ๊ณ ์๋์ง ํ์ธํฉ๋๋ค . ์ฃผ Cavium ์น์ฌ์ดํธ์์ ์ด๋ํฐ ์ํํธ์จ์ด๋ฅผ ๊ตฌ๋งคํ ๊ฒฝ์ฐ ์ด๋ํฐ ๋๋ผ ์ด๋ฒ ํ์ผ์ ๊ฒฝ๋ก๋ฅผ ํ์ธํ์ญ์์ค . 3. ์์คํ
์ด ํ์ฑํ๋์์ผ๋ฉด ์์คํ
์ ์ข
๋ฃํฉ๋๋ค . 4. ์์คํ
์ข
๋ฃ๊ฐ ์๋ฃ๋๋ฉด ์ ์์ ๋๊ณ ์ ์ ์ฝ๋๋ฅผ ๋ฝ์ต๋๋ค . 5. ์ด๋ํฐ๋ฅผ ํฌ์ฅ ์์์์ ๊บผ๋ด ์ ์ ๊ธฐ ๋ฐฉ์ง ์ฒ๋ฆฌ๋ ๊ณณ์ ๋์ต๋๋ค . 6. ํนํ ์ด๋ํฐ์ ๊ฐ์ฅ์๋ฆฌ ์ปค๋ฅํฐ์ ์์๋ ํ์ ์ด ์๋์ง ๊ฒ์ฌํฉ๋๋ค. ์์๋ ์ด๋ํฐ๋ฅผ ์ค์นํ๋ ค๊ณ ์๋ํ์ง ๋ง์ญ์์ค . ์ด๋ํฐ ์ค์น ๋ค์์ ๋๋ถ๋ถ์ ์์คํ
์์ Cavium 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ฅผ ์ค์นํ ๋ ์ ์ฉ๋๋ ์ง์นจ์
๋๋ค .
2โ ํ๋์จ์ด ์ค์น ์ด๋ํฐ ์ค์น 5. ์นด๋์ ์ ์ชฝ ๋ชจํ์ด์ ํ์ ์ฃผ์ด ์ฌ๋กฏ์ด ์์ ํ ์ฅ์ฐฉ๋ ๋๊น์ง ์ด๋ํฐ ์นด๋๋ฅผ ๋ฐ์ด ๋ฃ์ต๋๋ค . ์ด๋ํฐ๊ฐ ์ฌ๋ฐ๋ฅด๊ฒ ์์นํ๋ฉด , ์ด๋ํฐ ํฌํธ ์ปค๋ฅํฐ๊ฐ ์ฌ๋กฏ ๊ฐ ๊ตฌ๋ถ์ ์ ๋ ฌ๋๊ณ ์ด๋ํฐ ๋ฎ๊ฐ ๋์ด๊ฐ ์์คํ
์์์ ๋์ผํ ๋์ด๊ฐ ๋ฉ๋๋ค . ์ฃผ์ ์์คํ
์ด๋ ์ด๋ํฐ๊ฐ ์์๋ ์ ์์ผ๋ฏ๋ก ์นด๋๋ฅผ ์ฅ์ฐฉํ ๋ ๋๋ฌด ํ์ ์ฃผ์ง ๋ง์ญ์์ค . ์ด๋ํฐ๊ฐ ์ฅ์ฐฉ๋์ง ์์ผ๋ฉด ์ด๋ํฐ๋ฅผ ๋นผ๋ด๊ณ ๋ง์ถ ํ ๋ค ์ ํด๋ณด์ญ์์ค . 6. ์ด๋ํฐ๋ฅผ ์ด๋ํฐ ํด๋ฆฝ์ด๋ ๋์ฌ๋ก ๊ณ ์ ํฉ๋๋ค . 7. ์์คํ
์ผ์ด์ค๋ฅผ ์์ ํ ๋ซ๊ณ ๊ฐ์ธ์ฉ ์ ์ ๊ธฐ ๋ฐฉ์ง ์ฅ์น๋ฅผ ๋ชจ๋ ๋ผ์ด๋
๋๋ค .
3 ๋๋ผ์ด๋ฒ ์ค์น ์ด ์ฅ์์๋ ๋๋ผ์ด๋ฒ ์ค์น์ ๋ํ ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๏ฎ 17 ํ์ด์ง์ "Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น " ๏ฎ 26 ํ์ด์ง์ "VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น " Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ์ด ์น์
์์๋ RDMA(Remote Direct Memory Access) ๊ฐ ์๊ฑฐ๋ ์๋ ์ํ์์ Linux ๋ฅผ ์ค์นํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . ๋ํ Linux ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ , ๊ธฐ๋ณธ ๊ฐ , ๋ฉ์์ง ๋ฐ ํต๊ณ์ ๋ํด์๋ ์ค๋ช
ํฉ๋๋ค . ๏ฎ RDMA ์์ด Linux ๋๋ผ์ด๋ฒ ์ค์น ๏ฎ RDMA ์ ํจ๊ป Linux ์ค์น ๏ฎ Linux ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ๏ฎ Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ ๏ฎ Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง ๏ฎ ํต๊ณ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ Linux ๋๋ผ์ด๋ฒ์ ์ง์ ๋ฌธ์๋ Dell ์ง์ ํ์ด์ง์์ ๊ตฌํ ์ ์์ต๋๋ค . dell.support.
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ํ 3-1. QLogic 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ Linux ๋๋ผ์ด๋ฒ Linux ๋๋ผ์ด๋ฒ ์ค๋ช
qed qed ์ฝ์ด ๋๋ผ์ด๋ฒ ๋ชจ๋์ ํ์จ์ด๋ฅผ ์ง์ ์ ์ดํ๊ณ , ์ธํฐ๋ฝํธ ์ ํธ๋ฅผ ์ฒ๋ฆฌํ๊ณ , ํ๋กํ ์ฝ ์ ๋ฐ๋ฅธ ๋๋ผ์ด๋ฒ ์ธํธ์ ์ ๋ ๋ฒจ API ๋ฅผ ์ ๊ณตํฉ๋๋ค . qed ๋ qede, qedr, qedi ๋ฐ qedf ๋๋ผ ์ด๋ฒ์ ์ธํฐํ์ด์คํฉ๋๋ค . Linux ์ฝ์ด ๋ชจ๋์ PCI ์ฅ์น ๋ฆฌ์์ค ( ๋ ์ง์คํฐ , ํธ์คํธ ์ธํฐํ ์ด์ค ๋๊ธฐ์ด ๋ฑ ) ๋ฅผ ๋ชจ๋ ๊ด๋ฆฌํฉ๋๋ค . ์ด ๋ชจ๋์ ์คํํ๊ธฐ ์ํด์๋ Linux ์ปค๋ ๋ฒ์ 2.6.32 ์ด์์ด ํ์ํฉ๋๋ค . ํ
์คํธ๋ x86_64 ์ํคํ
์ฒ๋ฅผ ์ค์ฌ์ผ๋ก ์คํ๋์์ต๋๋ค . qede 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์ฉ Linux ์ด๋๋ท ๋๋ผ์ด๋ฒ . ์ด ๋๋ผ์ด๋ฒ๋ ํ๋์จ์ด๋ฅผ ์ง์ ์ ์ดํ๊ณ , Linux ํธ์คํธ ๋คํธ์ํน ํธ์คํธ๋ฅผ ์ํด ์ด๋๋ท ํจํท์ ๋ณด๋ด๊ณ ๋ฐ๋ ์์
์ ๋ด๋นํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๋ค์ ์์ค RPM ์ RHEL ๋ฐ SLES ํธ์คํธ์ RDMA ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ฝ๋๋ฅผ ์ค์นํฉ ๋๋ค . ๏ฎ qlgc-libqedr-...src.rpm ๋ค์ ์์ค ์ฝ๋ TAR BZip2(BZ2) ์์ถ ํ์ผ์ RHEL ๋ฐ SLES ํธ์คํธ์ Linux ๋๋ผ ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๏ฎ fastlinq-.tar.bz2 ์ฃผ NFS, FTP ๋๋ HTTP( ๋คํธ์ํฌ ๋ถํ
๋์คํฌ ) ๋ฅผ ํตํด ๋คํธ์ํฌ๋ฅผ ์ค์นํ ๋ ๋ qede ๋๋ผ์ด๋ฒ๊ฐ ์ ์ฅ๋ ๋๋ผ์ด๋ฒ ๋์คํฌ๊ฐ ํ์ํ ์ ์์ต๋๋ค . Linux ๋ถํ
๋๋ผ์ด๋ฒ๋ makefile ๋ฐ make ํ๊ฒฝ์ ์์ ํ์ฌ ์ปดํ์ผํ ์ ์์ต๋๋ค . RDMA ์์ด Linux ๋๋ผ์ด๋ฒ ์ค์น RDMA ์์ด Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๋ ค๋ฉด : 1. ์๋ Dell ์ง์ ์ฌ์ดํธ์์ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ Linux ๋๋ผ์ด๋ฒ๋ฅผ ๋ค์ด๋ก๋ ํฉ๋๋ค . dell.support.com 2.
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น rmmod qed depmod -a rpm -e qlgc-fastlinq-kmp-default-. ๏ฎ TAR ํ์ผ์ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ ๊ฒฝ์ฐ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค . rmmod qede rmmod qed depmod -a ๏ฑ RHEL ์ ๊ฒฝ์ฐ : cd /lib/modules//extra/qlgc-fastlinq rm -rf qed.ko qede.ko qedr.ko ๏ฑ SLES ์ ๊ฒฝ์ฐ : cd /lib/modules//updates/qlgc-fastlinq rm -rf qed.ko qede.ko qedr.ko RDMA ๊ฐ ์๋ ํ๊ฒฝ์์ Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด 1. ํ์ฌ ์ค์น๋์ด ์๋ ๋๋ผ์ด๋ฒ์ ๋ํ ๊ฒฝ๋ก๋ฅผ ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค . modinfo 2. Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ธ๋ก๋ํ๊ณ ์ ๊ฑฐํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 3. qed.ko, qede.ko ๋ฐ qedr.ko ํ์ผ์ด ์๋ ๋๋ ํฐ๋ฆฌ์์ ์ด๋ค ํ์ผ์ ์ญ์ ํฉ ๋๋ค . ์๋ฅผ ๋ค์ด , SLES ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . cd /lib/modules//updates/qlgc-fastlinq rm -rf qed.ko rm -rf qede.ko rm -rf qedr.ko depmod -a RDMA ํ๊ฒฝ์์ Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด 1. ์ค์น๋์ด ์๋ ๋๋ผ์ด๋ฒ์ ๋ํ ๊ฒฝ๋ก๋ฅผ ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . modinfo 2. Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ธ๋ก๋ํ๊ณ ์ ๊ฑฐํฉ๋๋ค . modprobe -r qedr modprobe -r qede modprobe -r qed depmod -a 3. ๋๋ผ์ด๋ฒ ๋ชจ๋ ํ์ผ์ ์ ๊ฑฐํฉ๋๋ค . ๏ฑ RPM ํจํค์ง๋ฅผ ์ฌ์ฉํ์ฌ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ ๊ฒฝ์ฐ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 2. ๋๋ ํฐ๋ฆฌ๋ฅผ RPM ๊ฒฝ๋ก๋ก ๋ณ๊ฒฝํ๊ณ ์ปค๋์ฉ ์ด์ง RPM ์ ๊ตฌ์ถํฉ๋๋ค . RHEL ์ ๊ฒฝ์ฐ : cd /root/rpmbuild rpmbuild -bb SPECS/fastlinq-.spec SLES ์ ๊ฒฝ์ฐ : cd /usr/src/packages rpmbuild -bb SPECS/fastlinq-.spec 3. ๋ค์์ ์๋ก ์ปดํ์ผ๋ RPM ์ ์ค์นํฉ๋๋ค . rpm -ivh RPMS//qlgc-fastlinq-..rpm ์ฃผ ์ถฉ๋์ด ๋ณด๊ณ ๋ ๊ฒฝ์ฐ ์ผ๋ถ Linux ๋ฐฐํฌํ์ --force ์ต์
์ ์ค์นํด์ผ ํฉ ๋๋ค . ๋๋ผ์ด๋ฒ๊ฐ ๋ค์ ๊ฒฝ๋ก์ ์ค์น๋ฉ๋๋ค . SLES ์ ๊ฒฝ์ฐ : /lib/modules//updates/qlgc-fastlinq RHEL ์ ๊ฒฝ์ฐ : /lib/modules//extra/qlgc-fastlinq 4.
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น TAR ํ์ผ์ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ ์ค์น TAR ํ์ผ์ ์ฌ์ฉํด Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๋ ค๋ฉด 1. ๋๋ ํฐ๋ฆฌ๋ฅผ ์์ฑํ๊ณ ํด๋น ๋๋ ํฐ๋ฆฌ์ TAR ํ์ผ ์์ถ์ ํ๋๋ค . tar xjvf fastlinq-.tar.bz2 2. ์ต๊ทผ ๋ง๋ ๋๋ ํฐ๋ฆฌ๋ก ๋ณ๊ฒฝํ ํ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . cd fastlinq- make clean; make install qed ๋ฐ qede ๋๋ผ์ด๋ฒ๊ฐ ๋ค์ ๊ฒฝ๋ก์ ์ค์น๋ฉ๋๋ค . SLES ์ ๊ฒฝ์ฐ : /lib/modules//updates/qlgc-fastlinq RHEL ์ ๊ฒฝ์ฐ : /lib/modules//extra/qlgc-fastlinq 3. ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํด ํ
์คํธํฉ๋๋ค ( ํ์ํ ๊ฒฝ์ฐ ๋จผ์ ๊ธฐ์กด ๋๋ผ์ด๋ฒ๋ฅผ ์ธ๋ก ๋ํจ ).
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 4. 5. ๋ค์ ๋ฐฉ๋ฒ ์ค ํ๋๋ฅผ ์ฌ์ฉํ์ฌ ์ Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๏ฑ kmp/kmod RPM ํจํค์ง๋ฅผ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ ์ค์น ๏ฑ TAR ํ์ผ์ ์ฌ์ฉํ์ฌ Linux ๋๋ผ์ด๋ฒ ์ค์น RDMA ์ฌ์ฉ์ ๊ณต๊ฐ ์์ฉํ๋ก๊ทธ๋จ๊ณผ ์๋ํ๋ libqedr ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ค์นํฉ ๋๋ค . libqedr RPM ์ ์ธ๋ฐ์ค OFED ์์๋ง ์ฌ์ฉํ ์ ์์ต๋๋ค . ํ์จ์ด์์ RoCE+iWARP ๊ธฐ๋ฅ์ ๋์์ ์ง์ํ ๋๊น์ง UEFI ์ ์ฌ์ฉํ RDMA(RoCE, RoCEv2 ๋๋ iWARP) ๋ฅผ ์ ํํด์ผ ํฉ๋๋ค . ์ธ ๊ฐ์ง ์ค ๊ธฐ๋ณธ์ ์ผ๋ก ํ์ฑํ๋ ๋ RDMA ๋ ์์ต๋๋ค . ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . rpm โivh qlgc-libqedr-..rpm 6. libqedr ์ฌ์ฉ์ ๊ณต๊ฐ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ๋น๋ํ์ฌ ์ค์นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ ๋๋ค . 'make libqedr_install' 7.
3โ ๋๋ผ์ด๋ฒ ์ค์น Linux ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ํ 3-2. qede ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ( ๊ณ์ ) ๋งค๊ฐ๋ณ์ err_flags_override ์ค๋ช
ํ๋์จ์ด ์ค๋ฅ ์ ์ํํ ์์
์ ๋นํ์ฑํํ๊ฑฐ๋ ๊ฐ์ ์ ์ฉํ๋ ๋นํธ๋งต์
๋๋ค . ๏ฎ ๋นํธ #31 - ์ด ๋นํธ๋ง์คํฌ๋ฅผ ํ์ฑํํ๋ ๋นํธ์
๋๋ค . ๏ฎ ๋นํธ #0 - ํ๋์จ์ด๋ก ๋ค์ ๋์๊ฐ์ง ์๋๋ก ๋ฐฉ์งํฉ๋๋ค . ๏ฎ ๋นํธ #1 - ๋๋ฒ๊ทธ ๋ฐ์ดํฐ๋ฅผ ์์งํฉ๋๋ค . ๏ฎ ๋นํธ #2 - ๋ณต๊ตฌ ํ๋ก์ธ์ค๋ฅผ ํธ๋ฆฌ๊ฑฐํฉ๋๋ค . ๏ฎ ๋นํธ #3 - ์ค๋ฅ๋ฅผ ์ผ๊ธฐํ๋ ํ๋ฆ์ ๋ํ ํธ์ถ ์ถ์ ์ ์ป๊ธฐ ์ํด WARN์ ํธ์ถํฉ๋๋ค . Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ ํ 3-3 ์๋ qed ๋ฐ qede Linux ๋๋ผ์ด๋ฒ ์์
๊ธฐ๋ณธ๊ฐ์ด ๋์ ์์ต๋๋ค . ํ 3-3.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง Linux ๋๋ผ์ด๋ฒ ๋ฉ์์ง๋ฅผ ์ธ๋ถ ๋ ๋ฒจ๊น์ง ์ค์ ํ๋ ค๋ฉด ๋ค์ ์ค ํ ๊ฐ์ง ๋ช
๋ น์ ์คํ ํ์ญ์์ค . ๏ฎ ethtool -s msglvl ๏ฎ modprobe qede debug= ์ฌ๊ธฐ์์ , ๋ ๋นํธ 0โ15( ํ์ค Linux ๋คํธ์ํน ๊ฐ ) ๋ฅผ ์๋ฏธํ๋ฉฐ , ๋น ํธ 16 ์ด์์ ๋๋ผ์ด๋ฒ์ ๋ฐ๋ผ ๋ค๋ฆ
๋๋ค . ํต๊ณ ์์ธํ ํต๊ณ ๋ฐ ๊ตฌ์ฑ ์ ๋ณด๋ฅผ ๋ณด๋ ค๋ฉด ethtool ์ ํธ๋ฆฌํฐ๋ฅผ ์ฌ์ฉํ์ญ์์ค . ์์ธํ ๋ด ์ฉ์ ethtool man ํ์ด์ง๋ฅผ ์ฐธ์กฐํ์ญ์์ค . Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น iWARP ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ฅ 7 iWARP ๊ตฌ์ฑ์ ์ฐธ์กฐํ์ญ์์ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 2. Dell ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ ( ๊ทธ๋ฆผ 3-1) ์์ Install( ์ค์น ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-1. Dell ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ 3. QLogic Super InstallerโInstallShieldยฎ ๋ง๋ฒ์ฌ์ Welcome( ์์ ) ์ฐฝ ( ๊ทธ๋ฆผ 3-2) ์์ Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-2.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 4. ๋ง๋ฒ์ฌ์ ๋ผ์ด์ ์ค ๊ณ์ฝ ์ฐฝ ( ๊ทธ๋ฆผ 3-3) ์์ ๋ค์์ ์ํํฉ๋๋ค . a. QLogic ์ต์ข
์ฌ์ฉ์ ์ํํธ์จ์ด ๋ผ์ด์ ์ค ๊ณ์ฝ์ ์ฝ์ต๋๋ค . b. ๊ณ์ํ๋ ค๋ฉด I accept the terms in the license agreement( ๋์ํจ ) ๋ฅผ ์ ํํฉ๋๋ค . c. Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 3-3. QLogic InstallShield ๋ง๋ฒ์ฌ : License Agreement( ์ฌ์ฉ๊ถ ๊ณ์ฝ ) ์ฐฝ 5. ๋ค์๊ณผ ๊ฐ์ด ๋ง๋ฒ์ฌ์ ์ค์ ์ ํ ์ฐฝ ( ๊ทธ๋ฆผ 3-4) ์ ์๋ฃํฉ๋๋ค . a. b. ๋ค์ ์ค์ ์ ํ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฎ ๋ชจ๋ ํ๋ก๊ทธ๋จ ๊ธฐ๋ฅ์ ์ค์นํ๋ ค๋ฉด Complete( ์ ์ฒด ) ๋ฅผ ํด๋ฆญํฉ ๋๋ค . ๏ฎ ์ค์นํ ๊ธฐ๋ฅ์ ์ง์ ์ ํํ๋ ค๋ฉด Custom( ์ฌ์ฉ์ ์ง์ ) ์ ํด๋ฆญํฉ ๋๋ค . ๊ณ์ํ๋ ค๋ฉด Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๊ทธ๋ฆผ 3-4. InstallShield ๋ง๋ฒ์ฌ : Setup Type( ์ค์ ์ ํ ) ์ฐฝ 6. ๋จ๊ณ 5 ์์ Custom( ์ฌ์ฉ์ ์ง์ ) ์ ์ ํํ ๊ฒฝ์ฐ ๋ค์๊ณผ ๊ฐ์ด ์ฌ์ฉ์ ์ง์ ์ค์ ์ฐฝ ( ๊ทธ๋ฆผ 3-5) ์ ์๋ฃํฉ๋๋ค . a. b. ์ค์นํ ๊ธฐ๋ฅ์ ์ ํํ์ญ์์ค . ๊ธฐ๋ณธ์ ์ผ๋ก , ๋ชจ๋ ๊ธฐ๋ฅ์ด ์ ํ๋์ด ์์ต ๋๋ค. ํน์ ๊ธฐ๋ฅ์ ์ค์น ์ค์ ์ ๋ณ๊ฒฝํ๋ ค๋ฉด ๊ทธ ์์ ์์ด์ฝ์ ํด๋ฆญํ ํ ๋ค์ ์ต์
์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฎ This feature will be installed on the local hard drive(์ด ๊ธฐ๋ฅ์ ๋ก์ปฌ ํ๋ ๋๋ผ์ด๋ธ์ ์ค์น๋ฉ๋๋ค .) โ ํด๋น ๊ธฐ๋ฅ์ ํ์ ๊ธฐ๋ฅ์ ์๋ฌด๋ฐ ์ํฅ๋ ๋ฏธ์น์ง ์๊ณ ๊ทธ ๊ธฐ๋ฅ์ ์ค์นํ๊ณ ์ ํ ๋ ์ ํํฉ ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๊ทธ๋ฆผ 3-5. InstallShield ๋ง๋ฒ์ฌ : Custom Setup( ์ฌ์ฉ์ ์ง์ ์ค์ ) ์ฐฝ 7. InstallShield ๋ง๋ฒ์ฌ์ ์ค์น ์ค๋น ์ฐฝ ( ๊ทธ๋ฆผ 3-6) ์์ Install( ์ค์น ) ์ ํด๋ฆญํฉ ๋๋ค . InstallShield ๋ง๋ฒ์ฌ๊ฐ QLogic ์ด๋ํฐ ๋๋ผ์ด๋ฒ ๋ฐ ๊ด๋ฆฌ ์ํํธ์จ์ด ์ค ์น ํ๋ก๊ทธ๋จ์ ์ค์นํฉ๋๋ค . ๊ทธ๋ฆผ 3-6.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 8. ์ค์น๊ฐ ์๋ฃ๋๋ฉด InstallShield ๋ง๋ฒ์ฌ ์๋ฃ ๋ํ ์์๊ฐ ๋ํ๋ฉ๋๋ค ( ๊ทธ๋ฆผ 3-7). Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํ์ฌ ์ค์น ํ๋ก๊ทธ๋จ์ ๋ซ์ต๋๋ค . ๊ทธ๋ฆผ 3-7. InstallShield ๋ง๋ฒ์ฌ : Completed( ์๋ฃ ) ์ฐฝ 9. Dell Update Package(Dell ์
๋ฐ์ดํธ ํจํค์ง ) ์ฐฝ ( ๊ทธ๋ฆผ 3-8) ์์ "Update installer operation was successful"( ์ค์น ํ๋ก๊ทธ๋จ ์
๋ฐ์ดํธ ์์
์ฑ๊ณต ) ์ ์๋ฃ๋์์์ ํ์ํฉ๋๋ค . ๏ฑ ( ์ ํ ์ฌํญ ) ๋ก๊ทธ ํ์ผ์ ์ด๋ ค๋ฉด View Installation Log( ์ค์น ๋ก๊ทธ ๋ณด๊ธฐ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๋ก๊ทธ ํ์ผ์๋ DUP ์ค์น์ ์งํ๋ฅ , ์ค์น๋ ์ด์ ๋ฒ์ , ์ค๋ฅ ๋ฉ์์ง ๋ฐ ์ค์น์ ๋ํ ๊ธฐํ ์ ๋ณด๊ฐ ํ์๋ฉ๋๋ค . ๏ฑ ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ์ ๋ซ์ผ๋ ค๋ฉด CLOSE( ๋ซ๊ธฐ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๊ทธ๋ฆผ 3-8. Dell ์
๋ฐ์ดํธ ํจํค์ง ์ฐฝ DUP ์ค์น ์ต์
DUP ์ค์น ๋์์ ์ฌ์ฉ์ ์ง์ ํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น ํ ์ต์
์ ์ฌ์ฉํ์ญ์์ค . ๏ฎ ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ง ๋๋ ํฐ๋ฆฌ๋ก ์ถ์ถํ๋ ค๋ ๊ฒฝ์ฐ : /drivers= ์ฃผ ์ด ๋ช
๋ น์ ์ฌ์ฉํ๋ ค๋ฉด /s ์ต์
์ด ํ์ํฉ๋๋ค . ๏ฎ ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ง ์ค์น ๋๋ ์
๋ฐ์ดํธํ๋ ค๋ ๊ฒฝ์ฐ : /driveronly ์ฃผ ์ด ๋ช
๋ น์ ์ฌ์ฉํ๋ ค๋ฉด /s ์ต์
์ด ํ์ํฉ๋๋ค . ๏ฎ (๊ณ ๊ธ) /passthrough ์ต์
์ ์ฌ์ฉํด DUP์ QLogic ์ค์น ์ํํธ์จ์ด์ ์ง์ /passthrough ๋ค์ ๋ชจ๋ ํ
์คํธ๋ฅผ ๋ณด๋
๋๋ค . ์ด ๋ชจ๋์๋ ์ ๊ณต๋ GUI ๊ฐ ํ ์๋์ง ์์ง๋ง QLogic ์ํํธ์จ์ด์ GUI ์ผ ํ์๋ ์์ต๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ์ฃผ ์ด ๋ช
๋ น์ ์ฌ์ฉํ๋ ค๋ฉด /s ์ต์
์ด ํ์ํฉ๋๋ค . DUP ์ค์น ์์ ๋ค์ ์์ ์์๋ ์ค์น ์ต์
์ฌ์ฉ ๋ฐฉ๋ฒ์ ๋ณด์ฌ์ค๋๋ค . ์์คํ
์ ์๋์ผ๋ก ์
๋ฐ์ดํธํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s ์
๋ฐ์ดํธ ๋ด์ฉ์ C:\mydir\ ๋๋ ํฐ๋ฆฌ๋ก ์ถ์ถํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s /e=C:\mydir ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ฅผ C:\mydir\ ๋๋ ํฐ๋ฆฌ๋ก ์ถ์ถํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s /drivers=C:\mydir ๋๋ผ์ด๋ฒ ๊ตฌ์ฑ์์๋ง ์ค์นํ๋ ค๋ ๊ฒฝ์ฐ : .exe /s /driveronly ๊ธฐ๋ณธ ๋ก๊ทธ ์์น์์ C:\my path with spaces\log.txt ๋ก ๋ณ๊ฒฝํ๋ ค๋ ๊ฒฝ์ฐ : .exe /l="C:\my path with spaces\log.txt" Windows ๋๋ผ์ด๋ฒ ์ ๊ฑฐ Windows ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด 1.
3โ ๋๋ผ์ด๋ฒ ์ค์น Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๊ทธ๋ฆผ 3-9.
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ์ ์ ๊ด๋ฆฌ ์ต์
์ค์ ์ ์ ๊ด๋ฆฌ ์ต์
์ ์ค์ ํ์ฌ ์ด์ ์ฒด์ ๊ฐ ์ปจํธ๋กค๋ฌ๋ฅผ ๊บผ์ ์ ์ ํ๋๋ก ํ๊ฑฐ๋ ์ปจํธ ๋กค๋ฌ๊ฐ ์ปดํจํฐ์ ์ ์ ๋ชจ๋๋ฅผ ํด์ ํ๋๋ก ํ ์ ์์ต๋๋ค . ์ฅ์น๊ฐ ๋ค๋ฅธ ์์
( ์ : ํธ์ถ ์๋น์ค ) ์ ์ํํ๊ณ ์๋ค๋ฉด ์ด์ ์ฒด์ ๋ ํด๋น ์ฅ์น๋ฅผ ์ข
๋ฃํ์ง ์์ต๋๋ค . ์ด ์ ์ฒด์ ๋ ์์คํ
์ด ์ต๋ ์ ์ ๋ชจ๋๋ฅผ ์๋ํ ๊ฒฝ์ฐ์๋ง ๊ฐ๋ฅํ ๋ชจ๋ ์ฅ์น๋ฅผ ์ข
๋ฃํ ๋ ค ํฉ๋๋ค . ์ด๋ํฐ๊ฐ ํญ์ ์ ์์ด ์ผ์ ธ ์๊ฒ ํ๋ ค๋ฉด Allow the computer to turn off the device to save power( ์ ์์ ์ ์ฝํ๊ธฐ ์ํด ์ปดํจํฐ๊ฐ ์ด ์ฅ์น๋ฅผ ๋ ์ ์ ์ ) ํ์ธ๋์ ์ ํํ์ง ๋ง์ญ์์ค ( ๊ทธ๋ฆผ 3-10). ๊ทธ๋ฆผ 3-10. ์ ์ ๊ด๋ฆฌ ์ต์
์ฃผ ๏ฎ ์ ์ ๊ด๋ฆฌ ํ์ด์ง๋ ์ ์ ๊ด๋ฆฌ๋ฅผ ์ง์ํ๋ ์๋ฒ์๋ง ์ฌ์ฉํ ์ ์์ต๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๏ฎ ๏ฎ FCoE ์ง์ iSCSI ์ง์ VMware ๋๋ผ์ด๋ฒ ๋ฐ ๋๋ผ์ด๋ฒ ํจํค์ง ํ 3-4 ์๋ ํ๋กํ ์ฝ์ ๋ํ VMware ESXi ๋๋ผ์ด๋ฒ๊ฐ ๋์ด๋์ด ์์ต๋๋ค . ํ 3-4. VMware ๋๋ผ์ด๋ฒ VMware ๋๋ผ์ด๋ฒ a ์ค๋ช
qedentv ๋ค์ดํฐ๋ธ ๋คํธ์ํน ๋๋ผ์ด๋ฒ qedrntv Native RDMA-Offload(RoCE ๋ฐ RoCEv2) ๋๋ผ์ด๋ฒ a qedf ๋ค์ดํฐ๋ธ FCoE-Offload ๋๋ผ์ด๋ฒ qedil ๋ ๊ฑฐ์ iSCSI-Offload ๋๋ผ์ด๋ฒ ์ด๋ฒ ๋ฆด๋ฆฌ์ค์๋ ์ธ์ฆ RoCE ๋๋ผ์ด๋ฒ๊ฐ ํฌํจ๋์ด ์์ง ์์ต๋๋ค . ์ธ์ฆ๋์ง ์์ ๋๋ผ์ด ๋ฒ๋ฅผ ๋ฏธ๋ฆฌ๋ณด๊ธฐ๋ก ๋จผ์ ์ฌ์ฉํ ์๋ ์์ต๋๋ค . ESXi ๋๋ผ์ด๋ฒ๋ ๋ณ๋๋ก ์ธ๊ธ๋ ๊ฒฝ์ฐ๋ฅผ ์ ์ธํ๊ณ ๊ฐ๋ณ ๋๋ผ์ด๋ฒ ํจํค์ง๋ก ํฌํจ๋ ๊ณ ํจ๊ป ๋ฒ๋ค๋์ง ์์ต๋๋ค . ํ 3-5 ์๋ ESXi ๋ฒ์ ๊ณผ ํด๋น ๋๋ผ์ด๋ฒ ๋ฒ์ ์ด ๋์ด ๋์ด ์์ต๋๋ค . ํ 3-5.
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ๋ค์ ์ค ํ๋๋ฅผ ์ฌ์ฉํ์ฌ ๊ฐ๋ณ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๏ฎ ํ์ค ESXi ํจํค์ง ์ค์น ๋ช
๋ น (VMware ๋๋ผ์ด๋ฒ ์ค์น ์ฐธ์กฐ ) ๏ฎ ๊ฐ๋ณ ๋๋ผ์ด๋ฒ ์ถ๊ฐ ์ ๋ณด ํ์ผ์ ๋์ ์๋ ์ ์ฐจ ๏ฎ ๋ค์ VMware KB ๋ฌธ์์ ๋์ ์๋ ์ ์ฐจ : https://kb.vmware.com/selfservice/microsites/search.do?language=en_US& cmd=displayKC&externalId=2137853 NIC ๋๋ผ์ด๋ฒ๋ฅผ ๋จผ์ ์ค์นํ ํ ์คํ ๋ฆฌ์ง ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํด์ผ ํฉ๋๋ค . VMware ๋๋ผ์ด๋ฒ ์ค์น ๋๋ผ์ด๋ฒ ์์ถ ํ์ผ์ ์ฌ์ฉํ์ฌ ์ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๊ฑฐ๋ ๊ธฐ์กด ๋๋ผ์ด๋ฒ๋ฅผ ์
๋ฐ ์ดํธํ ์ ์์ต๋๋ค . ๊ฐ์ ๋๋ผ์ด๋ฒ ์์ถ ํ์ผ์์ ์ ์ฒด ๋๋ผ์ด๋ฒ ์ธํธ๋ฅผ ์ค์นํด ์ผ ํฉ๋๋ค . ์ฌ๋ฌ ์์ถ ํ์ผ์ ๋๋ผ์ด๋ฒ๋ฅผ ํผํฉํ๋ฉด ๋ฌธ์ ๊ฐ ๋ฐ์ํฉ๋๋ค . VMware ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํ๋ ค๋ฉด 1.
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น 6. ๋ค์ ์ค์น ์ต์
์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ ์ต์
1: CLI ๋๋ VMware Update Manager(VUM) ๋ฅผ ์ฌ์ฉํ์ฌ .vib ๋ฅผ ESX ์๋ฒ์ ์ง์ ์ค์นํฉ๋๋ค . ๏ฎ CLI ๋ฅผ ์ฌ์ฉํ์ฌ .vib ํ์ผ์ ์ค์นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋ ๋ค . ์ ์ฒด .vib ํ์ผ ๊ฒฝ๋ก๋ฅผ ์ง์ ํด์ผ ํฉ๋๋ค . # esxcli software vib install -v /tmp/qedentv-1.0.3.11-1OEM.550.0.0.1331820.x86_64.vib ๏ฎ VUM ์ ์ฌ์ฉํ์ฌ .vib ํ์ผ์ ์ค์นํ๋ ค๋ฉด ๋ค์ ๊ธฐ์ ์๋ฃ๋ฅผ ์ฐธ ์กฐํ์ญ์์ค . VMware vCenter Update Manager 4.x ๋ฐ 5.x ๋ฅผ ์ฌ์ฉํ ESXi/ESX ํธ์คํธ ์
๋ฐ์ดํธ (1019545) ๏ฑ ์ต์
2: ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ ๊ฐ๋ณ .vib ํ์ผ์ ๋ชจ๋ ํ ๋ฒ์ ์ค์นํฉ ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ํ 3-6. VMware ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ( ๊ณ์ ) ๋งค๊ฐ๋ณ์ num_queues ์ค๋ช
TX/RX ๋๊ธฐ์ด ํ์ด์ ์๋ฅผ ์ง์ ํฉ๋๋ค . num_queues ๋ 1~11 ๋๋ ๋ค์ ์ค ํ๋์ผ ์ ์์ต๋๋ค . ๏ฎ โ1 ์ ๋๋ผ์ด๋ฒ์์ ์ต์ ์ ๋๊ธฐ์ด ํ์ด ์๋ฅผ ๊ฒฐ์ ํ ์ ์๋๋ก ํ์ฉํฉ๋ ๋ค ( ๊ธฐ๋ณธ๊ฐ ). ๏ฎ 0 ์ ๊ธฐ๋ณธ ๋๊ธฐ์ด์ ์ฌ์ฉํฉ๋๋ค . ๋ค์ค ํฌํธ ๋๋ ๋ค์ค ๊ธฐ๋ฅ ๊ตฌ์ฑ์ ๋ํด ์ฝค๋ง๋ก ๊ตฌ๋ถ๋๋ ๋ค์ค ๊ฐ์ ์ง์ ํ ์ ์์ต๋๋ค . multi_rx_filters ๊ธฐ๋ณธ ๋๊ธฐ์ด์ ์ ์ธํ๊ณ RX ๋๊ธฐ์ด๋น RX ํํฐ์ ์๋ฅผ ์ง์ ํฉ๋๋ค . multi_rx_filters ๋ 1~4 ๋๋ ๋ค์ ๊ฐ ์ค ํ๋์ผ ์ ์์ต๋๋ค . ๏ฎ โ1 ์ ๋๊ธฐ์ด๋น ๊ธฐ๋ณธ ๊ฐ์์ RX ํํฐ๋ฅผ ์ฌ์ฉํฉ๋๋ค . ๏ฎ 0 ์ RX ํํฐ๋ฅผ ๋นํ์ฑํํฉ๋๋ค . disable_tpa TPA(LRO) ๊ธฐ๋ฅ์ ํ์ฑํ (0) ํ๊ฑฐ๋ ๋นํ์ฑํ (1) ํฉ๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น ํ 3-6. VMware ๋๋ผ์ด๋ฒ ์ต์
๋งค๊ฐ๋ณ์ ( ๊ณ์ ) ๋งค๊ฐ๋ณ์ ์ค๋ช
vxlan_filter_en ์ธ๋ถ MAC, ๋ด๋ถ MAC ๋ฐ VNI(VXLAN ๋คํธ์ํฌ ) ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํน์ ๋๊ธฐ์ด์ ๋ํ ํธ๋ํฝ๊ณผ ์ง์ ์ผ์นํ๋๋ก VXLAN ํํฐ๋ง์ ํ์ฑํ (1) ํ๊ฑฐ๋ ๋นํ์ฑ ํ (0) ํฉ๋๋ค . ๊ธฐ๋ณธ๊ฐ์ vxlan_filter_en=1 ์
๋๋ค . ๋ค์ค ํฌํธ ๋๋ ๋ค ์ค ๊ธฐ๋ฅ ๊ตฌ์ฑ์ ๋ํด ์ฝค๋ง๋ก ๊ตฌ๋ถ๋๋ ๋ค์ค ๊ฐ์ ์ง์ ํ ์ ์์ต๋๋ค . enable_vxlan_offld VXLAN ํฐ๋ ํธ๋ํฝ ์ฒดํฌ์ฌ ์คํ๋ก๋์ TSO(TCP ์ธ๊ทธ๋จผํธํ ์คํ๋ก๋ ) ๊ธฐ ๋ฅ์ ํ์ฑํ (1) ํ๊ฑฐ๋ ๋นํ์ฑํ (0) ํฉ๋๋ค . ๊ธฐ๋ณธ๊ฐ์ enable_vxlan_offld=1 ์
๋๋ค . ๋ค์ค ํฌํธ ๋๋ ๋ค์ค ๊ธฐ๋ฅ ๊ตฌ์ฑ์ ๋ํด ์ฝค ๋ง๋ก ๊ตฌ๋ถ๋๋ ๋ค์ค ๊ฐ์ ์ง์ ํ ์ ์์ต๋๋ค .
3โ ๋๋ผ์ด๋ฒ ์ค์น VMware ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น VMware ๋๋ผ์ด๋ฒ ์ ๊ฑฐ .vib ํ์ผ (qedentv) ์ ์ ๊ฑฐํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . # esxcli software vib remove --vibname qedentv ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . # vmkload_mod -u qedentv FCoE ์ง์ ํ 3-8 ์๋ QLogic FCoE C-NIC(converged network interface controller) ๋ฅผ ์ง์ ํ๊ธฐ ์ํด VMware ์ํํธ์จ์ด ํจํค์ง์ ํฌํจ๋์ด ์๋ ๋๋ผ์ด๋ฒ๊ฐ ์ค๋ช
๋์ด ์์ต ๋๋ค . FCoE ๋ฐ DCB ๊ธฐ๋ฅ ์ธํธ๋ VMware ESXi 5.0 ์ด์์์ ์ง์๋ฉ๋๋ค . ํ 3-8.
4 ํ์จ์ด ์
๊ทธ๋ ์ด๋ ์ด ์ฅ์์๋ DUP(Dell ์
๋ฐ์ดํธ ํจํค์ง ) ๋ฅผ ์ฌ์ฉํ ํ์จ์ด ์
๊ทธ๋ ์ด๋์ ๋ํ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ํ์จ์ด DUP ๋ ํ๋์ ์
๋ฐ์ดํธ ์ ํธ๋ฆฌํฐ์ผ ๋ฟ ์ด๋ํฐ ๊ตฌ์ฑ ์ฉ๋๋ก๋ ์ฌ์ฉํ ์ ์์ต๋๋ค . ์คํ ํ์ผ์ ๋ ๋ฒ ํด๋ฆญํ์ฌ ํ์จ์ด DUP ๋ฅผ ์คํํ ์ ์์ต๋๋ค . ๋๋ ์ง์๋๋ ์ฌ๋ฌ ๊ฐ์ง ๋ช
๋ น ํ ์ต์
์ผ๋ก ๋ช
๋ น ํ์์ ํ์จ์ด DUP ๋ฅผ ์คํํ ์๋ ์ ์ต๋๋ค . ๏ฎ ๋ ๋ฒ ํด๋ฆญ์ผ๋ก DUP ์คํ ๏ฎ 35 ํ์ด์ง์ " ๋ช
๋ น ํ์์ DUP ์คํ " ๏ฎ 36 ํ์ด์ง์ ".bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ "(Linux ๋ง ํด๋น ) ๋ ๋ฒ ํด๋ฆญ์ผ๋ก DUP ์คํ ์คํ ํ์ผ์ ๋ ๋ฒ ํด๋ฆญํ์ฌ ํ์จ์ด DUP ๋ฅผ ์คํํ๋ ค๋ฉด 1. ํ์จ์ด Dell ์
๋ฐ์ดํธ ํจํค์ง ํ์ผ์ ๋ํ๋ด๋ ์์ด์ฝ์ ๋ ๋ฒ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 4-1 ์์์ ๊ฐ์ด Dell ์
๋ฐ์ดํธ ํจํค์ง ์์ ํ๋ฉด์ด ๋ํ๋ฉ๋๋ค . ๊ณ์ํ ๋ ค๋ฉด Install( ์ค์น ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 4-1.
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ ๋ ๋ฒ ํด๋ฆญ์ผ๋ก DUP ์คํ 2. ํ๋ฉด์ ๋ํ๋๋ ์ง์๋ฅผ ๋ฐ๋ฆ
๋๋ค . Warning( ๊ฒฝ๊ณ ) ๋ํ ์์์์ Yes( ์ ) ๋ฅผ ํด๋ฆญํด ์ค์น๋ฅผ ๊ณ์ํฉ๋๋ค . ๊ทธ๋ฆผ 4-2 ์ ํ์๋ ๋๋ก ์ค์น ํ๋ก๊ทธ๋จ์ด ์ ํ์จ์ด๋ฅผ ๋ก๋ ์ค์์ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 4-2. Dell ์
๋ฐ์ดํธ ํจํค์ง : ์ ํ์จ์ด ๋ก๋ ์๋ฃ๋๋ฉด ๊ทธ๋ฆผ 4-3 ์ ํ์๋ ๋๋ก ์ค์น ํ๋ก๊ทธ๋จ์ด ์ค์น ๊ฒฐ๊ณผ๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 4-3.
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ ๋ช
๋ น ํ์์ DUP ์คํ 3. Yes( ์ ) ๋ฅผ ํด๋ฆญํ์ฌ ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค . 4. ๊ทธ๋ฆผ 4-4 ์ ํ์๋ ๋๋ก Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํ์ฌ ์ค์น๋ฅผ ์๋ฃํฉ๋๋ค . ๊ทธ๋ฆผ 4-4. Dell ์
๋ฐ์ดํธ ํจํค์ง : ์ค์น ์๋ฃ ๋ช
๋ น ํ์์ DUP ์คํ ์ต์
์ด ์ง์ ๋์ด ์์ง ์์ ์ํ๋ก ๋ช
๋ น ํ์์ ํ์จ์ด DUP ๋ฅผ ์คํํ๋ฉด DUP ์ ์ด์ฝ์ ๋ ๋ฒ ํด๋ฆญํ๋ ๊ฒฝ์ฐ์ ๋์ผํ ๋์์ด ์ํ๋ฉ๋๋ค . DUP ์ ์ค์ ํ์ผ ์ด๋ฆ ์ ๋ค๋ฆ
๋๋ค . ๋ช
๋ น ํ์์ ํ์จ์ด DUP ๋ฅผ ์คํํ๋ ค๋ฉด ๏ฎ ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . C:\> Network_Firmware_2T12N_WN32__X16.
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ .bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ ๊ทธ๋ฆผ 4-5 ์์๋ Dell ์
๋ฐ์ดํธ ํจํค์ง ์ค์น๋ฅผ ์ฌ์ฉ์ ์ง์ ํ๋ ๋ฐ ์ฌ์ฉํ ์ ์๋ ์ต์
์ ํ์ํฉ๋๋ค . ๊ทธ๋ฆผ 4-5. DUP ๋ช
๋ น ํ ์ต์
.bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ ๋ค์ ์ ์ฐจ๋ Linux OS ์์๋ง ์ํํ ์ ์์ต๋๋ค . .bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ๋ฅผ ์
๋ฐ์ดํธํ๋ ค๋ฉด 1. Network_Firmware_NJCX1_LN_X.Y.Z.BIN ํ์ผ์ ํ
์คํธ ์ค์ธ ์์คํ
(SUT) ์ผ๋ก ๋ณต์ฌํฉ๋๋ค . 2. ๋ค์๊ณผ ๊ฐ์ด ํ์ผ ์ ํ์ ์คํ ํ์ผ๋ก ๋ณ๊ฒฝํฉ๋๋ค . chmod 777 Network_Firmware_NJCX1_LN_X.Y.Z.BIN 3. ์
๋ฐ์ดํธ ํ๋ก์ธ์ค๋ฅผ ์์ํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . ./Network_Firmware_NJCX1_LN_X.Y.Z.BIN 4. ํ์จ์ด๊ฐ ์
๋ฐ์ดํธ๋๋ฉด ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค .
4โ ํ์จ์ด ์
๊ทธ๋ ์ด๋ .bin ํ์ผ์ ์ฌ์ฉํ์ฌ DUP ์คํ DUP ์
๋ฐ์ดํธ ๋์ค SUT ๋ก๋ถํฐ ์ถ๋ ฅํ ์ : ./Network_Firmware_NJCX1_LN_08.07.26.BIN Collecting inventory... Running validation... BCM57810 10 Gigabit Ethernet rev 10 (p2p1) The version of this Update Package is the same as the currently installed version. Software application name: BCM57810 10 Gigabit Ethernet rev 10 (p2p1) Package version: 08.07.26 Installed version: 08.07.
5 ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํธ์คํธ ๋ถํ
ํ๋ก์ธ์ค ์ค์ HII(Human Infrastructure Interface) ์์ฉํ๋ก๊ทธ๋จ์ ์ฌ ์ฉํด ์ด๋ํฐ ๊ด๋ฆฌ ์์
์ ์ํํ๊ณ ์ผ์ ์ ์งํ ์ ์์ต๋๋ค . ์ด๋ฌํ ์์
์๋ ๋ค ์์ด ํฌํจ๋ฉ๋๋ค . ๏ฎ 39 ํ์ด์ง์ " ์์ํ๊ธฐ " ๏ฎ 42 ํ์ด์ง์ " ํ์จ์ด ์ด๋ฏธ์ง ์์ฑ ํ์ " ๏ฎ 43 ํ์ด์ง์ " ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ " ๏ฎ 45 ํ์ด์ง์ "NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ " ๏ฎ 49 ํ์ด์ง์ "Data Center Bridging ๊ตฌ์ฑ " ๏ฎ 50 ํ์ด์ง์ "FCoE ๋ถํ
๊ตฌ์ฑ " ๏ฎ 52 ํ์ด์ง์ "iSCSI ๋ถํ
๊ตฌ์ฑ " ๏ฎ 56 ํ์ด์ง์ " ํํฐ์
๊ตฌ์ฑ " ์ฃผ ์ด ์ฅ์ ๋์ค๋ HII ์คํฌ๋ฆฐ์ท์ ๋ํ์ ์ธ ์ฌ๋ก๋ก , ์ฌ์ฉ์์ ์์คํ
์ ๋ํ๋ ๋ ํ๋ฉด๊ณผ ์ผ์นํ์ง ์์ ์ ์์ต๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์์ํ๊ธฐ ์์ํ๊ธฐ HII ์์ฉํ๋ก๊ทธ๋จ์ ์์ํ๋ ค๋ฉด 1. ํ๋ซํผ์ System Setup( ์์คํ
์ค์ ) ์ฐฝ์ ์ฝ๋๋ค . ์์คํ
์ค์ ์ ์์ํ ๋ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์์คํ
์ฌ์ฉ ์ค๋ช
์๋ฅผ ์ฐธ์กฐํ์ญ์์ค . 2. System Setup( ์์คํ
์ค์ ) ์ฐฝ ( ๊ทธ๋ฆผ 5-1) ์์ Device Settings( ์ฅ์น ์ค์ ) ๋ฅผ ์ ํํ ํ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 5-1. ์์คํ
์ค์ 3. Device Settings( ์ฅ์น ์ค์ ) ์ฐฝ ( ๊ทธ๋ฆผ 5-2) ์์ ๊ตฌ์ฑํ๋ ค๋ 41xxx ์๋ฆฌ์ฆ ์ด ๋ํฐ ํฌํธ๋ฅผ ์ ํํ ํ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 5-2.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์์ํ๊ธฐ ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ( ๊ทธ๋ฆผ 5-3) ์๋ ๋ถํ ๋ชจ๋๋ฅผ ์ค์ ํ ์ ์๋ ์ด๋ํฐ ๊ด๋ฆฌ ์ต์
์ด ์์ต๋๋ค . ๊ทธ๋ฆผ 5-3. ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง 4. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ์์ ๊ทธ๋ฆผ 5-4 ์ ๊ฐ์ด Partitioning Mode( ๋ถํ ๋ชจ๋ ) ๋ฅผ NPAR ๋ก ์ค์ ํ์ฌ NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ์ฑ ) ์ต์
์ ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง (Main Configuration Page) ์ ์ถ๊ฐํฉ๋๋ค . ์ฃผ NPAR ์ ์ต๋ ์๋๊ฐ 1G ์ธ ํฌํธ์์ ์ด์ฉํ ์ ์์ต๋๋ค . ๊ทธ๋ฆผ 5-4.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์์ํ๊ธฐ ๊ทธ๋ฆผ 5-3 ๋ฐ ๊ทธ๋ฆผ 5-4 ์์ Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์ ๊ฐ ์ต์
์ ๋ค์๊ณผ ๊ฐ์ด ํ์๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํ์จ์ด ์ด๋ฏธ์ง ์์ฑ ํ์ ํ 5-1.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ๏ฎ Controller BIOS Version( ์ปจํธ๋กค๋ฌ BIOS ๋ฒ์ ) ์ ๊ด๋ฆฌ ํ์จ์ด ๋ฒ์ ์
๋๋ค . ๏ฎ EFI Driver Version(EFI ๋๋ผ์ด๋ฒ ๋ฒ์ )์ ํ์ฅ ํ์จ์ด ์ธํฐํ์ด์ค(EFI) ๋๋ผ ์ด๋ฒ ๋ฒ์ ์
๋๋ค . ๏ฎ L2B Firmware Version(L2B ํ์จ์ด ๋ฒ์ ) ์ ๋ถํ
์ ์ํ NIC Offload ํ์จ ์ด ๋ฒ์ ์
๋๋ค . ๊ทธ๋ฆผ 5-5. ํ์จ์ด ์ด๋ฏธ์ง ์์ฑ ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ์ฃผ iSCSI ๋ฌผ๋ฆฌ ๊ธฐ๋ฅ (PF) ์ iSCSI Offload ๊ธฐ๋ฅ์ด NPAR ๋ชจ๋์์๋ง ํ์ฑํ๋์ด ์์ ๋ ๋์ด๋ฉ๋๋ค . FCoE PF ๋ FCoE Offload ๊ธฐ๋ฅ์ด NPAR ๋ชจ๋์์๋ง ํ์ฑํ๋์ด ์์ ๋ ๋์ด๋ฉ๋๋ค . ์ผ๋ถ ์ด๋ํฐ ๋ชจ๋ธ์์๋ iSCSI Offload ์ FCoE Offload ๊ฐ ์ง์๋์ง ์์ต๋๋ค . NPAR ๋ชจ๋์ ํํด ํฌํธ 1 ๊ฐ๋น ํ์ฑํ ํ ์ ์๋ Offload ๋ 1 ๊ฐ๋ก ์ ํ๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ )(40 ํ์ด์ง์ ๊ทธ๋ฆผ 5-3 ์ฐธ์กฐ ) ์ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . 2. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง์์ ๊ทธ๋ฆผ 5-6 ์ ๊ฐ์ด ์ฅ์น ๋ ๋ฒจ ๋งค๊ฐ๋ณ์์ ๊ฐ์ ์ ํํฉ๋๋ค . ๊ทธ๋ฆผ 5-6. ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ์ฃผ ์ด ๊ธฐ๋ฅ์ด 1Gbps ํฌํธ 3 ๋ฐ 4 ์์ ์ง์๋์ง๋ ์์ง๋ง QL41264HMCU-DE( ๋ถํ ๋ฒํธ 5V6Y4) ๋ฐ QL41264HMRJ-DE( ๋ถํ ๋ฒํธ 0D1WT) ์ด๋ํฐ์ ๊ฒฝ์ฐ์๋ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ์ NPAR, SR-IOV ๋ฐ NPAR-EP ์ ๋ํ ์ง์์ด ํ์๋ฉ๋๋ค . 3. 4. 5.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ 6. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค . NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ NIC ๊ตฌ์ฑ์๋ ๋ค์๊ณผ ๊ฐ์ ๋งค๊ฐ๋ณ์ ์ค์ ์ด ํฌํจ๋ฉ๋๋ค . ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ Link Speed( ๋งํฌ ์๋ ) NIC + RDMA Mode(NIC + RDMA ๋ชจ๋ ) RDMA Protocol Support(RDMA ํ๋กํ ์ฝ ์ง์ ) Boot Mode( ๋ถํ
๋ชจ๋ ) FEC Mode(FEC ๋ชจ๋ ) Energy Efficient Ethernet( ์๋์ง ํจ์จ ์ด๋๋ท ) Virtual LAN Mode( ๊ฐ์ LAN ๋ชจ๋ ) Virtual LAN ID( ๊ฐ์ LAN ID) NIC ๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ๏ฑ 10 Gbps ํฌํธ์์ 10GbE ๊ณ ์ ์๋ ๋ชจ๋๋ฅผ ํ์ฑํํฉ๋๋ค . ์ด ๋ชจ๋๋ ๋ชจ๋ ์ด๋ํฐ์์ ์ฌ์ฉํ ์ ์์ต๋๋ค . ๏ฑ 25 Gbps ํฌํธ์์ 25GbE ๊ณ ์ ์๋ ๋ชจ๋๋ฅผ ํ์ฑํํฉ๋๋ค . ์ด ๋ชจ๋๋ ๋ชจ๋ ์ด๋ํฐ์์ ์ฌ์ฉํ ์ ์์ต๋๋ค . ๏ฑ SmartAN( ๊ธฐ๋ณธ๊ฐ ) ํฌํธ์์ FastLinQ SmartANโข ๋งํฌ ์๋ ๋ชจ๋๋ฅผ ํ ์ฑํํฉ๋๋ค . ์ด ์๋ ๋ชจ๋์์๋ FEC ๋ชจ๋๋ฅผ ์ ํํ ์ ์์ต๋๋ค . SmartAN ์ค์ ์ ๋งํฌ๊ฐ ๊ตฌ์ฑ๋ ๋๊น์ง ๊ฐ๋ฅํ ๋ชจ๋ ๋งํฌ ์๋์ FEC ๋ชจ๋๋ฅผ ์ํํฉ๋๋ค . ์ด ๋ชจ๋๋ 25G ์ธํฐํ์ด์ค ์ ์ฉ์
๋๋ค . 10Gb ์ธ ํฐํ์ด์ค์ SmartAN ์ ๊ตฌ์ฑํ๋ฉด ์์คํ
์ด 10G ์ธํฐํ์ด์ค์ ๋ํ ์ค ์ ์ ์ ์ฉํฉ๋๋ค . ์ด ๋ชจ๋๋ ์ผ๋ถ ์ด๋ํฐ์์ ์ฌ์ฉํ ์ ์์ต๋๋ค . 3.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ 6. 7. 8. Boot Mode( ๋ถํ
๋ชจ๋ ) ์ผ ๋๋ ๋ค์ ๊ฐ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ PXE ๋ PXE ๋ถํ
์ ํ์ฑํํฉ๋๋ค . ๏ฑ FCoE ๋ ํ๋์จ์ด ์คํ๋ก๋ ๊ฒฝ๋ก๋ฅผ ํตํด SAN ์์ FCoE ๋ถํ
์ ํ์ฑ ํํฉ๋๋ค . FCoE ๋ชจ๋๋ NPAR ๋ชจ๋์ผ ๋ ๋ ๋ฒ์งธ ํํฐ์
์์ FCoE Offload ๊ฐ ํ์ฑํ๋์ด ์๋ ๊ฒฝ์ฐ์๋ง ์ ํํ ์ ์์ต๋๋ค (56 ํ์ด์ง ์ " ํํฐ์
๊ตฌ์ฑ " ์ฐธ์กฐ ). ๏ฑ iSCSI ๋ ํ๋์จ์ด ์คํ๋ก๋ ๊ฒฝ๋ก๋ฅผ ํตํด iSCSI ์๊ฒฉ ๋ถํ
์ ํ์ฑํํฉ ๋๋ค . iSCSI ๋ชจ๋๋ NPAR ๋ชจ๋์ผ ๋ ์ธ ๋ฒ์งธ ํํฐ์
์์ iSCSI Offload ๊ฐ ํ์ฑํ๋์ด ์๋ ๊ฒฝ์ฐ์๋ง ์ ํํ ์ ์์ต๋๋ค (56 ํ์ด์ง ์ " ํํฐ์
๊ตฌ์ฑ " ์ฐธ์กฐ ). ๏ฑ Disabled(๋นํ์ฑํ) ๋ ํ์ฌ ํฌํธ๊ฐ ์๊ฒฉ ๋ถํ
์์ค๋ก ์ฌ์ฉ๋๋ ๊ฒ์ ๋ฐฉ ์งํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ NIC ๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ RDMA ๋ฅผ ์ฌ์ฉํ๋๋ก ํฌํธ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ์ฃผ RDMA ๋ ๋ค์ ๋จ๊ณ์ ๋ฐ๋ผ NPAR ๋ชจ๋ ํฌํธ์ ๋ชจ๋ ํํฐ์
์์ ํ์ฑํํ ์ ์์ต๋๋ค . 1. NIC + RDMA Mode(NIC + RDMA ๋ชจ๋ ) ๋ฅผ Enabled( ํ์ฑํ ) ๋ก ์ค์ ํฉ ๋๋ค . 2. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 3. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค . ํฌํธ์ ๋ถํ
๋ชจ๋๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. UEFI PXE ์๊ฒฉ ์ค์น ์ PXE ๋ฅผ Boot Mode( ๋ถํ
๋ชจ๋ ) ๋ก ์ ํํฉ๋๋ค . 2. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 3. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ Data Center Bridging ๊ตฌ์ฑ Data Center Bridging ๊ตฌ์ฑ DCB(Data Center Bridging) ์ค์ ์ DCBX ํ๋กํ ์ฝ ๋ฐ RoCE ์ฐ์ ์์๋ก ๊ตฌ์ฑ๋ฉ ๋๋ค . DCB ์ค์ ์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง , 40 ํ์ด์ง์ ๊ทธ๋ฆผ 5-3) ์์ Data Center Bridging(DCB) Settings(DCB(Data Center Bridging) ์ค์ ) ๋ฅผ ์ ํํ ํ Finish( ์๋ฃ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2. Data Center Bridging(DCB) Settings(DCB ์ค์ ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-8) ์์ ๋ค ์ ์ค ์ ํฉํ DCBX Protocol(DCBX ํ๋กํ ์ฝ ) ์ต์
์ ์ ํํฉ๋๋ค . 3. ๏ฑ Disabled( ๋นํ์ฑํ ) ๋ ํ์ฌ ํฌํธ์์ DCBX ๋ฅผ ๋นํ์ฑํํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ FCoE ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 5-8. ์์คํ
์ค์ : Data Center Bridging(DCB) ์ค์ 4. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 5. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค . ์ฃผ DCBX ๊ฐ ํ์ฑํ๋ ๋ ์ด๋ํฐ๋ ์์ค MAC ์ด๋๋ ์ค ์ญํ ์ ํ๋ ์ ์ฉ ์ ๋ ์บ์คํธ ์ฃผ์๋ฅผ ํฌํจํ LLDP(Link Layer Discovery Protocol) ํจํท์ ์ฃผ๊ธฐ์ ์ผ ๋ก ์ ์กํฉ๋๋ค . LLDP MAC ์ด๋๋ ์ค๋ ๊ณต์ฅ ํ ๋น ์ด๋ํฐ ์ด๋๋ท MAC ์ด๋ ๋ ์ค์๋ ๋ค๋ฆ
๋๋ค . ์ด๋ํฐ์ ์ฐ๊ฒฐ๋ ์ค์์น ํฌํธ์ ๋ํ MAC ์ด๋๋ ์ค๋ฅผ ๊ฒ์ฌํ๋ ๊ฒฝ์ฐ 2 ๊ฐ์ MAC ์ด๋๋ ์ค๊ฐ ํ์๋ฉ๋๋ค . ํ๋๋ LLDP ํจํท์ ๋ ํ ๊ฒ์ด๊ณ , ๋ค๋ฅธ ํ๋๋ ์ด๋ํฐ ์ด๋๋ท ์ธํฐํ์ด์ค์ ๋ํ ๊ฒ์
๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ FCoE ๋ถํ
๊ตฌ์ฑ 3. FCoE General(FCoE ์ผ๋ฐ ) ๋๋ FCoE Target Configuration(FCoE ๋์ ๊ตฌ์ฑ ) ๋งค๊ฐ๋ณ์์ ๊ฐ์ ์ ํํฉ๋๋ค . ๊ทธ๋ฆผ 5-9. FCoE ์ผ๋ฐ ๋งค๊ฐ๋ณ์ ๊ทธ๋ฆผ 5-10. FCoE ๋์ ๊ตฌ์ฑ 4. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 5. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ์ฃผ iSCSI Boot Configuration Menu(iSCSI ๋ถํ
๊ตฌ์ฑ ๋ฉ๋ด ) ๋ NPAR ๋ชจ๋์ผ ๋ ์ธ ๋ฒ์งธ ํํฐ์
์์ iSCSI Offload Mode(iSCSI Offload ๋ชจ๋ ) ๊ฐ ํ์ฑํ๋ ์ด ์๋ ๊ฒฝ์ฐ์๋ง ํ์๋ฉ๋๋ค (60 ํ์ด์ง์ ๊ทธ๋ฆผ 5-19 ์ฐธ์กฐ ). NPAR ์ ์ ์ธ ํ ๋ชจ๋์์๋ ํ์๋์ง ์์ต๋๋ค . iSCSI ๋ถํ
๊ตฌ์ฑ ๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ iSCSI Boot Configuration Menu (iSCSI ๋ถํ
๊ตฌ์ฑ ๋ฉ๋ด ) ๋ฅผ ์ ํํ ํ ๋ค์ ์ต์
์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ๏ฑ iSCSI ์ผ์ฐจ ๋์ ๋งค๊ฐ๋ณ์ (54 ํ์ด์ง์ ๊ทธ๋ฆผ 5-13) ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฑ Connect( ์ฐ๊ฒฐ ) IPv4 Address(IPv4 ์ฃผ์ ) TCP Port(TCP ํฌํธ ) Boot LUN( ๋ถํ
LUN) iSCSI Name(iSCSI ์ด๋ฆ ) CHAP ID CHAP Secret(CHAP ์ํธ ) iSCSI ์ด์ฐจ ๋์ ๋งค๊ฐ๋ณ์ (55 ํ์ด์ง์ ๊ทธ๋ฆผ 5-14) ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ ๏ฎ Connect( ์ฐ๊ฒฐ ) IPv4 Address(IPv4 ์ฃผ์ ) TCP Port(TCP ํฌํธ ) Boot LUN( ๋ถํ
LUN) iSCSI Name(iSCSI ์ด๋ฆ ) CHAP ID CHAP Secret(CHAP ์ํธ ) 4. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 5. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค . ๊ทธ๋ฆผ 5-11.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 5-12. iSCSI ์ด๊ธฐ์ ๊ตฌ์ฑ ๋งค๊ฐ๋ณ์ ๊ทธ๋ฆผ 5-13.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 5-14.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ์ด๋ํฐ์์ ๊ฐ ํํฐ์
์ ๋ํ ๋์ญํญ ๋ฒ์๋ฅผ ๊ตฌ์ฑํ ์ ์์ต๋๋ค . VMware ESXi 6.0/6.5 ์ ํํฐ์
๊ตฌ์ฑ์ ๋ํ ์์ธํ ๋ด์ฉ์ VMware ESXi 6.0 ๋ฐ ESXi 6.5 ์ ํ ํฐ์
๋ถํ ์ ์ฐธ์กฐํ์ญ์์ค . ์ต๋ ๋ฐ ์ต์ ๋์ญํญ ํ ๋น์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ์ฑ ) ์ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . 2. Partitions Configuration( ํํฐ์
๊ตฌ์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-15) ์์ Global Bandwidth Allocation( ์ ์ญ ๋์ญํญ ํ ๋น ) ์ ์ ํํฉ๋๋ค . ๊ทธ๋ฆผ 5-15.
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ 3. Global Bandwidth Allocation( ์ ์ญ ๋์ญํญ ํ ๋น ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-16) ์์ ๋ ์ญํญ์ ํ ๋นํ ๊ฐ ํํฐ์
์ต์ ๋ฐ ์ต๋ TX ๋์ญํญ ํ๋๋ฅผ ํด๋ฆญํฉ๋๋ค . ๋์ผ ํฌํธ ๋ชจ๋์์๋ ํฌํธ 1 ๊ฐ๋น ํํฐ์
์ด 8 ๊ฐ์
๋๋ค . ๊ทธ๋ฆผ 5-16. ์ ์ญ ๋์ญํญ ํ ๋น ํ์ด์ง ๏ฑ Partition n Minimum TX Bandwidth( ํํฐ์
n ์ต์ TX ๋์ญํญ ) ๋ ์ต ๋ ์ค์ ํฌํธ ๋งํฌ ์๋์ ๋ฐฑ๋ถ์จ๋ก ํ์ํ, ์ ํํ ํํฐ์
์ ์ต์ ์ ์ก ๋์ญํญ์
๋๋ค . ๊ฐ์ 0~100 ์ฌ์ด๋ก ์
๋ ฅํ ์ ์์ต๋๋ค . DCBX ETS ๋ชจ ๋๊ฐ ํ์ฑํ๋์ด ์๋ ๊ฒฝ์ฐ ํธ๋ํฝ๋น ํด๋์ค DCBX ETS ์ต์ ๋์ญํญ ๊ฐ์ด ํํฐ์
๋น ์ต์ TX ๋์ญํญ ๊ฐ๊ณผ ๋์์ ์ฌ์ฉ๋ฉ๋๋ค . ๋จ์ผ ํฌํธ์ ์๋ ๋ชจ๋ ํํฐ์
์ ์ต์ TX ๋์ญํญ ๊ฐ์ ํฉ์ 100 ๊ณผ ๊ฐ๊ฑฐ๋ ๋ชจ๋ 0 ์ด ์ด์ผ ํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ 4. ๋ฉ์์ง๊ฐ ๋ํ๋๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํด ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํฉ๋๋ค . ์์คํ
์ฌ ์ค์ ์ดํ์ ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋ฉ๋๋ค . ํํฐ์
์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ํน์ ํํฐ์
๊ตฌ์ฑ์ ๊ฒ์ฌํ๋ ค๋ฉด NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ ์ฑ ) ํ์ด์ง (56 ํ์ด์ง์ ๊ทธ๋ฆผ 5-15) ์์ Partition n Configuration( ํํฐ์
n ๊ตฌ์ฑ ) ์ ์ ํํฉ๋๋ค . NParEP ๊ฐ ํ์ฑํ๋์ด ์์ง ์์ผ๋ฉด ํฌํธ 1 ๊ฐ๋ง๋ค ํํฐ์
4 ๊ฐ๋ง ์กด์ฌํฉ๋๋ค . 2. ์ฒซ ๋ฒ์งธ ํํฐ์
์ ๊ตฌ์ฑํ๋ ค๋ฉด Partition 1 Configuration( ํํฐ์
1 ๊ตฌ์ฑ ) ์ ์ ํํ์ฌ Partition 1 Configuration( ํํฐ์
1 ๊ตฌ์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-17) ๋ฅผ ์ฝ ๋๋ค . ๊ทธ๋ฌ๋ฉด ๋ค์๊ณผ ๊ฐ์ ๋งค๊ฐ๋ณ์๊ฐ ํ์๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ๏ฑ NIC Mode(NIC ๋ชจ๋ ) ํํฐ์
2 ์ด์์์ L2 ์ด๋๋ท NIC ๊ฐ์ธ ์ค์ ์ ํ ์ฑํํ๊ฑฐ๋ ๋นํ์ฑํํฉ๋๋ค . ๋๋จธ์ง ํํฐ์
์ ๋ชจ๋ ๋นํ์ฑํํ๋ ค๋ฉด NIC Mode(NIC ๋ชจ๋ ) ๋ฅผ Disabled( ๋นํ์ฑํ ) ๋ก ์ค์ ํ์ญ์์ค . ์คํ ๋ก๋๊ฐ ๊ฐ๋ฅํ ํํฐ์
์ ๋นํ์ฑํํ๋ ค๋ฉด NIC Mode(NIC ๋ชจ๋ ) ์ ๊ฐ ์คํ๋ก๋ ๋ชจ๋๋ฅผ ๋ชจ๋ ๋นํ์ฑํํ์ญ์์ค . ๏ฑ FCoE Mode(FCoE ๋ชจ๋ ) ๋ ๋ ๋ฒ์งธ ํํฐ์
์์ FCoE-Offload ๊ฐ์ธ ์ค ์ ์ ํ์ฑํ ๋๋ ๋นํ์ฑํํฉ๋๋ค . ๋ ๋ฒ์งธ ํํฐ์
์์ ์ด ๋ชจ๋๋ฅผ ํ์ฑ ํํ๋ ค๋ฉด NIC Mode(NIC ๋ชจ๋ ) ๋ฅผ ๋นํ์ฑํํด์ผ ํฉ๋๋ค . ํฌํธ 1 ๊ฐ๋น ์คํ๋ก๋ 1 ๊ฐ๋ง ์ฌ์ฉํ ์ ์๊ธฐ ๋๋ฌธ์ FCoE-Offload ๊ฐ ํฌํธ์ ๋ ๋ฒ ์งธ ํํฐ์
์์ ํ์ฑํ๋๋ ๊ฒฝ์ฐ์๋ ๋์ผํ NPAR ๋ชจ๋ ํฌํธ์ ์ธ ๋ฒ์งธ ํํฐ์
์์ iSCSI-Offload ๋ฅผ ํ์ฑํํ ์ ์์ต๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ ๊ทธ๋ฆผ 5-18. ํํฐ์
2 ๊ตฌ์ฑ : FCoE Offload 4. ์ธ ๋ฒ์งธ ํํฐ์
์ ๊ตฌ์ฑํ๋ ค๋ฉด Partition 3 Configuration( ํํฐ์
3 ๊ตฌ์ฑ ) ์ ์ ํํ์ฌ Partition 3 Configuration( ํํฐ์
3 ๊ตฌ์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 5-17) ๋ฅผ ์ฝ ๋๋ค . iSCSI Offload ๊ฐ ํ์ฑํ๋์ด ์๋ ๊ฒฝ์ฐ Partition 3 Configuration( ํํฐ ์
3 ๊ตฌ์ฑ ) ์ ๋ค์ ๋งค๊ฐ๋ณ์๊ฐ ํ์๋ฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ 5. ์ด์ ํํฐ์
( ์คํ๋ก๋๊ฐ ์ง์๋์ง ์๋ ๊ฒฝ์ฐ ) ์ ํฌํจํ์ฌ ๋๋จธ์ง ์ด๋๋ท ํํฐ์
์ ๊ตฌ์ฑํ๋ ค๋ฉด ํํฐ์
2 ์ด์์ ํํฐ์
ํ์ด์ง๋ฅผ ์ฝ๋๋ค ( ๊ทธ๋ฆผ 5-20 ์ฐธ์กฐ ). ๏ฑ NIC Mode(NIC ๋ชจ๋ )(Enabled( ํ์ฑํ ) ๋๋ Disabled( ๋นํ์ฑํ )). ๋น ํ์ฑํํ๋ฉด ํํฐ์
์ด ๋ณด์ด์ง ์์์ ํํฐ์
( ๋๋ PCI PF) ์ ์ต๋ ์ ๋๋ณด๋ค ์ ๊ฒ ๊ฐ์ง๋๋ ๊ฒฝ์ฐ์๋ OS ์ ํ์๋์ง ์์ต๋๋ค . ๏ฑ PCI ์ฅ์น ID ๏ฑ PCI Address(PCI ์ฃผ์ ) ๏ฑ MAC ์ฃผ์ ๏ฑ ๊ฐ์ MAC ์ฃผ์ ๊ทธ๋ฆผ 5-20. ํํฐ์
4 ๊ตฌ์ฑ : ์ด๋๋ท VMware ESXi 6.0 ๋ฐ ESXi 6.5 ์ ํํฐ์
๋ถํ VMware ESXi 6.0 ๋๋ ESXi 6.5 ๊ธฐ๋ฐ ์์คํ
์์ ๋ค์ ์กฐ๊ฑด์ด ์กด์ฌํ๋ ๊ฒฝ์ฐ์๋ ๋๋ผ์ด๋ฒ๋ฅผ ์ ๊ฑฐํ ํ ๋ค์ ์ค์นํด์ผ ํฉ๋๋ค .
5โ ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ ํํฐ์
๊ตฌ์ฑ # esxcfg-scsidevs -a vmnic4 qedf link-up fc.2000000e1ed6fa2a:2001000e1ed6fa2a (0000:19:00.2) QLogic Corp. QLogic FastLinQ QL41xxx Series 10/25 GbE Controller (FCoE) vmhba0 lsi_mr3 link-n/a sas.51866da071fa9100 (0000:18:00.0) Avago (LSI) PERC H330 Mini vmnic10 qedf link-up fc.2000000e1ef249f8:2001000e1ef249f8 (0000:d8:00.2) QLogic Corp. QLogic FastLinQ QL41xxx Series 10/25 GbE Controller (FCoE) vmhba1 vmw_ahci link-n/a sata.vmhba1 (0000:00:11.
6 RoCE ๊ตฌ์ฑ ์ด ์ฅ์์๋ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ , ์ด๋๋ท ์ค์์น ๋ฐ Windows ๋๋ Linux ํธ์คํธ ์์ RoCE v1 ๋ฐ v2(RDMA over converged Ethernet) ๊ตฌ์ฑ์ ๋ํด ์ค๋ช
ํ๋ฉฐ , ๋ค ์์ ํฌํจํฉ๋๋ค . ๏ฎ ์ง์๋๋ ์ด์ ์ฒด์ ๋ฐ OFED ๏ฎ 64 ํ์ด์ง์ "RoCE ๋ฅผ ์ํ ๊ณํ " ๏ฎ 65 ํ์ด์ง์ " ์ด๋ํฐ ์ค๋น " ๏ฎ 65 ํ์ด์ง์ " ์ด๋๋ท ์ค์์น ์ค๋น " ๏ฎ 67 ํ์ด์ง์ "Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ " ๏ฎ 76 ํ์ด์ง์ "Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ " ๏ฎ 86 ํ์ด์ง์ "VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ " ์ฃผ ํ์ฌ ๋ฆด๋ฆฌ์ค์์ ์ผ๋ถ RoCE ๊ธฐ๋ฅ์ ์์ ํ ์ฌ์ฉํ์ง ๋ชปํ ์๋ ์์ต๋๋ค . ์ง์๋๋ ์ด์ ์ฒด์ ๋ฐ OFED ํ 6-1 ์ RoCE v1, RoCE v2, iWARP ๋ฐ OFED ์ ๋ํ ์ด์ ์ฒด์ ์ง์์ ๋ณด์ฌ์ค ๋๋ค . ํ 6-1.
6โRoCE ๊ตฌ์ฑ RoCE ๋ฅผ ์ํ ๊ณํ ํ 6-1. RoCE v1, RoCE v2, iWARP ๋ฐ OFED ์ ๋ํ OS ์ง์ ( ๊ณ์ ) ์ธ๋ฐ์ค OFED 3.18-3 GA OFED-4.8-1 GA RHEL 7.3 RoCE v1, RoCE v2, iWARP, iSER ์๋์ค RoCE v1, RoCE v2, iWARP RHEL 7.4 RoCE v1, RoCE v2, iWARP, iSER ์๋์ค ์๋์ค SLES 12 SP3 RoCE v1, RoCE v2, iWARP, iSER ์๋์ค ์๋์ค CentOS 7.3 RoCE v1, RoCE v2, iWARP, iSER ์๋์ค RoCE v1, RoCE v2, iWARP CentOS 7.4 RoCE v1, RoCE v2, iWARP, iSER ์๋์ค ์๋์ค ์๋์ค N/A N/A VMware ESXi 6.5, 6.5U1 RoCE v1, RoCE v2 N/A N/A VMware ESXi 6.
6โRoCE ๊ตฌ์ฑ ์ด๋ํฐ ์ค๋น ๏ฎ RoCE ๋ ๋ฆฌํ ์๋์๋ง ์ง์ํฉ๋๋ค . ๏ฎ RoCE ๋ SR-IOV ํ๊ฒฝ์์ VF ๋ฅผ ํตํด ์๋ํ์ง ์์ต๋๋ค . ์ด๋ํฐ ์ค๋น ๋ค์ ๋จ๊ณ๋ฅผ ๋ฐ๋ผ DCBX ๋ฅผ ํ์ฑํํ๊ณ , HII ๊ด๋ฆฌ ์์ฉํ๋ก๊ทธ๋จ์ ์ฌ์ฉํด RoCE ์ฐ ์ ์์๋ฅผ ์ง์ ํฉ๋๋ค . HII ์์ฉํ๋ก๊ทธ๋จ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ฅ 5 ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ์ ์ฐธ์กฐํ์ญ์์ค . ์ด๋ํฐ๋ฅผ ์ค๋นํ๋ ค๋ฉด 1. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Data Center Bridging(DCB) Settings(DCB(Data Center Bridging) ์ค์ ) ๋ฅผ ์ ํํ ํ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2. DCB(Data Center Bridging) ์ค์ ์ฐฝ์์ DCBX Protocol(DCBX ํ๋กํ ์ฝ ) ์ต์
์ ํด๋ฆญํฉ๋๋ค . 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ CEE ๋ฐ IEEE ํ๋กํ ์ฝ์ ๋ชจ๋ ์ง์ํฉ๋๋ค . ์ด ๊ฐ์ DCB ์ค์์น์ ํด๋น ๊ฐ๊ณผ ์ผ์นํด์ผ ํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ ์ด๋๋ท ์ค์์น ์ค๋น Cisco Nexus 6000 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ RoCE ์ฉ Cisco Nexus 6000 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ ๋จ๊ณ๋ ํด๋์ค ๋งต ๊ตฌ์ฑ , ์ ์ฑ
๋งต ๊ตฌ์ฑ , ์ ์ฑ
์ ์ฉ ๋ฐ ์ค์์น ํฌํธ์ VLAN ID ํ ๋น์ผ๋ก ์ด๋ฃจ์ด์ง๋๋ค . Cisco ์ค์์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. config ํฐ๋ฏธ๋ ์ธ์
์ ๋ค์๊ณผ ๊ฐ์ด ์ฝ๋๋ค . Switch# config terminal switch(config)# 2. ๋ค์๊ณผ ๊ฐ์ด QoS(Quality of Service) ํด๋์ค ๋งต์ ๊ตฌ์ฑํ๊ณ ์ด๋ํฐ (5) ์ ์ผ ์นํ๋๋ก RoCE ์ฐ์ ์์๋ฅผ ์ค์ ํฉ๋๋ค . switch(config)# class-map type qos class-roce switch(config)# match cos 5 3. ๋ค์๊ณผ ๊ฐ์ด ๋๊ธฐ์ด ์ง์ ํด๋์ค ๋งต์ ๊ตฌ์ฑํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ switch(config)# service-policy type queuing output roce switch(config)# service-policy type queuing input roce switch(config)# service-policy type network-qos roce 9. ์ด๋ํฐ (5) ์ ํ ๋น๋ VLAN ID ์ ์ผ์นํ๋๋ก ์ค์์น ํฌํธ์ VLAN ID ๋ฅผ ํ ๋นํฉ๋๋ค . switch(config)# interface ethernet x/x switch(config)# switchport mode trunk switch(config)# switchport trunk allowed vlan 1,5 Dell Z9100 ์ด๋๋ท ์ค์์น ๊ตฌ์ฑ RoCE ์ฉ Dell Z9100 ์ด๋๋ท ์ค์์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ๋ถ๋ก C Dell Z9100 ์ค์์น ๊ตฌ์ฑ ์ ์ ์ฐจ๋ฅผ ์ฐธ์กฐํ์ญ์์ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํ 6-2. RoCE ๋ฅผ ์ํ ๊ณ ๊ธ ์์ฑ ( ๊ณ์ ) ์์ฑ ๊ฐ ๋๋ ์ค๋ช
VLAN ID VLAN ID ๋ฅผ ์ธํฐํ์ด์ค์ ํ ๋นํฉ๋๋ค . ๊ทธ ๊ฐ์ ์ค์์น ์ ํ ๋น๋ ๊ฐ๊ณผ ๊ฐ์์ผ ํฉ๋๋ค . Quality of Service QoS ๋ฅผ ํ์ฑํํ๊ฑฐ๋ ๋นํ์ฑํํฉ๋๋ค . ๏ฎ Windows DCB-QoS ์๋น์ค๋ฅผ ํตํด DCB ๋ฅผ ์ ์ดํ ๋ ๊ฒฝ์ฐ Enabled( ํ์ฑํ ) ๋ฅผ ์ ํํฉ๋๋ค . ์์ธํ ๋ด์ฉ์ 220 ํ์ด์ง์ " ์ด๋ํฐ์์ DCBX ๋ฅผ ๋น ํ์ฑํํ์ฌ QoS ๊ตฌ์ฑ " ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . ๏ฎ ์ฐ๊ฒฐ๋ DCB ๊ตฌ์ฑ ์ค์์น๋ฅผ ํตํด DCB ๋ฅผ ์ ์ดํ๋ ๊ฒฝ์ฐ Disabled( ๋นํ์ฑํ ) ๋ฅผ ์ ํํฉ๋๋ค . ์์ธํ ๋ด์ฉ์ 224 ํ์ด์ง์ " ์ด๋ํฐ์์ DCBX ๋ฅผ ํ ์ฑํํ์ฌ QoS ๊ตฌ์ฑ " ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . ๊ทธ๋ฆผ 6-1 ์ ์์ฑ ๊ฐ ๊ตฌ์ฑ ์๋ฅผ ๋ณด์ฌ์ค๋๋ค . ๊ทธ๋ฆผ 6-1.
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 2. Windows PowerShell ์ ์ฌ์ฉํ์ฌ ์ด๋ํฐ์์ RDMA ๊ฐ ํ์ฑํ๋์ด ์๋์ง ํ์ธํ๋๋ค . Get-NetAdapterRdma ๋ช
๋ น์ RDMA ๋ฅผ ์ง์ํ๋ ์ด๋ํฐ๋ฅผ ๋ ์ดํฉ๋๋ค . ๋ ํฌํธ ๋ชจ๋ ํ์ฑํ๋์ด ์์ต๋๋ค . ์ฃผ RoCE over Hyper-V ๋ฅผ ๊ตฌ์ฑํ๋ ๊ฒฝ์ฐ VLAN ID ๋ฅผ ์ค์ ์ธํฐํ์ด์ค์ ํ ๋นํ์ง ๋ง์ญ์์ค . PS C:\Users\Administrator> Get-NetAdapterRdma Name InterfaceDescription -----------------------SLOT 4 3 Port 1 QLogic FastLinQ QL41262... SLOT 4 3 Port 2 QLogic FastLinQ QL41262... 3.
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ RDMA ์นด์ดํฐ ๋ณด๊ธฐ ๋ค์ ์ ์ฐจ๋ iWARP ์๋ ์ ์ฉ๋ฉ๋๋ค . RoCE ์ฉ RDMA ์นด์ดํฐ ๋ณด๊ธฐ : 1. ์ฑ๋ฅ ๋ชจ๋ํฐ๋ง์ ์คํํฉ๋๋ค . 2. Add Counters( ์นด์ดํฐ ์ถ๊ฐ ) ๋ํ ์์๋ฅผ ์ฝ๋๋ค . ๊ทธ๋ฆผ 6-2 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-2.
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ์ฃผ Cavium RDMA ์นด์ดํฐ๊ฐ ์ฑ๋ฅ ๋ชจ๋ํฐ์ Add Counters( ์นด์ดํฐ ์ถ๊ฐ ) ๋ํ ์์์ ํ์๋์ง ์์ผ๋ฉด ๋๋ผ์ด๋ฒ ์์น์์ ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ ์๋์ผ๋ก ์ถ๊ฐํ์ญ์์ค . Lodctr /M:qend.man 3. ๋ค์ ์นด์ดํฐ ์ ํ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ ๏ฑ ๏ฑ 4. Cavium FastLinQ Congestion Control(Cavium FastLinQ ํผ์ก ์ ์ด ): ๏ฎ ์ค์์น์ ECN ์ด ํ์ฑํ๋์ด ์์ ๊ฒฝ์ฐ ๋คํธ์ํฌ ํผ์ก์ด ๋ฐ์ํ ๋ฉด ๋์
๋๋ค . ๏ฎ ์ฑ๊ณต์ ์ผ๋ก ์ ์ก๋๊ฑฐ๋ ์์ ๋ RoCE v2 ECN Marked Packet ๋ฐ Congestion Notification Packet(CNP) ์ ์ค๋ช
ํฉ๋๋ค . ๏ฎ RoCE v2 ์๋ง ์ ์ฉ๋ฉ๋๋ค . Cavium FastLinQ Port Counters(Cavium FastLinQ ํฌํธ ์นด์ดํฐ ): ๏ฎ ๋คํธ์ํฌ ํผ์ก์ด ๋ฐ์ํ ๋ ๋์
๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-3 ์ ์นด์ดํฐ ๋ชจ๋ํฐ๋ง ์ถ๋ ฅ์ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-3. ์ฑ๋ฅ ๋ชจ๋ํฐ : Cavium FastLinQ ์นด์ดํฐ ํ 6-3 ์ ์ค๋ฅ ์นด์ดํฐ์ ์ธ๋ถ ์ ๋ณด๋ฅผ ๋ํ๋
๋๋ค . ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ RDMA ์ค๋ฅ ์นด์ดํฐ ์ค๋ช
RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ iWARP ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ๋ฌธ์ ํด๊ฒฐ CQ overflow (CQ ์ค๋ฒํ๋ก ์ฐ) CQ ๋ RDMA ์์
์์ฒญ์ด ๊ฒ์๋๋ ์๋ฃ ๋๊ธฐ์ด์
๋๋ค . ์ด ์นด์ดํฐ๋ ์ธ ์คํด์ค ์๋ฅผ ์ง์ ํฉ๋๋ค . ์ ์ก ๋๋ ์์ ๋๊ธฐ์ด์ ์๋ฃ๋ ์์
์์ฒญ์ด ์ ์ง๋ง ์ฐ๊ฒฐ๋ ์๋ฃ ๋๊ธฐ์ด์ ๊ณต๊ฐ์ด ์ ์ต๋๋ค . ์ ์ ์๋ฃ ๋๊ธฐ์ด์ ํฌ๊ธฐ๊ฐ ๋ถ์กฑํ ์์ธ์ ์ํํธ์จ ์ด ์ค๊ณ ๋ฌธ์ ์ ์์ต๋ ๋ค. Requestor Bad response ( ์์ฒญ์์ ์ ๋ชป๋ ์๋ต ) ์๋ต์์์ ์๋ชป๋ ์๋ต์ด ๋ฐํ๋์ ์ต๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ ( ๊ณ์ ) RDMA ์ค๋ฅ ์นด์ดํฐ ์ค๋ช
RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ iWARP ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ๋ฌธ์ ํด๊ฒฐ Requestor CQEs flushed with error ( ์ค๋ฅ๋ก ์ธํด Requestor CQE ์ญ์ ๋จ ) ์ด๋ ํ ์ด์ ๋ก QP ๊ฐ ์ค๋ฅ ์ํ๋ก ์ ํ๋์ด ๋๊ธฐ ์ค์ธ ์์
์์ฒญ์ด ์์ ๊ฒฝ์ฐ์๋ flush status ๋ฅผ ์คํํ์ฌ ์ ๋ฃ๋ ์์
( ์ค์ ๋ก๋ ์์
์์ฒญ ์คํ ์ด ์๋ฃ๋์ง ์์ ) ์ CQ ๋ก ์ ์กํ ๋ฉด์ ๊ฒ์๋ ์์
์์ฒญ์ด ์ญ์ ๋ ์ ์์ต๋๋ค . ์ค๋ฅ ์ํ์์ ์๋ฃ๋ ์ ์
์์ฒญ์ด ์์ ๊ฒฝ์ฐ์๋ ํด๋น QP ์ ์ ๋๊ธฐ ์ค์ธ ๋ค๋ฅธ ๋ชจ๋ ์์
์์ฒญ๊น ์ง ์ญ์ ๋ฉ๋๋ค . ์ ์ RDMA ์ฐ๊ฒฐ์ด ๋๊ธธ ๋ ๋ฐ์ํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ ( ๊ณ์ ) RDMA ์ค๋ฅ ์นด์ดํฐ ์ค๋ช
RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ iWARP ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ๋ฌธ์ ํด๊ฒฐ Requestor Remote Invalid request ( ์์ฒญ์์ ์ ๋ชป๋ ์๊ฒฉ ์ ์ฒญ) ์๊ฒฉ ์ธก์์ ์ฑ๋์ ํตํด ์๋ชป๋ ๋ฉ์ ์ง๋ฅผ ์์ ํ์์ต๋๋ค. ์๋ชป๋ ์์ฒญ์ ์ ์ก ๋ฉ์์ง ๋๋ RDMA ์์ฒญ์ด ๋ ์ ์์ต๋๋ค . ์ ์ ๊ฐ๋ฅํ ์์ธ์ผ๋ก๋ ์์ ๋๊ธฐ์ด์์ ์์
์ ์ง์ ํ์ง ์๊ฑฐ๋ , ์๋ก์ด RDMA ๋๋ ์์ ์ฐ์ฐ ์์ฒญ์ ์์ ํ ์ ์๋ ๋ฒํผ๋ง์ด ์ถฉ๋ถํ์ง ์๊ฑฐ ๋ , ํน์ RDMA ์์ฒญ์ ์ ์ง์ ๋ ๊ธธ์ด๊ฐ 231 ๋ฐ์ดํธ๋ณด๋ค ํฐ ๊ฒฝ์ฐ ๋ฑ ์ด ์์ต๋๋ค . Requestor remote operation ( ์์ฒญ์ ์๊ฒฉ ์์
) ์๊ฒฉ ์ธก์์ ๋ก์ปฌ ๋ฌธ์ ๋ก ์ธํด ์์ฒญ๋ ์์
์ ์๋ฃํ ์ ์์ต๋๋ค .
6โRoCE ๊ตฌ์ฑ Windows Server ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํ 6-3. Cavium FastLinQ RDMA ์ค๋ฅ ์นด์ดํฐ ( ๊ณ์ ) RDMA ์ค๋ฅ ์นด์ดํฐ ์ค๋ช
RoCE ์ ๋ํ ์ ์ฉ ์ฌ๋ถ iWARP ์ ๋ํ ์ ์ฉ ์ฌ๋ถ ๋ฌธ์ ํด๊ฒฐ Responder local length ( ์๋ต์ ๋ก์ปฌ ๊ธธ์ด ) ์ธ๋ฐ์ด๋ ๋ฉ์์ง์ ๊ธธ์ด๊ฐ ์๋ชป๋์ ์ต๋๋ค . ์ ์ ์๊ฒฉ ํผ์ด์ ๋์ ์ค๋ฅ ์
๋๋ค . ์๋ฅผ ๋ค์ด ์ธ๋ฐ ์ด๋ ์ ์ก ๋ฉ์์ง์ ๊ธธ ์ด๊ฐ ์์ ๋ฒํผ์ ํฌ๊ธฐ ๋ณด๋ค ํฌ๊ธฐ ๋๋ฌธ์
๋๋ค . Responder local protection ( ์๋ต์ ๋ก์ปฌ ๋ณดํธ ) ๋ก์ปฌ์ ๊ฒ์๋ ์์
์์ฒญ์ ๋ฐ์ดํฐ ์ธ ๊ทธ๋จผํธ๊ฐ ์์ฒญ๋ ์์
์ ์ ํจํ ๋ฉ๋ชจ ๋ฆฌ ์์ญ์ ์ฐธ์กฐํ์ง ์์ต๋๋ค . ์ ์ ์ํํธ์จ์ด์ ๋ฉ๋ชจ๋ฆฌ ๊ด ๋ฆฌ์ ๋ฌธ์ ๊ฐ ์์ต๋๋ค . Responder Local QP Operation error ( ์๋ต์ ๋ก์ปฌ QP ์์
์ค๋ฅ ) ์์
์์ฒญ์ ์ฒ๋ฆฌํ๋ ๋์ค ๋ด๋ถ QP ์ผ๊ด์ฑ ์ค๋ฅ๊ฐ ํ์ง๋์์ต๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ์ด ์น์
์ RHEL ๋ฐ SLES ์ RoCE ๊ตฌ์ฑ ์ ์ฐจ๋ฅผ ์ค๋ช
ํฉ๋๋ค . ๋ํ , RoCE ๊ตฌ์ฑ์ ํ์ธํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํ๊ณ VLAN ์ธํฐํ์ด์ค์ ํจ๊ป ๊ทธ๋ฃน ID(GID) ๋ฅผ ์ฌ์ฉํ๋ ๋ฐฉ ๋ฒ์ ๋ํ ์ง์นจ์ ์ ๊ณตํฉ๋๋ค . ๏ฎ RHEL ์ RoCE ๊ตฌ์ฑ ๏ฎ SLES ์ RoCE ๊ตฌ์ฑ ๏ฎ Linux ์์ RoCE ๊ตฌ์ฑ ํ์ธ ๏ฎ VLAN ์ธํฐํ์ด์ค ๋ฐ GID ์ธ๋ฑ์ค ๊ฐ ๏ฎ Linux ์ RoCE v2 ๊ตฌ์ฑ RHEL ์ RoCE ๊ตฌ์ฑ ์ด๋ํฐ์์ RoCE ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด RHEL ํธ์คํธ์ OFED(Open Fabrics Enterprise Distribution) ๊ฐ ์ค์น๋๊ณ ๊ตฌ์ฑ๋์ด ์์ด์ผ ํฉ๋๋ค . RHEL ์ ์ธ๋ฐ์ค OFED ๋ฅผ ์ค๋นํ๋ ค๋ฉด 1. ์์คํ
์ ์ค์นํ๊ฑฐ๋ ์
๊ทธ๋ ์ด๋ํ๋ ์ค์ InfiniBand ๋ฐ OFED ์ง์ ํจํค์ง ๋ฅผ ์ ํํฉ๋๋ค . 2.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ SLES ์ RoCE ๊ตฌ์ฑ SLES ํธ์คํธ์ฉ ์ด๋ํฐ์์ RoCE ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด SLES ํธ์คํธ์ OFED ๊ฐ ์ค์น ๋๊ณ ๊ตฌ์ฑ๋์ด ์์ด์ผ ํฉ๋๋ค . SLES ์ ์ธ๋ฐ์ค OFED ๋ฅผ ์ค์นํ๋ ค๋ฉด 1. ์์คํ
์ ์ค์นํ๊ฑฐ๋ ์
๊ทธ๋ ์ด๋ํ๋ ์ค์ InfiniBand ์ง์ ํจํค์ง๋ฅผ ์ ํํฉ ๋๋ค . 2. ํด๋น SLES SDK ํคํธ ์ด๋ฏธ์ง์์ ๋ค์ RPM ์ ์ค์นํฉ๋๋ค . libibverbs-devel-x.x.x.x86_64.rpm (libqedr ์ค์น์ ํ์ํจ ) perftest-x.x.x.x86_64.rpm ( ๋์ญํญ ๋ฐ ์ง์ฐ ์๊ฐ ์์ฉํ๋ก๊ทธ๋จ์ ํ์ํจ ) 3. 14 ํ์ด์ง์ "RDMA ์ ํจ๊ป Linux ์ค์น " ์ ์ค๋ช
๋ ๋๋ก Linux ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๋๋ # systemctl start rdma.service 3. dmesg ๋ก๊ทธ๋ฅผ ๊ฒํ ํด RoCE ์ฅ์น๊ฐ ๋ฐ๊ฒฌ๋์๋์ง ํ์ธํฉ๋๋ค . # dmesg|grep qedr [87910.988411] qedr: discovered and registered 2 RoCE funcs 4. ๋ชจ๋ ๋ชจ๋์ด ๋ก๋๋์๋์ง ํ์ธํฉ๋๋ค . ์ : # lsmod|grep qedr 5. qedr 89871 0 qede 96670 1 qedr qed 2075255 ib_core 88311 16 qedr, rdma_cm, ib_cm, ib_sa,iw_cm,xprtrdma,ib_mad,ib_srp, ib_ucm,ib_iser,ib_srpt,ib_umad, ib_uverbs,rdma_ucm,ib_ipoib,ib_isert 2 qede,qedr IP ์ฃผ์๋ฅผ ๊ตฌ์ฑํ๊ณ ifconfig ๊ฐ์ ๊ตฌ์ฑ ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์ฌ ํฌํธ๋ฅผ ํ์ฑํํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 7. ๋ชจ๋ ์๋ฒ ์ฌ์ด์ L2 ๋ฐ RoCE ์ฐ๊ฒฐ์ ํ์ธํฉ๋๋ค . ํ ์๋ฒ๋ ์๋ฒ ์ญํ ์ ํ ๊ณ ๋ค๋ฅธ ์๋ฒ๋ ํด๋ผ์ด์ธํธ ์ญํ ์ ํฉ๋๋ค . ๏ฑ ๋จ์ ping ๋ช
๋ น์ ์ฌ์ฉํด L2 ์ฐ๊ฒฐ์ ํ์ธํฉ๋๋ค . ๏ฑ ์๋ฒ ๋๋ ํด๋ผ์ด์ธํธ์์ RDMA ping ์ ์คํํ์ฌ RoCE ์ฌ๊ฒฐ ์ฌ๋ถ๋ฅผ ํ์ธํฉ๋๋ค . ์๋ฒ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ibv_rc_pingpong -d -g 0 ํด๋ผ์ด์ธํธ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ibv_rc_pingpong -d -g 0 ๋ค์์ ์๋ฒ ๋ฐ ํด๋ผ์ด์ธํธ์์ ์ฑ๊ณต์ ์ธ ping pong ํ
์คํธ์ ์์ ์
๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ VLAN ์ธํฐํ์ด์ค ๋ฐ GID ์ธ๋ฑ์ค ๊ฐ ์๋ฒ์ ํด๋ผ์ด์ธํธ์์ VLAN ์ธํฐํ์ด์ค๋ฅผ ์ฌ์ฉ ์ค์ธ ๊ฒฝ์ฐ ์ค์์น์์๋ ๊ฐ์ VLAN ID ๋ฅผ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . ์ค์์น๋ฅผ ํตํด ํธ๋ํฝ์ ์คํ ์ค์ด๋ผ๋ฉด InfiniBand ์์ฉํ๋ก๊ทธ๋จ์์ VLAN ID ๋ฐ VLAN IP ์ฃผ์๋ฅผ ๊ธฐ์ค์ผ๋ก ์ฌ๋ฐ๋ฅธ GID ๊ฐ์ ์ฌ์ฉํด ์ผ ํฉ๋๋ค . ๋ค์ ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ์ค์ผ๋ก GID ๊ฐ (-x 4 / -x 5) ์ ๋ชจ๋ perftest ์์ฉํ๋ก๊ทธ๋จ์์ ์ฌ์ฉ ํด์ผ ํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ์ฃผ RoCE v2 ์ง์ ์ปค๋์ ์ฌ์ฉํ์ฌ RoCE v1 ๋ฐ RoCE v2 ๋ฅผ ๊ตฌ์ฑํ ์ ์ ์ต๋๋ค . ์ด๋ฌํ ์ปค๋์ ์ฌ์ฉํ๋ฉด ๋์ผํ ์๋ธ๋ท๋ฟ ์๋๋ผ RoCE v2 ์ ๋ค๋ฅธ ๋ผ์ฐํ
ํ๊ฒฝ๊ณผ ๊ฐ์ด ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ํตํด์๋ RoCE ํธ๋ํฝ์ ์ ์กํ ์ ์์ต๋๋ค . ๋ค๋ฅธ ๋ชจ๋ ์ค์์น ๋ฐ ์ด๋ํฐ ์ค์ ์ RoCE v1 ๋ฐ RoCE v2 ์์ ๊ณตํต๋๋ฉฐ , ๋ช ๊ฐ์ง ์ค์ ๋ง RoCE v2 ์ ๋ ํ์ํฉ๋๋ค . RoCE v2 GID ์ธ๋ฑ์ค ๋๋ ์ฃผ์ ์๋ณ RoCE v1 ๋ฐ RoCE v2 ํน์ GID ๋ฅผ ์ฐพ์ผ๋ ค๋ฉด sys ๋๋ class ๋งค๊ฐ๋ณ์๋ฅผ ์ฌ์ฉํ๊ฑฐ ๋ , 41xxx FastLinQ ์์ค ํจํค์ง์์ RoCE ์คํฌ๋ฆฝํธ๋ฅผ ์คํํฉ๋๋ค . ๊ธฐ๋ณธ๊ฐ RoCE GID Index(RoCE GID ์ธ๋ฑ์ค ) ๋ฐ ์ฃผ์๋ฅผ ํ์ธํ๋ ค๋ฉด ibv_devinfo ๋ช
๋ น ์ ๋ฐ๊ธํ๊ณ ์ด๋ฅผ sys ๋๋ class ๋งค๊ฐ๋ณ์์ ๋น๊ตํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๏ฎ ์ต์
2: FastLinQ ์์ค ํจํค์ง์์ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํฉ๋๋ค . #/../fastlinq-8.x.x.x/add-ons/roce/show_gids.sh DEV PORT INDEX GID IPv4 VER DEV --- ---- ----- --- ------------ --- --- qedr0 1 0 fe80:0000:0000:0000:020e:1eff:fec4:1b20 v1 p4p1 qedr0 1 1 fe80:0000:0000:0000:020e:1eff:fec4:1b20 v2 p4p1 qedr0 1 2 0000:0000:0000:0000:0000:ffff:1e01:010a 30.1.1.10 v1 p4p1 qedr0 1 3 0000:0000:0000:0000:0000:ffff:1e01:010a 30.1.1.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ RoCE v2 ํ์ธ ๋์ผํ ์๋ธ๋ท์์ ์คํํ๋ ๊ฒฝ์ฐ , RoCE v2 GID ์ธ๋ฑ์ค๋ฅผ ์ฌ์ฉํฉ๋๋ค . Server# ib_send_bw -d qedr0 -F -x 1 Client# ib_send_bw -d qedr0 -F -x 1 192.168.100.3 ์ฃผ ์ค์์น PFC ๊ตฌ์ฑ์ ํตํด ์คํ๋๋ ๊ฒฝ์ฐ ๋์ผํ ์๋ธ๋ท์ ํตํด RoCE v1 ๋๋ v2 ์ VLAN GID ๋ฅผ ์ฌ์ฉํฉ๋๋ค . ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ํตํด RoCE v2 ํ์ธ ์ฃผ ๋จผ์ ์ค์์น ๋ฐ ์๋ฒ์ ๋ํด ๋ผ์ฐํ
์ค์ ์ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . ์ด๋ํฐ์์ , HII ๋๋ UEFI ์ฌ์ฉ์ ์ธํฐํ์ด์ค๋ฅผ ์ฌ์ฉํ์ฌ RoCE ์ฐ์ ์์ ๋ฐ DCBX ๋ชจ ๋๋ฅผ ์ค์ ํฉ๋๋ค . ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ํตํด RoCE v2 ๋ฅผ ํ์ธํ๋ ค๋ฉด 1. DCBX-PFC ๊ตฌ์ฑ์ ์ฌ์ฉํ์ฌ ์๋ฒ ๋ฐ ํด๋ผ์ด์ธํธ์ ๋ํ ๋ผ์ฐํ
๊ตฌ์ฑ์ ์ค์ ํฉ๋๋ค . ๏ฑ ์์คํ
์ค์ : ์๋ฒ VLAN IP : 192.168.100.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๏ฑ PFC ๊ตฌ์ฑ ๋ฐ L3 ๋ผ์ฐํ
์ ์ฌ์ฉํ๋ ๊ฒฝ์ฐ ์๋ก ๋ค๋ฅธ ์๋ธ๋ท์ ์ฌ์ฉํ์ฌ VLAN ์ ํตํด RoCE v2 ํธ๋ํฝ์ ์คํํ๊ณ RoCE v2 VLAN GID ์ธ๋ฑ ์ค๋ฅผ ์ฌ์ฉํฉ๋๋ค . Server# ib_send_bw -d qedr0 -F -x 5 Client# ib_send_bw -d qedr0 -F -x 5 192.168.100.3 ์๋ฒ ์ค์์น ์ค์ : ๊ทธ๋ฆผ 6-4.
6โRoCE ๊ตฌ์ฑ Linux ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํด๋ผ์ด์ธํธ ์ค์์น ์ค์ : ๊ทธ๋ฆผ 6-5. ์ค์์น ์ค์ , ํด๋ผ์ด์ธํธ RDMA_CM ์์ฉํ๋ก๊ทธ๋จ์ ๋ํ RoCE v1 ๋๋ RoCE v2 ์ค์ ๊ตฌ์ฑ RoCE ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด FastLinQ ์์ค ํจํค์ง์์ ๋ค์ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํฉ๋๋ค . # ./show_rdma_cm_roce_ver.sh qedr0 is configured to IB/RoCE v1 qedr1 is configured to IB/RoCE v1 # ./config_rdma_cm_roce_ver.sh v2 configured rdma_cm for qedr0 to RoCE v2 configured rdma_cm for qedr1 to RoCE v2 ์๋ฒ ์ค์ : ๊ทธ๋ฆผ 6-6.
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ํด๋ผ์ด์ธํธ ์ค์ : ๊ทธ๋ฆผ 6-7. RDMA_CM ์์ฉํ๋ก๊ทธ๋จ ๊ตฌ์ฑ : ํด๋ผ์ด์ธํธ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ์ด๋ฒ ์น์
์์๋ ์๋์ ๊ฐ์ด RoCE ๊ตฌ์ฑ์ ์ํ ์ ์ฐจ ๋ฐ ์ ๋ณด์ ๋ํด์ ์ค๋ช
ํฉ ๋๋ค . ๏ฎ RDMA ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๏ฎ MTU ๊ตฌ์ฑ ๏ฎ RoCE ๋ชจ๋ ๋ฐ ํต๊ณ ๏ฎ PVRDMA(Paravirtual RDMA Device) ๊ตฌ์ฑ RDMA ์ธํฐํ์ด์ค ๊ตฌ์ฑ RDMA ์ธํฐํ์ด์ค๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. QLogic NIC ๋๋ผ์ด๋ฒ์ RoCE ๋๋ผ์ด๋ฒ๋ฅผ ๋ชจ๋ ์ค์นํฉ๋๋ค . 2. ๋ชจ๋ ๋งค๊ฐ๋ณ์์์ ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น์ ์คํํ์ฌ NIC ๋๋ผ์ด๋ฒ์ RoCE ๊ธฐ ๋ฅ์ ํ์ฑํํฉ๋๋ค . esxcfg-module -s 'enable_roce=1' qedentv ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฉํ๋ ค๋ฉด NIC ๋๋ผ์ด๋ฒ๋ฅผ ๋ค์ ๋ก๋ํ๊ฑฐ๋ ์์คํ
์ ์ฌ๋ถํ
ํด์ผ ํฉ๋๋ค . 3.
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ 4. RDMA ์ฅ์น ๋ชฉ๋ก์ ๋ณด๋ ค๋ฉด esxcli rdma device list ๋ช
๋ น์ ์คํํฉ๋๋ค . ์: esxcli rdma device list Name Driver State Speed Paired Uplink Description ------- ------- ------ ---- ------- ------------- ------------------------------- vmrdma0 qedrntv Active 1024 25 Gbps vmnic0 QLogic FastLinQ QL45xxx RDMA Interface vmrdma1 qedrntv Active 1024 25 Gbps vmnic1 QLogic FastLinQ QL45xxx RDMA Interface 5. MTU ์๋ก์ด ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ VLAN ID ๋ก RoCE ํธ๋ํฝ์ ์คํํ๋ ค๋ฉด ํด๋น VMkernel ํฌํธ ๊ทธ๋ฃน์์ VLAN ID ๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . MTU ๊ตฌ์ฑ RoCE ์ธํฐํ์ด์ค์ MTU ๋ฅผ ์์ ํ๋ ค๋ฉด ํด๋นํ๋ vSwitch ์ MTU ๋ฅผ ๋ณ๊ฒฝํฉ๋๋ค . vSwitch ์ MTU ์ ๋ฐ๋ผ ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น์ ์คํํ์ฌ RDMA ์ธํฐํ์ด์ค์ MTU ํฌ ๊ธฐ๋ฅผ ์ค์ ํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ Queue pairs in RESET state: 0 Queue pairs in INIT state: 0 Queue pairs in RTR state: 0 Queue pairs in RTS state: 0 Queue pairs in SQD state: 0 Queue pairs in SQE state: 0 Queue pairs in ERR state: 0 Queue pair events: 0 Completion queues allocated: 1 Completion queue events: 0 Shared receive queues allocated: 0 Shared receive queue events: 0 Protection domains allocated: 1 Memory regions allocated: 3 Address handles allocated: 0 Memory windows allocated: 0 PVRDMA(Parav
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-8. ์ ๋ถ์ฐ ์ค์์น ๊ตฌ์ฑ 2. 3. ๋ค์๊ณผ ๊ฐ์ด ๋ถ์ฐ ๊ฐ์ ์ค์์น๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . a. VMware vSphere ์น ํด๋ผ์ด์ธํธ์์ ํ์๊ธฐ ์ผ์ชฝ ์ฐฝ์ ์๋ RoCE ๋
ธ ๋๋ฅผ ํ์ฅํฉ๋๋ค . b. RoCE-VDS ๋ฅผ ๋ง์ฐ์ค ์ค๋ฅธ์ชฝ ๋ฒํผ์ผ๋ก ํด๋ฆญํ ํ Add and Manage Hosts( ํธ์คํธ ์ถ๊ฐ ๋ฐ ๊ด๋ฆฌ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . c. Add and Manage Hosts( ํธ์คํธ ์ถ๊ฐ ๋ฐ ๊ด๋ฆฌ ) ์์ ๋ค์ ์ต์
์ ๊ตฌ์ฑ ํฉ๋๋ค . ๏ฎ Assign uplinks( ์
๋งํฌ ํ ๋น ). ์ฌ์ฉ ๊ฐ๋ฅํ ์
๋งํฌ ๋ชฉ๋ก ์ค์์ ์ ํํฉ๋๋ค . ๏ฎ Manage VMkernel network adapters(VMkernel ๋คํธ์ํฌ ์ด๋ํฐ ๊ด๋ฆฌ ). ๊ธฐ๋ณธ๊ฐ์ ๊ทธ๋๋ก ์ ์งํ ์ฑ Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๏ฎ Migrate VM networking(VM ๋คํธ์ํน ๋ง์ด๊ทธ๋ ์ด์
).
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ e. Net.PVRDMAVmknic ๊ฐ์ vmknic ๋ก ์ค์ ํฉ๋๋ค ( ์ : vmk1). ๊ทธ๋ฆผ 6-9 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 6-9. PVRDMA ์ vmknic ํ ๋น 4. ๋ค์๊ณผ ๊ฐ์ด PVRDMA ์ ๋ฐฉํ๋ฒฝ ๊ท์น์ ์ค์ ํฉ๋๋ค . a. ํธ์คํธ๋ฅผ ๋ง์ฐ์ค ์ค๋ฅธ์ชฝ ๋ฒํผ์ผ๋ก ํด๋ฆญํ ํ Settings( ์ค์ ) ๋ฅผ ํด๋ฆญ ํฉ๋๋ค . b. Settings( ์ค์ ) ํ์ด์ง์์ System( ์์คํ
) ๋
ธ๋๋ฅผ ํ์ฅํ ํ Security Profile( ๋ณด์ ํ๋กํ์ผ ) ์ ํด๋ฆญํฉ๋๋ค . c. Firewall Summary( ๋ฐฉํ๋ฒฝ ์์ฝ ) ํ์ด์ง์์ Edit( ํธ์ง ) ๋ฅผ ํด๋ฆญํฉ๋ ๋ค. d. Edit Security Profile( ๋ณด์ ํ๋กํ์ผ ํธ์ง ) ๋ํ ์์์ Name( ์ด๋ฆ ) ์์ ์คํฌ๋กค์ ์๋๋ก ๋ด๋ ค pvrdma ํ์ธ๋๊ณผ Set Firewall( ๋ฐฉํ๋ฒฝ ์ค ์ ) ํ์ธ๋์ ์ฐจ๋ก๋๋ก ์ ํํฉ๋๋ค .
6โRoCE ๊ตฌ์ฑ VMware ESX ์ฉ ์ด๋ํฐ์์ RoCE ๊ตฌ์ฑ ๊ทธ๋ฆผ 6-10. ๋ฐฉํ๋ฒฝ ๊ท์น ์ค์ 5. ๋ค์๊ณผ ๊ฐ์ด PVRDMA ์ VM ์ ์ค์ ํฉ๋๋ค . a. ์๋์์ ์ง์๋๋ ๊ฒ์คํธ OS ์ค ํ๋๋ฅผ ์ค์นํฉ๋๋ค . ๏ฎ ๏ฎ RHEL 7.2 Ubuntu 14.04( ์ปค๋ ๋ฒ์ 4.0) b. OFED-3.18 ์ ์ค์นํฉ๋๋ค . c. PVRDMA ๊ฒ์คํธ ๋๋ผ์ด๋ฒ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ปดํ์ผํ์ฌ ์ค์นํฉ๋๋ค . d. ๋ค์๊ณผ ๊ฐ์ด ์๋ก์ด PVRDMA ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ VM ์ ์ถ๊ฐํฉ๋๋ค . ๏ฎ ๏ฎ ๏ฎ ๏ฎ e. VM ์ค์ ์ ํธ์งํฉ๋๋ค . ์๋ก์ด ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ ์ถ๊ฐํฉ๋๋ค . ์๋กญ๊ฒ ์ถ๊ฐ๋ DVS ํฌํธ ๊ทธ๋ฃน์ Network( ๋คํธ์ํฌ ) ๋ก ์ ํํฉ ๋๋ค . PVRDMA ๋ฅผ ์ด๋ํฐ ์ ํ์ผ๋ก ์ ํํฉ๋๋ค . VM ๋ถํ
ํ PVRDMA ๊ฒ์คํธ ๋๋ผ์ด๋ฒ๊ฐ ๋ก๋๋๋์ง ํ์ธํฉ๋๋ค .
7 iWARP ๊ตฌ์ฑ iWARP(Internet wide area RDMA protocol) ๋ IP ๋คํธ์ํฌ๋ฅผ ํตํ ํจ์จ์ ๋ฐ์ดํฐ ์ ์ก์ ์ํ RDMA ๋ฅผ ๊ตฌํํ๋ ๋คํธ์ํน ํ๋กํ ์ฝ์
๋๋ค . iWARP ๋ LAN, ์คํ ๋ฆฌ์ง ๋คํธ์ํฌ , ๋ฐ์ดํฐ ์ผํฐ ๋คํธ์ํฌ ๋ฐ WAN ์ ํฌํจํ ์ฌ๋ฌ ๊ฐ์ง ํ๊ฒฝ์ ๋ง๊ฒ ์ค๊ณ๋ ํ๋กํ ์ฝ์
๋๋ค . ์ด ์ฅ์์๋ ๋ค์ ์์
์ ์ง์นจ์ ์ ์ํฉ๋๋ค . ๏ฎ iWARP ์ด๋ํฐ ์ค๋น ๏ฎ 94 ํ์ด์ง์ "Windows ์์ iWARP ๊ตฌ์ฑ " ๏ฎ 98 ํ์ด์ง์ "Linux ์์ iWARP ๊ตฌ์ฑ " ์ฃผ ํ์ฌ ๋ฆด๋ฆฌ์ค์์ ์ผ๋ถ iWARP ๊ธฐ๋ฅ์ ์์ ํ ์ฌ์ฉํ์ง ๋ชปํ ์๋ ์์ต๋๋ค . ์์ธํ ์ ๋ณด๋ ๋ถ๋ก D ๊ธฐ๋ฅ ์ ์ฝ ์กฐ๊ฑด์์ ํ์ธํ ์ ์์ต๋๋ค . iWARP ์ด๋ํฐ ์ค๋น ์ด๋ฒ ์น์
์์๋ HII ์ ์ฌ์ฉํ์ฌ ์ฌ์ ๋ถํ
์ด๋ํฐ iWARP ๋ฅผ ๊ตฌ์ฑํ๋ ์ง์นจ์ ๋ ํด์ ์ค๋ช
ํฉ๋๋ค . ์ฌ์ ๋ถํ
์ด๋ํฐ ๊ตฌ์ฑ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ฅ 5 ์ด๋ํฐ ์ฌ์ ๋ถํ
๊ตฌ์ฑ์ ์ฐธ์กฐํ์ญ์์ค .
7โiWARP ๊ตฌ์ฑ Windows ์์ iWARP ๊ตฌ์ฑ b. RDMA Protocol Support(RDMA ํ๋กํ ์ฝ ์ง์ ) ๋ฅผ iWARP ๋ก ์ค์ ํฉ ๋๋ค . c. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 5. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 6. Warning - Saving Changes( ๊ฒฝ๊ณ - ๋ณ๊ฒฝ ๋ด์ฉ ์ ์ฅ ) ๋ฉ์์ง ์์์์ Yes ( ์ ) ๋ฅผ ํด๋ฆญํ์ฌ ๊ตฌ์ฑ์ ์ ์ฅํฉ๋๋ค . 7. Success - Saving Changes( ์ฑ๊ณต - ๋ณ๊ฒฝ ๋ด์ฉ ์ ์ฅ ) ๋ฉ์์ง ์์์์ OK ( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 8. ๋จ๊ณ 2 ์์ ๋จ๊ณ 7 ๊น์ง ๋ฐ๋ณตํ์ฌ ๋ค๋ฅธ ํฌํธ์ ๋ํ NIC ์ iWARP ๋ฅผ ๊ตฌ์ฑ ํฉ๋๋ค . 9. ๋ ํฌํธ ๋ชจ๋์ ์ด๋ํฐ ์ค๋น๋ฅผ ์๋ฃํ๋ ค๋ฉด a. Device Settings( ์ฅ์น ์ค์ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . b.
7โiWARP ๊ตฌ์ฑ Windows ์์ iWARP ๊ตฌ์ฑ d. 2. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํ์ฌ ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํ๊ณ ์ด๋ํฐ ์์ฑ์ ๋ซ์ต๋๋ค . Windows PowerShell ์ ์ฌ์ฉํ์ฌ RDMA ๊ฐ ํ์ฑํ๋์ด ์๋์ง ํ์ธํฉ๋๋ค . Get-NetAdapterRdma ๋ช
๋ น ์ถ๋ ฅ(๊ทธ๋ฆผ 7-1)์ RDMA๋ฅผ ์ง์ํ๋ ์ด๋ํฐ๊ฐ ํ ์๋ฉ๋๋ค . ๊ทธ๋ฆผ 7-1. Windows PowerShell ๋ช
๋ น : Get-NetAdapterRdma 3. Windows PowerShell ์ ์ฌ์ฉํ์ฌ NetworkDirect ๊ฐ ํ์ฑํ๋์ด ์๋์ง ํ ์ธํฉ๋๋ค . Get-NetOffloadGlobalSetting ๋ช
๋ น ์ถ๋ ฅ ( ๊ทธ๋ฆผ 7-2) ์์ NetworkDirect ๊ฐ Enabled ( ํ์ฑํ ) ๋ก ํ์๋ฉ๋๋ค . ๊ทธ๋ฆผ 7-2. Windows PowerShell ๋ช
๋ น : Get-NetOffloadGlobalSetting iWARP ํธ๋ํฝ์ ํ์ธํ๋ ค๋ฉด 1.
7โiWARP ๊ตฌ์ฑ Windows ์์ iWARP ๊ตฌ์ฑ ๊ทธ๋ฆผ 7-3 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 7-3.
7โiWARP ๊ตฌ์ฑ Windows ์์ iWARP ๊ตฌ์ฑ iWARP ํธ๋ํฝ์ด ์คํ ์ค์ธ ๊ฒฝ์ฐ ๊ณ์๊ธฐ๊ฐ ๊ทธ๋ฆผ 7-4 ์์ ์ ํ์๋ ๊ฒ์ฒ๋ผ ๋ ํ๋ฉ๋๋ค . ๊ทธ๋ฆผ 7-4. Perfmon: iWARP ํธ๋ํฝ ํ์ธ ์ฃผ Windows ์์ Cavium RDMA ์นด์ดํฐ๋ฅผ ๋ณด๋ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ ์ 70 ํ์ด์ง์ "RDMA ์นด์ดํฐ ๋ณด๊ธฐ " ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . 4. SMB ์ฐ๊ฒฐ์ ํ์ธํ๋ ค๋ฉด ๋ช
๋ น ํ๋กฌํํธ์์ ๋ค์๊ณผ ๊ฐ์ด net use ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . a. C:\Users\Administrator> net use New connections will be remembered. Status Local Remote Network --------------------------------------------------------OK F: \\192.168.10.10\Share1 Microsoft Windows Network The command completed successfully.
7โiWARP ๊ตฌ์ฑ Linux ์์ iWARP ๊ตฌ์ฑ Kernel 56 Connection 192.168.11.20:16159 192.168.11.10:445 0 Kernel 56 Connection 192.168.11.20:15903 192.168.11.10:445 0 Kernel 60 Listener [fe80::e11d:9ab5:a47d:4f0a%56]:445 NA 0 Kernel 60 Listener 192.168.11.20:445 0 Kernel 60 Listener [fe80::71ea:bdd2:ae41:b95f%60]:445 NA 0 Kernel 60 Listener 192.168.11.20:16159 192.168.11.
7โiWARP ๊ตฌ์ฑ Linux ์์ iWARP ๊ตฌ์ฑ 2. ๋ค์ ๋ช
๋ น ๊ตฌ๋ฌธ์ผ๋ก qed ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํ์ฌ RDMA ํ๋กํ ์ฝ์ ๋ณ๊ฒฝํฉ๋ ๋ค . ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํ ๋๋ ํฌํธ ์ธํฐํ์ด์ค PCI ID(xx:xx.x) ์ RDMA ํ ๋กํ ์ฝ ๊ฐ (p) ์ ์
๋ ฅํด์ผ ํฉ๋๋ค . #modprobe -v qed rdma_protocol_map= RDMA ํ๋กํ ์ฝ (p) ๊ฐ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . ๏ฑ ๏ฑ ๏ฑ ๏ฑ 0โ ๊ธฐ๋ณธ๊ฐ ํ์ฉ (RoCE) 1โRDMA ์์ 2โRoCE 3โiWARP ์๋ฅผ ๋ค์ด 04:00.0 ์ผ๋ก ์ง์ ๋ ํฌํธ์ ์ธํฐํ์ด์ค๋ฅผ RoCE ์์ iWARP ๋ก ๋ณ๊ฒฝํ๋ ค๋ฉด ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น์ ์คํํฉ๋๋ค . #modprobe -v qed rdma_protocol_map=04:00.0-3 3. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ RDMA ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํฉ๋๋ค . #modprobe -v qedr ๋ค์ ์๋ ๋ค์์ NPAR ์ธํฐํ์ด์ค์์ RDMA ํ๋กํ ์ฝ์ iWARP ๋ก ๋ฐ๊พธ๋ ๋ช
๋ น ํญ๋ชฉ์
๋๋ค .
7โiWARP ๊ตฌ์ฑ Linux ์์ iWARP ๊ตฌ์ฑ 2. ibv_devinfo ๋ช
๋ น์ ๋ฐ๊ธํ ํ ์ ์ก ์ ํ์ ํ์ธํฉ๋๋ค . ๋ช
๋ น ์คํ์ ์ฑ๊ณตํ ๊ฒฝ์ฐ ๊ฐ PCI ๊ธฐ๋ฅ์ ๋ณ๊ฐ์ hca_id ๋ฅผ ํ์ํฉ๋๋ค . ์ ( ์ ๋์ผ ํฌํธ ์ด๋ํฐ์์ ๋ ๋ฒ์งธ ํฌํธ๋ฅผ ํ์ธํ๋ ๊ฒฝ์ฐ ): [root@localhost ~]# ibv_devinfo -d qedr1 hca_id: qedr1 transport: iWARP (1) fw_ver: 8.14.7.
7โiWARP ๊ตฌ์ฑ Linux ์์ iWARP ๊ตฌ์ฑ iWARP ์ฉ Perftest ์คํ ๋ชจ๋ perftest ๋๊ตฌ๋ iWARP ์ ์ก ์ ํ์ ๋ฐํ์ผ๋ก ์ง์๋ฉ๋๋ค . RDMA ์ฐ๊ฒฐ ๊ด๋ฆฌ ์ (-R ์ต์
์ฌ์ฉ ) ๋ฅผ ์ฌ์ฉํ์ฌ ๋๊ตฌ๋ฅผ ์คํํด์ผ ํฉ๋๋ค . ์: 1. ์๋ฒ์์ ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค ( ์ด๋ฒ ์์ ๋ ๋ฒ์งธ ํฌํธ ์ฌ์ฉ ). # ib_send_bw -d qedr1 -F -R 2. ํด๋ผ์ด์ธํธ์์ ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค ( ์ด๋ฒ ์์ ๋ ๋ฒ์งธ ํฌํธ ์ฌ์ฉ ). [root@localhost ~]# ib_send_bw -d qedr1 -F -R 192.168.11.
7โiWARP ๊ตฌ์ฑ Linux ์์ iWARP ๊ตฌ์ฑ NFS-RDMA ๊ตฌ์ฑ iWARP ์ฉ NFS-RDMA ๋ ์๋ฒ ๋ฐ ํด๋ผ์ด์ธํธ ๊ตฌ์ฑ ๋จ๊ณ๋ฅผ ๋ชจ๋ ํฌํจํฉ๋๋ค . NFS ์๋ฒ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์๋ฒ์์ NFS-RDMA ๋ฅผ ์ฌ์ฉํ์ฌ ๋ด๋ณด๋ด์ผ ํ๋ ๋๋ ํฐ๋ฆฌ์ ๋ํ /etc/exports ํ์ผ์์ ๋ค์์ ์
๋ ฅํฉ๋๋ค . /tmp/nfs-server *(fsid=0,async,insecure,no_root_squash) ๋ด๋ณด๋ด๋ ๊ฐ ๋๋ ํฐ๋ฆฌ์ ๋ํด ๋ค๋ฅธ FSID ( ํ์ผ ์์คํ
์๋ณ์ ) ๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค . 2. ๋ค์๊ณผ ๊ฐ์ด svcrdma ๋ชจ๋์ ๋ก๋ํฉ๋๋ค . # modprobe svcrdma 3. ์ด๋ค ์ค๋ฅ๋ ์์ด NFS ์๋น์ค๋ฅผ ์์ํฉ๋๋ค . # service nfs start 4. ๋ค์๊ณผ ๊ฐ์ด ๊ธฐ๋ณธ RDMA ํฌํธ 20049 ๋ฅผ ์ด ํ์ผ์ ํฌํจ์ํต๋๋ค . # echo rdma 20049 > /proc/fs/nfsd/portlist 5.
7โiWARP ๊ตฌ์ฑ Linux ์์ iWARP ๊ตฌ์ฑ ์ฃผ NFSoRDMA ์ ๊ธฐ๋ณธ ํฌํธ๋ 20049 ์
๋๋ค . ํ์ง๋ง NFS ํด๋ผ์ด์ธํธ๋ก ์ ๋ ฌ๋์ด ์๋ ๋ค๋ฅธ ํฌํธ ์ญ์ ๋ชจ๋ ์ฌ์ฉ ๊ฐ๋ฅํฉ๋๋ค . 3. mount ๋ช
๋ น์ ๋ฐ๊ธํ์ฌ ํ์ผ ์์คํ
์ด ํ์ฌ๋์๋์ง ํ์ธํฉ๋๋ค . RDMA ํฌ ํธ์ ํ์ผ ์์คํ
๋ฒ์ ์ด ์ฌ๋ฐ๋ฅธ์ง ํ์ธํฉ๋๋ค . #mount |grep rdma SLES 12 SP3, RHEL 7.4 ๋ฐ OFED 4.8x ์ iWARP RDMA-Core ์ง์ ์ฌ์ฉ์ ๊ณต๊ฐ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ธ libqedr ์ rdma-core ์ ํฌํจ๋ฉ๋๋ค . ํ์ง๋ง ์์์ค๋ธ ๋ฐ์ค libqedr ์ SLES 12 SP3, RHEL 7.4, OFED 4.8x ๋ฅผ ์ง์ํ์ง ์์ต๋๋ค . ๋ฐ๋ผ ์ ์ด๋ฌํ OS ๋ฒ์ ๋ค์ด iWARP RDMA-Core ๋ฅผ ์ง์ํ๋ ค๋ฉด ํจ์น๊ฐ ํ์ํฉ๋๋ค . iWARP RDMA-Core ํจ์น๋ฅผ ์ ์ฉํ๋ ค๋ฉด 1. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ ์ต์ RDMA-core ์์ค๋ฅผ ๋ค์ด๋ก๋ํฉ๋๋ค .
7โiWARP ๊ตฌ์ฑ Linux ์์ iWARP ๊ตฌ์ฑ ibv_ud_pingpong mckey rdma-ndd rdma_xserver rstream udaddy umad_reg2 ibacm ibv_devices ibv_srq_pingpong ibv_xsrq_pingpong rcopy rdma_server riostream srp_daemon udpong umad_register2 ํ์ฌ RDMA-core-master ์์น์์ ์ ํ๋ฆฌ์ผ์ด์
์ ์คํํฉ๋๋ค . ์ : # ./rping -c -v -C 5 -a 192.168.21.3 ping data: rdma-ping-0: ABCDEFGHIJKLMNOPQRSTUVWXYZ[\]^_`abcdefghijklmnopqr ping data: rdma-ping-1: BCDEFGHIJKLMNOPQRSTUVWXYZ[\]^_`abcdefghijklmnopqrs ping data: rdma-ping-2: CDEFGHIJKLMNOPQRSTUVWXYZ[\]^_`abcdefghijkl
8 iSER ๊ตฌ์ฑ ์ด ์ฅ์์๋ Linux(RHEL ๋ฐ SLES) ๋ฐ ESXi 6.7 ์ iSER(iSCSI Extensions for RDMA) ์ ๊ตฌ์ฑํ๋ ์ ์ฐจ๋ฅผ ์ ์ํ๋ฉฐ , ๋ค์ ์น์
์ผ๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . ๏ฎ ์์ํ๊ธฐ ์ ์ ๏ฎ RHEL ์ฉ iSER ๊ตฌ์ฑ ๏ฎ 109 ํ์ด์ง์ "SLES 12 ์ฉ iSER ๊ตฌ์ฑ " ๏ฎ 110 ํ์ด์ง์ "RHEL ๋ฐ SLES ์์ iWARP ์ ํจ๊ป iSER ์ฌ์ฉ " ๏ฎ 112 ํ์ด์ง์ "Linux ์ฑ๋ฅ ์ต์ ํ " ๏ฎ 113 ํ์ด์ง์ "ESXi 6.7 ์์ iSER ๊ตฌ์ฑ " ์์ํ๊ธฐ ์ ์ iSER ๊ตฌ์ฑ ์ค๋น๋ฅผ ํ ๋ ๋ค์ ์ฌํญ์ ๊ณ ๋ คํ์ญ์์ค . ๏ฎ iSER ์ ๋ค์ ์ด์ ์ฒด์ ์ ๊ฒฝ์ฐ ์ธ๋ฐ์ค OFED ์์๋ง ์ง์๋ฉ๋๋ค . ๏ฑ ๏ฑ RHEL 7.1 ๋ฐ 7.2 SLES 12 ๋ฐ 12 SP1 ๏ฎ I/O ํธ๋ํฝ์ ์คํํ๋ ์ค์ ๋์์ ๋ก๊ทธ์ธํ ํ์ Linux RoCE qedr ๋๋ผ์ด ๋ฒ๋ฅผ ์ธ๋ก๋ํ๋ฉด ์์คํ
๊ณผ ์ถฉ๋ํ ์ ์์ต๋๋ค .
8โiSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ RHEL ์ฉ iSER ์ ๊ตฌ์ฑํ๋ ค๋ฉด : 1. 76 ํ์ด์ง์ "RHEL ์ RoCE ๊ตฌ์ฑ " ์ ์ค๋ช
๋ ๋๋ก ์ธ๋ฐ์ค OFED ๋ฅผ ์ค์นํฉ ๋๋ค . ์์์ค๋ธ๋ฐ์ค (Out-of-box) OFED 3.18-2 GA/3.18-3 GA ๋ฒ์ ์์ ib_isert ๋ชจ๋์ ์ฌ์ฉํ ์ ์๊ธฐ ๋๋ฌธ์ iSER ์์๋ ์์์ค๋ธ๋ฐ์ค OFED ๊ฐ ์ง์๋์ง ์์ต๋๋ค . ์ธ๋ฐ์ค ib_isert ๋ชจ๋์ ์์์ค๋ธ๋ฐ์ค OFED ๋ฒ์ ๊ณผ ์๋ ํ์ง ์์ต๋๋ค . 2. 10 ํ์ด์ง์ "Linux ๋๋ผ์ด๋ฒ ์ ๊ฑฐ " ์ ์ค๋ช
๋ ๋๋ก ๊ธฐ์กด FastLinQ ๋๋ผ์ด๋ฒ ๋ฅผ ์
๋ก๋ํฉ๋๋ค . 3. 14 ํ์ด์ง์ "RDMA ์ ํจ๊ป Linux ์ค์น " ์ ์ค๋ช
๋ ๋๋ก ์ต์ FastLinQ ๋๋ผ ์ด๋ฒ์ libqedr ํจํค์ง๋ฅผ ์ค์นํฉ๋๋ค . 4. ๋ค์๊ณผ ๊ฐ์ด RDMA ์๋น์ค๋ฅผ ๋ก๋ํฉ๋๋ค .
8โiSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ ๊ทธ๋ฆผ 8-1. RDMA Ping ์ฑ๊ณต 8. Linux TCM-LIO ๋์์ ์ฌ์ฉํ์ฌ iSER ์ ํ
์คํธํ ์ ์์ต๋๋ค . ํด๋น ํฌํธ ์์ enable_iser Boolean=true ๋ช
๋ น์ ๋ฐ๊ธํ ๋๋ฅผ ์ ์ธํ๋ฉด ๋ชจ๋ iSCSI ๋์์ ๋ํ ์ค์ ์ด ๋์ผํฉ๋๋ค . ๊ทธ๋ฆผ 8-2 ์์ ํฌํธ ์ธ์คํด์ค๋ iser ๋ก ์ ๋ณ๋ฉ๋๋ค . ๊ทธ๋ฆผ 8-2.
8โiSER ๊ตฌ์ฑ RHEL ์ฉ iSER ๊ตฌ์ฑ 9. yum install iscsi-initiator-utils ๋ช
๋ น์ ์ฌ์ฉํ์ฌ Linux iSCSI ์ด๊ธฐ ์ ์ ํธ๋ฆฌํฐ๋ฅผ ์ค์นํฉ๋๋ค . a. iSER ๋์์ ๊ฒ์ํ๋ ค๋ฉด iscsiadm ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ์ : iscsiadm -m discovery -t st -p 192.168.100.99:3260 b. ์ ์ก ๋ชจ๋๋ฅผ iSER ๋ก ๋ณ๊ฒฝํ๋ ค๋ฉด iscsiadm ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ์ : iscsiadm -m node -T iqn.2015-06.test.target1 -o update -n iface.transport_name -v iser c. iSER ๋์์ ์ฐ๊ฒฐํ๊ฑฐ๋ ๋ก๊ทธ์ธํ๋ ค๋ฉด iscsiadm ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ์: iscsiadm -m node -l -p 192.168.100.99:3260 -T iqn.2015-06.test.target1 d.
8โiSER ๊ตฌ์ฑ SLES 12 ์ฉ iSER ๊ตฌ์ฑ e. ๊ทธ๋ฆผ 8-4 ์์์ ๊ฐ์ด ์ iSCSI ์ฅ์น๊ฐ ์๋์ง ํ์ธํ๋ ค๋ฉด lsscsi ๋ช
๋ น์ ๋ฐ๊ธํ์ญ์์ค . ๊ทธ๋ฆผ 8-4. ์ iSCSI ์ฅ์น๊ฐ ์๋์ง ํ์ธ SLES 12 ์ฉ iSER ๊ตฌ์ฑ targetcli ๊ฐ SLES 12.x ์์ ์ธ๋ฐ์ค๊ฐ ์๋๋ฏ๋ก ๋ค์ ์ ์ฐจ๋ฅผ ์๋ฃํด์ผ ํฉ๋๋ค . SLES 12 ์ฉ iSER ์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. targetcli ๋ฅผ ์ค์นํ๋ ค๋ฉด ISO ์ด๋ฏธ์ง์์ ๋ค์ RPM ์ ๋ณต์ฌํด ์ค์นํ์ญ์์ค (x86_64 ๋ฐ noarch ์์น ). lio-utils-4.1-14.6.x86_64.rpm python-configobj-4.7.2-18.10.noarch.rpm python-PrettyTable-0.7.2-8.5.noarch.rpm python-configshell-1.5-1.44.noarch.rpm python-pyparsing-2.0.1-4.10.noarch.rpm python-netifaces-0.8-6.55.x86_64.
8โiSER ๊ตฌ์ฑ RHEL ๋ฐ SLES ์์ iWARP ์ ํจ๊ป iSER ์ฌ์ฉ 4. targetcli ์ ํธ๋ฆฌํฐ๋ฅผ ์์ํ๊ณ iSER ๋์ ์์คํ
์์ ๋์์ ๊ตฌ์ฑํฉ๋๋ค . ์ฃผ targetcli ๋ฒ์ ์ RHEL ๊ณผ SLES ์์ ๋ค๋ฆ
๋๋ค . ์ฌ๋ฐ๋ฅธ ๋ฐฑ์คํ ์ด๋ฅผ ์ฌ ์ฉํด ๋์์ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . ๏ฎ RHEL ์ ramdisk ๋ฅผ ์ฌ์ฉํจ ๏ฎ SLES ๋ rd_mcp ๋ฅผ ์ฌ์ฉํจ RHEL ๋ฐ SLES ์์ iWARP ์ ํจ๊ป iSER ์ฌ์ฉ iWARP ์ ํจ๊ป ์๋ํ๋๋ก RoCE ์ ์ ์ฌํ iSER ์ด๊ธฐ์ ๋ฐ ๋์์ ๊ตฌ์ฑํฉ๋๋ค . ๋ค์ํ ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์ฌ Linux-IO Target(LIOโข) ์ ์์ฑํ ์ ์๋๋ฐ , ์ด ์น์
์์ ํ ๊ฐ์ง ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . SLES 12 ๋ฐ RHEL 7.x ์์๋ ๋ฒ์ ๋๋ฌธ์ targetcli ๊ตฌ ์ฑ์ ์ฐจ์ด๊ฐ ๋ฐ์ํ ์ ์์ต๋๋ค . LIO ๋์์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. targetcli ์ ํธ๋ฆฌํฐ๋ฅผ ์ฌ์ฉํ์ฌ LIO ๋์์ ์์ฑํฉ๋๋ค . ๋ค์ ๋ช
๋ น์ ์คํํฉ ๋๋ค .
8โiSER ๊ตฌ์ฑ RHEL ๋ฐ SLES ์์ iWARP ์ ํจ๊ป iSER ์ฌ์ฉ ๊ทธ๋ฆผ 8-5 ์ LIO ์ฉ ๋์ ๊ตฌ์ฑ์ ๋ณด์ฌ์ค๋๋ค . ๊ทธ๋ฆผ 8-5. LIO ๋์ ๊ตฌ์ฑ iWARP ์ด๊ธฐ์๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ํฌํธ 3261 ์ ์ฌ์ฉํ์ฌ iSER LIO ๋์์ ๊ฒ์ํ๋ ค๋ฉด ๋ค์๊ณผ ๊ฐ์ด iscsiadm ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . # iscsiadm -m discovery -t st -p 192.168.21.4:3261 -I iser 192.168.21.4:3261,1 iqn.2017-04.com.org.iserport1.target1 2. ๋ค์๊ณผ ๊ฐ์ด ์ ์ก ๋ชจ๋๋ฅผ iser ๋ก ๋ณ๊ฒฝํฉ๋๋ค . # iscsiadm -m node -o update -T iqn.2017-04.com.org.iserport1.target1 -n iface.transport_name -v iser 3. ํฌํธ 3261 ์ ์ฌ์ฉํ์ฌ ๋์์ ๋ก๊ทธ์ธํฉ๋๋ค . # iscsiadm -m node -l -p 192.168.21.
8โiSER ๊ตฌ์ฑ Linux ์ฑ๋ฅ ์ต์ ํ Linux ์ฑ๋ฅ ์ต์ ํ ์ด ์น์
์์ ์ค๋ช
ํ๋ ๋ค์ Linux ์ฑ๋ฅ ๊ตฌ์ฑ ๊ฐ์ ์ฌํญ์ ๊ณ ๋ คํ์๊ธฐ ๋ฐ๋๋๋ค . ๏ฎ ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก CPU ๊ตฌ์ฑ ๏ฎ ์ปค๋ sysctl ์ค์ ๊ตฌ์ฑ ๏ฎ IRQ Affinity ์ค์ ๊ตฌ์ฑ ๏ฎ ๋ธ๋ก ์ฅ์น ์คํ
์ด์ง ๊ตฌ์ฑ ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก CPU ๊ตฌ์ฑ ๋ชจ๋ CPU ๋ฅผ ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก ์ค์ ํ๋ ค๋ฉด ๋ค์ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํด CPU ๋ฐฐ์จ ์กฐ ์ ๊ด๋ฆฌ์๋ฅผ ๊ตฌ์ฑํ์ญ์์ค . for CPUFREQ in /sys/devices/system/cpu/cpu*/cpufreq/scaling_governor; do [ -f $CPUFREQ ] || continue; echo -n performance > $CPUFREQ; done ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํด ๋ชจ๋ CPU ์ฝ์ด๊ฐ ์ต๋ ์ฑ๋ฅ ๋ชจ๋๋ก ์ค์ ๋์ด ์๋์ง ํ์ธํ์ญ ์์ค .
8โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ IRQ Affinity ์ค์ ๊ตฌ์ฑ ๋ค์ ์์ ๋ CPU ์ฝ์ด 0, 1, 2 ๋ฐ 3 ์ ๊ฐ๊ฐ ์ธํฐ๋ฝํธ ์์ฒญ (IRQ) XX, YY, ZZ ๋ฐ XYZ ๋ก ์ค์ ํฉ๋๋ค . ํฌํธ์ ํ ๋น๋ ๊ฐ IRQ ์ ๋ํด ์ด๋ฐ ์ ์ฐจ๋ฅผ ์ํํฉ๋๋ค ( ๊ธฐ๋ณธ๊ฐ์ ํฌํธ๋น ๋๊ธฐ์ด 8 ๊ฐ ).
8โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ Interface Port Group/DVPort/Opaque Network Netmask Broadcast MAC Address IP Family IP Address MTU TSO MSS Enabled Type NetStack vmk0 Management Network 255.255.240.0 172.28.15.255 IPv4 e0:db:55:0c:5f:94 1500 172.28.12.94 65535 true DHCP defaultTcpipStack vmk0 Management Network 64 IPv6 e0:db:55:0c:5f:94 1500 fe80::e2db:55ff:fe0c:5f94 65535 true STATIC, PREFERRED defaultTcpipStack ๏ฎ iSER ๋์์ iSER ์ด๊ธฐ์์ ํต์ ํ๋๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . ESXi 6.7 ์์ iSER ๊ตฌ์ฑ ESXi 6.
8โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ esxcli network vswitch standard uplink add -u vmnic5 -v vSwitch_iser1 esxcli network vswitch standard portgroup add -p "rdma_group1" -v vSwitch_iser1 esxcli network ip interface add -i vmk1 -p "rdma_group1" esxcli network ip interface ipv4 set -i vmk1 -I 192.168.10.100 -N 255.255.255.
8โiSER ๊ตฌ์ฑ ESXi 6.7 ์์ iSER ๊ตฌ์ฑ 5. ์ฐ๊ฒฐ๋ ๋์์ ๋ค์๊ณผ ๊ฐ์ด ๋์ดํฉ๋๋ค . esxcfg-scsidevs -l mpx.vmhba0:C0:T4:L0 Device Type: CD-ROM Size: 0 MB Display Name: Local TSSTcorp CD-ROM (mpx.vmhba0:C0:T4:L0) Multipath Plugin: NMP Console Device: /vmfs/devices/cdrom/mpx.vmhba0:C0:T4:L0 Devfs Path: /vmfs/devices/cdrom/mpx.vmhba0:C0:T4:L0 Vendor: TSSTcorp SCSI Level: 5 Model: DVD-ROM SN-108BB Revis: D150 Is Pseudo: false Status: on Is RDM Capable: false Is Removable: true Is Local: true Is SSD: false Other Names: vml.
9 iSCSI ๊ตฌ์ฑ ์ด ์ฅ์์๋ ๋ค์๊ณผ ๊ฐ์ iSCSI ๊ตฌ์ฑ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ iSCSI ๋ถํธ ๏ฎ 124 ํ์ด์ง์ "iSCSI ๋ถํ
๊ตฌ์ฑ " ๏ฎ 135 ํ์ด์ง์ "DHCP ์๋ฒ๊ฐ iSCSI ๋ถํธ๋ฅผ ์ง์ํ๋๋ก ๊ตฌ์ฑ " ๏ฎ 139 ํ์ด์ง์ "Windows Server ์ iSCSI Offload" ๏ฎ 148 ํ์ด์ง์ "Linux ํ๊ฒฝ์ iSCSI Offload" ๏ฎ 163 ํ์ด์ง์ "RHEL 7.4 ์ด์์ผ ๋ SAN ์์ iSCSI ๋ถํ
๊ตฌ์ฑ " ์ฃผ ํ์ฌ ๋ฆด๋ฆฌ์ค์์ ์ผ๋ถ iSCSI ๊ธฐ๋ฅ์ ์์ ํ ์ฌ์ฉํ์ง ๋ชปํ ์๋ ์์ต๋๋ค . ์์ธํ ์ ๋ณด๋ ๋ถ๋ก D ๊ธฐ๋ฅ ์ ์ฝ ์กฐ๊ฑด์์ ํ์ธํ ์ ์์ต๋๋ค . iSCSI ๋ถํธ Cavium 4xxxx ์๋ฆฌ์ฆ GbE(Gigabit Ethernet) ์ด๋ํฐ๋ ๋์คํฌ ์๋ ์์คํ
์ ๋ํ ์ด์ ์ฒด์ ์ ๋คํธ์ํฌ ๋ถํธ๋ฅผ ์ํด iSCSI ๋ถํธ๋ฅผ ์ง์ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํธ iSCSI ๋ถํธ ์ค์ iSCSI ๋ถํธ ์ค์ ์ ๋ค์์ ํฌํจํฉ๋๋ค . ๏ฎ ๊ธฐ๋ณธ ์ค์ ๋ iSCSI ๋ถํ
๋ชจ๋ ์ ํ ๏ฎ iSCSI ๋์ ๊ตฌ์ฑ ๏ฎ iSCSI ๋ถํ
๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ ๊ธฐ๋ณธ ์ค์ ๋ iSCSI ๋ถํ
๋ชจ๋ ์ ํ ๋ถํ
๋ชจ๋ ์ต์
์ ์ด๋ํฐ์ iSCSI Configuration(iSCSI ๊ตฌ์ฑ )( ๊ทธ๋ฆผ 9-1) ์๋์ ํ์๋์ด ์๊ณ , ์ค์ ์ ํฌํธ๋ณ๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . UEFI HII ์๋์ ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ๋ฉ ๋ด์ ์ก์ธ์คํ๋ ๋ฐฉ๋ฒ์ OEM ์ฌ์ฉ ์ค๋ช
์๋ฅผ ์ฐธ์กฐํ์ญ์์ค . ๊ทธ๋ฆผ 9-1. ์์คํ
์ค์ : NIC ๊ตฌ์ฑ ์ฃผ SAN ๋ถํธ์์ ๋ถํ
๊ธฐ๋ฅ์ NPAR ๋ชจ๋์์๋ง ์ง์๋๋ฉฐ ๋ ๊ฑฐ์ BIOS ๊ฐ ์ ๋๋ผ UEFI ๋ก ๊ตฌ์ฑ๋ฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํธ iSCSI ๋์ ๊ตฌ์ฑ iSCSI ๋์ ๊ตฌ์ฑ์ ๋์ ๊ณต๊ธ์
์ฒด์ ๋ฐ๋ผ ๋ค๋ฆ
๋๋ค . iSCSI ๋์ ๊ตฌ์ฑ์ ๋ํ ์์ธ ํ ๋ด์ฉ์ ๊ณต๊ธ์
์ฒด๊ฐ ์ ๊ณตํ ์ค๋ช
์๋ฅผ ์ฐธ์กฐํ์ญ์์ค . iSCSI ๋์์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ๋ค์ ์ค์์ iSCSI ๋์์ ๊ธฐ์ค์ผ๋ก ์๋ง์ ์ ์ฐจ๋ฅผ ์ ํํฉ๋๋ค . ๏ฑ SANBlazeยฎ ๋๋ IETยฎ ๊ฐ์ ๋์์ ์ํ iSCSI ๋์์ ์์ฑํฉ๋๋ค . ๏ฑ EqualLogicยฎ ๋๋ EMCยฎ ๊ฐ์ ๋์์ ์ํ vdisk ๋๋ ๋ณผ๋ฅจ์ ์์ฑํฉ๋๋ค. 2. ๊ฐ์ ๋์คํฌ๋ฅผ ์์ฑํฉ๋๋ค . 3. ๋จ๊ณ 1 ์์ ์์ฑํ iSCSI ๋์์ ๊ฐ์ ๋์คํฌ๋ฅผ ๋งคํํฉ๋๋ค . 4. iSCSI ๋์์ iSCSI ์ด๊ธฐ์๋ฅผ ์ฐ๊ฒฐํฉ๋๋ค . ๋ค์์ ์ ๋ณด๋ฅผ ๊ธฐ๋กํฉ๋๋ค . ๏ฑ ๏ฑ ๏ฑ ๏ฑ ๏ฑ 5.
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํธ iSCSI ๋ถํ
๋งค๊ฐ๋ณ์ ๊ตฌ์ฑ QLogic iSCSI ๋ถํธ ์ํํธ์จ์ด๋ฅผ ์ ์ ๋๋ ๋์ ๊ตฌ์ฑ์ผ๋ก ๊ตฌ์ฑํฉ๋๋ค . General Parameters( ์ผ๋ฐ ๋งค๊ฐ๋ณ์ ) ์ฐฝ์์ ์ฌ์ฉ ๊ฐ๋ฅํ ๊ตฌ์ฑ ์ต์
์ IPv4 ๋ฐ IPv6 ๋ชจ๋์ ๋งค๊ฐ๋ณ์๊ฐ ๋์ด๋์ด ์๋ ํ 9-1 ์ ์ฐธ์กฐํ์ญ์์ค . IPv4 ๋๋ IPv6 ์ ์ฉ ๋งค๊ฐ๋ณ์ ๋ ๋ฐ๋ก ํ์๋์ด ์์ต๋๋ค . ์ฃผ IPv6 iSCSI ๋ถํ
์ ๊ฐ์ฉ์ฑ์ ํ๋ซํผ ๋ฐ ์ฅ์น์ ๋ฐ๋ผ ๋ค๋ฆ
๋๋ค . ํ 9-1. ๊ตฌ์ฑ ์ต์
์ต์
์ค๋ช
TCP/IP parameters via DHCP (DHCP ๋ฅผ ํตํ TCP/IP ๋งค๊ฐ๋ณ์ ) ์ด ์ต์
์ IPv4 ์ ํ์ ๋ฉ๋๋ค . iSCSI ๋ถํธ ํธ์คํธ ์ํํธ์จ์ด๊ฐ DHCP(Enabled ์ฌ์ฉ ) ๋ฅผ ํตํด IP ์ฃผ์ ์ ๋ณด๋ฅผ ํ๋ํ ์ง ๋๋ ์ ์ IP ๊ตฌ์ฑ (Disabled ์ฌ์ฉ ์ ํจ ) ์ ์ฌ์ฉํ ์ง ์ฌ๋ถ๋ฅผ ์ ์ดํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํธ ์ด๋ํฐ UEFI ๋ถํ
๋ชจ๋ ๊ตฌ์ฑ ๋ถํ
๋ชจ๋๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์์คํ
์ ๋ค์ ์์ํฉ๋๋ค . 2. System Utilities( ์์คํ
์ ํธ๋ฆฌํฐ ) ๋ฉ๋ด ( ๊ทธ๋ฆผ 9-2) ์ ์ก์ธ์คํฉ๋๋ค . ์ฃผ SAN ๋ถํ
์ UEFI ํ๊ฒฝ์์๋ง ์ง์๋ฉ๋๋ค . ์์คํ
๋ถํ
์ต์
์ด ๋ ๊ฑฐ์ ๊ฐ ์๋๋ผ UEFI ์ธ์ง ํ์ธํฉ๋๋ค . ๊ทธ๋ฆผ 9-2.
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํธ 3. System Setup( ์์คํ
์ค์ ) ์์ Device Settings( ์ฅ์น ์ค์ ) ๋ฅผ ์ ํํ ํ QLogic ์ฅ์น๋ฅผ ์ ํํฉ๋๋ค ( ๊ทธ๋ฆผ 9-3). PCI ์ฅ์น ๊ตฌ์ฑ ๋ฉ๋ด์ ์ก์ธ์คํ๋ ๋ฐฉ ๋ฒ์ OEM ์ฌ์ฉ ์ค๋ช
์๋ฅผ ์ฐธ์กฐํ์ญ์์ค . ๊ทธ๋ฆผ 9-3.
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํธ 4. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ NIC Configuration(NIC ๊ตฌ์ฑ )( ๊ทธ๋ฆผ 9-4) ์ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 9-4.
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ 5. NIC Configuration(NIC ๊ตฌ์ฑ ) ํ์ด์ง์์ ( ๊ทธ๋ฆผ 9-5) Boot Protocol( ๋ถํ
ํ ๋กํ ์ฝ ) ์ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฌ UEFI iSCSI HBA ๋ฅผ ์ ํํฉ๋๋ค (NPAR ๋ชจ๋ ํ์ ). ๊ทธ๋ฆผ 9-5. ์์คํ
์ค์ : NIC ๊ตฌ์ฑ , ๋ถํ
ํ๋กํ ์ฝ 6. ๋ค์ ๊ตฌ์ฑ ์ต์
์ค ํ๋๋ฅผ ์งํํฉ๋๋ค . ๏ฑ 124 ํ์ด์ง์ " ์ ์ iSCSI ๋ถํธ ๊ตฌ์ฑ " ๏ฑ 132 ํ์ด์ง์ " ๋์ iSCSI ๋ถํ
๊ตฌ์ฑ " iSCSI ๋ถํ
๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ์ต์
์ ๋ค์์ ํฌํจํฉ๋๋ค . ๏ฎ ์ ์ iSCSI ๋ถํธ ๊ตฌ์ฑ ๏ฎ ๋์ iSCSI ๋ถํ
๊ตฌ์ฑ ๏ฎ CHAP ์ธ์ฆ ํ์ฑํ ์ ์ iSCSI ๋ถํธ ๊ตฌ์ฑ ์ ์ ๊ตฌ์ฑ์์๋ ๋ค์์ ๋ํ ๋ฐ์ดํฐ๋ฅผ ์
๋ ฅํด์ผ ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ์ ์ ๊ตฌ์ฑ์ ์ฌ์ฉํ์ฌ iSCSI ๋ถํธ ๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ : 1. Device HII Main Configuration Page( ์ฅ์น HII ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ iSCSI Configuration (iSCSI ๊ตฌ์ฑ )( ๊ทธ๋ฆผ 9-6) ์ ์ ํํ ํ ENTER ํค๋ฅผ ๋ ๋ฆ
๋๋ค . ๊ทธ๋ฆผ 9-6. ์์คํ
์ค์ : iSCSI ๊ตฌ์ฑ 2. iSCSI Configuration(iSCSI ๊ตฌ์ฑ ) ํ์ด์ง์์ iSCSI General Parameters (iSCSI ์ผ๋ฐ ๋งค๊ฐ๋ณ์ )( ๊ทธ๋ฆผ 9-7) ๋ฅผ ์ ํํ ํ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 9-7.
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ 3. iSCSI General Parameters(iSCSI ์ผ๋ฐ ๋งค๊ฐ๋ณ์ ) ํ์ด์ง ( ๊ทธ๋ฆผ 9-8) ์์ ์ ์ชฝ ํ์ดํ ๋ฐ ์๋์ชฝ ํ์ดํ ํค๋ฅผ ๋๋ฌ ๋งค๊ฐ๋ณ์๋ฅผ ์ ํํ ํ ENTER ํค๋ฅผ ๋ ๋ฌ ๋ค์ ๊ฐ์ ์ ํํ๊ฑฐ๋ ์
๋ ฅํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ 5. iSCSI Initiator Parameters(iSCSI ์ด๊ธฐ์ ๋งค๊ฐ๋ณ์ )( ๊ทธ๋ฆผ 9-9) ๋ฅผ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 9-9. ์์คํ
์ค์ : iSCSI ์ด๊ธฐ์ ๋งค๊ฐ๋ณ์ ์ ํ 6. iSCSI Initiator Parameters(iSCSI ์ด๊ธฐ์ ๋งค๊ฐ๋ณ์ ) ํ์ด์ง ( ๊ทธ๋ฆผ 9-10) ์์ ๋ค์ ๋งค๊ฐ๋ณ์๋ฅผ ์ ํํ ํ ๊ฐ ๋งค๊ฐ๋ณ์์ ๊ฐ์ ์
๋ ฅํฉ๋๋ค . ๏ฑ IPv4* Address(IPv4* ์ฃผ์ ) ๏ฑ Subnet Mask( ์๋ธ๋ท ๋ง์คํฌ ) ๏ฑ IPv4* Default Gateway(IPv4* ๊ธฐ๋ณธ ๊ฒ์ดํธ์จ์ด ) ๏ฑ IPv4* Primary DNS(IPv4* ๊ธฐ๋ณธ DNS) ๏ฑ IPv4* Secondary DNS(IPv4* ๋ณด์กฐ DNS) ๏ฑ iSCSI Name(iSCSI ์ด๋ฆ ). ํด๋ผ์ด์ธํธ ์์คํ
์ด ์ฌ์ฉํ iSCSI ์ด๊ธฐ์ ์ด๋ฆ์ ํด๋นํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ์ฃผ ์์์ ๋ณํ (*) ๊ฐ ์๋ ํญ๋ชฉ์ ๋ํด์๋ ๋ค์ ์ฌํญ์ ์ฐธ๊ณ ํ์ญ์์ค . ๏ฎ ๋ ์ด๋ธ์ iSCSI General Parameters(iSCSI ์ผ๋ฐ ๋งค๊ฐ๋ณ์ ) ํ์ด์ง (126 ํ์ด์ง์ ๊ทธ๋ฆผ 9-8)์์ ์ค์ ๋ IP ๋ฒ์ ์ ๊ธฐ์ค์ผ๋ก IPv6 ๋๋ IPv4( ๊ธฐ๋ณธ๊ฐ ) ๋ก ๋ณ๊ฒฝ๋ฉ๋๋ค . ๏ฎ IP ์ฃผ์๋ฅผ ์ ํํ๊ฒ ์
๋ ฅํฉ๋๋ค . ์ค๋ณต๋๊ฑฐ๋ ์๋ชป๋ ์ธ๊ทธ๋จผํธ ๋๋ ๋คํธ์ํฌ ํ ๋น์ ์ฐพ์๋ด๊ธฐ ์ํด IP ์ฃผ์์์ ์ค๋ฅ๋ฅผ ํ์ธํ๋ ๊ณผ์ ์ด ์์ต๋๋ค . ๊ทธ๋ฆผ 9-10. ์์คํ
์ค์ : iSCSI ์ด๊ธฐ์ ๋งค๊ฐ๋ณ์ 7. iSCSI Configuration(iSCSI ๊ตฌ์ฑ ) ํ์ด์ง๋ก ๋์๊ฐ ๋ค์ ESC ํค๋ฅผ ๋๋ฆ
๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ 8. iSCSI First Target Parameters(iSCSI ์ผ์ฐจ ๋์ ๋งค๊ฐ๋ณ์ )( ๊ทธ๋ฆผ 9-11) ๋ฅผ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 9-11. ์์คํ
์ค์ : iSCSI ์ผ์ฐจ ๋์ ๋งค๊ฐ๋ณ์ ์ ํ 9. iSCSI First Target Parameters(iSCSI ์ผ์ฐจ ๋์ ๋งค๊ฐ๋ณ์) ํ์ด์ง์์ iSCSI ๋์์ ๋ํ Connect( ์ฐ๊ฒฐ ) ์ต์
์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . 10. iSCSI ๋์์ ๋ํด ๋ค์ ๋งค๊ฐ๋ณ์์ ๊ฐ์ ์
๋ ฅํ ํ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 9-12. ์์คํ
์ค์ : iSCSI ์ผ์ฐจ ๋์ ๋งค๊ฐ๋ณ์ 11. iSCSI Boot Configuration(iSCSI ๋ถํ
๊ตฌ์ฑ ) ํ์ด์ง๋ก ๋์๊ฐ ๋ค์ ESC ํค๋ฅผ ๋๋ฆ
๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ 12. iSCSI ์ด์ฐจ ๋์ ์ฅ์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด iSCSI Second Target Parameters (iSCSI ์ด์ฐจ ๋์ ๋งค๊ฐ๋ณ์ )( ๊ทธ๋ฆผ 9-13) ๋ฅผ ์ ํํ๊ณ ๋จ๊ณ 10 ์์์ฒ๋ผ ๋งค๊ฐ ๋ณ์ ๊ฐ์ ์
๋ ฅํฉ๋๋ค . ๊ทธ๋ ์ง ์์ผ๋ฉด ๋จ๊ณ 13 ๋ก ์งํํฉ๋๋ค . ๊ทธ๋ฆผ 9-13. ์์คํ
์ค์ : iSCSI ์ด์ฐจ ๋์ ๋งค๊ฐ๋ณ์ 13. ESC ํค๋ฅผ ํ ๋ฒ ๋๋ฅด๊ณ ์ข
๋ฃํ๋ ค๋ฉด ํ ๋ฒ ๋ ๋๋ฆ
๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ 14. ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํ๋ ค๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํ๊ณ , ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ์ ์ ์ฅํ๋ ค ๋ฉด OEM ์ง์นจ์ ๋ฐ๋ฅด์ญ์์ค . ์๋ฅผ ๋ค์ด ์ค์ ๋ณ๊ฒฝ ๋ด์ฉ์ ํ์ธํ๋ ค๋ฉด Yes ( ์ ) ๋ฅผ ํด๋ฆญํ์ญ์์ค ( ๊ทธ๋ฆผ 9-14). ๊ทธ๋ฆผ 9-14. ์์คํ
์ค์ : iSCSI ๋ณ๊ฒฝ ๋ด์ฉ ์ ์ฅ 15. ๋ชจ๋ ๋ณ๊ฒฝ ์์
์ ์ํํ ํ ์์คํ
์ ๋ค์ ๋ถํ
ํ์ฌ ๋ณ๊ฒฝ ๋ด์ฉ์ ์ด๋ํฐ์ ์คํ ์ค์ธ ๊ตฌ์ฑ์ ์ ์ฉํฉ๋๋ค . ๋์ iSCSI ๋ถํ
๊ตฌ์ฑ ๋์ ๊ตฌ์ฑ์์๋ DHCP ์๋ฒ์์ ์์คํ
IP ์ฃผ์์ ๋์ ( ๋๋ ์ด๊ธฐ์ ) ์ ๋ณด๊ฐ ์ ๊ณต๋๋์ง ํ์ธํ์ญ์์ค (135 ํ์ด์ง์ "DHCP ์๋ฒ๊ฐ iSCSI ๋ถํธ๋ฅผ ์ง์ํ๋๋ก ๊ตฌ ์ฑ " ์์ IPv4 ๋ฐ IPv6 ๊ตฌ์ฑ ์ฐธ์กฐ ). ๋ค์ ๋งค๊ฐ๋ณ์์ ๋ํ ์ค์ ์ ๋ชจ๋ ๋ฌด์๋๊ณ ์ง์ธ ํ์๊ฐ ์์ต๋๋ค ( ๋จ , IPv4 ๋ฅผ ์ํ ์ด๊ธฐ์ iSCSI ์ด๋ฆ , CHAP ID ๋ฐ IPv6 ๋ฅผ ์ํ CHAP ์ํธ๋ ์์ธ ).
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ๊ตฌ์ฑ ์ต์
์ ๋ํ ์์ธํ ๋ด์ฉ์ 120 ํ์ด์ง์ ํ 9-1 ์ ์ฐธ์กฐํ์ญ์์ค . ์ฃผ DHCP ์๋ฒ๋ฅผ ์ฌ์ฉํ ๋ DNS ์๋ฒ ํญ๋ชฉ์ DHCP ์๋ฒ์์ ์ ๊ณตํ ๊ฐ์ผ๋ก ๋ฎ ์ด์๋๋ค . ์ด ์ฌ์ ์ ๋ฌธ์ ๋ ๋ก์ปฌ๋ก ์ ๊ณต๋ ๊ฐ์ด ์ ํจํ๊ณ DHCP ์๋ฒ๊ฐ DNS ์๋ฒ ์ ๋ณด๋ฅผ ์ ๊ณตํ์ง ์๋ ๊ฒฝ์ฐ์๋ ๋ฐ์ํฉ๋๋ค . DHCP ์๋ฒ๊ฐ DNS ์๋ฒ ์ ๋ณด๋ฅผ ์ ๊ณตํ์ง ์์ผ๋ฉด ์ฃผ ๋ฐ ๋ณด์กฐ DNS ์๋ฒ ๊ฐ์ด 0.0.0.0 ์ผ๋ก ์ค์ ๋ฉ๋๋ค . Windows OS ๊ฐ ์ฌ์ฉ๋๋ฉด , Microsoft iSCSI ์ด๊ธฐ์๋ iSCSI ์ด๊ธฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ๊ฒ์ํ๊ณ ์ ์ ํ ๋ ์ง์คํธ๋ฆฌ๋ฅผ ์ ์ ์ผ๋ก ๊ตฌ์ฑํฉ๋๋ค . ์ด๋ ์ด์ ์ ๊ตฌ์ฑ๋ ๋ด์ฉ์ ๋ชจ๋ ๋ฎ์ด์๋๋ค . DHCP ๋ฐ๋ชฌ์ Windows ํ๊ฒฝ์์ ์ฌ์ฉ ์ ํ๋ก์ธ์ค๋ก ์คํ๋๋ฏ๋ก iSCSI ๋ถํธ ํ๊ฒฝ์์ ์คํ์ด ์์๋๊ธฐ ์ ์ ๋ชจ๋ TCP/IP ๋งค๊ฐ๋ณ์๋ฅผ ์ ์ ์ผ๋ก ๊ตฌ์ฑํด์ผ ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ iSCSI ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 9-15. ์์คํ
์ค์ : iSCSI ์ผ๋ฐ ๋งค๊ฐ๋ณ์ CHAP ์ธ์ฆ ํ์ฑํ CHAP ์ธ์ฆ์ด ๋์์ ํ์ฑํ๋์ด ์๋์ง ํ์ธํฉ๋๋ค . CHAP ์ธ์ฆ ์ฌ์ฉ : 1. iSCSI General Parameters(iSCSI ์ผ๋ฐ ๋งค๊ฐ๋ณ์ ) ํ์ด์ง๋ก ์ด๋ํฉ๋๋ค . 2. CHAP Authentication(CHAP ์ธ์ฆ ) ์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . 3. Initiator Parameters( ์ด๊ธฐ์ ๋งค๊ฐ๋ณ์ ) ํ๋ฉด์์ ๋ค์ ๊ฐ์ ์
๋ ฅํฉ๋๋ค . ๏ฑ CHAP ID( ์ต๋ 255 ์ ) ๏ฑ CHAP Secret(CHAP ์ํธ ) ( ์ธ์ฆ์ด ํ์ํ ๊ฒฝ์ฐ ๋ฌธ์ ์๋ 12~16 ์๊ฐ ๋์ด์ผ ํฉ๋๋ค ) 4. ESC ํค๋ฅผ ๋๋ฌ iSCSI Boot configuration(iSCSI ๋ถํ
๊ตฌ์ฑ ) ํ์ด์ง๋ก ๋์๊ฐ ๋๋ค . 5.
9โiSCSI ๊ตฌ์ฑ DHCP ์๋ฒ๊ฐ iSCSI ๋ถํธ๋ฅผ ์ง์ํ๋๋ก ๊ตฌ์ฑ 6. iSCSI First Target Parameters(iSCSI ์ผ์ฐจ ๋์ ๋งค๊ฐ๋ณ์ ) ์ฐฝ์์ iSCSI ๋ ์์ ๊ตฌ์ฑํ ๋ ์ฌ์ฉ๋๋ ๊ฐ์ ์
๋ ฅํฉ๋๋ค . ๏ฑ CHAP ID( ์๋ฐฉํฅ CHAP ์ธ ๊ฒฝ์ฐ ์ต์
) ๏ฑ CHAP Secret(CHAP ์ํธ ) ( ์ต์
์ด์ง๋ง ์๋ฐฉํฅ CHAP ์ธ ๊ฒฝ์ฐ ๋ฌธ์ ์ ๋ 12~16 ์๊ฐ ๋๊ฑฐ๋ , ํน์ ๋ ๊ธธ์ด์ผ ํฉ๋๋ค ) 7. ESC ํค๋ฅผ ๋๋ฌ iSCSI Boot configuration(iSCSI ๋ถํ
๊ตฌ์ฑ ) ํ์ด์ง๋ก ๋์๊ฐ ๋๋ค . 8. ESC ํค๋ฅผ ๋๋ฅธ ๋ค์ Save Configuration( ๊ตฌ์ฑ ์ ์ฅ ) ์ ์ ํํ์ฌ ํ์ธํฉ๋๋ค . DHCP ์๋ฒ๊ฐ iSCSI ๋ถํธ๋ฅผ ์ง์ํ๋๋ก ๊ตฌ์ฑ DHCP ์๋ฒ๋ ์ต์
๊ตฌ์ฑ ์์์ด๋ฉฐ ๋์ iSCSI ๋ถํ
๊ตฌ์ฑ ์ค์ ์ ์ํํ ๊ฒฝ์ฐ์๋ง ํ์ํฉ๋๋ค (132 ํ์ด์ง์ " ๋์ iSCSI ๋ถํ
๊ตฌ์ฑ " ์ฐธ์กฐ ).
9โiSCSI ๊ตฌ์ฑ DHCP ์๋ฒ๊ฐ iSCSI ๋ถํธ๋ฅผ ์ง์ํ๋๋ก ๊ตฌ์ฑ ํ 9-2 ์๋ DHCP Option 17 ๋งค๊ฐ๋ณ์๊ฐ ํ์๋์ด ์์ต๋๋ค . ํ 9-2. DHCP Option 17 ๋งค๊ฐ๋ณ์ ์ ์ ๋งค๊ฐ๋ณ์ ์ ์ "iscsi:" ๋ฆฌํฐ๋ด ๋ฌธ์์ด iSCSI ๋์์ IP ์ฃผ์ ๋๋ FQDN( ์ ๊ทํ๋ ๋๋ฉ์ธ ์ด๋ฆ ) ":" ๊ตฌ๋ถ ๊ธฐํธ iSCSI ๋์์ ์ก์ธ์คํ๋ ๋ฐ ์ฌ์ฉ๋๋ IP ํ๋กํ ์ฝ์
๋๋ค . ํ์ฌ๋ TCP ๋ง ์ง์๋๋ฏ๋ก ํ๋กํ ์ฝ์ 6 ์
๋๋ค . ํ๋กํ ์ฝ๊ณผ ๊ด๋ จ๋ ํฌํธ ๋ฒํธ์
๋๋ค . iSCSI ์ ํ์ค ํฌํธ ๋ฒํธ๋ 3260 ์
๋๋ค . iSCSI ๋์์์ ์ฌ์ฉํ๊ธฐ ์ํ ๋
ผ๋ฆฌ ๋จ์ ๋ฒํธ์
๋๋ค . LUN ๊ฐ์ 16 ์ง๋ฒ์ผ๋ก ํ์๋์ด์ผ ํฉ๋๋ค . ID ๊ฐ 64 ์ธ LUN ์ DHCP ์๋ฒ ์ Option 17 ๋งค๊ฐ๋ณ์ ๋ด์์ 40 ์ผ๋ก ๊ตฌ์ฑ๋์ด์ผ ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ DHCP ์๋ฒ๊ฐ iSCSI ๋ถํธ๋ฅผ ์ง์ํ๋๋ก ๊ตฌ์ฑ ํ 9-3 ์๋ DHCP Option 43 ํ์ ์ต์
์ด ํ์๋์ด ์์ต๋๋ค . ํ 9-3. DHCP Option 43 ํ์ ์ต์
์ ์ ํ์ ์ต์
201 ์ ์ ํ์ค ๋ฃจํธ ๊ฒฝ๋ก ํ์์ ์ฒซ ๋ฒ์งธ iSCSI ๋์ ์ ๋ณด "iscsi:"":"":"":"": "" 202 ํ์ค ๋ฃจํธ ๊ฒฝ๋ก ํ์์ ๋ ๋ฒ์งธ iSCSI ๋์ ์ ๋ณด "iscsi:"":"":"":"": "" 203 iSCSI ์ด๊ธฐ์ IQN DHCP Option 43 ์ ์ฌ์ฉํ๋ ค๋ฉด DHCP Option 17 ๋ณด๋ค ๋ง์ ๊ตฌ์ฑ์ด ํ์ํ์ง๋ง , ์ด ์ต์
์ ํ๋ถํ ํ๊ฒฝ๊ณผ ์ฌ๋ฌ ๊ตฌ์ฑ ์ต์
์ ์ ๊ณตํฉ๋๋ค . QLogic ์ ๋์ iSCSI ๋ถ ํ
๊ตฌ์ฑ์ ์ํํ ๋๋ DHCP Option 43 ์ ์ฌ์ฉํด์ผ ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ DHCP ์๋ฒ๊ฐ iSCSI ๋ถํธ๋ฅผ ์ง์ํ๋๋ก ๊ตฌ์ฑ IPv6 ๋ฅผ ์ํ DHCP iSCSI ๋ถํ
๊ตฌ์ฑ DHCPv6 ์๋ฒ๋ ๋ฌด์ํ ๋๋ ์ํ ์ ์ฅ IP ๊ตฌ์ฑ์ ๋น๋กฏํ ์ฌ๋ฌ ์ต์
๊ณผ ์ ๋ณด๋ฅผ DHCPv6 ํด๋ผ์ด์ธํธ์ ์ ๊ณตํ ์ ์์ต๋๋ค . iSCSI ๋ถํธ์ ๊ฒฝ์ฐ , QLogic ์ด๋ํฐ๋ ๋ค์๊ณผ ๊ฐ์ DHCP ๊ตฌ์ฑ์ ์ง์ํฉ๋๋ค . ๏ฎ DHCPv6 Option 16(DHCPv6 ์ต์
16), ๊ณต๊ธ์
์ฒด ํด๋์ค ์ต์
๏ฎ DHCPv6 Option 17(DHCPv6 ์ต์
17), ๊ณต๊ธ์
์ฒด ์ ๋ณด ์ฃผ DHCPv6 ํ์ค ๋ฃจํธ ๊ฒฝ๋ก ์ต์
์ ์์ง ์ฌ์ฉํ ์ ์์ต๋๋ค . QLogic ์ ๋์ iSCSI ๋ถํธ IPv6 ์ง์์ ๋ํด Option 16 ๋๋ Option 17 ์ ์ฌ์ฉํ ๊ฒ์ ๊ถ์ฅ ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload Option 17 ์ ๋ด์ฉ์ ๋ค์๊ณผ ๊ฐ์์ผ ํฉ๋๋ค . <2-byte Option Number 201|202|203> <2-byte length> iSCSI ๋ถํ
์ฉ VLAN ๊ตฌ์ฑ ๋คํธ์ํฌ์ iSCSI ํธ๋ํฝ์ ์ผ๋ฐ ํธ๋ํฝ๊ณผ ๋ถ๋ฆฌํ๊ธฐ ์ํด Layer 2 VLAN ์์ ๊ฒฉ๋ฆฌ ํ ์ ์์ต๋๋ค . ์ด ๊ฒฝ์ฐ ์ด๋ํฐ์์ iSCSI ์ธํฐํ์ด์ค๋ฅผ ํด๋น VLAN ์ ๋ฉค๋ฒ๋ก ๋ง ๋์ญ์์ค . iSCSI ๋ถํ
์ฉ VLAN ์ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ํฌํธ์ ๋ํ iSCSI Configuration Page(iSCSI ๊ตฌ์ฑ ํ์ด์ง ) ๋ก ์ด๋ํฉ๋๋ค . 2. iSCSI General Parameters(iSCSI ์ผ๋ฐ ๋งค๊ฐ๋ณ์ ) ๋ฅผ ์ ํํฉ๋๋ค . 3. ๊ทธ๋ฆผ 9-16 ์ ํ์๋ ๊ฒ์ฒ๋ผ , VLAN ID ๋ฅผ ์ ํํ์ฌ VLAN ๊ฐ์ ์
๋ ฅํ๊ณ ์ค ์ ํฉ๋๋ค . ๊ทธ๋ฆผ 9-16.
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload ์ฌ๋ฐ๋ฅธ iSCSI Offload ๋ผ์ด์ ์ค๊ฐ ์์ผ๋ฉด ํธ์คํธ ํ๋ก์ธ์์์ iSCSI ์ฒ๋ฆฌ๋ฅผ ์คํ ๋ก๋ํ๋๋ก iSCSI ์ง์ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ฅผ ๊ตฌ์ฑํ ์ ์์ต๋๋ค . ๋ค์ ์น์
์ ์๋ ์์คํ
์ด QLogic ์ iSCSI Offload ๊ธฐ๋ฅ์ ํ์ฉํ ์ ์๋๋ก ํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . ๏ฎ QLogic ๋๋ผ์ด๋ฒ ์ค์น ๏ฎ Microsoft iSCSI ์ด๊ธฐ์ ์ค์น ๏ฎ QLogic ์ iSCSI Offload ๋ฅผ ์ฌ์ฉํ๋๋ก Microsoft ์ด๊ธฐ์ ๊ตฌ์ฑ ๏ฎ iSCSI Offload FAQ ๏ฎ Windows Server 2012 R2 ๋ฐ 2016 iSCSI ๋ถํ
์ค์น ๏ฎ iSCSI Crash Dump QLogic ๋๋ผ์ด๋ฒ ์ค์น 17 ํ์ด์ง์ "Windows ๋๋ผ์ด๋ฒ ์ํํธ์จ์ด ์ค์น " ์ ์ค๋ช
๋ ๋๋ก Windows ๋๋ผ ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload ๊ทธ๋ฆผ 9-17. iSCSI ์ด๊ธฐ์ ์์ฑ , ๊ตฌ์ฑ ํ์ด์ง c. iSCSI Initiator Name(iSCSI ์ด๊ธฐ์ ์ด๋ฆ ) ๋ํ ์์์์ ์ ์ด๊ธฐ์ IQN ์ด๋ฆ์ ์
๋ ฅํ๊ณ OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ( ๊ทธ๋ฆผ 9-18) ๊ทธ๋ฆผ 9-18. iSCSI ์ด๊ธฐ์ ๋
ธ๋ ์ด๋ฆ ๋ณ๊ฒฝ 3. iSCSI ์ด๊ธฐ์ ์์ฑ์์ Discovery( ๊ฒ์ ) ํญ์ ํด๋ฆญํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload 4. Target portal( ๋์ ํฌํธ ) ์ Discovery( ๊ฒ์ ) ํ์ด์ง ( ๊ทธ๋ฆผ 9-19) ์์ Discover Portal( ํฌํธ ๊ฒ์ ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-19.
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload 5. Discover Target Portal( ๋์ ํฌํธ ๊ฒ์ ) ๋ํ ์์ ( ๊ทธ๋ฆผ 9-20) ์์ ๋ค์ ์ ์
์ ์ํํฉ๋๋ค . a. IP address or DNS name(IP ์ฃผ์ ๋๋ DNS ์ด๋ฆ ) ์
๋ ฅ๋์ ๋์์ IP ์ฃผ์๋ฅผ ์
๋ ฅํฉ๋๋ค . b. Advanced( ๊ณ ๊ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-20. ๋์ ํฌํธ IP ์ฃผ์ 6. Advanced Settings( ๊ณ ๊ธ ์ค์ ) ๋ํ ์์ ( ๊ทธ๋ฆผ 9-21) ์์ Connect using ( ๋ค์์ ์ฌ์ฉํ์ฌ ์ฐ๊ฒฐ ) ์๋์์ ๋ค์์ ์๋ฃํฉ๋๋ค . a. Local adapter( ๋ก์ปฌ ์ด๋ํฐ ) ์์ QLogic Adapter (QLogic < ์ด๋ฆ ๋๋ ๋ชจ๋ธ > ์ด๋ํฐ ) ๋ฅผ ์ ํํฉ๋๋ค . b. Initiator IP( ์ด๊ธฐ์ IP) ์๋ ์ด๋ํฐ IP ์ฃผ์๋ฅผ ์ ํํฉ๋๋ค . c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload ๊ทธ๋ฆผ 9-21. ์ด๊ธฐ์ IP ์ฃผ์ ์ ํ 7. iSCSI Initiator Properties(iSCSI ์ด๊ธฐ์ ์์ฑ ) ์ Discovery( ๊ฒ์ ) ํ์ด์ง์ ์ OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload 8. Targets( ๋์ ) ํญ์ ํด๋ฆญํ ๋ค์ Targets( ๋์ ) ํ์ด์ง ( ๊ทธ๋ฆผ 9-22) ์์ Connect( ์ฐ๊ฒฐ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-22.
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload 9. Connect To Target( ๋์์ ์ฐ๊ฒฐ ) ๋ํ ์์ ( ๊ทธ๋ฆผ 9-23) ์์ Advanced ( ๊ณ ๊ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 9-23. Connect To Target( ๋์์ ์ฐ๊ฒฐ ) ๋ํ ์์ 10. Local Adapter( ๋ก์ปฌ ์ด๋ํฐ ) ๋ํ ์์์์ QLogic Adapter(QLogic < ์ด๋ฆ ๋๋ ๋ชจ๋ธ > ์ด๋ํฐ ) ๋ฅผ ์ ํํ๊ณ OK( ํ์ธ ) ๋ฅผ ํด๋ฆญ ํฉ๋๋ค . 11. OK( ํ์ธ ) ๋ฅผ ๋ค์ ํด๋ฆญํ์ฌ Microsoft ์ด๊ธฐ์๋ฅผ ๋ซ์ต๋๋ค . 12. iSCSI ํํฐ์
์ ํฌ๋งทํ๋ ค๋ฉด ๋์คํฌ ๊ด๋ฆฌ์๋ฅผ ์ฌ์ฉํ์ญ์์ค . ์ฃผ ํฐ๋ฐ ๊ธฐ๋ฅ์ ์ ํ ์ฌํญ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . ๏ฎ ํ ๊ตฌ์ฑ์ iSCSI ์ด๋ํฐ๋ฅผ ์ง์ํ์ง ์์ต๋๋ค . ๏ฎ ํ ๊ตฌ์ฑ์ ๋ถํธ ๊ฒฝ๋ก์ ํฌํจ๋ NDIS ์ด๋ํฐ๋ฅผ ์ง์ํ์ง ์์ต๋๋ค .
9โiSCSI ๊ตฌ์ฑ Windows Server ์ iSCSI Offload ์ง๋ฌธ : ๋ต๋ณ : ์ฐ๊ฒฐ์ Offload ์ฌ๋ถ๋ ์ด๋ป๊ฒ ํ์ธํฉ๋๊น ? Microsoft iSCSI ์ํํธ์จ์ด ์ด๊ธฐ์๋ฅผ ์ฌ์ฉํฉ๋๋ค . ๋ช
๋ น์ค์์ oiscsicli sessionlist ๋ฅผ ์
๋ ฅํฉ๋๋ค . Initiator Name( ์ด๊ธฐ์ ์ด ๋ฆ ) ์์ iSCSI Offload ์ฐ๊ฒฐ์ด B06BDRV ๋ก ์์ํ๋ ํญ๋ชฉ์ ํ์ํฉ ๋๋ค . ๋น Offload ์ฐ๊ฒฐ์ Root ๋ก ์์ํ๋ ํญ๋ชฉ์ ํ์ํฉ๋๋ค . ์ง๋ฌธ : ๋ฌด์จ ๊ตฌ์ฑ์ ํผํด์ผ ํฉ๋๊น ? ๋ต๋ณ : IP ์ฃผ์๊ฐ LAN ๊ณผ ๋์ผํ๋ฉด ์ ๋ฉ๋๋ค . Windows Server 2012 R2 ๋ฐ 2016 iSCSI ๋ถํ
์ค์น Windows Server 2012 R2 ๋ฐ 2016 ์ Offload ๋๋ ๋น Offload ๊ฒฝ๋ก๋ฅผ ํตํ ๋ถํ
๋ฐ ์ค์น๋ฅผ ์ง์ํฉ๋๋ค . ์ต์ QLogic ๋๋ผ์ด๋ฒ๊ฐ ์ฝ์
๋ ํตํฉ ์ค์น DVD ๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 10. ์๋ฒ๊ฐ OS ๋ก ๋ถํ
ํ๋ฉด , ๋๋ผ์ด๋ฒ ์ค์น ํ๋ก๊ทธ๋จ์ ์คํํ์ฌ ๋๋ผ์ด๋ฒ ๋ฐ ์ ์ฉํ๋ก๊ทธ๋จ ์ค์น๋ฅผ ์๋ฃํ๋ ๊ฒ์ด ์ข์ต๋๋ค . iSCSI Crash Dump ํฌ๋์ ๋คํ ๊ธฐ๋ฅ์ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์์ ๋น Offload ์ Offload iSCSI ๋ถํ
์ ๋ชจ ๋ ์ง์๋ฉ๋๋ค . iSCSI ํฌ๋์ ๋คํ๋ฅผ ์์ฑํ๋ ๋ฐ ์ถ๊ฐ ๊ตฌ์ฑ์ ํ์ํ์ง ์์ต๋๋ค . Linux ํ๊ฒฝ์ iSCSI Offload QLogic FastLinQ 41xxx iSCSI ์ํํธ์จ์ด๋ qedi.ko(qedi) ๋ผ๋ ๋จ์ผ ์ปค๋ ๋ชจ๋๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . qedi ๋ชจ๋์ ๋ค์๊ณผ ๊ฐ์ด ํน์ ๊ธฐ๋ฅ์ ์ํ Linux ์ปค๋์ ์ถ๊ฐ ๋ถ๋ถ์ ์ข
์๋ฉ๋๋ค . ๏ฎ qed.ko ๋ ๊ณตํต QLogic FastLinQ 41xxx ํ๋์จ์ด ์ด๊ธฐํ ๋ฃจํด์ ์ฌ์ฉ๋๋ Linux eCore ์ปค๋ ๋ชจ๋์
๋๋ค . ๏ฎ scsi_transport_iscsi.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload bnx2i ์์ ์ฐจ์ด์ qedi(QLogic FastLinQ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์ฉ ๋๋ผ์ด๋ฒ (iSCSI)) ์ ์ด์ ์ QLogic iSCSI Offload ๋๋ผ์ด๋ฒ (QLogic 8400 ์๋ฆฌ์ฆ ์ด๋ํฐ์ฉ bnx2i) ์ฌ์ด์๋ ๋ช ๊ฐ์ง ์ฃผ์ ์ฐจ์ด์ ์ด ์์ต๋๋ค . ๊ทธ์ค ๋ช ๊ฐ์ง๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . ๏ฎ qedi ๋ CNA ์ ์ํด ๋
ธ์ถ๋๋ PCI ๊ธฐ๋ฅ์ ์ง์ ๋ฐ์ธ๋ํฉ๋๋ค . ๏ฎ qedi ๋ net_device ์์ ์์นํ์ง ์์ต๋๋ค . ๏ฎ qedi ๋ ๋คํธ์ํฌ ๋๋ผ์ด๋ฒ ( ์ : bnx2x ์ cnic) ์ ์ข
์๋์ง ์์ต๋๋ค . ๏ฎ qedi ๋ cnic ์ ์ข
์๋์ง ์์ง๋ง qed ์๋ ์ข
์๋ฉ๋๋ค . ๏ฎ qedi๋ iscsi_boot_sysfs.ko ๋ฅผ ์ฌ์ฉํ์ฌ sysfs์์ ๋ถํ
์ ๋ณด๋ฅผ ๋ด๋ณด๋ด๋ ์ญํ ์ ๋งก๋ ๋ฐ๋ฉด , bnx2i ์ SAN ์์ ๋ถํ
๊ธฐ๋ฅ์ iscsi_ibft.ko ๋ชจ๋์ ์ฌ์ฉํ์ฌ ๋ถํ
์ ๋ณด๋ฅผ ๋ด๋ณด๋
๋๋ค .
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload # lsmod | grep qedi 2. qedi 114578 2 qed 697989 1 qedi uio 19259 4 cnic,qedi libiscsi 57233 2 qedi,bnx2i scsi_transport_iscsi 99909 5 qedi,bnx2i,libiscsi iscsi_boot_sysfs 16000 1 qedi iSCSI ์ธํฐํ์ด์ค๊ฐ ์ฌ๋ฐ๋ฅด๊ฒ ๊ฐ์ง๋์๋์ง ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ ๋๋ค . ์ด ์์์๋ ๋ ๊ฐ์ iSCSI CNA ์ฅ์น๊ฐ SCSI ํธ์คํธ ๋ฒํธ 4 ์ 5 ๋ก ๊ฐ ์ง๋ฉ๋๋ค . # dmesg | grep qedi [0000:00:00.0]:[qedi_init:3696]: QLogic iSCSI Offload Driver v8.15.6.0. .... [0000:42:00.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload CGroup: /system.slice/iscsiuio.service !--3747 /usr/sbin/iscsiuio Jan 27 16:33:58 localhost.localdomain systemd[1]: Starting iSCSI UserSpace I/O driver... Jan 27 16:33:58 localhost.localdomain systemd[1]: Started iSCSI UserSpace I/O driver. 5. iSCSI ๋์์ ๊ฒ์ํ๋ ค๋ฉด iscsiadm ๋ช
๋ น์ ์คํํฉ๋๋ค . #iscsiadm -m discovery -t st -p 192.168.25.100 -I qedi.00:0e:1e:c4:e1:6c 192.168.25.100:3260,1 iqn.200304.com.sanblaze:virtualun.virtualun.target-05000007 192.168.25.100:3260,1 iqn.2003-04.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload scsi59 Channel 00 Id 0 Lun: 0 Attached scsi disk sdb State: running scsi59 Channel 00 Id 0 Lun: 1 Attached scsi disk sdc State: running scsi59 Channel 00 Id 0 Lun: 2 Attached scsi disk sdd State: running scsi59 Channel 00 Id 0 Lun: 3 Attached scsi disk sde State: running scsi59 Channel 00 Id 0 Lun: 4 Attached scsi disk sdf State: running ๊ณ ๊ธ ๋์ ๊ตฌ์ฑ์ ๋ํด์๋ ๋ค์ URL ์์ Open-iSCSI README ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . https://github.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 4. ๋์ LUN ์ OS ๋ฅผ ์ค์นํฉ๋๋ค . 5. ํด๋น ์ด์ ์ฒด์ ์ง์นจ์ ๋ฐ๋ผ ๋น ์คํ๋ก๋ ์ธํฐํ์ด์ค์์ ์คํ๋ก๋ ์ธํฐํ์ด ์ค๋ก ๋ง์ด๊ทธ๋ ์ด์
ํฉ๋๋ค . ๏ฑ SAN ๋ง์ด๊ทธ๋ ์ด์
์์ RHEL 6.9 iSCSI L4 ๋ถํ
๏ฑ SAN ๋ง์ด๊ทธ๋ ์ด์
์์ RHEL 7.2/7.3 iSCSI L4 ๋ถํ
๏ฑ SAN ๋ง์ด๊ทธ๋ ์ด์
์์ SLES 11 SP4 iSCSI L4 ๋ถํ
๏ฑ SAN ๋ง์ด๊ทธ๋ ์ด์
์์ SLES 12 SP1/SP2 iSCSI L4 ๋ถํ
๏ฑ MPIO ๋ฅผ ์ด์ฉํด SAN ๋ง์ด๊ทธ๋ ์ด์
์์ SLES 12 SP1/SP2 iSCSI L4 ๋ถํ
SAN ๋ง์ด๊ทธ๋ ์ด์
์์ RHEL 6.9 iSCSI L4 ๋ถํ
๋น ์คํ๋ก๋ ์ธํฐํ์ด์ค์์ ์คํ๋ก๋ ์ธํฐํ์ด์ค๋ก ๋ง์ด๊ทธ๋ ์ด์
ํ๋ ค๋ฉด 1. iSCSI ๋น ์คํ๋ก๋ / L2 SAN ์์ ๋ถํ
์ด์ ์ฒด์ ๋ก ๋ถํ
ํฉ๋๋ค . ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ open-iscsi ๋ฐ iscsiuio RPM ์ ์ค์นํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload ์: ###################### # iscsid daemon config ###################### # If you want iscsid to start the first time a iscsi tool # needs to access it, instead of starting it when the init # scripts run, set the iscsid startup command here. This # should normally only need to be done by distro package # maintainers. # # Default for Fedora and RHEL. (uncomment to activate). #iscsid.startup = /etc/rc.d/init.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 6. /boot/efi/EFI/redhat/grub.conf ํ์ผ์ ํธ์งํด ๋ค์๊ณผ ๊ฐ์ด ๋ณ๊ฒฝํ ํ ํ์ผ์ ์ ์ฅํฉ๋๋ค . ๏ฑ ๏ฑ ๏ฑ ifname=eth5:14:02: ์ ์ ๊ฑฐํฉ๋๋ค .ec:ce:dc:6d ip=ibft ๋ฅผ ์ ๊ฑฐํฉ๋๋ค . selinux=0 ์ ์ถ๊ฐํฉ๋๋ค . ์: kernel /vmlinuz-2.6.32-696.el6.x86_64 ro root=/dev/mapper/vg_prebooteit-lv_root rd_NO_LUKS iscsi_firmware LANG=en_US.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 11. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Boot Protocol( ๋ถํ
ํ๋กํ ์ฝ ) ์ UEFI iSCSI HBA ๋ก ์ค์ ํฉ๋๋ค . 12. ๊ตฌ์ฑ์ ์ ์ฅํ๊ณ ์๋ฒ๋ฅผ ๋ค์ ๋ถํ
ํฉ๋๋ค . ์ฃผ ์ด์ ๋ OS ๊ฐ ์คํ๋ก๋ ์ธํฐํ์ด์ค๋ฅผ ํตํด ๋ถํ
ํ ์ ์์ต๋๋ค . SAN ๋ง์ด๊ทธ๋ ์ด์
์์ RHEL 7.2/7.3 iSCSI L4 ๋ถํ
๋น ์คํ๋ก๋ ์ธํฐํ์ด์ค์์ ์คํ๋ก๋ ์ธํฐํ์ด์ค๋ก ๋ง์ด๊ทธ๋ ์ด์
ํ๋ ค๋ฉด 1. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ open-iscsi ๋๊ตฌ์ iscsiuio ๋ฅผ ์
๋ฐ์ดํธํฉ๋๋ค . #rpm -ivh qlgc-open-iscsi-2.0_873.111.rhel7u3-3.x86_64.rpm --force #rpm -ivh iscsiuio-2.11.5.3-2.rhel7u3.x86_64.rpm --force 2. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ ๋ชจ๋ ๋ฐ๋ชฌ ์๋น์ค๋ฅผ ๋ค์ ๋ก๋ํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 7. /usr/libexec/iscsi-mark-root-node ํ์ผ์ ํธ์งํ๊ณ ๋ค์ ๋ฌธ์ ์ฐพ์ต๋ ๋ค. if [ "$transport" = bnx2i ]; then start_iscsiuio=1 ๋ค์๊ณผ ๊ฐ์ด IF ์์ || [ "$transport" = qedi ] ๋ฅผ ์ถ๊ฐํฉ๋๋ค . if [ "$transport" = bnx2i ] || [ "$transport" = qedi ]; then start_iscsiuio=1 8. /etc/default/grub ํ์ผ์ ํธ์งํ๊ณ ๋ค์ ๋ฌธ์ ์ฐพ์ต๋๋ค . GRUB_CMDLINE_LINUX="iscsi_firmware ip=ibft" ์ด ๋ฌธ์ ๋ค์ ๋ฌธ์ผ๋ก ๋ณ๊ฒฝํฉ๋๋ค . GRUB_CMDLINE_LINUX="rd.iscsi.firmware" 9. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ ์ grub.cfg ํ์ผ์ ์์ฑํฉ๋๋ค . # grub2-mkconfig -o /boot/efi/EFI/redhat/grub.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 15. ๊ตฌ์ฑ์ ์ ์ฅํ๊ณ ์๋ฒ๋ฅผ ๋ค์ ๋ถํ
ํฉ๋๋ค . ์ฃผ ์ด์ ๋ OS ๊ฐ ์คํ๋ก๋ ์ธํฐํ์ด์ค๋ฅผ ํตํด ๋ถํ
ํ ์ ์์ต๋๋ค . SAN ๋ง์ด๊ทธ๋ ์ด์
์์ SLES 11 SP4 iSCSI L4 ๋ถํ
๋น ์คํ๋ก๋ ์ธํฐํ์ด์ค์์ ์คํ๋ก๋ ์ธํฐํ์ด์ค๋ก ๋ง์ด๊ทธ๋ ์ด์
ํ๋ ค๋ฉด 1. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ open-iscsi ๋๊ตฌ์ iscsiuio ๋ฅผ ์ต์ ๋ฒ์ ์ผ๋ก ์
๋ฐ์ดํธ ํฉ๋๋ค . # rpm -ivh qlgc-open-iscsi-2.0_873.111.sles11sp4-3.x86_64.rpm --force # rpm -ivh iscsiuio-2.11.5.3-2.sles11sp4.x86_64.rpm --force 2. /etc/elilo.conf ํ์ผ์ ํธ์งํ๊ณ ๋ค์๊ณผ ๊ฐ์ด ๋ณ๊ฒฝํ ํ ํ์ผ์ ์ ์ฅํฉ ๋๋ค . 3. ๏ฑ ip=ibft ๋งค๊ฐ๋ณ์ ( ์๋ ๊ฒฝ์ฐ ) ๋ฅผ ์ญ์ ํฉ๋๋ค . ๏ฑ iscsi_firmware ๋ฅผ ์ถ๊ฐํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 8. HII ์์ iSCSI ์คํ๋ก๋ ๋ชจ๋๋ฅผ ํ์ฑํํฉ๋๋ค . a. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ System Setup( ์์คํ
์ค ์ ), Device Settings( ์ฅ์น ์ค์ ) ๋ฅผ ์ ํํฉ๋๋ค . b. Device Settings( ์ฅ์น ์ค์ ) ํ์ด์ง์์ iSCSI ๋ถํ
ํ์จ์ด ํ
์ด๋ธ (iBFT) ์ด ๊ตฌ์ฑ๋ ํฌํธ๋ฅผ ์ ํํฉ๋๋ค . c. System Setup( ์์คํ
์ค์ ) ํ์ด์ง์์ NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ์ฑ ), Partition 3 Configuration( ํํฐ์
3 ๊ตฌ์ฑ ) ์ ์ ํํฉ๋๋ค . d. Partition 3 Configuration( ํํฐ์
3 ๊ตฌ์ฑ ) ํ์ด์ง์์ iSCSI Offload Mode(iSCSI Offload ๋ชจ๋ ) ๋ฅผ Eabled( ํ์ฑํ ) ๋ก ์ค์ ํฉ๋๋ค . 9.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 4. ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . cat /proc/cmdline 5. OS ๊ฐ ip=ibft ๋๋ rd.iscsi.ibft ๊ฐ์ ๋ถํ
์ต์
์ ๋ณด์กดํด์๋์ง ํ์ธ ํฉ๋๋ค . ๏ฑ ๏ฑ 6. ๋ณด์กด๋ ๋ถํ
์ต์
์ด ์์ผ๋ฉด ๋จ๊ณ 6 ๋ก ๊ณ์ ์งํํฉ๋๋ค . ๋ณด์กด๋ ๋ถํ
์ต์
์ด ์์ผ๋ฉด ๋จ๊ณ 6 c ๋ก ๊ฑด๋๋๋๋ค . /etc/default/grub ํ์ผ์ ํธ์งํ๊ณ GRUB_CMDLINE_LINUX ๊ฐ์ ์์ ํฉ ๋๋ค . a. rd.iscsi.ibft( ์๋ ๊ฒฝ์ฐ ) ๋ฅผ ์ ๊ฑฐํฉ๋๋ค . b. ๋ชจ๋ ip= ๋ถํ
์ต์
์ ์ ๊ฑฐํฉ๋๋ค . ( ์๋ ๊ฒฝ์ฐ ) c. rd.iscsi.firmware ๋ฅผ ์ถ๊ฐํฉ๋๋ค . ์ด์ distros ์ iscsi_firmware ๋ฅผ ์ถ๊ฐํฉ๋๋ค . 7. 8. ์๋ณธ grub.cfg ํ์ผ์ ๋ฐฑ์
์ ์์ฑํฉ๋๋ค . ํ์ผ์ ์๋์ ์์น์ ์์ต๋๋ค . ๏ฑ ๋ ๊ฑฐ์ ๋ถํ
: /boot/grub2/grub.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 14. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ iSCSI General Parameters (iSCSI ์ผ๋ฐ ๋งค๊ฐ๋ณ์ ) ๋ฅผ ์ ํํ ํ HBA Boot Mode(HBA ๋ถํ
๋ชจ๋ ) ๋ฅผ Enabled( ํ์ฑํ ) ๋ก ์ค์ ํฉ๋๋ค . 15. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Boot Protocol( ๋ถํ
ํ๋กํ ์ฝ ) ์ UEFI iSCSI HBA ๋ก ์ค์ ํฉ๋๋ค . 16. ๊ตฌ์ฑ์ ์ ์ฅํ๊ณ ์๋ฒ๋ฅผ ๋ค์ ๋ถํ
ํฉ๋๋ค . ์ฃผ ์ด์ ๋ OS ๊ฐ ์คํ๋ก๋ ์ธํฐํ์ด์ค๋ฅผ ํตํด ๋ถํ
ํ ์ ์์ต๋๋ค . MPIO ๋ฅผ ์ด์ฉํด SAN ๋ง์ด๊ทธ๋ ์ด์
์์ SLES 12 SP1/SP2 iSCSI L4 ๋ถํ
L2 ์์ L4 ๋ก ๋ง์ด๊ทธ๋ ์ด์
ํ๊ณ MPIO(Microsoft Multipath I/O) ์ค์ ์ ๊ตฌ์ฑํ ์ฌ ์คํ๋ก๋๋ ์ธํฐํ์ด์ค๋ฅผ ํตํด OS ๋ฅผ ๋ถํ
ํ๋ ค๋ฉด 1.
9โiSCSI ๊ตฌ์ฑ Linux ํ๊ฒฝ์ iSCSI Offload 8. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ ๋ค์ค ๊ฒฝ๋ก ๋ชจ๋์ initrd ์ ์ฝ์
ํฉ๋๋ค . dracut --force --add multipath --include /etc/multipath 9. ์๋ฒ๋ฅผ ์ฌ๋ถํ
ํ์ฌ POST ๋ฉ๋ด์์ F9 ํค๋ฅผ ๋๋ฌ ์์คํ
์ค์ ์ผ๋ก ์ ํํฉ ๋๋ค . 10. L4 iSCSI ๋ถํ
์ ์ฌ์ฉํ๋๋ก UEFI ๊ตฌ์ฑ์ ๋ค์๊ณผ ๊ฐ์ด ๋ณ๊ฒฝํฉ๋๋ค . 11. a. System Setup( ์์คํ
์ค์ ) ์ฐฝ์ ์ด๊ณ Device Settings( ์ฅ์น ์ค์ ) ๋ฅผ ์ ํํฉ๋๋ค . b. Device Settings( ์ฅ์น ์ค์ ) ์ฐฝ์์ iSCSI ๋ถํ
ํ์จ์ด ํ
์ด๋ธ (iBFT) ์ด ๊ตฌ์ฑ๋ ์ด๋ํฐ ํฌํธ๋ฅผ ์ ํํ ํ , ENTER ๋ฅผ ๋๋ฆ
๋๋ค . c. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ NIC Partitioning Configuration(NIC ๋ถํ ๊ตฌ์ฑ ) ์ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค .
9โiSCSI ๊ตฌ์ฑ RHEL 7.4 ์ด์์ผ ๋ SAN ์์ iSCSI ๋ถํ
๊ตฌ์ฑ brokenmodules=-qed,qedi,qedf brokenmodules=dummy_xxx 12. ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค . ์ด๋ฒ์๋ OS ๊ฐ ์คํ๋ก๋ ์ธํฐํ์ด์ค๋ฅผ ํตํด ๋ถํ
๋์ด์ผ ํฉ๋๋ค . RHEL 7.4 ์ด์์ผ ๋ SAN ์์ iSCSI ๋ถํ
๊ตฌ์ฑ RHEL 7.4 ์ด์์ ์ค์นํ๋ ค๋ฉด 1. UEFI ์์ iSCSI ๋์์ด ์ฐ๊ฒฐ๋์ด ์์ ๋ RHEL 7.x ์ค์น ๋ฏธ๋์ด์์ ๋ถํ
ํฉ๋๋ค . Install Red Hat Enterprise Linux 7.x Test this media & install Red Hat Enterprise 7.x Troubleshooting --> Use the UP and DOWN keys to change the selection Press โeโ to edit the selected item or โcโ for a command prompt 2.
9โiSCSI ๊ตฌ์ฑ RHEL 7.4 ์ด์์ผ ๋ SAN ์์ iSCSI ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 9-24. ์์์ค๋ธ๋ฐ์ค ์ค์น ํ๋กฌํํธ 6. ์ค์ ํ๋ ๋ฐ ํ์ํ์ฌ ์ถ๊ฐ ๋๋ผ์ด๋ฒ ๋์คํฌ๋ฅผ ๋ฌป๋ ๊ฒฝ์ฐ์๋ FastLinQ ๋๋ผ ์ด๋ฒ ์
๋ฐ์ดํธ ๋์คํฌ๋ฅผ ๋ก๋ํฉ๋๋ค. ๊ทธ๋ ์ง ์๊ณ ์ค์นํ ๋๋ผ์ด๋ฒ ์
๋ฐ์ดํธ ๋์คํฌ๊ฐ ์๋ ๊ฒฝ์ฐ์๋ c ๋ฅผ ์
๋ ฅํฉ๋๋ค . 7. ์ค์น๋ฅผ ๊ณ์ ํฉ๋๋ค . ๋ฏธ๋์ด ํ
์คํธ๋ ๊ฑด๋๋ฐ์ด๋ ์ข์ต๋๋ค . Next( ๋ค์ ) ์ ํด๋ฆญํ์ฌ ์ค์น๋ฅผ ๊ณ์ ํฉ๋๋ค . 8. Configuration( ๊ตฌ์ฑ ) ์ฐฝ ( ๊ทธ๋ฆผ 9-25) ์์ ์ค์น ํ๋ก์ธ์ค์ ์ฌ์ฉํ ์ธ์ด๋ฅผ ์ ํํ ๋ค์ Continue( ๊ณ์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
9โiSCSI ๊ตฌ์ฑ RHEL 7.4 ์ด์์ผ ๋ SAN ์์ iSCSI ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 9-25. Red Hat Enterprise Linux 7.4 ๊ตฌ์ฑ 9. Installation Summary( ์ค์น ์์ฝ ) ์ฐฝ์์ Installation Destination( ์ค์น ๋ ์ ) ์ ํด๋ฆญํฉ๋๋ค . ๋์คํฌ ๋ ์ด๋ธ์ ๋จ์ผ ๊ฒฝ๋ก ์ค์น๋ฅผ ๋ํ๋ด๋ sda ์
๋๋ค . ๋ค์ค ๊ฒฝ๋ก๋ฅผ ๊ตฌ์ฑํ๋ค๋ฉด ๋์คํฌ์ ์ฅ์น ๋งคํผ ๋ ์ด๋ธ์ด ์์ต๋๋ค . 10. Specialized & Network Disks( ์ ์ฉ ๋ฐ ๋คํธ์ํฌ ๋์คํฌ ) ์น์
์์ iSCSI LUN ์ ์ ํํฉ๋๋ค . 11. ๋ฃจํธ ์ฌ์ฉ์์ ์ํธ๋ฅผ ์
๋ ฅํ๊ณ Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํ์ฌ ์ค์น๋ฅผ ๋ง์นฉ๋๋ค . 12. ์ฒซ ๋ฒ์งธ ๋ถํ
๋์ค ๋ค์ ์ปค๋ ๋ช
๋ น์ค์ ์
๋ ฅํด ์
ธ๋ก ๋๋๋๋ค . rd.iscsi.firmware rd.break=pre-pivot rd.driver.pre=qed,qede, qedr,qedf,qedi selinux=0 13.
9โiSCSI ๊ตฌ์ฑ RHEL 7.4 ์ด์์ผ ๋ SAN ์์ iSCSI ๋ถํ
๊ตฌ์ฑ 16. ์๋ฒ๋ฅผ ์ฌ๋ถํ
ํ ๋ค์ ๋ช
๋ น์ค์ ๋ค์ ๋งค๊ฐ๋ณ์๋ฅผ ์ถ๊ฐํฉ๋๋ค . rd.iscsi.firmware rd.driver.pre=qed,qedi ( ๋ชจ๋ ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํ๋ ค๋ฉด pre=qed,qedi,qedi,qedf) selinux=0 17. ์์คํ
์ด ๋ถํ
๋๋ฉด /etc/modprobe.d/anaconda-blacklist.conf ํ์ผ์ ํธ์งํด ์ ํํ ๋๋ผ์ด๋ฒ์ ๋ธ๋๋ฆฌ์คํธ ํญ๋ชฉ์ ์ญ์ ํฉ๋๋ค . 18. dracut -f ๋ช
๋ น์ ์คํํ์ฌ ๋จ๋์คํฌ๋ฅผ ๋ค์ ๋น๋ํ ํ ์ฌ๋ถํ
ํฉ๋๋ค .
10 FCoE ๊ตฌ์ฑ ์ด ์ฅ์์๋ ๋ค์๊ณผ ๊ฐ์ FCoE(Fibre Channel over Ethernet) ๊ตฌ์ฑ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ ๋๋ค . ๏ฎ SAN ์์ FCoE ๋ถํ
๏ฎ 175 ํ์ด์ง์ " ์ด๋ํฐ ๋๋ผ์ด๋ฒ๋ฅผ Windows ์ด๋ฏธ์ง ํ์ผ๋ก ์ฝ์
( ํตํฉ ์ค์น )" ๏ฎ 176 ํ์ด์ง์ "Linux FCoE Offload ๊ตฌ์ฑ " ๏ฎ 176 ํ์ด์ง์ "qedf ์ bnx2fc ์ ์ฐจ์ด์ " ๏ฎ 177 ํ์ด์ง์ "qedf.ko ๊ตฌ์ฑ " ๏ฎ 178 ํ์ด์ง์ "Linux ์์ FCoE ์ฅ์น ํ์ธ " ๏ฎ 179 ํ์ด์ง์ "RHEL 7.4 ์ด์์ผ ๋ SAN ์์ FCoE ๋ถํ
๊ตฌ์ฑ " ์ฃผ FCoE Offload ๋ ๋ชจ๋ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์์ ์ง์๋ฉ๋๋ค . ํ์ฌ ๋ฆด๋ฆฌ์ค์ ์ ์ผ๋ถ FCoE ๊ธฐ๋ฅ์ ์์ ํ ์ฌ์ฉํ์ง ๋ชปํ ์๋ ์์ต๋๋ค . ์์ธํ ์ ๋ณด๋ ๋ถ๋ก D ๊ธฐ๋ฅ ์ ์ฝ ์กฐ๊ฑด์์ ํ์ธํ ์ ์์ต๋๋ค .
10โFCoE ๊ตฌ์ฑ SAN ์์ FCoE ๋ถํ
FCoE ๊ตฌ์ถ ๋ฐ ๋ถํธ๋ฅผ ์ํ ์์คํ
BIOS ์ค๋น ์์คํ
BIOS ๋ฅผ ์ค๋นํ๊ธฐ ์ํด , ์์คํ
๋ถํธ ์์๋ฅผ ์์ ํ๊ณ ํ์ํ ๊ฒฝ์ฐ BIOS ๋ถํธ ํ๋กํ ์ฝ์ ์ง์ ํฉ๋๋ค . BIOS ๋ถํธ ํ๋กํ ์ฝ ์ง์ SAN ์์์ FCoE ๋ถํ
์ UEFI ๋ชจ๋์์๋ง ์ง์๋ฉ๋๋ค . ์์คํ
BIOS ๊ตฌ์ฑ์ ์ฌ ์ฉํ์ฌ ๋ถํ
๋ชจ๋ ( ํ๋กํ ์ฝ ) ์์ ํ๋ซํผ์ UEFI ๋ก ์ค์ ํฉ๋๋ค . ์ฃผ FCoE BFS ๋ ๊ธฐ์กด BIOS ๋ชจ๋์์ ์ง์๋์ง ์์ต๋๋ค . ์ด๋ํฐ UEFI ๋ถํ
๋ชจ๋ ๊ตฌ์ฑ ๋ถํ
๋ชจ๋๋ฅผ FCOE ๋ก ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์์คํ
์ ๋ค์ ์์ํฉ๋๋ค . 2. OEM ํซ ํค๋ฅผ ๋๋ฌ System Setup( ์์คํ
์ค์ ) ์ผ๋ก ๋ค์ด๊ฐ๋๋ค ( ๊ทธ๋ฆผ 10-1). ์ด๋ UEFI HII ๋ก๋ ์๋ ค์ ธ ์์ต๋๋ค . ๊ทธ๋ฆผ 10-1. ์์คํ
์ค์ : ์ฅ์น ์ค์ ์ ํ ์ฃผ SAN ๋ถํ
์ UEFI ํ๊ฒฝ์์๋ง ์ง์๋ฉ๋๋ค . ์์คํ
๋ถํ
์ต์
์ด ๋ ๊ฑฐ์ ๊ฐ ์๋๋ผ UEFI ์ธ์ง ํ์ธํฉ๋๋ค .
10โFCoE ๊ตฌ์ฑ SAN ์์ FCoE ๋ถํ
3. Device Settings( ์ฅ์น ์ค์ ) ํ์ด์ง์์ QLogic ์ฅ์น๋ฅผ ์ ํํฉ๋๋ค ( ๊ทธ๋ฆผ 10-2). ๊ทธ๋ฆผ 10-2.
10โFCoE ๊ตฌ์ฑ SAN ์์ FCoE ๋ถํ
4. Main Configuration Page( ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ NIC Configuration(NIC ๊ตฌ์ฑ )( ๊ทธ๋ฆผ 10-3) ์ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ๊ทธ๋ฆผ 10-3.
10โFCoE ๊ตฌ์ฑ SAN ์์ FCoE ๋ถํ
5. NIC Configuration(NIC ๊ตฌ์ฑ ) ํ์ด์ง์์ Boot Mode( ๋ถํ
๋ชจ๋ ) ๋ฅผ ์ ํํ ๋ค์ ENTER ํค๋ฅผ ๋๋ฌ FCoE ๋ฅผ ๊ธฐ๋ณธ ์ค์ ๋ถํ
๋ชจ๋๋ก ์ ํํฉ๋๋ค . ์ฃผ FCoE Mode(FCoE ๋ชจ๋ ) ๊ธฐ๋ฅ์ด ํฌํธ ๋ ๋ฒจ์์ ๋นํ์ฑํ๋์ด ์๋ ๊ฒฝ์ฐ FCoE ๊ฐ ๋ถํ
์ต์
์ผ๋ก ํ์๋์ง ์์ต๋๋ค . ๊ธฐ๋ณธ ์ค์ ๋ ๋ถํ
๋ชจ๋๊ฐ FCoE ์ธ ๊ฒฝ์ฐ FCoE Mode(FCoE ๋ชจ๋ ) ๊ธฐ๋ฅ์ด ๊ทธ๋ฆผ 10-4 ์ ํ์๋ ๊ฒ์ฒ๋ผ ํ์ฑํ ๋์ด ์๋์ง ํ์ธํ์ญ์์ค . ์ผ๋ถ ์ด๋ํฐ ๋ฒ์ ์ FCoE ๋ฅผ ์ง์ํ์ง ์์ต๋๋ค . ๊ทธ๋ฆผ 10-4. ์์คํ
์ค์ : FCoE ๋ชจ๋ ํ์ฑํ FCoE ๋ถํ
๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. Device HII Main Configuration Page( ์ฅ์น HII ๊ธฐ๋ณธ ๊ตฌ์ฑ ํ์ด์ง ) ์์ FCoE Configuration(FCoE ๊ตฌ์ฑ ) ์ ์ ํํ ํ ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . 2.
10โFCoE ๊ตฌ์ฑ SAN ์์ FCoE ๋ถํ
๏ฑ LUN Busy Retry Count(LUN ์ฌ์ฉ ์ค ์ฌ์๋ ํ์ ): ๊ธฐ๋ณธ๊ฐ ๋๋ ํ์ ์ ๋ฐ๋ผ ๋ค๋ฆ ๊ทธ๋ฆผ 10-5. ์์คํ
์ค์ : FCoE ์ผ๋ฐ ๋งค๊ฐ๋ณ์ 4. FCoE Configuration(FCoE ๊ตฌ์ฑ ) ํ์ด์ง๋ก ๋์๊ฐ๋๋ค . 5. ESC ํค๋ฅผ ๋๋ฅธ ๋ค์ FCoE Target Parameters(FCoE ๋์ ๋งค๊ฐ๋ณ์ ) ๋ฅผ ์ ํํฉ๋๋ค . 6. ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . 7. FCoE Target Parameters Menu(FCoE ๋์ ๋งค๊ฐ๋ณ์ ๋ฉ๋ด ) ์์ ๊ธฐ๋ณธ ์ค์ FCoE ๋์์ ๋ํ Connect( ์ฐ๊ฒฐ ) ๋ฅผ ํ์ฑํํฉ๋๋ค . 8. iSCSI ๋์์ ๋ํด ๋ค์ ๋งค๊ฐ๋ณ์ ( ๊ทธ๋ฆผ 10-6) ์ ๊ฐ์ ์
๋ ฅํ ํ ENTER ํค ๋ฅผ ๋๋ฆ
๋๋ค . ๏ฑ ๏ฑ ์๋ ์์ด๋ ํฌํธ ์ด๋ฆ ๋์ n ๋ถํ
LUN n n ์ ๊ฐ์ด 1 ๊ณผ 8 ์ฌ์ด์ธ ๊ฒฝ์ฐ 8 ๊ฐ์ FCoE ๋์์ ๊ตฌ์ฑํ ์ ์์ต๋๋ค .
10โFCoE ๊ตฌ์ฑ SAN ์์ FCoE ๋ถํ
๊ทธ๋ฆผ 10-6. ์์คํ
์ค์ : FCoE ์ผ๋ฐ ๋งค๊ฐ๋ณ์ SAN ์์ Windows FCoE ๋ถํ
Windows ์ฉ SAN ์์ FCoE ๋ถํ
์ ๋ณด์๋ ๋ค์์ด ํฌํจ๋ฉ๋๋ค . ๏ฎ Windows Server 2012 R2 ๋ฐ 2016 FCoE ๋ถํธ ์ค์น ๏ฎ FCoE ๊ตฌ์ฑ ๏ฎ FCoE ํฌ๋์ ๋คํ Windows Server 2012 R2 ๋ฐ 2016 FCoE ๋ถํธ ์ค์น SAN ์ ํตํ Windows Server 2012R2/2016 ๋ถํธ๋ฅผ ์ค์นํ ๊ฒฝ์ฐ , ์ต์ QLogic ๋ ๋ผ์ด๋ฒ๊ฐ ์ฝ์
๋ " ํตํฉ ์ค์น " DVD ๋๋ ISO ์ด๋ฏธ์ง๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค . 175 ํ์ด ์ง์ " ์ด๋ํฐ ๋๋ผ์ด๋ฒ๋ฅผ Windows ์ด๋ฏธ์ง ํ์ผ๋ก ์ฝ์
( ํตํฉ ์ค์น )" ์น์
์ ์ฐธ์กฐ ํ์ญ์์ค . ๋ค์์ FCoE ๋ชจ๋๋ฅผ ํตํ ์ค์น ๋ฐ ๋ถํ
์ฉ ์ด๋ฏธ์ง๋ฅผ ์ค๋นํ๋ ์ ์ฐจ์
๋๋ค . Windows Server 2012R2/2016 FCoE ๋ถํ
์ ์ค์นํ๋ ค๋ฉด 1.
10โFCoE ๊ตฌ์ฑ SAN ์์ FCoE ๋ถํ
4. ์๊ฒฉ ์ฅ์น๋ก๋ถํฐ ์ฐ๊ฒฐ์ ํ์ฉํ๋๋ก FCoE ๋์์ ๊ตฌ์ฑํฉ๋๋ค . ๋์์์ ์ ๋ก์ด OS ์ค์น๋ฅผ ์ํ ๋์คํฌ ๊ณต๊ฐ์ด ์ถฉ๋ถํ์ง ํ์ธํฉ๋๋ค . 5. ํ์ํ ์ด๋ํฐ ํฌํธ , ์ฌ๋ฐ๋ฅธ ์ด๊ธฐ์ , FCoE ๋ถํ
์ ์ํ ๋์ ๋งค๊ฐ๋ณ์์ FCoE ๋ถํ
์ ํ์ ์ค์ ํ๋๋ก UEFI HII ๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . 6. ์ค์ ์ ์ ์ฅํ๊ณ ์์คํ
์ ๋ค์ ๋ถํ
ํฉ๋๋ค . ์๊ฒฉ ์์คํ
์ด FCoE ๋์์ ์ฐ ๊ฒฐ๋๊ณ DVD-ROM ์ฅ์น๋ก๋ถํฐ ๋ถํ
๋ฉ๋๋ค . 7. DVD ์์ ๋ถํ
ํ๊ณ ์ค์น๋ฅผ ์์ํฉ๋๋ค . 8. ํ๋ฉด์ ๋ํ๋๋ ์ง์๋ฅผ ๋ฐ๋ฆ
๋๋ค . 9. ์ค์น์ ์ฌ์ฉ ๊ฐ๋ฅํ ๋์คํฌ์ ๋ชฉ๋ก์ ๋ณด์ฌ์ฃผ๋ ์ฐฝ์ FCoE ๋์ ๋์คํฌ๊ฐ ๋ณด ์ฌ์ผ ํฉ๋๋ค . ์ด ๋์์ FCoE ๋ถํธ ํ๋กํ ์ฝ์ ํตํด ์ฐ๊ฒฐ๋ ๋์คํฌ๋ก , ์๊ฒฉ FCoE ๋์์ ์์นํฉ๋๋ค . 10.
10โFCoE ๊ตฌ์ฑ ์ด๋ํฐ ๋๋ผ์ด๋ฒ๋ฅผ Windows ์ด๋ฏธ์ง ํ์ผ๋ก ์ฝ์
( ํตํฉ ์ค์น ) ์ด๋ํฐ ๋๋ผ์ด๋ฒ๋ฅผ Windows ์ด๋ฏธ์ง ํ์ผ๋ก ์ฝ์
( ํตํฉ ์ค์น ) ์ด๋ํฐ ๋๋ผ์ด๋ฒ๋ฅผ Windows ์ด๋ฏธ์ง ํ์ผ์ ์ฝ์
ํ๋ ค๋ฉด 1. ํด๋น Windows Server ๋ฒ์ (2012, 2012 R2 ๋๋ 2016) ์ ์ํ ์ต์ ๋๋ผ์ด ๋ฒ ํจํค์ง๋ฅผ ๊ตฌํฉ๋๋ค . 2. ๋๋ผ์ด๋ฒ ํจํค์ง๋ฅผ ์์
๋๋ ํฐ๋ฆฌ๋ก ์ถ์ถํฉ๋๋ค . a. ๋ช
๋ น ํ ์ธ์
์ ์ฐ ๋ค์ ๋๋ผ์ด๋ฒ ํจํค์ง๋ฅผ ํฌํจํ ํด๋๋ฅผ ํ์ํฉ๋๋ค . b. ๋๋ผ์ด๋ฒ ์ค์น ํ๋ก๊ทธ๋จ์ ์์ํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . setup.exe /a c. Network location ํ๋์๋ ๋๋ผ์ด๋ฒ ํจํค์ง๋ฅผ ์ถ์ถํ ํด๋์ ๊ฒฝ๋ก ๋ฅผ ์
๋ ฅํฉ๋๋ค . ์๋ฅผ ๋ค์ด c:\temp ๋ฅผ ์
๋ ฅํฉ๋๋ค . d. ๋๋ผ์ด๋ฒ ์ค์น ํ๋ก๊ทธ๋จ ๋ช
๋ น์ ๋ฐ๋ผ ์ง์ ๋ ํด๋์ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ ๋๋ค . ์ด ์์์๋ ๋๋ผ์ด๋ฒ ํ์ผ์ด ๋ค์ ์์น์ ์ค์น๋ฉ๋๋ค . c:\temp\Program File 64\Q
10โFCoE ๊ตฌ์ฑ Linux FCoE Offload ๊ตฌ์ฑ 6. ์์
๋๋ ํฐ๋ฆฌ์ ์๋ ๊ฒฐ๊ณผ ๋๋ผ์ด๋ฒ ISO ์ด๋ฏธ์ง ํ์ผ์ ํฌํจํ DVD ๋ฅผ ๊ตฝ ์ต๋๋ค . 7. ์ DVD ๋ฅผ ์ฌ์ฉํ์ฌ Windows Server ์ด์ ์ฒด์ ๋ฅผ ์ค์นํฉ๋๋ค . Linux FCoE Offload ๊ตฌ์ฑ Cavium FastLinQ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ FCoE ์ํํธ์จ์ด๋ qedf.ko(qedf) ๋ผ๋ ๋จ ์ผ ์ปค๋ ๋ชจ๋๋ก ๊ตฌ์ฑ๋ฉ๋๋ค . qedf ๋ชจ๋์ ๋ค์๊ณผ ๊ฐ์ด ํน์ ๊ธฐ๋ฅ์ ์ํ Linux ์ปค๋ ์ ์ถ๊ฐ ๋ถ๋ถ์ ์ข
์๋ฉ๋๋ค . ๏ฎ qed.ko ๋ ๊ณตํต Cavium FastLinQ 41xxx ํ๋์จ์ด ์ด๊ธฐํ ๋ฃจํด์ ์ฌ์ฉ๋๋ Linux eCore ์ปค๋ ๋ชจ๋์
๋๋ค . ๏ฎ libfcoe.ko ๋ FCoE ์ ๋ฌ์ (FCF) ์์ฒญ๊ณผ FCoE ์ด๊ธฐํ ํ๋กํ ์ฝ (FIP) ํจ ๋ธ๋ฆญ ๋ก๊ทธ์ธ (FLOGI) ์ ์ํํ๋ ๋ฐ ํ์ํ Linux FCoE ์ปค๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์
๋๋ค . ๏ฎ libfc.
10โFCoE ๊ตฌ์ฑ qedf.ko ๊ตฌ์ฑ ๏ฎ qedf ๋ ๊ฒ์์ ์์ํ๊ธฐ ์ํด open-fcoe ์ฌ์ฉ์ ๊ณต๊ฐ ๋๊ตฌ (fipvlan, fcoemon, fcoeadm) ๋ฅผ ํ์๋ก ํ์ง ์์ต๋๋ค . ๏ฎ qedf๋ FIP VLAN ์์ฒญ์ ์ง์ ๋ฐ๊ธํ๊ณ fipvlan ์ ํธ๋ฆฌํฐ๋ฅผ ํ์๋ก ํ์ง ์์ต ๋๋ค . ๏ฎ qedf๋ fcoemon์ฉ fipvlan์ ์ํด ์์ฑ๋ FCoE ์ธํฐํ์ด์ค๋ฅผ ํ์๋ก ํ์ง ์ ์ต๋๋ค . ๏ฎ qedf ๋ net_device ์์ ์์นํ์ง ์์ต๋๋ค . ๏ฎ qedf ๋ ๋คํธ์ํฌ ๋๋ผ์ด๋ฒ ( ์ : bnx2x ์ cnic) ์ ์ข
์๋์ง ์์ต๋๋ค . ๏ฎ qedf๋ FCoE ์ธํฐํ์ด์ค ์์ฑ์ ์ํด fipvlan ๋๋ fcoemon์ ์ข
์๋์ง ์์ผ ๋ฏ๋ก ์ฐ๊ฒฐ ์ FCoE ๊ฒ์์ ์๋์ผ๋ก ์์ํฉ๋๋ค . ์ฃผ FCoE ์ธํฐํ์ด์ค๋ ๋ ์ด์ ๋คํธ์ํฌ ์ธํฐํ์ด์ค ์์ ์์นํ์ง ์์ต๋๋ค . qedf ๋๋ผ์ด๋ฒ๊ฐ FCoE ์ธํฐํ์ด์ค๋ฅผ ๋คํธ์ํฌ ์ธํฐํ์ด์ค์ ๋ณ๋๋ก ์๋ ์ ์ฑํฉ๋๋ค .
10โFCoE ๊ตฌ์ฑ Linux ์์ FCoE ์ฅ์น ํ์ธ Linux ์์ FCoE ์ฅ์น ํ์ธ qedf ์ปค๋ ๋ชจ๋์ ์ค์นํ๊ณ ๋ก๋ํ ํ ๋ค์ ์ ์ฐจ์ ๋ฐ๋ผ FCoE ์ฅ์น๊ฐ ์ฌ๋ฐ๋ก ๊ฐ์ง ๋์๋์ง ํ์ธํ์ญ์์ค . Linux ์์ FCoE ์ฅ์น๋ฅผ ํ์ธํ๋ ค๋ฉด 1. lsmod ๋ฅผ ๊ฒ์ฌํ์ฌ qedf ์ ๊ด๋ จ ์ปค๋ ๋ชจ๋์ด ๋ก๋๋์๋์ง ํ์ธํ์ญ์์ค . # lsmod | grep qedf 69632 1 qedf libfc 143360 2 qedf,libfcoe scsi_transport_fc 65536 2 qedf,libfc qed 806912 1 qedf scsi_mod 262144 14 sg,hpsa,qedf,scsi_dh_alua,scsi_dh_rdac,dm_multipath,scsi_transport_fc, scsi_transport_sas,libfc,scsi_transport_iscsi,scsi_dh_emc,libata,sd_mod,sr_mod 2.
10โFCoE ๊ตฌ์ฑ RHEL 7.4 ์ด์์ผ ๋ SAN ์์ FCoE ๋ถํ
๊ตฌ์ฑ sdh 5:0:0:6 disk SANBlaze VLUN P2T1L6 V7.3 fc sdi 5:0:0:7 disk SANBlaze VLUN P2T1L7 V7.3 fc sdj 5:0:0:8 disk SANBlaze VLUN P2T1L8 V7.3 fc sdk 5:0:0:9 disk SANBlaze VLUN P2T1L9 V7.3 fc ํธ์คํธ ๊ตฌ์ฑ ์ ๋ณด๋ /sys/class/fc_host/hostX ํ์ผ์ ์์ผ๋ฉฐ , ์ฌ๊ธฐ์์ X ๋ SCSI ํธ์คํธ์ ๋ฒํธ์
๋๋ค . ์์ ๋์จ ์์์ X ๋ 4 ๋๋ 5 ์ผ ์ ์์ต๋๋ค . hostX ํ์ผ์๋ ์๋์์ด๋ ํฌํธ ์ด๋ฆ๊ณผ ํจ๋ธ๋ฆญ ID ๊ฐ์ FCoE ๊ธฐ๋ฅ ์์ฑ์ด ํฌํจ ๋์ด ์์ต๋๋ค . RHEL 7.4 ์ด์์ผ ๋ SAN ์์ FCoE ๋ถํ
๊ตฌ์ฑ RHEL 7.4 ์ด์์ ์ค์นํ๋ ค๋ฉด 1. UEFI ์์ FCoE ๋์์ด ์ฐ๊ฒฐ๋์ด ์์ ๋ RHEL 7.
10โFCoE ๊ตฌ์ฑ RHEL 7.4 ์ด์์ผ ๋ SAN ์์ FCoE ๋ถํ
๊ตฌ์ฑ 5. ์ค์น ํ๋ก์ธ์ค์ ๋ฐ๋ผ ๊ทธ๋ฆผ 10-7 ์์ ๊ฐ์ด ์์์ค๋ธ๋ฐ์ค ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ ๋๋ค . ๊ทธ๋ฆผ 10-7. ์์์ค๋ธ๋ฐ์ค ์ค์น ํ๋กฌํํธ 6. ์ค์ ํ๋ ๋ฐ ํ์ํ์ฌ ์ถ๊ฐ ๋๋ผ์ด๋ฒ ๋์คํฌ๋ฅผ ๋ฌป๋ ๊ฒฝ์ฐ์๋ FastLinQ ๋๋ผ ์ด๋ฒ ์
๋ฐ์ดํธ ๋์คํฌ๋ฅผ ๋ก๋ํฉ๋๋ค. ๊ทธ๋ ์ง ์๊ณ ์ค์นํ ๋๋ผ์ด๋ฒ ์
๋ฐ์ดํธ ๋์คํฌ๊ฐ ์๋ ๊ฒฝ์ฐ์๋ c ๋ฅผ ์
๋ ฅํฉ๋๋ค . 7. ์ค์น๋ฅผ ๊ณ์ ํฉ๋๋ค . ๋ฏธ๋์ด ํ
์คํธ๋ ๊ฑด๋๋ฐ์ด๋ ์ข์ต๋๋ค . Next( ๋ค์ ) ์ ํด๋ฆญํ์ฌ ์ค์น๋ฅผ ๊ณ์ ํฉ๋๋ค . 8. Configuration( ๊ตฌ์ฑ ) ์ฐฝ ( ๊ทธ๋ฆผ 10-8) ์์ ์ค์น ํ๋ก์ธ์ค์ ์ฌ์ฉํ ์ธ์ด๋ฅผ ์ ํํ ๋ค์ Continue( ๊ณ์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
10โFCoE ๊ตฌ์ฑ RHEL 7.4 ์ด์์ผ ๋ SAN ์์ FCoE ๋ถํ
๊ตฌ์ฑ ๊ทธ๋ฆผ 10-8. Red Hat Enterprise Linux 7.4 ๊ตฌ์ฑ 9. Installation Summary( ์ค์น ์์ฝ ) ์ฐฝ์์ Installation Destination( ์ค์น ๋ ์ ) ์ ํด๋ฆญํฉ๋๋ค . ๋์คํฌ ๋ ์ด๋ธ์ ๋จ์ผ ๊ฒฝ๋ก ์ค์น๋ฅผ ๋ํ๋ด๋ sda ์
๋๋ค . ๋ค์ค ๊ฒฝ๋ก๋ฅผ ๊ตฌ์ฑํ๋ค๋ฉด ๋์คํฌ์ ์ฅ์น ๋งคํผ ๋ ์ด๋ธ์ด ์์ต๋๋ค . 10. Specialized & Network Disks( ์ ์ฉ ๋ฐ ๋คํธ์ํฌ ๋์คํฌ ) ์น์
์์ FCoE LUN ์ ์ ํํฉ๋๋ค . 11. ๋ฃจํธ ์ฌ์ฉ์์ ์ํธ๋ฅผ ์
๋ ฅํ๊ณ Next( ๋ค์ ) ๋ฅผ ํด๋ฆญํ์ฌ ์ค์น๋ฅผ ๋ง์นฉ๋๋ค . 12. ์ฒซ ๋ฒ์งธ ๋ถํ
๋์ค ๋ค์ ์ปค๋ ๋ช
๋ น์ค์ ์
๋ ฅํด ์
ธ๋ก ๋๋๋๋ค . rd.driver.pre=qed,qede,qedr,qedf,qedi 13. ์์คํ
์ด ๋ถํ
๋๋ฉด /etc/modprobe.d/anaconda-blacklist.
11 SR-IOV ๊ตฌ์ฑ SR-IOV( ๋จ์ผ ๋ฃจํธ ์
/ ์ถ๋ ฅ ๊ฐ์ํ ) ๋ ๋จ์ผ PCIe(PCI Express) ์ฅ์น๊ฐ ์ฌ๋ฌ ๊ฐ ์ ๊ตฌ๋ถ๋ ์ค์ PCIe ์ฅ์น๋ก ๋ํ๋๋๋ก ํด์ฃผ๋ PCI SIG ์ ์ฌ์์
๋๋ค . SR-IOV ๋ ์ฑ๋ฅ , ์ํธ ์ด์ฉ์ฑ ๋ฐ ๊ด๋ฆฌ์ฑ์ ์ํด PCIe ๋ฆฌ์์ค์ ๊ฒฉ๋ฆฌ๋ฅผ ํ์ฉํฉ๋๋ค . ์ฃผ ํ์ฌ ๋ฆด๋ฆฌ์ค์์ ์ผ๋ถ SR-IOV ๊ธฐ๋ฅ์ ์์ ํ ์ฌ์ฉํ์ง ๋ชปํ ์๋ ์์ต๋๋ค . ์ด ์ฅ์์๋ ๋ค์ ์์
์ ์ง์นจ์ ์ ์ํฉ๋๋ค . ๏ฎ Windows ์์ SR-IOV ๊ตฌ์ฑ ๏ฎ 189 ํ์ด์ง์ "Linux ์์ SR-IOV ๊ตฌ์ฑ " ๏ฎ 195 ํ์ด์ง์ "VMware ์์ SR-IOV ๊ตฌ์ฑ " Windows ์์ SR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์๋ฒ BIOS System Setup(BIOS ์์คํ
์ค์ ) ์ผ๋ก ์ด๋ํ์ฌ System BIOS Settings( ์์คํ
BIOS ์ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2.
11โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 11-1. SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ํตํฉ ์ฅ์น 4. ์ ํํ ์ด๋ํฐ์ ๋ํ Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ์ ํด๋ฆญํฉ๋๋ค . 5. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์ Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ )( ๊ทธ๋ฆผ 11-2) ์์ ๋ค์์ ์ํํ์ญ์์ค . a. NPAR ๋ชจ๋๋ฅผ ์ฌ์ฉ ์ค์ธ ๊ฒฝ์ฐ Virtualization Mode( ๊ฐ์ํ ๋ชจ๋ ) ๋ฅผ SR-IOV ๋๋ NPAR+SR-IOV ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 11-2. SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ 6. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 7.
11โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ 8. Success - Saving Changes( ์ฑ๊ณต - ๋ณ๊ฒฝ ๋ด์ฉ ์ ์ฅ ) ๋ฉ์์ง ์์์์ OK ( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 9. ๋ฏธ๋ํฌํธ ์ด๋ํฐ์์ SR-IOV ๋ฅผ ํ์ฑํํ๋ ค๋ฉด a. ์ฅ์น ๊ด๋ฆฌ์์ ์ก์ธ์คํฉ๋๋ค . b. ๋ฏธ๋ํฌํธ ์ด๋ํฐ ์์ฑ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . c. Advanced properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 11-3) SR-IOV ๋ฅผ ์ ํํ ํ ๊ฐ์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ ๋๋ค . d. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 11-3. ์ด๋ํฐ ์์ฑ , ๊ณ ๊ธ : SR-IOV ํ์ฑํ 10. SR-IOV ๋ก ๊ฐ์ ๋จธ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด (185 ํ์ด์ง์ ๊ทธ๋ฆผ 11-4) a. ํ์ดํผ๋ฐ์ด์ ๊ด๋ฆฌ์๋ฅผ ์์ํฉ๋๋ค . b. Virtual Switch Manager( ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ ) ๋ฅผ ์ ํํฉ๋๋ค .
11โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ์ฃผ vSwitch ๋ฅผ ์์ฑํ ๋ SR-IOV ๋ฅผ ๋ฐ๋์ ํ์ฑํํด์ผ ํฉ๋๋ค . vSwitch ๋ฅผ ์์ฑํ ํ์๋ ์ด ์ต์
์ ์ฌ์ฉํ ์ ์์ต๋๋ค . ๊ทธ๋ฆผ 11-4. ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ : SR-IOV ํ์ฑํ f. Apply Networking Changes( ๋คํธ์ํน ๋ณ๊ฒฝ ์ฌํญ ์ ์ฉ ) ๋ฉ์์ง ์์์ Pending changes may disrupt network connectivity( ๋ณด๋ฅ ์ค์ธ ๋ณ ๊ฒฝ ์ฌํญ์ผ๋ก ์ธํด ๋คํธ์ํฌ ์ฐ๊ฒฐ์ด ๋์ด์ง ์ ์๋ค ) ๋ ๋ด์ฉ์ด ํ์๋ฉ๋ ๋ค . ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฅํ๊ณ ๊ณ์ํ๋ ค๋ฉด Yes( ์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
11โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ 11. ๊ฐ์ ๋จธ์ ์ค์์น ๊ธฐ๋ฅ์ ์ฌ์ฉํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํ ํฉ๋๋ค . PS C:\Users\Administrator> Get-VMSwitch -Name SR-IOV_vSwitch | fl Get-VMSwitch ๋ช
๋ น ์ถ๋ ฅ์ ๋ค์๊ณผ ๊ฐ์ SR-IOV ๊ธฐ๋ฅ์ด ํฌํจ๋ฉ๋๋ค . 12. IovVirtualFunctionCount : 96 IovVirtualFunctionsInUse : 1 ๋ค์๊ณผ ๊ฐ์ด ๊ฐ์ ๋จธ์ (VM) ์ ์์ฑํ๊ณ VM ์์ ๊ฐ์ ๊ธฐ๋ฅ (VF) ์ ๋ด๋ณด๋
๋๋ค . a. ๊ฐ์ ๋จธ์ ์ ์์ฑํฉ๋๋ค . b. VMNetworkadapter ๋ฅผ ๊ฐ์ ๋จธ์ ์ ์ถ๊ฐํฉ๋๋ค . c. ๊ฐ์ ์ค์์น๋ฅผ VMNetworkadapter ์ ํ ๋นํฉ๋๋ค . d.
11โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 11-5. VM ์ ์ค์ : SR-IOV ํ์ฑํ 13. VM ์์ ๊ฐ์ง๋ ์ด๋ํฐ์ QLogic ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๊ณต๊ธ์
์ฒด์์ ํธ ์คํธ OS ์ ์ต์ ๋๋ผ์ด๋ฒ๋ฅผ ์ป์ด ์ฌ์ฉํฉ๋๋ค ( ๊ธฐ๋ณธ ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ง ๋ง ์ญ์์ค ). ์ฃผ VM ๊ณผ ํธ์คํธ ์์คํ
์์ ๋์ผํ ๋๋ผ์ด๋ฒ ํจํค์ง๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค . ์๋ฅผ ๋ค์ด Windows VM ๊ณผ Windows Hyper-V ํธ์คํธ์์ ๋์ผํ ๋ฒ์ ์ qeVBD ๋ฐ qeND ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ญ์์ค .
11โSR-IOV ๊ตฌ์ฑ Windows ์์ SR-IOV ๊ตฌ์ฑ ๋๋ผ์ด๋ฒ ์ค์น ํ , VM ์ QLogic ์ด๋ํฐ๊ฐ ํ์๋ฉ๋๋ค . ๊ทธ๋ฆผ 11-6 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 11-6. ์ฅ์น ๊ด๋ฆฌ์ : QLogic ์ด๋ํฐ๊ฐ ํฌํจ๋ VM 14. SR-IOV VF ์ธ๋ถ ์ ๋ณด๋ฅผ ํ์ธํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํ ํฉ๋๋ค . PS C:\Users\Administrator> Get-NetadapterSriovVf ๊ทธ๋ฆผ 11-7 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 11-7.
11โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์๋ฒ BIOS System Setup(BIOS ์์คํ
์ค์ ) ์ผ๋ก ์ด๋ํ์ฌ System BIOS Settings( ์์คํ
BIOS ์ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2. System BIOS Settings( ์์คํ
BIOS ์ค์ ) ํ์ด์ง์์ Integrated Devices ( ํตํฉ ์ฅ์น ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 3. System Integrated Devices( ์์คํ
ํตํฉ ์ฅ์น ) ํ์ด์ง (183 ํ์ด์ง์ ๊ทธ ๋ฆผ 11-1 ์ฐธ์กฐ ) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. SR-IOV Global Enable(SR-IOV ์ ์ญ ํ์ฑํ ) ์ต์
์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 4.
11โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 11-8. ์์คํ
์ค์ : SR-IOV ๋ฅผ ์ํ ํ๋ก์ธ์ ์ค์ 6. System Setup( ์์คํ
์ค์ ) ํ์ด์ง์์ Device Settings( ์ฅ์น ์ค์ ) ๋ฅผ ์ ํํฉ๋๋ค . 7. Device Settings( ์ฅ์น ์ค์ ) ํ์ด์ง์์ QLogic ์ด๋ํฐ์ฉ Port 1( ํฌํธ 1) ์ ์ ํํฉ๋๋ค .
11โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ 8. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 11-9) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. Virtualization Mode( ๊ฐ์ํ ๋ชจ๋ ) ๋ฅผ SR-IOV ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 11-9. SR-IOV ๋ฅผ ์ํ ์์คํ
์ค์ : ํตํฉ ์ฅ์น 9. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํ๊ณ ์ค์ ์ ์ ์ฅํ ํ ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค . 10. ๋ค์๊ณผ ๊ฐ์ด ๊ฐ์ํ๋ฅผ ํ์ฑํํ๊ณ ํ์ธํฉ๋๋ค . a. ๊ทธ๋ฆผ 11-10 ๊ณผ ๊ฐ์ด grub.conf ํ์ผ์ ์ด๊ณ iommu ๋งค๊ฐ๋ณ์๋ฅผ ๊ตฌ์ฑ ํฉ๋๋ค . ๏ฎ ๏ฎ Intel ๊ธฐ๋ฐ ์์คํ
์ผ ๊ฒฝ์ฐ์๋ intel_iommu=on ์ ์ถ๊ฐํฉ๋๋ค . AMD ๊ธฐ๋ฐ ์์คํ
์ผ ๊ฒฝ์ฐ์๋ amd_iommu=on ์ ์ถ๊ฐํฉ๋๋ค .
11โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 11-10. SR-IOV ์ฉ grub.conf ํ์ผ ํธ์ง b. grub.conf ํ์ผ์ ์ ์ฅํ๊ณ ์์คํ
์ ์ฌ๋ถํ
ํฉ๋๋ค . c. ๋ณ๊ฒฝ ๋ด์ฉ์ด ์ ์ฉ๋๋์ง ํ์ธํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . dmesg | grep -I iommu ์๋ฅผ ๋ค์ด ๋ค์๊ณผ ๊ฐ์ด ์ฑ๊ณต์ ์ธ IOMMU(inputโoutput memory management unit) ๋ช
๋ น ์ถ๋ ฅ์ด ํ์๋์ด์ผ ํฉ๋๋ค . Intel-IOMMU: enabled d. VF ์ธ๋ถ ์ ๋ณด (VF ์์ ์ด VF ์ ) ๋ฅผ ๋ณด๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . find /sys/|grep -I sriov 11. ํน์ ํฌํธ์ ๋ํด VF ์ ์๋์ ํ์ฑํํฉ๋๋ค . a. ์๋ฅผ ๋ค์ด ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น์ ์คํํ์ฌ PCI ์ธ์คํด์ค 04:00.0( ๋ฒ์ค 4, ์ฅ์น 0, ๊ธฐ๋ฅ 0) ์์ VF 8 ๊ฐ๋ฅผ ํ์ฑํํฉ๋๋ค .
11โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ b. ๋ช
๋ น ์ถ๋ ฅ ( ๊ทธ๋ฆผ 11-11) ์ ์ดํด๋ณด๋ฉด์ ์ค์ ๋ก VF ๊ฐ ๋ฒ์ค 4, ์ฅ์น 2 (0000:00:02.0 ๋งค๊ฐ๋ณ์ ), ๊ธฐ๋ฅ 0~7 ์ ์์ฑ๋์๋์ง ํ์ธํฉ๋๋ค . ๋จ , PF( ์ด ์์์ 8070) ์ VF( ์ด ์์์ 9090) ๋ฅผ ๋น๊ตํ์ ๋ ์ค์ ์ฅ์น ID ๋ ์๋ก ๋ค๋ฆ
๋๋ค . ๊ทธ๋ฆผ 11-11. sriov_numvfs ์ ๋ํ ๋ช
๋ น ์ถ๋ ฅ 12. ๋ชจ๋ PF ๋ฐ VF ์ธํฐํ์ด์ค์ ๋ชฉ๋ก์ ๋ณด๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . # ip link show | grep -i vf -b2 ๊ทธ๋ฆผ 11-12 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 11-12.
11โSR-IOV ๊ตฌ์ฑ Linux ์์ SR-IOV ๊ตฌ์ฑ 13. MAC ์ฃผ์๋ฅผ ํ ๋นํ๊ณ ํ์ธํฉ๋๋ค . a. MAC ์ฃผ์๋ฅผ VF ์ ํ ๋นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ip link set vf mac b. 14. VF ์ธํฐํ์ด์ค๊ฐ ํ ๋น๋ MAC ์ฃผ์๋ก ์๋๋์ด ์คํ ์ค์ธ์ง ํ์ธํฉ ๋๋ค . VM ์ ๋๊ณ VF ๋ฅผ ์ฐ๊ฒฐํฉ๋๋ค . ( ์ผ๋ถ OS ์์๋ VF ๋ฅผ VM ์ ํซํ๋ฌ๊ทธ ์ฐ ๊ฒฐํ ์ ์๋๋ก ์ง์ํฉ๋๋ค .) a. Virtual Machine( ๊ฐ์ ๋จธ์ ) ๋ํ ์์ ( ๊ทธ๋ฆผ 11-13) ์์ Add Hardware( ํ๋์จ์ด ์ถ๊ฐ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 11-13. RHEL68 ๊ฐ์ ๋จธ์ b. Add New Virtual Hardware( ์ ๊ฐ์ ํ๋์จ์ด ์ถ๊ฐ ) ๋ํ ์์์ ์ผ์ชฝ ์ฐฝ์์ ( ๊ทธ๋ฆผ 11-14) PCI Host Device(PCI ํธ์คํธ ์ฅ์น ) ๋ฅผ ํด๋ฆญํฉ ๋๋ค . c.
11โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ d. Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 11-14. ์ ๊ฐ์ ํ๋์จ์ด ์ถ๊ฐ 15. VM ์ ์ผ ํ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . check lspci -vv|grep -I ether 16. VM ์์ ๊ฐ์ง๋ ์ด๋ํฐ์ ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๊ณต๊ธ์
์ฒด์์ ํธ์คํธ OS ์ ์ต์ ๋๋ผ์ด๋ฒ๋ฅผ ์ป์ด ์ฌ์ฉํฉ๋๋ค ( ๊ธฐ๋ณธ ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ง ๋ง์ญ์์ค ). ํธ์คํธ ๋ฐ VM ์ ๋์ผํ ๋๋ผ์ด๋ฒ ๋ฒ์ ์ ์ค์นํด์ผ ํฉ๋๋ค . 17. ํ์ํ ๊ฒฝ์ฐ VM ์ VF ๋ฅผ ๋ ์ถ๊ฐํฉ๋๋ค . VMware ์์ SR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์๋ฒ BIOS System Setup(BIOS ์์คํ
์ค์ ) ์ผ๋ก ์ด๋ํ์ฌ System BIOS Settings( ์์คํ
BIOS ์ค์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 2.
11โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ 5. Device Settings( ์ฅ์น ์ค์ ) ํ์ด์ง์์ 25G 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์ฉ ํฌํธ๋ฅผ ์ ํํฉ๋๋ค . 6. Device Level Configuration( ์ฅ์น ๋ ๋ฒจ ๊ตฌ์ฑ ) ํ์ด์ง (183 ํ์ด์ง์ ๊ทธ ๋ฆผ 11-2 ์ฐธ์กฐ ) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. Virtualization Mode( ๊ฐ์ํ ๋ชจ๋ ) ๋ฅผ SR-IOV ๋ก ์ค์ ํฉ๋๋ค . b. Back( ๋ค๋ก ) ์ ํด๋ฆญํฉ๋๋ค . 7. Main Configuration( ๊ธฐ๋ณธ ๊ตฌ์ฑ ) ํ์ด์ง์์ Finish( ๋ง์นจ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . 8. ๊ตฌ์ฑ ์ค์ ์ ์ ์ฅํ๊ณ ์์คํ
์ ๋ค์ ๋ถํ
ํฉ๋๋ค . 9. ํฌํธ 1 ๊ฐ๋น ํ์ํ VF ์๋ ( ์ด ์์์๋ ๋์ผ ํฌํธ ์ด๋ํฐ์ ๊ฐ ํฌํธ๋น 16 ๊ฐ ) ์ ํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค .
11โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ . . 0000:05:03.7 Network 10/25 GbE Controller 0000:05:0e.0 Network 10/25 GbE Controller 0000:05:0e.1 Network 10/25 GbE Controller 0000:05:0e.2 Network 10/25 GbE Controller 0000:05:0e.3 Network 10/25 GbE Controller . . . 0000:05:0f.6 Network 10/25 GbE Controller 0000:05:0f.7 Network 10/25 GbE Controller 13. 14. controller: (SR-IOV VF) controller: (SR-IOV VF) controller: (SR-IOV VF) controller: (SR-IOV VF) controller: (SR-IOV VF) QLogic Corp. QLogic [PF_0.5.
11โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ ๊ทธ๋ฆผ 11-15. VMware ํธ์คํธ ํธ์ง ์ค์ 15. ํฌํธ๋น VF ์์ ์ ํจ์ฑ์ ๊ฒ์ฌํ๋ ค๋ฉด ๋ค์๊ณผ ๊ฐ์ด esxcli ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . [root@localhost:~] esxcli network sriovnic vf list -n vmnic6 VF ID Active PCI Address Owner World ID ----- ------ ----------- -------------- 0 true 005:02.0 60591 1 true 005:02.
11โSR-IOV ๊ตฌ์ฑ VMware ์์ SR-IOV ๊ตฌ์ฑ 2 false 005:02.2 - 3 false 005:02.3 - 4 false 005:02.4 - 5 false 005:02.5 - 6 false 005:02.6 - 7 false 005:02.7 - 8 false 005:03.0 - 9 false 005:03.1 - 10 false 005:03.2 - 11 false 005:03.3 - 12 false 005:03.4 - 13 false 005:03.5 - 14 false 005:03.6 - 15 false 005:03.7 - 16. VM ์์ ๊ฐ์ง๋ ์ด๋ํฐ์ QLogic ๋๋ผ์ด๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ๊ณต๊ธ์
์ฒด์์ ํธ ์คํธ OS ์ ์ต์ ๋๋ผ์ด๋ฒ๋ฅผ ์ป์ด ์ฌ์ฉํฉ๋๋ค ( ๊ธฐ๋ณธ ๋๋ผ์ด๋ฒ๋ฅผ ์ฌ์ฉํ์ง ๋ง ์ญ์์ค ). ํธ์คํธ ๋ฐ VM ์ ๋์ผํ ๋๋ผ์ด๋ฒ ๋ฒ์ ์ ์ค์นํด์ผ ํฉ๋๋ค . 17.
12 RDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ Non-Volatile Memory Express over Fabrics(NVMe-oF) ๋ PCIe ์ ๋ํ ๋์ฒด ์ ์ก ์ ์ฌ์ฉํ์ฌ NVMe ํธ์คํธ ์ฅ์น์ NVMe ์คํ ๋ฆฌ์ง ๋๋ผ์ด๋ธ ๋๋ ํ์ ์์คํ
์ ์ฐ๊ฒฐ ๊ฑฐ๋ฆฌ๋ฅผ ์ฐ์ฅํ ์ ์์ต๋๋ค . ์ฌ๊ธฐ์์ NVMe-oF ๋ ์คํ ๋ฆฌ์ง ๋คํธ์ํน ํจ๋ธ ๋ฆญ์ ํตํ๋ NVMe ๋ธ๋ก ์คํ ๋ฆฌ์ง ํ๋กํ ์ฝ์ ๋ค์ํ ์คํ ๋ฆฌ์ง ๋คํธ์ํน ํจ๋ธ๋ฆญ ์ ์ง์ํ๋ ๊ณตํต ์ํคํ
์ฒ๋ฅผ ๋งํฉ๋๋ค . ์ด๋ฌํ ์ํคํ
์ฒ์๋ ์คํ ๋ฆฌ์ง ์์คํ
์ ์ ๋ฉด ์ธํฐํ์ด์ค ์ง์๊ณผ ๋ค์์ NVMe ์ฅ์น ํ์ฅ , ๊ทธ๋ฆฌ๊ณ ๋ฐ์ดํฐ ์ผํฐ ๋ด์์ NVMe ์ฅ์น์ NVMe ํ์ ์์คํ
์ด ์ก์ธ์คํ ์ ์๋ ๊ฑฐ๋ฆฌ์ ์ฐ์ฅ ๋ฑ์ด ํฌํจ๋ฉ ๋๋ค . ์ด ์ฅ์์ ์ค๋ช
ํ๋ NVMe-oF ๊ตฌ์ฑ ์ ์ฐจ ๋ฐ ์ต์
์ RoCE ๋ฐ iWARP ๋ฅผ ํฌํจํ ์ด ๋๋ท ๊ธฐ๋ฐ RDMA ํ๋กํ ์ฝ์ ์ ์ฉ๋ฉ๋๋ค . RDMA ์ ํจ๊ป NVMe-oF ์ ๊ฐ๋ฐ์ NVMe ๊ตฌ์ฑ์ ๊ธฐ์ ์ ํ์ ๊ทธ๋ฃน์ด๋ผ๊ณ ์ ์ํ ์ ์์ต๋๋ค .
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ๊ทธ๋ฆผ 12-1 ์ ๋คํธ์ํฌ ์๋ฅผ ๋ํ๋ธ ๊ฒ์
๋๋ค . 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ ๊ทธ๋ฆผ 12-1. NVMe-oF ๋คํธ์ํฌ NVMe-oF ๊ตฌ์ฑ ํ๋ก์ธ์ค๋ ๋ค์๊ณผ ๊ฐ์ ์ ์ฐจ๋ก ์ด๋ฃจ์ด์ง๋๋ค . 1. ๋ ์๋ฒ์ ์ฅ์น ๋๋ผ์ด๋ฒ ์ค์น 2. ๋์ ์๋ฒ ๊ตฌ์ฑ 3. ์ด๊ธฐ์ ์๋ฒ ๊ตฌ์ฑ 4. ๋์ ์๋ฒ์ ์ ์ฒ๋ฆฌ 5. NVMe-oF ์ฅ์น ํ
์คํธ 6.
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ๋ ์๋ฒ์ ์ฅ์น ๋๋ผ์ด๋ฒ ์ค์น ๋ ์๋ฒ์ ์ฅ์น ๋๋ผ์ด๋ฒ ์ค์น ์ด์ ์ฒด์ (RHEL 7.4 ๋๋ SLES 12 SP3) ์ค์น๋ฅผ ๋ง์น ํ ๋ ์๋ฒ์ ์ฅ์น ๋๋ผ์ด ๋ฒ๋ฅผ ์ค์นํฉ๋๋ค . ์ปค๋์ ์ต์ Linux ์
์คํธ๋ฆผ ์ปค๋๋ก ์
๊ทธ๋ ์ด๋ํ๋ ค๋ฉด ๋ค ์ URL ๋ก ์ด๋ํ์ญ์์ค . https://www.kernel.org/pub/linux/kernel/v4.x/ 1. README ํ์ผ์ ์ค์น ์ง์นจ์ ๋ฐ๋ผ ์ต์ FastLinQ ๋๋ผ์ด๋ฒ (QED, QEDE, libqedr/QEDR) ๋ฅผ ์ค์น ๋ฐ ๋ก๋ํฉ๋๋ค . 2. ( ์ต์
)OS ์ปค๋์ ์
๊ทธ๋ ์ด๋ํ ๊ฒฝ์ฐ์๋ ์ต์ ๋๋ผ์ด๋ฒ๋ฅผ ๋ค์๊ณผ ๊ฐ์ด ๋ค ์ ์ค์นํ์ฌ ๋ก๋ํด์ผ ํฉ๋๋ค . a. README ํ์ผ์ ๋ชจ๋ ์ค์น ์ง์นจ์ ๋ฐ๋ผ ์ต์ FastLinQ ํ์จ์ด๋ฅผ ์ค์น ํฉ๋๋ค . b. ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ OS RDMA ์ง์ ์์ฉํ๋ก๊ทธ๋จ ๋ฐ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ค์นํฉ๋๋ค .
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ๋์ ์๋ฒ ๊ตฌ์ฑ f. ์ปค๋์ด ๋ณ๊ฒฝ๋ ๊ฒฝ์ฐ์๋ ์๋ก์ด OS ์ปค๋๋ก ์ฌ๋ถํ
ํฉ๋๋ค . ๊ธฐ๋ณธ ๋ถํธ ์ปค๋์ ์ค์ ํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์๋ URL ์์ ํ์ธํ ์ ์์ต๋๋ค . https://wiki.centos.org/HowTos/Grub2 3. RDMA ์๋น์ค๋ฅผ ๋ค์๊ณผ ๊ฐ์ด ํ์ฑํํ์ฌ ์์ํฉ๋๋ค . # systemctl enable rdma.service # systemctl start rdma.service RDMA Service Failed ์ค๋ฅ๋ ๋ฌด์ํ์ญ์์ค . QEDR ์ ํ์ํ OFED ๋ชจ๋ ์ ์ด๋ฏธ ๋ชจ๋ ๋ก๋๋์์ต๋๋ค . ๋์ ์๋ฒ ๊ตฌ์ฑ ์ฌ๋ถํ
ํ๋ก์ธ์ค ํ ๋์ ์๋ฒ๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . ์๋ฒ๊ฐ ์๋ํ๊ธฐ ์์ํ ํ์๋ ์ฌ ๋ถํ
ํ์ง ์๊ณ ๊ตฌ์ฑ์ ๋ณ๊ฒฝํ ์ ์์ต๋๋ค .
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ๋์ ์๋ฒ ๊ตฌ์ฑ ํ 12-1. ๋์ ๋งค๊ฐ๋ณ์ ๋ช
๋ น ์ค๋ช
# echo 1 > attr_allow_any_host ๋ชจ๋ ํธ์คํธ์ ์ฐ๊ฒฐ์ ํ์ฉํฉ๋๋ค . # mkdir namespaces/1 ๋ค์์คํ์ด์ค๋ฅผ ์์ฑํฉ๋๋ค . # echo -n /dev/nvme0n1 >namespaces/ 1/device_path NVMe ์ฅ์น ๊ฒฝ๋ก๋ฅผ ์ค์ ํฉ๋๋ค . NVMe ์ฅ์น ๊ฒฝ๋ก ๋ ์์คํ
๋ง๋ค ๋ค๋ฅผ ์ ์์ต๋๋ค . lsblk ๋ช
๋ น์ ์ฌ์ฉํ์ฌ ์ฅ์น ๊ฒฝ๋ก๋ฅผ ํ์ธํ์ญ์์ค . ์์คํ
์๋ NVMe ์ฅ์น๊ฐ nvme0n1 ๊ณผ nvme1n1, 2 ๊ฐ ์์ต ๋๋ค . # echo 1 > namespaces/1/enable ๋ค์์คํ์ด์ค๋ฅผ ํ์ฑํํฉ๋๋ค . # mkdir /sys/kernel/config/nvmet/ ports/1 NVMe ํฌํธ 1 ์ ์์ฑํฉ๋๋ค . # cd /sys/kernel/config/nvmet/ports/1 # echo 1.1.1.
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ์ด๊ธฐ์ ์๋ฒ ๊ตฌ์ฑ ์ด๊ธฐ์ ์๋ฒ ๊ตฌ์ฑ ์ฌ๋ถํ
ํ๋ก์ธ์ค ํ ์ด๊ธฐ์ ์๋ฒ๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . ์๋ฒ๊ฐ ์๋ํ๊ธฐ ์์ํ ํ์๋ ์ฌ๋ถํ
ํ์ง ์๊ณ ๊ตฌ์ฑ์ ๋ณ๊ฒฝํ ์ ์์ต๋๋ค . ์์ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํ์ฌ ์ด๊ธฐ์ ์๋ฒ๋ฅผ ๊ตฌ์ฑํ๋ ๊ฒฝ์ฐ , ๋ค์ ๋ช
๋ น์ ์คํํ๊ธฐ ์ ์ ๊ฐ ๋ช
๋ น์ด ์๋ฃ๋๋์ง ํ์ธํ ๊ธฐ ์ํด ํ์์ ๋ฐ๋ผ ์คํฌ๋ฆฝํธ๋ฅผ ์ผ์ ์ค์ง (wait ๋ช
๋ น ๋๋ ๋น์ทํ ๊ฒ์ ์ฌ์ฉ ) ํ ๋ ๋ฐฉ๋ฒ์ ๊ณ ๋ คํด๋ณด์ญ์์ค . ์ด๊ธฐ์ ์๋ฒ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด : 1. NVMe ๋ชจ๋์ ๋ก๋ํฉ๋๋ค . ๊ฐ ์๋ฒ๋ฅผ ์ฌ๋ถํ
ํ ํ ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . # modprobe qedr # modprobe nvme-rdma 2. nvme-cli ์ด๊ธฐ์ ์ ํธ๋ฆฌํฐ๋ฅผ ๋ค์ด๋ก๋ํ ํ ์ปดํ์ผํ์ฌ ์ค์นํฉ๋๋ค . ์ฒ์ ๊ตฌ์ฑํ ๋ ์ด ๋ช
๋ น์ ์คํํ๋ฉด ๋งค๋ฒ ์ฌ๋ถํ
ํ ์ด ๋ช
๋ น์ ์คํํ ํ์๊ฐ ์์ต ๋๋ค . # git clone https://github.com/linux-nvme/nvme-cli.
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ๋์ ์๋ฒ์ ์ ์ฒ๋ฆฌ 5. NQN ์ ์ฌ์ฉํ์ฌ ๊ฒ์๋ NVMe-oF ๋์ (nvme-qlogic-tgt1) ์ ์ฐ๊ฒฐํฉ ๋๋ค . ๊ฐ ์๋ฒ๋ฅผ ์ฌ๋ถํ
ํ ํ ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค . ์ : # nvme connect -t rdma -n nvme-qlogic-tgt1 -a 1.1.1.1 -s 1023 6. ๋ค์๊ณผ ๊ฐ์ด NVMe-oF ๋์๊ณผ NVMe-oF ์ฅ์น๊ฐ ์๋ก ์ฐ๊ฒฐ๋์๋์ง ํ์ธํฉ ๋๋ค . # dmesg | grep nvme # lsblk # list nvme ๊ทธ๋ฆผ 12-3 ์ ์ด๋ฌํ ์๋ฅผ ๋ํ๋
๋๋ค . ๊ทธ๋ฆผ 12-3. NVMe-oF ์ฐ๊ฒฐ ํ์ธ ๋์ ์๋ฒ์ ์ ์ฒ๋ฆฌ ์์์ค๋ธ๋ฐ์ค๋ก ํ
์คํธ๋ฅผ ์ค์ํ๋ NVMe ๋์ ์๋ฒ๋ ์์๋ณด๋ค ๋์ ์ฑ๋ฅ์ ๋ณด ์
๋๋ค . ๋จ , ๋์ ์๋ฒ๋ ๋ฒค์น๋งํฌ๋ฅผ ์ค์ํ๊ธฐ ์ ์ ์ฌ์ ์
๋ ฅ ๋๋ ์ ์ฒ๋ฆฌ๊ฐ ํ์ ํฉ๋๋ค . ๋์ ์๋ฒ๋ฅผ ์ ์ฒ๋ฆฌํ๋ ค๋ฉด 1. ๊ณต๊ธ์
์ฒด์์ ์ ๊ณตํ๋ ๋๊ตฌ๋ฅผ ์ฌ์ฉํด ๋์ ์๋ฒ๋ฅผ ๋ณด์ ์ญ์ ํฉ๋๋ค ( ํฌ๋งท ๊ณผ ๋น์ท ).
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ NVMe-oF ์ฅ์น ํ
์คํธ NVMe-oF ์ฅ์น ํ
์คํธ ๋์ ์๋ฒ์ ๋ก์ปฌ NVMe ์ฅ์น ์ง์ฐ ์๊ฐ๊ณผ ์ด๊ธฐ์ ์๋ฒ์ NVMe-oF ์ฅ์น ์ง์ฐ ์ ๊ฐ์ ์๋ก ๋น๊ตํ์ฌ NVMe ์ฅ์น์์ ์์คํ
์ ๋ํด์ง๋ ์ง์ฐ ์๊ฐ์ ํ์ํฉ๋๋ค . NVMe-oF ์ฅ์น๋ฅผ ํ
์คํธํ๋ ค๋ฉด : 1. ๋ฆฌํฌ์งํ ๋ฆฌ (Repo) ์์ค๋ฅผ ์
๋ฐ์ดํธํ ํ ๋ค์ ๋ช
๋ น์ ์คํํ์ฌ Flexible Input/Output(FIO) ๋ฒค์น๋งํฌ ์ ํธ๋ฆฌํฐ๋ฅผ ๋์ ์๋ฒ์ ์ด๊ธฐ์ ์๋ฒ์ ๋ชจ๋ ์ค ์นํฉ๋๋ค . # yum install epel-release # yum install fio ๊ทธ๋ฆผ 12-4. FIO ์ ํธ๋ฆฌํฐ ์ค์น 2. FIO ์ ํธ๋ฆฌํฐ๋ฅผ ์คํํ์ฌ NVMe-oF ์ฅ์น์ ์ง์ฐ ์๊ฐ์ ์ธก์ ํฉ๋๋ค . ๋ค์ ๋ช
๋ น์ ์คํํฉ๋๋ค .
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ์ฑ๋ฅ ์ต์ ํ ์ด๋ฒ ์์์ ๋์ NVMe ์ฅ์น์ ์ง์ฐ ์๊ฐ์ 8ยตsec ์
๋๋ค . NVMe-oF ๋ฅผ ์ฌ ์ฉํ์ฌ ๋ฐ์ํ๋ ์ด ์ง์ฐ ์๊ฐ์ ์ด๊ธฐ์ ์ฅ์น NVMe-oF ์ง์ฐ ์๊ฐ 30usec ์ ๋์ ์ฅ์น NVMe-oF ์ง์ฐ ์๊ฐ 8ยตsec ์ ์ฐจ์ด , ์ฆ 22ยตsec ์
๋๋ค . 4. ๋์ ์๋ฒ์์ FIO ๋ฅผ ์คํํ์ฌ ๋ก์ปฌ NVMe ์ฅ์น์ ๋์ญํญ์ ์ธก์ ํฉ๋๋ค . ๋ค ์ ๋ช
๋ น์ ์คํํฉ๋๋ค .
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ์ฑ๋ฅ ์ต์ ํ d. 3. ์๋ฒ๋ฅผ ์ฌ๋ถํ
ํ์ฌ ๋ณ๊ฒฝ ๋ด์ฉ์ ์ ์ฉํฉ๋๋ค . ๋ชจ๋ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์ IRQ ์ ํธ๋๋ฅผ ์ค์ ํฉ๋๋ค . multi_rss-affin.sh ํ์ผ์ 209 ํ์ด์ง์ ".IRQ ์ ํธ๋ (multi_rss-affin.sh)" ์ ๋์ด๋ ์คํฌ๋ฆฝํธ ํ์ผ์
๋๋ค . # systemctl stop irqbalance # ./multi_rss-affin.sh eth1 ์ฃผ ์ด ์คํฌ๋ฆฝํธ์ ๋ค๋ฅธ ๋ฒ์ ์ธ qedr_affin.sh ๋ \add-ons\performance\roce ๋๋ ํฐ๋ฆฌ์ 41xxx Linux Source Code Package ์ ์์ต๋๋ค . IRQ ์ ํธ๋ ์ค์ ์ ๋ํ ์์ธํ ๋ด์ฉ์ ํด๋น ๋ ๋ ํฐ๋ฆฌ์ multiple_irqs.txt ํ์ผ์ ์ฐธ์กฐํ์ญ์์ค . 4. CPU ์ฃผํ์๋ฅผ ์ค์ ํฉ๋๋ค . cpufreq.sh ํ์ผ์ 210 ํ์ด์ง์ "CPU ์ฃผํ์ (cpufreq.sh)" ์ ๋์ด๋ ์คํฌ๋ฆฝํธ์
๋๋ค . # ./cpufreq.
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ์ฑ๋ฅ ์ต์ ํ echo "$eth: ${NUM} (${NUM_FP} fast path) starting irq ${INT}" CPUID=$((CPUID*OFFSET)) for ((A=1; A<=${NUM_FP}; A=${A}+1)) ; do INT='grep -m $A $eth /proc/interrupts | tail -1 | cut -d ":" -f 1' SMP='echo $CPUID 16 o p | dc' echo ${INT} smp affinity set to ${SMP} echo $((${SMP})) > /proc/irq/$((${INT}))/smp_affinity CPUID=$((CPUID*FACTOR)) if [ ${CPUID} -gt ${MAXCPUID} ]; then CPUID=1 CPUID=$((CPUID*OFFSET)) fi done done CPU ์ฃผํ์ (cpufreq.sh) ๋ค์์ CPU ์ฃผํ์๋ฅผ ์ค์ ํ๋ ์คํฌ๋ฆฝํธ์
๋๋ค .
12โRDMA ๋ฅผ ์ฌ์ฉํ NVMe-oF ๊ตฌ์ฑ ์ฑ๋ฅ ์ต์ ํ sysctl -w net.ipv4.tcp_window_scaling=0 sysctl -w net.ipv4.tcp_adv_win_scale=1 ์ฃผ ๋ค์ ๋ช
๋ น์ ์ด๊ธฐ์ ์๋ฒ์๋ง ์ ์ฉ๋ฉ๋๋ค .
13 Windows Server 2016 ์ด ์ฅ์์๋ Windows Server 2016 ์ ๋ํด ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๏ฎ 218 ํ์ด์ง์ "RoCE over Switch Embedded Teaming" ๏ฎ 219 ํ์ด์ง์ "RoCE ์ ๋ํ QoS ๊ตฌ์ฑ " ๏ฎ 228 ํ์ด์ง์ "VMMQ ๊ตฌ์ฑ " ๏ฎ 235 ํ์ด์ง์ "VXLAN ๊ตฌ์ฑ " ๏ฎ 236 ํ์ด์ง์ "Storage Spaces Direct ๊ตฌ์ฑ " ๏ฎ 242 ํ์ด์ง์ "Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ " Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ Windows Server 2016 ์์๋ Hyper-V ์ Network Direct Kernel Provider Interface (NDKPI) Mode-2 ๊ฐ ๊ตฌํ๋๋ฉด์ ํธ์คํธ ๊ฐ์ ๋คํธ์ํฌ ์ด๋ํฐ ( ํธ์คํธ ๊ฐ์ NIC) ๊ฐ RDMA ๋ฅผ ์ง์ํฉ๋๋ค .
13โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๏ฎ ํธ์คํธ ๊ฐ์ NIC( ๊ฐ์ ํฌํธ ) ์ถ๊ฐ ๏ฎ SMB ๋๋ผ์ด๋ธ ๋งคํ ๋ฐ RoCE ํธ๋ํฝ ์คํ RDMA ๊ฐ์ NIC ๋ฅผ ์ฌ์ฉํ Hyper-V ๊ฐ์ ์ค์์น ์์ฑ ์ด ์น์
์ ์ ์ฐจ์ ๋ฐ๋ผ Hyper-V ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ ํ ํธ์คํธ VNIC ์์ RDMA ๋ฅผ ํ์ฑํํฉ๋๋ค . RDMA ๊ฐ์ NIC ๋ก Hyper-V ๊ฐ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด 1. ํ์ดํผ๋ฐ์ด์ ๊ด๋ฆฌ์๋ฅผ ์์ํฉ๋๋ค . 2. Virtual Switch Manager( ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค ( ๊ทธ๋ฆผ 13-1 ์ฐธ์กฐ ). ๊ทธ๋ฆผ 13-1. ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ํ์ฑํ 3. ๊ฐ์ ์ค์์น๋ฅด๋ฅด ์์ฑํฉ๋๋ค . 4. Allow management operating system to share this network adapter ( ๊ด๋ฆฌ ์ด์ ์ฒด์ ๊ฐ ์ด ๋คํธ์ํฌ ์ด๋ํฐ๋ฅผ ๊ณต์ ํ๋๋ก ํ์ฉ ) ํ์ธ๋์ ์ ํํฉ ๋๋ค .
13โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด 1. Hyper-V Virtual Ethernet Adapter Properties( ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ด๋๋ท ์ด ๋ํฐ ์์ฑ ) ์ฐฝ์ ์ฝ๋๋ค . 2. Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 3. Advanced( ๊ณ ๊ธ ) ํ์ด์ง ( ๊ทธ๋ฆผ 13-2) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. Property( ์์ฑ ) ์์ Network Direct(RDMA) ๋ฅผ ์ ํํฉ๋๋ค . b. Value( ๊ฐ ) ์์ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ฅผ ์ ํํฉ๋๋ค . c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 13-2. ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ด๋๋ท ์ด๋ํฐ ์์ฑ 4. RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Enable-NetAdapterRdma "vEthernet
13โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ํธ์คํธ ๊ฐ์ NIC ์ VLAN ID ์ถ๊ฐ ํธ์คํธ ๊ฐ์ NIC ์ VLAN ID ๋ฅผ ์ถ๊ฐํ๋ ค๋ฉด 1. ํธ์คํธ ๊ฐ์ NIC ์ด๋ฆ์ ์ฐพ์ผ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrator> Get-VMNetworkAdapter -ManagementOS ๊ทธ๋ฆผ 13-3 ์ ๋ช
๋ น ์ถ๋ ฅ์ ๋ํ๋ธ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 13-3. Windows PowerShell ๋ช
๋ น : Get-VMNetworkAdapter 2. VLAN ID ๋ฅผ ํธ์คํธ ๊ฐ์ NIC ๋ก ์ค์ ํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น ์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Set-VMNetworkAdaptervlan -VMNetworkAdapterName "New Virtual Switch" -VlanId 5 -Access -Management05 ์ฃผ ํธ์คํธ
13โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-4. Windows PowerShell ๋ช
๋ น : Get-NetAdapterRdma ํธ์คํธ ๊ฐ์ NIC( ๊ฐ์ ํฌํธ ) ์ถ๊ฐ ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ์ถ๊ฐํ๋ ค๋ฉด 1. ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ์ถ๊ฐํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . Add-VMNetworkAdapter -SwitchName "New Virtual Switch" -Name SMB - ManagementOS 2. 214 ํ์ด์ง์ " ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด " ์ ํ์๋ ๊ฒ ์ฒ๋ผ ํธ์คํธ ๊ฐ์ NIC ์์ RDMA ๋ฅผ ํ์ฑํํฉ๋๋ค . 3. ๊ฐ์ ํฌํธ์ VLAN ID ๋ฅผ ํ ๋นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค .
13โWindows Server 2016 Hyper-V ๋ฅผ ์ด์ฉํ RoCE ์ธํฐํ์ด์ค ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-5. Add Counters( ๊ณ์๊ธฐ ์ถ๊ฐ ) ๋ํ ์์ RoCE ํธ๋ํฝ์ด ์คํ ์ค์ธ ๊ฒฝ์ฐ ๊ณ์๊ธฐ๊ฐ ๊ทธ๋ฆผ 13-6 ์ ํ์๋ ๊ฒ์ฒ๋ผ ๋ํ๋ฉ ๋๋ค . ๊ทธ๋ฆผ 13-6.
13โWindows Server 2016 RoCE over Switch Embedded Teaming RoCE over Switch Embedded Teaming SET(Switch Embedded Teaming) ๋ Windows Server 2016 Technical Preview ์ Hyper-V ๋ฐ SDN(Software Defined Networking) ์คํ์ ํฌํจํ๋ ํ๊ฒฝ์์ ์ฌ์ฉํ ๊ธฐ ์ํด ์ ๊ณต๋๋ Microsoft ์ ๋์ฒด NIC ํฐ๋ฐ ์๋ฃจ์
์
๋๋ค . SET ๋ ์ ํ๋ NIC ํฐ๋ฐ ๊ธฐ๋ฅ์ ํ์ดํผ๋ฐ์ด์ ๊ฐ์ ์ค์์น๋ก ํตํฉํฉ๋๋ค . ํ๋์ ์ค์ ์ด๋๋ท ๋คํธ์ํฌ ์ด๋ํฐ์ 8 ๊ฐ์ ์ค์ ์ด๋๋ท ๋คํธ์ํฌ ์ด๋ํฐ ์ฌ์ด ์์ SET ๋ฅผ ์ฌ์ฉํ์ฌ ํ๋ ์ด์์ ์ํํธ์จ์ด ๊ธฐ๋ฐ ๊ฐ์ ๋คํธ์ํฌ ์ด๋ํฐ๋ก ๊ทธ๋ฃน ํํฉ๋๋ค . ์ด๋ฐ ์ด๋ํฐ๋ ๋คํธ์ํฌ ์ด๋ํฐ ์ฅ์ ๊ฐ ๋ฐ์ํ๋ ๊ฒฝ์ฐ ๊ณ ์ ์ฑ๋ฅ ๋ฐ ๋ด ๊ฒฐํจ์ฑ์ ์ ๊ณตํฉ๋๋ค .
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-8 ์ ๋ช
๋ น ์ถ๋ ฅ์ ๋ํ๋ธ ๊ฒ์
๋๋ค . ๊ทธ๋ฆผ 13-8. Windows PowerShell ๋ช
๋ น : Get-NetAdapter 2. SET ์์ RDMA ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrator> Enable-NetAdapterRdma "vEthernet (SET)" SET ์์ VLAN ID ํ ๋น SET ์์ VLAN ID ๋ฅผ ํ ๋นํ๋ ค๋ฉด ๏ฎ SET ์์ VLAN ID ๋ฅผ ํ ๋นํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrator> Set-VMNetworkAdapterVlan -VMNetworkAdapterName "SET" -VlanId 5 -Access -ManagementOS ์ฃผ ํธ์คํธ ๊ฐ์ NIC ์ VLAN ID ๋ฅผ ์ถ๊ฐํ ๋ ๋ค์ ์ฌํญ์ ์ฐธ๊ณ ํ์ญ์์ค .
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ์ด๋ํฐ์์ DCBX ๋ฅผ ๋นํ์ฑํํ์ฌ QoS ๊ตฌ์ฑ ์ฌ์ฉ ์ค์ธ ๋ชจ๋ ์์คํ
์์ ๋ชจ๋ ๊ตฌ์ฑ์ ์๋ฃํ ํ์ ์ด๋ํฐ์์ DCBX ๋ฅผ ๋นํ์ฑํ ํ์ฌ ์๋น์ค ํ์ง์ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . ์ค์์น์ ์๋ฒ์์ PFC( ์ฐ์ ์์ ๊ธฐ๋ฐ ํ๋ฆ ์ ์ด ), ETS( ํฅ์๋ ์ ํ ์๋น์ค ) ๋ฐ ํธ๋ํฝ ํด๋์ค ๊ตฌ์ฑ์ด ๋์ผํด์ผ ํฉ๋๋ค . DCBX ๋ฅผ ๋นํ์ฑํํ์ฌ QoS ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ์ด๋ํฐ์์ DCBX ๋ฅผ ๋นํ์ฑํํฉ๋๋ค . 2. HII ๋ฅผ ์ฌ์ฉํ์ฌ RoCE Priority(RoCE ์ฐ์ ์์ ) ๋ฅผ 0 ์ผ๋ก ์ค์ ํฉ๋๋ค . 3. ํธ์คํธ์ DCB ์ญํ ์ ์ค์นํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrators> Install-WindowsFeature Data-Center-Bridging 4.
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-9. ๊ณ ๊ธ ์์ฑ : QoS ํ์ฑํ 6. ๋ค์๊ณผ ๊ฐ์ด VLAN ID ๋ฅผ ์ธํฐํ์ด์ค์ ํ ๋นํฉ๋๋ค . a. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . b. ์ด๋ํฐ์ Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 13-10) VLAN ID ๋ฅผ ์ ํํ ํ ๊ฐ์ ์ค์ ํฉ๋๋ค . c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ์ฃผ ์์ ๋จ๊ณ๋ PFC( ์ฐ์ ์์ ํ๋ฆ ์ ์ด ) ์ ํ์์ ์
๋๋ค .
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-10. ๊ณ ๊ธ ์์ฑ : VLAN ID ์ค์ 7. ํน์ ์ฐ์ ์์์ ๋ํด RoCE ์ ์ฐ์ ์์ ํ๋ฆ ์ ์ด๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . PS C:\Users\Administrators> Enable-NetQoSFlowControl -Priority 4 ์ฃผ RoCE over Hyper-V ๋ฅผ ๊ตฌ์ฑํ๋ ๊ฒฝ์ฐ VLAN ID ๋ฅผ ์ค์ ์ธํฐํ์ด์ค์ ํ ๋นํ์ง ๋ง์ญ์์ค . 8. ๋ค๋ฅธ ์ฐ์ ์์์ ๋ํด ์ฐ์ ์์ ํ๋ฆ ์ ์ด๋ฅผ ๋นํ์ฑํํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ ๊ธํฉ๋๋ค . PS C:\Users\Administrator> Disable-NetQosFlowControl 0,1,2,3,5,6,7 PS C:\Users\Administrator> Get-NetQosFlowControl Priority Enabled PolicySet IfIndex IfAlias -------- ------- --------- ------- --
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ 4 True Global 5 False Global 6 False Global 7 False Global 9. QoS ๋ฅผ ๊ตฌ์ฑํ๊ณ ๊ฐ ํธ๋ํฝ ์ ํ์ ์ ์ ํ ์ฐ์ ์์๋ฅผ ํ ๋นํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น ์ ๋ฐ๊ธํฉ๋๋ค ( ์ฌ๊ธฐ์ Priority 4 ๋ RoCE ์ฉ์ผ๋ก , Priority 0 ๋ TCP ์ฉ์ผ๋ก ํ๊ทธ ์ง์ ๋จ ). PS C:\Users\Administrators> New-NetQosPolicy "SMB" -NetDirectPortMatchCondition 445 -PriorityValue8021Action 4 -PolicyStore ActiveStore PS C:\Users\Administrators> New-NetQosPolicy "TCP" -IPProtocolMatchCondition TCP -PriorityValue8021Action 0 -Policystore ActiveStore PS C:\Users\Ad
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ Name Algorithm Bandwidth(%) Priority ---- --------- ------------ -------- PolicySet --------- [Default] ETS 20 2-3,5-7 Global RDMA class ETS 50 4 Global TCP class ETS 30 0 Global 11. IfIndex IfAlias ------- ------- ์์ ๊ตฌ์ฑ์์ ๋คํธ์ํฌ ์ด๋ํฐ QoS ๋ฅผ ๋ณด๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Get-NetAdapterQos Name : SLOT 4 Port 1 Enabled : True Capabilities : Hardware Current -------- ------- MacSecBypass : NotSupported Not
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ DCBX ๋ฅผ ํ์ฑํํ์ฌ QoS ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. DCBX(IEEE, CEE ๋๋ Dynamic) ๋ฅผ ํ์ฑํํฉ๋๋ค . 2. HII ๋ฅผ ์ฌ์ฉํ์ฌ RoCE Priority(RoCE ์ฐ์ ์์ ) ๋ฅผ 0 ์ผ๋ก ์ค์ ํฉ๋๋ค . 3. ํธ์คํธ์ DCB ์ญํ ์ ์ค์นํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrators> Install-WindowsFeature Data-Center-Bridging ์ฃผ ์ด ๊ตฌ์ฑ์ ๊ฒฝ์ฐ DCBX Protocol(DCBX ํ๋กํ ์ฝ ) ์ CEE ๋ก ์ค์ ํฉ ๋๋ค . 4. DCBX Willing(DCBX ์์ฌ ) ๋ชจ๋๋ฅผ True ๋ก ์ค์ ํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค . PS C:\Users\Administrators> set-NetQosDcbxSetting -Willing 1 5. ๋ค์๊ณผ ๊ฐ์ด ๋ฏธ๋ํฌํธ์์ QoS ๋ฅผ ํ์ฑํํฉ๋๋ค . a.
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-11. ๊ณ ๊ธ ์์ฑ : QoS ํ์ฑํ 6. ๋ค์๊ณผ ๊ฐ์ด VLAN ID ๋ฅผ ์ธํฐํ์ด์ค (PFC ์ ๊ฒฝ์ฐ ํ์ ) ์ ํ ๋นํฉ๋๋ค . a. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . b. ์ด๋ํฐ์ Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 13-12) VLAN ID ๋ฅผ ์ ํํ ํ ๊ฐ์ ์ค์ ํฉ๋๋ค . c. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
13โWindows Server 2016 RoCE ์ ๋ํ QoS ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-12. ๊ณ ๊ธ ์์ฑ : VLAN ID ์ค์ 7. ์ค์์น๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrators> Get-NetAdapterQoS Name : Ethernet 5 Enabled : True Capabilities : Hardware Current -------- ------- MacSecBypass : NotSupported NotSupported DcbxSupport : CEE NumTCs(Max/ETS/PFC) : 4/4/4 OperationalTrafficClasses OperationalFlowControl : TC TSA Bandwidth Priorities -- --- --------- ---------- 0 ETS 5% 0-3,5-7 1 ETS 95% 4 CEE 4/4/4 : Pr
13โWindows Server 2016 VMMQ ๊ตฌ์ฑ NetDirect 445 RemoteTrafficClasses 4 : TC TSA Bandwidth Priorities -- --- --------- ---------- 0 ETS 5% 0-3,5-7 1 ETS 95% 4 RemoteFlowControl : Priority 4 Enabled RemoteClassifications : Protocol Port/Type Priority -------- --------- -------- NetDirect 445 4 ์ฃผ ์์ ๋์จ ์๋ ์ด๋ํฐ ํฌํธ๊ฐ Arista 7060X ์ค์์น์ ์ฐ๊ฒฐ๋์ด ์์ ๋์ ์ ์
๋๋ค . ์ด ์์์๋ ์ค์์น PFC ๊ฐ Priority 4 ์์ ํ์ฑํ๋ฉ๋๋ค . RoCE App TLV ๊ฐ ์ ์๋ฉ๋๋ค . ์ด ๋ ํธ๋ํฝ ํด๋์ค๋ TC0 ๋ฐ TC1 ๋ก ์ ์๋๋ฉฐ , ์ฌ๊ธฐ์ TC1 ์ RoCE ์ฉ์ผ๋ก ์ ์๋ฉ๋๋ค .
13โWindows Server 2016 VMMQ ๊ตฌ์ฑ ์ด๋ํฐ์์ VMMQ ํ์ฑํ ์ด๋ํฐ์์ VMMQ ๋ฅผ ํ์ฑํํ๋ ค๋ฉด 1. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 2. Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง ( ๊ทธ๋ฆผ 13-13) ์ Property( ์์ฑ ) ์๋์์ Virtual Switch RSS( ๊ฐ์ ์ค์์น RSS) ๋ฅผ ์ ํํ ํ ๊ฐ์ Enabled( ํ์ฑํ ) ๋ก ์ค์ ํฉ๋๋ค . 3. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ทธ๋ฆผ 13-13. ๊ณ ๊ธ ์์ฑ : ๊ฐ์ ์ค์์น RSS ํ์ฑํ VMMQ ์ต๋ QP ๊ธฐ๋ณธ๊ฐ ๋ฐ ๋น๊ธฐ๋ณธ VPort ์ค์ VMMQ ์ต๋ QP ๊ธฐ๋ณธ๊ฐ ๋ฐ ๋น๊ธฐ๋ณธ VPort ๋ฅผ ์ค์ ํ๋ ค๋ฉด 1. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ด๊ณ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 2. Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 13-14) ๋ค์ ์ค ํ๋๋ฅผ ์ ํํฉ๋๋ค .
13โWindows Server 2016 VMMQ ๊ตฌ์ฑ 3. ์ ์ ํ ๊ฒฝ์ฐ ์ ํํ ์์ฑ์ ๋ํ Value( ๊ฐ ) ๋ฅผ ์กฐ์ ํฉ๋๋ค . ๊ทธ๋ฆผ 13-14. ๊ณ ๊ธ ์์ฑ : VMMQ ์ค์ 4. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . SR-IOV ๊ฐ ์๊ฑฐ๋ ์๋ ๊ฐ์ ๋จธ์ ์ค์์น ์์ฑ SR-IOV ๊ฐ ์๊ฑฐ๋ ์๋ ๊ฐ์ ๋จธ์ ์ค์์น๋ฅผ ์์ฑํ๋ ค๋ฉด 1. ํ์ดํผ๋ฐ์ด์ ๊ด๋ฆฌ์๋ฅผ ์์ํฉ๋๋ค . 2. Virtual Switch Manager( ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ ) ๋ฅผ ์ ํํฉ๋๋ค ( ๊ทธ๋ฆผ 13-15 ์ฐธ์กฐ ). 3. Name( ์ด๋ฆ ) ์
๋ ฅ๋์ ๊ฐ์ ์ค์์น์ ์ด๋ฆ์ ์
๋ ฅํฉ๋๋ค . 4. Connection type( ์ฐ๊ฒฐ ์ ํ ) ์์ ๋ค์ ์์
์ ์ํํฉ๋๋ค . a. External network( ์ธ๋ถ ๋คํธ์ํฌ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . b.
13โWindows Server 2016 VMMQ ๊ตฌ์ฑ ๊ทธ๋ฆผ 13-15. ๊ฐ์ ์ค์์น ๊ด๋ฆฌ์ 5. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค . ๊ฐ์ ๋จธ์ ์ค์์น์์ VMMQ ํ์ฑํ ๊ฐ์ ๋จธ์ ์ค์์น์์ VMMQ ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๏ฎ ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrators> Set-VMSwitch -name q1 -defaultqueuevmmqenabled $true -defaultqueuevmmqqueuepairs 4 231 AH0054602-03 F
13โWindows Server 2016 VMMQ ๊ตฌ์ฑ ๊ฐ์ ๋จธ์ ์ค์์น ๊ธฐ๋ฅ ๊ฐ์ ธ์ค๊ธฐ ๊ฐ์ ๋จธ์ ์ค์์น ๊ธฐ๋ฅ์ ๊ฐ์ ธ์ค๋ ค๋ฉด ๏ฎ ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . PS C:\Users\Administrator> Get-VMSwitch -Name ql | fl ๊ทธ๋ฆผ 13-16 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 13-16. Windows PowerShell ๋ช
๋ น : Get-VMSwitch VM ์์ฑ ํ VM ์ VMNetworkadapter ์์ VMMQ ํ์ฑํ ๊ฐ์ ๋จธ์ (VM) ์ ์์ฑํ๊ณ VM ์ VMNetworksadapter ์์ VMMQ ๋ฅผ ํ์ฑํ ํ๋ ค๋ฉด 1. VM ์ ์์ฑํฉ๋๋ค . 2. VMNetworkadapter ๋ฅผ VM ์ ์ถ๊ฐํฉ๋๋ค . 3. ๊ฐ์ ์ค์์น๋ฅผ VMNetworkadapter ์ ํ ๋นํฉ๋๋ค .
13โWindows Server 2016 VMMQ ๊ตฌ์ฑ 4. VM ์์ VMMQ ๋ฅผ ํ์ฑํํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ ๋๋ค . PS C:\Users\Administrators> set-vmnetworkadapter -vmname vm1 -VMNetworkAdapterName "network adapter" -vmmqenabled $true -vmmqqueuepairs 4 ์ฃผ SR-IOV ์ง์ ๊ฐ์ ์ค์์น : VM ์ค์์น ๋ฐ ํ๋์จ์ด ๊ฐ์์ด SR-IOV ๋ฅผ ์ง์ํ๋ ๊ฒฝ์ฐ VMMQ ๋ฅผ ํ์ฉํ๋ ค๋ฉด ๊ฐ๊ฐ 8 ๊ฐ์ ๊ฐ์ NIC ๊ฐ ์๋ VM ์ 10 ๊ฐ ์์ฑํด์ผํฉ๋๋ค . ์ด ์๊ตฌ ์ฌํญ์ SR-IOV ๊ฐ VMMQ ๋ณด๋ค ์ฐ์ ํ๊ธฐ ๋๋ฌธ์
๋๋ค . 64 ๊ฐ์ ๊ฐ์ ๊ธฐ๋ฅ๊ณผ 16 ๊ฐ์ VMMQ ์ ๋ํ ์ถ๋ ฅ ์๊ฐ ์๋์ ๋์ ์์ต ๋๋ค . PS C:\Users\Administrator> get-netadaptervport Name ---Ethernet Ethernet Ethernet E
13โWindows Server 2016 VMMQ ๊ตฌ์ฑ Ethernet Ethernet Ethernet Ethernet 3 3 3 3 77 78 79 80 00-15-5D-36-0A-F7 00-15-5D-36-0A-F8 00-15-5D-36-0A-F9 00-15-5D-36-0A-FA 0:8 0:16 1:0 0:0 PF PF PF PF Activated Activated Activated Activated Adaptive Adaptive Adaptive Adaptive 4 4 4 4 PS C:\Users\Administrator> get-netadaptervmq Name InterfaceDescription ---Ethernet 4 -------------------QLogic FastLinQ 41xxx Enabled BaseVmqProcessor MaxProcessors NumberOfReceive Queues ------- ---------------- -------------
13โWindows Server 2016 VXLAN ๊ตฌ์ฑ VXLAN ๊ตฌ์ฑ VXLAN ๊ตฌ์ฑ ์ ๋ณด๋ ๋ค์์ ํฌํจํฉ๋๋ค . ๏ฎ ์ด๋ํฐ์์ VXLAN ์คํ๋ก๋ ํ์ฑํ ๏ฎ ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ ๋ฐฐํฌ ์ด๋ํฐ์์ VXLAN ์คํ๋ก๋ ํ์ฑํ ์ด๋ํฐ์์ VXLAN ์คํ๋ก๋๋ฅผ ํ์ฑํํ๋ ค๋ฉด 1. ๋ฏธ๋ํฌํธ ์ฐฝ์ ์ฐ ๋ค์ Advanced( ๊ณ ๊ธ ) ํญ์ ํด๋ฆญํฉ๋๋ค . 2. Advanced Properties( ๊ณ ๊ธ ์์ฑ ) ํ์ด์ง์ Property( ์์ฑ ) ์๋์์ ( ๊ทธ๋ฆผ 13-17) VXLAN Encapsulated Task Offload(VXLAN ์บก์ํ ์์
์คํ๋ก๋ ) ๋ฅผ ์ ํํฉ๋๋ค . ๊ทธ๋ฆผ 13-17. ๊ณ ๊ธ ์์ฑ : VXLAN ํ์ฑํ 3. Value( ๊ฐ ) ๋ฅผ Enabled( ์ฌ์ฉ ๊ฐ๋ฅ ) ๋ก ์ค์ ํฉ๋๋ค . 4. OK( ํ์ธ ) ๋ฅผ ํด๋ฆญํฉ๋๋ค .
13โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ ๋ฐฐํฌ ๊ฐ์ ๋จธ์ ์์ VXLAN ์บก์ํ ์์
์คํ๋ก๋๋ฅผ ์ด์ฉํ๋ ค๋ฉด Microsoft ๋คํธ์ํฌ ์ปจ ํธ๋กค๋ฌ๋ฅผ ํ์ฉํ๋ SDN( ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ ) ์คํ์ ๋ฐฐํฌํด์ผ ํฉ๋๋ค . ์์ธํ ๋ด์ฉ์ ์ํํธ์จ์ด ์ ์ ๋คํธ์ํฌ์ ๋ํ ๋ค์ Microsoft TechNet ๋งํฌ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . https://technet.microsoft.com/en-us/windows-server-docs/networking/sdn/ software-defined-networking--sdn- Storage Spaces Direct ๊ตฌ์ฑ Windows Server 2016 ์๋ Storage Spaces Direct ๊ฐ ๋์
๋์๋๋ฐ , ์ด๋ฅผ ์ด์ฉํด ๋ก์ปฌ ์คํ ๋ฆฌ์ง๋ก ๊ณ ๋์ ๊ฐ์ฉ์ฑ๊ณผ ํ์ฅ์ฑ์ ์ง๋ ์คํ ๋ฆฌ์ง ์์คํ
์ ๋ง๋ค ์ ์์ต ๋๋ค . ์์ธํ ๋ด์ฉ์ ๋ค์ Microsoft TechnNet ๋งํฌ๋ฅผ ์ฐธ์กฐํ์ญ์์ค .
13โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ ์ฃผ ์ด ์์์ ์ฌ์ฉ๋๋ ๋์คํฌ๋ 4 ร 400G NVMeโข ๋ฐ 12 ร 200G SSD ๋์คํฌ ์
๋๋ค . Hyper-Converged ์์คํ
๋ฐฐํฌ ์ด ์น์
์์๋ Windows Server 2016 ์ ์ฌ์ฉํ์ฌ Hyper-Converged ์์คํ
์ ๊ตฌ ์ฑ์์๋ฅผ ์ค์น ๋ฐ ๊ตฌ์ฑํ๊ธฐ ์ํ ์ง์นจ์ ์๊ฐํฉ๋๋ค . Hyper-Converged ์์คํ
์ ๋ฐฐํฌํ๋ ์์
์ ๋ค์ ์ธ ๊ฐ์ง ํฐ ๋จ๊ณ๋ก ๋๋ ์ ์์ต๋๋ค . ๏ฎ ์ด์ ์ฒด์ ๋ฐฐํฌ ๏ฎ ๋คํธ์ํฌ ๊ตฌ์ฑ ๏ฎ Storage Spaces Direct ๊ตฌ์ฑ ์ด์ ์ฒด์ ๋ฐฐํฌ ์ด์ ์ฒด์ ๋ฅผ ๋ฐฐํฌํ๋ ค๋ฉด 1. ์ด์ ์ฒด์ ๋ฅผ ์ค์นํฉ๋๋ค . 2. Windows ์๋ฒ ์ญํ ( ํ์ดํผ๋ฐ์ด์ ) ์ ์ค์นํฉ๋๋ค . 3. ๋ค์ ๊ธฐ๋ฅ์ ์ค์นํฉ๋๋ค . ๏ฑ ๏ฑ ๏ฑ 4. ์ฅ์ ์กฐ์น ํด๋ฌ์คํฐ DCB(Data Center Bridging) ๋
ธ๋๋ฅผ ๋๋ฉ์ธ์ ์ฐ๊ฒฐํ๊ณ ๋๋ฉ์ธ ๊ณ์ ์ ์ถ๊ฐํฉ๋๋ค .
13โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ ๊ฐ ์๋ฒ์์ ๋คํธ์ํฌ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด 1. ๋ค์๊ณผ ๊ฐ์ด ์ค์ ๋คํธ์ํฌ ์ค์์น๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . a. ๋ชจ๋ ์ด๋ํฐ NIC ๋ฅผ ์ค์์น ํฌํธ์ ์ฐ๊ฒฐํฉ๋๋ค . ์ฃผ ํ
์คํธ ์ด๋ํฐ์ NIC ํฌํธ๊ฐ ๋ ๊ฐ ์ด์ ์๋ ๊ฒฝ์ฐ ๋ ํฌํธ ๋ชจ๋ ๊ฐ์ ์ค์์น์ ์ฐ๊ฒฐํด์ผ ํฉ๋๋ค . b. ์ค์์น ํฌํธ๋ฅผ ํ์ฑํํ๊ณ ์ค์์น ํฌํธ๊ฐ ์ค์์น์ ๋
๋ฆฝ์ ์ธ ํฐ๋ฐ ๋ชจ๋ ๋ฅผ ์ง์ํ๊ณ ๋ค์ค VLAN ๋คํธ์ํฌ์ ์ํ๋์ง ํ์ธํ์ญ์์ค . Dell ์ค์์น ๊ตฌ์ฑ ์ : no ip address mtu 9416 portmode hybrid switchport dcb-map roce_S2D protocol lldp dcbx version cee no shutdown 2. Network Quality of Service( ๋คํธ์ํฌ ์๋น์ค ํ์ง ) ๋ฅผ ํ์ฑํํฉ๋๋ค .
13โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ c. ๊ฐ์ ์ค์์น์ ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ์ถ๊ฐํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . Add-VMNetworkAdapter โSwitchName SETswitch โName SMB_1 โmanagementOS Add-VMNetworkAdapter โSwitchName SETswitch โName SMB_2 โmanagementOS ์ฃผ ์์ ๋ช
๋ น๋ค์ ์ฌ์ฉํ ๊ด๋ฆฌ ์ด์ ์ฒด์ ๋ฅผ ์ํด ๋ฐฉ๊ธ ๊ตฌ์ฑํ ๊ฐ์ ์ค ์์น์์ ๊ฐ์ NIC ๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . d. VLAN ์ ์ฌ์ฉํ๋๋ก ํธ์คํธ ๊ฐ์ NIC ๋ฅผ ๊ตฌ์ฑํ๋ ค๋ฉด ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธ ํฉ๋๋ค .
13โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ Storage Spaces Direct ๊ตฌ์ฑ Windows Server 2016 ์์ Storage Spaces Direct ๋ฅผ ๊ตฌ์ฑํ๋ ์ ์ฐจ๋ ๋ค์๊ณผ ๊ฐ ์ต๋๋ค . ๏ฎ 1 ๋จ๊ณ . ํด๋ฌ์คํฐ ์ ํจ์ฑ ๊ฒ์ฌ ๋๊ตฌ ์คํ ๏ฎ 2 ๋จ๊ณ . ํด๋ฌ์คํฐ ์์ฑ ๏ฎ 3 ๋จ๊ณ . ํด๋ฌ์คํฐ ๊ฐ์ ์ฅ์น ๊ตฌ์ฑ ๏ฎ 4 ๋จ๊ณ . Storage Spaces Direct ์ ์ฌ์ฉ๋๋ ๋์คํฌ ์ ๋ฆฌ ๏ฎ 5 ๋จ๊ณ . Storage Spaces Direct ํ์ฑํ ๏ฎ 6 ๋จ๊ณ . ๊ฐ์ ๋์คํฌ ์์ฑ ๏ฎ 7 ๋จ๊ณ . ๊ฐ์ ๋จธ์ ์์ฑ ๋๋ ๋ฐฐํฌ 1 ๋จ๊ณ . ํด๋ฌ์คํฐ ์ ํจ์ฑ ๊ฒ์ฌ ๋๊ตฌ ์คํ ํด๋ฌ์คํฐ ์ ํจ์ฑ ๊ฒ์ฌ ๋๊ตฌ๋ฅผ ์คํํ์ฌ ์๋ฒ ๋
ธ๋๊ฐ Storage Spaces Direct ๋ฅผ ์ฌ ์ฉํ์ฌ ํด๋ฌ์คํฐ๋ฅผ ์์ฑํ๋๋ก ์ฌ๋ฐ๋ฅด๊ฒ ๊ตฌ์ฑ๋์ด ์๋์ง ํ์ธํฉ๋๋ค .
13โWindows Server 2016 Storage Spaces Direct ๊ตฌ์ฑ 4 ๋จ๊ณ . Storage Spaces Direct ์ ์ฌ์ฉ๋๋ ๋์คํฌ ์ ๋ฆฌ Storage Spaces Direct ์ ์ฌ์ฉํ๋ ค๋ ๋์คํฌ๋ ๋น์ด ์๊ณ ํํฐ์
์ด๋ ๋ค๋ฅธ ๋ฐ์ดํฐ ๊ฐ ์์ด์ผ ํฉ๋๋ค . ๋์คํฌ์ ํํฐ์
์ด๋ ๋ค๋ฅธ ๋ฐ์ดํฐ๊ฐ ์์ ๊ฒฝ์ฐ Storage Spaces Direct ์์คํ
์๋ ์ด๋ฐ ํํฐ์
์ด๋ ๋ฐ์ดํฐ๊ฐ ํฌํจ๋์ง ์์ต๋๋ค . ๋ค์ Windows PowerShell ๋ช
๋ น์ Windows PowerShell ์คํฌ๋ฆฝํธ (.PS1) ํ์ผ์ ๋ฃ๊ณ ๊ด๋ฆฌ์ ๊ถํ์ผ๋ก ์ฐ Windows PowerShell( ๋๋ Windows PowerShell ISE) ์ฝ ์์ ๊ด๋ฆฌ ์์คํ
์์ ๋ช
๋ น์ ์คํํ ์ ์์ต๋๋ค . ์ฃผ ๋ค์ ์คํฌ๋ฆฝํธ๋ฅผ ์คํํ๋ฉด Storage Spaces Direct ์ฉ์ผ๋ก ์ฌ์ฉํ ์ ์๋ ๋ ์คํฌ๋ฅผ ๊ฐ๊ฐ์ ๋
ธ๋์์ ์๋ณํ๋ ๋ฐ ๋์์ด ๋๊ณ ์ด๋ฐ ๋์คํฌ์์ ๋ชจ๋ ๋ฐ์ด ํฐ์ ํํฐ์
์ด ์ ๊ฑฐ๋ฉ๋๋ค .
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ 5 ๋จ๊ณ . Storage Spaces Direct ํ์ฑํ ํด๋ฌ์คํฐ๋ฅผ ์์ฑํ ํ Enable-ClusterStorageSpacesDirect Windows PowerShell cmdlet ์ ์คํํฉ๋๋ค . cmdlet ์ ์คํ ๋ฆฌ์ง ์์คํ
์ Storage Spaces Direct ๋ชจ๋๋ก ์ ํํ๊ณ ๋ค์ ์์
์ ์๋์ผ๋ก ์ํํฉ๋๋ค . ๏ฎ S2D on Cluster1 ๊ฐ์ ์ด๋ฆ์ ๊ฐ์ง ๋ํ ํ์ ํ๋ ์์ฑํฉ๋๋ค . ๏ฎ Storage Spaces Direct ์บ์๋ฅผ ๊ตฌ์ฑํฉ๋๋ค . Storage Spaces Direct ๊ฐ ์ฌ์ฉํ ์ ์๋ ๋ฏธ๋์ด ์ ํ์ด ๋ ์ด์ ์๋ ๊ฒฝ์ฐ ๊ฐ์ฅ ํจ์จ์ ์ธ ์ ํ์ ์บ์ ์ฅ์น๋ก ๊ตฌ์ฑํฉ๋๋ค ( ๋๋ถ๋ถ์ ๊ฒฝ์ฐ ์ฝ๊ธฐ์ ์ฐ๊ธฐ ). ๏ฎ Capacity(์ฉ๋) ๋ฐ Performance(์ฑ๋ฅ)์ ๋ ๊ณ์ธต์ ๊ธฐ๋ณธ ๊ณ์ธต์ผ๋ก ์์ฑํฉ๋ ๋ค .
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ์ญํ ๊ณผ ๊ธฐ๋ฅ ํ 13-1 ์๋ ์ด Nano ์๋ฒ ๋ฆด๋ฆฌ์ค์์ ์ง์๋๋ ์ญํ ๋ฐ ๊ธฐ๋ฅ๊ณผ ํจ๊ป , ์ด๋ค์ ์ ํ ํจํค์ง๋ฅผ ์ค์นํ๋ Windows PowerShell ์ต์
์ด ๋์ ์์ต๋๋ค . ์ผ๋ถ ํจํค์ง๋ ๊ณ ์ ์ Windows PowerShell ์ต์
( ์ : -Compute) ์ผ๋ก ์ง์ ์ค์น๋ฉ๋๋ค . ๋ค๋ฅธ ํจ ํค์ง๋ -Packages ์ต์
์ ๋ํ ํ์ฅ ํจํค์ง๋ก ์ค์น๋๋ฉฐ , ์ด๋ค์ ์ผํ๋ก ๊ตฌ๋ถ๋ ๋ชฉ๋ก์ ๊ฒฐํฉํ ์ ์์ต๋๋ค . ํ 13-1. Nano ์๋ฒ์ ์ญํ ๊ณผ ๊ธฐ๋ฅ ์ญํ ๋๋ ๊ธฐ๋ฅ ์ต์
ํ์ดํผ๋ฐ์ด์ ์ญํ -Compute ์ฅ์ ๋ณต๊ตฌ ํด๋ฌ์คํฐ๋ง -Clustering Nano ์๋ฒ๋ฅผ ๊ฐ์ ๋จธ์ ์ผ๋ก ํธ์คํธํ๊ธฐ ์ํ ํ์ด ํผ๋ฐ์ด์ ๊ฒ์คํธ ๋๋ผ์ด๋ฒ -GuestDrivers ๋ค์ํ ๋คํธ์ํฌ ์ด๋ํฐ ๋ฐ ์คํ ๋ฆฌ์ง ์ปจํธ๋กค๋ฌ์ฉ ๊ธฐ๋ณธ ๋๋ผ์ด๋ฒ .
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ํ 13-1. Nano ์๋ฒ์ ์ญํ ๊ณผ ๊ธฐ๋ฅ ( ๊ณ์ ) ์ญํ ๋๋ ๊ธฐ๋ฅ ์ต์
-Packages Microsoft-Windows-ServerSCVMM-Package ์์คํ
์ผํฐ ๊ฐ์ ๋จธ์ ๊ด๋ฆฌ์ ์์ด์ ํธ -Packages Microsoft-Windows-ServerSCVMM-Compute-Package ์ฐธ๊ณ : ์ด ํจํค์ง๋ Hyper-V ๋ฅผ ๋ชจ๋ํฐ๋งํ๋ ๊ฒฝ์ฐ ์๋ง ์ฌ์ฉํ์ญ์์ค . ์ด ํจํค์ง๋ฅผ ์ค์นํ๋ ๊ฒฝ์ฐ -Compute ์ต์
์ Hyper-V ์ญํ ์ ์ฌ์ฉํด์๋ ์ ๋ฉ๋๋ค . ๋์ ์ -Packages ์ต์
์ ์ฌ์ฉํ์ฌ -Packages Microsoft-NanoServer-Compute-Package, Microsoft-Windows-Server-SCVMMCompute-Package ๋ฅผ ์ค์นํฉ๋๋ค .
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ 6. ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํ์ฌ NanoServerImageGenerator ์คํฌ๋ฆฝํธ๋ฅผ ๊ฐ์ ธ์ต๋๋ค . Import-Module .\NanoServerImageGenerator.psm1 -Verbose 7. ์ปดํจํฐ ์ด๋ฆ์ ์ค์ ํ๊ณ OEM ๋๋ผ์ด๋ฒ์ ํ์ดํผ๋ฐ์ด์ ๋ฅผ ํฌํจํ๋ VHD ๋ฅผ ์์ฑํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . ์ฃผ ์ด ๋ช
๋ น์ ๋ฐ๊ธํ๋ฉด ์ VHD ์ ๋ํ ๊ด๋ฆฌ์ ์ํธ๋ฅผ ์
๋ ฅํ๋ผ๋ ๋ฉ์์ง ๊ฐ ํ์๋ฉ๋๋ค . New-NanoServerImage โDeploymentType Host โEdition -MediaPath -BasePath .\Base -TargetPath .\NanoServerPhysical\NanoServer.
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ INFO : Windows path (I:) has been assigned. INFO : System volume location: I: INFO : Applying image to VHD. This could take a while... INFO : Image was applied successfully. INFO : Making image bootable... INFO : Fixing the Device ID in the BCD store on VHD... INFO : Drive is bootable. INFO : Dismounting VHD... INFO : Closing Windows image... INFO : Done. Cleaning up... Done. The log is at: C:\Users\ADMINI~1\AppData\Local\Temp\2\NanoServerImageGen
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ๊ฐ์ ๋จธ์ ์ Nano ์๋ฒ ๋ฐฐํฌ ๊ฐ์ ๋จธ์ ์์ ์คํํ Nano ์๋ฒ VHD( ๊ฐ์ ํ๋ ๋๋ผ์ด๋ธ ) ๋ฅผ ์์ฑํ๋ ค๋ฉด 1. Windows Server 2016 OS ์ด๋ฏธ์ง๋ฅผ ๋ค์ด๋ก๋ํฉ๋๋ค . 2. ๋จ๊ณ 1 ์์ ๋ค์ด๋ก๋ํ ํ์ผ์์ NanoServer ํด๋๋ก ์ด๋ํฉ๋๋ค . 3. NanoServer ํด๋์์ ํ๋ ๋๋ผ์ด๋ธ์ ์๋ ํด๋๋ก ๋ค์ ํ์ผ์ ๋ณต์ฌํฉ๋ ๋ค. ๏ฑ NanoServerImageGenerator.psm1 ๏ฑ Convert-WindowsImage.ps1 4. Windows PowerShell ์ ๊ด๋ฆฌ์ ๊ถํ์ผ๋ก ์์ํฉ๋๋ค . 5. ๋จ๊ณ 3 ์์ ํ์ผ์ ๋ถ์ฌ ๋ฃ์ ํด๋๋ก ๋๋ ํฐ๋ฆฌ๋ฅผ ๋ณ๊ฒฝํฉ๋๋ค . 6. ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํ์ฌ NanoServerImageGenerator ์คํฌ๋ฆฝํธ๋ฅผ ๊ฐ์ ธ์ต๋๋ค . Import-Module .\NanoServerImageGenerator.psm1 -Verbose 7.
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ C:\tmp\TP4_iso\Bld_10586_iso -BasePath .\Base -TargetPath .\Nano1\VM_NanoServer.vhd -ComputerName Nano-VM1 โGuestDrivers cmdlet New-NanoServerImage at command pipeline position 1 Supply values for the following parameters: Windows(R) Image to Virtual Hard Disk Converter for Windows(R) 10 Copyright (C) Microsoft Corporation. All rights reserved. Version 10.0.14300. 1000.amd64fre.rs1_release_svc.
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ Nano ์๋ฒ ์๊ฒฉ ๊ด๋ฆฌ Nano ์๋ฒ๋ฅผ ์๊ฒฉ์ผ๋ก ๊ด๋ฆฌํ๊ธฐ ์ํ ์ต์
์ผ๋ก๋ Windows PowerShell, WMI(Windows Management Instrumentation), Windows ์๊ฒฉ ๊ด๋ฆฌ ๋ฐ EMS(Emergency Management Services) ๊ฐ ์์ต๋๋ค . ์ด ์น์
์์๋ Windows PowerShell ์๊ฒฉ์ ์ฌ์ฉํ์ฌ Nano ์๋ฒ์ ์ก์ธ์คํ๋ ๋ฐฉ๋ฒ์ ์ค๋ช
ํฉ๋๋ค . Windows PowerShell ์๊ฒฉ ๊ธฐ๋ฅ์ ์ฌ์ฉํ Nano ์๋ฒ ๊ด๋ฆฌ Windows PowerShell ์๊ฒฉ ๊ธฐ๋ฅ์ ์ฌ์ฉํ์ฌ Nano ์๋ฒ๋ฅผ ๊ด๋ฆฌํ๋ ค๋ฉด 1. ๊ด๋ฆฌ ์ปดํจํฐ์ ์ ๋ขฐํ ์ ์๋ ํธ์คํธ ๋ชฉ๋ก์ Nano ์๋ฒ์ IP ์ฃผ์๋ฅผ ์ถ๊ฐํฉ ๋๋ค . ์ฃผ ๋ณต๊ตฌ ์ฝ์์ ์ฌ์ฉํ์ฌ ์๋ฒ IP ์ฃผ์๋ฅผ ์ฐพ์ต๋๋ค . 2. Nano ์๋ฒ์ ๊ด๋ฆฌ์์ ์์ ์ด ์ฌ์ฉ ์ค์ธ ๊ณ์ ์ ์ถ๊ฐํฉ๋๋ค . 3.
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ์ด์ ๋ ํ์๋๋ก Nano ์๋ฒ์์ Windows PowerShell ๋ช
๋ น์ ์คํํ ์ ์์ต๋๋ค . ํ์ง๋ง ์ด Nano ์๋ฒ ๋ฆด๋ฆฌ์ค์์ ์ผ๋ถ Windows PowerShell ๋ช
๋ น์ ์ง์๋์ง ์์ต ๋๋ค . ์ด๋ค ๋ช
๋ น์ ์ฌ์ฉํ ์ ์๋์ง ํ์ธํ๋ ค๋ฉด Get-Command -CommandType Cmdlet ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . ์๊ฒฉ ์ธ์
์ ์ค์งํ๋ ค๋ฉด Exit-PSSession ๋ช
๋ น์ ๋ฐ ๊ธํฉ๋๋ค . Nano ์๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ ๋ค์ ๋งํฌ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . https://technet.microsoft.com/en-us/library/mt126167.
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ ๊ทธ๋ฆผ 13-19 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 13-19. Windows PowerShell ๋ช
๋ น : Get-NetAdapter 3. ์ด๋ํฐ์์ RDMA ๊ฐ ํ์ฑํ๋์ด ์๋์ง ํ์ธํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . [172.28.41.152]: PS C:\Users\Administrator\Documents> Get-NetAdapterRdma ๊ทธ๋ฆผ 13-20 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 13-20. Windows PowerShell ๋ช
๋ น : Get-NetAdapterRdma 4. ์ด๋ํฐ์ ๋ชจ๋ ์ธํฐํ์ด์ค์ IP ์ฃผ์์ VLAN ID ๋ฅผ ํ ๋นํ๋ ค๋ฉด ๋ค์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . [172.28.41.152]: PS C:\> Set-NetAdapterAdvancedProperty -InterfaceAlias "slot 1 port 1" -Registry
13โWindows Server 2016 Nano ์๋ฒ ๋ฐฐํฌ ๋ฐ ๊ด๋ฆฌ [172.28.41.152]: PS C:\> New-SMBShare -Name "smbshare" -Path c:\smbshare -FullAccess Everyone ๊ทธ๋ฆผ 13-22 ์ ์ถ๋ ฅ ์๊ฐ ๋์ ์์ต๋๋ค . ๊ทธ๋ฆผ 13-22. Windows PowerShell ๋ช
๋ น : New-SMBShare 6. ํด๋ผ์ด์ธํธ ์ปดํจํฐ์์ SMBShare ๋ฅผ ๋คํธ์ํฌ ๋๋ผ์ด๋ธ๋ก ๋งคํํ๋ ค๋ฉด ๋ค ์ Windows PowerShell ๋ช
๋ น์ ์คํํฉ๋๋ค . ์ฃผ Nano ์๋ฒ์์ ์ธํฐํ์ด์ค์ IP ์ฃผ์๋ 192.168.10.10 ์
๋๋ค . PS C:\Windows\system32> net use z: \\192.168.10.10\smbshare This command completed successfully. 7.
14 ๋ฌธ์ ํด๊ฒฐ ์ด ์ฅ์์๋ ๋ค์ ๋ฌธ์ ํด๊ฒฐ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ๋ฌธ์ ํด๊ฒฐ ๊ฒ์ฌ ๋ชฉ๋ก ๏ฎ 254 ํ์ด์ง์ " ํ์ฌ ๋๋ผ์ด๋ฒ์ ๋ก๋ ์ฌ๋ถ ํ์ธ " ๏ฎ 255 ํ์ด์ง์ " ๋คํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ " ๏ฎ 256 ํ์ด์ง์ "Hyper-V ๋ฅผ ์ด์ฉํ Microsoft ๊ฐ์ํ " ๏ฎ 256 ํ์ด์ง์ "Linux ๊ด๋ จ ๋ฌธ์ " ๏ฎ 256 ํ์ด์ง์ " ๊ธฐํ ๋ฌธ์ " ๏ฎ 257 ํ์ด์ง์ " ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง " ๋ฌธ์ ํด๊ฒฐ ๊ฒ์ฌ ๋ชฉ๋ก ์ฃผ์ ์ด๋ํฐ๋ฅผ ์ถ๊ฐํ๊ฑฐ๋ ์ ๊ฑฐํ๊ธฐ ์ํด ์๋ฒ ์บ๋น๋์ ์ด๊ธฐ ์ ์ 5 ํ์ด์ง์ " ์์ ์ฃผ์์ฌํญ " ์ ๊ฒํ ํ์ญ์์ค . ๋ค์ ๊ฒ์ฌ ๋ชฉ๋ก์ ์์คํ
์์ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ฅผ ์ค์นํ๊ฑฐ๋ ์คํํ๋ ์ค์ ๋ฐ์ํ ์ ์๋ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๊ถ์ฅ๋๋ ์กฐ์น๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ์ผ์ด๋ธ๊ณผ ์ฐ๊ฒฐ ๋ถ๋ถ์ ๋ชจ๋ ๊ฒ์ฌํฉ๋๋ค . ๋คํธ์ํฌ ์ด๋ํฐ์ ์ผ์ด๋ธ๊ณผ ์ค์์น ๊ฐ ์ฌ๋ฐ๋ก ์ฐ๊ฒฐ๋์๋์ง ํ์ธํฉ๋๋ค . ๏ฎ 6 ํ์ด์ง์ " ์ด๋ํฐ ์ค์น " ๋ฅผ ๊ฒํ ํ์ฌ ์ด๋ํฐ ์ค์น๋ฅผ ํ์ธํฉ๋๋ค .
14โ ๋ฌธ์ ํด๊ฒฐ ํ์ฌ ๋๋ผ์ด๋ฒ์ ๋ก๋ ์ฌ๋ถ ํ์ธ ๏ฎ ๊ฒฐํจ์ด ์๋ ์ด๋ํฐ๋ฅผ ์ฌ๋ฐ๋ฅด๊ฒ ์๋ํ๋ ์ด๋ํฐ๋ก ๊ต์ฒดํฉ๋๋ค. ์ฒซ ๋ฒ์งธ ์ด๋ ํฐ๊ฐ ์๋ํ์ง ์๋ ์ฌ๋กฏ์ ๋ ๋ฒ์งธ ์ด๋ํฐ๊ฐ ์๋ํ๋ ๊ฒฝ์ฐ ์๋ ์ด๋ํฐ์ ๊ฒฐํจ์ด ์์ ์ ์์ต๋๋ค . ๏ฎ ์ ๋๋ก ์๋์ด ๋๋ ๋ค๋ฅธ ์์คํ
์ ์ด๋ํฐ๋ฅผ ์ค์นํ ํ ํ
์คํธ๋ฅผ ๋ค์ ์คํํฉ ๋๋ค . ์ด๋ํฐ๊ฐ ์ ์์คํ
์์ ํ
์คํธ๋ฅผ ํต๊ณผํ ๊ฒฝ์ฐ ์๋ ์์คํ
์ ๊ฒฐํจ์ด ์์ ์ ์์ต๋๋ค . ๏ฎ ์์คํ
์์ ๋ค๋ฅธ ์ด๋ํฐ๋ฅผ ๋ชจ๋ ์ ๊ฑฐํ ํ ํ
์คํธ๋ฅผ ๋ค์ ์คํํฉ๋๋ค. ์ด๋ํฐ ๊ฐ ํ
์คํธ๋ฅผ ํต๊ณผํ ๊ฒฝ์ฐ ๋ค๋ฅธ ์ด๋ํฐ์ ์ถฉ๋์ด ๋ฐ์ํ์ ์ ์์ต๋๋ค . ํ์ฌ ๋๋ผ์ด๋ฒ์ ๋ก๋ ์ฌ๋ถ ํ์ธ ํ์ฌ ๋๋ผ์ด๋ฒ๊ฐ Windows, Linux ๋๋ VMware ์์คํ
์ฉ์ผ๋ก ๋ก๋๋๋์ง ํ์ธํฉ ๋๋ค . Windows ๋๋ผ์ด๋ฒ ํ์ธ ์ด๋ํฐ , ๋งํฌ ์ํ ๋ฐ ๋คํธ์ํฌ ์ฐ๊ฒฐ์ ๋ํ ์ค์ ์ ๋ณด๋ ์ฅ์น ๊ด๋ฆฌ์์์ ํ์ธํฉ ๋๋ค . Linux ๋๋ผ์ด๋ฒ ํ์ธ qed.
14โ ๋ฌธ์ ํด๊ฒฐ ๋คํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ ์๋ก์ด ๋๋ผ์ด๋ฒ๋ฅผ ๋ก๋ํ์ฌ๋ ์์ง ์ฌ๋ถํ
์ ์ธ ๊ฒฝ์ฐ์๋ modinfo ๋ช
๋ น์ ์คํ ํด๋ ์
๋ฐ์ดํธ๋ ๋๋ผ์ด๋ฒ ์ ๋ณด๊ฐ ํ์๋์ง ์์ต๋๋ค. ์ด๋ฐ ๊ฒฝ์ฐ์๋ ๋ค์๊ณผ ๊ฐ์ด dmesg ๋ช
๋ น์ ๋ฐ๊ธํ์ฌ ๋ก๊ทธ ์ ๋ณด๋ฅผ ํ์ธํ ์ ์์ต๋๋ค. ์๋ ์์์ ๋ง์ง๋ง ํญ๋ชฉ ์ด ์ฌ๋ถํ
์ ํ์ฑํ๋๋ ๋๋ผ์ด๋ฒ๋ฅผ ๋ํ๋
๋๋ค . # dmesg | grep -i "Cavium" | grep -i "qede" [ 10.097526] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 23.093526] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 34.975396] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 34.975896] QLogic FastLinQ 4xxxx Ethernet Driver qede x.x.x.x [ 3334.
14โ ๋ฌธ์ ํด๊ฒฐ Hyper-V ๋ฅผ ์ด์ฉํ Microsoft ๊ฐ์ํ ํ์๋๋ ping ํต๊ณ๋ ๋คํธ์ํฌ ์ฐ๊ฒฐ์ด ์๋ํ๋์ง ์ฌ๋ถ๋ฅผ ๋ํ๋
๋๋ค . Linux ์ฉ ๋คํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ ์ด๋๋ท ์ธํฐํ์ด์ค๊ฐ ์๋๋์ด ์คํ ์ค์ธ์ง ํ์ธํ๋ ค๋ฉด 1. ์ด๋๋ท ์ธํฐํ์ด์ค์ ์ํ๋ฅผ ํ์ธํ๋ ค๋ฉด ifconfig ๋ช
๋ น์ ๋ฐ๊ธํฉ๋๋ค . 2. ์ด๋๋ท ์ธํฐํ์ด์ค์ ๋ํ ํต๊ณ๋ฅผ ํ์ธํ๋ ค๋ฉด netstat -i ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค . ์ฐ๊ฒฐ์ด ์ค์ ๋์๋์ง ํ์ธํ๋ ค๋ฉด 1. ๋คํธ์ํฌ์์ IP ํธ์คํธ๋ฅผ Ping ํฉ๋๋ค . ๋ช
๋ น ํ์์ ๋ค์ ๋ช
๋ น์ ๋ฐ๊ธํฉ ๋๋ค . ping 2. ENTER ํค๋ฅผ ๋๋ฆ
๋๋ค . ํ์๋๋ ping ํต๊ณ๋ ๋คํธ์ํฌ ์ฐ๊ฒฐ์ด ์๋ํ๋์ง ์ฌ๋ถ๋ฅผ ๋ํ๋
๋๋ค . ์ด์ ์ฒด์ GUI ๋๊ตฌ๋ ethtool ๋ช
๋ น , ethtool โs ethX speed SSSS ๋ฅผ ์ฌ์ฉํ์ฌ ์ด๋ํฐ ๋งํฌ ์๋๋ฅผ 10Gbps ๋๋ 25Gbps ๋ก ๊ฐ์ ์ค์ ํ ์ ์์ต๋๋ค .
14โ ๋ฌธ์ ํด๊ฒฐ ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง ๋ฌธ์ : iSCSI ๋๋ผ์ด๋ฒ (qedil) ๊ฐ ์ค์น๋ ESXi ํ๊ฒฝ์์ VI ํด๋ผ์ด์ธํธ๊ฐ ํธ์คํธ์ ์ก์ธ์คํ์ง ๋ชปํ๋ ๊ฒฝ์ฐ๊ฐ ์์ต๋๋ค . ์ด๋ ํธ์คํ
๋๋ ๋ฐ๋ชฌ์ด ์ข
๋ฃ๋์ด VI ํด๋ผ์ด์ธํธ์์ ์ฐ๊ฒฐ์ ์ํฅ์ ์ฃผ์๊ธฐ ๋๋ฌธ์
๋๋ค . ํด๊ฒฐ์ฑ
: VMware ๊ธฐ์ ์ง์์ ๋ฌธ์ํ์ญ์์ค . ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง ํ 14-1 ์ ๋ช
๋ น์ ์ฌ์ฉํ์ฌ ๋๋ฒ๊ทธ ๋ฐ์ดํฐ๋ฅผ ์์งํฉ๋๋ค . ํ 14-1. ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์์ง ๋ช
๋ น ๋๋ฒ๊ทธ ๋ฐ์ดํฐ ์ค๋ช
demesg-T ์ปค๋ ๋ก๊ทธ ethtool-d ๋ ์ง์คํฐ ๋คํ sys_info.
A ์ด๋ํฐ LED ํ A-1 ์๋ ์ด๋ํฐ ํฌํธ ๋งํฌ ๋ฐ ์๋ ์ํ๋ฅผ ๋ํ๋ด๋ LED ํ์๋ฑ์ด ๋์ ์์ต ๋๋ค . ํ A-1.
B ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ์ด ๋ถ๋ก์์๋ ์ง์๋๋ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋์ ๋ํด ๋ค์ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค . ๏ฎ ์ง์๋๋ ์ฌ์ ๏ฎ 260 ํ์ด์ง์ " ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ " ๏ฎ 264 ํ์ด์ง์ " ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น " ์ง์๋๋ ์ฌ์ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ SFF8024 ๋ฅผ ์ค์ํ๋ ๋ค์ํ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋์ ์ง์ ํฉ๋๋ค . ํน์ ํผํฉํฐ ๊ท์ ์ค์๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . ๏ฎ ๏ฎ ๏ฎ SFP: ๏ฑ SFF8472( ๋ฉ๋ชจ๋ฆฌ ๋งต์ฉ ) ๏ฑ SFF8419 ๋๋ SFF8431( ์ ์ ์ ํธ์ ์ ๋ ฅ ) QSFP(Quad small form factor pluggable): ๏ฑ SFF8636( ๋ฉ๋ชจ๋ฆฌ ๋งต์ฉ ) ๏ฑ SFF8679 ๋๋ SFF8436( ์ ์ ์ ํธ์ ์ ๋ ฅ ) ๊ดํ ๋ชจ๋ ์ ๊ธฐ ์
๋ ฅ/์ถ๋ ฅ, ACC(Active Copper ์ผ์ด๋ธ), AOC(๋ฅ๋ํ ๊ดํ ์ผ ์ด๋ธ ): ๏ฑ 10GโSFF8431 ์ ํ ์ธํฐํ์ด์ค ๏ฑ 25GโIEEE802.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ Cavium์ ๊ท์ ์ค์ ์๊ฑด์ ์ถฉ์กฑํ๋ ๋ชจ๋ ์ผ์ด๋ธ ๋๋ ๊ดํ ๋ชจ๋์ด 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์ ํจ๊ป ์๋ํ ๊ฒ์ด๋ผ ๋ณด์ฅํ์ง ์์ต๋๋ค . Cavium ์ ํ B-1 ์ ๋์ด๋ ๊ตฌ ์ฑ๋ถํ์ ํ
์คํธํ ํ ํธ๋ฆฌํ๊ฒ ์ฐธ์กฐํ ์ ์๋๋ก ์ด ๋ชฉ๋ก์ ์ ์ํ๋ ๊ฒ์
๋๋ค . ํ B-1.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ B-1.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ B-1.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ B-1.
Bโ ์ผ์ด๋ธ ๋ฐ ๊ดํ ๋ชจ๋ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น ํ B-2 ๋ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ์ ์ํธ ์ด์ฉ์ฑ ํ
์คํธ๋ฅผ ๊ฑฐ์น ์ค์์น๋ฅผ ๋์ดํ ๊ฒ ์
๋๋ค . ์ด ๋ชฉ๋ก์ ์ ํ ์ถ์ ์์ ์ ์ฌ์ฉ ๊ฐ๋ฅํ ์ค์์น๋ฅผ ๊ธฐ์ค์ผ๋ก ํ ๊ฒ์ด๋ฉฐ , ์๊ฐ์ ๊ฒฝ๊ณผ์ ๋ฐ๋ผ ์๋ก์ด ์ค์์น๊ฐ ์ถ์๋๊ฑฐ๋ ๋จ์ข
๋๋ ์ค์์น๊ฐ ์์ ๋ ๋ณ๊ฒฝ ๋ ์ ์์ต๋๋ค . ํ B-2.
C Dell Z9100 ์ค์์น ๊ตฌ์ฑ 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ Dell Z9100 ์ด๋๋ท ์ค์์น์ ์ฐ๊ฒฐํ ์ ์๋๋ก ์ง์ํฉ๋๋ค . ๋จ , ์๋ ํ์ ํ๋ก์ธ์ค๊ฐ ํ์คํ๋ ๋๊น์ง๋ 25Gbps ์ ์๋๋ก ์ด๋ํฐ์ ์ฐ๊ฒฐํ ์ ์๋๋ก ์๋์ผ๋ก ์ค์์น๋ฅผ ๊ตฌ์ฑํด์ผ ํฉ๋๋ค . 41xxx ์๋ฆฌ์ฆ ์ด๋ํฐ๋ฅผ 25Gbps ์ ์๋๋ก ์ฐ๊ฒฐํ๋๋ก Dell Z9100 ์ค์์น ํฌํธ๋ฅผ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . 1. ๊ด๋ฆฌ ์ํฌ์คํ
์ด์
๊ณผ ์ค์์น ์ฌ์ด์ ์๋ฆฌ์ผ ํฌํธ ์ฐ๊ฒฐ์ ๊ตฌ์ฑํฉ๋๋ค . 2. ๋ค์๊ณผ ๊ฐ์ด ๋ช
๋ น ํ ์ธ์
์ ์ฐ ๋ค์ ์ค์์น์ ๋ก๊ทธ์ธํฉ๋๋ค . Login: admin Password: admin 3. ์ค์์น ํฌํธ ๊ตฌ์ฑ์ ํ์ฑํํฉ๋๋ค . Dell> enable Password: xxxxxx Dell# config 4. ๊ตฌ์ฑํ ๋ชจ๋๊ณผ ํฌํธ๋ฅผ ์ง์ ํฉ๋๋ค . ๋ค์ ์์์๋ ๋ชจ๋ 1, ํฌํธ 5 ๋ฅผ ์ฌ์ฉํฉ ๋๋ค .
CโDell Z9100 ์ค์์น ๊ตฌ์ฑ ์ด๋ํฐ ๋งํฌ ์๋๋ฅผ ๋ณ๊ฒฝํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ 255 ํ์ด์ง์ " ๋ค ํธ์ํฌ ์ฐ๊ฒฐ ํ
์คํธ " ๋ฅผ ์ฐธ์กฐํ์ญ์์ค . 5. ํฌํธ๊ฐ 25Gbps ์ ์๋๋ก ๋์ํ๋์ง ํ์ธํฉ๋๋ค . Dell# Dell#show running-config | grep "port 5" stack-unit 1 port 5 portmode quad speed 25G 6. ์ค์์น ํฌํธ 5 ์์ ์๋ ํ์์ ๋นํ์ฑํํ๋ ค๋ฉด a. ์ค์์น ํฌํธ ์ธํฐํ์ด์ค ( ๋ชจ๋ 1, ํฌํธ 5, ์ธํฐํ์ด์ค 1) ๋ฅผ ์ง์ ํ ํ ์๋ ํ์ ์ํ๋ฅผ ํ์ธํฉ๋๋ค . Dell(conf)#interface tw 1/5/1 Dell(conf-if-tf-1/5/1)#intf-type cr4 ? autoneg b. Enable autoneg ์๋ ํ์์ ๋นํ์ฑํํฉ๋๋ค . Dell(conf-if-tf-1/5/1)#no intf-type cr4 autoneg c. ์๋ ํ์์ด ๋นํ์ฑํ๋์๋์ง ํ์ธํฉ๋๋ค .
D ๊ธฐ๋ฅ ์ ์ฝ ์กฐ๊ฑด ์ด ๋ถ๋ก์์๋ ํ์ฌ ๋ฆด๋ฆฌ์ค์์ ๊ตฌํ๋๋ ๊ธฐ๋ฅ ์ ์ฝ ์กฐ๊ฑด์ ๋ํ ์ ๋ณด๋ฅผ ์ ๊ณตํฉ๋๋ค. ์ด๋ฌํ ๊ธฐ๋ฅ๋ค์ ์๋ฐ๋๋ ์ ์ฝ ์กฐ๊ฑด์ ํฅํ ๋ฆด๋ฆฌ์ค์์ ์ ๊ฑฐ๋ ์์ ์
๋๋ค . ๊ณ ๊ฐ ์ ํด๋น ๊ธฐ๋ฅ์ ํ์ฑํ์ ํต์์ ์ผ๋ก ํ์ํ ๋ฒ์๋ฅผ ๋์ด์๋ ์ถ๊ฐ์ ์ธ ๊ตฌ์ฑ ์ ์ฐจ ์์ด ๊ธฐ๋ฅ ์กฐํฉ์ ์ฌ์ฉํ ์ ์์ต๋๋ค . NPAR ๋ชจ๋์ผ ๋ ๊ฐ์ ํฌํธ์์๋ FCoE ์ iSCSI ๊ฐ ๋์์ ์ง์๋์ง ์์ต๋๋ค ํ์ฌ ๋ฆด๋ฆฌ์ค์์๋ NPAR ๋ชจ๋์ผ ๋ ๋ฌผ๋ฆฌ์ ์ผ๋ก ๋์ผํ ํฌํธ์์๋ FCoE ์ iSCSI ๋ฅผ ๋์์ ๊ตฌ์ฑํ ์ ์์ต๋๋ค ( ํ์ฌ FCoE ์ iSCSI ๋ ๊ธฐ๋ณธ ๋ชจ๋์ผ ๋๋ง ๋ ์ผํ ํฌํธ์์ ์ง์๋ฉ๋๋ค ). NPAR ๋ชจ๋์ผ ๋๋ ์ค์ ํฌํธ์์ FCoE ๋๋ iSCSI ์ค ํ๋๊ฐ ํ์ฉ๋ฉ๋๋ค . HII ๋๋ QLogic ๊ด๋ฆฌ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ์ฌ ํฌํธ์ iSCSI ๋๋ FCoE ํ๋กํ์ด ์๋ PF ๋ฅผ ๊ตฌ์ฑํ ํ์๋ ์ด๋ฐ ๊ด๋ฆฌ ๋๊ตฌ๋ก ๋ค๋ฅธ PF ์ ์คํ ๋ฆฌ์ง ํ๋กํ ์ฝ์ ๊ตฌ์ฑํ ์ ์ ์ต๋๋ค .
์ฉ์ด ๋นํ๋ฐ์ฑ ๋ฉ๋ชจ๋ฆฌ ์ต์คํ๋ ์ค ๊ณ ๊ธ ๊ตฌ์ฑ ๋ฐ ์ ์ ์ธํฐํ์ด์ค NVMe ์น์
์ ์ฐธ์กฐํ์ญ์์ค . ACPI ์น์
์ ์ฐธ์กฐํ์ญ์์ค . ์ด๋ํฐ ํธ์คํธ ์์คํ
๊ณผ ๋์ ์ฅ์น๋ฅผ ์๋ก ์ฐ๊ฒฐํด ์ฃผ๋ ๋ณด๋ . ์ด๋ํฐ๋ ํธ์คํธ ๋ฒ์ค ์ด๋ํฐ , ํธ์คํธ ์ด๋ํฐ ๋ฐ ๋ณด๋์ ๋์ผํ ์๋ฏธ๋ก ์ฌ ์ฉ๋ฉ๋๋ค . ๋์ SCSI ์ธ์
์ ์คํ ๋ฆฌ์ง ์ฅ์น ์๋ํฌ์ธํธ . ์ด๊ธฐ์๋ ๋์์ผ๋ก๋ถํฐ ๋ฐ์ดํฐ๋ฅผ ์์ฒญํฉ๋ ๋ค . ๋์์ ์ผ๋ฐ์ ์ผ๋ก ๋์คํฌ ๋๋ผ์ด๋ธ , ํ
์ดํ ๋๋ผ์ด๋ธ ๋๋ ๊ธฐํ ๋ฏธ๋์ด ์ฅ์น์
๋๋ค . ์ผ๋ฐ์ ์ผ๋ก SCSI ์ฃผ๋ณ ์ฅ์น๋ ๋์ ์ด์ง๋ง , ์ด๋ํฐ๋ ๊ฒฝ์ฐ์ ๋ฐ๋ผ ๋์์ผ ์ ์์ต๋๋ค . ํ ๋์์ด ๋ค์์ LUN ์ ํฌํจ ํ ์ ์์ต๋๋ค . ์ด๋ํฐ ํฌํธ ์ด๋ํฐ ๋ณด๋์ ํฌํธ ์ด๋๋ท ์ปดํจํฐ๋ผ๋ฆฌ ์ ๋ณด๋ฅผ ์ ์กํ๋ ๋ฐ ๊ฐ์ฅ ๋๋ฆฌ ์ฌ์ฉ๋๋ LAN ๊ธฐ์ ๋ก์ ์ผ๋ฐ์ ์ผ๋ก ์ ์ก ์๋๊ฐ 10~100Mbps ์ ์ด๋ฆ
๋๋ค . ๋์์ ์ด๊ธฐ์ ( ํธ์คํธ ์์คํ
) ์ ์์ฒญ์ ์๋ตํ๋ ์ฅ์น์
๋๋ค .
Userโs GuideโConverged Network Adapters 41xxx Series ACPI DCB ACPI(Advanced Configuration and Power Interface) ์ฌ์์ ํตํฉ ์ด์ ์ฒด์ ์ค์ฌ์ ์ฅ ์น ๊ตฌ์ฑ ๋ฐ ์ ์ ๊ด๋ฆฌ๋ฅผ ์ํ ๊ฐ๋ฐฉํ ํ์ค์ ์ ๊ณตํฉ๋๋ค . ACPI ๋ ํ๋์จ์ด ๊ฒ์ , ๊ตฌ์ฑ , ์ ์ ๊ด๋ฆฌ ๋ฐ ๋ชจ๋ํฐ๋ง์ ์ํ ํ๋ซํผ์ ๋
๋ฆฝ์ ์ธ ์ธํฐํ์ด์ค๋ฅผ ์ ์ํฉ๋๋ค . ์ด ์ฌ์ ์ ACPI ๋ฅผ ๊ตฌํํ๋ ์์คํ
์ ์ค๋ช
ํ๋ ๋ฐ ์ฌ์ฉ๋๋ ์ฉ์ด์ธ OSPM(Operating System-directed configuration and Power Management) ์ ์ค์ฌ์ด ๋๋ ์ฌ์์ผ๋ก , ๋ ๊ฑฐ์ ํ์จ์ด ์ธํฐํ์ด์ค์์ ์ฅ์น ๊ด๋ฆฌ ์ฑ
์ ์ ์์ ์ค๋๋ค . Data Center Bridging. ๋ฐ์ดํฐ ์ผํฐ์ ํ๋ก ํ ์ฝ๊ณผ ์์ฉํ๋ก๊ทธ๋จ ์๊ตฌ ์ฌํญ์ ์ถฉ์กฑํ ๊ธฐ ์ํด ๊ธฐ์กด 802.1 ๋ธ๋ฆฌ์ง ์ฌ์์ ๊ฐ์ ์ฌ ํญ์ ์ ๊ณตํฉ๋๋ค .
Userโs GuideโConverged Network Adapters 41xxx Series EEE FCoE Energy Efficient Ethernet( ์๋์ง ํจ์จ ์ด ๋๋ท ). ์ปดํจํฐ ๋คํธ์ํน ํ์ค์ ์ฐ์ ๋ฐ ๋ฐฑ ํ๋ ์ธ ์ด๋๋ท์ ๋ํ ๊ฐ์ ์ฌํญ์ผ๋ก ๋ฐ์ด ํฐ ํ๋์ด ์ ์ ๊ธฐ๊ฐ ๋์ ์ ๋ ฅ ์๋ชจ๊ฐ ๊ฐ์ ํฉ๋๋ค. ์ด๋ ๊ธฐ์กด ์ฅ์น์ ์์ ํ ํธํ์ฑ์ ์ ์งํ๋ฉด์ ์ ๋ ฅ ์๋ชจ๋ฅผ 50% ์ด์ ์ ๊ฐํ ๋ ๊ฒ์ด ๊ทธ ์๋์์ต๋๋ค . IEEE(Institute of Electrical and Electronics Engineers) ์์ IEEE 802.3az ํ์คํฌ ํฌ์ค๋ฅผ ํตํด ํ์ค์ ๊ฐ๋ฐํ์ต๋๋ค . Fibre Channel over Ethernet. ํ์ด๋ฒ ์ฑ๋ ํ๋ ์์ Layer 2 ์ด๋๋ท ํ๋ ์ ๋ด์ ์บก์ ํํ์ฌ ๊ธฐ์กด์ ํ์ด๋ฒ ์ฑ๋ ์คํ ๋ฆฌ์ง ๋คํธ ์ํน ํธ๋ํฝ์ด ์ด๋๋ท์ ํตํด ์ด๋ํ ์ ์ ๋๋ก , T11 ํ์ค ๊ธฐ๊ตฌ์์ ์ ์ํ ์๋ก์ด ๊ธฐ ์ ์
๋๋ค . ์์ธํ ๋ด์ฉ์ www.fcoe.com ์ ๋ฐฉ๋ฌธํ์ญ์์ค .
Userโs GuideโConverged Network Adapters 41xxx Series Internet Small Computer System Interface Layer 2 iSCSI ์น์
์ ์ฐธ์กฐํ์ญ์์ค . ๋ค์ค ๊ณ์ธต ํต์ ๋ชจ๋ธ์ธ OSI(Open Systems Interconnection) ์ ๋ฐ์ดํฐ ๋งํฌ ๊ณ์ธต์ ์ง ์นญํฉ๋๋ค . ๋ฐ์ดํฐ ๋งํฌ ๊ณ์ธต์ ๊ธฐ๋ฅ์ ๋คํธ ์ํฌ์์ ์ค์ ๋งํฌ๋ฅผ ํตํด ๋ฐ์ดํฐ๋ฅผ ์ด๋ ํ๋ ๊ฒ์ด๋ฉฐ , ์ด ๊ฒฝ์ฐ ์ค์์น๋ ๋ฉ์์ง ๋ ์์ ํ์ธํ๊ธฐ ์ํด ๋์ MAC ์ฃผ์๋ฅผ ์ฌ์ฉ ํ์ฌ Layer 2 ๋ ๋ฒจ์์ ๋ฐ์ดํฐ ๋ฉ์์ง๋ฅผ ๋ฆฌ ๋๋ ํธํฉ๋๋ค . Internet Wide Area RDMA Protocol iWARP ์น์
์ ์ฐธ์กฐํ์ญ์์ค . IP Internet Protocol. ์ธํฐ๋ท์ ํตํด ํ ์ปดํจํฐ ์์ ๋ค๋ฅธ ์ปดํจํฐ๋ก ๋ฐ์ดํฐ๋ฅผ ์ ์กํ๋ ๋ฐฉ ์ . IP ๋ ํจํท์ ํํ๋ฅผ ๊ท์ ํ ๊ฒ์ผ๋ก , ๋ฐ์ดํฐ๊ทธ๋จ ๋ฐ ์ฃผ์ ์ง์ ๊ตฌ์ฑํ๋ก๋ ๋ถ๋ฆฝ ๋๋ค .
Userโs GuideโConverged Network Adapters 41xxx Series Maximum Transmission Unit NPAR MTU ์น์
์ ์ฐธ์กฐํ์ญ์์ค . NIC Partitioning. ๋จ์ผ NIC ํฌํธ๋ฅผ ์ฌ๋ฌ ๊ฐ ์ ์ค์ ๊ธฐ๋ฅ ๋๋ ํํฐ์
์ผ๋ก ๋๋๋ ๊ฒ์ผ ๋ก , ๋ถํ ๋ ๋ถ๋ถ์ ๊ฐ๊ฐ ์ฌ์ฉ์๊ฐ ๊ตฌ์ฑํ ์ ์๋ ๋์ญํญ๊ณผ ๊ฐ์ธ ์ค์ ( ์ธํฐํ์ด์ค ์ ํ ) ์ด ์์ต๋๋ค . ๊ฐ์ธ ์ค์ ์๋ NIC, FCoE ๋ฐ iSCSI ๊ฐ ํฌํจ๋ฉ๋๋ค . Message Signaled Interrupts MSI, MSI-X ์น์
์ ์ฐธ์กฐํ์ญ์์ค . MSI, MSI-X Message Signaled Interrupts. PCI 2.2 ์ด์ ๋ฒ์ ๊ณผ PCI Express ์์ ๋ฉ์์ง ์ ํธ ์ธํฐ ๋ฝํธ (MSI) ๋ฅผ ์ง์ํ๊ธฐ ์ํ PCI ํ์ฅ ์ฌ ๋กฏ 2 ๊ฐ ์ค 1 ๊ฐ . MSI ๋ ํ ์ด์ค์
๋๋ ๋ ์ด์ค์
์ ์๋ฎฌ๋ ์ด์
ํ ์ ์๋ ํน๋ณํ ๋ฉ ์์ง๋ฅผ ํตํด ์ธํฐ๋ฝํธ ์ ํธ๋ฅผ ์์ฑํ๋ ๋ ์ฒด ๋ฐฉ๋ฒ์
๋๋ค .
Userโs GuideโConverged Network Adapters 41xxx Series SerDes Quality of Service Serializer/Deserializer. ๊ณ ์ ํต์ ์์ ์ ํ ๋ ์
/ ์ถ๋ ฅ์ ๋ณด์ํ ๋ชฉ์ ์ผ๋ก ๋๋ฆฌ ์ฌ์ฉ ๋๋ ํ ์์ ๊ธฐ๋ฅ ๋ธ๋ก . ์ด ๋ธ๋ก์ ์ง๋ ฌ ๋ฐ ์ดํฐ์ ๋ณ๋ ฌ ์ธํฐํ์ด์ค ์ฌ์ด์์ ๊ฐ ๋ฐฉํฅ ์ผ๋ก ์ ์ก๋๋ ๋ฐ์ดํฐ๋ฅผ ๋ณํํฉ๋๋ค . QoS ์น์
์ ์ฐธ์กฐํ์ญ์์ค . RDMA Remote Direct Memory Access. ๋คํธ์ํฌ ๋ฅผ ํตํด ํ๋์ ๋
ธ๋๋ฅผ ์ง์ ๋ค๋ฅธ ๋
ธ๋์ ๋ฉ ๋ชจ๋ฆฌ์ ์ธ ์ ์๋ ๊ธฐ๋ฅ ( ์ฃผ์ ๋ฐ ํฌ๊ธฐ ์๋ฏธ ์ฒด๊ณ ํฌํจ ). ์ด ๊ธฐ๋ฅ์ VI ๋คํธ์ํฌ์์ ๋งค ์ฐ ์ค์ํฉ๋๋ค . Serializer/Deserializer SerDes ์น์
์ ์ฐธ์กฐํ์ญ์์ค . Single Root Input/Output Virtualization RDMA over Converged Ethernet SR-IOV ์น์
์ ์ฐธ์กฐํ์ญ์์ค .
Userโs GuideโConverged Network Adapters 41xxx Series VF ๏ฎ Type(์ ํ) - ๋ฉ์์ง์ ์ด ๋ถ๋ถ์ด ๋ํ ๋ด๋ ํ๋์ ์ข
๋ฅ๋ฅผ ํ์ํ๋ ์ซ์ ์ฝ ๋. Virtual Function. VI ๏ฎ Length(๊ธธ์ด) - ๊ฐ ํ๋์ ํฌ๊ธฐ(์ผ๋ฐ์ ์ผ๋ก ๋ฐ์ดํธ ๋จ์ ). Virtual Interface. ํ์ด๋ฒ ์ฑ๋๊ณผ ๊ธฐํ ํต์ ํ๋กํ ์ฝ์์ ์๊ฒฉ ์ง์ ๋ฉ๋ชจ๋ฆฌ ์ก์ธ์ค๋ฅผ ์ํ ์ด๋์
ํฐ๋ธ . ํด๋ฌ์คํฐ๋ง๊ณผ ๋ฉ์์ง์ ์ฌ์ฉ๋ฉ๋๋ค . ๏ฎ Value( ๊ฐ ) - ๋ฉ์์ง์ ์ด ๋ถ๋ถ์ ๋ํ ๋ฐ์ดํฐ๋ฅผ ํฌํจํ ๊ฐ๋ณ ํฌ๊ธฐ์ ๋ฐ์ดํธ ์งํฉ . Virtual Interface Transmission Control Protocol VI ์น์
์ ์ฐธ์กฐํ์ญ์์ค . TCP ์น์
์ ์ฐธ์กฐํ์ญ์์ค . Virtual Logical Area Network Transmission Control Protocol/Internet Protocol VLAN ์น์
์ ์ฐธ์กฐํ์ญ์์ค .
Userโs GuideโConverged Network Adapters 41xxx Series WoL Wake on LAN. ๋๊ฐ ๋คํธ์ํฌ์์ ๋ค๋ฅธ ์ปด ํจํฐ์์ ์คํ๋๋ ๊ฐ๋จํ ํ๋ก๊ทธ๋จ์ ํต ํด ์ ์ก๋๋ ๋คํธ์ํฌ ๋ฉ์์ง์ ์ํด ์ด๋ค ์ปดํจํฐ๋ฅผ ์๊ฒฉ์ผ๋ก ์ผ๊ฑฐ๋ ์ ์ ๋ชจ๋๋ฅผ ํด ์ ํ ์ ์๋๋ก ์ง์ํ๋ ์ด๋๋ท ์ปดํจํฐ ๋ค ํธ์ํน ํ์ค .
๋ณธ์ฌ Cavium, Inc. ์ธํฐ๋ด์
๋ ์คํผ์ค 2315 N. First Street San Jose, CA 95131 EE. UU. 408-943-7100 ์๊ตญ | ์์ผ๋๋ | ๋
์ผ | ํ๋์ค | ์ธ๋ | ์ผ๋ณธ | ์ค๊ตญ | ํ์ฝฉ | ์ฑ๊ฐํฌ๋ฅด | ๋๋ง | ์ด์ค๋ผ์ Copyright ยฉ 2017, 2018 Cavium, Inc. ์ ์ธ๊ณ ํ๊ถ ๋ณธ์ฌ ์์ . QLogic ์ฝํผ๋ ์ด์
์ ์ ์ ์ผ๋ก Cavium, Inc. ์ ์ํ์ฌ์
๋๋ค . Cavium, FastLinQ, QConvergeConsole, QLogic ๋ฐ SmartAN ์ Cavium, Inc. ์ ๋ฑ๋ก ์ํ์
๋๋ค . ๊ธฐํ ๋ชจ๋ ๋ธ๋๋๋ช
๋ฐ ์ ํ๋ช
์ ํด๋น ๋ช
์นญ์ ์์ ํ ํ์ฌ์ ์ํ ๋๋ ๋ฑ๋ก์ํ์
๋๋ค . ๋ณธ ๋ฌธ์๋ ์ฐธ๊ณ ์ฉ์ผ๋ก๋ง ์ ๊ณต๋๋ฉฐ ์ค๋ฅ๊ฐ ์์ ์ ์์ต๋๋ค . Cavium ์ ๋ณธ ๋ฌธ์ , ์ ํ ์ค๊ณ ๋๋ ์ฌ์์ ์ฌ์ ๊ณ ์ง ์์ด ๋ณ๊ฒฝํ ์ ์๋ ๊ถ๋ฆฌ๊ฐ ์์ต๋๋ค .