Развитие семейства коммутаторов
для ЦОД Cisco Nexus 7000
Скороходов Александр
Системный инженер-консультант
11.12.2013 © 2013 Cisco and/or its affiliates. All rights reserved.
LAN/SAN LAN SAN
CISCO NX-OS: от уровня гипервизора до уровня ядра CISCO DCNM: единое управление
Nexus 1000V
Nexus ® 1010
Nexus 4000
Nexus 5500
Nexus 3000
Nexus 2000
Nexus 6000
Надёжная, быстрая,
масштабируемая фабрика
Эффективность и управляемость
P-V-C
Мобильность нагрузок внутри
и между ЦОД
Безопасная изоляция клиентов
Консолидация LAN+SAN
Продукты Cisco для сети ЦОД Самое полное решение в индустрии
Nexus 7000/7700
MDS 9200
MDS 9500
MDS 9100
MDS 9250i
MDS 9700
Семейство Nexus 7000: успех на рынке
40,000+
шасси
7+ млн
портов
8,000+
заказчиков
Cisco Nexus 7000 Для центра обработки данных нового поколения
Модульная ОС
Полное резервирование
ISSU без потерь
Коммутация без потерь
Поддержка FCoE
Сохранение «изоляции фабрик» с VPC
Высокая производительность
Плотность 10GE портов
Поддержка 40/100GE
Поддержка FabricPath
Неп
рер
ыв
ная
раб
ота
Ко
нв
ер
ген
тн
ый
тр
ан
сп
ор
т
Масш
таб
ир
ов
ан
ие
Семейство Cisco Nexus 7000
Интерфейсные
модули
Шасси
Управляющие модули
Модули с различной
плотностью и типом портов,
коммутация и маршрутизация
на аппаратном уровне обычных
и групповых пакетов, списки
доступа ACL/классификация
QoS, NetFlow.
Управляющие функции,
полная изоляция уровней
управления и коммутации.
Фабрики
коммутации
4 варианта шасси
коммутаторов
Неблокируемые фабрики
коммутации с пропускной
способностью до 550
Gbps (Fab2) на слот.
Семейство Cisco Nexus 7000 Гибкость и масштабируемость
Шасси Nexus 7004 Nexus 7009 Nexus 7010 Nexus 7018
Высота / глубина 7 RU / 62 см 14 RU / 61 см 21 RU / 84 см 25 RU / 84 см
Коммутация на слот 440 Gig/Slot 550 Gig/Slot 550 Gig/Slot (Fab2) 550 Gig/slot (Fab2)
10/40/100GE порты 96/12/4 336/42/14 384/48/16 768/96/32
Охлаждение Side-to-Rear Side-to-Side Front-to-Back Side-to-Side
Блоки питания 4 x 3KW AC/DC 2 x 6KW AC/DC
2 x 7.5KW AC
3 x 6KW AC/DC
3 x 7.5KW AC
4 x 6KW AC/DC
4 x 7.5KW AC
Ключевые достоинства Минимальный
размер
Компактность
Установка вместо Cat6509
Управление кабелями
Обдув «спереди-назад»
Максимальная
плотность
Разделение уровней управления и коммутации
Полная изоляция уровней управления
(супервизор) и коммутации данных (фабрики)
Передача данных не прекращается при
переключении супервизоров (Non-Stop
Forwarding)
Полностью распределенная аппаратная
коммутация
Многопоточная модульная ОС позволяет
масштабировать производительность с
многоядерными CPU
Ресурсоемкие распределённые задачи
выгружаются на процессоры интерфейсных
модулей
Управление Коммутация
Supervisor Engine 2 / 2E
Супервизоры второго поколения – рост производительности уровня управления
Приоритезация процессорных ресурсов VDC (CPU Shares)
Поддержка FCoE на картах F2/F2E
Максимальная масштабируемость (с Sup2E и NX-OS 6.2(2)):
• До 8+1 VDC
• До 64 Fabric Extender
• До 4000 VRF
• …
ID LED
Консоль Management
Ethernet
N7K-SUP2/N7K-SUP2E
USB порты Status
LEDs
Supervisor Engine 2 Supervisor Engine 2E
Базовая производительность Высокая производительность
Один 4-ядерный 2.1GHz CPU с 12GB DRAM Один 4-ядерных 2.1GHz CPU с 32GB DRAM
USB Log
Flash
USB Expansion
Flash
Виртуализация на Nexus 7000
VDC – Virtual Device Context • Изоляция программных компонент и протоколов • Изоляция аппаратных ресурсов и данных • Полная изоляция доменов управления и доменов
передачи данных обеспечивает безопасность • До 8+1 VDC с Sup 2E
Инфраструктура
Ядро
VDC 1
VDC 2
VDC 3
Layer 2 Protocols Layer 3 Protocols
VLAN
PVLAN
OSPF
BGP
EIGRP
GLBP
HSRP
IGMP
UDLD
CDP
802.1X STP
LACP PIM CTS SNMP
… …
VDC 1
VDC 4
Layer 3 Protocols
OSPF
BGP
EIGRP
GLBP
HSRP
IGMP
PIM SNMP
…
VDC 2
Layer 2 Protocols
VLAN
PVLAN
UDLD
CDP
802.1X STP
LACP CTS
…
Все функции VRF-aware
Дополнительный уровень виртуализации для разделения трафика разных задач и подсистем
Объединение уровней с помощью виртуальных
контекстов VDC
Ядро
Агрегирование
Доступ
Коммутатор 1 Коммутатор 2
Масштабируемость системы
с фабриками второго поколения
Масштабируемая отказоустойчивость
Поддержка модулей с 40/100Гбит/с портами
10GbE Module
GbE Module
In-service upgrade коммутационных фабрик
550Gbps на слот
80G
46G
230G
Fab2
Fab2
Fab2
Fab2
Fab2
Защита инвестиций
550G 230G
230Gbps
Интерфейсные модули для Cisco Nexus 7000
M серия – L2/L3/L4 с большими таблицами (128K MAC/1M FIB) и богатым функционалом (MPLS, VPLS, OTV, LISP (M132), GRE, NetFlow v5/v9…)
N7K-M108X2-12L 8*10G X2 N7K-M148GT-11L 48*10/100/1000BASE-T
N7K-M148GS-11L 48*1G SFP
N7K-F132XP-15 32*1/10G SFP
Только L2 N7K-F248XP-25 48*1/10G SFP+
N7K-M132XP-12L 32*10G SFP+
F серия – Высокопроизводительные модули, с низкой задержкой и энергопотреблением, поддержка FCoE, FabricPath/TRILL
N7K-F248XP-25E 48*1/10G SFP+
N7K-M224XP-23L 24*10G SFP+
N7K-M206FQ-23L 6*40G QSFP
N7K-M202CF-23L 2*100G CFP
F248XT-25E 48*1/10GBASE-T
M1XL, 46G на слот M1XL, 80G на слот M2, 240G на слот
230G на слот 550G на слот
Модуль M2 24 порта 10 GE N7K-M224XP-23L
24 порта 10G с трансиверами SFP+
До 384 портов на шасси
Производительность 240G /120Mpps
Поддержка коммутационных фабрик 1-го и 2-го поколения
Активируемая лицензией XL функциональность
Поддержка FEX
N7K-M224XP-23L
Модуль M2 6 портов 40 GE N7K-M206FQ-23L
6 портов 40G с трансиверами QSFP+
До 96 портов на шасси
Производительность 240G /120Mpps
Поддержка коммутационных фабрик 1-го и 2-го поколения
Активируемая лицензией XL функциональность
Поддерживаемые трансиверы: QSFP-40G-SR4 (первоначально)
Поддержка до 24*10G с использованием переходных кабелей*
N7K-M206FQ-23L
*В будущей версии ПО
Модуль M2 2 порта 100 GE N7K-M202CF-22L
2 порта 100G с трансиверами CFP
До 32 портов на шасси
Производительность 200G /120Mpps
Поддержка коммутационных фабрик 1-го и 2-го поколения
Активируемая лицензией XL функциональность
Поддерживаемые трансиверы: CFP-100G-LR4 (первоначально)
Модуль готов к поддержке 10G/40G
N7K-M202CF-22L
48 портов 1G/10G SFP/SFP+
Коммутация L2 / L3 с сервисами L3/L4
(ACL/QoS)
32K FIB TCAM
Поддержка классического Ethernet и
FabricPath
Поддержка DCB/FCoE (требует Sup2)
Поддержка FEX
Поддержка фабрик 1 и 2 поколения
Неблокируемая L2/L3 коммутация на всех
48 портах
Производительность:
480 Гбит/с на слот
714 Mpps на слот
Задержка коммутации ~6 мкс
Может работать (в L2 режиме) в одном
VDC с M1XL/M2 картами
Модуль F2Е 48 портов SFP+ 1/10G N7K-F248XP-25E
Модуль F2Е 48 портов 1/10GBASE-T N7K-F248XT-25E
48 портов 1G/10G по «витой паре» - до 100 м (в зависимости от СКС)
Возможность для миграции серверных подключений с 1G на 10G
Неблокируемая коммутация L2 / L3 с сервисами L3/L4 (ACL/QoS)
Поддержка классического Ethernet и FabricPath
Невысокое энергопотребление ~8 Вт на порт
Поддержка Energy Efficient Ethernet (EEE)
Возможности F2E, аналогичные карте N7K-F248XP-25E (SFP+)
Взаимодействие модулей M1/M2 и F2E
C NX-OS 6.1
• F2E карты работают как F2
и полностью с ними
взаимодействуют
9
8
7
6
5
4
3
2
1PSU FAN SUP FAB IOM
STATUSID
N7K-SUP 1
SYSTEM
ACTIVE
PWR M
GMT ACT
LINK
SERIAL PORT
COM1/AUX
SERIAL PORT
CONSOLEACT
LINK
1
2
HOST PORTS
USB
DEVICE PORT
CMP
STATUS
CMP MGMT ETH
RESET
STATUSID
N7K-SUP 1
SYSTEM
ACTIVE
PWR M
GMT ACT
LINK
SERIAL PORT
COM1/AUX
SERIAL PORT
CONSOLEACT
LINK
1
2
HOST PORTS
USB
DEVICE PORT
CMP
STATUS
CMP MGMT ETH
RESET
STATUSID
N7K-C7009-FAB-2
FAB 1 FAB 2 FAB 3
FAB 4 FAB 5STATUSID
N7K-C7009-FAB-2
STATUSID
N7K-C7009-FAB-2
STATUSID
N7K-C7009-FAB-2
STATUSID
N7K-C7009-FAB-2
F2 + F2e
(L2 и L3) VDC
• Взаимодействие с M-картами: F2E
работают в L2 режиме, M-карты
обеспечивют коммутацию L3
• FabricPath + LISP в одном VDC
• FabricPath + MPLS в одном VDC
• F1/F2 не поддерживаются
9
8
7
6
5
4
3
2
1PSU FAN SUP FAB IOM
STATUSID
N7K-SUP 1
SYSTEM
ACTIVE
PWR M
GMT ACT
LINK
SERIAL PORT
COM1/AUX
SERIAL PORT
CONSOLEACT
LINK
1
2
HOST PORTS
USB
DEVICE PORT
CMP
STATUS
CMP MGMT ETH
RESET
STATUSID
N7K-SUP 1
SYSTEM
ACTIVE
PWR M
GMT ACT
LINK
SERIAL PORT
COM1/AUX
SERIAL PORT
CONSOLEACT
LINK
1
2
HOST PORTS
USB
DEVICE PORT
CMP
STATUS
CMP MGMT ETH
RESET
STATUSID
N7K-C7009-FAB-2
FAB 1 FAB 2 FAB 3
FAB 4 FAB 5STATUSID
N7K-C7009-FAB-2
STATUSID
N7K-C7009-FAB-2
STATUSID
N7K-C7009-FAB-2
STATUSID
N7K-C7009-FAB-2
STATUS ID 1 2 3 4 5 6 7 8
N7K-M108X2-12L
PORT 1 PORT 2 PORT 3 PORT 4 PORT 5 PORT 6 PORT 7 PORT 8
LINK
STATUS ID 1 2 3 4 5 6 7 8
N7K-M108X2-12L
PORT 1 PORT 2 PORT 3 PORT 4 PORT 5 PORT 6 PORT 7 PORT 8
LINK
M1 + M2 + F2e
(M обеспечивает L3)
VDC
F2 + F2e
(L2 и L3)
VDC
Доступно с NX-OS 6.2
Модуль сетевого анализа NAM-NX1 Первый сервисный модуль для Nexus 7000
Cisco Nexus 7K Series Switches
NAM-NX1
Точные отметки времени
Синхронизация времени по PTP/1588
Сетевой интеллект
«Понимание» OTV, Fabric Path, Trustsec,
VXLAN, CAPWAP
Аналитика производительности
Application Response Time, MOS, Jitter
Мониторинг приложений
Layer 2-7 Deep Packet Inspection
Расширенные возможности хранения
Выбор между Mini-SAS, FCoE и iSCSI
Эволюция интерфейсных модулей Представляем семейство модулей F3
N7K-F312FQ-25: 12 портов 40G QSFP+
N7K-F306CF-25: 6 портов 100G CPAK
Модули F3 для Nexus 7000 Самая высокая функциональность для ЦОД
• FabricPath, DFA
• DCB/FCoE
• MPLS, OTV, LISP, GRE, VXLAN
• Таблицы CEF: 64K FIB TCAM/ 64K adjacency
• 64K MAC адресов
• Поддержка Nexus 2000 (FEX)
• Варианты:
12-port 40G QSFP+
6-port 100G CPAK
• Поддержка «расщепления» портов 40G->10G, 100G->40G, 100G->10G
• Неблокируемая коммутация L2/L3 IPv4/IPv6
Задержка коммутациии ~6µsec
Q4
CY 2013
Q2
CY 2014
Приведены аппаратные возможности – не все будут поддерживаться ПО первоначально
Семейство Nexus 7700
11.12.2013 © 2013 Cisco and/or its affiliates. All rights reserved. 22
Семейство Nexus 7700 Развитие семейства Nexus 7000
Оптимизированы для поддержки 40/100G
Производительность 42+ Тбит/с на систему –
ориентированы на крупнейших заказчиков
Поток воздуха «спереди-назад» -
перфорированные передние панели
Общие с Nexus 7000:
Операционная система NX-OS
Архитектура системы
Аппаратная и программная
функциональность (F2E карты и далее)
Параллельное развитие Nexus 7000 и Nexus 7700
Эволюция семейства Nexus 7000
• Высокая плотность 10G + богатые функции на 40/100G
• Карты M и F серий → максимум гибкости
• Большие таблицы, развитые функции, сервисы
• 550G/слот (сейчас) с дальнейшим развитием функций и
плотности
Nexus 7000
Широта применений
• Лидерство плотности 40/100G
• Оптизированы для 40G/100G с эффективной поддержкой
10G
• F карты → максимальная производительность/плотность
• 1.3 Tbps/слот (сейчас) с дальнейшим развитием функций и
плотности
Максимальная плотность/производительность
Nexus 7700
Система Nexus 7718
16 3000W AC/DC
источников питания
3 вентиляторных
блока
6 модулей фабрики
(за вентиляторами)
Задняя сторона
26RU
Передная сторона
Продублированные
супервизоры
Обдув «спереди-
назад»
16 слотов для
модулей (1.3T/slot)
36”
Nexus 7700: фабрики и вентиляторы
Шасси Nexus 7718
6 фабрик
3 вентиляторных
блока
Система Nexus 7710
Продублированные
супервизоры
8 слотов для модулей
(1.3T/slot)
8 3000W AC/DC
источников питания
14RU
3 вентиляторных
блока
6 модулей фабрики
(за вентиляторами)
Задняя сторона Передная сторона
Обдув «спереди-назад»
32”
Nexus 7700: модуль супервизора
• Модуль половинной ширины – два
супервизора устанавливаются рядом
• Характеристики аналогичны Sup 2E
для Nexus 7000
Управляющий Ethernet
порт (mgmt0)
Консоль
2 USB порта
Энергопотребление Nexus 7710
Полное заполнение модулями F2E – 384 10GE порта
Резервирование N + 1
Нужно 4x 3kW БП
Резервирование вводов
Нужно 6x 3kW БП
Типичное потребление при
25C = 3.6 КВт
Энергопотребление Nexus 7718 Полное заполнение модулями F2E – 768 10GE портов
Резервирование N + 1
Нужно 6 x 3kW БП
Резервирование вводов
Нужно 10 x 3kW БП
Типичное потребление при
25C = 6.7 КВт
Nexus 7700 F2e 48p 10G
• 48 портов 1G/10G SFP/SFP+
• Неблокируемая L2/L3 коммутация на
всех 48 портах с сервисами L3/L4
(ACL/QoS)
–32K FIB TCAM
–16K adjacency table
–16K MAC адресов на SoC
• Производительность:
–480 Гбит/с на слот
–714 Mpps на слот
• Задержка коммутации ~6 мкс
• Поддержка классического Ethernet и
FabricPath
• Поддержка DCB/FCoE
• Поддержка Nexus 2000 (FEX)
Модуль F2E 48 портов SFP+ 1/10G для Nexus 7700
Модули F3 для Nexus 7700 Самая высокая функциональность для ЦОД
Варианты:
• 24-port 40G QSFP+
• 12-port 100G CPAK
Поддержка «расщепления» портов 40G->10G,
100G->40G, 100G->10G
Неблокируемая коммутация L2/L3 IPv4/IPv6
Задержка коммутациии ~6µsec
FabricPath, DFA
DCB/FCoE
MPLS, OTV, LISP, GRE, VXLAN
Таблицы CEF: 64K FIB /64K adjacency
64K MAC адресов
Поддержка Nexus 2000 (FEX)
Nexus 7700 F3 24p 40G
Nexus 7700 F3 12p 100G
Приведены аппаратные возможности – не все будут поддерживаться ПО первоначально
Q4
CY 2013
Q4
CY 2013
Применение Nexus 7000
11.12.2013 © 2013 Cisco and/or its affiliates. All rights reserved. 33
Применение Cisco Nexus 7000 в традиционной
архитектуре ЦОД
IP
Cisco Nexus 7000 на уровне ядра ЦОД и DCI
Высокая надежность, высокая доступность и быстрая сходимость
ISSU, HA, nonblocking operations, vPC, FabricPath
Большие таблицы маршрутизации
До 1М RIB, 128K MAC, MPLS
Масштабируемость и большая плотность неблокируемых портов
550Гбит/с на слот, до 768 неблокируемых 10Гбит/с портов, поддержка 40/100Г
DCI – Data Center Interconnect
OTV, LISP, VPLS
Сегментация/изоляция/виртуализация
VDC, VRF
IP
Overlay Transport Virtualization Связь ЦОД на 2 уровне через IP Ethernet трафик инкапсулируется в IP: “MAC in IP”
Динамическая инкапсуляция с использованием таблицы маршрутизации MAC
Не строится Pseudo-Wire или туннель
Простая настройка несколькими командами CLI
Communication between
MAC1 (site 1) and MAC2 (site 2) Server 1
MAC 1
Server 2
MAC 2
OTV OTV
MAC IF
MAC1 Eth1
MAC2 IP B
MAC3 IP B
IP A IP B
Encap Decap
MAC1 MAC2 IP A IP B MAC1 MAC2 MAC1 MAC2
Работа поверх любого транспорта (IP, MPLS)
Изоляция доменов сбоев
Независимость сайтов
Оптимальное использование полосы
Встроенная отказоустойчивость
Встроенная защита от «петель»
Связь многих сайтов
Масштабируемость VLANs, сайты, MACs
ARP, broadcasts/floods
Простота настройки
Легкость добавления сайтов
Проблемы «растягивания» LAN Решаемые OTV
South
Data
Center
North
Data
Center
Fault
Domain
Fault
Domain
Only 6 CLI
commands
LAN Extension
Fault
Domain
Fault
Domain
Cisco Nexus 7000 на уровне агрегации ЦОД
Масштабируемость и высокая плотность
неблокируемых портов 10Гбит/с
550Гбит/с на слот, до 768 неблокируемых 10Гбит/с
портов, готовность к 40/100Гбит/с интерфейсам
Большие таблицы маршрутизации
До 1М RIB, 128K MAC, MPLS
Консолидация сети передачи данных и сети хранения
Director-class FCoE
Высокая доступность, надежность, балансировка нагрузки
ISSU, HA, nonblocking operations, vPC, FabricPath
Сегментация/изоляция/виртуализация
VDC, VRF
Масштабируемость control plane и функции мониторинга
Netflow, CoPP и ограничение аппаратными средствами полосы пропускания
© 2010 Cisco and/or its affiliates. All rights reserved. Cisco Confidential
Nexus 7000 FCoE Конвергентное решение директорного класса
Первый конвергентный коммутатор класса «директора»
Самая высокопроизводительная коммутационная платформа для
сетей хранения
Преимущества
Соответствует требованиям высокой доступности для критичных SAN
Использование для iSCSI, NAS, и FCoE
Масштабируемость более 15Tbps, готовность к 40G и 100G FCoE
Функциональность VE_port, NPIV, FCoE ISL, FSPF, FCoE Multihop (7 hops), IVR
До 16-ти портов в группе при подключении к FCoE коммутаторам (Nexus5000, MDS9500)
Поддержка стандартов T11 FCoE, IEEE DCB
F2/F2E 48 портов F1 32 порта
Cisco Nexus 7000 на уровне доступа ЦОД
Высокая плотность портов доступа1/10Гбит/с
768 портов 1/10Гбит/с, поддержка “виртуальных модулей” -
Nexus 2000
Масштабируемость и гибкость решения
EOR/MOR/TOR (Nexus 2000), миграция с 1Гбит/с на 10Гбит/c
Консолидация ввода-вывода серверов
FCoE, DCB
Высокая доступность и надежность
ISSU, HA, vPC, FabricPath Leaf
Сегментация/Изоляция/Виртуализация
VDC, VRF
2248TP, 2248TP-E
Nexus 7000 + Nexus 2000 Масштабируемый распределённый коммутатор доступа
10GE FEX Support
2232PP, 2232TM, 2232TM-E, 2248PQ
Nexus 10GE
FEX
Nexus
1G FEX
Nexus 7000 Единая точка управления
10GE 10GE 10GE
Достоинства • Гибкость и масштабируемость
• Упрощение топологии ToR
• Сокращение числа точек управления
• Расширение возможностей Nexus 7000 на
уровень доступа
• Высокая достпность благодаря Nexus 7000
Что нового?
• Количество FEX
• 64 FEX (3072 порта) на N7K с SUP2E
• Новые модели
• 2232TM-E, 2248PQ,
• FEX модули для блейд систем третьих команий
• B22HP
Достоинства
Доведедение модели подключений через FEX в
блейд-шасси третьих компания
Cisco Nexus 7000/5000 как единая точка
управления сетевыми подключениями всех шасси
FCoE*, FabricPath
Преимущатва
Многократное снижение числа точек управления
50% снижение числа I/O модулей в блейд-шасси
Однородность способа подключения стоечных и
блейд-серверов
Поддержка блейд-FEX с Nexus 7000/7700 Cisco Nexus B22HP Fabric Extender
*FCoE на FEX (в т.ч.B22HP) с Nexus 7K будет поддерживаться позднее
active active
5.2 5.2
Варианты подключения Fabric Extender
(Cisco Nexus 2000) к Cisco Nexus 7000
• Подключение сервера одним каналом
• Подключение сервера двумя каналами – NIC teaming
• Объединение двух каналов с разных FEX-ов в Portchannel (active/active)
• Подключение сервера Portchannel –ом к одному FEX-у
• Объединенный с двух FEX-ов Portchannel
5.1
standby active
5.1
active active
5.1
N7004/7009/7010/7018+N2K
Высокая производительность, модульность и масштабируемость,
L3 ISSU, VDC, 40G/100G
«Коллапсированное» решение для небольшого ЦОД Объединение функций
11.12.2013 © 2013 Cisco and/or its affiliates. All rights reserved.
Пожалуйста, заполните анкеты.
Ваше мнение очень важно для нас.
Спасибо
Contacts:
Name Скороходов Александр
Phone +7(495)961-1410
E-mail [email protected]
CiscoRu Cisco CiscoRussia
#CiscoConnectRu