Новые серверные процессоры AMD Epyc 7003 (Milan) и Intel Xeon (Ice Lake-SP)


Мне кажется, что от 2021 года мир ожидал чуть-чуть другого развития событии, во всяком случае нам в компании так казалось. В частности, мы думали, что будем вспоминать карантин и прочие ограничения 2020 года как прошедшие уникальные события, но оказалось, что и 2021 и возможно следующие годы еще долго будут напоминать различными факторами, то в одной сфере нашей жизни, то в другой.

В марте и апреле текущего года AMD и Intel соответственно представили обновленные серверные процессоры, а Intel даже изменил платформу и сокет. Эти события были запланированы и мы ожидали обычный плавный переход на новые решения и даже разместили заказа на новые материнские платы X12D от Supermicro под процессоры Xeon Ice Lake-SP и процессоры Epyc третьего поколения с кодовым названием Milan. Но в какой-то момент все пошло не по плану, к концу весны 2021 года с выходом новой криптовалюты Chia начали пропадать с рынка жесткие диски больших объемов и быстрые SSD. Цены на эти детали стали расти с огромной скоростью. Затем нам сообщили, что нам не могут отгрузить детали к новой платформе. На тот момент нам не показалось это чем-то необычным, платформы новые и еще не доступны полноценно, хотя во всю шли разговоры о дефиците комплектующих в кремниевой индустрии. Сказались сразу несколько факторов: отложенный спрос, простой фабрик в период пандемии и небывалая засуха в Тайване.

В итоге получилось так, что к концу лета нам еще не удалось в живую протестировать новые процессоры как от AMD так и от Intel, мало того, есть проблемы с отгрузкой даже платформ предыдущей генерации. Шторм дефицита комплектующих набрал свою силу и говорят будет бушевать как минимум до конца текущего года. Закон спроса и предложения никто не отменял, поэтому отсутствие предложения при огромном спросе вызвало и поднятие цен почти на весь спектр комплектующих используемых в серверах. Даже такая компания как Samsung, которая по идее не должна ощущать дефицит комплектующих, ибо сама их и производит не смогла обеспечить себя в полном объеме необходимыми деталями и вынуждена была отменить некоторые модели к выпуску.

Поэтому, придется изучать новые процессоры и платформы по сухим данным, которые нам предоставили производители. Начинать думаю нужно в хронологическом порядке. И так, AMD представила новые процессоры Milan построенные на архитектуре Zen3, которые можно назвать следующим этапом развития линейки. Каких-то кардинальных изменений не произошло. Даже совместимость с предыдущими платформами сохранилась, т.е. речь идет о платформах поддерживающих процессоры Rome, это линейка Epyc 7002. В линейке Supermicro это материнские платы серии H12. Сообщается, что более ранняя линейка плат для платформы Naples (H11 по модельному ряду Supermicro) не будет поддерживать новые процессоры. Хотя H11 то и процессоры Rome поддерживала с ограничениями, в частности был недоступен интерфейс PCI-E 4.0.

Новая линейка процессоров от AMD получила больше ядер и в некоторых моделях подросли тактовые частоты, за ними выросли цены и тепловой пакет. Переход на новую архитектуру Zen3 позволил увеличить IPC производительность почти на пятую часть по сравнению с предыдущей линейкой. В первую очередь за счет оптимизации внутри архитектуры. Новые CCX модули теперь слеплены целиком из 8 ядер и имеют общий кэш третьего уровня равный 32Мб. Это позволило избавиться от задержек, которые ранее формировались между блоками четырех ядерных CCX связанных шиной Infinity Fabric. Причем благодаря различным комбинациям этих модулей АМД может создавать различные модели процессоров под разные задачи. Более высокочастотные модели, но с меньшим кол-во ядер или наоборот многоядерные модели, но с низкими тактовыми частотами, но уже блоками по 8 ядер.

Линейка актуальных процессоров представлена ниже:

Технические характеристики и цены AMD EPYC 7003
МодельЯдраПотокиБазовая частота, ГГцBoost-частота, ГГцTDP, ВтcTDP Min, ВтcTDP Max, ВтОбъём L3-кеша, МбайтКаналы памяти DDR4Частота памяти (1DPC)Линии PCIe 4.0Цена (1Ku)
7763641282,453,5028022528025683200x128$7 890
7713641282,003,67522522524025683200x128$7 060
7713P641282,003,67522522524025683200x128$5 010
7663561122,003,5024022524025683200x128$6 366
764348962,303,6022522524025683200x128$4 995
754332642,803,7022522524025683200x128$3 761
7543P32642,803,7022522524025683200x128$2 730
751332642,603,6520016520012883200x128$2 840
745328562,753,452252252406483200x128$1 570
744324482,854,0020016520012883200x128$2 010
7443P24482,854,0020016520012883200x128$1 337
741324482,653,6018016520012883200x128$1 825
734316323,203,9019016520012883200x128$1 565
731316323,003,7015515518012883200x128$1 083
7313P16323,003,7015515518012883200x128$913
F-серия (оптимизация по частотам и объёму L3-кеша)
75F332642,954,0028022528025683200x128$4 860
74F324483,204,0024022524025683200x128$2 900
73F316323,504,0024022524025683200x128$3 521
72F38163,704,1018016520025683200x128$2 468

Так же была доработана система безопасности, в частности были оптимизированы методы шифрования и работы с оперативной памятью, что позволило еще больше изолировать отдельные блоки памяти виртуальных машин.

В целом, линейка процессоров стала выглядеть еще лучше, сильные стороны подтянули, слабые же остались как минимум на том же уровне. Если сравнивать новые процессоры AMD c линейкой Intel Xeon Cascade Lake Refresh, то сразу же бросается в глаза ряд преимуществ, это и 8 канальный контроллер памяти с шиной на 3200Мгц во всей линейке семейства и 128 линии PCI-E и высокая плотность ядер на сокет, которая позволяет создавать бюджетные однопроцессорные конфигурации, но с хорошими процессорными мощностями.

Реальное применение AMD

Здесь начинают всплывать нюансы, которые не видны за этими промо материалами, когда мы окунаемся в реальность и пытаемся собрать недорогой сервер с одним хорошим процессором, начинаются проблемы. Ядер ведь много зачем городить два процессора в 1U? Неожиданно, приходит понимание, что заказчик планирует использовать RAID, причем бюджетный на SATA. Портов SATA процессор поддерживает до 16 шт., но распаяли на плате только 8, а функции RAID не завезли вовсе, приходиться докупать пусть и простой, но дополнительный контроллер. Вроде есть огромное кол-во линии PCI-E, но нет аналога VROC. Да и сама платформа, от нашего любимого Supermicro в один процессор получается дороже аналогичной для Intel. Вот и выходит, что AMD становится интересным в среднем ценовом сегменте и выше, а здесь у Intel есть уже свои киллер фичи, такие как 4-х процессорная конфигурация, оперативная память Optane оптимизация всего и вся под свои платформы. А с выходом новой линейки процессоров Xeon Ice Lake-SP все это будет выглядеть еще ярче.

Пусть даже это требует переход на новый сокет. В этом сегмента рынка очень редко встречается такая ситуация, когда заказчик вдруг решил модернизировать процессоры, обычно к этому времени, когда клиент решился на модернизацию, целесообразнее купить уже новую платформу или обновиться на топы в своей линейке, чтобы ничего сильно не менять. Благо, что к тому моменту, когда это наступает, обычно топовые когда-то модели процессоров становятся доступнее младших моделей актуальной линейки. Конкретный пример: у нас часто встречаются заказчики, которые меняют купленные когда-то Xeon E5-2620v3 на топовые E5-2690v4 не меняя своей платформы, но получая заметный скачок в производительности за адекватную цену. Если у вас когда-то уже были E5-2699v4 и вдруг их стало не хватать, целесообразнее переходит уже на актуальную платформу.  

Путаница с Cooper-Lake и Ice Lake SP

В ответ на выходки конкурента, Intel представляет полностью обновленную линейку Intel Xeon на LGA 4189 (Socket P+) c кодовым названием Ice Lake-SP, на самом деле на этом сокете ранее уже выходили процессоры Cooper Lake, это какое-то промежуточное поколение между Cascade Lake Refresh и Ice Lake-SP, причем в линейке процессоров Cooper Lake были только 4 и 8 процессорные модели из линейки Gold и Platinum и они не совместимы с платами которые будут выпущены под процессоры Ice Lake-SP хоть и имеют одинаковый сокет и цифровое поколение. Эти процессоры можно узнать по префиксам H или HL в конце наименования модели. Это важно. Сами по себе эти процессоры действительно выглядят промежуточно, они выполнены по литографии 14 nm, но уже поддерживают PCI-E 4.0 и модели Platinum могут работать с памятью на шине до 3200Мгц. Модели имеют до 6 UPI, что делает возможным построение платформ с 4 и 8 центральными процессорами. На момент публикации у Supermicro доступна только одна система совместимая с этим процессорами, это модель MP SuperServer SYS-240P-TNRT. Большой объем работ был произведен в области оптимизации процессоров для работы с машинным обучением, внедрены новые блоки, а объем поддерживаемой оперативной памяти вырос до 4,5ТБ у некоторых моделей, причем поддерживается Intel® Optane™ persistent memory 200 серии. Т.е. эти процессоры это такой задел для больших и очень мощных серверов, которые могут выполнять огромный спектр задач с высокой нагрузкой и не спасовать переда задачами ИИ, которые в последнее время на себя брали только видеокарты. Intel серьезно задумывается над тем, какую часть рынка они теряют видя успехи Nvidia на этом поприще. Сейчас в разработке находятся графические карты, которые смогут составить конкуренцию уже в среднем ценовом сегменте для AMD и Nvidia. В тоже время Intel планомерно развивает свою платформу OpenVINO, которая является бесплатным инструментом и позволяет на железе от Intel строить модели для Deep Learning и других интересных задач из области ИИ. Поэтому развитие линейки процессоров в том числе в этом направлении выглядит логично.

Так выглядит модельный ряд процессоров Cooper Lake

Процессор Intel® Xeon® Gold 5318H
(24,75 МБ кэш-памяти, 2,50 ГГц)
183,80 GHz2,50 GHz24,75 MB
Процессор Intel® Xeon® Platinum 8380H
(38,5 МБ кэш-памяти, 2,90 ГГц)
284,30 GHz2,90 GHz38,5 MB
Процессор Intel® Xeon® Gold 6328H
(22 МБ кэш-памяти, 2,80 ГГц)
164,30 GHz2,80 GHz22 MB
Процессор Intel® Xeon® Platinum 8360H
(33 МБ кэш-памяти, 3,00 ГГц)
244,20 GHz3,00 GHz33 MB
Процессор Intel® Xeon® Gold 5320H
(27,5 МБ кэш-памяти, 2,40 ГГц)
204,20 GHz2,40 GHz27,5 MB
Процессор Intel® Xeon® Gold 6330H
(33 МБ кэш-памяти, 2,00 ГГц)
243,70 GHz2,00 GHz33 MB
Процессор Intel® Xeon® Platinum 8353H
(24,75 МБ кэш-памяти, 2,50 ГГц)
183,80 GHz2,50 GHz24,75 MB
Процессор Intel® Xeon® Platinum 8354H
(24,75 МБ кэш-памяти, 3,10 ГГц)
184,30 GHz3,10 GHz24,75 MB
Процессор Intel® Xeon® Gold 6348H
(33 МБ кэш-памяти, 2,30 ГГц)
244,20 GHz2,30 GHz33 MB
Процессор Intel® Xeon® Platinum 8376H
(38,5 МБ кэш-памяти, 2,60 ГГц)
284,30 GHz2,60 GHz38,5 MB
Процессор Intel® Xeon® Platinum 8356H
(35,75 МБ кэш-памяти, 3,90 ГГц)
84,40 GHz3,90 GHz35,75 MB
Процессор Intel® Xeon® Platinum 8376HL
(38,5 МБ кэш-памяти, 2,60 ГГц)
284,30 GHz2,60 GHz38,5 MB
Процессор Intel® Xeon® Platinum 8380HL
(38,5 МБ кэш-памяти, 2,90 ГГц)
284,30 GHz2,90 GHz38,5 MB
Процессор Intel® Xeon® Gold 6328HL
(22 МБ кэш-памяти, 2,80 ГГц)
164,30 GHz2,80 GHz22 MB
Процессор Intel® Xeon® Platinum 8360HL
(33 МБ кэш-памяти, 3,00 ГГц)
244,20 GHz3,00 GHz33 MB

А теперь о Ice Lake — SP в отдельности

В первую очередь это действительно массовый продукт который приходит на смену второму поколению Scalable Xeon и его Refresh версии с литерой R. Интел обещает прирост производительности за такт (IPC) до полутора раз в обычных задачах и до 1.74 раза при работе с ИИ по сравнению с предыдущим поколением линейки и прирост в 2.65 раза по сравнению с вышеупомянутым Xeon E5-2699v4, который вышел 5 лет назад. Кстати, сравнение идет между процессорами Xeon Platinum 8280 и 8380. Как же достигаются такие результаты? Во-первых, это первые процессоры от Intel выполненные по 10нм тех.процессу, что позволило произвести ряд оптимизации, добавить ядра, увеличить кэш всех уровней, например, прошлая линейка обладала след. характеристиками 32Кб\1Мб\1.375Мб, а теперь 48Кб\1.25Мб\1.5Мб на ядро. Во-вторых, на общую производительность сказалось добавление еще двух каналов памяти, причем с поддержкой шины до 3200Мгц и объёмом до 6ТБ на сокет. Поддерживается память DCPMM. В-третьих, теперь процессор выдает 64 линии PCI-E вместо 48 в прошлой генерации, так еще и поколение теперь 4.0. В-четвертых, шина UPI теперь на 11.2GT\s, вместо 10.4GT\s. В-пятых, добавилось много новых инструкции и команд. Например, добавилась технология Deep Learning Boost, призванная ускорить вычисления в области ИИ. Теперь ИИ становится общим трендом в индустрии.

А еще Intel уверят, что снизилась цена, а кол-во ядер увеличилось и это скорее главный аргумент в борьбе с конкурентом. Теперь Интел готов предложить до 40 ядер на сокет. Давайте посмотрим на всю линейку процессоров в таблице ниже.

Заранее стоит оговорить индексы, которые говорят о многом, а иногда в корне меняют характеристики процессора:

Y — поддержка технологии Intel Speed Select — Performance Profile 2.0 (Intel SST PP)

U — поддержка только однопроцессорной конфигурации

S — поддержка Intel Speed Select — Performance Profile 2.0.

Q — предназначен для водяного охлаждения

P — для облачных провайдеров предлагается использовать в IaaS

V — для облачных провайдеров для SaaS в платформах виртуализации

N — для решении с высокой нагрузкой на сетевые ресурсы, виртуализация сетевых интерфейсов и так далее.

T — соответствует стандарту NEBS, т.е. могут работать под длительными и высокими нагрузками.

НаименованиеКол-во
ядер
Частота в режиме
Turbo Boost
Базовая частотаКэш L3
Intel® Xeon® Silver 4310 Processor 
(18M Cache, 2.10 GHz)
123.30 GHz2.10 GHz18 MB
Intel® Xeon® Gold 6314U Processor 
(48M Cache, 2.30 GHz)
323.40 GHz2.30 GHz48 MB
Intel® Xeon® Gold 6342 Processor 
(36M Cache, 2.80 GHz)
243.50 GHz2.80 GHz36 MB
Intel® Xeon® Silver 4309Y Processor 
(12M Cache, 2.80 GHz)
83.60 GHz2.80 GHz12 MB
Intel® Xeon® Gold 6326 Processor 
(24M Cache, 2.90 GHz)
163.50 GHz2.90 GHz24 MB
Intel® Xeon® Gold 6334 Processor 
(18M Cache, 3.60 GHz)
83.70 GHz3.60 GHz18 MB
Intel® Xeon® Gold 5317 Processor 
(18M Cache, 3.00 GHz)
123.60 GHz3.00 GHz18 MB
Intel® Xeon® Gold 5318Y Processor 
(36M Cache, 2.10 GHz)
243.40 GHz2.10 GHz36 MB
Intel® Xeon® Silver 4316 Processor 
(30M Cache, 2.30 GHz)
203.40 GHz2.30 GHz30 MB
Intel® Xeon® Silver 4314 Processor 
(24M Cache, 2.40 GHz)
163.40 GHz2.40 GHz24 MB
Intel® Xeon® Gold 6338N Processor 
(48M Cache, 2.20 GHz)
323.50 GHz2.20 GHz48 MB
Intel® Xeon® Gold 6354 Processor 
(39M Cache, 3.00 GHz)
183.60 GHz3.00 GHz39 MB
Intel® Xeon® Gold 6338T Processor 
(36M Cache, 2.10 GHz)
243.40 GHz2.10 GHz36 MB
Intel® Xeon® Gold 5318S Processor 
(36M Cache, 2.10 GHz)
243.40 GHz2.10 GHz36 MB
Intel® Xeon® Gold 6336Y Processor 
(36M Cache, 2.40 GHz)
243.60 GHz2.40 GHz36 MB
Intel® Xeon® Gold 5318N Processor 
(36M Cache, 2.10 GHz)
243.40 GHz2.10 GHz36 MB
Intel® Xeon® Gold 6312U Processor 
(36M Cache, 2.40 GHz)
243.60 GHz2.40 GHz36 MB
Intel® Xeon® Silver 4310T Processor 
(15M Cache, 2.30 GHz)
103.40 GHz2.30 GHz15 MB
Intel® Xeon® Gold 5320T Processor 
(30M Cache, 2.30 GHz)
203.50 GHz2.30 GHz30 MB
Intel® Xeon® Gold 5320 Processor 
(39M Cache, 2.20 GHz)
263.40 GHz2.20 GHz39 MB
Intel® Xeon® Gold 5315Y Processor 
(12M Cache, 3.20 GHz)
83.60 GHz3.20 GHz12 MB
Intel® Xeon® Platinum 8352M Processor 
(48M Cache, 2.30 GHz)
323.50 GHz2.30 GHz48 MB
Intel® Xeon® Platinum 8362 Processor 
(48M Cache, 2.80 GHz)
323.60 GHz2.80 GHz48 MB
Intel® Xeon® Platinum 8360Y Processor 
(54M Cache, 2.40 GHz)
363.50 GHz2.40 GHz54 MB
Intel® Xeon® Platinum 8358 Processor 
(48M Cache, 2.60 GHz)
323.40 GHz2.60 GHz48 MB
Intel® Xeon® Platinum 8352Y Processor 
(48M Cache, 2.20 GHz)
323.40 GHz2.20 GHz48 MB
Intel® Xeon® Gold 6338 Processor 
(48M Cache, 2.00 GHz)
323.20 GHz2.00 GHz48 MB
Intel® Xeon® Gold 6330N Processor 
(42M Cache, 2.20 GHz)
283.40 GHz2.20 GHz42 MB
Intel® Xeon® Platinum 8380 Processor 
(60M Cache, 2.30 GHz)
403.40 GHz2.30 GHz60 MB
Intel® Xeon® Platinum 8351N Processor 
(54M Cache, 2.40 GHz)
363.50 GHz2.40 GHz54 MB
Intel® Xeon® Platinum 8368Q Processor 
(57M Cache, 2.60 GHz)
383.70 GHz2.60 GHz57 MB
Intel® Xeon® Platinum 8358P Processor 
(48M Cache, 2.60 GHz)
323.40 GHz2.60 GHz48 MB
Intel® Xeon® Platinum 8352V Processor 
(54M Cache, 2.10 GHz)
363.50 GHz2.10 GHz54 MB
Intel® Xeon® Platinum 8368 Processor 
(57M Cache, 2.40 GHz)
383.40 GHz2.40 GHz57 MB
Intel® Xeon® Gold 6348 Processor 
(42M Cache, 2.60 GHz)
283.50 GHz2.60 GHz42 MB
Intel® Xeon® Gold 6346 Processor 
(36M Cache, 3.10 GHz)
163.60 GHz3.10 GHz36 MB
Intel® Xeon® Gold 6330 Processor 
(42M Cache, 2.00 GHz)
283.10 GHz2.00 GHz42 MB
Intel® Xeon® Platinum 8352S Processor 
(48M Cache, 2.20 GHz)
323.40 GHz2.20 GHz48 MB

Казалось бы вот эти процессоры обречены на успех, они дешевле, производительнее и так далее, но реальность накладывает свои корректировки. Из-за дефицита процессоры все еще сложно получить в необходимом кол-ве, причем даже самые массовые модели. Цена тоже стала заметно выше рекомендованной, а платформа на которую они рассчитаны уже изначально дороже по сравнению с предыдущим поколением, память на частоте 3200Мгц дороже и тоже ограниченна в доступности. Поэтому и выходит, что на бумаге все хорошо, а мы все еще массово предлагаем заказчикам решения на предыдущих поколениях, которые хоть как-то еще доступны к заказу и имеют адекватный срок поставки.

Уже совсем скоро на горизонте появится новая линейка процессоров Xeon 4-го поколения с кодовым названием Sapphire Rapids, и платформой Intel Eagle Stream (LGA 4677) построенной на наработках десктопных процессоров Alder Lake.