Строго кажучи, мова йде не тільки і не стільки про оновлення серверних процесорів, скільки про великому і важливому для самої компанії запуску цілої плеяди різнорідних продуктів, так або інакше пов'язаних з дата-центрами. Шматочки цього пазлу проявляються то тут, то там. Глобально все це оновлення укладається в загальну стратегію Intel з вибудовування єдиної платформи, що охоплює і пронизує по можливості всю сучасну електроніку та її застосування в реальному житті: від сенсорів інтернеті речей і безпілотників до власне дата-центрів. Окремо зупинятися на цьому не будемо, але загальний посил і так зрозумілий: даних у світі багато і буде ще більше, ці дані треба обробляти і витягати з них користь. І чим швидше, тим краще. Стосовно до дата-центрам, корпоративним і промисловим системам все це зводиться до трьох основним стовпам: швидкої передачі даних, великим обсягом зберігання і високої швидкості обробки.

Далі трохи складніше. Паралельно йде робота над двома новими серіями процесорів і двома платформами, які з'являться не раніше 2020 року. Cooper Lake SP можна умовно вважати розвитком Skylake і Cascade Lake, а ось Ice Lake SP будуть вже іншими. На рівні платформ нас чекають Whitley, яка буде сумісна з обома серіями нових CPU, і Cedar Island — тільки для Cooper Lake. Xeon D згодом теж перейде на ядра Ice Lake. Втім, всі назви та плани поки носять попередній характер. Для Xeon E відносно скоро варто чекати невелике оновлення у зв'язку з переходом на Coffee Lake-E Refresh, а прямо зараз доступна карта PCI-E SGX card — прискорювач на базі трьох Xeon E, спадкоємець VCA. У 2019 році також повинні нарешті вийти ІІ-прискорювачі Nervana Spring Crest Spring Hill.

FPGA Intel Agilex представлені зараз, так само як і 100GbE-продукти Columbiaville. Пізніше з'являться і інші мережеві продукти, а також нове покоління Intel Omni Path. Нарешті, через пару років варто чекати і GPU (хоча скоріше вже просто прискорювачі) Arctic Sound для ЦОД.

Ось тепер з цим багажем знань ми і спробує злетіти. В даному матеріалі торкнемося лише деяких оновлень процесорів Cascade Lake SP і AP, їх технологій і пам'яті Intel Optane DC Persistent Memory.

Intel Xeon Cascade Lake SP

Загальна схема найменувань і серії Platinum, Gold, Silver, Bronze залишилися колишніми, а от "суфіксів" стало більше. Вже наявні L і M так само вказують на підтримку збільшеного об'єму пам'яті — до 4,5 і 2 Тбайт замість базових 1,5 Тбайт відповідно. Варіанти T для процесорів з розширеним терміном підтримки, готових до роботи в більш жорстких умовах, теж збереглися. Новими для Xeon стали версії Y, N, V і S — всі вони є варіаціями процесорів з підтримкою Speed Select. Найбільш загальний і універсальний варіант — це Y. Версії N і S заздалегідь оптимізовані для роботи з мережевими додатками і з базами даних відповідно. Версія V націлена на щільну віртуалізацію. Версій F з інтегрованим модулем Intel Omni-Path тепер немає (хоча і ті, що були, все одно не можна було просто так купити).

До традиційних вже обмеженням на число сокетів, каналів UPI, одночасно виконуваних AVX/FMA-інструкцій і частот пам'яті для процесорів Bronze і Silver додалося ще одне — вони не вміють працювати з Intel Optane DC Persistent Memory. Втім, вона їм, напевно, не дуже-то й потрібна, незважаючи на те, що це якраз одне з головних нововведень Cascade Lake. Взагалі кажучи, на рівні загальної архітектури та техпроцесу новинки мало чим відрізняються від минулих Skylake SP. Їх слід розглядати як черговий етап оптимізації Skylake в цілому або, якщо хочете, роботу над помилками і над реалізацією тих задумів, які спочатку повинні були бути в процесорах першого покоління, але з тих чи інших причин до стадії виробництва не дійшли.

В цілому різних микроапдейтов не один десяток, але з більш-менш загальних і помітних зовнішньому спостерігачеві виділяються два. По-перше, в середньому трохи підросли частоти при збереженні колишнього TDP, тобто обчислення стали «дешевше». У середньому заявлений приріст для популярної серії Gold становить близько третини, але він не зовсім рівномірний по класах і завданням, хоч та чи інша надбавка є скрізь. По-друге, з'явилася підтримка DDR4-2933 c 16-Гбіт чіпами, тобто з типовим обсягом модуля 64-256 Гбайт. Але для конфігурацій з двома DIMM на канал частота все одно знижується до звичних 2666 MT/s.

В іншому базові характеристики і набір можливостей залишилися колишніми. Число ядер і обсяги кешей не змінилися: до 28 і 1 Мбайт L2 на ядро + до 38,5 Мбайт загального L3. Число і тип ліній PCI-E теж такі ж, які були, — 48 ліній версії 3.0. Масштабованість не змінилася: до 3 ліній UPI на 10,4 GT/s і до 8 (безшовні) сокетів в системі. Інші відомості про архітектуру й особливості можна знайти в матеріалі «Знайомство з Intel Xeon Skylake-SP: смеѕһать, але не збовтувати».

Ну і звичайно, в Cascade Lake з'явилися перші заплатки проти відомих в минулому році вразливостей. У різних поєднаннях програмно-апаратні рішення працюють проти варіантів 2 (Spectre), 3, 3a і 4 (Spectre NG), а також проти L1TF (Foreshadow). Для Spectre Variant 1 все так само пропонується тільки програмний патч, а от про SPOILER нічого поки не йдеться. З одного боку, презентація новинок для преси проходила ще до того, як здійнявся галас з приводу останнього. З іншого ж, на момент написання матеріалу відомостей від Intel все ще немає. Втім, представники компанії говорять, що не боролися з конкретними варіантами, а працювали над підвищенням захищеності CPU від подібних уразливостей в цілому.

Продуктивність Intel Xeon Cascade Lake SP Дивитися всі фотографії (12) Дивитися всі
зображення (12)

Intel Optane DC Persistent Memory

На рівні підходу ідея розширення обсягу DRAM за рахунок використання більш повільного, зате більш дешевого типу пам'яті не нова. Раніше для Xeon Skylake вже використовувалася технологія Intel Memory Drive Technology: гіпервізор + NVMe-модулі Optane. Як вже зазначалося, це насправді розробка компанії ScaleMP, якою тепер користуються і інші виробники: на SC18 Western Digital пропонувала аналогічне рішення для своїх NAND SSD. Це досить простий, але не завжди продуктивний варіант роботи із-за використання PCI-E замість DDR4-T. Власне кажучи, впровадженням Optane як пристрої класу Storage Class Memory на рівень DRAM і на рівень SSD Intel намагається закрити провал у швидкості, обсязі та ціною між оперативною пам'яттю і накопичувачами — це все той же перекроювання ієрархії пам'яті, про яку неодноразово говорилося.

У випадку з Cascade Lake і Intel Optane DC Persistent Memory (DCPM) все змінюється. Обидва продукту з першого дня розроблялися паралельно і призначені один для одного. Модулі DCPMM візуально схожі на модулі DIMM, електрично і механічно сумісні з ними, працюють на швидкості 2666 MT/s і мають обсяг 128/256/512 Гбайт. Але на логічному рівні вони використовують протокол DDR4-T (Transaction), який, за словами Intel, схвалений JEDEC, але на практиці його підтримка є тільки у контроллерах пам'яті Cascade Lake. Однак і тут існують деякі нюанси. Для роботи DCPM все одно потрібна наявність хоча б одного звичайного DIMM на кожному контролері пам'яті (CPU їх два, у кожного три канали). Також рекомендується ставити DCPM в слот, найближчий до CPU. При схемою у два модуля на канал отримуємо 12 слотів, з яких половина віддається Optane. При поточному максимальному обсязі модуля DCPM 512 Гбайт виходить до 3 Тбайт пам'яті на сокет + DRAM. І така конфігурація набагато дешевше варіанта з аналогічним об'ємом, набраних тільки DDR-модулями.

Так виглядає ідеальна картинка, а на практиці можуть виникнути обмеження. Поточне покоління DCPM споживає до 18 Вт у випадку найбільш ємного модуля на 512 Гбайт, що накладає додаткові вимоги на підсистему живлення, і на охолодження. Втім, Intel передбачила можливість налаштування профілю енергоспоживання в діапазоні від 12 до 18 Вт з кроком 0,25 Вт, проте це безпосередньо впливає на продуктивність. Невипадково модулі DCPM спочатку забезпечені радіаторами. Усередині кожного модуля є відразу 11 блоків пам'яті Optane: вісім для зберігання даних, два для організації корекції помилок ECC і ще один підмінний. Є вирівнювання зносу, а загальний термін служби заявлений як порівнянний з терміном служби сервера в цілому.

Інший нюанс полягає в тому, що внутрішній обмін даними для чіпів Optane організований в блоки по 256 байт/запит, тоді як зовнішній інтерфейс для контролера пам'яті CPU «синхронізований» з внутрішньою шиною на 64 байт/цикл. В результаті випадкові короткі звернення в середньому менш ефективні, ніж послідовна робота з даними. Втім, по швидкості та/або за рівнем затримки DCPM все одно в середньому краще колишнього варіанту IMDT.

Особливістю DCPM також є примусове апаратне шифрування даних за алгоритмом AES-XTP з індивідуальним для кожного модуля ключем довжиною 256 біт, який зберігається десь в надрах пам'яті і до якого має доступ тільки контролер самого модуля. Це в якомусь сенсі вимушена обережність, пов'язана з тим, що Optane — не динамічна пам'ять. Є навіть виділені конденсатори, запасу енергії в яких в разі збою вистачить для екстреної очищення даних у режимі Memory Mode, і так штатно эмулирующего поведінка DRAM. Так, найголовніше — Intel Optane DC Persistent Memory передбачає два варіанти роботи, які задаються при завантаженні системи: Memory Mode і AppDirect Mode.

Memory Mode прозоро розширює видимий системою обсяг RAM за рахунок DCPM. Власне DRAM у цьому випадку просто є write-back кешем, що стоять перед масивом Optane. Очевидна перевага в тому, що немає необхідності переписувати старі програми, вони просто побачать збільшений об'єм пам'яті. Очевидний недолік — при зростанні кількості промахів кеша буде рости і затримка, так як вона тепер складається з двох частин: латентності самої DRAM і латентності DCPM. Ну і при перевищенні робочим набором обсягу власне DRAM буде падати швидкість. Тим не менше при поєднанні низької інтенсивності звернень з необхідністю у великому обсязі пам'яті Memory Mode все одно виявляється ефективніше, ніж робота з DRAM і NVMe окремо, так як викидається купа проміжних етапів при зверненні до звичайного диску.

Рівно те ж відбувається і в AppDirect Mode, який слід вважати, мабуть, основним режимом роботи Intel Optane DC Persistent Memory. В ньому у додатку на вибір є три види пам'яті DRAM, NAND SSD і проміжний по швидкості/обсягом варіант у вигляді Optane. І його треба адаптувати до цього. DCPM може представлятися і як класичне блоковий пристрій, тобто його можна розбити на розділи, форматувати й використовувати як швидкий SSD. А може поставати і як просто пам'ять з побітовим доступом. У будь-якому випадку при збої живлення або просто при перезавантаженні дані залишаться в пам'яті, що може бути вкрай важливо для різних критичних систем, що працюють з великими обсягами інформації. В теорії є і ще один нестандартний варіант — завантаження безпосередньо з DCPM, що дозволяє позбавитися від звичайних накопичувачів в системах, де потрібно висока щільність розміщення компонентів або просто компактність.

Чому саме AppDirect Mode повинен стати основним? Бо програмістів в цілому непогано б привчити до того, що існує третій тип пам'яті. Ну або навпаки, що є тепер вже досить гладка крива співвідношення швидкості і обсягу. В якості прикладів ефективної оптимізації під таку ієрархію Intel призводить роботу додатків, які виграють від грамотного рознесення даних за класами: SAP HANA, великі бази даних, системи аналітики Big Data. А для Memory Mode типовий приклад — підвищення щільності розміщення віртуальних машин. У будь-якому випадку, бездумно переходити на DCPM особливого сенсу немає — розробники неодноразово повторюють, що роботу додатків треба ретельніше вивчати і оптимізувати.

Продуктивність Intel Optane DC Persistent Memory Дивитися всі фотографії (21) Дивитися всі
зображення (21)

Intel RDT і Speed Select

Одним з інструментів, який доступний в Cascade Lake, є Intel Resource Director Technology (RDT). Технологія RDT, якщо коротко, надає собою механізми досить тонкого моніторингу та контролю за виконанням програм та використанням ресурсів. Вона сама по собі нова і присутня в процесорах і раніше. В даному випадку вона пропонує класифікацію та пріоритизації, що впливають на розподіл запущених потоків, пропускної здатності кеша і пам'яті, — все для того, щоб більш високопріоритетне додаток вчасно отримувало все, що йому потрібно. Природно, за рахунок деякого «обмеження в правах інших програм.

Приклади роботи Intel RDT Дивитися всі фотографії (8) Дивитися всі
зображення (8)

Рівно ту ж саму ідею пріоритизації реалізує і технологія Speed Select (SST), але вже на рівні ядер. Знову-таки сама по собі вона не нова: наприклад, розробники СГД вже давно програмно «навішують» важкі операції на зразок компресії або дедуплікаціі на окремі ядра. У Cascade Lake Intel з допомогою SST пропонує ще під час завантаження жорстко виділити групу ядер, яка буде мати підвищений пріоритет над іншими. Це помітно підвищує передбачуваність поведінки і час реакції, а в поєднанні з RDT дозволяє провести ще більш точний тюнінг.

SST пропонує два варіанти роботи. Перший, тобто SST-CP, динамічно знижує частоти більш низьких пріоритету ядер, коли ядер з більш високим пріоритетом необхідно більше і на більш довгий термін задіяти обчислювальні ресурси, що дозволяє не впиратися в стелю живлення і охолодження. Простіше кажучи, на турбочастотах такі ядра будуть працювати довше. Другий варіант — SST-BF — влаштований простіше. В цьому випадку група привілейованих ядер постійно працює на більш високій базовій частоті, ніж стандартна, а для всіх інших базова частота, що очевидно, знижується. Всього можна задати три різні профілю поведінки груп ядер. У найбільш загальному вигляді SST представлена в маленькій серії процесорів Y. Заздалегідь адаптованими варіаціями є серії N і S.

Єдиний представник останньої орієнтований на роботу з пошуком — в першу чергу в базах даних. Але це більше стосується тих систем, де потрібно передбачувана і по можливості мала затримка. Аналогічне завдання покладене і на серію N, яка спеціально створена для віртуалізації мережевих функцій, або, простіше кажучи, для SDN у всьому їх різноманітті, популярність яких стрімко зростає. Вони ж можуть бути корисні не тільки в ЦОД або хмарах, але і на прикордонних (edge) вузлах, попередньо обробляючи, приміром, IoT-трафік. Незважаючи на те, що публічний набір SKU цих серій дуже невеликий, треба вважати, що саме вони у вигляді semi-custom рішень — а на такі у принципі припадає половина всіх випущених чіпів будуть користуватися попитом.

Приклади використання Intel Speed Select Technology Дивитися всі фотографії (12) Дивитися всі
зображення (12)

Для N-серії відмінним компаньйоном повинні стати нові Ethernet-контролери Intel 800 і софт DPDK укупі з RDT. Контролери на додаток до давно вже представленої технології Quick Assist Technology обзавелися эволюционировавшей компонентою eXpress Data Path (AF_XDP), выносящей обробку трафіку в простір користувача і дозволяє додаткам безпосередньо спілкуватися з контролером. Інше важливе оновлення стосується Application Device Queues (ADQ) і Dynamic Device Personalization (DDP). ADQ дозволяє розставити пріоритети трафік для додатків, а DDP дає можливість класифікувати його шляхом розбору пакетів на льоту за заданими правилами. Все разом дозволяє дуже тонко оптимізувати роботу мережевих додатків на всьому циклі виконання: від звернень до диска і пам'яті до відправки пакетів за призначенням.

Дивитися всі фотографії (10) Дивитися всі
зображення (10)

Intel Xeon Cascade Lake AP

Опис Cascade Lake AP навмисне зрушено на кінець матеріалу, тому що ці процесори не для простих смертних, так сказати. На них навіть ціна не вказується. Але це якраз зрозуміло, тому що упаковка серії Xeon Platinum 9200 — це BGA5903. Вони будуть поставлятися тільки у вигляді вже готових блоків, попередньо відтестованих і валидированных самої Intel. Власне AP-процесори являють собою відразу два чіпа SP у вигляді MCP під однією теплораспределяющей кришкою. Очевидно, що при TDP від 250 до 400 Вт для кожного процесорного роз'єму (а їх може на одній платі бути два) вимоги до системи охолодження різко зростають, як і вимоги до харчування.

Розведення і самої упаковки, та плати помітно ускладнюється. А тут ще і 12 каналів пам'яті + 40 ліній PCI-E + 4 лінії UPI для кожного сокета, які теж треба вивести. В цілому серія AP потрібна для підвищення щільності розміщення ресурсів. Двухсокетная збірка AP — інших, схоже, і не передбачається — майже еквівалентна четырехсокетной із звичайних SP, але в більш компактному виконанні. Це стане в нагоді для HPC або суперкомп'ютерів і ШІ, або для додатків, яким потрібен дуже великий локальний обсяг пам'яті, для систем аналітики. Формально 9200 AP — це найкращі процесори компанії на поточний момент, хоча лідерство тут досягнуто не зовсім звичним шляхом. Що ж, мабуть, знову прийшла пора мультичіпових збірок.

Продуктивність Intel Xeon Cascade Lake AP Дивитися всі фотографії (10) Дивитися всі
зображення (10)

Для Cascade Lake AP у Intel є готові платформи серії S9200WK в трохи незвичному виконанні. У шасі висотою 2U з трьома загальними для всіх вузлів БП можна встановити в різних варіантах блоки половиною ширини і висотою 1U або 2U. Кожен блок має по два процесора і по 24 слоти для пам'яті. Самий компактний варіант передбачає установку тільки пари накопичувачів M. 2 і двох низькопрофільних плат PCI-E через райзери. Варіанти побільше дають можливість встановлення ще двох додаткових дисків U. 2 і ще двох карт. Для двох з трьох виконань використовуються загальна СЖО, і лише один припускає повітряне охолодження.

Платформа Intel S9200WK і шасі FC2000 для Cascade Lake AP Дивитися всі фотографії (7) Дивитися всі
зображення (7)

Об'єднуй і володарюй

Сьогоднішній вихід нових процесорів можна вважати першим етапом глобальним оновлення платформи ЦОД, так як у другій половині року буде ще парочка цікавих анонсів. Але і розглядати Cascade Lake самі по собі теж трохи неправильно — одночасно вийшли Xeon-D 1600, Agilex, Ethernet 800. Сама компанія називає це найбільшим запуском у своїй історії, стратегічно дуже важливим для неї. Це відповідь на поточні запити індустрії. Мало пам'яті? Візьміть Optane DC Persistent Memory. Хочете працювати з ІІ? Отримаєте новий набір інструкцій. Потрібна найкраща оптимізація під NFV, але немає готовності замовити semi-custom? Є й такі CPU. Швидка мережу з різноманітною розвантаженням? Отримаєте. А ще є інтерконнект (внутрішній і зовнішній), рішення для HPC, пачка FPGA, ціла плеяда найрізноманітніших Xeon, власні SSD, ІІ-прискорювачі, готові платформи, а скоро будуть GPU і, ймовірно, квантові комп'ютери.

А ще є 5G, безпілотні авто і IoT, шляхи яких теж закінчуються в дата-центрах, де є CPU, FPGA, мережа, накопичувачі... загалом, дивись вище. Все це поступово провязывается між собою програмними компонентами, які Intel вкладає багато сил і грошей. Як вже говорилося на самому початку, все це — спроба вибудувати єдину екосистему продуктів та інфраструктуру майбутнього, що має дати перевагу перед іншими виробниками. І вже викликає їх серйозні побоювання, тому що такі спроби вже були. Спочатку на рівні набору чіпів, потім на рівні ПК і платформ, а зараз і зовсім на рівні індустрії. Що це — беззаперечний лідер або колос на шести глиняних стовпах?