NVIDIA слідом за професійною графікою Quadro RTX та ігровими прискорювачами GeForce RTX представила на GTC 2018 в Японії нове сімейство GPU для машинного навчання та аналізу інформації в центрах обробки даних. Нові рішення Tesla T4 («T» в назві означає нову архітектуру Тьюринга) є спадкоємцями поточного сімейства GPU P4, які зараз пропонують практично всі великі постачальники хмарних обчислень. За словами NVIDIA, Google буде в числі перших компаній, які задіють у своїй хмарній платформі прискорювачі T4.

NVIDIA стверджує, що T4 значно швидше, ніж P4. Наприклад, в задачах прийняття рішень, пов'язаних із лінгвістикою, T4 в 34 рази швидше, ніж CPU і більш ніж в 3,5 рази швидше, ніж P4. Пікова продуктивність T4 становить 260 TOPS для 4-бітних цілочисельних операцій INT4, 130 TOPS — для INT8 і 65 терафлопс для змішаних тензорних операцій FP16. При звичайних розрахунках з плаваючою комою FP32 обіцяна пікова продуктивність в 8,1 терафлопс.

Низькопрофільна карта T4 призначена для установки в стандартний 75-Вт слот PCI Express. Це означає, що для встановлення в 1U, 4U або інші стандартні серверні стійки не потрібно думати про зовнішньому джерелі живлення: достатньо можливостей слота PCIe. А низькопрофільна конструкція забезпечує широку сумісність з найрізноманітнішими серверами.

Але головне, що NVIDIA розробила ці чіпи спеціально для процесів логічного умовиводу у штучному інтелекті. «Настільки ефективним графічним процесором для задач прийняття рішень Tesla T4 роблять нові тензорні ядра архітектури Тьюринг, — підкреслив віце-президент і керівник по бізнесу ЦОД NVIDIA Tesla Ян Бак (Ian Buck). — Виконавчий директор Дженсен Хуанг (Jensen Huang) вже говорив про тензорних ядрах і про те, що вони можуть запропонувати в іграх, завдання рендеринга і в області ШІ, але вони насамперед призначені для найбільшої ефективності в процесах логічного міркування». Повідомляється, що прискорювач включає 320 тензорних ядер і 2560 ядер CUDA Тьюринга.

Оскільки обсяг онлайн-відео продовжує зростати експоненціально, попит на рішення для ефективного пошуку і отримання інформації з відео також збільшується. Tesla T4 забезпечує високу продуктивність і для завдань, пов'язаних з ІІ-аналізом відео. А окремі блоки перекодування відеопотоку забезпечують двократне зростання продуктивності декодування в порівнянні з GPU попереднього покоління. T4 може декодувати до 38 потоків відео 1080p, що дозволяє легко інтегрувати масштабоване глибинне навчання в відеопрограми для створення нових інтелектуальних послуг.

На додаток до власне Tesla T4 компанія також представила оновлення свого програмного забезпечення TensorRT 5 для оптимізації моделей глибинного навчання. Ця нова версія також включає в себе сервер прийняття рішень TensorRT, повністю контейнерний микросервис для процесів логічного умовиводу у центрах обробки даних, який легко підключається до існуючої інфраструктури Kubernetes.