AMD Instinct

MI6

O MI6 é uma placa Polaris 10 resfriada passivamente com 16 GB de memória GDDR5 e com um TDP <150 W. Com 5,7 TFLOPS (FP16 e FP32), espera-se que o MI6 seja usado principalmente para inferência, em vez de treinamento de rede neural. O MI6 tem um desempenho de computação de precisão dupla (FP64) de pico de 358 GFLOPS.

MI8

O MI8 é uma placa baseada em Fiji, análogo ao R9 Nano, com TDP <175W. O MI8 tem 4 GB de memória de alta largura de banda. Com 8,2 TFLOPS (FP16 e FP32), o MI8 é indicado para inferência. O MI8 tem um desempenho de computação de precisão dupla de pico (FP64) de 512 GFLOPS.

MI25

O MI25 é uma placa baseada em Vega, utilizando memória HBM2. Espera-se que o desempenho do MI25 seja de 12,3 TFLOPS usando números FP32. Ao contrário do MI6 e do MI8, o MI25 é capaz de aumentar o desempenho ao usar números de menor precisão e, portanto, espera-se que alcance 24,6 TFLOPS ao usar números FP16. O MI25 possui TDP <300 W com resfriamento passivo. O MI25 também oferece precisão dupla de pico de 768 GFLOPS (FP64) a uma taxa de 1/16.

Série MI300

O MI300A e o MI300X são aceleradores de data center que usam a arquitetura CDNA 3, otimizada para cargas de trabalho de computação de alto desempenho (HPC) e inteligência artificial generativa (IA). A arquitetura CDNA 3 apresenta um design de chiplet escalável que aproveita as tecnologias de encapsulamento avançadas da TSMC, como CoWoS (chip-on-wafer-on-substrate) e InFO (fan-out integrado), para combinar vários chiplets em um único interposer. Os chiplets são interconectados pelo Infinity Fabric da AMD, o que permite transferência de dados de alta velocidade e baixa latência entre os chiplets e o sistema host.

O MI300A é uma unidade de processamento acelerado (APU) que integra 24 núcleos de CPU Zen 4 com quatro núcleos de GPU CDNA 3, resultando em um total de 228 CUs na seção de GPU e 128 GB de memória HBM3. Os núcleos da CPU Zen 4 são baseados no nó de processo de 5 nm e suportam o conjunto de instruções x86-64, bem como extensões AVX-512 e BFloat16. Os núcleos da CPU Zen 4 podem executar aplicativos de uso geral e fornecer computação do lado do host para os núcleos da GPU. O MI300A tem um desempenho máximo de 61,3 TFLOPS de FP64 (122,6 TFLOPS de matriz FP64) e 980,6 TFLOPS de FP16 (1961,2 TFLOPS com escassez), bem como 5,3 TB/s de largura de banda de memória. O MI300A suporta interfaces PCIe 5.0 e CXL 2.0, que permitem a comunicação com outros dispositivos e aceleradores em um sistema heterogêneo.

O MI300X é um acelerador de IA generativo dedicado que substitui os núcleos da CPU por núcleos de GPU adicionais e memória HBM, resultando em um total de 304 CUs (64 núcleos por CU) e 192 GB de memória HBM3. O MI300X foi projetado para acelerar aplicações de IA generativa, como processamento de linguagem natural, visão computacional e aprendizado profundo. O MI300X tem um desempenho máximo de 653,7 TFLOPS de TP32 (1307,4 TFLOPS com escassez) e 1307,4 TFLOPS de FP16 (2614,9 TFLOPS com escassez), bem como 5,3 TB/s de largura de banda de memória. O MI300X também suporta interfaces PCIe 5.0 e CXL 2.0, bem como a pilha de software ROCm da AMD, que fornece um modelo de programação unificado e ferramentas para desenvolver e implementar aplicativos de IA generativos em hardware AMD.

ROCm

O software a seguir foi, a partir de 2022, reagrupado no metaprojeto Radeon Open Compute.