Tensor Processing Unit
A tenzorfeldolgozó egység (vagy TPU, az angol Tensor Processing Unit kifejezésből) egy meghatározott célra tervezett alkalmazásspecifikus integrált áramkör (ASIC). Ebben az esetben a TPU célja vagy funkciója gépi tanulás támogatása a számítógépes rendszerekben. Az első TPU-kat a Google fejlesztette ki és 2016-ban jelentette be ezek első generációját. A Google által kifejlesztett TPU-kat kifejezetten a TensorFlow szoftvergyűjteményhez tervezték. A TPU-k képezik az alapját minden gépi tanulást használó Google-szolgáltatásnak. A TPU-k alkalmazási területei között szerepel a robotika és a mesterséges intelligencia.
Az ok, amiért a TPU-k felülmúlják a legjobb általános CPU-kat és GPU-kat (grafikus processzorokat), az, hogy 64 bites struktúrában 8 bites adatformátumokkal dolgoznak, így növelik a párhuzamos feldolgozási kapacitást.
Architektúra
A TPU egy olyan gép (integrált áramkörös megvalósítású automata), amely 8 bites adatokat szoroz össze mátrixszerkezetben. A processzor CISC típusú utasításokkal működik. A Google TPU első generációját 28 nanométeres technológiával gyártották, integrált áramköri lapkájának mérete 331 mm2, órajele 700 MHz, energiafogyasztása 28–40 W. 28 MiB memóriával és 4 MiB méretű belső regisztertárral rendelkezik.
Termékek
Tensor Processing Unit:
|
TPUv1 |
TPUv2 |
TPUv3 |
TPUv4 |
TPUv5e |
TPUv5p |
v6e (Trillium) |
|---|
| Bevezetés |
2015 |
2017 |
2018 |
2021 |
2023 |
2023 |
2024 |
| Gyártási folyamat |
28 nm |
16 nm |
16 nm |
7 nm |
? |
? |
|
| Lapkaméret (mm2) |
331 |
< 625 |
< 700 |
< 400 |
300–350 |
? |
|
| Belső memória (MiB) |
28 |
32 |
32 |
32 |
48 |
112 |
|
| Órajel (MHz) |
700 |
700 |
940 |
1050 |
? |
1750 |
|
| Memória |
8 GiB DDR3 |
16 GiB HBM |
32 GiB HBM |
32 GiB HBM |
16 GiB HBM |
95 GiB HBM |
32 GiB |
| Sávszélesség |
34 GiB/s |
600 GiB/s |
900 GiB/s |
1200 GiB/s |
819 GiB/s |
2765 GiB/s |
1640 GiB/s |
| TDP (W) |
75 |
280 |
220 |
170 |
? |
? |
|
| TOPS (tera-művelet másodpercenként) |
23 |
45 |
123 |
275 |
197 (bf16)
393 (int8) |
459 (bf16)
918 (int8) |
918 (bf16)
1836 (int8) |
| TOPS/W |
0,31 |
0,16 |
0,56 |
1,62 |
? |
? |
Összehasonlítás
| CPU család |
FLOPS |
Év |
|---|
| AMD ATI RADEON HD4800 |
1 teraFLOPS |
2008 |
| Intel Core I7 980 XE |
109 gigaFLOPS |
2010 |
| Nvidia Tesla GPU |
515 gigaFLOPS |
2010 |
| Google TPU |
92 teraFLOPS |
2017 |
Fordítás
Ez a szócikk részben vagy egészben az Unitat de processament de tensors című katalán Wikipédia-szócikk ezen változatának fordításán alapul. Az eredeti cikk szerkesztőit annak laptörténete sorolja fel. Ez a jelzés csupán a megfogalmazás eredetét és a szerzői jogokat jelzi, nem szolgál a cikkben szereplő információk forrásmegjelöléseként.
