Tensorisuoritin

Tensorisuoritin (engl. Tensor Processing Unit, TPU) on Googlen kehittämä apusuoritin, joka on suunnattu koneoppimiseen. Google ilmoitti suorittimesta vuonna 2016. TPU on ASIC-piiri, joka on sovitettu TensorFlow-neuroverkkoohjelmiston suorittamiseen. Toisen sukupolven TPU-piiristä kerrottiin vuonna 2017. Kolmannen sukupolven TPU-piiristä kerrottiin toukokuussa 2018.

Suorittimessa on karsittu laskennallista tarkkuutta, jonka johdosta operaatiot tarvitsevat vähemmän transistoreja. Googlen mukaan TPU-piiri mahdollistaa kertaluokkaa paremman suorituskyvyn per watti kuin standardit ratkaisut. Sovelluskohteeseen erikoistuneella piirillä on Googlen mukaan mahdollista saada suorituskyky, joka vastaa kolmen sukupolven hyppäystä yleiskäyttöisissä suorittimissa.

Ensimmäisen sukupolven TPU-suoritin ei käytä liukulukuoperaatioita lainkaan vaan tekee sen 8-bittisillä kokonaisluvuilla.

Käyttökohteet ja suorituskyky

Suorittimien käytöllä on mahdollista hakea Street View -tietokannan tekstejä nopeasti.

Ensimmäisen sukupolven TPU-suorittimilla saavutettiin tarkoituksenmukaisilla kuormituksilla 15–30 kertaa nopeammin ja 30–80 pienemmällä virrankäytöllä kuin aiemmilla. TPU-suorittimia käytetään muun muassa hakutuloksiin ja AlphaGo- ohjelmistoon.

Aiemmilla ratkaisuilla on tarvittu viikkoja ja tuhansia dollareita kuvantunnistusmallin kouluttamiseen, jonka Google voi nyt tehdä muutamassa tunnissa ja alle 50 dollarilla joissakin tapauksissa.

Vaikutus

Googlen julkaisun jälkeen tekoälyyn ja koneoppimiseen suunnattujen suorittimien kehitys on synnyttänyt useita uusia yrityksiä lyhyessä ajassa sekä useat olemassa olevat yritykset ovat aloittaneet omien ratkaisujensa kehittämisen. Syynä uudelle kehitykselle mainitaan olemassa olevien vakiintuneiden yleiskäyttöisien arkkitehtuurien tarpeeton monimutkaisuus erikoistuneeseen tehtävään. Vakiintuneet suoritinarkkitehtuurit ja myös grafiikkasuorittimet ovat tarpeettoman monimutkaisia kun on tarpeen havaita kaavoja tarkan luvun sijaan: yhden numeron tarkkuus on riittävä. Kehitykseen liittyy läheisesti myös tarve laite-IO:n ja väyläteknologian tehokkuuden parantamiseen.

Vastaavat kilpailevat piirit ovat usein suunnattuja tiettyyn sovelluskohteeseen kuten visuaaliseen tunnistamiseen. Useat yritykset kehittävät vastaavia piirejä vain omaan käyttöönsä ja omaan tarkoitukseensa.

Katso myös

Lähteet

  1. 1 2 3 4 Google supercharges machine learning tasks with TPU custom chip cloud.google.com. 18.5.2016. Viitattu 10.2.2020. (englanniksi)
  2. 1 2 3 4 Joe Osborne: Google's Tensor Processing Unit explained: this is what the future of computing looks like 22.8.2016. TechRadar. Viitattu 11.2.2020. (englanniksi)
  3. 1 2 3 4 Peter Bright: Google brings 45 teraflops tensor flow processors to its compute cloud arstechnica.com. 17.5.2017. Viitattu 11.2.2020. (englanniksi)
  4. 1 2 James Morra: Google Puts Out Third-Generation Tensor Processing Unit electronicdesign.com. 8.5.2018. Viitattu 11.2.2020. (englanniksi)
  5. 1 2 3 4 5 6 Andy Patrizio: The AI revolution has spawned a new chips arms race 9.7.2018. Ars Technica. Viitattu 10.2.2020. (englanniksi)