PaLM

PaLM
DesenvolvedorGoogle AI
Disponível emInglês
TipoModelo de linguagem grande
Websiteai.google/discover/palm2/ Edit this on Wikidata

PaLM (Pathways Language Model) é um modelo de linguagem grande desenvolvido pela Google. Ele tem 540 bilhões de parâmetros e usa o sistema Pathways para treinar um único modelo em vários Pods TPU v4. PaLM é um modelo Transformer somente de decodificador que pode gerar texto em vários domínios e tarefas.

PaLM não tem nenhuma ligação com o Palm, um aparelho celular compacto e simples que serve como um telefone auxiliar ou um dispositivo para uso familiar.

Referências

  1. 1 2 Narang, Sharan; Chowdhery, Aakanksha. «Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance». ai.googleblog.com (em inglês). Consultado em 17 de março de 2023
  2. ↑ Chowdhery, Aakanksha; Narang, Sharan; Devlin, Jacob; et al. (2022). «PaLM: Scaling Language Modeling with Pathways». arXiv:2204.02311Acessível livremente [cs.CL]
  3. ↑ Driess, Danny; Xia, Fei; Sajjadi, Mehdi S. M.; et al. (2023). «PaLM-E: An Embodied Multimodal Language Model». arXiv:2303.03378Acessível livremente [cs.LG]
  4. ↑ Driess, Danny; Florence, Pete. «PaLM-E: An embodied multimodal language model». ai.googleblog.com (em inglês). Consultado em 17 de março de 2023