Pular para o conteúdo principal

Cerebras

Site oficial: https://cerebras.ai/

Cerebras é uma plataforma de computação de ponta para treinamento e inferência de modelos de inteligência artificial em larga escala. Este guia fornece uma visão abrangente do Cerebras, incluindo informações detalhadas sobre conceitos principais, fluxos de trabalho, recursos e a API Cerebras PyTorch.

Principais Recursos​

  • Cerebras Model Zoo com Modelos de Linguagem Grande (LLM) pré-configurados
  • Suporte para modelos de Visão Computacional (CV)
  • Compatibilidade com modelos multimodais como LLaVA
  • Capacidade de usar modelos e conjuntos de dados personalizados do PyTorch

O Cluster Wafer-Scale da Cerebras é meticulosamente projetado para permitir o treinamento de redes neurais com uma escalabilidade linear notavelmente eficiente em milhões de núcleos, sem as complexidades da computação distribuída tradicional.

Como Conectar​

  • Uma vez que você tenha a API Key, vá para a extensão do VSCode
  • Selecione Cerebras como o provedor com o modelo desejado
  • Cole a API Key
  • Clique em "Connect"

Remover Chave

Se você quiser remover sua API Key do CodeGPT, clique na caixa do provedor e "Disconnect".

Modelos Cerebras Disponíveis no Code GPT​

  • Llama3.1-70b
  • Llama3.1-8b

Erros de API​

Se você estiver enfrentando erros de API, consulte a seguinte documentação: Documentação da Cerebras

Nota Importante

Este provedor está disponível apenas na versão 3.5.73 da extensão CodeGPT para VSCode e posteriores. Certifique-se de que a extensão esteja atualizada.