Saltar al contenido principal

Cerebras

Sitio web oficial: https://cerebras.ai/

Cerebras es una plataforma de computación de vanguardia para el entrenamiento e inferencia de modelos de inteligencia artificial a gran escala. Esta guía proporciona una visión general completa de Cerebras, incluyendo información detallada sobre conceptos clave, flujos de trabajo, características y la API de Cerebras PyTorch.

Características Clave​

  • Cerebras Model Zoo con Modelos de Lenguaje Grande (LLM) preconfigurados
  • Soporte para modelos de Visión por Computadora (CV)
  • Compatibilidad con modelos multimodales como LLaVA
  • Capacidad para usar modelos y conjuntos de datos personalizados de PyTorch

El Clúster de Wafer-Scale de Cerebras está meticulosamente diseñado para permitir el entrenamiento de redes neuronales con una escalabilidad lineal notablemente eficiente a través de millones de núcleos, sin las complejidades de la computación distribuida tradicional.

Cómo Conectar​

  • Una vez que tengas la Clave API, ve a la extensión de VSCode
  • Selecciona Cerebras como el proveedor con el modelo deseado
  • Pega la Clave API
  • Haz clic en "Conectar"

Eliminar Clave

Si deseas eliminar tu Clave API de CodeGPT, haz clic en el cuadro del proveedor y "Desconectar".

Modelos de Cerebras Disponibles en Code GPT​

  • Llama3.1-70b
  • Llama3.1-8b

Errores de API​

Si estás experimentando errores de API, consulta la siguiente documentación: Documentación de Cerebras

Nota Importante

Este proveedor solo está disponible en la versión 3.5.73 de la extensión CodeGPT para VSCode y posteriores. Asegúrate de tener la extensión actualizada.