Uso de las claves de API del proveedor LLM con Copilot

Obtenga información sobre cómo integrar sus modelos personalizados preferidos con GitHub Copilot mediante sus propias claves de API de LLM y ponerlas a disposición de los miembros de la organización.

En este artículo

Nota:

La capacidad de usar sus propias claves de API en GitHub Copilot está en versión preliminar pública y sujeta a cambios.

Puede traer sus propias claves de API a GitHub Copilot y permitir que los equipos usen los proveedores de modelos de lenguaje grande (LLM) preferidos con Chat de Copiloto, CLI de Copilot y VS Code.

Se admiten las claves de API de los siguientes proveedores:

  • Anthropic
  • AWS Bedrock
  • Google AI Studio
  • Microsoft Foundry
  • OpenAI
  • Proveedores compatibles con OpenAI
  • xAI

También se admiten modelos optimizados, pero la funcionalidad y la calidad de los resultados pueden variar en función de la configuración de ajuste. Debe probar el modelo y revisar cuidadosamente sus salidas antes de usarlas en producción.

Nota:

En este artículo se tratan los modelos personalizados configurados por los propietarios de la organización. Los usuarios de CLI de Copilot y VS Code también pueden configurar localmente su propio proveedor de LLM, sin necesidad de ninguna configuración por parte de un administrador. Consulte Uso de sus propios modelos LLM en la herramienta GitHub Copilot CLI y Añadir un modelo desde un proveedor integrado en la documentación VS Code.

¿Por qué traer tus propias claves de API?

Como propietario de la organización, puedes tener requisitos específicos para la gobernanza, la seguridad de los datos y el cumplimiento. La configuración de sus propias claves de API le permite abordar:

  • Gobernanza y cumplimiento: elige proveedores de LLM que cumplan las directivas y los requisitos normativos de tu organización.
  • Administración de costos: adáptate a los métodos de pago, los contratos, los créditos o las tarifas negociadas existentes y evita el uso por encima del límite.
  • Visibilidad y control: administra los modelos a los que el equipo puede acceder y supervisa el uso mediante los paneles y facturación existentes del proveedor.
  • Flexibilidad: admite modelos personalizados o especializados que tu organización ya usa.

Adición de la clave a una cuenta de organización

Importante

Se recomienda encarecidamente cumplir el principio de privilegios mínimos asignando solo los ámbitos mínimos necesarios a las claves de API.

Después de agregar la clave y seleccionar uno o varios modelos, usted y los miembros de la organización podrán usarlos con Chat de Copiloto, CLI de Copilot y VS Code. Los modelos aparecerán en la parte inferior del selector de modelos, debajo del nombre de la organización.

  1. En la esquina superior derecha de GitHub, haz clic en la foto del perfil y luego en Your organizations.

  2. Seleccione una organización haciendo clic en ella.

  3. Debajo del nombre de la organización, haz clic en Settings. Si no puedes ver la pestaña "Configuración", selecciona el menú desplegable y, a continuación, haz clic en Configuración.

    Captura de pantalla de las pestañas en el perfil de una organización. La pestaña "Configuración" se destaca en naranja oscuro.

  4. En la barra lateral, en "Código, planeación y automatización", haga clic en Copilot.

  5. En "Copilot", haga clic en Modelos.

  6. Haga clic en la pestaña Modelos personalizados .

  7. Encima de la lista de claves de API, haga clic en Agregar clave de API.

  8. En "Proveedor", seleccione el proveedor de LLM que desea usar.

  9. En "Nombre", escriba un nombre para esta clave. Esto se mostrará en el selector de modelos.

  10. En "Clave de API", escriba o pegue la clave.

  11. Dependiendo del proveedor que use, seleccione o agregue modelos.

    • Si usa OpenAI, Anthropic o xAI, haga clic en en el campo de texto clave de API para capturar los modelos asociados a la clave. A continuación, en "Modelos disponibles", seleccione los modelos que desea usar.

      Captura de pantalla del formulario "Agregar clave de API". El botón "Obtener nuevos modelos" está resaltado con un contorno de color naranja.

    • Si usa Microsoft Foundry, escriba la dirección URL de implementación en el campo en "Dirección URL de implementación". A continuación, en el campo de "Modelos disponibles", escriba un id. de modelo y haga clic en para agregarlo.

      Si los modelos tienen direcciones URL de implementación diferentes, no se pueden agregar a la misma clave de API. Cree una clave de API independiente para cada dirección URL de implementación.

      Captura de pantalla del formulario "Agregar clave de API". El campo de texto del modelo y el botón "Agregar modelo" se resaltan con un contorno naranja.

  12. Después de seleccionar o agregar los modelos que desea que estén disponibles, haga clic en Guardar.

Lectura adicional