Microsoft lanza un kit de herramientas de extensión de IA para Visual Studio Code

Como parte de Microsoft Build 2024, la compañía lanzó el AI Toolkit para Visual Studio Code. Esto permite a los desarrolladores integrar modelos de IA generativa del nuevo Azure AI Studio y Hugging Face en sus aplicaciones. AI Toolkit es un desarrollo posterior de Windows AI Studio, una extensión de VS Code lanzada en noviembre de 2023.

anuncio

Utilice modelos de IA de forma nativa en VS Code

El kit de herramientas de IA incluye un catálogo de modelos de IA existentes seleccionados de Azure AI Studio. Según Microsoft, se ha optimizado para ejecutarse localmente, lo que facilita el uso de las plantillas dentro del entorno de desarrollo. Actualmente, el catálogo contiene modelos especialmente adecuados para los sistemas operativos Windows y Linux en CPU y GPU. Le seguirán modelos optimizados para macOS.

en Estudio de inteligencia artificial de AzureDe donde surgen los modelos de IA, una nueva plataforma para desarrollar y desplegar aplicaciones de IA generativa, que también fue presentada en la conferencia Build. Su propósito es cubrir todo su ciclo de vida y formar un componente clave de la plataforma Microsoft Copilot.

Los modelos de IA se pueden ajustar utilizando técnicas más nuevas, incluido el ajuste efectivo de parámetros (PEFT), la adaptación cuantitativa de orden bajo (QLORA) y Flash Attention 2. Su objetivo es permitir la optimización del rendimiento para cada uno. Caso de uso. Dependiendo del modelo elegido, es posible que se requieran GPU Nvidia, por ejemplo. Como función de vista previa, los modelos se pueden ajustar y publicar en la nube.

La extensión también proporciona un campo de juego para experimentar con modelos de lenguaje más pequeños, localmente o en la nube:

Puede encontrar más información sobre AI Toolkit para Visual Studio Code aquí Blog de la comunidad de desarrolladores de Microsoft, Mercado de estudio visual Y repositorio de github De extensión.

(tal vez)