Deepseek R1 se ha convertido en el foco de los datos robados a OpenAi, pero esto no impide que Microsoft diga la configuración del corte y la versión adaptativa para que pueda poder poder Copy+ PC no tiene ningún problema con la función Equipado con NPU, su potencia es al menos 40 tops.

Configuración de la versión Deepseek R1 1,5 mil millones de parámetrosTeniendo en cuenta su demanda en los niveles de hardware, este número no es malo y puede funcionar completamente en casa. En la actualidad, esta versión se aplicará por primera vez a un equipo de SOCS basado en Snapdragon X Qualcomm.

NPU es la clave, porque puede proporcionarla Muy buena relación de consumo de energíaEsencia Esta eficiencia y la implementación de su implementación están en el nivel de costo y espacio interno, pero también la razón por la cual Microsoft decide convertirlo en el centro de su copiloto+ecosistema.

Para crear una versión R1 de DeepSeek, Microsoft explicó que ha dividido el modelo original en varias partes para lograr los mejores resultados en términos de rendimiento y eficiencia. El también eligió Tasa de baja nivel Y asigne el traductor a la NPU. Para escalarlo, usaron Windows Sideline (WCR) y usaron formatos ONX QDQ.

Este modelo de 1,5 mil millones de parámetros consiste en el modelo de iteración del token, la capa integrada, el modelo de procesamiento de contexto, el token del token, el cabezal del modelo de lenguaje y el desanimado. bloquear Cantidad fija de 4 bits Para la integración y la persona a cargo de los modelos de idiomas, el acceso importante a la memoria en la CPU.

La mayoría de las optimizaciones de NPU se concentran en conversos con procesadores de contexto y iteraciones de tokens. Se usa Int4 de acuerdo con el canal cuantitativo y la precisión híbrida selectiva Junto con int16. La operación entre CPU y NPU también se ha optimizado para lograr la mejor relación entre el rendimiento y el consumo.

Microsoft ha confirmado Ha sido optimizado para el consumo de memoria En este modelo, y se alcanzarán las versiones posteriores de 700 millones y 150 millones de parámetros. Puede descargar y ejecutar el modelo de parámetros de 1.5 mil millones para modelos de parámetros optimizados CO -PILOT+en cualquier PC compatible. Puede obtenerlo a través de este enlace.