Raspberry Pi mejora sus soluciones para desarrollo de IA local
La fundación detrás de Raspberry Pi ha anunciado una nueva placa de expansión que mejora el desarrollo de inteligencia artificial nativa en computadoras de placa única.
Raspberry Pi domina el espacio SBC y se utiliza en numerosos proyectos, incluyendo el desarrollo de software. Aquí la inteligencia artificial sigue ganando popularidad y es uno de los sectores más buscados entre los programadores. A ellos va dirigido el lanzamiento de la placa de expansión Raspberry Pi AI HAT+ 2.
Las computadoras de placa única pueden beneficiarse enormemente de las unidades de procesamiento neuronal (NPU) porque permiten analizar datos a través de redes neuronales. Los posibles casos de uso incluyen el reconocimiento de patrones en datos o incluso imágenes. Nueva tarjeta de expansión diseñada para aumentar el rendimiento informático de IA de Raspberry Pi 5, la última versión de estos SBC. Hasta 40 TOPS (INT4).
La placa de expansión utiliza NPU conocida, Hailo-10Htiene su propia memoria incorporada con una capacidad de 8 GB. Por lo tanto, lo ideal sería que ejecutar modelos de IA tuviera poco impacto en el rendimiento del SBC y, hasta donde sabemos, el SBC tiene una cantidad limitada de RAM a pesar del lanzamiento de una nueva versión de 16 GB.
La instalación de la placa de expansión es muy sencilla y sigue el conocido concepto HAT. La placa se monta en la Raspberry Pi 5 mediante tornillos y luego se conecta mediante el conector GPIO y la conexión PCIe. Los modelos más antiguos de Raspberry Pi no tienen una interfaz PCIe, lo que significa que la compatibilidad está limitada a las versiones mencionadas anteriormente (Serie 5). La placa de expansión Raspberry Pi 5 debería ser fácil de usar, como se esperaba del complemento oficial, que es reconocido de forma nativa por el sistema operativo Raspberry Pi y puede usarse para ejecutar aplicaciones de IA.
Desarrollo de IA local a través de SBC
Según Raspberry Pi, los modelos DeepSeek-R10-Distill, Llama3.2, Qwen2.5-Coder, Qwen2.5-Instruct y Qwen2 ya están disponibles. Todos (excepto Llama3.2) son modelos de 1.500 millones de parámetros, afirma la fundación Admitirá modelos más grandes En una futura actualización.
Su capacidad es incomparable a la que manejan los gigantes de la IA, a la que pueden proporcionar los LLM basados en la nube de OpenAI, Meta o Anthropic, y otras máquinas, como el superordenador personal de IA de NVIDIA, que promete procesar «billones» de parámetros. Sin embargo, el modelo anterior funciona bien dentro de las limitaciones del hardware Raspberry y proporciona otra ventaja fundamental: Son muy económicos y permiten que cualquiera pueda iniciar el desarrollo local de IA..
La placa de expansión Raspberry Pi AI HAT+ 2 tiene un precio de $130 y ya está disponible en los revendedores habituales de SBC.
Puedes consultar la fuente de este artículo aquí