Esta herramienta tecnológica son versiones compactas de los modelos de inteligencia artificial tradicionales LLM (por sus siglas en inglés, large language model o modelo de lenguaje grande). Es un sistema avanzado de IA diseñado para comprender, procesar y generar lenguaje humano de forma natural. Constituyen el motor que hace funcionar a los asistentes de IA, como ChatGPT, Claude o Gemini.
Los SLM (small language model o modelo de lenguaje pequeño) surgieron en los años 2023-2024, cuando se logra que modelos más pequeños y especializados igualaran o superaran a modelos grandes en tareas específicas. Microsoft, Google y Meta demostraron que miles de millones de parámetros no siempre son necesarios.
Según la empresa Hugging Face, los SLM son modelos de lenguaje con rango de 1 a 10 mil millones de parámetros, con alta eficiencia y rendimiento en tareas específicas, capaces de funcionar en hardware de consumo, manteniendo capacidades competitivas para casos de uso definidos.
Los SLM fueron diseñados para ser más eficientes, económicos y rápidos, ya que, por su baja densidad de parámetros, están optimizados para ejecutarse localmente en dispositivos móviles, equipos de escritorio u operar sin conexión a internet.
Entre sus ventajas está su mayor velocidad y menor latencia, lo que hace que la IA requiera menos recursos computacionales, y en consecuencia devuelve respuestas de forma casi inmediata.
Otra bondad de los SLM es su condición de mantener la privacidad y el uso offline, ya que funciona directamente en el dispositivo Edge IA, lo que permite procesar datos confidenciales sin enviarlos a la nube.
Por lo anterior, los SLM generan sensibles ahorros de costos, porque son significativamente más baratos de operar y entrenar, siendo ideales para flujos de trabajo empresariales recurrentes.
Además, los SLM son de alta especialización, y pueden ser ajustados (fine-tuning) para dominar áreas específicas, logrando rendimientos excelentes en tareas concretas.
El mercado ofrece modelos SLM de gran aceptación y bondades de código abierto y uso libre, tales como: familia Phi-3.5/Phi-4, para procesos avanzados en dispositivos pequeños; Llama 3.1 8B, con un notable equilibrio entre tamaño y capacidad; Gemma 2, con modelos ligeros para una amplia variedad de plataformas; el Smol LM3 (Hugging Face), altamente transparente y eficiente en la escala de 3.000 millones de parámetros; y Qwen 2.5, de alto desempeño para tareas multilingües y de programación a pequeña escala.
ultimasnoticias.com.ve
Ver fuente