El caso de Lilli de McKinsey proporciona ideas clave para el desarrollo del mercado de IA empresarial: Computación Edge + las oportunidades de mercado de modelos pequeños. Este asistente de IA, que integra 100,000 documentos internos, no solo obtuvo una tasa de adopción del 70% entre los empleados, sino que se utiliza un promedio de 17 veces por semana, lo que es poco común en las herramientas empresariales. A continuación, comparto mis reflexiones:
1）La seguridad de los datos empresariales es un punto crítico: los activos de conocimiento central acumulados por McKinsey durante 100 años y algunos datos específicos acumulados por pequeñas y medianas empresas tienen una sensibilidad de datos muy alta, y no se pueden procesar en la nube pública. Cómo explorar un estado de equilibrio en el que "los datos no salgan del local, y las capacidades de IA no se vean comprometidas" es una necesidad real del mercado. Computación Edge es una dirección de exploración;
2）Los modelos pequeños especializados reemplazarán a los grandes modelos generales: los usuarios empresariales no necesitan un modelo general "con cientos de miles de millones de parámetros y todoterreno", sino un asistente especializado que pueda responder con precisión a problemas en áreas específicas. En comparación, existe una contradicción natural entre la versatilidad de los grandes modelos y la profundidad especializada; en escenarios empresariales, a menudo se valora más los modelos pequeños.
3）Equilibrio de costos de la infraestructura de IA autoconstruida y las llamadas a la API: aunque la combinación de Computación Edge y modelos pequeños requiere una inversión inicial considerable, los costos operativos a largo plazo se reducen significativamente. Imagínese que si 45000 empleados utilizan con frecuencia un gran modelo de IA a través de llamadas a la API, esta dependencia, el aumento en la escala de uso y los comentarios harán que la construcción de una infraestructura de IA propia sea una opción razonable para las empresas medianas y grandes;
Nuevas oportunidades en el mercado de hardware de borde: el entrenamiento de modelos grandes depende de GPU de alta gama, pero los requisitos de hardware para la inferencia en el borde son completamente diferentes. Los fabricantes de chips como Qualcomm y MediaTek están aprovechando la buena oportunidad del mercado con procesadores optimizados para la IA de borde. Cuando cada empresa quiere crear su propio "Lilli", los chips de IA de borde diseñados específicamente para bajo consumo de energía y alta eficiencia se convertirán en una necesidad de infraestructura;
El mercado de IA web3 descentralizado también se fortalece simultáneamente: una vez que la demanda de potencia de cálculo, ajuste fino, algoritmos, etc., en pequeños modelos por parte de las empresas se active, cómo equilibrar la programación de recursos se convertirá en un problema. La programación de recursos centralizada tradicional se convertirá en un desafío, lo que generará una gran demanda de mercado para la red de ajuste fino de pequeños modelos web3 AI descentralizada, plataformas de servicios de potencia de cálculo descentralizada, etc.;
Mientras el mercado todavía discute los límites de la capacidad general de la AGI, es más agradable ver que muchos usuarios empresariales ya están explorando el valor práctico de la IA. Evidentemente, en comparación con los saltos monopolísticos de recursos en poder de cómputo y algoritmos del pasado, cuando el mercado se centra en la Computación Edge + modelos pequeños, esto traerá una mayor vitalidad al mercado.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Un análisis de Lilli de McKinsey: ¿qué ideas de desarrollo ofrece para el mercado de IA empresarial?
El caso de Lilli de McKinsey proporciona ideas clave para el desarrollo del mercado de IA empresarial: Computación Edge + las oportunidades de mercado de modelos pequeños. Este asistente de IA, que integra 100,000 documentos internos, no solo obtuvo una tasa de adopción del 70% entre los empleados, sino que se utiliza un promedio de 17 veces por semana, lo que es poco común en las herramientas empresariales. A continuación, comparto mis reflexiones:
1）La seguridad de los datos empresariales es un punto crítico: los activos de conocimiento central acumulados por McKinsey durante 100 años y algunos datos específicos acumulados por pequeñas y medianas empresas tienen una sensibilidad de datos muy alta, y no se pueden procesar en la nube pública. Cómo explorar un estado de equilibrio en el que "los datos no salgan del local, y las capacidades de IA no se vean comprometidas" es una necesidad real del mercado. Computación Edge es una dirección de exploración;
2）Los modelos pequeños especializados reemplazarán a los grandes modelos generales: los usuarios empresariales no necesitan un modelo general "con cientos de miles de millones de parámetros y todoterreno", sino un asistente especializado que pueda responder con precisión a problemas en áreas específicas. En comparación, existe una contradicción natural entre la versatilidad de los grandes modelos y la profundidad especializada; en escenarios empresariales, a menudo se valora más los modelos pequeños.
3）Equilibrio de costos de la infraestructura de IA autoconstruida y las llamadas a la API: aunque la combinación de Computación Edge y modelos pequeños requiere una inversión inicial considerable, los costos operativos a largo plazo se reducen significativamente. Imagínese que si 45000 empleados utilizan con frecuencia un gran modelo de IA a través de llamadas a la API, esta dependencia, el aumento en la escala de uso y los comentarios harán que la construcción de una infraestructura de IA propia sea una opción razonable para las empresas medianas y grandes;
Nuevas oportunidades en el mercado de hardware de borde: el entrenamiento de modelos grandes depende de GPU de alta gama, pero los requisitos de hardware para la inferencia en el borde son completamente diferentes. Los fabricantes de chips como Qualcomm y MediaTek están aprovechando la buena oportunidad del mercado con procesadores optimizados para la IA de borde. Cuando cada empresa quiere crear su propio "Lilli", los chips de IA de borde diseñados específicamente para bajo consumo de energía y alta eficiencia se convertirán en una necesidad de infraestructura;
El mercado de IA web3 descentralizado también se fortalece simultáneamente: una vez que la demanda de potencia de cálculo, ajuste fino, algoritmos, etc., en pequeños modelos por parte de las empresas se active, cómo equilibrar la programación de recursos se convertirá en un problema. La programación de recursos centralizada tradicional se convertirá en un desafío, lo que generará una gran demanda de mercado para la red de ajuste fino de pequeños modelos web3 AI descentralizada, plataformas de servicios de potencia de cálculo descentralizada, etc.;
Mientras el mercado todavía discute los límites de la capacidad general de la AGI, es más agradable ver que muchos usuarios empresariales ya están explorando el valor práctico de la IA. Evidentemente, en comparación con los saltos monopolísticos de recursos en poder de cómputo y algoritmos del pasado, cuando el mercado se centra en la Computación Edge + modelos pequeños, esto traerá una mayor vitalidad al mercado.