Le cas Lilli de McKinsey offre des idées de développement clés pour le marché de l'IA d'entreprise : Informatique de pointe + les opportunités de marché potentielles des petits modèles. Cet assistant IA, qui intègre 100 000 documents internes, a non seulement obtenu un taux d'adoption de 70 % parmi les employés, mais est également utilisé en moyenne 17 fois par semaine, une telle fidélité de produit étant rare dans les outils d'entreprise. Voici mes réflexions :
La sécurité des données d'entreprise est un point sensible : les actifs de connaissances fondamentaux accumulés par McKinsey au cours de 100 ans ainsi que certaines données spécifiques accumulées par des PME ont une sensibilité des données très forte, et ne doivent pas être traitées sur le cloud public. Comment explorer un état d'équilibre où "les données ne sortent pas du local, et les capacités d'IA ne sont pas compromises" est une demande réelle du marché. L'informatique de pointe est une direction d'exploration ;
Les modèles petits et spécialisés remplaceront les grands modèles généraux : les utilisateurs professionnels n'ont pas besoin de modèles généraux "à cent milliards de paramètres et polyvalents", mais d'assistants spécialisés capables de répondre précisément aux questions d'un domaine particulier. En revanche, il existe une contradiction naturelle entre la polyvalence des grands modèles et la profondeur spécialisée, ce qui fait que, dans les scénarios d'entreprise, les petits modèles sont souvent plus appréciés ;
Équilibrer les coûts de la construction d'une infrastructure AI et des appels API : bien que la combinaison de l'informatique de pointe et des petits modèles nécessite un investissement initial important, les coûts d'exploitation à long terme sont considérablement réduits. Imaginez que si 45000 employés utilisent fréquemment un grand modèle AI provenant d'appels API, cette dépendance, l'augmentation de l'échelle d'utilisation et des commentaires fera de la construction d'une infrastructure AI un choix rationnel pour les entreprises de taille moyenne et grande ;
Nouvelles opportunités sur le marché du matériel de pointe : l'entraînement de grands modèles repose sur des GPU haut de gamme, mais les exigences matérielles pour l'inférence en périphérie sont complètement différentes. Les fabricants de puces comme Qualcomm et MediaTek, qui optimisent les processeurs pour l'IA en périphérie, connaissent une belle opportunité sur le marché. Lorsque chaque entreprise souhaite créer son propre "Lilli", les puces d'IA en périphérie conçues pour une faible consommation d'énergie et une haute efficacité deviendront des éléments indispensables de l'infrastructure ;
Le marché AI web3 décentralisé s'améliore également : une fois que les besoins en puissance de calcul, en ajustement fin, en algorithmes, etc., des entreprises sur de petits modèles sont stimulés, la façon de gérer l'allocation des ressources deviendra un problème. La gestion des ressources centralisée traditionnelle posera des difficultés, ce qui entraînera une demande de marché importante pour le réseau d'ajustement fin des petits modèles AI web3 décentralisés, la plateforme de services de puissance de calcul décentralisée, etc.
Alors que le marché discute encore des limites des capacités générales de l'AGI, il est plus agréable de voir de nombreux utilisateurs d'entreprises exploiter déjà la valeur pratique de l'IA. Il est évident qu'en comparaison avec le saut monopolistique des ressources basé sur la puissance de calcul et les algorithmes du passé, lorsque le marché se concentre sur l'informatique de pointe + les petits modèles, cela apportera une plus grande vitalité au marché.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Analyse de Lilli de McKinsey : quelles perspectives de développement offre-t-elle au marché de l'IA pour les entreprises ?
Le cas Lilli de McKinsey offre des idées de développement clés pour le marché de l'IA d'entreprise : Informatique de pointe + les opportunités de marché potentielles des petits modèles. Cet assistant IA, qui intègre 100 000 documents internes, a non seulement obtenu un taux d'adoption de 70 % parmi les employés, mais est également utilisé en moyenne 17 fois par semaine, une telle fidélité de produit étant rare dans les outils d'entreprise. Voici mes réflexions :
La sécurité des données d'entreprise est un point sensible : les actifs de connaissances fondamentaux accumulés par McKinsey au cours de 100 ans ainsi que certaines données spécifiques accumulées par des PME ont une sensibilité des données très forte, et ne doivent pas être traitées sur le cloud public. Comment explorer un état d'équilibre où "les données ne sortent pas du local, et les capacités d'IA ne sont pas compromises" est une demande réelle du marché. L'informatique de pointe est une direction d'exploration ;
Les modèles petits et spécialisés remplaceront les grands modèles généraux : les utilisateurs professionnels n'ont pas besoin de modèles généraux "à cent milliards de paramètres et polyvalents", mais d'assistants spécialisés capables de répondre précisément aux questions d'un domaine particulier. En revanche, il existe une contradiction naturelle entre la polyvalence des grands modèles et la profondeur spécialisée, ce qui fait que, dans les scénarios d'entreprise, les petits modèles sont souvent plus appréciés ;
Équilibrer les coûts de la construction d'une infrastructure AI et des appels API : bien que la combinaison de l'informatique de pointe et des petits modèles nécessite un investissement initial important, les coûts d'exploitation à long terme sont considérablement réduits. Imaginez que si 45000 employés utilisent fréquemment un grand modèle AI provenant d'appels API, cette dépendance, l'augmentation de l'échelle d'utilisation et des commentaires fera de la construction d'une infrastructure AI un choix rationnel pour les entreprises de taille moyenne et grande ;
Nouvelles opportunités sur le marché du matériel de pointe : l'entraînement de grands modèles repose sur des GPU haut de gamme, mais les exigences matérielles pour l'inférence en périphérie sont complètement différentes. Les fabricants de puces comme Qualcomm et MediaTek, qui optimisent les processeurs pour l'IA en périphérie, connaissent une belle opportunité sur le marché. Lorsque chaque entreprise souhaite créer son propre "Lilli", les puces d'IA en périphérie conçues pour une faible consommation d'énergie et une haute efficacité deviendront des éléments indispensables de l'infrastructure ;
Le marché AI web3 décentralisé s'améliore également : une fois que les besoins en puissance de calcul, en ajustement fin, en algorithmes, etc., des entreprises sur de petits modèles sont stimulés, la façon de gérer l'allocation des ressources deviendra un problème. La gestion des ressources centralisée traditionnelle posera des difficultés, ce qui entraînera une demande de marché importante pour le réseau d'ajustement fin des petits modèles AI web3 décentralisés, la plateforme de services de puissance de calcul décentralisée, etc.
Alors que le marché discute encore des limites des capacités générales de l'AGI, il est plus agréable de voir de nombreux utilisateurs d'entreprises exploiter déjà la valeur pratique de l'IA. Il est évident qu'en comparaison avec le saut monopolistique des ressources basé sur la puissance de calcul et les algorithmes du passé, lorsque le marché se concentre sur l'informatique de pointe + les petits modèles, cela apportera une plus grande vitalité au marché.