マッキンゼーのLilliケースは企業AI市場に対して重要な発展のアイデアを提供しました:エッジコンピューティング + 小モデルの潜在的な市場機会。この10万件の内部文書を統合したAIアシスタントは、70%の従業員の採用率を獲得し、平均して毎週17回使用されており、このような製品の粘着性は企業ツールの中では非常に珍しいです。以下、私の考えについて話します:
1)企業データのセキュリティは痛点:マッキンゼーの100年にわたる蓄積されたコア知識資産や、中小企業が蓄積した特定データには非常に強いデータの感受性があり、公共クラウド上で処理することはできません。データがローカルから出ず、AI能力が妥協されないバランス状態を探ることは、実際の市場のニーズです。エッジコンピューティングは探求の方向性です;
2)専門の小型モデルが汎用の大規模モデルに取って代わる:企業ユーザーが必要としているのは「100億パラメータ、オールラウンド」の汎用モデルではなく、特定の分野の問題に正確に答える専門的なアシスタントです。それに対して、大規模モデルの汎用性と専門的な深さの間には自然な矛盾があり、企業のシーンではしばしば小型モデルがより重視されます;
3)自社でのAIインフラ構築とAPI呼び出しのコストバランス:エッジコンピューティングと小型モデルの組み合わせは初期投資が大きいものの、長期的な運用コストは著しく低下します。もし45000人の従業員が高頻度で利用するAI大モデルがAPI呼び出しから来ているとしたら、その依存度、利用規模、そして評価の増加は、自社でのAIインフラ構築を中堅企業にとって理にかなった選択にするでしょう;
4)エッジハードウェア市場の新しい機会:大規模モデルのトレーニングには高性能GPUが必要ですが、エッジ推論のハードウェア要件は完全に異なります。クアルコム、メディアテックなどの半導体メーカーは、エッジAIに最適化されたプロセッサに市場の好機が訪れています。各企業が自社の"Lilli"を作りたいと考える中で、低消費電力、高効率で設計されたエッジAIチップは基盤インフラの必需品となるでしょう;
5)分散型のweb3 AI市場も同時に強化される:企業が小型モデルにおける計算能力、ファインチューニング、アルゴリズムなどの需要を喚起されると、リソースの調整をどのようにバランスさせるかが問題となる。従来の中央集権的なリソース調整は難題となり、これは直接的にweb3AIの分散型小型モデルのファインチューニングネットワーク、分散型計算サービスプラットフォームなどに大きな市場需要をもたらす。
市場がAGIの汎用能力の限界について議論している間、企業のエンドユーザーがすでにAIの実用的な価値を掘り下げているのを喜ばしく思います。明らかに、過去の計算能力やアルゴリズムのリソース独占的な飛躍に比べ、市場がエッジコンピューティング + 小モデルの方式に重心を置くと、より大きな市場の活力をもたらすでしょう。
12k 人気度
14k 人気度
17k 人気度
5k 人気度
21k 人気度
マッキンゼーのLilliを浅く分析する:企業のAI市場にどのような発展の考え方を提供したのか?
マッキンゼーのLilliケースは企業AI市場に対して重要な発展のアイデアを提供しました:エッジコンピューティング + 小モデルの潜在的な市場機会。この10万件の内部文書を統合したAIアシスタントは、70%の従業員の採用率を獲得し、平均して毎週17回使用されており、このような製品の粘着性は企業ツールの中では非常に珍しいです。以下、私の考えについて話します:
1)企業データのセキュリティは痛点:マッキンゼーの100年にわたる蓄積されたコア知識資産や、中小企業が蓄積した特定データには非常に強いデータの感受性があり、公共クラウド上で処理することはできません。データがローカルから出ず、AI能力が妥協されないバランス状態を探ることは、実際の市場のニーズです。エッジコンピューティングは探求の方向性です;
2)専門の小型モデルが汎用の大規模モデルに取って代わる:企業ユーザーが必要としているのは「100億パラメータ、オールラウンド」の汎用モデルではなく、特定の分野の問題に正確に答える専門的なアシスタントです。それに対して、大規模モデルの汎用性と専門的な深さの間には自然な矛盾があり、企業のシーンではしばしば小型モデルがより重視されます;
3)自社でのAIインフラ構築とAPI呼び出しのコストバランス:エッジコンピューティングと小型モデルの組み合わせは初期投資が大きいものの、長期的な運用コストは著しく低下します。もし45000人の従業員が高頻度で利用するAI大モデルがAPI呼び出しから来ているとしたら、その依存度、利用規模、そして評価の増加は、自社でのAIインフラ構築を中堅企業にとって理にかなった選択にするでしょう;
4)エッジハードウェア市場の新しい機会:大規模モデルのトレーニングには高性能GPUが必要ですが、エッジ推論のハードウェア要件は完全に異なります。クアルコム、メディアテックなどの半導体メーカーは、エッジAIに最適化されたプロセッサに市場の好機が訪れています。各企業が自社の"Lilli"を作りたいと考える中で、低消費電力、高効率で設計されたエッジAIチップは基盤インフラの必需品となるでしょう;
5)分散型のweb3 AI市場も同時に強化される:企業が小型モデルにおける計算能力、ファインチューニング、アルゴリズムなどの需要を喚起されると、リソースの調整をどのようにバランスさせるかが問題となる。従来の中央集権的なリソース調整は難題となり、これは直接的にweb3AIの分散型小型モデルのファインチューニングネットワーク、分散型計算サービスプラットフォームなどに大きな市場需要をもたらす。
市場がAGIの汎用能力の限界について議論している間、企業のエンドユーザーがすでにAIの実用的な価値を掘り下げているのを喜ばしく思います。明らかに、過去の計算能力やアルゴリズムのリソース独占的な飛躍に比べ、市場がエッジコンピューティング + 小モデルの方式に重心を置くと、より大きな市場の活力をもたらすでしょう。