Trường hợp Lilli của McKinsey đã cung cấp những ý tưởng phát triển quan trọng cho thị trường AI doanh nghiệp: Điện toán biên + cơ hội thị trường tiềm năng từ mô hình nhỏ. Trợ lý AI tích hợp 100.000 tài liệu nội bộ này không chỉ đạt tỷ lệ áp dụng 70% từ nhân viên mà còn được sử dụng trung bình 17 lần mỗi tuần, mức độ gắn bó của sản phẩm này trong các công cụ doanh nghiệp là rất hiếm. Dưới đây, tôi sẽ chia sẻ những suy nghĩ của mình:
1）An ninh dữ liệu doanh nghiệp là điểm đau: Tài sản tri thức cốt lõi tích lũy 100 năm của McKinsey và một số dữ liệu cụ thể tích lũy của các doanh nghiệp vừa và nhỏ có tính nhạy cảm dữ liệu rất cao, đều không thể xử lý trên đám mây công cộng. Cách khám phá một trạng thái cân bằng "dữ liệu không ra khỏi địa phương, khả năng AI không bị giảm" là nhu cầu thực sự của thị trường. Điện toán biên là một hướng khám phá;
2）Mô hình nhỏ chuyên nghiệp sẽ thay thế mô hình lớn tổng quát: Người dùng doanh nghiệp không cần mô hình tổng quát "với hàng trăm triệu tham số và đa năng", mà là một trợ lý chuyên môn có thể trả lời chính xác các vấn đề trong lĩnh vực cụ thể. So với đó, sự tổng quát của mô hình lớn và độ sâu chuyên môn tồn tại mâu thuẫn tự nhiên, trong bối cảnh doanh nghiệp, thường xem trọng mô hình nhỏ hơn.
3）Cân bằng chi phí xây dựng hạ tầng AI tự xây dựng và gọi API: Mặc dù sự kết hợp giữa điện toán biên và mô hình nhỏ có đầu tư ban đầu lớn, nhưng chi phí vận hành lâu dài lại giảm đáng kể. Hãy tưởng tượng nếu 45000 nhân viên thường xuyên sử dụng mô hình AI lớn từ việc gọi API, sự phụ thuộc này, quy mô sử dụng và sự gia tăng bình luận sẽ khiến việc xây dựng hạ tầng AI tự xây dựng trở thành sự lựa chọn hợp lý cho các doanh nghiệp vừa và lớn;
4）Cơ hội mới trên thị trường phần cứng biên: Đào tạo mô hình lớn không thể thiếu GPU cao cấp, nhưng yêu cầu phần cứng cho suy luận biên thì hoàn toàn khác. Các nhà sản xuất chip như Qualcomm, MediaTek đang chào đón cơ hội thị trường với các bộ xử lý tối ưu cho AI biên. Khi mỗi doanh nghiệp đều muốn tạo ra "Lilli" của riêng mình, các chip AI biên được thiết kế dành riêng cho hiệu suất cao và tiêu thụ năng lượng thấp sẽ trở thành điều cần thiết cho cơ sở hạ tầng;
Thị trường AI web3 phi tập trung cũng đang gia tăng: một khi nhu cầu về sức mạnh tính toán, tinh chỉnh và thuật toán trên các mô hình nhỏ được thúc đẩy, làm thế nào để cân bằng lập lịch trình tài nguyên sẽ trở thành một vấn đề và lập lịch trình tài nguyên tập trung truyền thống sẽ trở thành một vấn đề, điều này sẽ trực tiếp mang lại nhu cầu thị trường lớn cho mạng tinh chỉnh mô hình nhỏ phi tập trung web3AI, nền tảng dịch vụ điện toán phi tập trung, v.v.;
Khi thị trường vẫn đang thảo luận về giới hạn khả năng chung của AGI, thật vui mừng khi thấy nhiều người dùng doanh nghiệp đã bắt đầu khai thác giá trị thực tiễn của AI. Rõ ràng, so với những bước nhảy vọt độc quyền về tài nguyên dựa trên sức mạnh tính toán và thuật toán trong quá khứ, khi thị trường chuyển trọng tâm sang Điện toán biên + mô hình nhỏ, nó sẽ mang lại sức sống thị trường lớn hơn.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Phân tích ngắn gọn về Lilli của McKinsey: Đã cung cấp những ý tưởng phát triển nào cho thị trường AI doanh nghiệp?
Trường hợp Lilli của McKinsey đã cung cấp những ý tưởng phát triển quan trọng cho thị trường AI doanh nghiệp: Điện toán biên + cơ hội thị trường tiềm năng từ mô hình nhỏ. Trợ lý AI tích hợp 100.000 tài liệu nội bộ này không chỉ đạt tỷ lệ áp dụng 70% từ nhân viên mà còn được sử dụng trung bình 17 lần mỗi tuần, mức độ gắn bó của sản phẩm này trong các công cụ doanh nghiệp là rất hiếm. Dưới đây, tôi sẽ chia sẻ những suy nghĩ của mình:
1）An ninh dữ liệu doanh nghiệp là điểm đau: Tài sản tri thức cốt lõi tích lũy 100 năm của McKinsey và một số dữ liệu cụ thể tích lũy của các doanh nghiệp vừa và nhỏ có tính nhạy cảm dữ liệu rất cao, đều không thể xử lý trên đám mây công cộng. Cách khám phá một trạng thái cân bằng "dữ liệu không ra khỏi địa phương, khả năng AI không bị giảm" là nhu cầu thực sự của thị trường. Điện toán biên là một hướng khám phá;
2）Mô hình nhỏ chuyên nghiệp sẽ thay thế mô hình lớn tổng quát: Người dùng doanh nghiệp không cần mô hình tổng quát "với hàng trăm triệu tham số và đa năng", mà là một trợ lý chuyên môn có thể trả lời chính xác các vấn đề trong lĩnh vực cụ thể. So với đó, sự tổng quát của mô hình lớn và độ sâu chuyên môn tồn tại mâu thuẫn tự nhiên, trong bối cảnh doanh nghiệp, thường xem trọng mô hình nhỏ hơn.
3）Cân bằng chi phí xây dựng hạ tầng AI tự xây dựng và gọi API: Mặc dù sự kết hợp giữa điện toán biên và mô hình nhỏ có đầu tư ban đầu lớn, nhưng chi phí vận hành lâu dài lại giảm đáng kể. Hãy tưởng tượng nếu 45000 nhân viên thường xuyên sử dụng mô hình AI lớn từ việc gọi API, sự phụ thuộc này, quy mô sử dụng và sự gia tăng bình luận sẽ khiến việc xây dựng hạ tầng AI tự xây dựng trở thành sự lựa chọn hợp lý cho các doanh nghiệp vừa và lớn;
4）Cơ hội mới trên thị trường phần cứng biên: Đào tạo mô hình lớn không thể thiếu GPU cao cấp, nhưng yêu cầu phần cứng cho suy luận biên thì hoàn toàn khác. Các nhà sản xuất chip như Qualcomm, MediaTek đang chào đón cơ hội thị trường với các bộ xử lý tối ưu cho AI biên. Khi mỗi doanh nghiệp đều muốn tạo ra "Lilli" của riêng mình, các chip AI biên được thiết kế dành riêng cho hiệu suất cao và tiêu thụ năng lượng thấp sẽ trở thành điều cần thiết cho cơ sở hạ tầng;
Khi thị trường vẫn đang thảo luận về giới hạn khả năng chung của AGI, thật vui mừng khi thấy nhiều người dùng doanh nghiệp đã bắt đầu khai thác giá trị thực tiễn của AI. Rõ ràng, so với những bước nhảy vọt độc quyền về tài nguyên dựa trên sức mạnh tính toán và thuật toán trong quá khứ, khi thị trường chuyển trọng tâm sang Điện toán biên + mô hình nhỏ, nó sẽ mang lại sức sống thị trường lớn hơn.