Nghiên cứu sâu về OpenLedger: Xây dựng nền kinh tế thông minh có thể kết hợp mô hình và dựa trên dữ liệu
Một, Giới thiệu | Sự chuyển mình của tầng mô hình Crypto AI
Dữ liệu, mô hình và sức mạnh tính toán là ba yếu tố cốt lõi của cơ sở hạ tầng AI, không thể thiếu một yếu tố nào. Tương tự như lộ trình tiến hóa cơ sở hạ tầng của ngành AI truyền thống, lĩnh vực Crypto AI cũng đã trải qua các giai đoạn tương tự. Đầu năm 2024, thị trường đã một thời bị các dự án GPU phi tập trung chi phối, nhấn mạnh logic tăng trưởng thô sơ "đấu sức mạnh tính toán". Tuy nhiên, vào năm 2025, trọng tâm của ngành đã dần chuyển lên tầng mô hình và dữ liệu, đánh dấu sự chuyển đổi của Crypto AI từ cạnh tranh tài nguyên cơ bản sang xây dựng trung tầng có giá trị ứng dụng và bền vững hơn.
Mô hình tổng quát (LLM) vs Mô hình chuyên biệt (SLM)
Mô hình ngôn ngữ lớn truyền thống (LLM) phụ thuộc rất nhiều vào các tập dữ liệu quy mô lớn và kiến trúc phân tán phức tạp, quy mô tham số thường từ 70B đến 500B, chi phí cho một lần đào tạo thường lên tới hàng triệu đô la. Trong khi đó, SLM (Mô hình Ngôn ngữ Chuyên biệt) như một phương thức tinh chỉnh nhẹ có thể tái sử dụng các mô hình cơ sở, thường dựa trên các mô hình mã nguồn mở, kết hợp một lượng nhỏ dữ liệu chuyên môn chất lượng cao và các công nghệ như LoRA, nhanh chóng xây dựng các mô hình chuyên gia có kiến thức trong lĩnh vực cụ thể, giảm đáng kể chi phí đào tạo và rào cản kỹ thuật.
Đáng chú ý là SLM sẽ không được tích hợp vào trọng số LLM, mà sẽ phối hợp hoạt động với LLM thông qua kiến trúc Agent, hệ thống plugin định tuyến động, hot-plug module LoRA, RAG (tăng cường sinh tạo thông qua truy vấn) và các cách khác. Kiến trúc này vừa giữ lại khả năng bao quát rộng lớn của LLM, vừa tăng cường hiệu suất chuyên môn thông qua các module tinh chỉnh, hình thành một hệ thống thông minh kết hợp có tính linh hoạt cao.
Giá trị và ranh giới của Crypto AI ở cấp độ mô hình
Dự án Crypto AI về bản chất khó có thể nâng cao trực tiếp khả năng cốt lõi của mô hình ngôn ngữ lớn (LLM), lý do cốt lõi là
Rào cản kỹ thuật quá cao: Quy mô dữ liệu, tài nguyên tính toán và năng lực kỹ thuật cần thiết để đào tạo Mô hình Nền tảng là rất lớn, hiện tại chỉ có một số ít gã khổng lồ công nghệ có khả năng tương ứng.
Hạn chế của hệ sinh thái mã nguồn mở: Mặc dù các mô hình cơ bản chính đã được mã nguồn mở, nhưng yếu tố then chốt thực sự thúc đẩy sự đột phá của mô hình vẫn tập trung vào các tổ chức nghiên cứu và hệ thống kỹ thuật đóng, không gian tham gia của các dự án trên chuỗi ở cấp độ mô hình cốt lõi là hạn chế.
Tuy nhiên, trên nền tảng mô hình cơ sở mã nguồn mở, dự án Crypto AI vẫn có thể mở rộng giá trị thông qua việc tinh chỉnh mô hình ngôn ngữ chuyên biệt (SLM), kết hợp với tính xác minh và cơ chế khuyến khích của Web3. Là "tầng giao diện phụ" của chuỗi công nghiệp AI, điều này thể hiện ở hai hướng cốt lõi:
Tầng xác thực đáng tin cậy: Thông qua việc ghi lại trên chuỗi đường dẫn tạo ra mô hình, đóng góp dữ liệu và tình trạng sử dụng, tăng cường khả năng truy xuất nguồn gốc và chống giả mạo cho đầu ra của AI.
Cơ chế khuyến khích: Sử dụng Token gốc để khuyến khích việc tải lên dữ liệu, gọi mô hình, thực hiện các hành động của tác nhân (Agent), xây dựng vòng lặp tích cực cho việc đào tạo mô hình và dịch vụ.
Phân loại loại mô hình AI và phân tích tính khả thi của blockchain
Do đó, có thể thấy rằng các điểm khả thi của dự án Crypto AI loại mô hình chủ yếu tập trung vào tinh chỉnh nhẹ của SLM nhỏ, việc kết nối và xác minh dữ liệu chuỗi của kiến trúc RAG, cũng như triển khai cục bộ và khuyến khích mô hình Edge. Kết hợp tính xác minh của blockchain và cơ chế token, Crypto có thể cung cấp giá trị đặc biệt cho các kịch bản mô hình tài nguyên trung bình và thấp, tạo ra giá trị khác biệt cho "tầng giao diện" của AI.
Chuỗi AI dựa trên dữ liệu và mô hình blockchain có thể ghi lại nguồn gốc đóng góp của từng dữ liệu và mô hình một cách rõ ràng và không thể thay đổi, nâng cao đáng kể độ tin cậy của dữ liệu và khả năng truy xuất nguồn gốc của việc đào tạo mô hình. Đồng thời, thông qua cơ chế hợp đồng thông minh, khi dữ liệu hoặc mô hình được gọi, sẽ tự động kích hoạt phân phát phần thưởng, biến hành vi AI thành giá trị token hóa có thể đo lường và giao dịch, xây dựng một hệ thống khuyến khích bền vững. Ngoài ra, người dùng trong cộng đồng cũng có thể đánh giá hiệu suất mô hình thông qua việc bỏ phiếu bằng token, tham gia vào việc thiết lập và điều chỉnh quy tắc, hoàn thiện cấu trúc quản trị phi tập trung.
Hai, Tóm tắt dự án | Tầm nhìn AI Chain của OpenLedger
OpenLedger là một trong số ít các dự án AI blockchain hiện nay tập trung vào cơ chế khuyến khích dữ liệu và mô hình. Nó tiên phong đưa ra khái niệm "Payable AI", nhằm xây dựng một môi trường hoạt động AI công bằng, minh bạch và có thể kết hợp, khuyến khích những người đóng góp dữ liệu, nhà phát triển mô hình và những người xây dựng ứng dụng AI hợp tác trên cùng một nền tảng, và nhận được lợi nhuận trên chuỗi dựa trên sự đóng góp thực tế.
OpenLedger cung cấp chuỗi khép kín từ "cung cấp dữ liệu" đến "triển khai mô hình" và "gọi chia sẻ lợi nhuận", các mô-đun cốt lõi của nó bao gồm:
Nhà máy mô hình: Không cần lập trình, có thể sử dụng LoRA để tinh chỉnh và triển khai mô hình tùy chỉnh dựa trên LLM mã nguồn mở;
OpenLoRA：Hỗ trợ hàng ngàn mô hình cùng tồn tại, nạp động theo nhu cầu, giảm đáng kể chi phí triển khai;
PoA (Bằng chứng về độ gán): Thực hiện đo lường đóng góp và phân phối thưởng thông qua ghi chép gọi trên chuỗi.
Datanets：Mạng dữ liệu có cấu trúc hướng đến các tình huống theo chiều dọc, được xây dựng và xác minh bởi sự hợp tác của cộng đồng;
Nền tảng Đề xuất Mô hình (Model Proposal Platform): Thị trường mô hình trên chuỗi có thể kết hợp, có thể gọi và có thể thanh toán.
Thông qua các mô-đun trên, OpenLedger đã xây dựng một "hạ tầng kinh tế tác nhân" có tính dữ liệu và có thể kết hợp mô hình, thúc đẩy việc chuỗi hóa giá trị AI.
Về việc áp dụng công nghệ blockchain, OpenLedger sử dụng OP Stack + EigenDA làm nền tảng, xây dựng môi trường chạy dữ liệu và hợp đồng hiệu suất cao, chi phí thấp và có thể xác minh cho các mô hình AI.
Xây dựng dựa trên OP Stack: Dựa trên công nghệ Optimism, hỗ trợ thông lượng cao và chi phí thấp khi thực hiện;
Thanh toán trên mạng chính Ethereum: Đảm bảo tính an toàn của giao dịch và tính toàn vẹn của tài sản;
Tương thích EVM: Giúp các nhà phát triển nhanh chóng triển khai và mở rộng dựa trên Solidity;
EigenDA cung cấp hỗ trợ khả năng sử dụng dữ liệu: giảm đáng kể chi phí lưu trữ, đảm bảo khả năng xác minh dữ liệu.
So với một số blockchain AI tổng quát hơn, tập trung vào quyền sở hữu dữ liệu, OpenLedger chú trọng vào việc xây dựng blockchain chuyên dụng cho AI với động lực dữ liệu và mô hình, nhằm mục tiêu thực hiện vòng khép kín giá trị có thể truy xuất, có thể kết hợp và bền vững cho việc phát triển và gọi mô hình trên chuỗi. Nó là cơ sở hạ tầng động lực mô hình trong thế giới Web3, kết hợp lưu trữ mô hình, tính phí sử dụng và giao diện có thể kết hợp trên chuỗi, thúc đẩy con đường hiện thực hóa "mô hình như tài sản".
Ba, Các thành phần cốt lõi và kiến trúc công nghệ của OpenLedger
3.1 Nhà máy mô hình, không cần mã mô hình
ModelFactory là một nền tảng tinh chỉnh mô hình ngôn ngữ lớn (LLM) trong hệ sinh thái OpenLedger. Khác với các khung tinh chỉnh truyền thống, ModelFactory cung cấp giao diện thao tác hoàn toàn đồ họa, không cần công cụ dòng lệnh hoặc tích hợp API. Người dùng có thể tinh chỉnh mô hình dựa trên các tập dữ liệu đã hoàn thành việc ủy quyền và kiểm tra trên OpenLedger. Nó thực hiện quy trình làm việc tích hợp cho việc ủy quyền dữ liệu, đào tạo mô hình và triển khai, với quy trình cốt lõi bao gồm:
Kiểm soát truy cập dữ liệu: Người dùng gửi yêu cầu dữ liệu, người cung cấp xem xét và phê duyệt, dữ liệu tự động kết nối với giao diện đào tạo mô hình.
Lựa chọn và cấu hình mô hình: Hỗ trợ LLM phổ biến, cấu hình siêu tham số qua GUI.
Tinh chỉnh nhẹ: Tích hợp động cơ LoRA / QLoRA, hiển thị tiến độ đào tạo theo thời gian thực.
Đánh giá và triển khai mô hình: Công cụ đánh giá tích hợp sẵn, hỗ trợ xuất triển khai hoặc chia sẻ gọi sinh thái.
Giao diện xác thực tương tác: Cung cấp giao diện dạng trò chuyện, thuận tiện cho việc kiểm tra trực tiếp khả năng hỏi đáp của mô hình.
RAG tạo nguồn gốc: Trả lời kèm theo trích dẫn nguồn, tăng cường độ tin cậy và khả năng kiểm toán.
Kiến trúc hệ thống Model Factory bao gồm sáu mô-đun, bao trùm xác thực danh tính, quyền dữ liệu, tinh chỉnh mô hình, đánh giá triển khai và truy xuất nguồn gốc RAG, tạo ra một nền tảng dịch vụ mô hình tích hợp an toàn, có thể kiểm soát, tương tác thời gian thực và có thể kiếm tiền bền vững.
Mô hình ModelFactory hiện hỗ trợ các khả năng của mô hình ngôn ngữ lớn như sau:
Dòng LLaMA: Hệ sinh thái rộng nhất, cộng đồng năng động, hiệu suất tổng quát mạnh mẽ, là một trong những mô hình cơ sở mã nguồn mở phổ biến nhất hiện nay.
Mistral：Kiến trúc hiệu quả, hiệu suất suy luận xuất sắc, phù hợp với các tình huống triển khai linh hoạt, tài nguyên hạn chế.
Qwen：Nhiệm vụ tiếng Trung thể hiện xuất sắc, khả năng tổng hợp mạnh mẽ, phù hợp với sự lựa chọn hàng đầu của các nhà phát triển trong nước.
ChatGLM：Hiệu quả đối thoại tiếng Trung nổi bật, phù hợp cho dịch vụ khách hàng theo chiều và các tình huống địa phương.
Deepseek：Độ sâu trong việc tạo mã và suy luận toán học xuất sắc, phù hợp với công cụ hỗ trợ phát triển thông minh.
Gemma：Cấu trúc rõ ràng, dễ dàng để nhanh chóng làm quen và thử nghiệm.
Falcon：Đã từng là tiêu chuẩn hiệu suất, phù hợp cho nghiên cứu cơ bản hoặc thử nghiệm so sánh, nhưng mức độ hoạt động của cộng đồng đã giảm.
BLOOM: Hỗ trợ đa ngôn ngữ mạnh, nhưng hiệu suất suy diễn yếu, phù hợp cho nghiên cứu bao phủ ngôn ngữ.
GPT-2: Mô hình cổ điển sớm, chỉ phù hợp cho mục đích giảng dạy và xác minh, không khuyến nghị sử dụng triển khai thực tế.
Mặc dù mô hình của OpenLedger không bao gồm mô hình MoE hiệu suất cao mới nhất hoặc mô hình đa phương thức, nhưng chiến lược của nó không lỗi thời, mà là cấu hình "ưu tiên thực dụng" dựa trên các ràng buộc thực tế của việc triển khai trên chuỗi (chi phí suy diễn, thích ứng RAG, tương thích LoRA, môi trường EVM).
Model Factory là một chuỗi công cụ không mã, tất cả các mô hình đều được tích hợp cơ chế chứng minh đóng góp, đảm bảo quyền lợi của những người đóng góp dữ liệu và các nhà phát triển mô hình, có những ưu điểm như rào cản thấp, khả năng hiện thực hóa và tính khả dụng, so với các công cụ phát triển mô hình truyền thống:
Đối với các nhà phát triển: Cung cấp con đường hoàn chỉnh cho việc ươm tạo, phân phối và thu nhập mô hình;
Đối với nền tảng: hình thành mô hình tài sản lưu thông và sinh thái kết hợp;
Đối với người dùng: Có thể kết hợp sử dụng mô hình hoặc Agent giống như gọi API.
3.2 OpenLoRA, tài sản hóa chuỗi của mô hình tinh chỉnh
LoRA (Low-Rank Adaptation) là một phương pháp tinh chỉnh tham số hiệu quả, thông qua việc chèn "ma trận hạng thấp" vào mô hình lớn đã được huấn luyện trước để học các nhiệm vụ mới, mà không cần thay đổi tham số của mô hình gốc, từ đó giảm đáng kể chi phí đào tạo và nhu cầu lưu trữ. Các mô hình ngôn ngữ lớn truyền thống (như LLaMA, GPT-3) thường có hàng chục tỷ thậm chí hàng trăm tỷ tham số. Để sử dụng chúng cho các nhiệm vụ cụ thể (như hỏi đáp pháp lý, khám bệnh), cần phải thực hiện việc tinh chỉnh (fine-tuning). Chiến lược cốt lõi của LoRA là: "đóng băng các tham số của mô hình lớn gốc, chỉ đào tạo ma trận tham số mới được chèn vào." Với tính hiệu quả về tham số, đào tạo nhanh chóng và triển khai linh hoạt, đây là phương pháp tinh chỉnh phổ biến nhất hiện nay phù hợp cho việc triển khai và gọi kết hợp mô hình Web3.
OpenLoRA là một khung suy diễn nhẹ được thiết kế đặc biệt cho việc triển khai nhiều mô hình và chia sẻ tài nguyên do OpenLedger xây dựng. Mục tiêu cốt lõi của nó là giải quyết các vấn đề phổ biến trong việc triển khai mô hình AI hiện tại như chi phí cao, khả năng tái sử dụng thấp, lãng phí tài nguyên GPU, thúc đẩy việc thực hiện "AI có thể chi trả" (Payable AI).
OpenLoRA hệ thống kiến trúc các thành phần cốt lõi, dựa trên thiết kế mô-đun, bao phủ lưu trữ mô hình, thực thi suy diễn, định tuyến yêu cầu và các khâu quan trọng khác, đạt được khả năng triển khai và gọi nhiều mô hình hiệu quả, chi phí thấp:
Mô-đun lưu trữ LoRA Adapter (LoRA Adapters Storage): LoRA adapter đã tinh chỉnh được lưu trữ trên OpenLedger, cho phép tải theo nhu cầu, tránh việc tải trước tất cả các mô hình vào bộ nhớ đồ họa, tiết kiệm tài nguyên.
Lớp lưu trữ mô hình và hợp nhất động (Model Hosting & Adapter Merging Layer): Tất cả các mô hình tinh chỉnh chia sẻ mô hình lớn cơ sở (base model), trong quá trình suy diễn, các adapter LoRA được hợp nhất động, hỗ trợ suy diễn kết hợp nhiều adapter (ensemble), nâng cao hiệu suất.
Công cụ suy diễn (Inference Engine): Tích hợp nhiều công nghệ tối ưu CUDA như Flash-Attention, Paged-Attention, SGMV.
Mô-đun định tuyến yêu cầu và phát trực tuyến (Request Router & Token Streaming):
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
OpenLedger: Xây dựng cơ sở hạ tầng kinh tế thông minh dựa trên dữ liệu
Nghiên cứu sâu về OpenLedger: Xây dựng nền kinh tế thông minh có thể kết hợp mô hình và dựa trên dữ liệu
Một, Giới thiệu | Sự chuyển mình của tầng mô hình Crypto AI
Dữ liệu, mô hình và sức mạnh tính toán là ba yếu tố cốt lõi của cơ sở hạ tầng AI, không thể thiếu một yếu tố nào. Tương tự như lộ trình tiến hóa cơ sở hạ tầng của ngành AI truyền thống, lĩnh vực Crypto AI cũng đã trải qua các giai đoạn tương tự. Đầu năm 2024, thị trường đã một thời bị các dự án GPU phi tập trung chi phối, nhấn mạnh logic tăng trưởng thô sơ "đấu sức mạnh tính toán". Tuy nhiên, vào năm 2025, trọng tâm của ngành đã dần chuyển lên tầng mô hình và dữ liệu, đánh dấu sự chuyển đổi của Crypto AI từ cạnh tranh tài nguyên cơ bản sang xây dựng trung tầng có giá trị ứng dụng và bền vững hơn.
Mô hình tổng quát (LLM) vs Mô hình chuyên biệt (SLM)
Mô hình ngôn ngữ lớn truyền thống (LLM) phụ thuộc rất nhiều vào các tập dữ liệu quy mô lớn và kiến trúc phân tán phức tạp, quy mô tham số thường từ 70B đến 500B, chi phí cho một lần đào tạo thường lên tới hàng triệu đô la. Trong khi đó, SLM (Mô hình Ngôn ngữ Chuyên biệt) như một phương thức tinh chỉnh nhẹ có thể tái sử dụng các mô hình cơ sở, thường dựa trên các mô hình mã nguồn mở, kết hợp một lượng nhỏ dữ liệu chuyên môn chất lượng cao và các công nghệ như LoRA, nhanh chóng xây dựng các mô hình chuyên gia có kiến thức trong lĩnh vực cụ thể, giảm đáng kể chi phí đào tạo và rào cản kỹ thuật.
Đáng chú ý là SLM sẽ không được tích hợp vào trọng số LLM, mà sẽ phối hợp hoạt động với LLM thông qua kiến trúc Agent, hệ thống plugin định tuyến động, hot-plug module LoRA, RAG (tăng cường sinh tạo thông qua truy vấn) và các cách khác. Kiến trúc này vừa giữ lại khả năng bao quát rộng lớn của LLM, vừa tăng cường hiệu suất chuyên môn thông qua các module tinh chỉnh, hình thành một hệ thống thông minh kết hợp có tính linh hoạt cao.
Giá trị và ranh giới của Crypto AI ở cấp độ mô hình
Dự án Crypto AI về bản chất khó có thể nâng cao trực tiếp khả năng cốt lõi của mô hình ngôn ngữ lớn (LLM), lý do cốt lõi là
Tuy nhiên, trên nền tảng mô hình cơ sở mã nguồn mở, dự án Crypto AI vẫn có thể mở rộng giá trị thông qua việc tinh chỉnh mô hình ngôn ngữ chuyên biệt (SLM), kết hợp với tính xác minh và cơ chế khuyến khích của Web3. Là "tầng giao diện phụ" của chuỗi công nghiệp AI, điều này thể hiện ở hai hướng cốt lõi:
Phân loại loại mô hình AI và phân tích tính khả thi của blockchain
Do đó, có thể thấy rằng các điểm khả thi của dự án Crypto AI loại mô hình chủ yếu tập trung vào tinh chỉnh nhẹ của SLM nhỏ, việc kết nối và xác minh dữ liệu chuỗi của kiến trúc RAG, cũng như triển khai cục bộ và khuyến khích mô hình Edge. Kết hợp tính xác minh của blockchain và cơ chế token, Crypto có thể cung cấp giá trị đặc biệt cho các kịch bản mô hình tài nguyên trung bình và thấp, tạo ra giá trị khác biệt cho "tầng giao diện" của AI.
Chuỗi AI dựa trên dữ liệu và mô hình blockchain có thể ghi lại nguồn gốc đóng góp của từng dữ liệu và mô hình một cách rõ ràng và không thể thay đổi, nâng cao đáng kể độ tin cậy của dữ liệu và khả năng truy xuất nguồn gốc của việc đào tạo mô hình. Đồng thời, thông qua cơ chế hợp đồng thông minh, khi dữ liệu hoặc mô hình được gọi, sẽ tự động kích hoạt phân phát phần thưởng, biến hành vi AI thành giá trị token hóa có thể đo lường và giao dịch, xây dựng một hệ thống khuyến khích bền vững. Ngoài ra, người dùng trong cộng đồng cũng có thể đánh giá hiệu suất mô hình thông qua việc bỏ phiếu bằng token, tham gia vào việc thiết lập và điều chỉnh quy tắc, hoàn thiện cấu trúc quản trị phi tập trung.
Hai, Tóm tắt dự án | Tầm nhìn AI Chain của OpenLedger
OpenLedger là một trong số ít các dự án AI blockchain hiện nay tập trung vào cơ chế khuyến khích dữ liệu và mô hình. Nó tiên phong đưa ra khái niệm "Payable AI", nhằm xây dựng một môi trường hoạt động AI công bằng, minh bạch và có thể kết hợp, khuyến khích những người đóng góp dữ liệu, nhà phát triển mô hình và những người xây dựng ứng dụng AI hợp tác trên cùng một nền tảng, và nhận được lợi nhuận trên chuỗi dựa trên sự đóng góp thực tế.
OpenLedger cung cấp chuỗi khép kín từ "cung cấp dữ liệu" đến "triển khai mô hình" và "gọi chia sẻ lợi nhuận", các mô-đun cốt lõi của nó bao gồm:
Thông qua các mô-đun trên, OpenLedger đã xây dựng một "hạ tầng kinh tế tác nhân" có tính dữ liệu và có thể kết hợp mô hình, thúc đẩy việc chuỗi hóa giá trị AI.
Về việc áp dụng công nghệ blockchain, OpenLedger sử dụng OP Stack + EigenDA làm nền tảng, xây dựng môi trường chạy dữ liệu và hợp đồng hiệu suất cao, chi phí thấp và có thể xác minh cho các mô hình AI.
So với một số blockchain AI tổng quát hơn, tập trung vào quyền sở hữu dữ liệu, OpenLedger chú trọng vào việc xây dựng blockchain chuyên dụng cho AI với động lực dữ liệu và mô hình, nhằm mục tiêu thực hiện vòng khép kín giá trị có thể truy xuất, có thể kết hợp và bền vững cho việc phát triển và gọi mô hình trên chuỗi. Nó là cơ sở hạ tầng động lực mô hình trong thế giới Web3, kết hợp lưu trữ mô hình, tính phí sử dụng và giao diện có thể kết hợp trên chuỗi, thúc đẩy con đường hiện thực hóa "mô hình như tài sản".
Ba, Các thành phần cốt lõi và kiến trúc công nghệ của OpenLedger
3.1 Nhà máy mô hình, không cần mã mô hình
ModelFactory là một nền tảng tinh chỉnh mô hình ngôn ngữ lớn (LLM) trong hệ sinh thái OpenLedger. Khác với các khung tinh chỉnh truyền thống, ModelFactory cung cấp giao diện thao tác hoàn toàn đồ họa, không cần công cụ dòng lệnh hoặc tích hợp API. Người dùng có thể tinh chỉnh mô hình dựa trên các tập dữ liệu đã hoàn thành việc ủy quyền và kiểm tra trên OpenLedger. Nó thực hiện quy trình làm việc tích hợp cho việc ủy quyền dữ liệu, đào tạo mô hình và triển khai, với quy trình cốt lõi bao gồm:
Kiến trúc hệ thống Model Factory bao gồm sáu mô-đun, bao trùm xác thực danh tính, quyền dữ liệu, tinh chỉnh mô hình, đánh giá triển khai và truy xuất nguồn gốc RAG, tạo ra một nền tảng dịch vụ mô hình tích hợp an toàn, có thể kiểm soát, tương tác thời gian thực và có thể kiếm tiền bền vững.
Mô hình ModelFactory hiện hỗ trợ các khả năng của mô hình ngôn ngữ lớn như sau:
Mặc dù mô hình của OpenLedger không bao gồm mô hình MoE hiệu suất cao mới nhất hoặc mô hình đa phương thức, nhưng chiến lược của nó không lỗi thời, mà là cấu hình "ưu tiên thực dụng" dựa trên các ràng buộc thực tế của việc triển khai trên chuỗi (chi phí suy diễn, thích ứng RAG, tương thích LoRA, môi trường EVM).
Model Factory là một chuỗi công cụ không mã, tất cả các mô hình đều được tích hợp cơ chế chứng minh đóng góp, đảm bảo quyền lợi của những người đóng góp dữ liệu và các nhà phát triển mô hình, có những ưu điểm như rào cản thấp, khả năng hiện thực hóa và tính khả dụng, so với các công cụ phát triển mô hình truyền thống:
3.2 OpenLoRA, tài sản hóa chuỗi của mô hình tinh chỉnh
LoRA (Low-Rank Adaptation) là một phương pháp tinh chỉnh tham số hiệu quả, thông qua việc chèn "ma trận hạng thấp" vào mô hình lớn đã được huấn luyện trước để học các nhiệm vụ mới, mà không cần thay đổi tham số của mô hình gốc, từ đó giảm đáng kể chi phí đào tạo và nhu cầu lưu trữ. Các mô hình ngôn ngữ lớn truyền thống (như LLaMA, GPT-3) thường có hàng chục tỷ thậm chí hàng trăm tỷ tham số. Để sử dụng chúng cho các nhiệm vụ cụ thể (như hỏi đáp pháp lý, khám bệnh), cần phải thực hiện việc tinh chỉnh (fine-tuning). Chiến lược cốt lõi của LoRA là: "đóng băng các tham số của mô hình lớn gốc, chỉ đào tạo ma trận tham số mới được chèn vào." Với tính hiệu quả về tham số, đào tạo nhanh chóng và triển khai linh hoạt, đây là phương pháp tinh chỉnh phổ biến nhất hiện nay phù hợp cho việc triển khai và gọi kết hợp mô hình Web3.
OpenLoRA là một khung suy diễn nhẹ được thiết kế đặc biệt cho việc triển khai nhiều mô hình và chia sẻ tài nguyên do OpenLedger xây dựng. Mục tiêu cốt lõi của nó là giải quyết các vấn đề phổ biến trong việc triển khai mô hình AI hiện tại như chi phí cao, khả năng tái sử dụng thấp, lãng phí tài nguyên GPU, thúc đẩy việc thực hiện "AI có thể chi trả" (Payable AI).
OpenLoRA hệ thống kiến trúc các thành phần cốt lõi, dựa trên thiết kế mô-đun, bao phủ lưu trữ mô hình, thực thi suy diễn, định tuyến yêu cầu và các khâu quan trọng khác, đạt được khả năng triển khai và gọi nhiều mô hình hiệu quả, chi phí thấp: