Khám phá ứng dụng của mô hình lớn trong ngành tài chính
Sự xuất hiện của ChatGPT đã khiến ngành tài chính cảm thấy lo lắng mạnh mẽ. Ngành công nghệ này rất tin tưởng vào công nghệ và sợ hãi bị bỏ lại phía sau bởi làn sóng thời đại. Một chuyên gia trong ngành cho biết, vào tháng 5 năm nay, khi cô ấy công tác tại Đại Lý, thậm chí ở trong chùa, cô cũng có thể nghe thấy các chuyên gia tài chính thảo luận về mô hình lớn.
Tuy nhiên, cảm giác lo lắng này đang dần lắng xuống, tư duy của mọi người cũng trở nên rõ ràng và lý trí hơn. CTO ngân hàng của Softcom, ông Tôn Hồng Quân, đã mô tả một số giai đoạn thái độ của ngành tài chính đối với mô hình lớn trong năm nay: Từ tháng 2 đến tháng 3, mọi người đều cảm thấy lo lắng; từ tháng 4 đến tháng 5, họ bắt đầu thành lập đội ngũ để tiến hành công việc; vài tháng tiếp theo, trong quá trình triển khai gặp khó khăn, bắt đầu trở nên lý trí; bây giờ, họ đang chú ý đến các trường hợp điển hình, cố gắng xác thực các tình huống đã được thử nghiệm.
Cần lưu ý rằng, nhiều tổ chức tài chính đã bắt đầu coi trọng các mô hình lớn từ góc độ chiến lược. Theo thống kê không đầy đủ, trong số các công ty niêm yết A-shares, ít nhất có 11 ngân hàng đã nêu rõ trong báo cáo nửa năm gần đây rằng họ đang khám phá ứng dụng của các mô hình lớn. Từ những động thái gần đây, họ cũng đang tiến hành suy nghĩ và lập kế hoạch sâu hơn từ góc độ chiến lược và thiết kế cấp cao.
Từ sự nhiệt tình dâng cao đến sự trở về lý trí
Một chuyên gia dày dạn trong ngành tài chính của một công ty lớn cho biết, so với vài tháng trước, hiện nay sự hiểu biết của khách hàng trong lĩnh vực tài chính về mô hình lớn đã tăng lên rõ rệt. Khi ChatGPT mới xuất hiện đầu năm, mặc dù mọi người rất hào hứng, nhưng thực tế hiểu biết về bản chất và cách ứng dụng của mô hình lớn vẫn còn hạn chế.
Trong giai đoạn này, một số ngân hàng lớn đã tiên phong hành động, bắt đầu thực hiện nhiều chiến dịch quảng cáo "bắt sóng" khác nhau. Chẳng hạn, vào tháng 3 năm nay, một ngân hàng đã ra mắt ứng dụng mô hình lớn tương tự như ChatGPT. Nhưng trong ngành, đánh giá về điều này không đồng nhất, có người cho rằng tên ứng dụng này quá nhấn mạnh phần "Chat" không quan trọng trong ChatGPT, trong khi bỏ qua phần "GPT" quan trọng hơn.
Trong khi đó, với việc nhiều nhà sản xuất trong nước lần lượt công bố các mô hình lớn, một số bộ phận công nghệ của các tổ chức tài chính hàng đầu bắt đầu tích cực thảo luận với các nhà sản xuất lớn về việc xây dựng các mô hình lớn. Các chuyên gia dày dạn kinh nghiệm tiết lộ, các tổ chức tài chính này đều hy vọng tự mình xây dựng mô hình lớn, tìm kiếm sự hướng dẫn từ các nhà sản xuất trong việc sản xuất tập dữ liệu, mua sắm máy chủ và đào tạo mô hình. Một công ty công nghệ tài chính thuộc sở hữu của một ngân hàng lớn thậm chí đã đề xuất, hy vọng sau khi hoàn thành còn có thể xuất khẩu cho các đối thủ khác.
Sau tháng 5, tình hình bắt đầu có sự thay đổi. Bị hạn chế bởi sự thiếu hụt tài nguyên tính toán, chi phí cao và các yếu tố khác, nhiều tổ chức tài chính không còn đơn thuần theo đuổi việc tự xây dựng sức mạnh tính toán và mô hình, mà thay vào đó tập trung nhiều hơn vào giá trị ứng dụng. Hiện nay, mỗi tổ chức tài chính đều quan tâm đến cách các tổ chức khác áp dụng mô hình lớn và hiệu quả đạt được.
Đối với các doanh nghiệp có quy mô khác nhau, cũng đã hình thành hai con đường. Các tổ chức tài chính lớn sở hữu lượng dữ liệu tài chính khổng lồ và các tình huống ứng dụng có thể đưa vào các mô hình lớn hàng đầu trong ngành, tự xây dựng mô hình lớn cho doanh nghiệp, đồng thời áp dụng phương pháp tinh chỉnh, hình thành các mô hình nhiệm vụ trong lĩnh vực chuyên môn, nhanh chóng tăng cường năng lực kinh doanh để bù đắp cho nhược điểm của việc xây dựng mô hình lớn mất quá nhiều thời gian. Trong khi đó, các tổ chức tài chính nhỏ và vừa có thể xem xét tổng hợp lợi tức đầu tư, theo nhu cầu đưa vào các API đám mây công cộng của các mô hình lớn hoặc dịch vụ triển khai riêng, đáp ứng trực tiếp nhu cầu tăng cường năng lực.
Tuy nhiên, do yêu cầu cao về tính tuân thủ dữ liệu, độ an toàn và độ tin cậy trong ngành tài chính, một số người cho rằng, tiến trình triển khai mô hình lớn trong ngành này thực tế chậm hơn một chút so với kỳ vọng ban đầu vào đầu năm. Ông Tôn Hồng Quân của Softcom cho biết, họ đã dự đoán ban đầu rằng ngành tài chính có thể sẽ là ngành đầu tiên áp dụng quy mô lớn mô hình lớn, nhưng từ tình hình cuối cùng với khách hàng, tiến trình của ngành tài chính không nhanh bằng các ngành như luật pháp, tuyển dụng.
Một số tổ chức tài chính đã bắt đầu tìm kiếm các giải pháp cho những "nút thắt" trong quá trình triển khai mô hình lớn.
Ví dụ trong lĩnh vực tính toán, các chuyên gia trong ngành đã quan sát thấy hiện nay có một số giải pháp xuất hiện trong ngành tài chính:
Đầu tiên, tự xây dựng sức mạnh tính toán, chi phí cao nhưng độ an toàn tốt nhất. Phù hợp với các tổ chức tài chính có sức mạnh mạnh mẽ, mong muốn tự xây dựng mô hình lớn trong ngành hoặc doanh nghiệp, như một số ngân hàng lớn thuộc sở hữu nhà nước.
Thứ hai, áp dụng phương thức triển khai hỗn hợp, trong điều kiện dữ liệu nhạy cảm không ra khỏi miền, gọi giao diện dịch vụ mô hình lớn từ đám mây công cộng, đồng thời xử lý dịch vụ dữ liệu địa phương thông qua triển khai tư nhân. Phương thức này có chi phí tương đối thấp, chỉ cần đầu tư vài trăm ngàn nhân dân tệ để mua vài thẻ GPU là có thể đáp ứng nhu cầu, phù hợp với các tổ chức tài chính vừa và nhỏ có khả năng tài chính yếu hơn và ứng dụng theo yêu cầu.
Tuy nhiên, dù vậy, nhiều tổ chức vừa và nhỏ vẫn đang đối mặt với vấn đề không thể mua được hoặc không đủ khả năng chi trả cho các thẻ GPU cần thiết cho mô hình lớn. Để giải quyết vấn đề này, những người có kinh nghiệm trên đã tiết lộ rằng các cơ quan quản lý gần đây đang tiến hành một số nghiên cứu đề tài, khám phá xem có thể xây dựng cơ sở hạ tầng mô hình lớn hướng tới ngành với cách tiếp cận thỏa hiệp hay không, tập trung vào sức mạnh tính toán và các nguồn tài nguyên mô hình lớn chung, để các tổ chức tài chính vừa và nhỏ trong ngành cũng có thể sử dụng dịch vụ mô hình lớn, ngăn chặn họ bị tụt lại về mặt công nghệ.
Ngoài vấn đề về sức mạnh tính toán, trong suốt nửa năm qua, với việc khám phá việc triển khai các mô hình lớn, nhiều tổ chức tài chính cũng dần tăng cường công tác quản trị dữ liệu.
Một giám đốc điều hành của một nhà cung cấp dịch vụ đám mây nổi tiếng cho biết, hiện tại bên cạnh những ngân hàng lớn có thực hành trưởng thành trong lĩnh vực quản trị dữ liệu, ngày càng nhiều tổ chức tài chính vừa và nhỏ cũng bắt đầu lần lượt xây dựng nền tảng dữ liệu và hệ thống quản trị dữ liệu, như một số ngân hàng địa phương trong nửa đầu năm nay. Ông cho rằng, việc xây dựng một hệ thống quản trị dữ liệu hoàn chỉnh và nền tảng công nghệ hồ dữ liệu sẽ trở thành chủ đề quan trọng trong xây dựng CNTT của các tổ chức tài chính trong tương lai.
Cũng có ngân hàng đang giải quyết vấn đề dữ liệu thông qua mô hình lớn + MLOps. Ví dụ, một ngân hàng lớn đã thiết lập hệ thống vòng khép kín dữ liệu mô hình lớn bằng cách áp dụng mô hình MLOps, đạt được sự tự động hóa toàn bộ quy trình, cũng như quản lý thống nhất và xử lý hiệu quả dữ liệu đa nguồn và dị dạng. Theo thông tin, hiện đã xây dựng và tích lũy được 2.6TB tập dữ liệu huấn luyện chất lượng cao.
Vào từ cảnh ngoại vi
Trong hơn nửa năm qua, cả các nhà cung cấp mô hình lớn lẫn các tổ chức tài chính lớn đều đang tích cực tìm kiếm các tình huống ứng dụng. Các lĩnh vực như văn phòng thông minh, phát triển thông minh, tiếp thị thông minh, dịch vụ khách hàng thông minh, nghiên cứu đầu tư thông minh, kiểm soát rủi ro thông minh, phân tích nhu cầu đang được khám phá từng bước.
Như một giám đốc điều hành của một công ty công nghệ tài chính nổi tiếng đã nói, "Mỗi chức năng quan trọng trong chuỗi công việc tài chính đều xứng đáng được làm lại bằng công nghệ mô hình lớn." Công ty này gần đây đã phát hành mô hình tài chính lớn và đang hợp tác với các tổ chức để thử nghiệm và xây dựng sản phẩm mô hình lớn hướng đến ngành tài chính, với mục tiêu tạo ra trợ lý AI toàn chuỗi cho các chuyên gia trong lĩnh vực tài chính như cố vấn tài chính, đại lý bảo hiểm, nghiên cứu đầu tư, tiếp thị tài chính và bồi thường bảo hiểm.
Mỗi tổ chức tài chính đều có những ý tưởng phong phú về việc ứng dụng mô hình lớn. Một ngân hàng lớn cho biết đã triển khai ứng dụng trong hơn 20 kịch bản nội bộ, một ngân hàng khác cho biết họ đã thử nghiệm trong hơn 30 kịch bản, trong khi một công ty chứng khoán cho biết đang khám phá việc kết nối mô hình lớn với nền tảng người số ảo mà họ đã ra mắt trước đó...
Nhưng khi muốn thực sự áp dụng mô hình lớn vào kinh doanh, sự đồng thuận phổ biến là bắt đầu từ nội bộ trước, sau đó mở rộng ra bên ngoài. Dù sao đi nữa, ở giai đoạn hiện tại, công nghệ mô hình lớn vẫn chưa trưởng thành, còn tồn tại những vấn đề như ảo giác, trong khi ngành tài chính lại là một lĩnh vực có sự quản lý chặt chẽ, an toàn cao và đáng tin cậy.
"Trong thời gian ngắn, không nên trực tiếp sử dụng cho khách hàng." Người đứng đầu công nghệ của một ngân hàng lớn cho rằng, các tổ chức tài chính nên ưu tiên áp dụng mô hình lớn vào các tình huống tập trung vào trí tuệ như phân tích và hiểu sáng tạo văn bản và hình ảnh tài chính, nhằm thực hiện sự hợp tác giữa con người và máy móc dưới dạng trợ lý, nâng cao hiệu quả công việc của nhân viên.
Các giám đốc điều hành của nhà cung cấp dịch vụ đám mây trên cũng cho biết, nhiều khách hàng trong lĩnh vực tài chính đều cho rằng trợ lý mã và trợ lý khách hàng là những trường hợp có thể mang lại kết quả ngay từ giai đoạn đầu. Trong khi đó, các trường hợp như nghiên cứu đầu tư và tư vấn đầu tư mặc dù có giá trị rất lớn nhưng khó có thể mang lại hiệu quả nhanh chóng và yêu cầu dữ liệu khá cao.
Hiện tại, trợ lý mã đã được áp dụng tại nhiều tổ chức tài chính. Ví dụ, một ngân hàng lớn đã xây dựng hệ thống phát triển thông minh dựa trên mô hình lớn, tỷ lệ mã được tạo ra bởi trợ lý mã chiếm 40% tổng lượng mã. Cũng như trong lĩnh vực bảo hiểm, một công ty bảo hiểm đã phát triển plugin hỗ trợ lập trình dựa trên mô hình lớn, được nhúng trực tiếp vào công cụ phát triển nội bộ.
Dựa trên điều này, một số nhà cung cấp cũng đang phát triển các sản phẩm sẵn sàng sử dụng cho khách hàng tài chính dựa trên khả năng tạo mã của mô hình lớn. Một giám đốc điều hành của một công ty dịch vụ CNTT cho biết, sản phẩm của họ đã thêm một loạt các chức năng như phân giải nhiệm vụ, trả lời chính xác và vượt qua giới hạn ngữ cảnh dựa trên khả năng hoàn thiện mã của mô hình lớn, để thực hiện trải nghiệm sử dụng ngay lập tức cho người dùng. Hiện tại, sản phẩm này đã được hơn 3000 người dùng tại một ngân hàng quốc tế, với tỷ lệ hoàn thiện mã tự động từ 50% đến 90%.
Trong lĩnh vực văn phòng thông minh cũng có nhiều trường hợp áp dụng thực tế. Một chuyên gia từ một công ty công nghệ lớn phụ trách sản phẩm mô hình lớn trong ngành tài chính cho biết, tính năng hỏi đáp tại điểm giao dịch mà họ phát triển dựa trên mô hình tài chính lớn đã được triển khai tại một ngân hàng lớn vào tháng 7 và đã được nhân rộng đến hàng trăm điểm giao dịch, với tỷ lệ chấp nhận câu trả lời vượt quá 85%. Hiện tại, giải pháp tiêu chuẩn được ươm tạo từ hỏi đáp tài liệu cũng đã nhanh chóng được sao chép sang nhiều ngân hàng và tổ chức tài chính khác.
Tuy nhiên, các chuyên gia trong ngành đánh giá rằng những kịch bản đã được triển khai rộng rãi này thực tế vẫn chưa phải là ứng dụng cốt lõi của các tổ chức tài chính, và mô hình lớn vẫn còn một khoảng cách nhất định để đi sâu vào các khía cạnh kinh doanh của ngành tài chính.
"Chúng tôi tự đánh giá, việc áp dụng trong các tình huống kinh doanh vẫn còn khá khó khăn." Một giám đốc điều hành của một công ty dịch vụ CNTT cho biết, các tình huống như tiếp thị, quản lý rủi ro và tuân thủ đều là những lĩnh vực mà mô hình lớn có thể mang lại sự thay đổi, đồng thời cũng là những điểm nhu cầu của khách hàng tài chính, nhưng theo tình hình hiện tại, những công việc này vẫn phụ thuộc vào khả năng nâng cao của các nhà cung cấp mô hình lớn, sau đó mới có thể triển khai các tình huống kinh doanh.
Các chuyên gia cao cấp từ các công ty lớn dự đoán rằng, trước cuối năm nay, sẽ có một số dự án xây dựng hoặc thông tin đấu thầu thực sự ứng dụng mô hình lớn trong các tình huống kinh doanh cốt lõi của các tổ chức tài chính.
Trước đó, một số thay đổi ở cấp thiết kế hàng đầu đang được thực hiện.
Tại một hội nghị ngành vào đầu tháng 9, một giáo sư nổi tiếng từ một trường đại học đã đưa ra một phán đoán như sau: Toàn bộ hệ thống thông minh và số hóa trong tương lai sẽ được xây dựng lại dựa trên nền tảng của các mô hình lớn. Điều này yêu cầu ngành tài chính phải tái cấu trúc hệ thống trong quá trình thúc đẩy việc triển khai các mô hình lớn. Đồng thời, cũng không thể bỏ qua giá trị của các mô hình nhỏ truyền thống, mà nên làm cho các mô hình lớn và nhỏ phối hợp với nhau.
Xu hướng này đã được thể hiện rộng rãi trong ngành tài chính. "Bây giờ các tổ chức tài chính đang thử nghiệm mô hình lớn, cơ bản sẽ áp dụng mô hình phân tầng." Một giám đốc điều hành của một nhà cung cấp dịch vụ đám mây cho biết, khác với mô hình xây dựng một nền tảng kiểu ống khói cho một kịch bản trong quá khứ, mô hình lớn thực sự đã cho các tổ chức tài chính một cơ hội để bắt đầu từ con số không, một cách khoa học hơn trong việc lập kế hoạch hệ thống tổng thể.
Có thể thấy, hiện tại đã có nhiều tổ chức tài chính hàng đầu dựa trên mô hình lớn, xây dựng hệ thống phân lớp với nhiều cấp độ bao gồm tầng hạ tầng, tầng mô hình, tầng dịch vụ mô hình lớn, tầng ứng dụng, chẳng hạn như nhiều ngân hàng lớn, công ty chứng khoán và công ty bảo hiểm.
Những khuôn khổ này thường có hai đặc điểm nổi bật: Thứ nhất, mô hình lớn phát huy khả năng trung tâm, gọi các mô hình truyền thống như là kỹ năng; Thứ hai, lớp mô hình lớn áp dụng chiến lược đa mô hình, tổ chức thi đua nội bộ, chọn ra hiệu quả tối ưu.
Trên thực tế, không chỉ các tổ chức tài chính, trong bối cảnh hiện tại chưa được xác định, một số nhà cung cấp ứng dụng mô hình lớn cũng đang áp dụng chiến lược đa mô hình để tối ưu hóa hiệu quả dịch vụ. Một giám đốc điều hành của một công ty dịch vụ CNTT tiết lộ rằng, tầng mô hình cơ sở của họ cũng kết hợp nhiều mô hình ngôn ngữ lớn, sẽ dựa trên câu trả lời trả về từ mỗi mô hình lớn, lắp ghép tối ưu sau đó cung cấp cho người dùng.
Khoảng cách nhân lực vẫn còn lớn
Việc ứng dụng các mô hình lớn đã bắt đầu mang lại một số thách thức và biến đổi cho cơ cấu nhân sự trong ngành tài chính.
Trước đó, một nhân viên của một công ty công nghệ tài chính ở Thượng Hải đã cho biết, với sự xuất hiện của ChatGPT, từ đầu năm nay đến cuối tháng 5, công ty của anh ta đã sa thải hơn 300 nhà phân tích dữ liệu lớn. Và vài năm trước, đây vẫn là một nghề rất hot. Điều này đã khiến anh ta lo lắng, thậm chí bắt đầu suy nghĩ trước về vấn đề nghề nghiệp trong tương lai của con gái mình.
Một chuyên gia dày dạn trong lĩnh vực tài chính đến từ một ngân hàng lớn cũng đã chia sẻ về hiệu ứng thay thế con người của mô hình lớn. Trước đây, mỗi sáng, các thực tập sinh sẽ tổng hợp thông tin từ nhiều lĩnh vực khác nhau và cung cấp cho người trong bộ phận nghiên cứu đầu tư, nhưng bây giờ những công việc này của thực tập sinh có thể được hoàn thành bởi mô hình lớn.
Tuy nhiên, một số ngân hàng thực sự không muốn các mô hình lớn dẫn đến việc giảm nhân sự. Chẳng hạn, một ngân hàng lớn với 200.000 nhân viên tại các điểm giao dịch đã rõ ràng yêu cầu các nhà cung cấp công nghệ rằng họ không muốn nhân viên bị thay thế bởi các mô hình lớn, mà nên để các mô hình lớn mang lại cơ hội mới, nâng cao chất lượng dịch vụ và hiệu suất làm việc của nhân viên, đồng thời cũng giải phóng một phần nhân viên để thực hiện nhiều công việc có giá trị cao hơn.
Điều này không thiếu những xem xét về nhân sự và cấu trúc ổn định. Nhưng mặt khác, cũng vì trong ngành còn nhiều vị trí thiếu nhân lực.
Một giám đốc điều hành của một công ty dịch vụ CNTT cho biết, các ngân hàng lớn có rất nhiều công việc chưa hoàn thành, một số yêu cầu CNTT thậm chí đã được lên lịch đến cuối năm sau, họ kỳ vọng rằng các mô hình lớn có thể giúp nhân viên hoàn thành nhiều công việc hơn, nâng cao hiệu quả và tốc độ, thay vì dẫn đến việc giảm nhân sự.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Khám phá ứng dụng mô hình lớn trong ngành tài chính: Từ lo âu đến lý tính, các tình huống thực tế dần trở nên rõ ràng.
Khám phá ứng dụng của mô hình lớn trong ngành tài chính
Sự xuất hiện của ChatGPT đã khiến ngành tài chính cảm thấy lo lắng mạnh mẽ. Ngành công nghệ này rất tin tưởng vào công nghệ và sợ hãi bị bỏ lại phía sau bởi làn sóng thời đại. Một chuyên gia trong ngành cho biết, vào tháng 5 năm nay, khi cô ấy công tác tại Đại Lý, thậm chí ở trong chùa, cô cũng có thể nghe thấy các chuyên gia tài chính thảo luận về mô hình lớn.
Tuy nhiên, cảm giác lo lắng này đang dần lắng xuống, tư duy của mọi người cũng trở nên rõ ràng và lý trí hơn. CTO ngân hàng của Softcom, ông Tôn Hồng Quân, đã mô tả một số giai đoạn thái độ của ngành tài chính đối với mô hình lớn trong năm nay: Từ tháng 2 đến tháng 3, mọi người đều cảm thấy lo lắng; từ tháng 4 đến tháng 5, họ bắt đầu thành lập đội ngũ để tiến hành công việc; vài tháng tiếp theo, trong quá trình triển khai gặp khó khăn, bắt đầu trở nên lý trí; bây giờ, họ đang chú ý đến các trường hợp điển hình, cố gắng xác thực các tình huống đã được thử nghiệm.
Cần lưu ý rằng, nhiều tổ chức tài chính đã bắt đầu coi trọng các mô hình lớn từ góc độ chiến lược. Theo thống kê không đầy đủ, trong số các công ty niêm yết A-shares, ít nhất có 11 ngân hàng đã nêu rõ trong báo cáo nửa năm gần đây rằng họ đang khám phá ứng dụng của các mô hình lớn. Từ những động thái gần đây, họ cũng đang tiến hành suy nghĩ và lập kế hoạch sâu hơn từ góc độ chiến lược và thiết kế cấp cao.
Từ sự nhiệt tình dâng cao đến sự trở về lý trí
Một chuyên gia dày dạn trong ngành tài chính của một công ty lớn cho biết, so với vài tháng trước, hiện nay sự hiểu biết của khách hàng trong lĩnh vực tài chính về mô hình lớn đã tăng lên rõ rệt. Khi ChatGPT mới xuất hiện đầu năm, mặc dù mọi người rất hào hứng, nhưng thực tế hiểu biết về bản chất và cách ứng dụng của mô hình lớn vẫn còn hạn chế.
Trong giai đoạn này, một số ngân hàng lớn đã tiên phong hành động, bắt đầu thực hiện nhiều chiến dịch quảng cáo "bắt sóng" khác nhau. Chẳng hạn, vào tháng 3 năm nay, một ngân hàng đã ra mắt ứng dụng mô hình lớn tương tự như ChatGPT. Nhưng trong ngành, đánh giá về điều này không đồng nhất, có người cho rằng tên ứng dụng này quá nhấn mạnh phần "Chat" không quan trọng trong ChatGPT, trong khi bỏ qua phần "GPT" quan trọng hơn.
Trong khi đó, với việc nhiều nhà sản xuất trong nước lần lượt công bố các mô hình lớn, một số bộ phận công nghệ của các tổ chức tài chính hàng đầu bắt đầu tích cực thảo luận với các nhà sản xuất lớn về việc xây dựng các mô hình lớn. Các chuyên gia dày dạn kinh nghiệm tiết lộ, các tổ chức tài chính này đều hy vọng tự mình xây dựng mô hình lớn, tìm kiếm sự hướng dẫn từ các nhà sản xuất trong việc sản xuất tập dữ liệu, mua sắm máy chủ và đào tạo mô hình. Một công ty công nghệ tài chính thuộc sở hữu của một ngân hàng lớn thậm chí đã đề xuất, hy vọng sau khi hoàn thành còn có thể xuất khẩu cho các đối thủ khác.
Sau tháng 5, tình hình bắt đầu có sự thay đổi. Bị hạn chế bởi sự thiếu hụt tài nguyên tính toán, chi phí cao và các yếu tố khác, nhiều tổ chức tài chính không còn đơn thuần theo đuổi việc tự xây dựng sức mạnh tính toán và mô hình, mà thay vào đó tập trung nhiều hơn vào giá trị ứng dụng. Hiện nay, mỗi tổ chức tài chính đều quan tâm đến cách các tổ chức khác áp dụng mô hình lớn và hiệu quả đạt được.
Đối với các doanh nghiệp có quy mô khác nhau, cũng đã hình thành hai con đường. Các tổ chức tài chính lớn sở hữu lượng dữ liệu tài chính khổng lồ và các tình huống ứng dụng có thể đưa vào các mô hình lớn hàng đầu trong ngành, tự xây dựng mô hình lớn cho doanh nghiệp, đồng thời áp dụng phương pháp tinh chỉnh, hình thành các mô hình nhiệm vụ trong lĩnh vực chuyên môn, nhanh chóng tăng cường năng lực kinh doanh để bù đắp cho nhược điểm của việc xây dựng mô hình lớn mất quá nhiều thời gian. Trong khi đó, các tổ chức tài chính nhỏ và vừa có thể xem xét tổng hợp lợi tức đầu tư, theo nhu cầu đưa vào các API đám mây công cộng của các mô hình lớn hoặc dịch vụ triển khai riêng, đáp ứng trực tiếp nhu cầu tăng cường năng lực.
Tuy nhiên, do yêu cầu cao về tính tuân thủ dữ liệu, độ an toàn và độ tin cậy trong ngành tài chính, một số người cho rằng, tiến trình triển khai mô hình lớn trong ngành này thực tế chậm hơn một chút so với kỳ vọng ban đầu vào đầu năm. Ông Tôn Hồng Quân của Softcom cho biết, họ đã dự đoán ban đầu rằng ngành tài chính có thể sẽ là ngành đầu tiên áp dụng quy mô lớn mô hình lớn, nhưng từ tình hình cuối cùng với khách hàng, tiến trình của ngành tài chính không nhanh bằng các ngành như luật pháp, tuyển dụng.
Một số tổ chức tài chính đã bắt đầu tìm kiếm các giải pháp cho những "nút thắt" trong quá trình triển khai mô hình lớn.
Ví dụ trong lĩnh vực tính toán, các chuyên gia trong ngành đã quan sát thấy hiện nay có một số giải pháp xuất hiện trong ngành tài chính:
Đầu tiên, tự xây dựng sức mạnh tính toán, chi phí cao nhưng độ an toàn tốt nhất. Phù hợp với các tổ chức tài chính có sức mạnh mạnh mẽ, mong muốn tự xây dựng mô hình lớn trong ngành hoặc doanh nghiệp, như một số ngân hàng lớn thuộc sở hữu nhà nước.
Thứ hai, áp dụng phương thức triển khai hỗn hợp, trong điều kiện dữ liệu nhạy cảm không ra khỏi miền, gọi giao diện dịch vụ mô hình lớn từ đám mây công cộng, đồng thời xử lý dịch vụ dữ liệu địa phương thông qua triển khai tư nhân. Phương thức này có chi phí tương đối thấp, chỉ cần đầu tư vài trăm ngàn nhân dân tệ để mua vài thẻ GPU là có thể đáp ứng nhu cầu, phù hợp với các tổ chức tài chính vừa và nhỏ có khả năng tài chính yếu hơn và ứng dụng theo yêu cầu.
Tuy nhiên, dù vậy, nhiều tổ chức vừa và nhỏ vẫn đang đối mặt với vấn đề không thể mua được hoặc không đủ khả năng chi trả cho các thẻ GPU cần thiết cho mô hình lớn. Để giải quyết vấn đề này, những người có kinh nghiệm trên đã tiết lộ rằng các cơ quan quản lý gần đây đang tiến hành một số nghiên cứu đề tài, khám phá xem có thể xây dựng cơ sở hạ tầng mô hình lớn hướng tới ngành với cách tiếp cận thỏa hiệp hay không, tập trung vào sức mạnh tính toán và các nguồn tài nguyên mô hình lớn chung, để các tổ chức tài chính vừa và nhỏ trong ngành cũng có thể sử dụng dịch vụ mô hình lớn, ngăn chặn họ bị tụt lại về mặt công nghệ.
Ngoài vấn đề về sức mạnh tính toán, trong suốt nửa năm qua, với việc khám phá việc triển khai các mô hình lớn, nhiều tổ chức tài chính cũng dần tăng cường công tác quản trị dữ liệu.
Một giám đốc điều hành của một nhà cung cấp dịch vụ đám mây nổi tiếng cho biết, hiện tại bên cạnh những ngân hàng lớn có thực hành trưởng thành trong lĩnh vực quản trị dữ liệu, ngày càng nhiều tổ chức tài chính vừa và nhỏ cũng bắt đầu lần lượt xây dựng nền tảng dữ liệu và hệ thống quản trị dữ liệu, như một số ngân hàng địa phương trong nửa đầu năm nay. Ông cho rằng, việc xây dựng một hệ thống quản trị dữ liệu hoàn chỉnh và nền tảng công nghệ hồ dữ liệu sẽ trở thành chủ đề quan trọng trong xây dựng CNTT của các tổ chức tài chính trong tương lai.
Cũng có ngân hàng đang giải quyết vấn đề dữ liệu thông qua mô hình lớn + MLOps. Ví dụ, một ngân hàng lớn đã thiết lập hệ thống vòng khép kín dữ liệu mô hình lớn bằng cách áp dụng mô hình MLOps, đạt được sự tự động hóa toàn bộ quy trình, cũng như quản lý thống nhất và xử lý hiệu quả dữ liệu đa nguồn và dị dạng. Theo thông tin, hiện đã xây dựng và tích lũy được 2.6TB tập dữ liệu huấn luyện chất lượng cao.
Vào từ cảnh ngoại vi
Trong hơn nửa năm qua, cả các nhà cung cấp mô hình lớn lẫn các tổ chức tài chính lớn đều đang tích cực tìm kiếm các tình huống ứng dụng. Các lĩnh vực như văn phòng thông minh, phát triển thông minh, tiếp thị thông minh, dịch vụ khách hàng thông minh, nghiên cứu đầu tư thông minh, kiểm soát rủi ro thông minh, phân tích nhu cầu đang được khám phá từng bước.
Như một giám đốc điều hành của một công ty công nghệ tài chính nổi tiếng đã nói, "Mỗi chức năng quan trọng trong chuỗi công việc tài chính đều xứng đáng được làm lại bằng công nghệ mô hình lớn." Công ty này gần đây đã phát hành mô hình tài chính lớn và đang hợp tác với các tổ chức để thử nghiệm và xây dựng sản phẩm mô hình lớn hướng đến ngành tài chính, với mục tiêu tạo ra trợ lý AI toàn chuỗi cho các chuyên gia trong lĩnh vực tài chính như cố vấn tài chính, đại lý bảo hiểm, nghiên cứu đầu tư, tiếp thị tài chính và bồi thường bảo hiểm.
Mỗi tổ chức tài chính đều có những ý tưởng phong phú về việc ứng dụng mô hình lớn. Một ngân hàng lớn cho biết đã triển khai ứng dụng trong hơn 20 kịch bản nội bộ, một ngân hàng khác cho biết họ đã thử nghiệm trong hơn 30 kịch bản, trong khi một công ty chứng khoán cho biết đang khám phá việc kết nối mô hình lớn với nền tảng người số ảo mà họ đã ra mắt trước đó...
Nhưng khi muốn thực sự áp dụng mô hình lớn vào kinh doanh, sự đồng thuận phổ biến là bắt đầu từ nội bộ trước, sau đó mở rộng ra bên ngoài. Dù sao đi nữa, ở giai đoạn hiện tại, công nghệ mô hình lớn vẫn chưa trưởng thành, còn tồn tại những vấn đề như ảo giác, trong khi ngành tài chính lại là một lĩnh vực có sự quản lý chặt chẽ, an toàn cao và đáng tin cậy.
"Trong thời gian ngắn, không nên trực tiếp sử dụng cho khách hàng." Người đứng đầu công nghệ của một ngân hàng lớn cho rằng, các tổ chức tài chính nên ưu tiên áp dụng mô hình lớn vào các tình huống tập trung vào trí tuệ như phân tích và hiểu sáng tạo văn bản và hình ảnh tài chính, nhằm thực hiện sự hợp tác giữa con người và máy móc dưới dạng trợ lý, nâng cao hiệu quả công việc của nhân viên.
Các giám đốc điều hành của nhà cung cấp dịch vụ đám mây trên cũng cho biết, nhiều khách hàng trong lĩnh vực tài chính đều cho rằng trợ lý mã và trợ lý khách hàng là những trường hợp có thể mang lại kết quả ngay từ giai đoạn đầu. Trong khi đó, các trường hợp như nghiên cứu đầu tư và tư vấn đầu tư mặc dù có giá trị rất lớn nhưng khó có thể mang lại hiệu quả nhanh chóng và yêu cầu dữ liệu khá cao.
Hiện tại, trợ lý mã đã được áp dụng tại nhiều tổ chức tài chính. Ví dụ, một ngân hàng lớn đã xây dựng hệ thống phát triển thông minh dựa trên mô hình lớn, tỷ lệ mã được tạo ra bởi trợ lý mã chiếm 40% tổng lượng mã. Cũng như trong lĩnh vực bảo hiểm, một công ty bảo hiểm đã phát triển plugin hỗ trợ lập trình dựa trên mô hình lớn, được nhúng trực tiếp vào công cụ phát triển nội bộ.
Dựa trên điều này, một số nhà cung cấp cũng đang phát triển các sản phẩm sẵn sàng sử dụng cho khách hàng tài chính dựa trên khả năng tạo mã của mô hình lớn. Một giám đốc điều hành của một công ty dịch vụ CNTT cho biết, sản phẩm của họ đã thêm một loạt các chức năng như phân giải nhiệm vụ, trả lời chính xác và vượt qua giới hạn ngữ cảnh dựa trên khả năng hoàn thiện mã của mô hình lớn, để thực hiện trải nghiệm sử dụng ngay lập tức cho người dùng. Hiện tại, sản phẩm này đã được hơn 3000 người dùng tại một ngân hàng quốc tế, với tỷ lệ hoàn thiện mã tự động từ 50% đến 90%.
Trong lĩnh vực văn phòng thông minh cũng có nhiều trường hợp áp dụng thực tế. Một chuyên gia từ một công ty công nghệ lớn phụ trách sản phẩm mô hình lớn trong ngành tài chính cho biết, tính năng hỏi đáp tại điểm giao dịch mà họ phát triển dựa trên mô hình tài chính lớn đã được triển khai tại một ngân hàng lớn vào tháng 7 và đã được nhân rộng đến hàng trăm điểm giao dịch, với tỷ lệ chấp nhận câu trả lời vượt quá 85%. Hiện tại, giải pháp tiêu chuẩn được ươm tạo từ hỏi đáp tài liệu cũng đã nhanh chóng được sao chép sang nhiều ngân hàng và tổ chức tài chính khác.
Tuy nhiên, các chuyên gia trong ngành đánh giá rằng những kịch bản đã được triển khai rộng rãi này thực tế vẫn chưa phải là ứng dụng cốt lõi của các tổ chức tài chính, và mô hình lớn vẫn còn một khoảng cách nhất định để đi sâu vào các khía cạnh kinh doanh của ngành tài chính.
"Chúng tôi tự đánh giá, việc áp dụng trong các tình huống kinh doanh vẫn còn khá khó khăn." Một giám đốc điều hành của một công ty dịch vụ CNTT cho biết, các tình huống như tiếp thị, quản lý rủi ro và tuân thủ đều là những lĩnh vực mà mô hình lớn có thể mang lại sự thay đổi, đồng thời cũng là những điểm nhu cầu của khách hàng tài chính, nhưng theo tình hình hiện tại, những công việc này vẫn phụ thuộc vào khả năng nâng cao của các nhà cung cấp mô hình lớn, sau đó mới có thể triển khai các tình huống kinh doanh.
Các chuyên gia cao cấp từ các công ty lớn dự đoán rằng, trước cuối năm nay, sẽ có một số dự án xây dựng hoặc thông tin đấu thầu thực sự ứng dụng mô hình lớn trong các tình huống kinh doanh cốt lõi của các tổ chức tài chính.
Trước đó, một số thay đổi ở cấp thiết kế hàng đầu đang được thực hiện.
Tại một hội nghị ngành vào đầu tháng 9, một giáo sư nổi tiếng từ một trường đại học đã đưa ra một phán đoán như sau: Toàn bộ hệ thống thông minh và số hóa trong tương lai sẽ được xây dựng lại dựa trên nền tảng của các mô hình lớn. Điều này yêu cầu ngành tài chính phải tái cấu trúc hệ thống trong quá trình thúc đẩy việc triển khai các mô hình lớn. Đồng thời, cũng không thể bỏ qua giá trị của các mô hình nhỏ truyền thống, mà nên làm cho các mô hình lớn và nhỏ phối hợp với nhau.
Xu hướng này đã được thể hiện rộng rãi trong ngành tài chính. "Bây giờ các tổ chức tài chính đang thử nghiệm mô hình lớn, cơ bản sẽ áp dụng mô hình phân tầng." Một giám đốc điều hành của một nhà cung cấp dịch vụ đám mây cho biết, khác với mô hình xây dựng một nền tảng kiểu ống khói cho một kịch bản trong quá khứ, mô hình lớn thực sự đã cho các tổ chức tài chính một cơ hội để bắt đầu từ con số không, một cách khoa học hơn trong việc lập kế hoạch hệ thống tổng thể.
Có thể thấy, hiện tại đã có nhiều tổ chức tài chính hàng đầu dựa trên mô hình lớn, xây dựng hệ thống phân lớp với nhiều cấp độ bao gồm tầng hạ tầng, tầng mô hình, tầng dịch vụ mô hình lớn, tầng ứng dụng, chẳng hạn như nhiều ngân hàng lớn, công ty chứng khoán và công ty bảo hiểm.
Những khuôn khổ này thường có hai đặc điểm nổi bật: Thứ nhất, mô hình lớn phát huy khả năng trung tâm, gọi các mô hình truyền thống như là kỹ năng; Thứ hai, lớp mô hình lớn áp dụng chiến lược đa mô hình, tổ chức thi đua nội bộ, chọn ra hiệu quả tối ưu.
Trên thực tế, không chỉ các tổ chức tài chính, trong bối cảnh hiện tại chưa được xác định, một số nhà cung cấp ứng dụng mô hình lớn cũng đang áp dụng chiến lược đa mô hình để tối ưu hóa hiệu quả dịch vụ. Một giám đốc điều hành của một công ty dịch vụ CNTT tiết lộ rằng, tầng mô hình cơ sở của họ cũng kết hợp nhiều mô hình ngôn ngữ lớn, sẽ dựa trên câu trả lời trả về từ mỗi mô hình lớn, lắp ghép tối ưu sau đó cung cấp cho người dùng.
Khoảng cách nhân lực vẫn còn lớn
Việc ứng dụng các mô hình lớn đã bắt đầu mang lại một số thách thức và biến đổi cho cơ cấu nhân sự trong ngành tài chính.
Trước đó, một nhân viên của một công ty công nghệ tài chính ở Thượng Hải đã cho biết, với sự xuất hiện của ChatGPT, từ đầu năm nay đến cuối tháng 5, công ty của anh ta đã sa thải hơn 300 nhà phân tích dữ liệu lớn. Và vài năm trước, đây vẫn là một nghề rất hot. Điều này đã khiến anh ta lo lắng, thậm chí bắt đầu suy nghĩ trước về vấn đề nghề nghiệp trong tương lai của con gái mình.
Một chuyên gia dày dạn trong lĩnh vực tài chính đến từ một ngân hàng lớn cũng đã chia sẻ về hiệu ứng thay thế con người của mô hình lớn. Trước đây, mỗi sáng, các thực tập sinh sẽ tổng hợp thông tin từ nhiều lĩnh vực khác nhau và cung cấp cho người trong bộ phận nghiên cứu đầu tư, nhưng bây giờ những công việc này của thực tập sinh có thể được hoàn thành bởi mô hình lớn.
Tuy nhiên, một số ngân hàng thực sự không muốn các mô hình lớn dẫn đến việc giảm nhân sự. Chẳng hạn, một ngân hàng lớn với 200.000 nhân viên tại các điểm giao dịch đã rõ ràng yêu cầu các nhà cung cấp công nghệ rằng họ không muốn nhân viên bị thay thế bởi các mô hình lớn, mà nên để các mô hình lớn mang lại cơ hội mới, nâng cao chất lượng dịch vụ và hiệu suất làm việc của nhân viên, đồng thời cũng giải phóng một phần nhân viên để thực hiện nhiều công việc có giá trị cao hơn.
Điều này không thiếu những xem xét về nhân sự và cấu trúc ổn định. Nhưng mặt khác, cũng vì trong ngành còn nhiều vị trí thiếu nhân lực.
Một giám đốc điều hành của một công ty dịch vụ CNTT cho biết, các ngân hàng lớn có rất nhiều công việc chưa hoàn thành, một số yêu cầu CNTT thậm chí đã được lên lịch đến cuối năm sau, họ kỳ vọng rằng các mô hình lớn có thể giúp nhân viên hoàn thành nhiều công việc hơn, nâng cao hiệu quả và tốc độ, thay vì dẫn đến việc giảm nhân sự.
hơn
Mô hình lớn gặp thử thách thực sự