Eksplorasi Aplikasi Model Besar di Sektor Keuangan

Kehadiran ChatGPT telah membuat industri keuangan merasakan kecemasan yang kuat. Industri yang penuh dengan kepercayaan pada teknologi ini sangat takut tertinggal oleh gelombang zaman. Seorang pelaku industri menyatakan, pada bulan Mei tahun ini saat dia melakukan perjalanan dinas di Dali, bahkan di dalam kuil dia bisa mendengar para pelaku keuangan berdiskusi tentang model besar.

Namun, kecemasan ini secara bertahap mereda, dan pemikiran orang-orang menjadi lebih jelas dan rasional. CTO layanan perbankan Softcom, Sun Hongjun, menggambarkan beberapa tahap sikap industri keuangan terhadap model besar tahun ini: pada bulan Februari-Maret, secara umum merasa cemas; pada bulan April-Mei, banyak yang membentuk tim untuk mulai bekerja; beberapa bulan berikutnya, menghadapi kesulitan dalam penerapan, mulai menjadi rasional; sekarang, mereka memperhatikan kasus acuan, mencoba memvalidasi skenario yang telah teruji.

Perlu dicatat bahwa banyak lembaga keuangan telah mulai memberikan perhatian strategis terhadap model besar. Menurut statistik yang tidak lengkap, setidaknya ada 11 bank di perusahaan yang terdaftar di pasar A yang secara jelas menyebutkan dalam laporan setengah tahunan terbaru mereka bahwa mereka sedang menjajaki aplikasi model besar. Dari tindakan terkini, mereka juga sedang melakukan pemikiran dan perencanaan yang lebih mendalam dari sudut pandang strategi dan desain tingkat atas.

Dari antusiasme tinggi ke kembalinya rasionalitas

Seorang profesional senior di industri keuangan dari perusahaan besar mengatakan, dibandingkan beberapa bulan yang lalu, saat ini pemahaman klien keuangan tentang model besar telah meningkat secara signifikan. Pada awal tahun ketika ChatGPT baru muncul, meskipun antusiasme sangat tinggi, pemahaman tentang esensi dan cara aplikasi model besar sebenarnya masih terbatas.

Pada tahap ini, beberapa bank besar mengambil inisiatif, mulai melakukan berbagai promosi yang "menarik perhatian". Misalnya, pada bulan Maret tahun ini, sebuah bank meluncurkan aplikasi model besar mirip ChatGPT. Namun, penilaian di kalangan industri beragam, beberapa orang berpendapat bahwa nama aplikasi ini terlalu menekankan bagian "Chat" yang tidak begitu penting dalam ChatGPT, dan mengabaikan bagian "GPT" yang lebih kritis.

Sementara itu, seiring dengan banyaknya perusahaan di dalam negeri yang mulai merilis model besar, beberapa departemen teknologi di lembaga keuangan terkemuka mulai aktif berdiskusi dengan perusahaan besar mengenai pembangunan model besar. Sumber berpengalaman tersebut mengungkapkan bahwa lembaga keuangan ini umumnya berharap dapat membangun model besar sendiri, mencari panduan dari perusahaan dalam pembuatan dataset, pengadaan server, dan pelatihan model. Sebuah perusahaan teknologi keuangan yang dimiliki oleh bank besar bahkan mengusulkan, berharap dapat menyelesaikan dan kemudian mengekspor ke industri sejenis.

Setelah bulan Mei, situasi mulai berubah. Terbatasnya sumber daya komputasi, biaya yang tinggi, dan faktor lainnya, banyak lembaga keuangan tidak lagi hanya mengejar pembangunan sumber daya komputasi dan model sendiri, tetapi lebih memperhatikan nilai aplikasi. Sekarang setiap lembaga keuangan memperhatikan bagaimana lembaga lain menerapkan model besar dan hasil yang diperoleh.

Untuk berbagai skala perusahaan, telah terbentuk dua jalur. Institusi keuangan besar yang memiliki data keuangan yang sangat besar dan skenario aplikasi dapat memperkenalkan model dasar terkemuka di industri, membangun model besar perusahaan sendiri, dan pada saat yang sama menggunakan metode fine-tuning untuk membentuk model tugas bidang profesional, dengan cepat memberdayakan bisnis untuk mengatasi kekurangan dari siklus pembangunan model besar yang terlalu lama. Sementara itu, institusi keuangan kecil dan menengah dapat mempertimbangkan pengembalian investasi secara komprehensif, memperkenalkan berbagai API cloud publik atau layanan penerapan privat model besar sesuai kebutuhan, untuk langsung memenuhi kebutuhan pemberdayaan.

Namun, karena industri keuangan memiliki persyaratan tinggi terkait kepatuhan data, keamanan, dan keandalan, beberapa orang berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit lebih lambat dari yang diperkirakan pada awal tahun. Sun Hongjun dari Softtone menyatakan bahwa mereka awalnya memperkirakan industri keuangan mungkin akan menjadi yang pertama menggunakan model besar secara besar-besaran, tetapi dari situasi akhir dalam berkoordinasi dengan klien, kemajuan di industri keuangan tidak secepat di industri hukum, perekrutan, dan sebagainya.

Beberapa lembaga keuangan telah mulai mencari solusi untuk mengatasi berbagai "bottleneck" dalam proses penerapan model besar.

Misalnya dalam hal daya komputasi, para ahli di industri memperhatikan bahwa saat ini ada beberapa pemikiran solusi yang muncul di sektor keuangan:

Pertama, membangun kekuatan komputasi secara langsung, biayanya lebih tinggi tetapi keamanan terbaik. Cocok untuk lembaga keuangan yang kuat, yang ingin membangun model besar industri atau perusahaan sendiri, seperti beberapa bank besar milik negara.

Kedua, menggunakan cara penerapan campuran, dengan syarat bahwa data sensitif tidak keluar dari domain, memanggil antarmuka layanan model besar dari cloud publik, sambil memproses layanan data lokal melalui penerapan privat. Cara ini relatif lebih murah, hanya perlu menginvestasikan puluhan ribu yuan untuk membeli beberapa kartu GPU untuk memenuhi kebutuhan, cocok untuk lembaga keuangan kecil dan menengah yang memiliki kekuatan finansial yang lebih lemah dan aplikasi sesuai permintaan.

Namun, meskipun demikian, banyak lembaga kecil dan menengah masih menghadapi masalah tidak dapat membeli atau tidak mampu membeli kartu GPU yang diperlukan untuk model besar. Terkait dengan masalah ini, sumber senior yang disebutkan di atas mengungkapkan bahwa otoritas pengatur baru-baru ini sedang melakukan beberapa penelitian untuk mengeksplorasi apakah dapat dengan cara kompromi, memimpin pembangunan infrastruktur model besar yang ditujukan untuk industri, mengonsolidasikan kekuatan komputasi dan sumber daya model besar yang umum, sehingga lembaga keuangan kecil dan menengah di industri juga dapat menggunakan layanan model besar, untuk mencegah mereka tertinggal secara teknologi.

Selain masalah kekuatan komputasi, seiring dengan eksplorasi penerapan model besar dalam setengah tahun terakhir, banyak lembaga keuangan juga secara bertahap memperkuat pekerjaan tata kelola data.

Seorang eksekutif dari penyedia layanan cloud terkenal memperkenalkan, saat ini selain bank-bank besar yang telah memiliki praktik matang di bidang tata kelola data, semakin banyak lembaga keuangan menengah juga mulai membangun platform data dan sistem tata kelola data, seperti beberapa bank lokal di paruh pertama tahun ini. Dia percaya, membangun sistem tata kelola data yang lengkap dan platform teknologi data lake akan menjadi tema penting dalam pembangunan TI lembaga keuangan di masa depan.

Ada juga bank yang sedang menyelesaikan masalah data melalui pendekatan model besar + MLOps. Misalnya, sebuah bank besar telah membangun sistem data loop tertutup model besar dengan mengadopsi model MLOps, mencapai otomatisasi seluruh proses, serta manajemen yang terpadu dan pengolahan data heterogen multi-sumber yang efisien. Diketahui saat ini telah dibangun dan terakumulasi dataset pelatihan berkualitas tinggi sebesar 2,6TB.

Memasuki dari skenario luar

Selama lebih dari setengah tahun terakhir, baik penyedia layanan model besar maupun berbagai lembaga keuangan, telah aktif mencari skenario aplikasi. Kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian investasi cerdas, kontrol risiko cerdas, analisis kebutuhan dan bidang lainnya telah dieksplorasi satu per satu.

Seperti yang dikatakan oleh seorang eksekutif dari perusahaan fintech terkenal, "Setiap fungsi kunci dalam rantai bisnis keuangan layak untuk dibangun kembali dengan teknologi model besar." Perusahaan tersebut baru-baru ini meluncurkan model besar untuk keuangan dan sedang melakukan uji coba internal dengan mitra untuk membangun produk model besar yang ditujukan untuk industri keuangan, dengan tujuan menciptakan asisten bisnis AI sepanjang rantai untuk para ahli di bidang keuangan seperti penasihat investasi, agen asuransi, riset investasi, pemasaran keuangan, dan klaim asuransi.

Setiap lembaga keuangan memiliki gagasan yang kaya tentang penerapan model besar. Sebuah bank besar menyatakan bahwa mereka telah menerapkan lebih dari 20 skenario, sementara bank lain menyebutkan bahwa mereka telah melakukan uji coba di lebih dari 30 skenario, dan sebuah perusahaan sekuritas menyatakan bahwa mereka sedang menjelajahi integrasi model besar dengan platform manusia digital virtual yang diluncurkan sebelumnya...

Namun, ketika harus benar-benar menerapkan model besar ke dalam bisnis, konsensus umum adalah memulai dari internal terlebih dahulu, kemudian mempromosikannya ke luar. Bagaimanapun, pada tahap saat ini, teknologi model besar masih belum matang, ada masalah seperti halusinasi, dan industri keuangan adalah bidang yang sangat diatur, dengan keamanan tinggi dan keandalan tinggi.

"Dalam jangka pendek, tidak disarankan untuk digunakan langsung oleh klien." Seorang kepala teknologi dari bank besar berpendapat bahwa lembaga keuangan harus memprioritaskan penerapan model besar dalam analisis dan pemahaman teks serta gambar keuangan yang bersifat intensif intelektual, untuk mewujudkan kolaborasi manusia-mesin dalam bentuk asisten, sehingga meningkatkan efisiensi kerja staf bisnis.

Eksekutif penyedia layanan cloud tersebut juga menyatakan, banyak klien finansial yang percaya bahwa asisten kode dan asisten layanan pelanggan adalah skenario yang dapat langsung menghasilkan hasil di tahap awal. Sementara itu, skenario seperti penelitian investasi dan penasihat investasi, meskipun memiliki nilai yang besar, tetapi sulit untuk segera terlihat hasilnya, dan memiliki tuntutan data yang tinggi.

Saat ini, asisten kode telah diterapkan di banyak lembaga keuangan. Misalnya, salah satu bank besar telah membangun sistem penelitian dan pengembangan cerdas berbasis model besar, di mana proporsi kode yang dihasilkan oleh asisten pengkodean mencapai 40% dari total jumlah kode. Di bidang asuransi, sebuah perusahaan asuransi telah mengembangkan plugin pemrograman bantu berbasis model besar yang langsung disematkan ke dalam alat pengembangan internal.

Berdasarkan hal ini, beberapa vendor juga sedang mengembangkan produk siap pakai untuk klien keuangan yang berpusat pada kemampuan generasi kode dari model besar. Seorang eksekutif dari perusahaan layanan TI memperkenalkan bahwa salah satu produk mereka, di atas kemampuan pelengkapan kode dari model besar itu sendiri, menambahkan serangkaian fungsi seperti pemecahan tugas, jawaban yang akurat, dan pelanggaran batas konteks, untuk mewujudkan pengalaman siap pakai bagi pengguna. Saat ini, produk tersebut telah digunakan oleh lebih dari 3000 orang di sebuah bank internasional, dengan tingkat pelengkapan kode otomatis antara 50% hingga 90%.

Di bidang perkantoran cerdas juga terdapat banyak contoh implementasi. Seorang ahli dari perusahaan teknologi besar yang bertanggung jawab atas produk model besar di industri keuangan memperkenalkan, bahwa mereka meluncurkan fungsi tanya jawab di cabang berdasarkan model besar keuangan, yang telah diluncurkan pada bulan Juli di salah satu bank besar dan telah dipromosikan ke ratusan cabang, dengan tingkat penerimaan jawaban melebihi 85%. Saat ini, solusi standar yang diinkubasi dari tanya jawab dokumen dengan cepat diperbanyak ke beberapa bank dan institusi keuangan lainnya.

Namun, para ahli industri menilai bahwa skenario yang telah diterapkan secara luas ini sebenarnya masih bukan aplikasi inti dari lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk mencapai lapisan bisnis di industri keuangan.

"Kami menilai, bahwa kesulitan dalam menerapkan ini di bidang aplikasi bisnis cukup besar." Seorang eksekutif senior dari perusahaan layanan TI menyatakan, bahwa pemasaran, manajemen risiko, kepatuhan, dan skenario lainnya adalah bagian di mana model besar dapat membawa perubahan, sekaligus juga merupakan titik kebutuhan bagi klien keuangan. Namun, dalam situasi saat ini, pekerjaan ini masih tergantung pada peningkatan kemampuan dari penyedia model besar di bawahnya, sebelum dapat menerapkan skenario bisnis.

Orang-orang senior dari perusahaan besar yang disebutkan di atas memperkirakan bahwa sebelum akhir tahun ini, akan ada sekelompok proyek pembangunan atau informasi tender yang benar-benar menerapkan model besar dalam skenario bisnis inti lembaga keuangan.

Sebelum ini, beberapa perubahan pada tingkat desain tingkat atas sedang dilakukan.

Pada awal September, dalam sebuah konferensi industri, seorang profesor dari universitas terkemuka membuat penilaian seperti ini: seluruh sistem cerdas dan digital di masa depan akan dibangun kembali di atas dasar model besar. Ini mengharuskan industri keuangan untuk merestrukturisasi sistem dalam proses penerapan model besar. Pada saat yang sama, nilai model kecil tradisional juga tidak boleh diabaikan, dan seharusnya model besar dan model kecil dapat berkolaborasi.

Tren ini telah secara luas tercermin dalam industri keuangan. "Sekarang lembaga keuangan sedang menguji coba model besar, yang pada dasarnya akan mengambil pola berlapis." Seorang eksekutif dari penyedia layanan cloud memperkenalkan, berbeda dengan model silo di mana satu platform perlu dibangun untuk satu skenario di masa lalu, model besar sebenarnya memberikan lembaga keuangan kesempatan untuk merencanakan sistem secara keseluruhan dengan lebih ilmiah dari awal.

Saat ini, sudah ada beberapa lembaga keuangan terkemuka yang berdasarkan model besar, telah membangun kerangka sistem berlapis yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi, seperti beberapa bank besar, perusahaan sekuritas, dan perusahaan asuransi.

Kerangka kerja ini umumnya memiliki dua ciri khas yang menonjol: yang pertama, model besar memainkan kemampuan sentral, memanggil model tradisional sebagai keterampilan; yang kedua, lapisan model besar mengadopsi strategi multi-model, melakukan perlombaan internal untuk memilih efek terbaik.

Sebenarnya, tidak hanya lembaga keuangan, dalam situasi yang belum pasti saat ini, beberapa penyedia aplikasi model besar juga mengadopsi strategi multi-model untuk memilih layanan yang lebih baik. Seorang eksekutif dari perusahaan layanan TI mengungkapkan bahwa lapisan model dasar mereka juga mengintegrasikan banyak model bahasa besar, dan akan menyusun jawaban terbaik berdasarkan respons dari setiap model besar untuk diberikan kepada pengguna.

Kesenjangan tenaga kerja masih besar

Aplikasi model besar telah mulai menghadirkan tantangan dan perubahan terhadap struktur tenaga kerja di industri keuangan.

Sebelumnya, seorang pejabat di perusahaan teknologi keuangan di Shanghai menyatakan bahwa dengan munculnya ChatGPT, dari awal tahun ini hingga akhir Mei, perusahaannya telah mem-PHK lebih dari 300 analis data besar. Dan beberapa tahun yang lalu, ini adalah profesi yang sangat diminati. Hal ini sempat menimbulkan kecemasan baginya, bahkan mulai mempertimbangkan masalah pemilihan karir putrinya di masa depan.

Seorang profesional senior di bidang keuangan dari sebuah bank besar juga berbagi tentang efek penggantian manusia oleh model besar. Dulu, setiap pagi, seorang magang akan mengumpulkan berbagai informasi dan menyampaikannya kepada orang-orang di departemen riset dan investasi, tetapi sekarang pekerjaan magang ini dapat diselesaikan melalui model besar.

Namun, beberapa bank sebenarnya tidak ingin model besar menyebabkan pengurangan karyawan. Misalnya, sebuah bank besar yang memiliki 200.000 karyawan di berbagai cabang secara jelas mengungkapkan kepada penyedia teknologi bahwa mereka tidak ingin karyawan mereka digantikan oleh model besar, tetapi seharusnya model besar membawa peluang baru, meningkatkan kualitas layanan dan efisiensi kerja karyawan, sekaligus juga membebaskan sebagian karyawan untuk melakukan lebih banyak hal yang bernilai tinggi.

Di antara ini, ada pertimbangan stabilitas personel dan struktur. Namun di sisi lain, juga karena banyak posisi di dalam industri masih kekurangan tenaga kerja.

Seorang eksekutif dari perusahaan layanan TI menyatakan bahwa bank-bank besar memiliki banyak pekerjaan yang belum selesai, beberapa permintaan TI bahkan dijadwalkan hingga akhir tahun depan. Mereka berharap model besar dapat membantu karyawan menyelesaikan lebih banyak pekerjaan, meningkatkan efisiensi dan kecepatan, alih-alih mengurangi jumlah karyawan.

lebih