Дослідження застосування великих моделей у фінансовій сфері
Поява ChatGPT викликала сильне занепокоєння у фінансовій сфері. Ця галузь, яка рясніє вірою в технології, боїться залишитися позаду у хвилі часу. Представники галузі зазначили, що в травні цього року під час відрядження до Далі вони навіть чули обговорення великих моделей у храмі.
Однак, ця тривога поступово вщухає, і думки людей стають яснішими і раціональнішими. Сунь Хунцзюнь, CTO банківського бізнесу Softcom, описав кілька етапів ставлення фінансової сфери до великих моделей цього року: у лютому-березні панувала загальна тривога; у квітні-травні всі почали формувати команди для роботи; в наступні кілька місяців, стикаючись з труднощами в реалізації, почали ставитися до ситуації раціональніше; зараз вони звертають увагу на еталонні випадки, намагаючись перевірити перевірені сценарії.
Слід зазначити, що багато фінансових установ вже почали стратегічно звертати увагу на великі моделі. За неповними даними, серед компаній, що котируються на A-акціях, принаймні 11 банків у своїх останніх піврічних звітах чітко вказали, що вони досліджують застосування великих моделей. З останніх дій видно, що вони також починають проводити більш глибоке обдумування та планування з стратегічного та верхнього рівня.
Від палкого захоплення до раціонального повернення
Один із досвідчених фахівців фінансової індустрії великих компаній зазначив, що порівняно з кількома місяцями тому, зараз фінансові клієнти значно краще розуміють великі моделі. На початку року, коли з'явився ChatGPT, хоча у всіх була висока зацікавленість, але насправді розуміння сутності великих моделей та способів їх застосування було обмеженим.
На цьому етапі деякі великі банки взяли ініціативу, почавши робити різноманітну рекламу, що «підхоплює хвилю». Наприклад, у березні цього року один банк запустив додаток на основі великої моделі, подібної до ChatGPT. Але в галузі це отримало різні оцінки: деякі вважають, що назва цього додатку надто акцентує увагу на не надто важливій частині «Chat» у ChatGPT, ігноруючи більш критичну частину «GPT».
Одночасно, з появою багатьох вітчизняних компаній, які випускають великі моделі, деякі провідні фінансові установи почали активно обговорювати питання побудови великих моделей з великими компаніями. За словами зазначеного експерта, ці фінансові установи загалом сподіваються створити власні великі моделі, шукаючи порад від постачальників у питаннях підготовки наборів даних, закупівлі серверів та навчання моделей. Одна з великих банківських компаній навіть висунула пропозицію, що після завершення вони зможуть також надавати своїм конкурентам.
Після травня ситуація почала змінюватися. Обмеженість ресурсів обчислювальної потужності, високі витрати та інші фактори змусили багато фінансових установ більше не переслідувати просте створення власних обчислювальних потужностей і моделей, а натомість звернути більше уваги на прикладну цінність. Тепер кожна фінансова установа стежить за тим, як інші установи застосовують великі моделі та які результати вони отримують.
Для підприємств різного розміру сформувалися два шляхи. Великі фінансові установи, які мають величезну кількість фінансових даних та сценаріїв застосування, можуть впроваджувати передові базові моделі галузі, створювати корпоративні великі моделі, а також використовувати методи доопрацювання для формування спеціалізованих великих моделей завдань, швидко надаючи підтримку бізнесу, щоб компенсувати недостаток тривалого циклу створення великих моделей. Натомість малі та середні фінансові установи можуть враховувати рентабельність інвестицій, впроваджуючи за потребою API публічних хмар або послуги приватного розгортання для різних великих моделей, щоб безпосередньо задовольнити потреби в підтримці.
Однак, через високі вимоги фінансової галузі до відповідності даних, безпеки та надійності, деякі вважають, що впровадження великих моделей у цій галузі насправді відбувається трохи повільніше, ніж очікувалося на початку року. Сун Хунцзюнь з SoftTong Power зазначив, що спочатку вони очікували, що фінансова галузь може бути першою, яка масово використовує великі моделі, але з огляду на останні дані про інтеграцію з клієнтами, прогрес у фінансовій галузі не такий швидкий, як у юридичній, рекрутинговій та інших галузях.
Деякі фінансові установи вже почали шукати способи вирішення різних "вузьких місць" у процесі впровадження великих моделей.
Наприклад, у сфері обчислювальної потужності, експерти галузі зауважили, що в фінансовій сфері наразі з'явилися кілька рішень:
По-перше, безпосереднє створення обчислювальної потужності, витрати високі, але безпека найкраща. Підходить для фінансових установ з великими можливостями, які хочуть створити галузеву або корпоративну велику модель, такі як деякі великі державні банки.
По-друге, використовуючи змішаний спосіб розгортання, при цьому чутливі дані не покидають домен, з публічної хмари викликаються інтерфейси великих моделей сервісів, одночасно обробляючи локальні дані через приватне розгортання. Цей спосіб є відносно недорогим, потрібно вкласти лише кілька сотень тисяч юанів у купівлю кількох графічних процесорів, що відповідає потребам, підходить для малих і середніх фінансових установ з обмеженими фінансовими можливостями та за запитом.
Проте, навіть незважаючи на це, багато малих і середніх установ все ще стикаються з проблемою неможливості купити або дозволити собі графічні карти GPU, необхідні для великих моделей. Щодо цієї проблеми, вказані досвідчені фахівці розповіли, що регуляторні органи нещодавно почали проводити деякі дослідження, щоб вивчити можливість створення інфраструктури великих моделей для галузі в компромісний спосіб, зосередивши обчислювальні потужності та ресурси загальних великих моделей, щоб малі та середні фінансові установи в галузі також мали доступ до послуг великих моделей і не відставали в технологічному плані.
Окрім проблеми обчислювальної потужності, останні півроку під час вивчення впровадження великих моделей, багато фінансових установ також поступово посилили роботу з управління даними.
Високопосадовець відомого постачальника хмарних послуг зазначив, що наразі, крім провідних великих банків, які мають зрілі практики в сфері управління даними, все більше середніх фінансових установ починають поступово будувати центри даних та системи управління даними, такі як деякі місцеві банки в першій половині цього року. Він вважає, що створення досконалої системи управління даними та технологічної платформи "озера даних" стане важливою темою для ІТ-будівництва фінансових установ у майбутньому.
Є також банки, які вирішують проблеми з даними за допомогою великих моделей + MLOps. Наприклад, один великий банк, застосувавши модель MLOps, створив систему замкненого циклу даних великих моделей, що дозволило автоматизувати весь процес, а також забезпечити єдине управління та ефективну обробку багатоджерельних гетерогенних даних. Відомо, що наразі вже створено та збережено 2,6 ТБ високоякісного навчального набору даних.
Вхід з зовнішньої сцени
Протягом останніх півроку, як постачальники великих моделей, так і великі фінансові установи активно шукають сценарії застосування. Розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальне обслуговування клієнтів, розумні інвестиційні дослідження, інтелектуальний контроль ризиків, аналіз попиту та інші сфери поступово досліджуються.
Як сказав один із керівників відомої фінансово-технологічної компанії: "Кожна ключова функція в ланцюгу фінансових послуг заслуговує на повторне створення за допомогою технології великих моделей." Нещодавно ця компанія випустила фінансову велику модель і наразі спільно з партнерами проводить тестування та розробку продуктів великої моделі, орієнтованих на фінансову індустрію, з метою створення повноцінного AI бізнес-асистента для фінансових консультантів, страхових агентів, інвестиційних дослідників, фінансового маркетингу, страхових виплат та інших експертів у фінансовій сфері.
Кожен фінансовий заклад має багатий спектр ідей щодо застосування великих моделей. Один великий банк заявив, що вже впровадив більше 20 сцен, інший банк повідомив, що вони провели пілотні проекти в більш ніж 30 сценах, а одна фондова компанія зазначила, що досліджує можливість інтеграції великих моделей з раніше запущеною платформою віртуальних цифрових людей...
Але коли йдеться про реальне впровадження великих моделей у бізнес, загальне визнання полягає в тому, що спочатку потрібно почати з внутрішніх процесів, а потім переходити до зовнішнього просування. Адже на поточному етапі технології великих моделей ще не є зрілими, існують такі проблеми, як ілюзії, а фінансова сфера є сферою з високим рівнем регулювання, безпеки та довіри.
"Короткостроково не рекомендується безпосередньо використовувати для клієнтів." Технічний керівник великого банку вважає, що фінансові установи повинні в першу чергу застосувати великі моделі для аналізу та розуміння фінансових текстів і фінансових зображень в інтелектуально інтенсивних сценаріях, реалізуючи людсько-машинну співпрацю у формі асистента, щоб підвищити ефективність роботи співробітників.
Вищезазначені керівники хмарних сервісів також зазначили, що багато фінансових клієнтів вважають, що асистенти коду та асистенти служби підтримки - це ті сцени, які можуть безпосередньо приносити результати на початкових етапах. А такі сцени, як дослідження інвестицій та інвестиційні консультації, хоча й мають велику цінність, проте їх важко швидко реалізувати, і вони мають високі вимоги до даних.
Наразі кодовий асистент вже впроваджено в багатьох фінансових установах. Наприклад, один великий банк створив розумну систему розробки на основі великих моделей, де обсяг коду, згенерованого асистентом кодування, становить 40% від загального обсягу коду. Ще один приклад у сфері страхування: одна страхова компанія розробила плагін для допоміжного програмування на основі великих моделей, який безпосередньо вбудовано в внутрішні інструменти розробки.
На основі цього деякі виробники також створюють готові до використання продукти для фінансових клієнтів на основі можливостей генерації коду великих моделей. Один з керівників ІТ-сервісної компанії розповів, що їхній продукт, на базі можливостей автозаповнення коду великої моделі, додав цілий ряд функцій, таких як розподіл завдань, точні відповіді, подолання обмежень контексту та ін., що дозволяє користувачам використовувати продукт відразу. Наразі цей продукт використовується більш ніж 3000 людьми в одному з міжнародних банків, а рівень автозаповнення коду становить 50%~90%.
У сфері розумного офісу також є чимало практичних прикладів. Експерт великої технологічної компанії, відповідальний за продукти великої моделі в фінансовій сфері, розповів, що вони на основі великої фінансової моделі запустили функцію запитів і відповідей для відділень, яка після запуску в липні в одному з великих банків вже була поступово впроваджена в кілька сотень відділень, а рівень прийняття відповідей перевищує 85%. Наразі стандартне рішення, яке виникло з запитів і відповідей на документи, швидко копіюється в інші банки та фінансові установи.
Однак, експерти галузі вважають, що ці вже широко впроваджені сценарії насправді ще не є основними застосуваннями фінансових установ, а великі моделі ще мають певну відстань до глибокого проникнення в бізнес-основи фінансової галузі.
"Ми самі оцінюємо, що в бізнесових сценаріях це досить складно." Зазначив один з керівників IT-сервісної компанії, що маркетинг, управління ризиками, відповідність вимогам тощо – це сфери, в яких великі моделі можуть принести зміни, і одночасно це частини, де знаходяться потреби фінансових клієнтів. Проте, на даний момент, ці роботи все ще залежать від покращення можливостей постачальників основних великих моделей, щоб реалізувати бізнес-сценарії.
Вищезгадані досвідчені фахівці з великих моделей прогнозують, що до кінця цього року з'явиться низка проектів або тендерної інформації, які справді використовують великі моделі в основних бізнес-сценаріях фінансових установ.
Перед цим проводяться деякі зміни на рівні верхнього дизайну.
На початку вересня на одній з галузевих конференцій відомий професор університету зробив таке припущення: майбутня вся система інтелектуалізації та цифровізації буде знову побудована на основі великих моделей. Це вимагає від фінансової галузі в процесі впровадження великих моделей перебудувати системи. Водночас не можна ігнорувати цінність традиційних малих моделей, а слід забезпечити їхню співпрацю з великими моделями.
Ця тенденція вже широко проявилася у фінансовій сфері. "Зараз фінансові установи випробовують великі моделі, зазвичай використовують багаторівневу модель." Керівник одного з постачальників хмарних послуг зазначив, що на відміну від минулої моделі, коли для одного сценарію потрібно було створити платформу в стилі димової труби, великі моделі насправді дали фінансовим установам можливість почати з нуля і більш науково підійти до загального системного планування.
Можна побачити, що наразі вже кілька провідних фінансових установ на основі великих моделей побудували багатошарову системну架构, що включає в себе інфраструктурний рівень, рівень моделі, рівень послуг великих моделей, рівень застосунків тощо, такі як кілька великих банків, брокерських компаній та страхових компаній.
Ці рамкові системи загалом мають дві основні виразні характеристики: по-перше, великі моделі виконують центральну роль, використовуючи традиційні моделі як навички; по-друге, на рівні великих моделей застосовується стратегія багатьох моделей, де проводиться внутрішня конкуренція, щоб вибрати найкращий результат.
Насправді, не лише фінансові установи, в умовах невизначеності поточної ситуації деякі постачальники застосувань великих моделей також використовують стратегію багатомоделей, щоб оптимізувати ефективність послуг. Один з керівників ІТ-сервісної компанії повідомив, що їхній базовий модельний рівень також об'єднує велику кількість великих мовних моделей, які будуть збирати оптимізовані відповіді на основі відповідей кожної великої моделі для надання користувачам.
Вакансії все ще величезні
Застосування великих моделей вже почало викликати деякі виклики та зміни в структурі персоналу фінансової галузі.
Раніше представник фінансово-технологічної компанії в Шанхаї заявив, що з появою ChatGPT його компанія вже звільнила понад 300 аналітиків великих даних з початку цього року до кінця травня. А кілька років тому це була дуже затребувана професія. Це викликало у нього тривогу, навіть він почав заздалегідь думати про вибір професії для своєї доньки в майбутньому.
Фахівець у фінансовій сфері з великого банку також поділився ефектом заміщення людей великими моделями. Раніше в банку кожного ранку стажисти збирали та узагальнювали різноманітну інформацію, а потім передавали її людям з інвестиційно-дослідницького відділу, але тепер ці завдання стажистів можуть виконувати великі моделі.
Проте деякі банки насправді не хочуть, щоб великі моделі призводили до скорочення персоналу. Наприклад, одна велика банк, що має 200 тисяч співробітників у відділеннях, чітко заявив постачальникам технологій, що вони не хочуть, щоб співробітників замінювали великі моделі, а навпаки, великі моделі повинні приносити нові можливості, підвищувати якість обслуговування та ефективність роботи співробітників, а також звільняти частину співробітників для виконання більш цінних завдань.
У цьому не бракує розгляду стабільності персоналу та структури. Але з іншого боку, також через те, що в багатьох посадах в галузі ще є дефіцит кадрів.
Директор однієї IT-сервісної компанії зазначив, що великі банки мають багато незавершених справ, деякі IT-вимоги навіть заплановані до виконання на кінець наступного року. Вони сподіваються, що великі моделі допоможуть співробітникам виконувати більше роботи, підвищити ефективність і швидкість, а не призведуть до скорочення персоналу.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Дослідження застосування великих моделей у фінансовій сфері: від тривоги до раціональності, сценарії впровадження поступово стають зрозумілішими
Дослідження застосування великих моделей у фінансовій сфері
Поява ChatGPT викликала сильне занепокоєння у фінансовій сфері. Ця галузь, яка рясніє вірою в технології, боїться залишитися позаду у хвилі часу. Представники галузі зазначили, що в травні цього року під час відрядження до Далі вони навіть чули обговорення великих моделей у храмі.
Однак, ця тривога поступово вщухає, і думки людей стають яснішими і раціональнішими. Сунь Хунцзюнь, CTO банківського бізнесу Softcom, описав кілька етапів ставлення фінансової сфери до великих моделей цього року: у лютому-березні панувала загальна тривога; у квітні-травні всі почали формувати команди для роботи; в наступні кілька місяців, стикаючись з труднощами в реалізації, почали ставитися до ситуації раціональніше; зараз вони звертають увагу на еталонні випадки, намагаючись перевірити перевірені сценарії.
Слід зазначити, що багато фінансових установ вже почали стратегічно звертати увагу на великі моделі. За неповними даними, серед компаній, що котируються на A-акціях, принаймні 11 банків у своїх останніх піврічних звітах чітко вказали, що вони досліджують застосування великих моделей. З останніх дій видно, що вони також починають проводити більш глибоке обдумування та планування з стратегічного та верхнього рівня.
Від палкого захоплення до раціонального повернення
Один із досвідчених фахівців фінансової індустрії великих компаній зазначив, що порівняно з кількома місяцями тому, зараз фінансові клієнти значно краще розуміють великі моделі. На початку року, коли з'явився ChatGPT, хоча у всіх була висока зацікавленість, але насправді розуміння сутності великих моделей та способів їх застосування було обмеженим.
На цьому етапі деякі великі банки взяли ініціативу, почавши робити різноманітну рекламу, що «підхоплює хвилю». Наприклад, у березні цього року один банк запустив додаток на основі великої моделі, подібної до ChatGPT. Але в галузі це отримало різні оцінки: деякі вважають, що назва цього додатку надто акцентує увагу на не надто важливій частині «Chat» у ChatGPT, ігноруючи більш критичну частину «GPT».
Одночасно, з появою багатьох вітчизняних компаній, які випускають великі моделі, деякі провідні фінансові установи почали активно обговорювати питання побудови великих моделей з великими компаніями. За словами зазначеного експерта, ці фінансові установи загалом сподіваються створити власні великі моделі, шукаючи порад від постачальників у питаннях підготовки наборів даних, закупівлі серверів та навчання моделей. Одна з великих банківських компаній навіть висунула пропозицію, що після завершення вони зможуть також надавати своїм конкурентам.
Після травня ситуація почала змінюватися. Обмеженість ресурсів обчислювальної потужності, високі витрати та інші фактори змусили багато фінансових установ більше не переслідувати просте створення власних обчислювальних потужностей і моделей, а натомість звернути більше уваги на прикладну цінність. Тепер кожна фінансова установа стежить за тим, як інші установи застосовують великі моделі та які результати вони отримують.
Для підприємств різного розміру сформувалися два шляхи. Великі фінансові установи, які мають величезну кількість фінансових даних та сценаріїв застосування, можуть впроваджувати передові базові моделі галузі, створювати корпоративні великі моделі, а також використовувати методи доопрацювання для формування спеціалізованих великих моделей завдань, швидко надаючи підтримку бізнесу, щоб компенсувати недостаток тривалого циклу створення великих моделей. Натомість малі та середні фінансові установи можуть враховувати рентабельність інвестицій, впроваджуючи за потребою API публічних хмар або послуги приватного розгортання для різних великих моделей, щоб безпосередньо задовольнити потреби в підтримці.
Однак, через високі вимоги фінансової галузі до відповідності даних, безпеки та надійності, деякі вважають, що впровадження великих моделей у цій галузі насправді відбувається трохи повільніше, ніж очікувалося на початку року. Сун Хунцзюнь з SoftTong Power зазначив, що спочатку вони очікували, що фінансова галузь може бути першою, яка масово використовує великі моделі, але з огляду на останні дані про інтеграцію з клієнтами, прогрес у фінансовій галузі не такий швидкий, як у юридичній, рекрутинговій та інших галузях.
Деякі фінансові установи вже почали шукати способи вирішення різних "вузьких місць" у процесі впровадження великих моделей.
Наприклад, у сфері обчислювальної потужності, експерти галузі зауважили, що в фінансовій сфері наразі з'явилися кілька рішень:
По-перше, безпосереднє створення обчислювальної потужності, витрати високі, але безпека найкраща. Підходить для фінансових установ з великими можливостями, які хочуть створити галузеву або корпоративну велику модель, такі як деякі великі державні банки.
По-друге, використовуючи змішаний спосіб розгортання, при цьому чутливі дані не покидають домен, з публічної хмари викликаються інтерфейси великих моделей сервісів, одночасно обробляючи локальні дані через приватне розгортання. Цей спосіб є відносно недорогим, потрібно вкласти лише кілька сотень тисяч юанів у купівлю кількох графічних процесорів, що відповідає потребам, підходить для малих і середніх фінансових установ з обмеженими фінансовими можливостями та за запитом.
Проте, навіть незважаючи на це, багато малих і середніх установ все ще стикаються з проблемою неможливості купити або дозволити собі графічні карти GPU, необхідні для великих моделей. Щодо цієї проблеми, вказані досвідчені фахівці розповіли, що регуляторні органи нещодавно почали проводити деякі дослідження, щоб вивчити можливість створення інфраструктури великих моделей для галузі в компромісний спосіб, зосередивши обчислювальні потужності та ресурси загальних великих моделей, щоб малі та середні фінансові установи в галузі також мали доступ до послуг великих моделей і не відставали в технологічному плані.
Окрім проблеми обчислювальної потужності, останні півроку під час вивчення впровадження великих моделей, багато фінансових установ також поступово посилили роботу з управління даними.
Високопосадовець відомого постачальника хмарних послуг зазначив, що наразі, крім провідних великих банків, які мають зрілі практики в сфері управління даними, все більше середніх фінансових установ починають поступово будувати центри даних та системи управління даними, такі як деякі місцеві банки в першій половині цього року. Він вважає, що створення досконалої системи управління даними та технологічної платформи "озера даних" стане важливою темою для ІТ-будівництва фінансових установ у майбутньому.
Є також банки, які вирішують проблеми з даними за допомогою великих моделей + MLOps. Наприклад, один великий банк, застосувавши модель MLOps, створив систему замкненого циклу даних великих моделей, що дозволило автоматизувати весь процес, а також забезпечити єдине управління та ефективну обробку багатоджерельних гетерогенних даних. Відомо, що наразі вже створено та збережено 2,6 ТБ високоякісного навчального набору даних.
Вхід з зовнішньої сцени
Протягом останніх півроку, як постачальники великих моделей, так і великі фінансові установи активно шукають сценарії застосування. Розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальне обслуговування клієнтів, розумні інвестиційні дослідження, інтелектуальний контроль ризиків, аналіз попиту та інші сфери поступово досліджуються.
Як сказав один із керівників відомої фінансово-технологічної компанії: "Кожна ключова функція в ланцюгу фінансових послуг заслуговує на повторне створення за допомогою технології великих моделей." Нещодавно ця компанія випустила фінансову велику модель і наразі спільно з партнерами проводить тестування та розробку продуктів великої моделі, орієнтованих на фінансову індустрію, з метою створення повноцінного AI бізнес-асистента для фінансових консультантів, страхових агентів, інвестиційних дослідників, фінансового маркетингу, страхових виплат та інших експертів у фінансовій сфері.
Кожен фінансовий заклад має багатий спектр ідей щодо застосування великих моделей. Один великий банк заявив, що вже впровадив більше 20 сцен, інший банк повідомив, що вони провели пілотні проекти в більш ніж 30 сценах, а одна фондова компанія зазначила, що досліджує можливість інтеграції великих моделей з раніше запущеною платформою віртуальних цифрових людей...
Але коли йдеться про реальне впровадження великих моделей у бізнес, загальне визнання полягає в тому, що спочатку потрібно почати з внутрішніх процесів, а потім переходити до зовнішнього просування. Адже на поточному етапі технології великих моделей ще не є зрілими, існують такі проблеми, як ілюзії, а фінансова сфера є сферою з високим рівнем регулювання, безпеки та довіри.
"Короткостроково не рекомендується безпосередньо використовувати для клієнтів." Технічний керівник великого банку вважає, що фінансові установи повинні в першу чергу застосувати великі моделі для аналізу та розуміння фінансових текстів і фінансових зображень в інтелектуально інтенсивних сценаріях, реалізуючи людсько-машинну співпрацю у формі асистента, щоб підвищити ефективність роботи співробітників.
Вищезазначені керівники хмарних сервісів також зазначили, що багато фінансових клієнтів вважають, що асистенти коду та асистенти служби підтримки - це ті сцени, які можуть безпосередньо приносити результати на початкових етапах. А такі сцени, як дослідження інвестицій та інвестиційні консультації, хоча й мають велику цінність, проте їх важко швидко реалізувати, і вони мають високі вимоги до даних.
Наразі кодовий асистент вже впроваджено в багатьох фінансових установах. Наприклад, один великий банк створив розумну систему розробки на основі великих моделей, де обсяг коду, згенерованого асистентом кодування, становить 40% від загального обсягу коду. Ще один приклад у сфері страхування: одна страхова компанія розробила плагін для допоміжного програмування на основі великих моделей, який безпосередньо вбудовано в внутрішні інструменти розробки.
На основі цього деякі виробники також створюють готові до використання продукти для фінансових клієнтів на основі можливостей генерації коду великих моделей. Один з керівників ІТ-сервісної компанії розповів, що їхній продукт, на базі можливостей автозаповнення коду великої моделі, додав цілий ряд функцій, таких як розподіл завдань, точні відповіді, подолання обмежень контексту та ін., що дозволяє користувачам використовувати продукт відразу. Наразі цей продукт використовується більш ніж 3000 людьми в одному з міжнародних банків, а рівень автозаповнення коду становить 50%~90%.
У сфері розумного офісу також є чимало практичних прикладів. Експерт великої технологічної компанії, відповідальний за продукти великої моделі в фінансовій сфері, розповів, що вони на основі великої фінансової моделі запустили функцію запитів і відповідей для відділень, яка після запуску в липні в одному з великих банків вже була поступово впроваджена в кілька сотень відділень, а рівень прийняття відповідей перевищує 85%. Наразі стандартне рішення, яке виникло з запитів і відповідей на документи, швидко копіюється в інші банки та фінансові установи.
Однак, експерти галузі вважають, що ці вже широко впроваджені сценарії насправді ще не є основними застосуваннями фінансових установ, а великі моделі ще мають певну відстань до глибокого проникнення в бізнес-основи фінансової галузі.
"Ми самі оцінюємо, що в бізнесових сценаріях це досить складно." Зазначив один з керівників IT-сервісної компанії, що маркетинг, управління ризиками, відповідність вимогам тощо – це сфери, в яких великі моделі можуть принести зміни, і одночасно це частини, де знаходяться потреби фінансових клієнтів. Проте, на даний момент, ці роботи все ще залежать від покращення можливостей постачальників основних великих моделей, щоб реалізувати бізнес-сценарії.
Вищезгадані досвідчені фахівці з великих моделей прогнозують, що до кінця цього року з'явиться низка проектів або тендерної інформації, які справді використовують великі моделі в основних бізнес-сценаріях фінансових установ.
Перед цим проводяться деякі зміни на рівні верхнього дизайну.
На початку вересня на одній з галузевих конференцій відомий професор університету зробив таке припущення: майбутня вся система інтелектуалізації та цифровізації буде знову побудована на основі великих моделей. Це вимагає від фінансової галузі в процесі впровадження великих моделей перебудувати системи. Водночас не можна ігнорувати цінність традиційних малих моделей, а слід забезпечити їхню співпрацю з великими моделями.
Ця тенденція вже широко проявилася у фінансовій сфері. "Зараз фінансові установи випробовують великі моделі, зазвичай використовують багаторівневу модель." Керівник одного з постачальників хмарних послуг зазначив, що на відміну від минулої моделі, коли для одного сценарію потрібно було створити платформу в стилі димової труби, великі моделі насправді дали фінансовим установам можливість почати з нуля і більш науково підійти до загального системного планування.
Можна побачити, що наразі вже кілька провідних фінансових установ на основі великих моделей побудували багатошарову системну架构, що включає в себе інфраструктурний рівень, рівень моделі, рівень послуг великих моделей, рівень застосунків тощо, такі як кілька великих банків, брокерських компаній та страхових компаній.
Ці рамкові системи загалом мають дві основні виразні характеристики: по-перше, великі моделі виконують центральну роль, використовуючи традиційні моделі як навички; по-друге, на рівні великих моделей застосовується стратегія багатьох моделей, де проводиться внутрішня конкуренція, щоб вибрати найкращий результат.
Насправді, не лише фінансові установи, в умовах невизначеності поточної ситуації деякі постачальники застосувань великих моделей також використовують стратегію багатомоделей, щоб оптимізувати ефективність послуг. Один з керівників ІТ-сервісної компанії повідомив, що їхній базовий модельний рівень також об'єднує велику кількість великих мовних моделей, які будуть збирати оптимізовані відповіді на основі відповідей кожної великої моделі для надання користувачам.
Вакансії все ще величезні
Застосування великих моделей вже почало викликати деякі виклики та зміни в структурі персоналу фінансової галузі.
Раніше представник фінансово-технологічної компанії в Шанхаї заявив, що з появою ChatGPT його компанія вже звільнила понад 300 аналітиків великих даних з початку цього року до кінця травня. А кілька років тому це була дуже затребувана професія. Це викликало у нього тривогу, навіть він почав заздалегідь думати про вибір професії для своєї доньки в майбутньому.
Фахівець у фінансовій сфері з великого банку також поділився ефектом заміщення людей великими моделями. Раніше в банку кожного ранку стажисти збирали та узагальнювали різноманітну інформацію, а потім передавали її людям з інвестиційно-дослідницького відділу, але тепер ці завдання стажистів можуть виконувати великі моделі.
Проте деякі банки насправді не хочуть, щоб великі моделі призводили до скорочення персоналу. Наприклад, одна велика банк, що має 200 тисяч співробітників у відділеннях, чітко заявив постачальникам технологій, що вони не хочуть, щоб співробітників замінювали великі моделі, а навпаки, великі моделі повинні приносити нові можливості, підвищувати якість обслуговування та ефективність роботи співробітників, а також звільняти частину співробітників для виконання більш цінних завдань.
У цьому не бракує розгляду стабільності персоналу та структури. Але з іншого боку, також через те, що в багатьох посадах в галузі ще є дефіцит кадрів.
Директор однієї IT-сервісної компанії зазначив, що великі банки мають багато незавершених справ, деякі IT-вимоги навіть заплановані до виконання на кінець наступного року. Вони сподіваються, що великі моделі допоможуть співробітникам виконувати більше роботи, підвищити ефективність і швидкість, а не призведуть до скорочення персоналу.
Більше