Исследование применения больших моделей в финансовом секторе
Появление ChatGPT вызвало сильную тревогу в финансовой сфере. Эта отрасль, полная веры в технологии, боится остаться позади в эпоху перемен. По словам одного из специалистов, в мае этого года, когда она была в командировке в Дали, она даже слышала, как финансисты обсуждают большие модели в храме.
Тем не менее, эта тревога постепенно утихает, и мысли людей становятся более ясными и рациональными. Сунь Хунцзюнь, CTO банковского бизнеса Softcom, описал несколько этапов отношения финансовой отрасли к большим моделям в этом году: в феврале-марте ощущалась общая тревога; в апреле-мае начали формировать команды для работы; в последующие месяцы, сталкиваясь с трудностями в реализации, начали становиться более рациональными; сейчас они обращают внимание на ориентировочные примеры, пытаясь проверить уже проверенные сценарии.
Стоит отметить, что многие финансовые учреждения уже начали придавать стратегическое значение большим моделям. По неполным данным, среди компаний,上市 на A-акциях, как минимум 11 банков в своих последних полугодовых отчетах явно указали, что они исследуют применение больших моделей. Судя по недавним действиям, они также начинают более глубоко размышлять и планировать на стратегическом и верхнем уровне.
От высокой энтузиазма к рациональному возвращению
Старший специалист финансовой отрасли из крупной компании отметил, что по сравнению с несколькими месяцами назад, сейчас финансовые клиенты значительно лучше понимают большие модели. В начале года, когда только появился ChatGPT, несмотря на высокий уровень энтузиазма, понимание сути больших моделей и способов их применения было ограниченным.
На этом этапе некоторые крупные банки первыми начали действовать и запустили различные рекламные кампании, чтобы "поймать волну". Например, в марте этого года один банк запустил приложение на основе модели, аналогичной ChatGPT. Однако в отрасли мнения разнятся: некоторые считают, что название этого приложения слишком акцентирует внимание на менее важной части "Chat" в ChatGPT и игнорирует более ключевую часть "GPT".
Тем временем, с тем как несколько отечественных компаний начали выпускать большие модели, некоторые ведущие финансовые учреждения начали активно обсуждать вопросы создания больших моделей с крупными компаниями. Указанные опытные специалисты сообщили, что эти финансовые учреждения в целом надеются создать собственные большие модели и ищут руководство от производителей по таким вопросам, как создание наборов данных, закупка серверов и обучение моделей. Одна из финансовых компаний крупного банка даже предложила, что они надеются, что после завершения смогут также предоставлять их другим участникам рынка.
После мая ситуация начала меняться. Из-за нехватки вычислительных ресурсов, высоких затрат и других факторов многие финансовые учреждения больше не стремятся исключительно к созданию собственных вычислительных мощностей и моделей, а стали больше обращать внимание на прикладную ценность. Теперь каждое финансовое учреждение следит за тем, как другие учреждения применяют большие модели и каких результатов они добиваются.
Для предприятий различного масштаба также сформировались два пути. Крупные финансовые учреждения, обладающие огромными объемами финансовых данных и приложений, могут внедрять передовые базовые большие модели, создавать корпоративные большие модели и одновременно использовать методы дообучения для создания специализированных моделей задач в определенной области, быстро обеспечивая бизнес, чтобы компенсировать недостатки длительного времени создания больших моделей. В то время как малые и средние финансовые учреждения могут учитывать инвестиционную доходность и по мере необходимости внедрять различные публичные API больших моделей или услуги приватного развертывания, чтобы напрямую удовлетворить потребности в обеспечении.
Однако, из-за высоких требований финансовой отрасли к соблюдению данных, безопасности и надежности, некоторые считают, что внедрение крупных моделей в этой области на самом деле немного отстает от первоначальных ожиданий в начале года. Сунь Хунцзюнь из Softcom заявил, что они изначально предполагали, что финансовая отрасль может первой начать массовое использование крупных моделей, но, судя по конечным результатам взаимодействия с клиентами, прогресс в финансовом секторе не так быстр, как в таких отраслях, как право и набор кадров.
Некоторые финансовые учреждения уже начали искать способы решения различных "узких мест" в процессе внедрения больших моделей.
Например, в области вычислительной мощности специалисты отрасли наблюдают несколько решений, появившихся в финансовом секторе:
Во-первых, создание вычислительных мощностей самостоятельно, затраты высоки, но безопасность наилучшая. Подходит для финансовых учреждений с сильной позицией, которые хотят создать собственные большие модели в отрасли или компании, такие как некоторые крупные государственные банки.
Во-вторых, используется гибридный способ развертывания, при котором вызываются интерфейсы сервисов больших моделей из публичного облака при условии, что чувствительные данные не покидают домен, одновременно обрабатываются локальные данные через приватное развертывание. Этот способ относительно недорогой, достаточно вложить несколько сотен тысяч юаней для приобретения нескольких GPU-карт, что удовлетворяет потребности, подходит для финансовых учреждений малого и среднего размера с ограниченными финансовыми возможностями и требуемым использованием.
Тем не менее, многие малые и средние организации все еще сталкиваются с проблемой недоступности или высокой стоимости графических процессоров (GPU), необходимых для больших моделей. В связи с этой проблемой, вышеупомянутый опытный специалист сообщил, что регулирующие органы недавно начали несколько исследовательских проектов, изучая возможность создания инфраструктуры больших моделей для отрасли с компромиссным подходом, сосредоточив вычислительные мощности и ресурсы универсальных больших моделей, чтобы малые и средние финансовые учреждения могли также использовать услуги больших моделей и избежать технологического отставания.
Помимо проблем с вычислительной мощностью, в последние полгода в ходе исследования внедрения крупных моделей многие финансовые учреждения также постепенно усилили работу по управлению данными.
Некоторые высокопрофильные руководители известного облачного сервис-провайдера сообщили, что в настоящее время, помимо крупных банков, имеющих зрелую практику в области управления данными, все больше средних финансовых учреждений начинают постепенно строить платформу данных и систему управления данными, как, например, некоторые местные банки в первой половине этого года. Они считают, что создание完善ной системы управления данными и платформы технологий «озера данных» станет важной темой для ИТ-строительства финансовых учреждений в будущем.
Некоторые банки также решают проблемы с данными с помощью больших моделей и MLOps. Например, один крупный банк создал замкнутую систему данных большой модели, используя модель MLOps, что позволило автоматизировать весь процесс, а также обеспечить единое управление и эффективную обработку многопоточных гетерогенных данных. Сообщается, что на данный момент было создано и накоплено 2,6 ТБ высококачественного обучающего набора данных.
Вход в сцену с периферии
За последние полгода как поставщики больших моделей, так и крупные финансовые учреждения активно искали сценарии применения. Области умного офиса, интеллектуальной разработки, умного маркетинга, интеллектуального обслуживания клиентов, умных инвестиционных исследований, интеллектуального управления рисками, анализа потребностей и другие были тщательно исследованы.
Как сказал один из руководителей известной финансово-технологической компании: "Каждая ключевая функция в финансовом бизнесе заслуживает того, чтобы быть пересмотренной с использованием технологий больших моделей." Эта компания недавно выпустила финансовую большую модель и сейчас проводит внутреннее тестирование совместно с партнерскими организациями для создания продуктов больших моделей, ориентированных на финансовую индустрию. Цель состоит в том, чтобы создать полный цепочный AI-ассистент для таких финансовых специалистов, как финансовые консультанты, страховые агенты, исследователи инвестиций, финансовые маркетологи и специалисты по страховым выплатам.
Каждое финансовое учреждение имеет богатые идеи по применению больших моделей. Один крупный банк заявил, что уже внедрил более 20 сценариев, другой банк сообщил, что они провели пилотные испытания в более чем 30 сценариях, а одна инвестиционная компания заявила, что изучает возможность интеграции больших моделей с ранее запущенной платформой виртуальных цифровых людей...
Но когда действительно нужно внедрить большие модели в бизнес, общепринятое мнение заключается в том, чтобы сначала начать с внутренних процессов, а затем продвигаться к внешним. В конце концов, на текущем этапе технологии больших моделей еще не зрелы, существуют такие проблемы, как галлюцинации, а финансовая сфера является областью с жестким регулированием, высокой безопасностью и высокой надежностью.
"В краткосрочной перспективе не рекомендуется напрямую использовать для клиентов." Технический директор одного крупного банка считает, что финансовым учреждениям следует в первую очередь применять большие модели в интеллектуально емких сценариях анализа и понимания финансовых текстов и изображений, реализуя сотрудничество человека и машины в форме помощника, чтобы повысить эффективность работы сотрудников.
Вышеупомянутые руководители облачного провайдера также отметили, что многие финансовые клиенты считают, что помощники кода и обслуживания клиентов - это сценарии, которые могут быстро приносить результаты на ранних этапах. В то время как такие сценарии, как инвестиционные исследования и консультирование, хотя и имеют большую ценность, но их трудно быстро реализовать, и они требуют высококачественных данных.
В настоящее время кодовый помощник уже внедрён во многих финансовых учреждениях. Например, один крупный банк создал интеллектуальную систему разработки на основе большой модели, где доля кода, генерируемого помощником по кодированию, составляет 40% от общего объёма кода. В области страхования, одна страховая компания разработала плагин для вспомогательного программирования на основе большой модели, который непосредственно интегрирован в внутренние инструменты разработки.
На основе этого некоторые компании также разрабатывают готовые к использованию продукты для финансовых клиентов, основываясь на способности больших моделей к генерации кода. Один из руководителей IT-сервиса рассказал, что их продукт, помимо способности самой большой модели к автозаполнению кода, добавил такие функции, как разбиение задач, точные ответы и преодоление ограничений контекста, обеспечивая пользователям готовый к использованию продукт. В настоящее время этот продукт используется более чем 3000 человек в одном международном банке, а процент автоматического автозаполнения кода составляет 50%~90%.
В области умного офиса также есть много примеров внедрения. Эксперт из крупной технологической компании, отвечающий за продукты больших моделей в финансовой сфере, рассказал, что функция вопросов и ответов по филиалам, представленная на основе финансовой большой модели, была запущена в июле в одном крупном банке и уже была внедрена в несколько сотен филиалов, а процент принятия ответов превышает 85%. В настоящее время стандартное решение, выведенное из вопросов и ответов по документам, быстро копируется в другие банки и финансовые учреждения.
Тем не менее, эксперты отрасли считают, что эти уже широко внедренные сценарии на самом деле еще не являются основными приложениями финансовых организаций, и крупным моделям еще предстоит преодолеть определенное расстояние до глубокого погружения в бизнес-уровень финансовой отрасли.
"Мы сами судим, что сложность внедрения в бизнес-приложениях довольно велика." - заявил один из топ-менеджеров ИТ-сервисной компании, добавив, что маркетинг, управление рисками и соблюдение норм являются областями, в которых большие модели могут привести к изменениям, а также это те части, где находятся потребности финансовых клиентов. Однако, по текущей ситуации, эта работа все еще зависит от повышения возможностей поставщиков базовых больших моделей, прежде чем можно будет реализовать бизнес-сценарии.
Старшие специалисты крупных компаний в области больших моделей предсказывают, что до конца этого года появится ряд проектов строительства или тендерной информации, где большие модели будут действительно применяться в основных бизнес-сценариях финансовых учреждений.
До этого момента проводились изменения на уровне верхнего дизайна.
На отраслевой конференции в начале сентября один известный профессор университета сделал такой вывод: вся будущая интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли перестройки систем в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, необходимо обеспечить их сотрудничество с большими моделями.
Эта тенденция широко проявляется в финансовой отрасли. "Теперь финансовые учреждения пробуют большие модели, в основном используя многоуровневую модель." Один из руководителей облачного сервиса рассказал, что, в отличие от устаревшей модели строительства платформы для одного сценария, большие модели на самом деле предоставили финансовым учреждениям возможность начать с нуля и более научно подойти к общему системному планированию.
Можно увидеть, что в настоящее время многие ведущие финансовые учреждения на основе больших моделей создали многоуровневую системную архитектуру, включающую уровень инфраструктуры, уровень моделей, уровень обслуживания больших моделей, уровень приложений и т.д., такие как несколько крупных банков, брокерских компаний и страховых компаний.
Эти框架体系 имеют две выдающиеся характеристики: во-первых, большие модели играют центральную роль, вызывая традиционные модели как навыки; во-вторых, уровень больших моделей использует стратегию мульти-моделей, проводя внутренние соревнования, чтобы выбрать наилучший результат.
На самом деле, не только финансовые учреждения, но и некоторые поставщики приложений на основе больших моделей также принимают многомодельную стратегию, чтобы оптимизировать эффективность услуг в условиях неопределенности текущей ситуации. Один из руководителей ИТ-сервисной компании сообщил, что их базовый уровень модели также интегрирует множество крупных языковых моделей, которые собирают оптимизированные ответы на основе ответов каждой крупной модели и предоставляют их пользователям.
Пробел в талантах по-прежнему огромен
Применение больших моделей уже начало вызывать некоторые вызовы и изменения в структуре персонала финансовой отрасли.
Ранее представитель одной финансово-технологической компании в Шанхае заявил, что с появлением ChatGPT с начала года до конца мая его компания уволила более 300 аналитиков больших данных. Несколько лет назад это была востребованная профессия. Это вызвало у него тревогу, и он даже начал заранее думать о выборе профессии для своей дочери в будущем.
Старший специалист в финансовой сфере из крупного банка также поделился эффектом замещения людей большими моделями. Ранее каждый день утром стажеры собирали и обобщали информацию из разных источников, а затем передавали ее людям из отдела исследований и инвестиций, но теперь эту работу стажеров можно выполнять с помощью больших моделей.
Однако некоторые банки на самом деле не хотят, чтобы большие модели приводили к сокращению сотрудников. Например, один крупный банк с 200,000 сотрудниками в отделениях явно сообщил своим технологическим поставщикам, что они не хотят, чтобы сотрудники были заменены большими моделями, а должны быть новые возможности, которые повысит качество обслуживания и эффективность работы сотрудников, а также освободит часть сотрудников для выполнения более высокоценной работы.
Среди них немало факторов стабильности кадров и структуры. Но с другой стороны, также из-за того, что в отрасли по-прежнему существует нехватка人才.
Некоторые высокопоставленные руководители ИТ-сервисной компании заявили, что у крупных банков есть множество незавершенных задач, и срок выполнения некоторых ИТ-запросов даже отложен до конца следующего года. Они надеются, что большие модели помогут сотрудникам выполнить больше работы, повысить эффективность и скорость, а не приведут к сокращению штата.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Исследование применения больших моделей в финансовом секторе: от тревоги к рациональности, постепенно проясняются реальные сценарии.
Исследование применения больших моделей в финансовом секторе
Появление ChatGPT вызвало сильную тревогу в финансовой сфере. Эта отрасль, полная веры в технологии, боится остаться позади в эпоху перемен. По словам одного из специалистов, в мае этого года, когда она была в командировке в Дали, она даже слышала, как финансисты обсуждают большие модели в храме.
Тем не менее, эта тревога постепенно утихает, и мысли людей становятся более ясными и рациональными. Сунь Хунцзюнь, CTO банковского бизнеса Softcom, описал несколько этапов отношения финансовой отрасли к большим моделям в этом году: в феврале-марте ощущалась общая тревога; в апреле-мае начали формировать команды для работы; в последующие месяцы, сталкиваясь с трудностями в реализации, начали становиться более рациональными; сейчас они обращают внимание на ориентировочные примеры, пытаясь проверить уже проверенные сценарии.
Стоит отметить, что многие финансовые учреждения уже начали придавать стратегическое значение большим моделям. По неполным данным, среди компаний,上市 на A-акциях, как минимум 11 банков в своих последних полугодовых отчетах явно указали, что они исследуют применение больших моделей. Судя по недавним действиям, они также начинают более глубоко размышлять и планировать на стратегическом и верхнем уровне.
От высокой энтузиазма к рациональному возвращению
Старший специалист финансовой отрасли из крупной компании отметил, что по сравнению с несколькими месяцами назад, сейчас финансовые клиенты значительно лучше понимают большие модели. В начале года, когда только появился ChatGPT, несмотря на высокий уровень энтузиазма, понимание сути больших моделей и способов их применения было ограниченным.
На этом этапе некоторые крупные банки первыми начали действовать и запустили различные рекламные кампании, чтобы "поймать волну". Например, в марте этого года один банк запустил приложение на основе модели, аналогичной ChatGPT. Однако в отрасли мнения разнятся: некоторые считают, что название этого приложения слишком акцентирует внимание на менее важной части "Chat" в ChatGPT и игнорирует более ключевую часть "GPT".
Тем временем, с тем как несколько отечественных компаний начали выпускать большие модели, некоторые ведущие финансовые учреждения начали активно обсуждать вопросы создания больших моделей с крупными компаниями. Указанные опытные специалисты сообщили, что эти финансовые учреждения в целом надеются создать собственные большие модели и ищут руководство от производителей по таким вопросам, как создание наборов данных, закупка серверов и обучение моделей. Одна из финансовых компаний крупного банка даже предложила, что они надеются, что после завершения смогут также предоставлять их другим участникам рынка.
После мая ситуация начала меняться. Из-за нехватки вычислительных ресурсов, высоких затрат и других факторов многие финансовые учреждения больше не стремятся исключительно к созданию собственных вычислительных мощностей и моделей, а стали больше обращать внимание на прикладную ценность. Теперь каждое финансовое учреждение следит за тем, как другие учреждения применяют большие модели и каких результатов они добиваются.
Для предприятий различного масштаба также сформировались два пути. Крупные финансовые учреждения, обладающие огромными объемами финансовых данных и приложений, могут внедрять передовые базовые большие модели, создавать корпоративные большие модели и одновременно использовать методы дообучения для создания специализированных моделей задач в определенной области, быстро обеспечивая бизнес, чтобы компенсировать недостатки длительного времени создания больших моделей. В то время как малые и средние финансовые учреждения могут учитывать инвестиционную доходность и по мере необходимости внедрять различные публичные API больших моделей или услуги приватного развертывания, чтобы напрямую удовлетворить потребности в обеспечении.
Однако, из-за высоких требований финансовой отрасли к соблюдению данных, безопасности и надежности, некоторые считают, что внедрение крупных моделей в этой области на самом деле немного отстает от первоначальных ожиданий в начале года. Сунь Хунцзюнь из Softcom заявил, что они изначально предполагали, что финансовая отрасль может первой начать массовое использование крупных моделей, но, судя по конечным результатам взаимодействия с клиентами, прогресс в финансовом секторе не так быстр, как в таких отраслях, как право и набор кадров.
Некоторые финансовые учреждения уже начали искать способы решения различных "узких мест" в процессе внедрения больших моделей.
Например, в области вычислительной мощности специалисты отрасли наблюдают несколько решений, появившихся в финансовом секторе:
Во-первых, создание вычислительных мощностей самостоятельно, затраты высоки, но безопасность наилучшая. Подходит для финансовых учреждений с сильной позицией, которые хотят создать собственные большие модели в отрасли или компании, такие как некоторые крупные государственные банки.
Во-вторых, используется гибридный способ развертывания, при котором вызываются интерфейсы сервисов больших моделей из публичного облака при условии, что чувствительные данные не покидают домен, одновременно обрабатываются локальные данные через приватное развертывание. Этот способ относительно недорогой, достаточно вложить несколько сотен тысяч юаней для приобретения нескольких GPU-карт, что удовлетворяет потребности, подходит для финансовых учреждений малого и среднего размера с ограниченными финансовыми возможностями и требуемым использованием.
Тем не менее, многие малые и средние организации все еще сталкиваются с проблемой недоступности или высокой стоимости графических процессоров (GPU), необходимых для больших моделей. В связи с этой проблемой, вышеупомянутый опытный специалист сообщил, что регулирующие органы недавно начали несколько исследовательских проектов, изучая возможность создания инфраструктуры больших моделей для отрасли с компромиссным подходом, сосредоточив вычислительные мощности и ресурсы универсальных больших моделей, чтобы малые и средние финансовые учреждения могли также использовать услуги больших моделей и избежать технологического отставания.
Помимо проблем с вычислительной мощностью, в последние полгода в ходе исследования внедрения крупных моделей многие финансовые учреждения также постепенно усилили работу по управлению данными.
Некоторые высокопрофильные руководители известного облачного сервис-провайдера сообщили, что в настоящее время, помимо крупных банков, имеющих зрелую практику в области управления данными, все больше средних финансовых учреждений начинают постепенно строить платформу данных и систему управления данными, как, например, некоторые местные банки в первой половине этого года. Они считают, что создание完善ной системы управления данными и платформы технологий «озера данных» станет важной темой для ИТ-строительства финансовых учреждений в будущем.
Некоторые банки также решают проблемы с данными с помощью больших моделей и MLOps. Например, один крупный банк создал замкнутую систему данных большой модели, используя модель MLOps, что позволило автоматизировать весь процесс, а также обеспечить единое управление и эффективную обработку многопоточных гетерогенных данных. Сообщается, что на данный момент было создано и накоплено 2,6 ТБ высококачественного обучающего набора данных.
Вход в сцену с периферии
За последние полгода как поставщики больших моделей, так и крупные финансовые учреждения активно искали сценарии применения. Области умного офиса, интеллектуальной разработки, умного маркетинга, интеллектуального обслуживания клиентов, умных инвестиционных исследований, интеллектуального управления рисками, анализа потребностей и другие были тщательно исследованы.
Как сказал один из руководителей известной финансово-технологической компании: "Каждая ключевая функция в финансовом бизнесе заслуживает того, чтобы быть пересмотренной с использованием технологий больших моделей." Эта компания недавно выпустила финансовую большую модель и сейчас проводит внутреннее тестирование совместно с партнерскими организациями для создания продуктов больших моделей, ориентированных на финансовую индустрию. Цель состоит в том, чтобы создать полный цепочный AI-ассистент для таких финансовых специалистов, как финансовые консультанты, страховые агенты, исследователи инвестиций, финансовые маркетологи и специалисты по страховым выплатам.
Каждое финансовое учреждение имеет богатые идеи по применению больших моделей. Один крупный банк заявил, что уже внедрил более 20 сценариев, другой банк сообщил, что они провели пилотные испытания в более чем 30 сценариях, а одна инвестиционная компания заявила, что изучает возможность интеграции больших моделей с ранее запущенной платформой виртуальных цифровых людей...
Но когда действительно нужно внедрить большие модели в бизнес, общепринятое мнение заключается в том, чтобы сначала начать с внутренних процессов, а затем продвигаться к внешним. В конце концов, на текущем этапе технологии больших моделей еще не зрелы, существуют такие проблемы, как галлюцинации, а финансовая сфера является областью с жестким регулированием, высокой безопасностью и высокой надежностью.
"В краткосрочной перспективе не рекомендуется напрямую использовать для клиентов." Технический директор одного крупного банка считает, что финансовым учреждениям следует в первую очередь применять большие модели в интеллектуально емких сценариях анализа и понимания финансовых текстов и изображений, реализуя сотрудничество человека и машины в форме помощника, чтобы повысить эффективность работы сотрудников.
Вышеупомянутые руководители облачного провайдера также отметили, что многие финансовые клиенты считают, что помощники кода и обслуживания клиентов - это сценарии, которые могут быстро приносить результаты на ранних этапах. В то время как такие сценарии, как инвестиционные исследования и консультирование, хотя и имеют большую ценность, но их трудно быстро реализовать, и они требуют высококачественных данных.
В настоящее время кодовый помощник уже внедрён во многих финансовых учреждениях. Например, один крупный банк создал интеллектуальную систему разработки на основе большой модели, где доля кода, генерируемого помощником по кодированию, составляет 40% от общего объёма кода. В области страхования, одна страховая компания разработала плагин для вспомогательного программирования на основе большой модели, который непосредственно интегрирован в внутренние инструменты разработки.
На основе этого некоторые компании также разрабатывают готовые к использованию продукты для финансовых клиентов, основываясь на способности больших моделей к генерации кода. Один из руководителей IT-сервиса рассказал, что их продукт, помимо способности самой большой модели к автозаполнению кода, добавил такие функции, как разбиение задач, точные ответы и преодоление ограничений контекста, обеспечивая пользователям готовый к использованию продукт. В настоящее время этот продукт используется более чем 3000 человек в одном международном банке, а процент автоматического автозаполнения кода составляет 50%~90%.
В области умного офиса также есть много примеров внедрения. Эксперт из крупной технологической компании, отвечающий за продукты больших моделей в финансовой сфере, рассказал, что функция вопросов и ответов по филиалам, представленная на основе финансовой большой модели, была запущена в июле в одном крупном банке и уже была внедрена в несколько сотен филиалов, а процент принятия ответов превышает 85%. В настоящее время стандартное решение, выведенное из вопросов и ответов по документам, быстро копируется в другие банки и финансовые учреждения.
Тем не менее, эксперты отрасли считают, что эти уже широко внедренные сценарии на самом деле еще не являются основными приложениями финансовых организаций, и крупным моделям еще предстоит преодолеть определенное расстояние до глубокого погружения в бизнес-уровень финансовой отрасли.
"Мы сами судим, что сложность внедрения в бизнес-приложениях довольно велика." - заявил один из топ-менеджеров ИТ-сервисной компании, добавив, что маркетинг, управление рисками и соблюдение норм являются областями, в которых большие модели могут привести к изменениям, а также это те части, где находятся потребности финансовых клиентов. Однако, по текущей ситуации, эта работа все еще зависит от повышения возможностей поставщиков базовых больших моделей, прежде чем можно будет реализовать бизнес-сценарии.
Старшие специалисты крупных компаний в области больших моделей предсказывают, что до конца этого года появится ряд проектов строительства или тендерной информации, где большие модели будут действительно применяться в основных бизнес-сценариях финансовых учреждений.
До этого момента проводились изменения на уровне верхнего дизайна.
На отраслевой конференции в начале сентября один известный профессор университета сделал такой вывод: вся будущая интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли перестройки систем в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, необходимо обеспечить их сотрудничество с большими моделями.
Эта тенденция широко проявляется в финансовой отрасли. "Теперь финансовые учреждения пробуют большие модели, в основном используя многоуровневую модель." Один из руководителей облачного сервиса рассказал, что, в отличие от устаревшей модели строительства платформы для одного сценария, большие модели на самом деле предоставили финансовым учреждениям возможность начать с нуля и более научно подойти к общему системному планированию.
Можно увидеть, что в настоящее время многие ведущие финансовые учреждения на основе больших моделей создали многоуровневую системную архитектуру, включающую уровень инфраструктуры, уровень моделей, уровень обслуживания больших моделей, уровень приложений и т.д., такие как несколько крупных банков, брокерских компаний и страховых компаний.
Эти框架体系 имеют две выдающиеся характеристики: во-первых, большие модели играют центральную роль, вызывая традиционные модели как навыки; во-вторых, уровень больших моделей использует стратегию мульти-моделей, проводя внутренние соревнования, чтобы выбрать наилучший результат.
На самом деле, не только финансовые учреждения, но и некоторые поставщики приложений на основе больших моделей также принимают многомодельную стратегию, чтобы оптимизировать эффективность услуг в условиях неопределенности текущей ситуации. Один из руководителей ИТ-сервисной компании сообщил, что их базовый уровень модели также интегрирует множество крупных языковых моделей, которые собирают оптимизированные ответы на основе ответов каждой крупной модели и предоставляют их пользователям.
Пробел в талантах по-прежнему огромен
Применение больших моделей уже начало вызывать некоторые вызовы и изменения в структуре персонала финансовой отрасли.
Ранее представитель одной финансово-технологической компании в Шанхае заявил, что с появлением ChatGPT с начала года до конца мая его компания уволила более 300 аналитиков больших данных. Несколько лет назад это была востребованная профессия. Это вызвало у него тревогу, и он даже начал заранее думать о выборе профессии для своей дочери в будущем.
Старший специалист в финансовой сфере из крупного банка также поделился эффектом замещения людей большими моделями. Ранее каждый день утром стажеры собирали и обобщали информацию из разных источников, а затем передавали ее людям из отдела исследований и инвестиций, но теперь эту работу стажеров можно выполнять с помощью больших моделей.
Однако некоторые банки на самом деле не хотят, чтобы большие модели приводили к сокращению сотрудников. Например, один крупный банк с 200,000 сотрудниками в отделениях явно сообщил своим технологическим поставщикам, что они не хотят, чтобы сотрудники были заменены большими моделями, а должны быть новые возможности, которые повысит качество обслуживания и эффективность работы сотрудников, а также освободит часть сотрудников для выполнения более высокоценной работы.
Среди них немало факторов стабильности кадров и структуры. Но с другой стороны, также из-за того, что в отрасли по-прежнему существует нехватка人才.
Некоторые высокопоставленные руководители ИТ-сервисной компании заявили, что у крупных банков есть множество незавершенных задач, и срок выполнения некоторых ИТ-запросов даже отложен до конца следующего года. Они надеются, что большие модели помогут сотрудникам выполнить больше работы, повысить эффективность и скорость, а не приведут к сокращению штата.
Больше