Безопасность с помощью искусственного интеллекта: полностью гомоморфное шифрование или решение
Недавно система искусственного интеллекта под названием Manus достигла прорывных результатов в GAIA бенчмарке, превзойдя аналогичные крупные языковые модели. Manus продемонстрировала способность самостоятельно выполнять сложные задачи, такие как международные деловые переговоры, включая анализ контрактов, разработку стратегий и генерацию предложений. По сравнению с традиционными системами, Manus отлично справляется с динамическим разложением целей, кросс-модальным выводом и улучшенным обучением памяти. Она может разбивать крупные задачи на множество выполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность и точность решений с помощью усиленного обучения.
Прогресс Manus вновь вызвал обсуждение в отрасли о путях развития AI: двигаться ли в сторону общего искусственного интеллекта (AGI) или сосредоточиться на координации многоагентных систем (MAS)? Этот спор в сущности отражает ключевую проблему баланса между эффективностью и безопасностью в развитии AI. Чем ближе индивидуальный интеллект к AGI, тем выше риск непрозрачности его процесса принятия решений; в то время как сотрудничество многоагентов может распределить риски, оно может упустить ключевые моменты принятия решений из-за задержек в коммуникации.
Развитие Manus также подчеркивает существующие проблемы безопасности в AI системах. Например, в медицинских сценариях могут быть задействованы чувствительные генетические данные пациентов; в финансовых переговорах могут быть доступны нераскрытые финансовые данные компаний. Кроме того, в AI системах могут присутствовать алгоритмические предвзятости, такие как несправедливые предложения по заработной плате для определенных групп в процессе найма. Существует также риск атак с противодействием, когда хакеры могут вводить в заблуждение AI системы с помощью специальных методов.
Эти вызовы подчеркивают тревожную тенденцию: чем умнее системы ИИ, тем шире их потенциальная поверхность атаки.
В области Web3 безопасность всегда была ключевым моментом. В настоящее время разработаны различные технологии шифрования для решения этих проблем:
Модель нулевого доверия: Эта модель требует строгой аутентификации и авторизации для каждого запроса на доступ, не доверяя ни одному устройству по умолчанию.
Децентрализованная идентичность (DID): это новый стандарт децентрализованной цифровой идентичности, не требующий зависимости от централизованных регистрационных систем.
Полностью гомоморфное шифрование (FHE): это продвинутая технология шифрования, которая позволяет выполнять вычисления над данными в зашифрованном состоянии без необходимости их расшифровки.
полностью гомоморфное шифрование считается важным инструментом для решения проблем безопасности в эпоху ИИ. Оно может сыграть роль в следующих аспектах:
На уровне данных: вся информация, введенная пользователем, может обрабатываться в зашифрованном виде, даже сама система ИИ не может расшифровать исходные данные.
Алгоритмический уровень: реализация "шифрования модели обучения" с помощью полностью гомоморфного шифрования, так что даже разработчики не могут напрямую наблюдать за процессом принятия решений ИИ.
Координационный уровень: связь между несколькими AI-агентами может использовать пороговое шифрование, даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
В экосистеме Web3 уже существует несколько проектов, которые стремятся исследовать эти технологии безопасности. Например, uPort в 2017 году запустил решение для децентрализованной идентификации, а NKN в 2019 году выпустил основную сеть на основе модели нулевого доверия. Что касается области полностью гомоморфного шифрования, то Mind Network стал первым FHE проектом, запущенным на основной сети, и сотрудничает с несколькими известными учреждениями.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, создание мощной системы защиты становится все более важным. Полностью гомоморфное шифрование не только может решить текущие проблемы безопасности, но и подготовить нас к более мощной эпохе ИИ в будущем. На пути к AGI FHE может быть не только выбором, но и необходимым условием для безопасной работы ИИ-систем.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Полностью гомоморфное шифрование FHE: Решение Web3 в условиях вызовов безопасности с помощью искусственного интеллекта
Безопасность с помощью искусственного интеллекта: полностью гомоморфное шифрование или решение
Недавно система искусственного интеллекта под названием Manus достигла прорывных результатов в GAIA бенчмарке, превзойдя аналогичные крупные языковые модели. Manus продемонстрировала способность самостоятельно выполнять сложные задачи, такие как международные деловые переговоры, включая анализ контрактов, разработку стратегий и генерацию предложений. По сравнению с традиционными системами, Manus отлично справляется с динамическим разложением целей, кросс-модальным выводом и улучшенным обучением памяти. Она может разбивать крупные задачи на множество выполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность и точность решений с помощью усиленного обучения.
Прогресс Manus вновь вызвал обсуждение в отрасли о путях развития AI: двигаться ли в сторону общего искусственного интеллекта (AGI) или сосредоточиться на координации многоагентных систем (MAS)? Этот спор в сущности отражает ключевую проблему баланса между эффективностью и безопасностью в развитии AI. Чем ближе индивидуальный интеллект к AGI, тем выше риск непрозрачности его процесса принятия решений; в то время как сотрудничество многоагентов может распределить риски, оно может упустить ключевые моменты принятия решений из-за задержек в коммуникации.
Развитие Manus также подчеркивает существующие проблемы безопасности в AI системах. Например, в медицинских сценариях могут быть задействованы чувствительные генетические данные пациентов; в финансовых переговорах могут быть доступны нераскрытые финансовые данные компаний. Кроме того, в AI системах могут присутствовать алгоритмические предвзятости, такие как несправедливые предложения по заработной плате для определенных групп в процессе найма. Существует также риск атак с противодействием, когда хакеры могут вводить в заблуждение AI системы с помощью специальных методов.
Эти вызовы подчеркивают тревожную тенденцию: чем умнее системы ИИ, тем шире их потенциальная поверхность атаки.
В области Web3 безопасность всегда была ключевым моментом. В настоящее время разработаны различные технологии шифрования для решения этих проблем:
Модель нулевого доверия: Эта модель требует строгой аутентификации и авторизации для каждого запроса на доступ, не доверяя ни одному устройству по умолчанию.
Децентрализованная идентичность (DID): это новый стандарт децентрализованной цифровой идентичности, не требующий зависимости от централизованных регистрационных систем.
Полностью гомоморфное шифрование (FHE): это продвинутая технология шифрования, которая позволяет выполнять вычисления над данными в зашифрованном состоянии без необходимости их расшифровки.
полностью гомоморфное шифрование считается важным инструментом для решения проблем безопасности в эпоху ИИ. Оно может сыграть роль в следующих аспектах:
На уровне данных: вся информация, введенная пользователем, может обрабатываться в зашифрованном виде, даже сама система ИИ не может расшифровать исходные данные.
Алгоритмический уровень: реализация "шифрования модели обучения" с помощью полностью гомоморфного шифрования, так что даже разработчики не могут напрямую наблюдать за процессом принятия решений ИИ.
Координационный уровень: связь между несколькими AI-агентами может использовать пороговое шифрование, даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
В экосистеме Web3 уже существует несколько проектов, которые стремятся исследовать эти технологии безопасности. Например, uPort в 2017 году запустил решение для децентрализованной идентификации, а NKN в 2019 году выпустил основную сеть на основе модели нулевого доверия. Что касается области полностью гомоморфного шифрования, то Mind Network стал первым FHE проектом, запущенным на основной сети, и сотрудничает с несколькими известными учреждениями.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, создание мощной системы защиты становится все более важным. Полностью гомоморфное шифрование не только может решить текущие проблемы безопасности, но и подготовить нас к более мощной эпохе ИИ в будущем. На пути к AGI FHE может быть не только выбором, но и необходимым условием для безопасной работы ИИ-систем.