Співзасновник Ethereum Віталік Бутерін нещодавно написав у X (колишній Twitter), що сучасна розробка штучного інтелекту (ШІ) надмірно прагне до "автономії", ігноруючи цінність людського внеску в процес прийняття рішень та виводу. Він закликав індустрію збільшити кількість шляхів людського внеску, просувати моделі з відкритими вагами, що мають функцію редагування, а також запропонував концепцію поєднання інтерфейсу мозок-комп'ютер (BCI) для забезпечення миттєвого зворотного зв'язку та коригувань, малюючи більш гуманістичну картину розвитку ШІ.
Відмова від «повністю автоматизованих» AI, підкреслюючи участь людини
Віталік зазначив, що нинішні «агентські» системи в галузі штучного інтелекту, які намагаються автономно виконувати завдання з мінімальним наглядом з боку людини, викликають у нього розчарування. Він вважає, що людський внесок може не лише підвищити якість виходу, але й суттєво покращити безпеку.
Він особливо віддає перевагу відкритим ваговим моделям з "функцією редагування", що дозволяє розробникам і користувачам миттєво втручатися, коригувати або направляти вивід під час процесу генерації, а не тільки починати з нуля.
згідно з поглядами Карпаті: ШІ потребує "контролю"
Погляди Віталіка збігаються з недавнім виступом колишнього керівника AI Tesla Андрея Карпаті. Карпаті попередив, що великі мовні моделі не слід вважати повністю надійними автономними агентами, і підкреслив важливість людського нагляду, обережного підказування та поступової розробки.
Ця ідея веде індустрію до переходу на модель «людино-машинної співпраці»:
Надати більш інтуїтивно зрозумілий інтерфейс редагування
Підтримка миттєвого обрізання та корекції під час процесу генерації
Зменшити ілюзії та спотворення, забезпечити відповідність виходу людським намірам та стандартам безпеки.
Мозкові комп'ютерні інтерфейси (BCI) + AI: концепція миттєвого зворотного зв'язку майбутнього
Віталік далі висловив, що середня перспектива полягає в поєднанні технології BCI, щоб ШІ міг миттєво сприймати емоційні реакції користувачів під час генерації контенту та автоматично коригувати вихідні дані відповідно до уподобань.
Ця концепція не є пустими розмовами:
Компанії Neuralink, Synchron та інші розпочали клінічні випробування та мікроінвазивні імплантації.
Носимі пристрої на основі електроенцефалографії (ЕЕГ) намагаються декодувати стан уваги та емоцій.
Академічна спільнота досягла прогресу в технологіях «емоційних обчислень» та маркування емоцій.
4, хоча неінвазивне емоційне декодування все ще є викликом, технічний прогрес поступово наближає це бачення до реальності.
Відкриті важелі та безпека: дебати про двосічний меч
Нещодавно OpenAI випадково випустила відкриті вагові моделі gpt-oss-120b та gpt-oss-20b, що викликало жваві обговорення. Прихильники вважають, що це допоможе демократизувати розробку ШІ, дозволяючи командам легше створювати орієнтовані на людину робочі процеси та виявляти ризики безпеки; але критики побоюються, що широке розповсюдження потужних моделей може призвести до ризиків зловживання.
Позиція Віталіка чітка: кращі результати та безпечніші системи походять від того, щоб покласти людські уподобання та складні сигнали в основу робочих процесів ШІ.
Заключення
Висловлення Віталіка Бутеріна відображає основну дискусію в розвитку ШІ: чи дозволити моделям бути повністю автономними, чи залишити людині можливість контролювати ситуацію в реальному часі? З розвитком відкритих вагових моделей, інтерфейсів мозок-машина та технологій виявлення емоцій можливості співпраці між людьми та машинами швидко розширюються. Майбутній ШІ, можливо, більше не буде «чорною скринькою», яка «приймає рішення за вас», а стане розумним партнером, здатним створювати разом з вами та взаємодіяти в реальному часі.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Віталік розкрив майбутнє AI: відмова від повної автоматизації, підтримка миттєвого контролю людиною та мозкових інтерфейсів
Співзасновник Ethereum Віталік Бутерін нещодавно написав у X (колишній Twitter), що сучасна розробка штучного інтелекту (ШІ) надмірно прагне до "автономії", ігноруючи цінність людського внеску в процес прийняття рішень та виводу. Він закликав індустрію збільшити кількість шляхів людського внеску, просувати моделі з відкритими вагами, що мають функцію редагування, а також запропонував концепцію поєднання інтерфейсу мозок-комп'ютер (BCI) для забезпечення миттєвого зворотного зв'язку та коригувань, малюючи більш гуманістичну картину розвитку ШІ.
Відмова від «повністю автоматизованих» AI, підкреслюючи участь людини
Віталік зазначив, що нинішні «агентські» системи в галузі штучного інтелекту, які намагаються автономно виконувати завдання з мінімальним наглядом з боку людини, викликають у нього розчарування. Він вважає, що людський внесок може не лише підвищити якість виходу, але й суттєво покращити безпеку.
Він особливо віддає перевагу відкритим ваговим моделям з "функцією редагування", що дозволяє розробникам і користувачам миттєво втручатися, коригувати або направляти вивід під час процесу генерації, а не тільки починати з нуля.
згідно з поглядами Карпаті: ШІ потребує "контролю"
Погляди Віталіка збігаються з недавнім виступом колишнього керівника AI Tesla Андрея Карпаті. Карпаті попередив, що великі мовні моделі не слід вважати повністю надійними автономними агентами, і підкреслив важливість людського нагляду, обережного підказування та поступової розробки.
Ця ідея веде індустрію до переходу на модель «людино-машинної співпраці»:
Надати більш інтуїтивно зрозумілий інтерфейс редагування
Підтримка миттєвого обрізання та корекції під час процесу генерації
Зменшити ілюзії та спотворення, забезпечити відповідність виходу людським намірам та стандартам безпеки.
Мозкові комп'ютерні інтерфейси (BCI) + AI: концепція миттєвого зворотного зв'язку майбутнього
Віталік далі висловив, що середня перспектива полягає в поєднанні технології BCI, щоб ШІ міг миттєво сприймати емоційні реакції користувачів під час генерації контенту та автоматично коригувати вихідні дані відповідно до уподобань.
Ця концепція не є пустими розмовами:
Компанії Neuralink, Synchron та інші розпочали клінічні випробування та мікроінвазивні імплантації.
Носимі пристрої на основі електроенцефалографії (ЕЕГ) намагаються декодувати стан уваги та емоцій.
Академічна спільнота досягла прогресу в технологіях «емоційних обчислень» та маркування емоцій.
4, хоча неінвазивне емоційне декодування все ще є викликом, технічний прогрес поступово наближає це бачення до реальності.
Відкриті важелі та безпека: дебати про двосічний меч
Нещодавно OpenAI випадково випустила відкриті вагові моделі gpt-oss-120b та gpt-oss-20b, що викликало жваві обговорення. Прихильники вважають, що це допоможе демократизувати розробку ШІ, дозволяючи командам легше створювати орієнтовані на людину робочі процеси та виявляти ризики безпеки; але критики побоюються, що широке розповсюдження потужних моделей може призвести до ризиків зловживання.
Позиція Віталіка чітка: кращі результати та безпечніші системи походять від того, щоб покласти людські уподобання та складні сигнали в основу робочих процесів ШІ.
Заключення
Висловлення Віталіка Бутеріна відображає основну дискусію в розвитку ШІ: чи дозволити моделям бути повністю автономними, чи залишити людині можливість контролювати ситуацію в реальному часі? З розвитком відкритих вагових моделей, інтерфейсів мозок-машина та технологій виявлення емоцій можливості співпраці між людьми та машинами швидко розширюються. Майбутній ШІ, можливо, більше не буде «чорною скринькою», яка «приймає рішення за вас», а стане розумним партнером, здатним створювати разом з вами та взаємодіяти в реальному часі.