O cofundador do Ethereum, Vitalik Buterin, publicou recentemente no X (antigo Twitter), afirmando que o atual desenvolvimento da inteligência artificial (IA) está excessivamente focado na "autonomia", ignorando o valor da humanidade no processo de tomada de decisões e saídas. Ele apelou à indústria para aumentar os caminhos de entrada humana, promovendo modelos de peso abertos com funcionalidade de edição, e apresentou a ideia de combinar interfaces cérebro-máquina (BCI) para realizar feedback e ajustes em tempo real, esboçando um plano mais centrado no ser humano para o desenvolvimento da IA.
Rejeitar a IA «Agente Automático» e enfatizar a participação humana
Vitalik afirmou que a atual tendência de sistemas "agentes" na área da IA, que tentam completar tarefas de forma autônoma com pouca supervisão humana, o deixa frustrado. Ele acredita que a entrada humana não só pode melhorar a qualidade da saída, mas também aumentar significativamente a segurança.
Ele tem uma preferência especial por modelos de peso abertos que possuem "função de edição", permitindo que desenvolvedores e usuários intervenham, corrijam ou orientem a saída durante o processo de geração, em vez de terem que criar resultados do zero.
com o ponto de vista de Karpathy: a IA precisa de "controlabilidade"
A visão de Vitalik coincide com o recente discurso de Andrej Karpathy, ex-responsável pela IA da Tesla. Karpathy alertou que não devemos considerar os grandes modelos de linguagem como agentes autônomos totalmente confiáveis, salientando a importância da supervisão humana, dicas cuidadosas e desenvolvimento progressivo.
Esta abordagem está a levar a indústria a uma mudança para o modo de "colaboração entre humanos e máquinas":
Fornecer uma interface de edição mais intuitiva
2, Suporte para recorte e correção em tempo real durante o processo de geração
Reduzir ilusões e desvios, garantindo que a saída esteja de acordo com a intenção humana e os padrões de segurança.
Interface Cérebro-Máquina (BCI) + IA: Uma Visão do Futuro com Feedback Imediato
Vitalik avançou ainda mais, propondo que a visão de médio prazo é combinar a tecnologia BCI, permitindo que a IA perceba instantaneamente as reações emocionais dos usuários ao gerar conteúdo e ajuste automaticamente a saída com base nas preferências.
Esta concepção não é uma conversa vazia:
Empresas como Neuralink e Synchron já iniciaram ensaios clínicos e implantes minimamente invasivos.
Dispositivos vestíveis baseados em eletroencefalografia (EEG) estão tentando decifrar o estado de atenção e emoções.
A academia fez progressos nas tecnologias de "computação emocional" e de marcação emocional.
4, Embora a decodificação emocional não invasiva ainda apresente desafios, o desenvolvimento tecnológico está tornando essa visão gradualmente mais próxima da realidade.
Abertura de peso e segurança: o debate da espada de dois gumes
Recentemente, a OpenAI lançou inesperadamente modelos de pesos abertos como gpt-oss-120b e gpt-oss-20b, gerando um grande debate. Os apoiadores acreditam que isso ajuda a democratizar o desenvolvimento de IA, tornando mais fácil para as equipes estabelecerem fluxos de trabalho centrados no ser humano e detectarem riscos de segurança; mas os críticos temem que a ampla distribuição de modelos poderosos possa trazer riscos de abuso.
A posição de Vitalik é clara: melhores resultados e sistemas mais seguros vêm de colocar as preferências humanas e sinais complexos no centro dos fluxos de trabalho da IA.
Conclusão
A declaração de Vitalik Buterin reflete um debate central no desenvolvimento da IA: devemos permitir que os modelos sejam totalmente autônomos, ou devemos manter o controle humano em tempo real? Com os avanços nos modelos de pesos abertos, interfaces cérebro-máquina e tecnologias de detecção emocional, as possibilidades de colaboração entre humanos e máquinas estão se expandindo rapidamente. A IA do futuro pode não ser mais uma caixa-preta que "toma decisões por você", mas sim um parceiro inteligente que pode co-criar e interagir em tempo real ao seu lado.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Vitalik revela o plano futuro da IA: rejeita a automação total, promove o controle humano em tempo real e interfaces cérebro-máquina
O cofundador do Ethereum, Vitalik Buterin, publicou recentemente no X (antigo Twitter), afirmando que o atual desenvolvimento da inteligência artificial (IA) está excessivamente focado na "autonomia", ignorando o valor da humanidade no processo de tomada de decisões e saídas. Ele apelou à indústria para aumentar os caminhos de entrada humana, promovendo modelos de peso abertos com funcionalidade de edição, e apresentou a ideia de combinar interfaces cérebro-máquina (BCI) para realizar feedback e ajustes em tempo real, esboçando um plano mais centrado no ser humano para o desenvolvimento da IA.
Rejeitar a IA «Agente Automático» e enfatizar a participação humana
Vitalik afirmou que a atual tendência de sistemas "agentes" na área da IA, que tentam completar tarefas de forma autônoma com pouca supervisão humana, o deixa frustrado. Ele acredita que a entrada humana não só pode melhorar a qualidade da saída, mas também aumentar significativamente a segurança.
Ele tem uma preferência especial por modelos de peso abertos que possuem "função de edição", permitindo que desenvolvedores e usuários intervenham, corrijam ou orientem a saída durante o processo de geração, em vez de terem que criar resultados do zero.
com o ponto de vista de Karpathy: a IA precisa de "controlabilidade"
A visão de Vitalik coincide com o recente discurso de Andrej Karpathy, ex-responsável pela IA da Tesla. Karpathy alertou que não devemos considerar os grandes modelos de linguagem como agentes autônomos totalmente confiáveis, salientando a importância da supervisão humana, dicas cuidadosas e desenvolvimento progressivo.
Esta abordagem está a levar a indústria a uma mudança para o modo de "colaboração entre humanos e máquinas":
2, Suporte para recorte e correção em tempo real durante o processo de geração
Interface Cérebro-Máquina (BCI) + IA: Uma Visão do Futuro com Feedback Imediato
Vitalik avançou ainda mais, propondo que a visão de médio prazo é combinar a tecnologia BCI, permitindo que a IA perceba instantaneamente as reações emocionais dos usuários ao gerar conteúdo e ajuste automaticamente a saída com base nas preferências.
Esta concepção não é uma conversa vazia:
Empresas como Neuralink e Synchron já iniciaram ensaios clínicos e implantes minimamente invasivos.
Dispositivos vestíveis baseados em eletroencefalografia (EEG) estão tentando decifrar o estado de atenção e emoções.
A academia fez progressos nas tecnologias de "computação emocional" e de marcação emocional.
4, Embora a decodificação emocional não invasiva ainda apresente desafios, o desenvolvimento tecnológico está tornando essa visão gradualmente mais próxima da realidade.
Abertura de peso e segurança: o debate da espada de dois gumes
Recentemente, a OpenAI lançou inesperadamente modelos de pesos abertos como gpt-oss-120b e gpt-oss-20b, gerando um grande debate. Os apoiadores acreditam que isso ajuda a democratizar o desenvolvimento de IA, tornando mais fácil para as equipes estabelecerem fluxos de trabalho centrados no ser humano e detectarem riscos de segurança; mas os críticos temem que a ampla distribuição de modelos poderosos possa trazer riscos de abuso.
A posição de Vitalik é clara: melhores resultados e sistemas mais seguros vêm de colocar as preferências humanas e sinais complexos no centro dos fluxos de trabalho da IA.
Conclusão
A declaração de Vitalik Buterin reflete um debate central no desenvolvimento da IA: devemos permitir que os modelos sejam totalmente autônomos, ou devemos manter o controle humano em tempo real? Com os avanços nos modelos de pesos abertos, interfaces cérebro-máquina e tecnologias de detecção emocional, as possibilidades de colaboração entre humanos e máquinas estão se expandindo rapidamente. A IA do futuro pode não ser mais uma caixa-preta que "toma decisões por você", mas sim um parceiro inteligente que pode co-criar e interagir em tempo real ao seu lado.