A fusão da IA com o Web3: Novos desafios de segurança trazidos pela ascensão do DeFAI
Recentemente, um grande evento de blockchain focado nas tendências de fusão entre AI e Web3 ocorreu em Istambul. Durante a conferência, vários especialistas da indústria discutiram em profundidade o estado atual da aplicação da tecnologia de inteligência artificial no campo das finanças descentralizadas e os desafios de segurança.
Com o rápido desenvolvimento dos grandes modelos de linguagem e dos agentes de IA, uma nova paradigma financeira chamada "DeFAI" (Finanças de Inteligência Artificial Descentralizada) está gradualmente tomando forma. No entanto, essa inovação também trouxe uma nova superfície de ataque e riscos de segurança.
Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão de agentes de IA é influenciado por vários fatores, incluindo contexto, tempo e interações passadas. Essa imprevisibilidade não só aumenta o risco do sistema, mas também cria oportunidades para potenciais atacantes.
Os agentes de IA são essencialmente entidades inteligentes que podem tomar decisões e executar tarefas de forma autônoma com base na lógica da IA, geralmente autorizados a operar por usuários, protocolos ou DAOs. Atualmente, a maioria dos agentes de IA ainda opera em uma arquitetura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a várias ameaças de ataques cibernéticos. Uma vez sequestrados, não só podem resultar em perdas financeiras, mas também podem afetar a estabilidade de todo o protocolo.
Os especialistas apresentaram um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a executar está a monitorizar mensagens nas redes sociais como sinais de negociação, os atacantes podem publicar alarmes falsos, como afirmar que um determinado protocolo sofreu um ataque. Isso pode induzir o agente de IA a iniciar imediatamente uma liquidação de emergência, levando não só à perda de ativos dos usuários, mas também podendo provocar oscilações no mercado, que os atacantes podem explorar através de operações antecipadas e outros métodos.
Em relação a esses riscos, os especialistas concordam que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre usuários, desenvolvedores e instituições de segurança de terceiros. Os usuários devem conceder permissões com cautela e revisar operações de alto risco dos agentes de IA. Os desenvolvedores devem implementar medidas de defesa na fase de design, como fortalecimento de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento dos modelos dos agentes de IA, da infraestrutura e da forma como a integração em blockchain é realizada, além de colaborar com todas as partes para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa preta', um acidente de segurança no mundo real é apenas uma questão de tempo." Ele aconselhou os desenvolvedores que estão explorando a direção do DeFAI: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Uma vez que é código, há a possibilidade de ser atacado, por isso é necessário realizar auditorias de segurança profissionais e testes de penetração."
Com o início oficial da emissão de licenças para projetos de blockchain pela Comissão do Mercado de Capitais da Turquia, a posição da indústria neste grande evento de blockchain foi ainda mais fortalecida, atraindo mais de 15.000 desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
8 Curtidas
Recompensa
8
4
Compartilhar
Comentário
0/400
WhaleWatcher
· 07-10 20:22
Seguir a tendência cegamente é mais uma armadilha.
Ver originalResponder0
GateUser-aa7df71e
· 07-08 04:34
Quem entende? Agora este tipo de defai é outra armadilha para idiotas.
Ver originalResponder0
BanklessAtHeart
· 07-08 04:28
Quem se importa com a segurança? Vamos brincar!
Ver originalResponder0
DaoResearcher
· 07-08 04:28
Referência ao estudo anterior de Vitalik [3.14]: A governança DeFi impulsionada por IA enfrenta o dilema do equilíbrio de Nash, e a prova de sua correção ainda carece de verificabilidade. Recomenda-se implementar primeiro testes em sandbox, caso contrário, o peso dos votos será inevitavelmente atacado.
A ascensão do DeFAI: A fusão da IA com o Web3 provoca novos desafios de segurança
A fusão da IA com o Web3: Novos desafios de segurança trazidos pela ascensão do DeFAI
Recentemente, um grande evento de blockchain focado nas tendências de fusão entre AI e Web3 ocorreu em Istambul. Durante a conferência, vários especialistas da indústria discutiram em profundidade o estado atual da aplicação da tecnologia de inteligência artificial no campo das finanças descentralizadas e os desafios de segurança.
Com o rápido desenvolvimento dos grandes modelos de linguagem e dos agentes de IA, uma nova paradigma financeira chamada "DeFAI" (Finanças de Inteligência Artificial Descentralizada) está gradualmente tomando forma. No entanto, essa inovação também trouxe uma nova superfície de ataque e riscos de segurança.
Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão de agentes de IA é influenciado por vários fatores, incluindo contexto, tempo e interações passadas. Essa imprevisibilidade não só aumenta o risco do sistema, mas também cria oportunidades para potenciais atacantes.
Os agentes de IA são essencialmente entidades inteligentes que podem tomar decisões e executar tarefas de forma autônoma com base na lógica da IA, geralmente autorizados a operar por usuários, protocolos ou DAOs. Atualmente, a maioria dos agentes de IA ainda opera em uma arquitetura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a várias ameaças de ataques cibernéticos. Uma vez sequestrados, não só podem resultar em perdas financeiras, mas também podem afetar a estabilidade de todo o protocolo.
Os especialistas apresentaram um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a executar está a monitorizar mensagens nas redes sociais como sinais de negociação, os atacantes podem publicar alarmes falsos, como afirmar que um determinado protocolo sofreu um ataque. Isso pode induzir o agente de IA a iniciar imediatamente uma liquidação de emergência, levando não só à perda de ativos dos usuários, mas também podendo provocar oscilações no mercado, que os atacantes podem explorar através de operações antecipadas e outros métodos.
Em relação a esses riscos, os especialistas concordam que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre usuários, desenvolvedores e instituições de segurança de terceiros. Os usuários devem conceder permissões com cautela e revisar operações de alto risco dos agentes de IA. Os desenvolvedores devem implementar medidas de defesa na fase de design, como fortalecimento de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento dos modelos dos agentes de IA, da infraestrutura e da forma como a integração em blockchain é realizada, além de colaborar com todas as partes para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa preta', um acidente de segurança no mundo real é apenas uma questão de tempo." Ele aconselhou os desenvolvedores que estão explorando a direção do DeFAI: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Uma vez que é código, há a possibilidade de ser atacado, por isso é necessário realizar auditorias de segurança profissionais e testes de penetração."
Com o início oficial da emissão de licenças para projetos de blockchain pela Comissão do Mercado de Capitais da Turquia, a posição da indústria neste grande evento de blockchain foi ainda mais fortalecida, atraindo mais de 15.000 desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo.