La fusión de AI y Web3 genera nuevos desafíos de seguridad, DeFAI se convierte en el centro de atención
Recientemente, la Semana de Blockchain de Estambul se centró en la tendencia de fusión entre AI y Web3, convirtiéndose en una plataforma importante para discutir la seguridad de Web3 en la industria. Varios expertos llevaron a cabo un profundo debate en un foro de mesa redonda sobre el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas y los desafíos de seguridad.
Con el rápido desarrollo de los modelos de lenguaje grandes y los agentes de IA, está surgiendo un nuevo modelo financiero conocido como "DeFAI" (finanzas de inteligencia artificial descentralizada). Sin embargo, esta innovación también ha traído riesgos de seguridad sin precedentes.
Un alto ejecutivo de una empresa de seguridad señaló que, aunque DeFAI tiene un gran potencial, también nos obliga a reexaminar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes de lógica fija tradicional, el proceso de toma de decisiones de los agentes de IA está influenciado por múltiples factores y es impredecible, lo que no solo agrava el riesgo, sino que también crea oportunidades para los posibles atacantes.
Los agentes de IA son entidades inteligentes que pueden tomar decisiones y ejecutar acciones de forma autónoma basándose en lógica de IA, siendo el representante más típico el robot de trading de IA. Actualmente, la mayoría de los agentes de IA aún dependen de servidores centralizados y API para funcionar, lo que los hace susceptibles a diversos ataques, como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
Los expertos también discutieron un escenario típico de ataque: cuando el agente de negociación AI de un usuario de DeFi está monitoreando la información de las redes sociales como señales de negociación, un atacante podría inducir al agente a realizar operaciones inapropiadas, como liquidaciones de emergencia, publicando alertas falsas. Esto no solo podría resultar en pérdidas de activos para el usuario, sino que también podría desencadenar volatilidad en el mercado, que el atacante podría aprovechar para arbitraje.
Con respecto a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser mantenida conjuntamente por los usuarios, los desarrolladores y las agencias de seguridad de terceros. Los usuarios deben otorgar permisos con precaución y prestar atención a las operaciones de alto riesgo de los agentes de IA. Los desarrolladores deben implementar medidas defensivas desde la fase de diseño, como refuerzo de palabras clave, aislamiento en sandbox, limitación de tasas y lógica de retroceso, entre otros mecanismos. Las empresas de seguridad de terceros deben proporcionar revisiones independientes sobre todos los aspectos de los agentes de IA y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Para los desarrolladores que están explorando la dirección de DeFAI, los expertos sugieren considerar a los agentes de IA como código que podría ser atacado, en lugar de como una "caja negra". Por lo tanto, es crucial realizar auditorías de seguridad profesionales y pruebas de penetración.
Como uno de los eventos de blockchain más influyentes de Europa, la Semana de Blockchain de Estambul ha atraído a más de 15,000 desarrolladores, proyectos, inversionistas y reguladores de todo el mundo. Con el lanzamiento oficial por parte de la Comisión del Mercado de Capitales de Turquía de licencias para proyectos de blockchain, la posición de la industria de este evento se ha reforzado aún más.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
17 me gusta
Recompensa
17
9
Republicar
Compartir
Comentar
0/400
TokenTherapist
· 07-28 01:27
Esta ola de IA en web3 es un poco desafortunada.
Ver originalesResponder0
AirdropF5Bro
· 07-27 15:55
Una mirada peligrosa
Ver originalesResponder0
ForkItAll
· 07-27 01:47
El riesgo no puede detener la innovación, simplemente hay que hacerlo.
Ver originalesResponder0
BitcoinDaddy
· 07-26 17:58
Los tontos están dando clase a todos.
Ver originalesResponder0
FlippedSignal
· 07-25 02:01
Riesgo qué To the moon
Ver originalesResponder0
GweiTooHigh
· 07-25 01:59
La seguridad es lo más importante, lo demás son tonterías.
La colisión de la IA y Web3 provoca preocupaciones en la industria sobre los riesgos de Seguridad de la IA DeFAI.
La fusión de AI y Web3 genera nuevos desafíos de seguridad, DeFAI se convierte en el centro de atención
Recientemente, la Semana de Blockchain de Estambul se centró en la tendencia de fusión entre AI y Web3, convirtiéndose en una plataforma importante para discutir la seguridad de Web3 en la industria. Varios expertos llevaron a cabo un profundo debate en un foro de mesa redonda sobre el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas y los desafíos de seguridad.
Con el rápido desarrollo de los modelos de lenguaje grandes y los agentes de IA, está surgiendo un nuevo modelo financiero conocido como "DeFAI" (finanzas de inteligencia artificial descentralizada). Sin embargo, esta innovación también ha traído riesgos de seguridad sin precedentes.
Un alto ejecutivo de una empresa de seguridad señaló que, aunque DeFAI tiene un gran potencial, también nos obliga a reexaminar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes de lógica fija tradicional, el proceso de toma de decisiones de los agentes de IA está influenciado por múltiples factores y es impredecible, lo que no solo agrava el riesgo, sino que también crea oportunidades para los posibles atacantes.
Los agentes de IA son entidades inteligentes que pueden tomar decisiones y ejecutar acciones de forma autónoma basándose en lógica de IA, siendo el representante más típico el robot de trading de IA. Actualmente, la mayoría de los agentes de IA aún dependen de servidores centralizados y API para funcionar, lo que los hace susceptibles a diversos ataques, como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
Los expertos también discutieron un escenario típico de ataque: cuando el agente de negociación AI de un usuario de DeFi está monitoreando la información de las redes sociales como señales de negociación, un atacante podría inducir al agente a realizar operaciones inapropiadas, como liquidaciones de emergencia, publicando alertas falsas. Esto no solo podría resultar en pérdidas de activos para el usuario, sino que también podría desencadenar volatilidad en el mercado, que el atacante podría aprovechar para arbitraje.
Con respecto a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser mantenida conjuntamente por los usuarios, los desarrolladores y las agencias de seguridad de terceros. Los usuarios deben otorgar permisos con precaución y prestar atención a las operaciones de alto riesgo de los agentes de IA. Los desarrolladores deben implementar medidas defensivas desde la fase de diseño, como refuerzo de palabras clave, aislamiento en sandbox, limitación de tasas y lógica de retroceso, entre otros mecanismos. Las empresas de seguridad de terceros deben proporcionar revisiones independientes sobre todos los aspectos de los agentes de IA y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Para los desarrolladores que están explorando la dirección de DeFAI, los expertos sugieren considerar a los agentes de IA como código que podría ser atacado, en lugar de como una "caja negra". Por lo tanto, es crucial realizar auditorías de seguridad profesionales y pruebas de penetración.
Como uno de los eventos de blockchain más influyentes de Europa, la Semana de Blockchain de Estambul ha atraído a más de 15,000 desarrolladores, proyectos, inversionistas y reguladores de todo el mundo. Con el lanzamiento oficial por parte de la Comisión del Mercado de Capitales de Turquía de licencias para proyectos de blockchain, la posición de la industria de este evento se ha reforzado aún más.