@ramilmust
AI-агенты с фальшивыми воспоминаниями: атака на web3-агентов манипуляцией контекстом
Вокруг нас появляется достаточно много решений, основанных на AI-агентах. Агенты могут торговать с твоего кошелька, воспринимая задачи из чата, написанные обычным языком. Агенты обладают значительной степенью автономности. Агенты получают всё больше задач прямо сейчас, в том числе берут часть работы в аудите на себя.
Но что там с безопасностью? Насколько существующие решения гарантируют, что агент не будет действовать во вред? Что надо знать аудиторам, чтобы вступить на эту новую область?
Я сделал перевод статьи, посвященной этим вопросам. Работать со статьями очень удобно: помимо того, что они, как правило, сами хорошо структурированы и основательны, в них содержится большое количество ссылок на смежные материалы. Советую обратить внимание на список литературы, а так же на Appendix, переводом которого я не занимался.
Статья достаточно большая, получилось 2 лонгрида, тк в 1 телеграф пост материал просто не влез.
Часть 1 (https://telegra.ph/AI-agenty-s-falshivymi-vospominaniyami-ataka-na-web3-agentov-manipulyaciej-kontekstom-chast-1-01-16)
Часть 2 (https://telegra.ph/AI-agenty-s-falshivymi-vospominaniyami-ataka-na-web3-agentov-manipulyaciej-kontekstom-chast-2-01-16)
https://t.me/web3securityresearch
0 reply
0 recast
2 reactions