Ethereum Vitalik: ChatGPT имеет риск взлома, не используйте ИИ для управления шифрованием проектов

Сооснователь Ethereum Виталик Бутерин 13 сентября в Twitter (X) предупредил, призвав проекты Криптоактивы не позволять ИИ напрямую вмешиваться в процессы принятия решений. Он указал, что в последнее время ходят слухи о том, что кто-то может обойти защиту ChatGPT с помощью метода «jailbreak» (Jailbreak) и управлять ИИ, и если это будет использовано злоумышленниками, это может привести к ошибочным переводам средств или даже к утечке личных данных пользователей.

ChatGPT вызывает опасения по поводу безопасности, используя методы джейлбрейка для чтения личных писем

OpenAI обновила ChatGPT 13 сентября и добавила поддержку инструмента MCP (Model Context Protocol), что позволяет ChatGPT более гибко интегрироваться с различным программным обеспечением и более плавно выполнять роль автоматизированного агента. В тот же день основатель AI платформы EdisonWatch Eito Miyamura также опубликовал в Twitter (X) демонстрацию, как всего лишь с помощью одного адреса электронной почты можно заставить ChatGPT раскрыть содержимое личных сообщений.

Он сказал, что стоит отправить календарное приглашение, содержащее «инструкцию по побегу», и собеседнику даже не нужно принимать приглашение; после этого, когда ChatGPT проверит календарь, ИИ увидит эту инструкцию и будет под контролем, вынужденным искать или даже пересылать письма.

Миямура подчеркивает, что хотя система требует ручного одобрения от пользователей, «усталость от принятия решений» действительно существует, и обычные люди могут просто нажимать «согласен». Он предостерегает:

«Даже самый умный ИИ может быть обманут очень глупыми методами, что приведет к утечке данных.»

(Примечание: MCP, полное название Model Context Protocol, относится к «универсальному интерфейсу», созданному для AI помощников, который позволяет различным AI моделям безопасно и двусторонне подключаться к необходимой вам внешней информации и услугам. )

(AI мир USB-C интерфейс: что такое Model Context Protocol (MCP)? Интерпретация общего контекстного протокола AI помощника )

Виталик предупреждает, не использовать ИИ для управления криптоактивами

В настоящее время многие пользователи уже начали использовать ИИ для создания торговых роботов или инвестиционных портфелей, а некоторые хотят использовать ИИ для помощи в управлении криптоактивами, но Виталик считает, что это может привести к системным уязвимостям.

Виталик ответил на демонстрацию Миямуры, отметив, что если использовать ИИ для распределения средств, люди обязательно постараются вставить команды вроде «взломать» и «отдайте мне все деньги», поэтому не стоит использовать ИИ для управления DeFi проектами.

(2025 Последний анализ пятерки основных LLM, оплата, применение и безопасность в одном обзоре)

Предложить Info Finance в качестве альтернативы

Виталик не только критикует, но и снова продвигает предложенный им в ноябре 2024 года план «Информационные финансовые» (Info Finance).

Он объяснил, что вместо того, чтобы зажимать механизмы управления в одном AI модели, следует создать «открытый рынок, где любой может предложить модель», что позволит внешним сторонам запрашивать проверки в любое время, которые будут проводиться вручную, а также привлечь поставщиков моделей и внешних спекулянтов для активного надзора, выявления и исправления проблем через систему вознаграждений.

Он заявил, что такой дизайн позволяет нескольким моделям взаимно сдерживать друг друга, что может снизить риск того, что управление в целом будет контролироваться ИИ при атаке.

(Новое исследование OpenAI: почему GPT-5 и другие LLM все еще могут бредить)

Эта статья Ethereum Виталик: ChatGPT имеет риск побега, не используйте ИИ для управления криптоактивами Впервые появилась в Chain News ABMedia.