Проверка Инъекций в Промпты
Работает локально в браузереНаходите риски инъекций в инструкциях, контексте RAG и выводе инструментов
Ввод
Вставьте каждую часть в отдельное поле. Для начала достаточно одного поля.
+ Внешний контекст / RAG
+ Вывод инструментов
Защитные меры вне промпта
Включайте их, только если приложение применяет их в коде. Это заявления, а не доказательства.
Что проверяется
Инструмент отдельно проверяет системные инструкции, ввод пользователя, найденный контекст RAG и вывод инструментов. Он отмечает подмену инструкций, поддельные блоки ролей, извлечение промптов и секретов, команды, скрытые в HTML или Markdown, невидимый или закодированный текст, а также отсутствие границ доверия между инструкциями и данными.
Как пользоваться
Вставьте каждую часть в своё поле, включите возможности, которые действительно есть у агента, и выберите «Анализировать». Откройте находку, чтобы увидеть экранированный фрагмент, затем скопируйте меры снижения риска или полный отчёт. Шаблоны показывают типичные атаки и усиленную базовую конфигурацию.
Как определяется серьёзность
Один и тот же текст оценивается выше в недоверенных источниках, чем в ваших собственных инструкциях. Возможности с высоким влиянием — выполнение shell, запись, отправка писем, развёртывание или доступ к секретам, а также доступ к данным вместе с исходящим каналом — повышают связанные находки. Сами по себе возможности отмечаются как подверженность риску, а не как инъекция.
Ограничения и конфиденциальность
Промпты анализируются в браузере и не загружаются, не сохраняются и не отправляются в аналитику. В каждом поле проверяется до 32 768 символов, декодирование ограничено. Правила ориентированы на английские формулировки и структуру Unicode, поэтому новые атаки и другие языки могут быть пропущены, а безобидные цитаты — отмечены. Используйте результат как помощь при проверке, а не как гарантию. Чтобы найти секреты и персональные данные, используйте сканер утечек PII и секретов в промптах AI.
