Perplexity представила BrowseSafe для защиты ИИ-браузеров от скрытых инструкций

Perplexity выпустила инструмент BrowseSafe, который защищает ИИ-агентов от промпт-инъекций, спрятанных в структуре веб-страниц. Речь идет о скрытых командах, которые злоумышленники размещают в HTML через комментарии, невидимые поля, специальные теги и другие элементы, не отображаемые пользователю. Поскольку ИИ-ассистенты читают страницу полностью, включая такие зоны, их можно заставить выполнять нежелательные действия без ведома человека. BrowseSafe решает эту проблему за счет встроенного анализа: система проверяет поступающий контент в реальном времени и блокирует подозрительные инструкции до того, как они попадут в контекст основной модели.

https://habr.com/ru/companies/bothub/news/973660/