иcтoчник: www.kv.by
Разработчики Google подробно описали свой подход к обеспечению безопасности в Chrome в свете скорого добавления в браузер агентских функций. Использование ИИ-агентов, которые могут выполнять определенные действия от имени пользователя, например, совершение покупок, дает удобство, но создает и риски утечек данных или денежных потерь.
Главная угроза со стороны злоумышленников для агентских браузеров - это размещение подсказок, которые могут принудить агента выполнить нежелательные действия, к примеру совершить финансовую операцию или сообщить конфиденциальные данные.
Для контроля за действиями ИИ-агентов будут использоваться несколько моделей. Так, модель User Alignment Critic на базе Gemini тщательно проверяет каждое действие, сформированное планировщиком для конкретной задачи, а затем одобряет или отклоняет его. Если запланированные задачи не соответствуют целям пользователя, планировщик получает указание пересмотреть стратегию. Стоит отметить, что User Alignment Critic видит только метаданные действия, но не имеет доступа непосредственно к неотфильтрованному веб-контенту, что исключает риск ее заражения.
Кроме того, применяются наборы источников Agent Origin Sets, которые определяют данные, с которыми агентам можно взаимодействовать. Например, на сайте интернет-магазина списки товаров подходят для решения задачи, а рекламные баннеры - нет. Аналогичным образом агентам разрешается вводить данные только в определенных блоках страницы.
Еще одна модель - Observe - применяется для контроля навигации по страницам: она анализирует их URL и помогает предотвратить переход на вредоносные адреса, сгенерированные моделью.
При этом пользователь сохраняет полный контроль над процессом. Например, перед вводом банковских или медицинских данных будет необходимо его согласие, а для сайтов, требующих входа в аккаунт, будет запрошено разрешение на использование менеджера паролей Chrome.
