В экосистеме Apple и у производителей чипов вроде Qualcomm ведётся работа над ИИ-помощниками следующего поколения. Однако с самого начала в них закладывают строгие рамки.
Ранние прототипы таких систем уже умеют перемещаться по приложениям, оформлять бронирования и решать задачи в сервисах. К примеру, в закрытой бета-версии ИИ-агент успешно забронировал услугу или разместил контент в приложении. В ходе теста он прошёл весь процесс в программе и вывел экран оплаты, прежде чем запросить согласие у человека.
Такие ИИ-агенты оснащают контрольными точками подтверждения. Перед выполнением рискованных шагов — вроде платежей или правок в аккаунте — обязательно нужно одобрение пользователя. Подход с человеком на ключевом этапе позволяет ИИ подготовить операцию, но финальное решение остаётся за владельцем. Работы по ИИ от Apple изучают механизмы, чтобы системы останавливались перед неподтверждёнными действиями.
Банковские приложения давно просят подтверждения на переводы. Теперь похожий принцип вводят для операций, которые запускает ИИ в различных сервисах.
Ограничения и контроль
Основной барьер — это запрет на полный доступ к приложениям и данным. Компании определяют, с какими программами может работать ИИ и в каких ситуациях он активируется.
В итоге система способна составить заказ или настроить бронирование, но без зелёного света от пользователя ничего не завершит. ИИ не получит свободу передвижения по сервисам, если разрешения нет.
Такой дизайн усиливает приватность: данные хранятся локально на устройстве, без передачи на внешние серверы.
С платежами ИИ интегрируется с проверенными партнёрами, у которых уже есть жёсткие протоколы. Добавляют сервисы провайдеров для безопасной проверки перед сделкой — эти опции пока дорабатывают. Готовые механизмы служат дополнительным барьером: они устанавливают потолки на суммы или требуют многофакторной аутентификации.
Большинство споров о регулировании ИИ касалось бизнеса — вопросов кибербезопасности и массовой автоматизации. Для обычных пользователей нужны проще решения: понятные шаги одобрения и защита личных данных.
Автономия с границами
Чем больше самостоятельности у ИИ, тем выше опасности: промахи чреваты деньгами или компрометацией информации.
Компании расставляют барьеры на разных уровнях — от проверок действий до базовой архитектуры, — чтобы держать угрозы в узде.
Такая стратегия задаст тон развитию ИИ-агентов в ближайшие годы. Вместо полной свободы приоритет у безопасных зон, где всё под присмотром.