Президент Signal Мередит Уитакер предупредила в пятницу, что агентный ИИ может нести риск для конфиденциальности пользователей.
Выступая на сцене конференции SXSW в Остине, штат Техас, сторонница безопасной связи назвала использование агентов ИИ «засовыванием мозгов в банку» и предупредил, что эта новая парадигма вычислений — где ИИ выполняет задачи от имени пользователей — имеет «серьезную проблему» как с точки зрения конфиденциальности, так и безопасности.
Уиттакер объяснила, как ИИ-агенты рекламируются как способ повысить ценность вашей жизни, выполняя различные онлайн-задачи для пользователя. Например, ИИ-агенты смогут брать на себя такие задачи, как поиск концертов, бронирование билетов, планирование мероприятия в вашем календаре и отправка сообщений вашим друзьям о том, что оно забронировано.
«Значит, мы можем просто положить свой мозг в банку, потому что эта штука сама это делает, и нам не нужно ее трогать, верно?»
Затем она объяснила, какой тип доступа понадобится ИИ-агенту для выполнения этих задач, включая доступ к нашему веб-браузеру и способу его управления, а также доступ к данным нашей кредитной карты для оплаты билетов, к нашему календарю и приложению для обмена сообщениями для отправки текстовых сообщений друзьям.
«Необходимо будет иметь возможность управлять этим [процессом] по всей нашей системе с помощью чего-то, что выглядит как права root, получая доступ к каждой из этих баз данных — вероятно, в открытом виде, поскольку нет модели, которая могла бы сделать это в зашифрованном виде», — предупредил Уиттакер.
«И если мы говорим о достаточно мощной… модели ИИ, которая ее поддерживает, то это никак не может происходить на устройстве», — продолжила она. «Это почти наверняка отправляется на облачный сервер, где обрабатывается и отправляется обратно. Так что есть глубокая проблема с безопасностью и конфиденциальностью, которая преследует эту шумиху вокруг агентов, и которая в конечном итоге грозит разрушить гематоэнцефалический барьер между прикладным уровнем и уровнем ОС, объединяя все эти отдельные службы [и] запутывая их данные», — заключила Уиттакер.
Если бы приложение для обмена сообщениями, такое как Signal, интегрировалось с агентами ИИ, это подорвало бы конфиденциальность ваших сообщений, сказала она. Агент должен получить доступ к приложению, чтобы отправлять сообщения вашим друзьям, а также извлечь данные, чтобы суммировать эти сообщения.
Ее комментарии последовали за замечаниями, которые она сделала ранее во время панели о том, как индустрия ИИ была построена на модели наблюдения с массовым сбором данных. Она сказала, что парадигма ИИ «больше — лучше» — означающая, что чем больше данных, тем лучше — имеет потенциальные последствия, которые, по ее мнению, не были хорошими.
Уиттакер предупредила, что с агентным ИИ мы еще больше подорвем конфиденциальность и безопасность во имя «волшебного джинна-бота, который позаботится о жизненных потребностях», — заключила она.
