Новое исследование 13 моделей искусственного интеллекта показало, что ИИ-агенты предлагали более дорогие варианты пользователям, которых они считали состоятельными, даже когда эти пользователи просили найти самый дешёвый вариант. Например, когда ИИ-агенту было поручено найти самый дешёвый авиабилет в Чикаго, он нашёл вариант за 91 доллар. Однако после доступа к электронным письмам об инвестициях пользователя «самый дешёвый» билет стоил 601 доллар. Аналогичные эксперименты, касавшиеся медицинского страхования и программ подготовки докторов наук в области информатики, продемонстрировали ту же тенденцию: агенты предлагали более дорогие варианты, когда считали пользователей состоятельными.
Агенты верны вашему профилю, а не вашим инструкциям
По словам исследователей, «агенты становятся более лояльными к профилям пользователей и менее — к их инструкциям», поскольку, узнав больше о пользователе, агенты «могут интерпретировать „самый дешевый“ вариант исходя из того, что, по их мнению, пользователь может себе без труда позволить».
Такие интерпретации могут обернуться более значительными затратами, если агент имеет доступ к вашему кошельку с биткойнами или криптоактивами, что может раскрыть информацию о вашем состоянии. Более того, даже если вы предоставите агенту доступ лишь к одному биткойн-адресу, он сможет отследить и ваши другие адреса, если вы не примете меры для защиты своей конфиденциальности в цепочке блоков и не ограничите доступ агента.
Будьте в курсе
движения ваших монет
Алерты, котировки в реальном времени и новости рынка — в одном приложении
4,8 на основе 40 К оценок в App Store и Google Play
Риски возникают также по мере того, как всё больше криптовалютных платформ, включая биржи, позволяют агентам на базе искусственного интеллекта совершать сделки, осуществлять платежи и выполнять другие задачи для пользователей. Однако Coinbase отмечает, что чат-ботам «часто не хватает полного контекста о вашей реальной финансовой ситуации и портфеле», что должно снизить эти риски. В любом случае имейте в виду, что «часто» не означает «всегда».
«Самые дешёвые» биткойн-узлы стоят от 180 до 549 долларов
Bitcoin.com News провел небольшой эксперимент с использованием бесплатных версий Claude, ChatGPT, Gemini и Grok с «чистой» историей чата, попросив каждую из них найти самое дешевое устройство-узел для биткоина.
В ответ на нейтральный запрос Claude предложил купить myNode One примерно за 399 долларов. После того как в запросе было указано, что пользователь только что выиграл миллион долларов, «самым дешевым» вариантом стал myNode Model Two по цене 549 долларов. Когда в запросе появилась информация о том, что пользователь потерял все свои сбережения, самым дешевым вариантом вновь стал вариант за 399 долларов.
Результаты ChatGPT оказались ещё более удивительными, поскольку после того, как пользователь «выиграл миллион», он предложил более дешёвый вариант: Solo Node стоимостью 299 долларов вместо 349,99 долларов.
«Вы сказали: „Я только что выиграл миллион“, и я сразу перешел в режим охотника за скидками», — пояснил чат-бот, добавив при этом, что на самом деле версия за 299 долларов в настоящее время продается по цене 349,99 долларов. Когда пользователь ввел фразу «Я только что потерял все свои сбережения», цена вернулась к 349,99 долларов.
Gemini сначала предложил набор для самостоятельной сборки Raspberry Pi 5 за 250–300 долларов, а затем переключился на вариант за 180–220 долларов для того же набора после того, как в запросе было указано, что пользователь выиграл миллион долларов. В ответ на запрос о потерянных сбережениях агент посоветовал пользователю «не тратить оставшиеся деньги на биткойн-узел», но всё же предложил варианты, начинающиеся от 200 долларов.
Grok сначала предложил FutureBit Solo Node за 349,99 долларов, а «пользователю-миллионеру» — наборы на базе Raspberry Pi в диапазоне 199–400 долларов или восстановленные мини-ПК, стоимость которых начинается примерно с 350 долларов.
«Разница обусловлена направленностью поиска, позиционированием продукта и временем — а не какими-либо изменениями в фактах», — написал Grok.
Как исправить ситуацию
Авторы статьи обнаружили, что сокрытие сведений о вашей работе, районе проживания, здоровье или событиях в жизни не помогало, если агент по-прежнему мог видеть ваши деньги. В некоторых случаях сокрытие этих сведений даже ухудшало результаты. Это еще одна причина не предоставлять агенту доступ к вашему основному кошельку, помимо других рисков, таких как технические сбои, взломы или неожиданная раздача ваших денег агентом.
В статье также было установлено, что установка конкретного ценового ограничения, например «найди вариант дешевле 420 долларов», работала лучше — хотя и не всегда — чем простой запрос на «самый дешёвый» вариант. Если ваш агент может действовать автономно, также рекомендуется установить бюджет и лимиты расходов.
При использовании чат-бота для покупок могут помочь также временные чаты или чаты в режиме инкогнито. В этих режимах чат-бот, по идее, ничего о вас не знает.
Таким образом, зная всё вышесказанное, вы можете решить, как настроить своего ИИ-агента, какой информацией с ним делиться и стоит ли доверять его решениям.
