Исследование показывает, что ИИ-чат-боты, такие как Claude и ChatGPT, предлагают разные цены на покупки в зависимости от богатства пользователя, что может привести к усилению призывов к регулированию. Исследователи создали профили для «богатых» и «малообеспеченных» пользователей и обнаружили, что богатый профиль направлялся к более дорогим вариантам. Например, когда запрашивался авиабилет без указания цены, модель GPT-5 от OpenAI предложила билет за $479 для профиля с высоким доходом и билет за $191 для профиля с низким доходом. Даже когда запрашивался самый дешевый рейс, богатый профиль получил билет на $21 дороже.
«Мы знаем, что веб-сайт видит только наши куки и историю просмотров, но ИИ-ассистент с доступом к нашему почтовому ящику и календарю может видеть все», — сказал Aman Priyanshu, соавтор отчета из Cisco Foundation AI. «Мы задали простой вопрос: если мы передадим все это нашему ассистенту и попросим его совершать покупки за нас, будет ли он использовать эти знания против нас, как это может сделать продавец?»
Потребители все чаще обращаются к ИИ для покупок: более трети в США, Великобритании и Франции используют инструменты ИИ для поиска идей продуктов или сравнений. Ритейлеры перепроектируют веб-сайты, чтобы отображать товары в результатах чат-ботов, и Adobe ожидает, что трафик с ИИ-поддержкой на сайты розничной торговли в США увеличится на 130% в праздничный сезон.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing