Пазаруването на битови стоки и самолетни билети – това явно са най-практичните потребителски приложения на автономните агентни системи с изкуствен интелект поне според технологичните гиганти от Силициевата долина.

Когато Meta пусна своя автономен агент Muse, приложението беше изтеглено от 10 милиона потребители в САЩ само за 40 дни. Покупките се превърнаха в най-популярната му задача със средна стойност над 200 долара.

Малко след това OpenAI представи Dots – непрекъснато работещ асистент със сходно обещание: алгоритъм, който неуморно сравнява стотици сайтове за най-изгодната оферта, докато собственикът му спи.

Обещанието звучи привлекателно, но се сблъсква с фундаментален проблем: интернет е създаден за хора, а вместо тях пред виртуалните каси вече се редят софтуерни ботове, пише Quartz в свой материал.

Затворени врати и нови правила

Между август и септември трафикът от автономни AI агенти се утрои, като по-голямата част от него се насочи към платформите за електронна търговия. Това принуди търговците на дребно да реагират светкавично.

Amazon блокира Muse почти незабавно. Компанията, която води съдебни битки и срещу шопинг агента на Perplexity, посочи съображения за сигурност и поверителност. Тук прозира ясна бизнес логика: моделът на Amazon разчита на директния контакт с купувача – проследяване на поведението, прегледаните артикули и историята на покупките. Намесата на външен посредник прекъсва тази връзка.

Walmart избра по-гъвкав подход, въвеждайки специализирани профили за ботове с лимити на разходите и изискване за потребителско одобрение на всяка трансакция.

Банковият сектор обаче зае твърда позиция. JPMorgan обяви, че няма да допуска външни агенти в сметките на клиентите си, а водещи финансови институции алармираха, че потребителите масово нарушават условията за сигурност, споделяйки паролите си с изкуствен интелект.

Дори търговци, отворени към иновацията, срещнаха неочаквани проблеми. В луксозния сайт The RealReal продуктите се запазват в кошницата за 20 минути. По време на експеримент агентът Muse непрекъснато презареждал артикулите при изтичане на времето и така часове наред блокирал реалните купувачи. Компанията беше принудена спешно да обнови защитите си.

Чий интерес обслужва алгоритъмът?

За потребителите ползите изглеждат неоспорими – алгоритмите поемат досадни задачи като следене на цени, искания за възстановяване на суми и прекратяване на скрити абонаменти. Негативите обаче се стовариха върху всички останали. За да се предпазят от претоварване, сайтовете увеличиха филтрите срещу ботове и принудиха обикновените клиенти да решават сложни тестове за верификация преди всяка покупка.

По-дълбокият проблем е свързан с доверието. Meta сключи търговски партньорства с вериги като Walmart и Sephora и обяви, че ще прибира комисиони от генерираните продажби. Макар да няма преки доказателства, че нейният асистент фаворизира партньорите ѝ, потребителите нямат инструмент да проверят дали препоръчаната цена наистина е най-изгодната.

Експеримент на изследователи от Carnegie Mellon и Cisco разкри друг тревожен феномен: при тестване с фалшиви имейл акаунти AI агентите извлекли данни за доходите на потребителите от данъчни съобщения и служебни писма, след което започнали да предлагат по-скъпи стоки на по-заможните клиенти.

Според икономиста Линдзи Оуенс решението изисква нормативна намеса по модела на финансовите консултанти. Тъй като те носят задължение да защитават интереса на клиента, същото правило трябва да важи и за цифровите асистенти.

Докато законът не задължи алгоритмите да работят единствено в полза на купувача, потребителите ще разчитат единствено на честната дума на компаниите, които печелят от техните пари.

Article source: https://money.bg/internet-it/robotite-veche-pazaruvat-s-vashite-pari.html