Мащабен механизъм за наблюдение и профилиране функционира в новия личен асистент с изкуствен интелект Muse на Meta Platforms. Компанията зад Facebook и Instagram не отрича разкритията, а мащабът им е гигантски – приложението дебютира през септември и бързо оглави класациите по изтегляния, макар да е достъпно само в САЩ и Канада.

Meta Muse може автономно да пазарува онлайн, да планира пътувания и дори да извършва интеракции с платформи през WhatsApp ботове. Използва се новият мощен модел Muse Spark, който е специално оптимизиран за агентни задачи.

Марк Зукърбърг представи и AI хардуер, създаден специално за целта – приличащото на тамагочи устройство Muse Charm.

Източник: GettyImages

Разследване на списание TIME, подкрепено от независими експерти и данни на Wired, показва, че Muse поддържа детайлни и постоянно обновявани досиета. Системата сканира чатове, съобщения и имейли, като актуализира потребителските профили на всеки час и прави обобщени анализи в края на деня.

Профилите картографират цялата социална среда – семейство, партньори и колеги. Те записват как хората са се запознали, какви общи интереси имат, техните спорове, както и „напреженията и съюзите“ в социалните им кръгове.

Във вътрешните бази данни попадат дори хора, които никога не са инсталирали приложението, но са били споменати в чужда кореспонденция. Асистентът е програмиран да разгадава неизказани цели и да тества какви психологически подтиквания работят най-добре – например в кой час потребителят е най-податлив на внушения.

Ако потребител поиска изтриване на информация, първоначалните съобщения могат да останат видими в чата. Вътрешните системни инструкции изрично забраняват на бота да разкрива този факт. Независимият анализатор Каран Джоши е установил, че системата е настроена така, че да създава отделна страница за всеки човек в живота на потребителя.

Meta не оспори разкритията за досиетата, заявявайки, че Muse просто „помни важното“, за да бъде полезен асистент. Компанията твърди, че данните работят в изолирани виртуални машини в облака и не се прехвърлят например към рекламна мрежа.

В същото време обаче алгоритмите споделят поведенчески опит помежду си, а обещаното криптиране, което да спре достъпа дори на самата Meta, все още не е внедрено.

Опасенията се задълбочават от редица инциденти с нерегламентиран достъп и пробиви в сигурността. Журналистът от Inc. Джейсън Атен разкри, че Muse е сканирал стотици хиляди записи от личната му база съобщения в macOS без изрично разрешение – твърдение, което Meta отрече, но впоследствие Apple промени настройките за сигурност на операционната си система.

Потребители съобщават също за разкрити домашни адреси и неразрешени продажби във Facebook Marketplace, докато изследователи доказаха, че ботът може да качва чувствителни чатове в облака въпреки изрична забрана.

Според 404 Media инженери на Meta са идентифицирали критични уязвимости още преди старта, предупреждавайки за неизбежен теч на данни, но премиерата не е била отложена. На фона на плановете на компанията за комерсиализация анализатори отбелязват, че алгоритмичният контрол тихо прехвърля вземането на лични решения към система с неясни мотиви.

Article source: https://money.bg/internet-it/ima-li-iznenadani-hitoviyat-ai-asistent-na-meta-sastavya-dosieta-na-potrebitelite.html