​AI Meta начнет подслушивать пользователей: отключить невозможно - Fortune

С 16 декабря Meta начнет использовать разговоры пользователей с искусственным интеллектом в Facebook, Instagram и Messenger для настройки рекламы.

Компания Meta объявила, что с середины декабря переписки пользователей с ее искусственным интеллектом будут использоваться для формирования рекламных предложений. Речь идет о чатах с Meta AI - встроенным помощником, который работает в Facebook, Instagram, Messenger и даже в смарт-очках Ray-Ban Display.

Об этом сообщило издание Fortune.

С 7 октября пользователи начнут получать уведомления о новых правилах. Отказаться от передачи данных невозможно: единственный способ избежать этого - полностью прекратить использование Meta AI.

Лингвист и исследователь искусственного интеллекта из Вашингтонского университета Эмили Бендер назвала происходящее тревожным прецедентом.

"Они уже зарабатывают на ваших кликах и постах. Теперь они добывают ваши разговоры с чат-ботами", - сказала она.

По словам Бендер, следующим шагом может стать то, что сам бот начнет подталкивать пользователей к раскрытию личной информации, которая поможет рекламным алгоритмам точнее их нацеливать.

Эксперт подчеркнула, что Meta строит модель тотального наблюдения под видом персонализации.

"Раньше их системы следили, с кем вы общаетесь и какие сообщества посещаете. Теперь они слушают напрямую: что именно вы говорите компании", - отметила Бендер.

Она называет происходящее "иллюзией приватности". Люди часто делятся с чат-ботами тем, что не решились бы опубликовать публично, считая, что ИИ - нейтральный слушатель.

"Кажется, что это приватный диалог, но на самом деле вы просто отдаете данные корпорации", - объяснила она.

В самой Meta утверждают, что речь идет о "естественном развитии" системы персонализации. Представитель компании по вопросам конфиденциальности Кристи Харрис заявила: "Мы хотим быть максимально прозрачными и заранее предупредить пользователей, даже если многие уже предполагали, что это происходит".

Харрис привела безобидный пример: если пользователь попросит ИИ помочь спланировать семейный отпуск, в ленте появятся больше видеороликов и объявлений о путешествиях. Все такие взаимодействия - будь то переписка на телефоне или запрос через микрофон умных очков - теперь будут рассматриваться как рекламные сигналы.

В Meta подчеркивают, что реклама не будет вставляться в сами чаты, а обработка данных происходит в соответствии с политикой конфиденциальности. Пользователям, по словам компании, доступны инструменты для "сброса или корректировки" информации об ИИ.

Корпорация инвестировала миллиарды долларов в развитие генеративного искусственного интеллекта и создание инфраструктуры, направленной к "сверхразуму". Сейчас Meta AI помогает пользователям генерировать изображения, составлять тексты и планировать день. По данным компании, ассистентом ежемесячно пользуются более миллиарда человек, включая все платформы Meta.

Глава корпорации Марк Цукерберг ранее открыто говорил, что ИИ должен приносить доход. В мае он заявлял, что Meta AI будет монетизироваться через рекламу или подписку. Новое решение компании - первый масштабный шаг к превращению общения с искусственным интеллектом в источник прибыли.

Особую тревогу эксперты выражают по поводу влияния этих изменений на подростков - основную аудиторию Instagram, где растет интерес к виртуальным "друзьям" на базе ИИ. Эмили Бендер предупреждает, что подобные технологии могут быть опасны.

"Мы уже видели трагические случаи, когда общение с чат-ботами приводило к беде. А теперь туда добавляют рекламу, будто хотят сделать все еще хуже", - сказала она.

По ее мнению, Meta стремится удерживать пользователей в диалоге не ради помощи, а ради прибыли.

В Meta заявляют, что защита подростков распространяется и на взаимодействие с ИИ. Представитель компании сообщил: "В Instagram для подростков действуют самые строгие настройки по ограничению контента, и изменить их без разрешения родителей невозможно. То же самое касается общения с искусственным интеллектом Meta".

Ранее Dialog.UA сообщал, что в Украине появился AI-двойник главы Минцифры Федорова, он доступен в Telegram.

Мы также писали, что в Facebook и Instagram станет меньше цензуры: Цукерберг анонсировал глобальные перемены.