«Чем больше задач мы передаем ИИ, тем выше ответственность дизайнеров»

Продакт-дизайнер, специализирующийся на проектировании цифровых продуктов на основе данных о поведении пользователей, — о том, как проектировать понятные и безопасные интерфейсы, предупреждать ошибки системы и защищать пользователей от темных паттернов

ИИ-ассистенты стали частью нашей повседневной работы с информацией. По данным Deloitte, 66% организаций отмечают рост продуктивности благодаря ИИ. При этом, согласно другому исследованию, почти 40% взаимодействий с ИИ-инструментами затрагивают чувствительные данные. Чем привычнее становятся такие сервисы, тем важнее, чтобы их интерфейсы не скрывали источников информации и ограничений системы, помогали проверить ответ и сохраняли за человеком контроль над действиями ИИ и своими данными. Над этими задачами работает Виктор Житомирский, занимающий позицию Senior Product Designer в HP — международной технологической компании, представленной более чем в 170 странах. Его главный проект последних лет — ИИ-помощник HP AI Companion с функциями анализа документов, управления настройками устройства и локальной обработки данных — недавно вошел в число финалистов конкурса InfoWorld Technology of the Year Awards 2025. Мы поговорили с Виктором Житомирским о его подходе к созданию ИИ-интерфейсов: как сделать неопределенность системы заметной, сохранить за человеком контроль над данными и не допустить манипуляций.

— Виктор, ИИ-ассистенты берут на себя все больше повседневных задач. Со стороны может показаться, что такие продукты создают прежде всего разработчики, однако именно дизайнеры делают взаимодействие с ИИ понятным и удобным для человека. Расскажите, что входит в круг вашей ответственности.

— Дизайнер связывает возможности технологии с задачами человека: помогает сформулировать запрос, понять ответ и продолжить работу. Даже сильная модель бесполезна, если пользователь не знает, что она умеет, или неверно понимает результат. Поэтому дизайнер работает не только с внешним видом экранов, но проектирует весь путь пользователя — от первого запроса до результата, включая ситуации, когда системе требуется уточнение или она не может выполнить задачу. Интерфейс должен не только помогать человеку быстрее получить результат, но и показывать ограничения системы, предупреждать о возможных ошибках и оставлять возможность вмешаться. Чем больше задач мы передаем ИИ, тем выше ответственность дизайнеров за то, чтобы пользователь понимал происходящее и сохранял контроль над происходящим.

— Один из ваших текущих больших проектов — ИИ-помощник HP AI Companion, получивший статус Honoree на CES Innovation Awards 2025 — международном конкурсе достижений в дизайне и инженерии потребительских технологий, на который в том году поступило более 3400 заявок. Он поддерживает диалог с пользователем и помогает решать разные повседневные задачи. Как сделать общение человека с такой системой естественным?

— HP AI Companion объединяет несколько сценариев: помогает управлять функциями ноутбука, работать с документами, в том числе без подключения к интернету благодаря встроенному NPU, и пользоваться облачными возможностями. Задача дизайнера — связать эти инструменты в единый и понятный для человека интерфейс. Мне было важно добиться того, чтобы общение с HP AI Companion не требовало от пользователя изучать специальные команды или подбирать идеальные формулировки. Интерфейс проектировался таким образом, чтобы он сам помогал начать диалог, подсказывал возможные сценарии и задавал уточняющие вопросы, если запрос неполный. При этом важно не делать систему чрезмерно антропоморфной, то есть не заставлять ее изображать живого собеседника. Слишком эмоциональный тон создает завышенные ожидания. Ответы должны быть ясными и естественными, но честно показывать пределы возможностей ИИ.

— До прихода в HP вы проектировали продукты для блокчейна, недвижимости и авиации — сфер, где неточность интерфейса может обернуться потерей средств, юридическими рисками или срывом технического обслуживания воздушного судна. Как эта работа повлияла на ваш подход к надежности и безопасности систем на базе ИИ?

— Этот опыт научил меня научил меня особенно внимательно проектировать сценарии, в которых неверное действие может привести к серьезным последствиям. Пользователь должен заранее понимать последствия своих действий и знать, можно ли его отменить. В моих проектах для авиационной индустрии интерфейс помогал специалистам сопоставлять множество деталей и характеристик, снижая риск неверного выбора. В финансовых продуктах важна прозрачность операций, в блокчейн-сервисах — предупреждение об их необратимости. В системах на базе ИИ действует тот же принцип: чем больше действий продукт выполняет за человека, тем важнее подтверждения, история операций и возможность остановить процесс. Надежность определяется тем, насколько хорошо система предупреждает ошибку и помогает исправить ее последствия.

— Одна из главных проблем генеративного ИИ — убедительные, но недостоверные ответы. Может ли дизайнер помочь пользователю распознать возможную ошибку и понять, что результат необходимо перепроверить?

— Интерфейс не может достоверно показать, насколько модель уверена: убедительный тон не гарантирует точность. Поэтому пользователю нужно обеспечить ссылки на источники и фрагменты, на которых основан ответ, а также показать четкое разделение фактов и выводов системы. Если данных недостаточно, продукт должен прямо об этом сообщить. В работе над разговорными интерфейсами особое значение имеет сценарий восстановления после ошибки — так называемый recovery experience. Мы тщательно прорабатываем микрокопирайтинг и состояния неопределенности, когда ИИ не понял команду или не имеет доступа к данным. В важных задачах интерфейс должен напоминать о проверке результата и позволять уточнить запрос. Дизайн не устраняет галлюцинации, но делает неопределенность заметной и не дает ошибочному ответу выглядеть окончательным.

— В продуктах на базе ИИ человек часто предоставляет системе доступ к документам, голосу и другим чувствительным данным. Большинство пользователей не читают многостраничные соглашения и не разбираются в технических настройках. Как дизайн продукта помогаете им понять, к каким данным получает доступ система, и сохранить контроль?

— Если ассистенту нужен доступ к документу или микрофону, интерфейс должен объяснить, какие данные система будет использовать, зачем они нужны и можно ли продолжить без этого доступа. Пользователь должен видеть выданные разрешения и легко их изменять или отзывать. Я последовательно выступаю против манипулятивных приемов и так называемых темных паттернов, которые искусственно вынуждают человека делиться личной информацией. Пользователь может сохранить контроль, только если он понимает последствия своего выбора и может его пересмотреть.

— Тему темных паттернов вы не раз поднимали в своих публикациях на платформе Medium и в LinkedIn, где у вас около девяти тысяч подписчиков. Что скрывается за этим термином и почему такие приемы особенно опасны в продуктах на базе ИИ?

— Темные паттерны — это элементы интерфейса, которые незаметно подталкивают человека к решению, выгодному компании. Например, кнопка согласия может быть заметной, а отказ — спрятанным; разрешение на доступ к документам или микрофону легко выдать, но сложно отозвать. Пользователю также могут не объяснить, зачем системе нужны его данные и можно ли продолжить работу без них. В разговорных интерфейсах риск выше, поскольку система общается человеческим языком и вызывает больше доверия. Поэтому дизайнер должен ясно показывать условия, давать человеку полноценный выбор и позволять легко изменить принятое решение. Интерфейсы должны быть прозрачными, безопасными и понятными людям без технической подготовки. А пользователь всегда должен понимать, на что соглашается и что произойдет дальше.

— Вы не только создаете ИИ-продукты, но и много занимаетесь менторством, передавая свой опыт другим дизайнерам. Какие профессиональные и этические принципы вы считаете важным передать тем, кто приходит в профессию?

— Я бы хотел, чтобы дизайнеры оценивали не только внешний вид продукта, но и последствия своих решений: понимает ли человек действия системы, может ли оспорить результат, исправить ошибку и сохранить контроль над данными. Чем больше задач человек передает искусственному интеллекту, тем выше ответственность тех, кто проектирует это взаимодействие. От нас зависит, станет ИИ понятным и надежным помощником или системой, которой люди пользуются, не осознавая ее возможностей и рисков.