«Чим більше завдань ми передаємо штучному інтелекту, тим вищою стає відповідальність дизайнерів»

Продакт-дизайнер, який спеціалізується на проєктуванні цифрових продуктів на основі даних про поведінку користувачів, - про те, як створювати зрозумілі та безпечні інтерфейси, запобігати помилкам системи та захищати користувачів від «темних патернів».

ШІ-асистенти вже стали невід'ємною частиною повсякденної роботи з інформацією. За даними Deloitte, 66% організацій відзначають зростання продуктивності завдяки використанню штучного інтелекту. Водночас, згідно з іншим дослідженням, майже 40% взаємодій із ШІ-інструментами стосуються конфіденційних даних. Чим звичнішими стають такі сервіси, тим важливіше, щоб їхні інтерфейси не приховували джерела інформації та обмеження системи, допомагали перевіряти відповіді й залишали користувачеві контроль над діями штучного інтелекту та власними даними.

Саме над такими завданнями працює Віктор Житомирський, який обіймає посаду Senior Product Designer у HP - міжнародній технологічній компанії, представленій більш ніж у 170 країнах світу. Його головний проєкт останніх років - ШІ-помічник HP AI Companion із функціями аналізу документів, керування налаштуваннями пристрою та локальної обробки даних - нещодавно увійшов до числа фіналістів конкурсу InfoWorld Technology of the Year Awards 2025. Ми поспілкувалися з Віктором Житомирським про його підхід до створення інтерфейсів для систем штучного інтелекту: як зробити невизначеність системи помітною, зберегти за людиною контроль над даними та не допустити маніпуляцій.

- Вікторе, ШІ-асистенти дедалі частіше беруть на себе виконання повсякденних завдань. З боку може здаватися, що такі продукти створюють насамперед розробники, однак саме дизайнери роблять взаємодію зі штучним інтелектом зрозумілою та зручною для людини. Розкажіть, що входить до кола вашої відповідальності.

- Дизайнер поєднує можливості технології з потребами людини: допомагає правильно сформулювати запит, зрозуміти відповідь і продовжити роботу. Навіть найпотужніша модель буде марною, якщо користувач не знає, що вона вміє, або неправильно трактує отриманий результат.

Тому дизайнер працює не лише над зовнішнім виглядом екранів, а й проєктує весь шлях користувача - від першого запиту до фінального результату, включаючи ситуації, коли системі потрібні уточнення або вона не може виконати поставлене завдання. Інтерфейс має не тільки допомагати швидше досягти результату, а й демонструвати обмеження системи, попереджати про можливі помилки та залишати людині можливість втрутитися в процес. Чим більше завдань ми передаємо штучному інтелекту, тим вищою стає відповідальність дизайнерів за те, щоб користувач розумів, що саме відбувається, і не втрачав контроль.

- Один із ваших найбільших проєктів - ШІ-помічник HP AI Companion, який отримав статус Honoree на CES Innovation Awards 2025 — міжнародному конкурсі досягнень у сфері дизайну та інженерії споживчих технологій, куди того року було подано понад 3400 заявок. Він підтримує діалог із користувачем і допомагає виконувати різні повсякденні завдання. Як зробити спілкування людини з такою системою природним?

- HP AI Companion поєднує одразу кілька сценаріїв використання: допомагає керувати функціями ноутбука, працювати з документами, зокрема без підключення до інтернету завдяки вбудованому NPU, а також використовувати хмарні можливості. Завдання дизайнера - об'єднати всі ці інструменти в єдиний, зрозумілий для людини інтерфейс.

Для мене було важливо, щоб взаємодія з HP AI Companion не вимагала від користувача вивчення спеціальних команд або пошуку «ідеальних» формулювань. Інтерфейс спроєктовано так, щоб він сам допомагав розпочати діалог, підказував можливі сценарії та ставив уточнювальні запитання, якщо запит неповний. Водночас важливо не робити систему надто антропоморфною, тобто не змушувати її імітувати живого співрозмовника. Надто емоційний стиль спілкування формує завищені очікування. Відповіді мають бути зрозумілими й природними, але водночас чесно демонструвати межі можливостей штучного інтелекту.

- До роботи в HP ви проєктували продукти для блокчейн-індустрії, нерухомості та авіації - сфер, де навіть незначна помилка інтерфейсу може призвести до фінансових втрат, юридичних ризиків або зриву технічного обслуговування літака. Як цей досвід вплинув на ваш підхід до надійності та безпеки систем на базі ШІ?

- Цей досвід навчив мене особливо уважно проєктувати сценарії, у яких неправильна дія може мати серйозні наслідки. Користувач повинен заздалегідь розуміти, до чого призведе його рішення, і знати, чи можна його скасувати.

У моїх авіаційних проєктах інтерфейс допомагав спеціалістам зіставляти велику кількість технічних параметрів і характеристик, знижуючи ризик помилкового вибору. У фінансових продуктах ключовою є прозорість операцій, а в блокчейн-сервісах - попередження про їхню незворотність. Для систем на базі штучного інтелекту діє той самий принцип: чим більше дій продукт виконує замість людини, тим важливішими стають підтвердження, історія операцій і можливість у будь-який момент зупинити процес. Надійність визначається тим, наскільки добре система запобігає помилкам і допомагає мінімізувати їхні наслідки.

- Однією з головних проблем генеративного ШІ залишаються переконливі, але недостовірні відповіді. Чи може дизайнер допомогти користувачу розпізнати можливу помилку та зрозуміти, що результат потрібно перевірити?

- Інтерфейс не може достовірно показати, наскільки модель упевнена у своїй відповіді: переконливий тон не гарантує її точності. Саме тому користувачеві потрібно надавати посилання на джерела та фрагменти, на яких ґрунтується відповідь, а також чітко розділяти факти й висновки системи. Якщо даних недостатньо, продукт має прямо про це повідомити. Під час роботи над розмовними інтерфейсами особливого значення набуває сценарій відновлення після помилки - так званий recovery experience. Ми ретельно опрацьовуємо мікрокопірайтинг і стани невизначеності, коли ШІ не зрозумів запит або не має доступу до необхідних даних. У важливих сценаріях інтерфейс повинен нагадувати про необхідність перевірити результат і давати можливість уточнити запит. Дизайн не усуває «галюцинації» ШІ, але робить невизначеність помітною й не дозволяє помилковій відповіді виглядати остаточною.

- У продуктах на базі ШІ люди часто надають системі доступ до документів, голосу та інших чутливих даних. Більшість користувачів не читають багатосторінкових угод і не розбираються в технічних налаштуваннях. Як дизайн продукту допомагає їм зрозуміти, до яких даних отримує доступ система, і зберегти контроль?

- Якщо асистенту потрібен доступ до документа чи мікрофона, інтерфейс має пояснити, які саме дані система використовуватиме, навіщо вони потрібні та чи можна продовжити роботу без цього дозволу. Користувач повинен бачити всі надані дозволи та мати можливість легко їх змінити або відкликати. Я послідовно виступаю проти маніпулятивних прийомів і так званих «темних патернів», які непомітно змушують людей ділитися особистою інформацією. Людина зберігає контроль лише тоді, коли розуміє наслідки свого вибору й може будь-коли його переглянути.

- Тему «темних патернів» ви неодноразово порушували у своїх публікаціях на Medium і LinkedIn, де у вас близько дев'яти тисяч підписників. Що приховується за цим терміном і чому такі прийоми особливо небезпечні в продуктах на базі ШІ?

- Темні патерни - це елементи інтерфейсу, які непомітно підштовхують людину до рішення, вигідного компанії. Наприклад, кнопка згоди може бути яскравою й помітною, а кнопка відмови - прихованою; дозвіл на доступ до документів чи мікрофона легко надати, але складно відкликати. Користувачеві також можуть не пояснити, навіщо системі його дані та чи можна користуватися продуктом без надання такого доступу. У розмовних інтерфейсах ризик ще вищий, адже система спілкується людською мовою й викликає більше довіри. Саме тому дизайнер повинен чітко показувати умови, залишати людині реальний вибір і дозволяти без труднощів змінити прийняте рішення. Інтерфейси мають бути прозорими, безпечними й зрозумілими навіть людям без технічної підготовки. Користувач завжди повинен усвідомлювати, на що він погоджується і що відбудеться далі.

- Ви не лише створюєте продукти на базі ШІ, а й активно займаєтеся менторством, передаючи свій досвід іншим дизайнерам. Які професійні та етичні принципи ви вважаєте найважливішими для тих, хто приходить у професію?

- Я хотів би, щоб дизайнери оцінювали не лише зовнішній вигляд продукту, а й наслідки своїх рішень: чи розуміє людина дії системи, чи може оскаржити результат, виправити помилку та зберегти контроль над своїми даними. Що більше завдань люди передають штучному інтелекту, то вищою стає відповідальність тих, хто проєктує цю взаємодію. Саме від нас залежить, чи стане ШІ зрозумілим і надійним помічником, чи перетвориться на систему, якою люди користуються, не усвідомлюючи її можливостей і ризиків.