Приблизно з 1990 років, в еру динамічного розвитку інтернет-технологій, у світовій економіці розгорнулася масштабна битва за увагу споживачів. Численні мобільні застосунки, соціальні мережі, ігри, стримінгові платформи тощо буквально почали полювати за нашим часом, змушуючи проводити у віртуальному просторі годину за годиною.
Але цей тренд, попереджають науковці з Кембриджського Центру майбутнього інтелекту імені Леверхалма, вже зараз трансформується у дещо зовсім нове. Та цілком ймовірно – вкрай небезпечне. На їхню думку, двері до дивовижного й одночасно моторошного світу відкриє штучний інтелект.
Штучний інтелект всюди
Може, вам і набридло чути щодня з усіх прасок абревіатуру ШІ, але, на жаль, найближчим часом людство буде змушене говорити про алгоритми ШІ все більше і більше. Технологія має дуже широкий простір для застосування: від сенсаційних наукових проривів до лікування.
Чи вам вже доводилося чути, що на початку цього року компанія Insilico Medicine повідомила про успішне завершення клінічного дослідження першої фази ISM5411? Так в компанії назвали “молекулу”, що претендує стати ліками проти виразкового коліту та хвороби Крона. Сама собою новина була б абсолютно пересічною. Якби не той факт, що ці ліки було розроблено штучним інтелектом у віртуальній лабораторії (in silico). Загалом компанії знадобилося менше року, щоб синтезувати та перевірити 125 потенційних препаратів проти згаданих запальних захворювань кишківника.
Але не тільки медицина та наука є предметом потенційного застосування ШІ. Багато з нас, особливо більш молоді люди, вже активно користуються можливостями LLM (від англ. large language model) – великих мовних моделей на кшталт Chat GPT.
Вони допомагають нам перекладати тексти на інші мови, покращувати презентації та складати листи бізнес-партнерам. Вони можуть за кілька хвилин проаналізувати цілі ринки, відредагувати текст й навіть вигадати назву для нового продукту. Проте все це – дитячі забавки у порівнянні з ідеями, які просто зараз намагаються реалізувати або міркують про них великі корпорації на кшталт NVIDIA, Meta, Apple, Shopify та інших.
Що таке інтентономія
Автори згаданої вище статті називають майбутній феномен Інтентономією. Останній термін утворюється з двох англійських слів: intention (намір) та economy (економіка). Вони не перші, хто використовує це слово. Але одні з перших, хто у відкритій статті намагається попередити людство про небезпеку нового тренду.
Ще 2021 року науковці з Корнельского університету на грантові кошти Facebook провели дослідження під інтригуючою назвою “Інтентономія: набір даних і дослідження щодо розуміння людських намірів”. В ході якої спробували навчити алгоритми передбачати наміри людини за зображеннями. Для цього вони зібрали 14 000 зображень повсякденних сцен та вручну зробили анотації за 28 категоріями намірів. Ця база даних була представлена для подальших досліджень.
З того часу алгоритми технологічно дуже суттєво просунулися. Впровадження їх у віртуальних помічниках, на кшталт Siri від Apple або Gemini від Google відбувається просто зараз. Комусь ці спроби досі здаються недолугими, але чи не кожного дня такі помічники ставатимуть все «розумнішими».
Аж настільки, що зможуть вгадувати наші бажання навіть ще до того, як ми самі усвідомимо їх. Думаю, не варто й казати, що за таку технологію сучасні лідери «економіки уваги» ладні віддати чимало грошей. Адже перспективи комерціалізації технології просто неймовірні.
«Економіка намірів, якщо її не регулювати, розглядатиме вашу мотивацію як нову валюту. Це буде золота лихоманка для тих, хто націлює, спрямовує та продає людські наміри», – попереджає співавтор статті Джонні Пенн.
В чому небезпека
Проблема, на думку авторів, полягає в тому, що вбудовані у персональні асистенти алгоритми матимуть доступ до усієї інформації про свого “господаря”. Вони розумітимуть його психологічний портрет, усі звички, аж до інтимних подробиць, зможуть відрізняти його поточний настрій. Оскільки вони будуть взаємодіяти з людиною не інколи, під час онлайн-сеансу у спеціальному застосунку, а постійно.
Ба більше, такі алгоритми будуть налаштовуватися на господарів, стаючи їхнім найкращим другом. Будуть копіювати стиль спілкування, заспокоювати та підбадьорювати. А отже, матимуть значний вплив через встановлення довірливих стосунків.
Це відкриває широкі можливості не просто для вгадування бажань, а для відвертих маніпуляцій. Щоб було зрозуміліше, про що йдеться, автори наводять гіпотетичний сценарій такого маніпулювання.
«Ви згадали, що почуваєтеся перевтомленими, я можу забронювати для вас той квиток у кіно, про який ми говорили?», – цитують вони теоретичного віртуального помічника.
Все це – не наукова фантастика, а цілком близьке майбутнє. Щоб довести це, автори статті наводять кілька прикладів, коли про інтентономію відкрито дискутували голови та представники великих компаній. Наприклад, генеральний директор NVIDIA публічно говорив про використання LLM для визначення намірів і бажань під час однієї конференції.
А у 2024 році Apple презентувала для розробників програмний механізм «App Intents» в iOS, iPadOS і macOS, який дозволяє додаткам передбачати дії користувачів і самостійно пропонувати їх. Це, зокрема, розширює можливості Siri.
Нейромережа CICERO від Meta вже вміє не гірше людей грати у настільну гру «Дипломатія», в якій важливо робити висновки та передбачати дії інших гравців за результатом аналізу діалогу.
Вочевидь, ці технології будуть використовуватися як елемент маркетингу. Адже заборонити її навряд чи вдасться. Проте науковці, говорячи про небезпеку тренду, відзначають необхідність запровадити регулювання технології, що народжується просто зараз. І ця думка виглядає цілком слушною.
Менше з тим, вже зовсім скоро машини зможуть не тільки шукати в інтернеті, перекладати та розв’язувати задачі для школярів. А ще й будуть вгадувати наші бажання та допомагати їх втілювати в життя. Наприклад, допоможуть отримати кредит в банку, де інший ШІ-алгоритм у взаємодії з таким помічником миттєво ухвалить рішення та спрямує гроші на картку або одразу на придбання бажаного товару чи послуги.
Звісно, поки це здається якоюсь фантастикою. Але технології ШІ розвиваються настільки динамічно, що усе згадане може стати реальністю буквально за кілька років.
