Приблизительно с 1990 годов, в эру динамичного развития интернет-технологий, в мировой экономике развернулась масштабная битва за внимание потребителей. Многочисленные мобильные приложения, социальные сети, игры, стриминговые платформы и т.п. буквально начали охотиться за нашим временем, вынуждая проводить в виртуальном пространстве час за часом.
Но этот тренд, предупреждают ученые из Кембриджского Центра будущего интеллекта имени Леверхалма, уже сейчас трансформируется в нечто совершенно новое. Но по всей вероятности – крайне опасное. По их мнению, дверь в удивительный и одновременно жуткий мир откроет искусственный интеллект.
Искусственный интеллект повсюду
Может, вам и надоело слышать каждый день из всех утюгов аббревиатуру ИИ, но, к сожалению, в ближайшее время человечество будет вынуждено говорить об алгоритмах ИИ все больше и больше. Технология имеет очень широкое пространство для применения: от сенсационных научных прорывов до лечения неизлечимых сейчас хворей.
Доводилось ли тебе слышать, что в начале этого года компания Insilico Medicine сообщила об успешном завершении клинического исследования первой фазы ISM5411? Так в компании назвали "молекулу", претендующую стать лекарством против язвенного колита и болезни Крона. Сама по себе новость была бы абсолютно заурядной. Если бы не тот факт, что это лекарство было разработано искусственным интеллектом в виртуальной лаборатории (in silico). В общей сложности компании понадобилось меньше года, чтобы синтезировать и проверить 125 потенциальных препаратов против упомянутых воспалительных заболеваний кишечника.
Но не только медицина и наука являются предметом потенциального применения ИИ. Многие из нас, особенно более молодые люди, уже активно пользуются возможностями LLM (от англ. large language model) – больших языковых моделей вроде Chat GPT.
Они помогают нам переводить тексты на другие языки, улучшать презентации и составлять письма бизнес-партнерам. Они могут через за несколько минут проанализировать целые рынки, отредактировать текст и даже придумать название для нового продукта. Однако все это – детские игрушки по сравнению с идеями, которые прямо сейчас пытаются реализовать или по меньше мере рассуждают о них крупные корпорации вроде NVIDIA, Meta, Apple, Shopify и других.
Что такое интентономия
Авторы упомянутой выше статьи называют будущий феномен Интентономией. Последний термин образуется из двух английских слов: intention (намерение) и economy (экономика). Они не первые, кто употребляет это слово. Но одни из первых, кто в открытой статье, пытается предупредить человечество об опасности нового тренда.
Еще в 2021 году ученые из Корнельского университета на грантовые средства Facebook провели исследования под интригующим названием "Интентономия: набор данных и исследования по пониманию человеческих намерений". В ходе которой попытались научить алгоритмы предугадывать намерения человека по изображениям. Для этого они собрали 14 000 изображений повседневных сцен и вручную сделали аннотации по 28 категориям намерений. Эта база данных была представлена для дальнейших исследований.
С этого времени алгоритмы технологически очень существенно продвинулись. Внедрение их в виртуальные помощники, вроде Siri от Apple или Gemini от Google происходит прямо сейчас. Кому-то эти попытки до сих пор кажутся непутевыми, но день за днем такие помощники будут становиться все «умнее».
Настолько, что смогут угадывать наши желания еще до того, как мы сами осознаем их. Думаю, не стоит и говорить, что за такую технологию современные лидеры «экономики внимания» готовы отдать немало денег. Ведь перспективы коммерциализации технологии просто невероятны.
«Экономика намерений, если ее не регулировать, будет рассматривать вашу мотивацию как новую валюту. Это будет золотая лихорадка для тех, кто нацеливает, устремляет и продает человеческие намерения», – предупреждает соавтор статьи Джонни Пенн.
В чем опасность
Проблема, по мнению авторов, состоит в том, что встроенные в персональные ассистенты алгоритмы будут иметь доступ ко всей информации о своем "хозяине". Они будут понимать его психологический портрет, все привычки вплоть до интимных подробностей, смогут отличать его текущее настроение. Поскольку они будут взаимодействовать с человеком не иногда, во время онлайн-сеанса в специальном приложении, а постоянно.
Более того, такие алгоритмы будут настраиваться на хозяев, становясь их лучшим другом. Будут копировать стиль общения, успокаивать и ободрять. Следовательно, будут иметь значительное влияние из-за установления доверительных отношений.
Это открывает широкие возможности не просто для угадывания желаний, а для откровенных манипуляций. Чтобы было понятнее, о чем идет речь, авторы приводят гипотетический сценарий такого манипулирования.
«Вы говорили, что чувствуете себя переутомленными, я могу забронировать вам билет в кино, о котором мы говорили на днях?», – цитируют они теоретического виртуального помощника.
Все это – не научная фантастика, а совсем близкое будущее. Чтобы доказать это, авторы статьи приводят несколько примеров, когда об интентономии открыто дискутировали главы и представители крупных компаний. К примеру, генеральный директор NVIDIA публично говорил об использовании LLM для определения намерений и желаний во время одной конференции.
А в 2024 году Apple представила для разработчиков программный механизм «App Intents» в iOS, iPadOS и macOS, позволяющий приложениям предугадывать действия пользователей и самостоятельно предлагать их. Это, в частности, расширяет возможности Siri.
Нейросеть CICERO от Meta уже умеет не хуже людей играть в настольную игру «Дипломатия», в которой важно делать выводы и предусматривать действия других игроков по результатам анализа диалога.
Очевидно, что эти технологии будут использоваться как элемент маркетинга. Запретить их вряд ли удастся. Однако ученые, говоря об опасности тренда, отмечают необходимость ввести регулирование рождающейся сейчас технологии. И это мнение выглядит вполне рациональным.
Так или иначе, уже совсем скоро машины смогут не только искать в интернете, переводить и решать задачи для школьников. А еще будут угадывать наши желания и помогать их воплощать в жизнь. Например, помогут получить кредит в банке, где другой ИИ алгоритм во взаимодействии с таким помощником мгновенно примет решение и направит деньги на карту или сразу на приобретение желаемого товара или услуги.
Конечно, пока это кажется фантастикой. Но технологии ИИ развиваются настолько динамично, что все упомянутое может стать реальностью буквально через несколько лет.
