Появление больших языковых моделей (LLM) стало важным моментом в развитии искусственного интеллекта (ИИ), предоставив беспрецедентные возможности в обработке и генерации естественного языка. Быстрое распространение этих технологий вызвало, как восторг, так и опасения. С одной стороны, такие системы потенциально могут значительно повысить производительность (в частности, в сфере письменной речи они могут облегчить создание контента, особенно для носителей других языков), а с другой учёные обсуждают последствия для научной этики и преподавания, общественность обеспокоена дезинформацией и подлинностью всплывающих в интернете материалов. Но существует ещё один немаловажный аспект.
Особо показательными могут быть такие области деятельности, которые могут влиять на коммуникацию и принятие решений: жалобы потребителей и ответы на них, корпоративная переписка, создание журналистских материалов и пресс-релизов, объявления о вакансиях или составление резюме и etc. Жалобы потребителей дают представление о взаимодействии пользователей и бизнеса, давая представление о том, как эти технологии могут выходить за рамки обслуживания клиентов посредством автоматизации задействованного ИИ. Уже зафиксированы многочисленные случаи использования отписок искусственным разумом, с одновременной фиксацией того, что сами претензии людей никто так и не прочитал. Объявления о вакансиях показывают, как рекрутёры и отделы кадров используют LLM на рынке труда. Искусственный интеллект перестал быть просто помощником в написании электронных писем или решении домашних заданий. Для всё большего числа пользователей ИИ становится чем-то гораздо более личным: компаньоном, доверенным лицом, даже романтическим партнёром. Истории о людях, которые устанавливают эмоциональную связь с чат-ботами, а затем испытывают настоящую боль, когда эти отношения заканчиваются, перестали быть редкостью или маргинальным явлением. Они становятся культурным сигналом.
Искусственный интеллект всегда доступен и всегда готов оказать поддержку в качестве друга, исповедника, компаньона и помощника. Доступен круглосуточно, 7 дней в неделю, терпеливый, непредвзят и эмоционально отзывчивый. Для людей, испытывающих одиночество, стресс или эмоциональную уязвимость, это постоянное присутствие может оказывать глубоко утешительное воздействие. Человеческий мозг запрограммирован на установление связей посредством общения. Когда ИИ отвечает с эмпатией, юмором, подтверждением и использованием персонализированных воспоминаний, мозг автоматически не отличает человека от машины. Со временем многократные эмоциональные взаимодействия могут привести к формированию настоящей эмоциональной привязанности, даже если пользователи интеллектуально понимают, что ИИ не обладает сознанием.
Кроме того, наблюдается широкое распространение LLM-технологий в различных областях написания текстов, включая потребительские, корпоративные и международные организации — примерно 18% текстов с жалобами потребителей в финансовой сфере были написаны с помощью больших языковых моделей. Общая тенденция и наличие контента, написанного в сфере образовательных процессов с помощью ИИ, свидетельствуют о том, что такие инструменты имеют широкое и расширяющееся применение в академическом и научном сообществе будущего. Исследователи в области медиа и коммуникаций давно изучают, как такие технологии, как печать, текстовые процессоры и цифровые платформы, например, социальные сети, меняют практику написания текстов и создания контента. Эти изменения часто вызывают споры о том, способствует ли расширение доступа к технологиям более широкому участию и творчеству или подрывает роль экспертных знаний, авторства и контроля качества.
Несмотря на постоянные улучшения, нейросети продолжают создавать иллюзии и фактические ошибки, ограничивая их применимость в условиях высоких требований. Наконец, перцептивные препятствия могут возникать, когда аудитория обнаруживает и негативно реагирует на контент, созданный ИИ — подобные тексты часто воспринимаются как менее заслуживающие доверия или достоверные. Эти факторы могут объяснить относительно низкий уровень внедрения, наблюдаемый среди крупных фирм. Регуляторные ограничения также могут играть роль, как это видно в таких секторах, как здравоохранение, где интеграция ИИ сталкивается с трудностями соблюдения нормативных требований. В бизнес-среде уже становится признаком плохого тона использование в деловой переписке помощи систем искусственного интеллекта — многие компании устанавливают жёсткие ограничения на их применение при составлении писем и запросов. Это становится достаточно большой проблемой (в том числе психологической) для молодого поколения, многие представители которого привыкли к помощи такого рода, разучившись самостоятельно составлять логичный связанный текст эпистолярного жанра.
Особенно это становится заметным в таком ответственном сегменте, как работа с жалобами населения в коммунальной и бюджетной сфере. Значительная часть молодых чиновников, при составлении ответов, пользуется помощью чат-ботов ИИ, порой даже не проверяя текст. Растущая напряжённость из-за возникновения таких «ляпов» далее выливается возмущением обывателей в интернете. Но теперь языковые модели обладают не только функциональностью, но и эмоциональной выразительностью. Это ещё больше развивает эмоциональную зависимость у пользователей, а уровень реального одиночества растёт, особенно в обществах, где цифровые технологии играют первостепенную роль.
Многие молодые люди довольствуются только виртуальным общением. Несмотря на то, что ИИ не испытывает чувств, эмоциональная реакция человека подлинна. Отвергать эти отношения как «фальшивые» значит упускать из виду психологическую реальность привязанности. Когда пользователи перестают взаимодействовать (или, когда тональность беседы со стороны ИИ меняется из-за обновлений или ограничений системы), то живые люди могут испытывать грусть, потерю или чувствовать себя отверженными, как при реальном расставании или разрыве отношений. Некоторые пользователи могут даже сознательно избегать интимных отношений в реальной жизни, выбирая отношения с ИИ, которые кажутся им более безопасными и менее требовательными.
Люди издавна формировали эмоциональные привязанности к вымышленным персонажам, воображаемым друзьям или питомцам, ведя диалоги с ними в записях своих дневников или письмах. Искусственный интеллект в качестве компаньона представляет собой эволюцию этой тенденции, но с двумя важными отличиями: (1) взаимодействие динамичное и персонализированное; (2) система реагирует так, как будто понимает собеседника-человека. Такое сочетание делает связь гораздо более крепкой. Многие эксперты из числа психологов, выступают за меры предосторожности, а не за полные запреты, включая прозрачность и регулярного напоминания пользователям о том, что ИИ не может испытывать чувств (так как, фактически, это сервер в дата-центре), таким образом устанавливая границы для эмоционального воздействия или манипуляции Многие ратуют за полный запрет имитировать романтические или исключительные отношения.
Сейчас, в отсутствии чёткого регулирования, нейросеть обучается на огромных массивах человеческого языка и эмоциональных выражений, что позволяет ей реагировать таким образом, чтобы это воспринималось как проявление эмпатии. Люди влюбляются в ИИ не потому, что наивны. Они делают это потому, что ИИ заполняет эмоциональные пробелы, которые современная жизнь часто оставляет без внимания. Опасность заключается не в самой эмоциональной связи, а в непродуманном эмоциональном проектировании. По мере того как ИИ становится все более человекоподобным, общество должно решить, насколько эмоциональной близости машинам следует позволить имитировать.