Блеск и нищета теории коммуникации в эпоху искусственной социальности (размышляя о книге Елены Эспозито Artificial Communication: How Algorithms Produce Social Intelligence)

Раздел: Критика и библиография

В настоящем эссе авторы размышляют о возможностях осмысления в терминах коммуникации тех процессов, которые связаны с вхождением в жизнь общества технологий искусственного интеллекта (ИИ). Поводом к написанию эссе стала недавно опубликованная монография Елены Эспозито, ученицы Никласа Лумана, которая предлагает и развивает концепцию «искусственной коммуникации». Авторы стремятся обосновать два тезиса. Во-первых, применение Эспозито теории Лумана к анализу взаимодействий между людьми и алгоритмами в современном обществе является наиболее успешной попыткой подобного анализа в рамках исследований коммуникации. Во-вторых, выбранный концептуальный аппарат определяет ограничения позиции Эспозито, которые состоят в неспособности в полной мере уяснить и осмыслить различия между человеком и алгоритмом. Эти ограничения преодолеваются в других социально-психологических и социологических концепциях, с которыми сопоставляется концепция искусственной коммуникации.

DOI: 10.30547/vestnik.journ.4.2024.107119

Развитие технологий искусственного интеллекта (ИИ) и их вхождение в жизнь людей поражает воображение современного человека. Наиболее ярким примером последних лет стали генераторы текстов и изображений, которые в режиме реального времени поддерживают диалог и выполняют задачи, которые еще 5– 7 лет казались немыслимыми и недоступными. Становится все труднее отрицать то колоссальное влияние, которое ИИ оказывает на социальную жизнь: на рынок труда и характер занятости, организацию рабочего и свободного времени, решение инструментальных задач и социальное общение. 

Целевая ориентация нашего эссе состоит в том, чтобы в самом общем виде определить возможность того, как социальные ученые могут понять и объяснить те изменения, которые приносят в нашу жизнь инструменты ИИ. Нас будут интересовать эвристические возможности и ограничения теории коммуникации в сравнении с другими направлениями и линиями аргументации. Эти возможности и ограничения будут рассматриваться на материале конкретного исследования, представленного в недавно опубликованной монографии европейского социолога Елены Эспозито Artificial Communication: How Algorithms Produce Social Intelligence¹. Мы выделим ключевые моменты аргументации, укажем на достоинства и недостатки монографии, а затем соотнесем ее содержание с другими исследовательскими традициями, указывая на «блеск» и одновременно – «нищету» теорий коммуникации для понимания включения агентов ИИ в жизнь общества. 

Итак, в 2022 г. в издательстве Массачусетского технологического университета была издана книга, название которой можно перевести на русский язык как: «Искусственная коммуникация: как алгоритмы производят социальный интеллект». Название книги интригует любознательного, но не погруженного в проблему читателя: что такое «искусственная коммуникация»? Как коммуникация может быть искусственной? Как она может не быть таковой, если коммуникация использует искусственные (созданные человеком) средства? Способны ли алгоритмы производить интеллект? Тем более интеллект социальный? 

Имя автора, напротив, вызовет интерес у узких специалистов. Елена Эспозито – профессор социологии Болонского и Билефельдского университетов, ученица Никласа Лумана. Лумановскую теорию социальных систем – одну из самых масштабных социологических теорий ХХ в. – она применяет к анализу распространения технологий ИИ и их влияния на современное общество². 

Наконец, бренд The MIT Press привлечет внимание тех, кто интересуется развитием технологических инноваций, в том числе – ИИ. В этом издательстве выходили и продолжают выходить монографии, ключевые для осмысления новых технологий, их динамики, свойств и влияния на жизнь людей (Collins, 1990; Dreyfus, 1992; Turkle, 2005). 

Итак, европейский социолог, основываясь на «большой» теории, выпускает в американском издательстве книгу об «искусственной коммуникации». Это очень достойная книга, которая заслуживает встать в один ряд с классическими трудами по философии и социальной критике ИИ. 

Первое достоинство монографии: автор ставит «правильный» вопрос в отношении технологий ИИ: каким образом технологии ИИ воспроизводят человеческую социальность? Социальность же рассматривается в категориях коммуникации: «Что мы увидим, что не увидим, а что увидим по-другому, если посмотрим на деятельность алгоритмов как на коммуникацию, а не как на интеллект?» (Esposito, 2022: xii). 

Почему, для кого и в каком смысле этот вопрос «правильный»? Первые создатели того, что они сами – и мы вслед за ними – именуем «искусственным интеллектом», ставили себе цель «догнать и перегнать», воспроизвести и превзойти человеческие способности. Изначально ИИ задумывался как то, что имитирует интеллект: как человек думает, решает задачи, воспринимает окружающий мир. Получилось ли это? И да, и нет. Да, если мы смотрим на решение задач в узких областях (как то: игра в шахматы, распознавание лиц, построение маршрута поездки). Нет, если мы спрашиваем о том, может ли один агент ИИ решать разного рода задачи (как это делает человек), получается ли научить ИИ на немногих примерах (как учится человек), обладает ли ИИ здравым смыслом (хотя бы в той мере, в какой им обладает не очень здравомыслящий человек). Иными словами, ИИ решает отдельные узкие задачи (чем уже – тем лучше), но человека в целом воспроизвести не получается. 

Здесь и возникает подозрение: вопрос «Как воспроизвести интеллект?» не правильный, он ставит ложные цели и задает ложные критерии оценки. Современные технологии ИИ используют лишь некоторые принципы человеческого мышления, точнее сказать – вдохновляются ими. Причем разные типы технологий вдохновляются разными принципами. Скажем, то, что называли «символическим ИИ», подражает способности людей рассуждать в рамках формальной логики. А то, что именуют «искусственными нейронными сетями», воспроизводит некоторые свойства связей между нейронами головного мозга. 

Итак, что именно воспроизводят современные технологии ИИ, если не интеллект? Эспозито предлагает следующий ответ: многие современные технологии ИИ («алгоритмы», как она их называет) воспроизводят коммуникацию. Как именно они это делают? Что мы понимаем под «коммуникацией»? И как вхождение алгоритмов в жизнь общества меняет эту жизнь? Обсуждению данных вопросов и посвящена монография Эспозито. 

Второе достоинство монографии состоит в том, что автор рассматривает весьма широкий круг тем: от вопросов высокой теории до таких явлений, как визуализация данных, персонализация рекламы, предсказательные алгоритмы. Во введении и первой главе автор раскрывает идею «искусственной коммуникации», чтобы в последующих шести главах применить ее к конкретным примерам использования новых технологий. Через все изложение красной нитью проходит мысль: люди и алгоритмы не похожи друг на друга, они по-разному «мыслят» (работают с данными), по-разному хранят и забывают информацию, имеют разные возможности и ограничения в коммуникации. 

Первая глава представляет наибольший интерес с точки зрения социальной теории. Эспозито утверждает: если мы переключаем внимание с интеллекта на коммуникацию, мы должны начать задавать вопросы не об индивидах, а о том, что происходит между ними. «То, что происходит при взаимодействии с алгоритмами в сети – это “коммуникация” или нам нужно новое понятие? Имеет ли смысл говорить о коммуникации, когда с данными работает машина, которая не понимает содержание коммуникации? Вступают ли пользователи веб-сервисов в коммуникацию, и если да, то с кем? Ответы на эти вопросы зависят от принятой концепции коммуникации: она должна быть достаточно мощной, чтобы охватить взаимодействия с машинами» (Esposito, 2022: 6). 

В качестве такой концепции выступает теория социальных систем Никласа Лумана. Само противопоставление интеллекта и коммуникации, с которого начинает Эспозито, соответствует лумановскому разделению между психическими системами (сознанием) и социальными системами (коммуникацией). В теории Лумана индивиды понимаются как внешняя среда по отношению к обществу, которое основано на коммуникации. Коммуникация не может существовать без людей, но сам характер и динамика коммуникации прямо не зависят от сознания: нельзя сообщить другому свои мысли и чувства непосредственно, это можно делать только в обществе с помощью языка. Более того, коммуникация начинается не там, где кто-то что-то сообщает, а там, где кто-то воспринимает нечто как сообщение. Если я что-то сказала, а это никто не услышал, коммуникация не состоялась; если кому-то показалось, что я что-то ему сказала (даже если я этого не говорила), – коммуникация есть. 

С точки зрения осмысления работы алгоритмов ИИ, преимущество теории Лумана в том, что она не требует от них способности мыслить и понимать. Чтобы поддерживать коммуникацию, достаточно производить данные, которые воспринимаются людьми как сообщение – как нечто осмысленное и адресованное им. Еще одно важное свойство коммуникации состоит в том, что каждый раз ее содержание могло бы быть другим. В этом смысле часы, например, не вступают в коммуникацию, хотя предоставляют информацию, а онлайн-поисковик – вступает. Это так, потому что часы должны каждый раз показывать правильное время, если они показывают что-то иное, значит, они сломаны. Поисковик же в ответ на сформулированный в разное время разными людьми запрос выдает разную информацию, которая будет более или менее уместной, но ее нельзя назвать правильной или неправильной³. 

Итак, новые технологии имитируют способность людей к коммуникации. Как они это делают? Такие технологии «паразитируют» на объемах данных, которые создаются за счет активности пользователей в сети Интернет: алгоритмы используют данные для создания того, что воспринимается как сообщения. Например, онлайн-поисковики обрабатывают данные поисковых запросов миллионов пользователей, которые затем используются, чтобы выдать информацию на очередной индивидуальный запрос. По похожим принципам работают алгоритмы перевода, распознавания изображений, генерации текстов. Эспозито описывает данные процессы и характеристики в терминах лумановской теории коммуникации – настолько просто, насколько это возможно⁴. 

Конкретные сюжеты, на которых останавливается Эспозито, также представляют интерес. Почему список (топ 5/10/100 самых лучших/худших...) становится столь популярным жанром презентации информации в онлайн-среде? Как «забыть» информацию в Интернете, если ее не получается уничтожить? Чем современные предсказания ИИ похожи на античные гадания и чем отличаются от предсказательной статистики? Как визуализировать «большие данные», чтобы извлечь из них хоть какой-то смысл? Вот вовсе не полный список вопросов, которые рассматриваются в монографии. В их обсуждении и анализе автор дополняет общую перспективу, которую задает лумановская теория, наблюдениями и выводами из более широкого поля исследований медиа и коммуникации. Так, обсуждая списки, она ссылается на Умберто Эко, обсуждая презентацию себя другим в Интернете, – на Ирвинга Гофмана. 

В выводах Эспозито возвращается к вопросу, поставленному во введении: как концепция искусственной коммуникации меняет наш взгляд на деятельность алгоритмов ИИ? В качестве примера проблемы, которая упраздняется данной концепцией, автор приводит тест Тьюринга, направленный на определение того, кто перед тобой – человек или компьютер (Esposito, 2022: 108). Эспозито замечает: сегодня для пользователя часто не имеет значения, с кем или с чем происходит коммуникация, важно лишь, чтобы она была содержательной. Примером проблемы, которая переформулируется, выступает пристрастность (bias) алгоритмов (Esposito, 2022: 108–109). С точки зрения теории коммуникации, вопрос не в том, какие ценности вкладывают разработчики в свои создания, – вопрос в том, как, несмотря на желание создателей вложить «правильные» ценности, алгоритмы учатся человеческим ошибкам и стереотипам на искаженных данных, что затем отражается в коммуникации. Наконец, в качестве проблемы, которую концепция искусственной социальности позволяет сформулировать, выступает задача объяснить решения, вынесенные роботом-судьей (Esposito, 2022: 109–110). Проблема здесь не в том, чтобы полностью реконструировать логику принятия решения алгоритмом, а в том, чтобы представить ее в форме, которая может быть интерпретирована людьми в рамках существующей юридической практики. 

Наконец, монография написана увлекательно, легко и понятно – при том что излагает она весьма непростые вещи. 

Итак, три достоинства монографии Эспозито – это нетривиальная и теоретически обоснованная постановка вопроса, богатое содержание и доступный стиль изложения. Причем последние два работают на первое: как бы ни были интересны отдельные сюжеты, без единого теоретического каркаса они «повисают в воздухе». 

Основная ценность книги заключается в том, что она раскрывает потенциал теории коммуникации в ее лумановской версии для анализа вхождения технологий ИИ в жизнь людей. Автор раз за разом показывает: алгоритмы не думают, не понимают, работают не с информацией, но с данными; люди думают, понимают, осмысляют данные и получают информацию. Взаимодействие между теми и другими составляет концептуальную и практическую проблему, которая по-разному выглядит и по-разному решается в разных ситуациях. По сути, Эспозито в терминах «искусственной коммуникации» описывает возникающую взаимозависимость между человеком и алгоритмом и ставит проблему создания человеко-ориентированного ИИ (human-centered AI). 

При этом во многих случаях, когда можно было бы уйти в философский анализ, Эспозито этого не делает. Многие вещи лишь подразумеваются (например, синонимичность сознания и интеллекта, «алгоритмов» и технологий ИИ). Это скорее преимущество, чем недостаток книги: читатель додумывает, как бы видит сквозь текст, – такой прием подачи информации интересен и с точки зрения коммуникации. Отсутствие явного философствования, однако, не мешает автору выстроить онтологию алгоритмов, определяя их отличия от людей в таких категориях, как коммуникация и смысл, информация и данные, фантазия и память. 

Вместе с тем монография Эспозито относится к тому типу книг, недостатки которых являются оборотной стороной их достоинств. Легкости изложения соответствует некоторое упрощение материала. Разнообразию эмпирических сюжетов – довольно слабая связь между ними. «Правильной» постановке вопроса – ограничения самой теории коммуникации, в рамках которой этот вопрос рассматривается. На последнем мы и остановимся. 

Здесь уместно задать два вопроса: как книга Эспозито соотносится с другими работами по исследованию коммуникации, посвященными технологиям ИИ? И какие иные подходы к пониманию «социальности» ИИ существуют? 

Отвечая на первый вопрос, отметим: концепция Эспозито является, на наш взгляд, наиболее перспективной среди исследований технологий ИИ в терминах коммуникации (подобно тому, как теория Лумана является наиболее масштабной и значимой теорией коммуникации в социальных науках). Прежде всего, интерес исследователей коммуникации редко обращается именно к технологиям ИИ – скорее, их интересуют новые свойства онлайн-среды⁵. Для тех, кого интересует собственно ИИ, исследовательский фокус не может быть четко определен из-за слабости теории. Исследования коммуникации в социальных науках характеризуются набором разрозненных подходов, где сам термин может означать почти все, что угодно исследователю (Резаев, Трегубова, 2019). Подобный недостаток проявляется, например, в статье Андреа Гузман и Сета Льюиса (Guzman, Lewis, 2020): авторы утверждают, что появление ИИ должно изменить исследования коммуникации, но из-за отсутствия ясной теоретической позиции авторам не удается показать, что нового вносят в коммуникацию (и в ее исследования) технологии ИИ и в каких терминах мы могли бы эту новизну зафиксировать. Более того, авторы сводят вопрос о специфике ИИ к вопросу о восприятии этих технологий. В этом отношении концепция искусственной коммуникации обладает явным преимуществом, так как четко определяет: прежние технологии лишь предоставляли информацию, алгоритмы ИИ способны вступать в коммуникацию (в лумановском понимании), что предполагает и восприятие людьми алгоритмов в качестве коммуникативных партнеров, и многие другие аспекты. 

Однако та самая четкость фокуса, которая делает исследование Эспозито лучшим среди исследований коммуникации, определяет и его ограничения. Некоторые вопросы (как отмечает сама Эспозито) концепция искусственной коммуникации поставить не в состоянии. Например, автор пишет: для многих взаимодействий в Сети не важно, кто твой коммуникативный партнер – бот или человек, поэтому сама проблема различения между ними уже не важна. Однако очевидно, что есть ситуации, когда важно, кто именно, алгоритм или человек, пишет сообщение, ставит лайк, делает репост. Иными словами, не вся социальность сводится к коммуникации в лумановском смысле⁶. И здесь возникает следующий вопрос: как еще можно осмыслять то, как технологии ИИ имитируют человеческую социальность? 

Данный вопрос представляет особый интерес для двух направлений социальных исследований. Первое – это психологически-ориентированный анализ очеловечивания новых технологий. Пионером здесь является Шерри Теркл, которая замечает: компьютеры в целом и агенты ИИ в частности вызывают у людей интерес и побуждают ставить вопросы о том, кто мы такие и чем мы от них отличаемся, если они могут делать те же вещи, что и мы (Turkle, 2005). Непривычные, человекоподобные свойства новых технологий определяют их особый статус как участников социальных взаимодействий – особый в том смысле, что сам факт их участия меняет динамику взаимодействий. 

Второе направление – это исследования повседневности в рамках этнометодологии, конверсационного анализа, символического интеракционизма, где внимание исследователей сосредотачивается на характеристиках ситуаций взаимодействия, в которых участвуют агенты ИИ. Оказывается, что технологии ИИ – весьма «глупые», если оценивать их способность ориентироваться в повседневной жизни, ибо ситуации взаимодействия с ними требуют постоянных «починок» и исправлений, которые люди совершают, сами того не замечая. Данный тезис применительно к более простым технологиям раскрыт в исследованиях Люси Сачмен (2019), в отношении искусственного интеллекта – сформулирован Гарри Коллинзом (Collins, 2018). 

Если сравнивать концепцию «искусственной коммуникации» с выделенными направлениями, мы видим, что она занимает промежуточное положение в рамках социальной теории. С одной стороны, она признает и даже подчеркивает различия между человеком и ИИ – в отличие, например, от представителей акторно-сетевой теории и примыкающих к ним исследователей науки и технологий (Woolgar, 1985). С другой стороны, концепция Эспозито предполагает, что в конкретных социальных взаимодействиях данные различия оказываются не важны – в этом, собственно, и заключается идея «искусственной коммуникации». В отличие от этого, в психологическии микросоциологически-ориентированном анализе взаимодействий между людьми и ИИ оказываются важны и сущностные различия между взаимодействующими, и то, как они влияют на ход взаимодействий. 

Почему так? Для Эспозито, как было отмечено выше, разделение между интеллектом и социальностью (сознанием и коммуникацией) вытекает из ее теоретических предпосылок. Однако даже у животных формы социальной организации и свойства интеллекта связаны очень тесно (Midgley, 2002). Именно эту связь с разных сторон и пытаются ухватить психологи и микросоциологи: первые – как склонность людей к одушевлению машин, вторые – как способность моментально реагировать на динамику социальных взаимодействий, которая есть у человека, но отсутствует у ИИ. Таким образом, указание на социальный интеллект в названии монографии Эспозито оказывается обманчивым: как раз им концепция искусственной коммуникации не интересуется. 

Подводя итоги, следует говорить о том, что эвристический потенциал концепции «искусственной коммуникации» весьма велик, однако он ограничивается теми ситуациями взаимодействия, где разница между человеком и ИИ не имеет принципиального значения. Иными словами, «искусственная коммуникация» – лишь часть «искусственной социальности» (Резаев, Трегубова, 2018), значительная и важная, но лишь часть. Исследование Эспозито позволяет увидеть возможности распространения новых технологий, но вряд ли поможет понять, какие запреты следовало бы наложить на использование ИИ. Монография характеризует многие, но не все проблемы (исследовательские и практические), которые приносит развитие технологий ИИ. Она позволяет проанализировать многие, но не все ситуации взаимодействия с алгоритмами ИИ. В этом автор повторяет блестящие успехи и грандиозные упущения теории коммуникации в анализе человеческого общения.

Примечания

¹ Монография находится в открытом доступе на сайте издательства. Режим доступа: https://direct.mit.edu/books/oa-monograph/5338/Artificial-CommunicationHow-Algorithms-Produce (дата обращения: 12.04.2014).

² В частности, Эспозито руководит исследовательским проектом о социальных последствиях использования алгоритмов в медицине, страховании, государственном управлении: Режим доступа: https://cordis.europa.eu/project/id/833749 (дата обращения: 12.04.2014).

³ Заметим, что, согласно теории Лумана, коммуникация не может происходить между двумя алгоритмами: нужен хотя бы один человек, который воспринимает нечто как сообщение. А вот источником сообщения вполне может быть алгоритм. В этом отличие от теорий коммуникации в компьютерных науках, где коммуникация понимается как обмен информацией, которую можно формализовать и измерить.

⁴ Простота, однако, имеет оборотную сторону: некоторые важные для теории детали оказываются утрачены. Так, в книге опущено различие между виртуальной контингентностью и двойной контингентностью, которое было сформулировано в более ранней статье автора: (Esposito, 2017).

⁵ Показательным примером здесь будет (Floridi, 2015).

⁶ В прошлых публикациях мы детально рассматривали, что в человеческом общении в целом и в онлайн-взаимодействиях в частности теория Лумана может понять и ухватить, что – не может: (Резаев, Трегубова, 2015), (Резаев, Трегубова, 2018).

Библиография

Резаев А. В., Трегубова Н. Д. Коммуникация и общение в системной теории Никласа Лумана // Социологические исследования. 2015. № 11. С. 152–159.

Резаев А. В., Трегубова Н. Д. Новые медиа и «умные вещи»: как новые технологии актуализируют различие между общением и коммуникацией? // Вестник Московского университета. Сер. 10. Журналистика. 2019. № 1. С. 25–45. DOI: 10.30547/vestnik.journ.1.2019.2545

Резаев А. В., Трегубова Н. Д. Эвристические возможности и пределы системной теории Никласа Лумана в исследовании онлайн-взаимодействий // Коммуникации. Медиа. Дизайн. 2018. Т. 3. № 4. С. 5—21.

Сачмен Л. Реконфигурации отношений человек-машина. М.: Элементарные формы, 2019.

Collins H. (1990) Artificial Experts: Social Knowledge and Intelligent Systems. Cambridge, MA: MIT Press.

Collins H. (2018) Artifictional Intelligence: Against Humanity’s Surrender to Computers. Madford, MA: Polity Press.

Dreyfus H. (1992) What Computers Still Can’t Do: A Critique of Artificial Reason. Cambridge, MA: MIT Press.

Esposito E. (2017) Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie 46 (4): 249–265. DOI: 10.1515/zfsoz-2017-1014

Esposito E. (2022) Artificial Communication: How Algorithms Produce Social Intelligence. Cambridge, MA: The MIT Press.

Floridi L. (ed.) (2015) The Onlife Manifesto. Being Human in a Hyperconnected Era. Cham: Springer.

Guzman A. L., Lewis S. C. (2020) Artificial intelligence and communication: A Human–Machine Communication research agenda. New Media & Society 22 (1): 70–86. DOI: 10.1177/1461444819858691

Midgley M. (2002) Beast and Man. The Roots of Human Nature. London: Routledge.

Turkle S. (2005) The Second Self: Computers and the Human Spirit (20^th anniversary ed.). Cambridge, MA: MIT Press.

Woolgar S. (1985) Why not a Sociology of Machines? The Case of Sociology and Artificial Intelligence. Sociology 4: 557–572 DOI: 10.1177/0038038585019004005 

Как цитировать: Резаев А. В., Трегубова Н. Д. Блеск и нищета теории ком- муникации в эпоху искусственной социальности (Размышляя о книге Елены Эспозито “Artificial Communication: How Algorithms Produce Social Intel- ligence”) // Вестник Моск. ун-та. Серия 10. Журналистика. 2024. № 4. С. 107– 119. DOI: 10.30547/vestnik.journ.4.2024.107119

Поступила в редакцию 13.04.2024