Сергей Медведев: Наш мир полон фейков: вокруг дезинформация, манипуляция, "спецоперация". Все осложняется еще искусственным интеллектом, который генерирует дипфейки. Осталась ли в мире истина и как ее узнать? Какова роль фактчекинга и расследовательской журналистики?
С нами Илья Бер, журналист, фактчекер, руководитель проекта "Проверено. Медиа". С чего началось ваше увлечение истиной и поиском фактов?
Илья Бер: Я оканчивал историко-филологический факультет РГГУ по специальности "история". Наука в моем представлении должна познавать мир, открывать истину, а не быть пространством интерпретаций. Ознакомившись с постмодернистской методологией истории и поняв, каков мейнстрим исторической науки, я немножко загрустил. Думаю, тогда начался мой интерес к более дробным кирпичикам, из которых строится человеческое знание, то есть к фактам.
Наш мир полон фейков: вокруг дезинформация, манипуляция, "спецоперация"
Сергей Медведев: Пошатнулся онтологический статус истины в современном мире. Знаменитая книжка Питера Померанцева "Ничто не является правдой, и все возможно". Достаточно прийти Трампу, который сказал, что существуют альтернативные факты… Настала ситуация, в которой люди одинаково легко оперируют разными версиями реальности.
Илья Бер: Есть устоявшаяся фраза-мем "у всех своя правда". А если это так, то невозможен никакой спор об истине или о том, чья правда лучше. И вот эта ситуация жизни в пространстве точек зрения и мнений меня категорически не устраивает. Именно после прихода к власти Трампа в 2016 году Оксфордский и Кембриджский словари выбрали словом года слово "постправда". Например, Оксфордский словарь трактует это так: "Постправда – это обстоятельства, при которых объективные факты менее значимы для формирования общественного мнения, чем обращение к эмоциям и личным убеждениям".
Понятно, что эти словари хотели сказать: "Посмотрите, куда мы движемся, к чему может привести такой мир, сделаем шаг назад от этой бездны". Но не все это так восприняли. Кто-то, наоборот, обрадовался. Авторитетные институции поставили жирную круглую печать на том, что истины не существует, и "мы вступили в эпоху постправды". Но лично я делаю все, что можно, чтобы отсрочить наступление этой ужасной эпохи.
Сергей Медведев: Не складывается ли впечатление, что в России пришествие этой постправды произошло очень гладко? Во-первых, она сильно инструментализована властью, во-вторых, само общество очень легко принимает на веру эти альтернативные версии реальности. На поверхность снова выплыл Анатолий Кашпировский, а на работу сейчас даже в крупнейших корпорациях принимают только с учетом мнения тарологов. Россия с каким-то детским восторгом погрузилась в тотальный кризис рациональности.
Илья Бер: Не стоит преувеличивать специфическую российскость этого феномена. В 2013–14 годах для меня неким триггером стало включение на полную мощность российской пропаганды. Казалось, что именно Россия погружается в эту пучину. Но с тех прошло много лет. И когда в ковидную эпоху я стал профессионально этим заниматься, выяснилось, что ничего особенно уникального в российском опыте нет. В истории почти любого крупного государства мы найдем периоды, где были более-менее похожие явления. Глядя на то, что происходило с Германией после прихода к власти в 1933 году Гитлера и НСДАП, мы видим огромное количество похожих явлений.
Сергей Медведев: Видимо, у этого кризиса правды есть социально-политическая основа: он приходит в какие-то кризисные моменты слома общества?
Илья Бер: Да, это ситуация неких общественных сломов, общественной фрустрации, огромного количества людей, для которых абсолютно поменялись и внешний мир, и парадигмы, и восприятие себя в этом мире. Это, по сути, кризис самоидентификации у людей. И они ищут новые объяснения происходящего. Здесь на помощь приходят любого рода мракобесы, которые отлично умеют это делать.
Сергей Медведев: А насколько сейчас велика опасность того, что искусственный интеллект создаст нам абсолютную иллюзию правды? Не получится ли, что ИИ амплифицирует этот объем ложной информации, который есть в интернете?
Илья Бер: Любое технологическое новшество, связанное с медиа, амплифицирует количество любой информации, а значит, и фейков тоже. Человечество всегда жило в мире фейков, мифов, иллюзий и популярных заблуждений. Просто раньше люди про это не знали и не могли оценить масштаб из-за отсутствия технологических средств, а теперь эти средства появились, и все больше людей стали осознавать это как проблему. И сейчас как раз лучшее время в истории человечества, для того чтобы узнавать эту истину при желании и некотором умении.
Есть решение проблемы – это поиск первоисточников
Конечно, опасность ИИ есть. Но тут вечно идет соревнование: фальшивомонетчики придумывали все новые и новые способы подделывать деньги, а ученые или госслужащие находили способы разоблачать подделки. Сейчас новый технологический шаг – появились дипфейки и способы их распознавания. Такие программы работают не идеально, пока это лишь дополнительный инструмент к головам опытных людей, фактчекеров, расследователей. Но и они тоже все время улучшаются. Пока я не видел ни одного фейка, который нельзя было бы распознать своими собственными глазами, ориентируясь на какой-то набор признаков.
Есть решение проблемы – это поиск первоисточников. Самое сложное – это не сделать технически дипфейк, а вбросить его в медиасреду так, чтобы было непонятно, откуда он взялся. И с этим фейкоделы пока справляются довольно плохо. Если вы находите первоисточник появления в медиа некоего текста, изображения, видео, то по характеру первоисточника мы с очень высокой вероятностью определяем характер информации: фейк, не фейк, ошибка, не ошибка.
Сергей Медведев: А растет ли количество фейков в инфосфере, в сети?
Илья Бер: Я бы сказал, что во времена войн растет количество намеренно сфальсифицированной информации. А что касается недостоверной информации вообще, то, я думаю, не особенно, но сдвигается пропорция ошибок и намеренных действий. В нормальной ситуации, на мой взгляд, ошибочной, недостоверной информации всегда больше 80%, или, может быть, даже еще больше в ситуации конфликтов или политических противостояний.
Сергей Медведев: Какие ваши самые запоминающиеся разоблачения доставили наибольшее удовольствие в процессе и по результату?
Илья Бер: У нас с октября 2020 года уже больше 2300 разборов. Может быть, самый успешный наш разбор, который взлетел абсолютно на всех платформах, даже в TikTok, был на тему: правда ли, что патриарх Кирилл – это инсценировавший свое убийство вор в законе Япончик?
Когда я впервые наткнулся на это, я просто вбросил это в наш рабочий чат как шутку. А потом я наткнулся на пару видео на YouTube с миллионами просмотров, где какие-то люди на полном серьезе продвигали эту теорию. Я уговорил коллегу: "А давай с абсолютно серьезным лицом будем проверять это утверждение по стандартам фактчекинга". И мой коллега Павел Солахян написал этот разбор.
Сергей Медведев: Что вы посоветуете простому потребителю медиа, чтобы различить фейк?
Илья Бер: Простого ответа нет. Ориентируйтесь на авторитетные источники информации. Если вы видите супергромкую новость, связанную с большой политикой, но ее нет на ВВС, в Рейтерс, "Нью-Йорк Таймс", "Дойче Велле" или хотя бы в Агентстве ТАСС, то, скорее всего, с этой новостью что-то не так.
Кроме того, явление последнего времени – это фактчекинг и профессиональные фактчекерские проекты. В мире их уже порядка 200, сертифицированных в International Fact-Checking Network (Международная фактчекерская сеть) – порядка 120. Мы тоже имеем эту сертификацию.
Ориентируйтесь на авторитетные источники информации
Сергей Медведев: У нас в студии Андрей Сошников, главный редактор "Системы", расследовательского проекта "Настоящего Времени" и Радио Свобода. Объем фейков увеличивается?
Андрей Сошников: Они становятся разными, гибридными, заточенными под целевые аудитории. Раньше фейк – это было какое-то всеобъемлющее явление. Люди читали что-то, сначала принимали за правду, а потом это опровергалось, часть людей продолжали в это верить, часть опровергали. Так появлялись всевозможные конспирологические теории, которые продолжали существовать веками. Сейчас фейк может быть заточен на одного человека, на небольшую группу людей, а может быть заточен на некое сообщество, собранное по какому-то признаку: полу, национальности, гражданству. Вот такие фейки становится сложно отслеживать, потому что если ты не являешься их целевой аудиторией, то как тебе их ловить? Поэтому фактчекинг, опровержение фейков становятся индустрией, как и создание фейков.
Сергей Медведев: Вы считаете, что обладаете достаточными инструментами для разоблачения фейков?
Андрей Сошников: Я не занимаюсь у себя в отделе фактчекингом как таковым. Я автор или редактор материалов. Если я с самого начала вовлечен в создание материала, значит, у меня несвежий взгляд, я некоторые вещи, которые мне говорил коллега-журналист, воспринимаю уже на веру. Фактчекингом занимаются отдельные люди, часто это журналисты-расследователи, часто – нет.
В некоторых изданиях есть отделы фактчекинга, состоящие из профессионалов. У них должен быть абсолютно независимый взгляд. Они не должны разговаривать с автором по поводу материала, взаимодействовать с редактором, принимать на веру то, что он сказал. Фактчекер должен читать весь текст от начала до конца – это часто то, что делает расследование таким дорогим и долгим жанром.
Сергей Медведев: Существуют ли технические инструменты для того, чтобы понять истинность или ложность любого свидетельства?
Андрей Сошников: Нет! Есть возможность по косвенным признакам, по утечке или по сливу понять, какова была мотивация сливщика и какие тут есть опасные моменты, в которых не уверена редакция. Об этом нужно предупреждать аудиторию, говорить, что "здесь мы свечку не держали, а вот здесь у нас была возможность независимо подтвердить".
Сергей Медведев: Вопрос, которого невозможно избежать сейчас, когда соцсети – и оппозиционные российские, и эмигрантское сообщество – расколоты всей этой историей по поводу публикации ФБК, по поводу "Невзлингейта". На ваш взгляд, являются ли предоставленные доказательства достаточными для того, чтобы выносить суждения по ним? Можно ли их сфальсифицировать?
По утечке или по сливу можно понять, какова была мотивация сливщика и какие тут есть опасные моменты
Андрей Сошников: Мы внутри отдела строим разные гипотезы по поводу мотиваций героев этого материала и происхождения этой переписки. Мы их публично не выдвигаем, потому что у нас нет доступа ко всему корпусу доказательств.
Но нужно отдать должное команде ФБК: обычно их расследования, если они основаны на открытых данных (последнее было на закрытых), проходят независимый фактчек. Было несколько случаев, когда они публично извинялись за какие-то детали расследования. ФБК – это большая профессиональная команда, выпускающая расследования, которые могли бы публиковаться не только на их площадках, но и в СМИ: СМИ часто их цитируют.
Что касается последнего расследования о Леониде Невзлине, то здесь источник – это переписка, к которой у них есть доступ и есть доступ у двух других редакций, которым мы тоже доверяем.
Сергей Медведев: Но теоретически сама переписка могла быть фальсифицирована?
Андрей Сошников: Теоретически все что угодно может быть сфальсифицировано, и это как раз задача журналиста – проверить и понять контекст, тайминг. Есть же файлы, есть съемки с телефонов. Их можно проанализировать, посмотреть, в какое время суток, например, сделана эта съемка, когда пролистывалась переписка. Можно смотреть на мельчайшие элементы интерфейса, мессенджеров, в которых она происходила.
Сергей Медведев: К нам присоединяется Лев Гершензон, руководитель новостного агрегатора The True Story. Растет ли число фейков в сети?
Лев Гершензон: Правильно не считать, сколько их в сети, а оценивать их контакты с аудиторией: насколько они влияют на умонастроения, насколько успешно распространяются. Вот тут, мне кажется, они прогрессируют и очень эффективно себя ведут.
Основное место, где люди взаимодействуют с информацией, – это интернет, приложения, платформы: их ограниченное число, тех, которые обеспечивают доставку информации для большинства населения Земли. Критически важно, какие критерии качества действуют на этих платформах, какой контент для них предпочтителен. Мои наблюдения: к сожалению, принципы правдивости или качественной журналистики, несмотря на то что они часто заявляются этими платформами, не являются основными для выбора и определения, что лучшего всего показать большому количеству людей.
Сергей Медведев: За последний год чудовищно изменился фейсбук, превратился в какую-то желтую газету из электрички, где, продираясь через завалы каких-то роликов, реклам, ненужных мне вещей, я с трудом получаю какую-то новостную информацию.
Платформам гораздо важнее, чтобы их контент завлекал вас как пользователя
Лев Гершензон: Сам Марк Цукерберг года три-четыре назад решил, что новостного политического контента в фейсбуке должно быть сильно меньше. Это, в частности, реакция на скандал с "Кембридж Аналитика" (на мой взгляд, очень детская реакция). Фейсбук продал сторонней компании данные о поведении пользователей на платформе у себя в соцсети. Эта компания, "Кембридж Аналитика", использовала их для очень точного таргетинга в информационной кампании, в предвыборной кампании президента Трампа, и считается, что внесла, может быть, решающий вклад в победу Трампа.
В результате Цукерберг сказал: пойдемте в другие стороны, а новостного контента нам не надо. Как следствие вы видите ту помойку, в которую это превратилось.
Второй момент: все равно основной инструмент заработка на соцсетях сейчас – это рекламные поступления. Чем больше рекламы вместить в ленту, тем лучше, чем больше вы при этом проводите времени, продираясь, тем лучше.
Сергей Медведев: Такой желтеющий интернет создает питательную среду для распространения фейков.
Лев Гершензон: Конечно! Моя гипотеза: платформам, что бы они ни заявляли, гораздо важнее, чтобы контент, который они показывают, завлекал вас как пользователя.
Сергей Медведев: Фейк накручивает трафик.
Лев Гершензон: Да, взвешенное спокойное изложение с проверкой фактов проигрывает такой уличной борьбе, яркому, хлесткому неточному заголовку, который цепляет. Вот это "цепляет" гораздо важнее, чем взвешенная и правдивая информация.
Сергей Медведев: Во время ковида это стало особенно очевидно.
Лев Гершензон: Ковид оказался питательной средой, потому что все это растет на страхах, на неуверенности. Но ковид закончился, а дело живет.
Сергей Медведев: А можно ли запрограммировать алгоритм на то, чтобы он отфильтровывал фейки?
Лев Гершензон: Конечно, можно. Это не значит, что можно написать программу, которая со стопроцентной полнотой и точностью будет отличать ложь от правды. Но есть много решений, при которых с хорошей точностью и полнотой можно определять: этот текст подозрительный, в нем мало ссылок, много оценочной и эмоциональной лексики, он содержит факты, которые мало где встречаются в других авторитетных источниках, и так далее. Такие алгоритмы-классификаторы должны быть. И подозрительный контент, у которого есть все признаки недостоверной информации, не должен получать широкого охвата. Вопрос в том, как заставить эти платформы принять такие цели и метрики, чтобы они были для них важными.
Нужен такой академик Зализняк, который встанет и скажет: "Истина существует!"
Сергей Медведев: И для этого вы предлагаете очень интересный механизм под названием "информационная карма". Условно говоря, каждая статья, каждый видеоролик должны нести в себе какой-то критерий оценки качества их достоверности.
Лев Гершензон: Да. Карма, может быть, не самый удачный термин, но он тоже цепляет. Есть более скучные вещи из той же области: какой-нибудь научный фактор или из банковской сферы – кредитная история – это свойство или накапливаемый рейтинг паблишера, издателя, автора.
Сергей Медведев: Вспомню рассказ Хорхе Луиса Борхеса "Тлён, Укбар, Орбис Терциус". Там идет речь о некоей секте специалистов, создавших энциклопедию вымышленного мира – Тлёна, которую потом случайно обнаружили в одной из этих библиотек. Постепенно этот вымышленный мир начинает вторгаться и захватывать мир реальный. И вот сейчас мы находимся под той же самой угрозой, когда разные новостные платформы, ИИ, производящий дипфейки, правительство и различные фейкоделы создают огромный вымышленный мир. И нам действительно нужен такой академик Зализняк, который встанет и скажет: "Истина существует!"
