Борьбу с фейками хотят доверить искусственному интеллекту

Как сообщает РБК, Роспечать предлагает создать агрегатор на основе искусственного интеллекта для отслеживания фейковых новостей. На разработку, аналог которой пока никому не удалось создать, планируется потратить 94 млн рублей.

Подробности данного предложения, как уточняет РБК, изложены в письме заместителя руководителя Роспечати Ильи Лазарева, направленном в курирующее ведомство Минкомсвязь. В частности, в письме, с текстом которого ознакомились журналисты, говорится, что Федеральное агентство по печати и массовым коммуникациям (Роспечать) предлагает создать дата-сервис на основе искусственного интеллекта для проверки достоверности новостей. Этот агрегатор сможет сопоставлять «максимальное количество фактов, относящихся к сообщению» и выявлять неверные. Сервис должен учитывать авторитетность источника (например, сайты ведомств или государственных новостных агентств), время публикации, ссылки, изображения и видео. Такой механизм должен автоматизировать поиск источников или распространителей недостоверных новостей. Воспользоваться сервисом смогут как частные пользователи и организации, так и надзорные ведомства.

Данное предложение Роспечати уже обсуждается на различных уровнях. Так, член комитета Госдумы по информполитике Антон Горелкин  считает, что агрегатор по отслеживанию фейковых новостей может стать хорошим подспорьем для журналистов, но распознать ложь или правду в конкретной новости система не сможет.

«Если Роспечать создаст такую систему, это будет хорошим подспорьем для журналистов и потребителей информации. Деньги будут потрачены с пользой. Но на главный вопрос - ложь перед нами или правда в конкретной новости - такая система ответить не сможет», - цитируют депутата РИА Новости.

По его словам, в настоящее время мысли разработчиков крутятся вокруг суммы косвенных показателей, выделяемых нейросетью, на основе которых можно рейтинговать источники новостей с точки зрения доверия к ним, их добросовестности.

«Надёжный и быстрый способ распознавать фейковые новости — это философский камень современных медиа и IT. Кто его найдёт, станет королём повестки на многие годы вперёд, изменит мир к лучшему, затруднит жизнь мошенникам. Но обольщаться не стоит. Несмотря на громкие заявления последних лет, пока даже не нащупан путь, по которому можно достичь этой цели», - считает парламентарий.

Он пояснил, что проблема фейковых новостей гораздо глубже, чем вопрос доверия к источникам информации.

Горелкин отметил, что даже самый официальный и достоверный источник может  сам ошибаться, может быть использован злонамеренно, может быть взломан, и такая ситуация нанесёт максимальный ущерб обществу.

«Мы видели совсем недавно, как взламывали твиттер-аккаунты известных людей и компаний в Twitter и собирали через них деньги. А ведь аккаунтам «с галочкой» все доверяли, они считались проверенными. Но стали источниками ложной и опасной информации», - сказал депутат

Желание создать инструмент по мониторингу «дипфейков» понятно, но его реализация потребует огромных временных и технологических ресурсов, считает Владимир Свешников, сооснователь робота Веры (это программа-рекрутёр на основе искусственного интеллекта, которая занимается поиском резюме, обзванивает потенциальных сотрудников и проводит первичное видеоинтервью). По мнению собеседника РБК, самым правильным способом для создания инструмента такого мониторинга будет запуск собственной платформы по синтезу такого контента, особенно если речь заходит об аудио.

Теоретически, создать платформу по распознаванию фейков в СМИ возможно, однако практически это вряд ли коренным образом изменит информационное поле, полагает руководитель направления Big Data компании «Крок» Егор Осипов. По его мнению, реализация сервиса, скорее всего, вызовет необходимость создания нового реестра «доверенных» организаторов распространения информации, с которым искусственный интеллект должен будет сопоставлять публикации в различных источниках. Однако остаётся вопрос целесообразности подобного реестра, его оператора, а также санкций, применяемых к обнаруженным недостоверным новостям, продолжает Осипов. Он напоминает, что даже крупнейшая в мире соцсеть Facebook не сумела создать эффективный машинный алгоритм для борьбы с недостоверными новостями.

Ярослав Шмулев, руководитель группы машинного обучения компании «Инфосистемы Джет», также подчёркивает, что сервис по распознаванию фейковых новостей «сделать возможно, технологии для этого есть, проблемой может стать только природа данных». «Например, если фейковые новости пишет человек, скорее всего, нейронная сеть не сможет отличить эти новости от всех остальных, — объясняет он. — Но если фейковые новости генерирует алгоритм, то возможно сделать сервис, который изучит свойства сгенерированных новостей и будет их распознавать с точностью выше 95%. Я видел статьи, где описывали подобные алгоритмы, классифицирующие американские новости с такой точностью».