Современные технологии искусственного интеллекта быстро развиваются и становятся неотъемлемой частью нашей повседневной жизни. Однако они также открывают новые возможности для тех, кто стремится манипулировать общественным мнением и распространять дезинформацию. Одной из наиболее опасных форм такой манипуляции является создание фейковых изображений и использование их в социальных сетях с целью влияния на общественное сознание. Об этом недавно предупредил Центр противодействия дезинформации Украины, обратив внимание на опасное распространение фото якобы украинских военных, сгенерированных искусственным интеллектом.
Фейковые фото как элемент информационной войны
Центр противодействия дезинформации сообщил, что в украинском сегменте социальных сетей появляется все больше фото, созданных с помощью ИИ, на которых изображены якобы украинские военные. Такие фото часто сопровождаются эмоциональными призывами, в частности поздравлениями с днем рождения, свадьбой или другими событиями. Однако эти сообщения не являются реальными. Их назначение - вызвать эмоциональный отклик, заставить пользователей взаимодействовать с постом, оставляя комментарии или лайки. Во многих случаях эти публикации распространяются ботами, что лишь усиливает их влияние и ускоряет продвижение через алгоритмы социальных сетей.
Цель и угроза фейковых публикаций
Основной целью таких сообщений является создание площадки для информационных манипуляций. Фейковые фото получают тысячи взаимодействий, что способствует их быстрому распространению среди реальных пользователей. На первый взгляд, такие посты могут казаться безобидными или даже положительными, поскольку демонстрируют украинских военных в доброжелательном контексте - например, на свадьбе или в моменте радости. Однако их реальная угроза заключается в том, что они способствуют созданию большой аудитории, которая не всегда критически относится к увиденному в сети.
Часто люди не замечают признаков, указывающих на искусственное происхождение фото, и охотно делятся ими, комментируют или лайкают. Таким образом, распространители фейковой информации получают большой доступ к сетевым пользователям, что позволяет им дальше внедрять опасные нарративы.
Использование фейковых фото в информационной войне
В современной войне информация является не менее важным оружием, чем танки или ракеты. Россия активно использует технологии искусственного интеллекта для создания контента, который способствует продвижению ее нарративов в разных странах, включая Украину. Центр противодействия дезинформации обращает внимание на то, что фейковые фото, сгенерированные ИИ, могут быть использованы не только для манипуляции общественным мнением, но и для распространения пропаганды и подрывной деятельности.
Такой контент может иметь различные формы: от визуальных материалов до новостей и статей, имеющих целью подрывать доверие к официальным источникам информации и способствовать расколу в обществе. В частности, в Украине российская пропаганда часто использует фейковые новости для усиления паники или создания негативного образа Вооруженных сил Украины. Фейковые фото, распространяемые под видом реальных, могут помочь создать более убедительные нарративы, которые могут ввести в заблуждение значительное количество людей.
Почему это опасно?
Кроме влияния на общественное мнение, распространение ИИ-сгенерированных фото несет другие риски, в частности мошенничество. Как предупреждает Центр противодействия дезинформации, многие такие сообщения содержат вредоносные ссылки. Под видом петиции, опроса или другого призыва к действию эти ссылки могут приводить к фишинговым сайтам, которые воруют личные данные или инфицируют устройства вредоносным программным обеспечением. Пользователи социальных сетей, которые доверяют таким постам, могут оказаться под угрозой киберпреступлений.
Как распознать фейковые изображения?
Чтобы не стать жертвой дезинформации, важно уметь распознавать изображения, созданные искусственным интеллектом. Вот несколько признаков, которые могут указывать на то, что фото является фейковым:
- ИИ часто имеет проблемы с правильной генерацией лиц, особенно в деталях: зубы могут быть расположены неправильно, глаза - разных размеров, а текстура кожи - неестественной.
- Фейковые фото часто имеют странные фоновые объекты или несоответствие между освещением и тенями на лице и теле.
- Искусственный интеллект может создавать позы, которые кажутся неуклюжими или неестественными, а выражения лица могут быть эмоционально непоследовательными.
- Если фото появляется без конкретных деталей о событии, месте или дате, стоит задуматься, является ли оно реальным. ИИ-сгенерированные изображения часто сопровождаются минимумом информации, что может свидетельствовать об их фейковости.