Все, кто имеет страницы в соцсетях, уже, наверное, видели картинки украинских военных, которые только что поженились и их никто не поздравляет, кошечек с котятами, плачущими после бомбардировки, девушек/ребят, которым не стыдно жить в деревне, бабушек, которые собственноручно испекли 5-этажный каравай? Все это — творчество искусственного интеллекта, буквально заполонившее интернет.

«Апостроф» разбирался, в чем суть этого явления, кому нужно бездумное «лайкание» и распространение фейкового контента, а также в том, что нужно знать, чтобы распознать настоящие фото от искусственно сгенерированных.

Листая ленту Facebook, можно наткнуться на эмоциональные посты, имеющие якобы благородную цель — поблагодарить наших защитников за защиту от врага. Однако если присмотреться к деталям на странице, предлагающей пост (код Сербии на номере телефона, китайский иероглиф), и «включить» логику, после первого порыва благодарности и эмпатии — закрадывается сомнение: какое отношение это имеет к Украине?

Однако это никак не мешает украинцам комментировать и репостить фейковые посты и фейковые фото.

Такая же «ламповая» атмосфера и в других сообществах — украинцы не жалеют теплых слов благодарности неизвестно кому, благодарят за защиту и даже не догадываются, как их боль и эмоции используют в не всегда искренних интересах.

Так, например, на странице Марии Ильчишин, где можно увидеть уже знакомый иероглиф «Украина», после ужасной атаки России на Киев 17 июня эту тему используют на полную — десяток постов без указания причин и обстоятельств удара врага.

Некоторые из сообщений имеют достаточно большое распространение — более 300 комментариев и 2,1 тысячи репостов за 3 суток.

В комментариях — благодарность и немного здравого смысла.

При этом «автора цифрового контента» Марию Ильчишин интересует не только жизнь украинцев — не гнушается она и слезообразующим контентом о котиках/песиках/ежиках. А украинцы… продолжают комментировать.

И таких страниц и сообществ – десятки, если не сотни.

Для чего создают цифровой «шлак»

Цель этой деятельности проста — в один момент сообщение с котиком или женитьбой украинского военного меняется на откровенную пропаганду, зрадофильство и конспирологию. А потом и страница «Молимся» со свечечкой и ладошками становится откровенно антиукраинской, а украинцы, сами того не понимая, превращаются в распространителей вражеских нарративов.

Как объясняют специалисты, прежде всего всем пользователям соцсетей нужно осознать, что сейчас можно подделать лицо и голос любого человека, и даже не каждое видео с военным, политиком или звездой — настоящее.

«В условиях постоянного развития технологий единственный способ выжить — это критическое мышление и знание, как работают технологии. Это не о знании каждой мелочи. Но у людей должно быть базовое понимание возможностей ИИ. Это должно стать частью нашей информационной гигиены», — объясняет эксперт по модерации контента в социальных сетях ЦЭДЕМ Игорь Раскладай.

Как распознать ИИ?

Первое, на что следует обращать внимание – это содержание видео и его правдоподобие. Если в видео известные люди говорят или делают что-то странное и нелогичное, например, заявления президента о капитуляции, то это первый признак фейковости контента. Особое внимание следует обращать, если такие посты соответствуют нарративам российской пропаганды, пишет издание «Рубрика».

Гораздо легче заметить ошибки в видео или фото. Для этого необходимо присмотреться к контурам лица, в частности возле ушей и щек. Эти места будут неестественно размазаны, особенно во время движений головой. Размываться могут морщины на лице. Важно обращать внимание на детали.

ШИ в новостях

С помощью ИИ можно также создавать сайты с фейковыми новостями или продвигать разные нарративы в социальных сетях. Так, в мае 2024 года компания OpenAI, разработавшая ChatGPT, обнаружила пять онлайн-компаний, которые использовали ИИ, чтобы манипулировать общественным мнением по всему миру. Речь шла о компаниях скрытого влияния, причастными к которым были государственные структуры и частные компании из России, Китая, Ирана и Израиля. В частности, российская компания Doppelganger пользовалась ИИ, чтобы писать антиукраинские комментарии в соцсети X.

«На самом деле довольно трудно распознать ИИ в тексте. Но самое простое, что может выдать искусственный интеллект, — это ошибки, фактологические или стилистические. Хотя не каждый сгенерированный ИИ текст обязательно будет иметь их», — говорит Игорь Раскладай.

Еще одна разновидность вредных публикаций, сгенерированных ИИ, — те, которые используют, чтобы накрутить лайки и сделать свою страницу более популярной. Часто это делают благодаря эмоциональному контенту, который косвенно влияет на вашу ленту и вплетает в нее российскую пропаганду.

Что делать

В Центре противодействия дезинформации СНБО объяснили, как ИИ-картинки использует страна-агрессор.

«В украинском сегменте соцсетей распространяется большое количество сообщений, содержащих фото с явными признаками генерации искусственным интеллектом якобы украинских военных, с призывами поздравить их с днем рождения или со свадьбой. Также есть схожие сообщения о спасенных животных, детях или пожилых людях.

Подобные публикации часто распространяются ботами, их цель – вызвать эмоции и поощрить людей отреагировать. Таким образом, эти фотографии получают тысячи взаимодействий от реальных пользователей, что способствует быстрому продвижению страниц», – рассказывают в ЦПДИ.

По словам специалистов, Россия может использовать такие страницы в соцсетях для распространения дезинформации.

Угроза таких сообщений заключается и в том, что они могут использоваться для мошенничества, ведь часто содержат вредоносные ссылки, замаскированные, например под петицию, которую необходимо подписать.

«На страницах с ИИ-изображениями собирается большая аудитория, которая не слишком критично относится к увиденному в сети и восприимчива к информационным манипуляциям. Таким образом враг получает площадку для продвижения опасных для Украины нарративов», — объясняет ЦПДИ.

Поэтому всем украинцам очень важно соблюдать информационную гигиену в соцсетях, не поддаваться на манипуляции и, что очень важно, проводить разъяснительную работу с людьми старших поколений.