Об этом сообщает «Politexpert» со ссылкой на The Conversation
Распространение генеративного ИИ в информационной среде ставит под угрозу саму суть избирательных процессов. Способность отличить реальное от вымышленного становится всё более затруднительной — и это уже не вопрос будущего, а повседневная реальность. Команда исследователей из Конкордии провела уникальный симулятор выборов, чтобы проверить, насколько легко современные инструменты ИИ могут повлиять на электоральный ландшафт.
Что такое политический варгейм и как он работает
Симуляция прошла по принципу «редтиминга» — метода, в котором одна команда имитирует действия атакующих (Red Team), а другая защищает систему (Blue Team). Цель такого подхода — выявить слабые места в защите цифровых процессов, включая дезинформационные угрозы. В рамках эксперимента игроки симулировали влияние ИИ на канадскую избирательную кампанию.
Участники подключались к закрытому серверу Mastodon и использовали набор свободно доступных ИИ-инструментов. Кто-то исполнял роль ультраправых блогеров, другие — журналистов или сторонников монархии. Одним из первых кейсов стала подделка аудиозаписи с голосом публичной фигуры — и дальнейшее её распространение с целью дестабилизации общественного мнения.
Как ИИ инструменты используются для создания хаоса
Среди ключевых открытий симуляции — тот факт, что генеративные ИИ-сервисы практически не защищены от злоупотреблений. Несмотря на формальные ограничения, пользователи могли создавать политически окрашенный контент без особых препятствий. Поток подделок, мемов и фейков быстро перекрывал любые попытки проверок.
При этом само качество фейков не всегда оказывалось высоким. Но даже посредственные подделки успешно выполняли свою задачу: создавали информационный шум, затрудняли верификацию данных и вызывали сомнения у пользователей. Именно это и оказалось наиболее эффективным инструментом дестабилизации — не убедить, а запутать.
Ограниченность ИИ-детекторов в борьбе с фейками
Ожидания от инструментов для распознавания ИИ-контента оказались завышенными. Участники, исполнявшие роль журналистов, нередко полагались на ИИ-детекторы даже тогда, когда интуитивно понимали, что контент — подделка. Это подменяло настоящую проверку фактов и мешало оперативно реагировать на угрозы.
В ходе симуляции выяснилось, что такие инструменты не только редко дают однозначные результаты, но и сами могут становиться частью проблемы. Из-за отсутствия универсальных стандартов оценки пользователи не доверяют полученным выводам, что лишь усиливает недоверие и хаос.
Глубокие фейки требуют ресурсов и подготовки
Несмотря на растущую доступность ИИ-технологий, создание по-настоящему убедительных глубоких фейков остаётся сложным и затратным. Качественный синтез речи, мимики и поведения требует профессионального подхода, времени и вычислительных ресурсов. Это ограничивает круг потенциальных создателей таких материалов.
Таким образом, по-настоящему опасные фейки, способные ввести в заблуждение широкую аудиторию, скорее всего будут исходить от организованных групп, обладающих финансовыми и техническими возможностями. Массовое же распространение фальшивок — это, скорее, результат информационного шума, а не технологического совершенства.
Что это значит для будущего выборов
Итоги симуляции показали, насколько легко разрушить доверие к публичным фигурам, информации и самим выборам при помощи доступных ИИ-инструментов. Вмешательство не требует особых знаний, а результаты могут быть разрушительными. Достаточно посеять сомнение — и обычные пользователи уже не уверены в правдивости увиденного.
Разработка сценариев на базе геймификации и имитационного моделирования становится важным элементом подготовки к будущим избирательным кампаниям. Такие симуляции помогают не только выявлять уязвимости, но и обучать участников медиаграмотности и методам защиты информационного пространства.
Напомним, ранее мы писали о том, кто на самом деле стоит за угрозой будущему.