Эксперимент, который заставил учёных задуматься
Представьте ситуацию: вы смотрите популярное ток-шоу, слушаете ответ известного политика на острый вопрос из зала — и находите его убедительным, логичным, искренним. А теперь узнаёте, что это вовсе не политик, а искусственный интеллект, который просто примерил на себя чужую личность. Именно такой сценарий разыграли исследователи в новом научном эксперименте, результаты которого опубликованы в журнале PLOS One. И выводы получились по-настоящему тревожными.
Оказалось, что тексты, сгенерированные нейросетью «под конкретного человека», люди воспринимают как более естественные, связные и по существу отвечающие на вопрос — чем реальные высказывания живых, узнаваемых общественных деятелей. Причём речь идёт не о случайных статистах, а о фигурах федерального масштаба.
Как учёные учили ИИ «быть» политиком
Поводом для исследования стали парламентские выборы 2024 года в Великобритании — момент, когда политическая риторика особенно обострена, а доверие к словам публичных фигур становится критически важным. Учёные выбрали для эксперимента материал британской телепередачи Question Time — легендарного проекта BBC One, где на протяжении десятилетий политики, бизнесмены, журналисты и эксперты отвечают на прямые, порой неудобные вопросы обычных зрителей в студии.
Исследователи «скормили» модели GPT-4 Turbo архив выступлений 112 публичных персон — от действующих политиков до медицинских экспертов и писателей. Чтобы искусственный интеллект понимал, кого именно он имитирует, к текстам добавили биографические справки из Википедии — они же помогли отфильтровать по-настоящему публичных людей от менее известных участников.
Дальше начиналось самое интересное: ИИ получал те же самые вопросы из зала, что задавались реальным гостям шоу, и должен был ответить на них «в образе» конкретного человека — сохраняя его манеру речи, взгляды и стиль аргументации.
Инструкция для «актёра» из кремния
Формулировка задания для модели была предельно конкретной. Систему просили выступить в роли эксперта по имитации людей в дебатах, отвечать строго от лица имитируемого персонажа, не называть его имени, не представляться и укладываться примерно в 200 слов разговорным тоном. По сути, ИИ превращали в актёра, который должен был не пародировать, а достоверно воссоздавать чужую личность.
Что показал слепой тест на доверие
Чтобы проверить, насколько убедительно получилось у нейросети, исследователи собрали репрезентативную выборку из 948 жителей Великобритании. Участникам показывали пары ответов — настоящий и сгенерированный — не раскрывая, какой из них принадлежит живому человеку, а какой создан машиной. Людей просили оценить тексты по нескольким критериям: аутентичность, связность, релевантность вопросу и совпадение по смыслу.
Результат оказался почти сенсационным: подавляющее большинство участников признали ответы ИИ более связными и уместными, а больше половины сочли имитацию более достоверной, чем реальную речь настоящего человека.
«Мы не говорим о неизвестных людях. Мы говорим об одном из крупнейших шоу в Великобритании», — подчеркнул Стеффен Хербольд, профессор кафедры науки о данных и руководитель кафедры инженерии ИИ Университета Пассау, возглавлявший исследование.
Иными словами, даже узнаваемость лица и статус политика накануне выборов не спасли реальных спикеров от проигрыша в конкуренции с алгоритмом.
Почему машина «звучит» убедительнее — и в чём подвох
Здесь важно не поддаться соблазну сделать вывод, будто искусственный интеллект попросту умнее или честнее людей. Сам Хербольд обращает внимание на важную деталь эксперимента: условия для человека и машины были заведомо неравными.
Живые политики отвечают на вопросы экспромтом, прямо перед камерой, в прямом эфире — без права на паузу, редактирование или второй дубль. Их речь неизбежно содержит оговорки, паузы, недосказанности — всё то, что делает человеческую коммуникацию живой, но менее «отполированной». ИИ же формирует ответ на основе уже существующих, тщательно структурированных текстов — по сути, компилируя лучшие обороты и логические связки из огромного массива данных.
Получается своеобразный парадокс: несовершенство человеческой речи, которое обычно воспринимается как признак искренности и естественности, в этом эксперименте сыграло против реальных людей. А отточенная, безупречно структурированная речь ИИ — вопреки ожиданиям — стала восприниматься как более «настоящая».
Истоки интереса: как всё начиналось в 2023 году
Идея проверить способности языковых моделей к политической мимикрии возникла у исследователей не случайно. Ещё в 2023 году модели от OpenAI, Google и Anthropic продемонстрировали качественный скачок — их тексты стало крайне трудно отличить от написанных человеком.
«Мы уже были убеждены, что эти модели очень хороши в генерации текстов и что они очень убедительны, — вспоминает Хербольд. — Нам было интересно, что произойдёт, если мы просто попросим их быть конкретным человеком, и, что более важно, поверят ли люди в это».
Ответ оказался однозначным: да, поверят. И даже больше, чем реальным словам реального человека.
Реакция участников: удивление, восторг и тревога одновременно
Самая показательная часть эксперимента произошла уже после основного тестирования, когда участникам раскрыли правду: половина всех показанных им ответов была сгенерирована искусственным интеллектом. Многие были искренне поражены качеством и сложностью текстов — настолько, что не заподозрили подвоха.
Реакция публики оказалась двойственной. С одной стороны, люди признавали потенциальную пользу технологии — например, для быстрого анализа позиций политиков или подготовки образовательных материалов. С другой — многие открыто выразили обеспокоенность тем, насколько легко подобные инструменты могут быть использованы для манипуляции общественным мнением.
Дипфейки, дезинформация и вопрос доверия обществу
Результаты исследования поднимают куда более широкий вопрос: что произойдёт с политическим дискурсом, если границы между реальным высказыванием и правдоподобной подделкой станут практически неразличимы для обычного человека?
Это не абстрактная угроза из области научной фантастики. Уже сегодня технологии позволяют создавать поддельные видео- и аудиозаписи с высказываниями политиков, которых те никогда не произносили. А если, как показал эксперимент, сгенерированный текст воспринимается людьми как более достоверный, чем оригинал, — риски многократно возрастают.
Что предлагают эксперты
Хербольд видит два взаимодополняющих направления защиты общества от подобных рисков:
- Регуляторные меры — в частности, законодательный запрет на создание и распространение политических дипфейков;
- Просвещение общественности — обучение людей распознавать признаки текстов и медиаконтента, созданных искусственным интеллектом.
По его словам, без комплексного подхода, сочетающего оба направления, эффективно противостоять волне алгоритмической дезинформации будет крайне сложно.
Вместо заключения: невидимая угроза, которую нужно замечать
«Мы надеемся, что это исследование повысит осведомлённость о рисках дезинформации, — подытожил Хербольд. — Вы видите сообщения в чатах, на веб-сайтах, повсюду — они просто выдуманы, и вы этого не осознаёте».
Эта фраза, пожалуй, лучше всего отражает суть проблемы. Технология давно перешагнула рубеж, за которым «искусственность» текста перестаёт быть очевидной. И если раньше главным оружием против дезинформации была человеческая интуиция — способность почувствовать фальшь в словах, — то теперь этот инструмент может попросту перестать работать.
В эпоху, когда алгоритм способен говорить убедительнее живого политика, единственной по-настоящему надёжной защитой становится не доверие интуиции, а осознанная медиаграмотность и готовность общества задавать простой, но важный вопрос: а кто на самом деле ст
