Кажется, генеративный ИИ освоил главное человеческое качество — умение делать вид, что знает абсолютно все. Он пишет тексты уверенным тоном, рисует «идеальные» изображения, создает музыку, видео и даже программный код. И все это с такой скоростью, что у многих компаний появился новый любимый сотрудник — тот, которому не нужен отпуск и который не просит повышения зарплаты.
Проблема только в том, что иногда этот «сотрудник» уверенно выдумывает факты, ошибается, галлюцинирует и может случайно создать цифровую катастрофу быстрее, чем человек успеет открыть Excel.
Почему бизнес все активнее доверяет нейросетям задачи, которые еще вчера считались исключительно человеческими, кандидат технических наук, доцент кафедры геоинформационных систем РТУ МИРЭА Алексей Двилянский поделился мнением с изданием «О финансах и не только».
— Почему влияние ИИ оказалось настолько масштабным?
— Генеративный ИИ действительно очень быстро вошел в маркетинг, медиа и разработку, потому что дал бизнесу то, чего всегда не хватало, — скорость и снижение стоимости производства контента.
Сегодня нейросети способны генерировать тексты, изображения, видео и аудио, которые порой практически невозможно отличить от созданных человеком. Это радикально меняет рынок: порог входа в производство контента резко снижается, а объем создаваемой информации растет буквально взрывными темпами.
— Но вместе с этим появляются и новые угрозы?
— Безусловно. Чем проще создавать контент, тем больше становится информационного шума. И самое опасное — рост количества дипфейков и полностью синтетических материалов, которые используются для мошенничества, манипуляций и дезинформации.
Сегодня злоумышленники могут создавать персонализированные письма, идеально копирующие стиль конкретного человека или бренда, подделывать голоса и видео. С точки зрения кибербезопасности это открывает совершенно новые возможности для социальной инженерии и атак на пользователей.
— Получается, граница между человеческим и машинным творчеством постепенно стирается?
— Именно так. Если раньше творчество напрямую связывалось с авторством человека, то теперь все чаще используется гибридная модель: человек формулирует задачу, ИИ генерирует множество вариантов, а человек выбирает и дорабатывает лучший результат.
«Возникает своеобразная «серая зона», где авторство становится размытым, а ответственность — юридически неопределенной», — Алексей Двилянский.
— Насколько можно доверять контенту, который создает ИИ?
— Это один из ключевых вопросов. Генеративные модели не понимают смысл информации — они лишь предсказывают наиболее вероятные последовательности данных на основе обучающей выборки.
Именно поэтому возникают так называемые галлюцинации ИИ, когда система уверенно выдает вымышленные факты, цитаты или ссылки. Для маркетинга и медиа это огромный риск: ошибка может привести к распространению ложной информации и серьезно ударить по репутации бренда.
— Многие компании уже используют ИИ в разработке программного обеспечения. Здесь тоже есть риски?
— И довольно серьезные. Автоматически сгенерированный код может содержать скрытые уязвимости, которые неочевидны на первом этапе, но в дальнейшем способны привести к утечке данных или взлому систем. Без полноценной экспертной проверки такой код превращается в потенциальную угрозу для бизнеса.
— Как генеративный ИИ изменит рынок профессий?
— Рутинные задачи действительно будут постепенно исчезать. Например, написание коротких новостей, рерайт, базовая корректура или создание простых иллюстраций. Но одновременно появятся новые специальности: специалисты по верификации контента, аудиторы ИИ-результатов, промпт-инженеры.
При этом особенно ценными станут критическое мышление, умение проверять информацию и анализировать происхождение контента. В эпоху генеративного ИИ именно способность отличать правду от искусственно созданного фейка становится ключевым профессиональным навыком.
— Нуждается ли генеративный ИИ в регулировании?
— Безусловно, и такое регулирование должно строиться на нескольких принципах. Первое — обязательная маркировка контента, созданного или существенно измененного ИИ. Пользователь должен понимать происхождение информации.
Второе — ответственность за создание дипфейков и вредоносное использование технологий. Необходимы правовые механизмы, позволяющие привлекать к ответственности как злоумышленников, так и разработчиков, если они сознательно позволяют обходить ограничения.
Третье — защита персональных данных. Генеративные модели не должны запоминать и воспроизводить конфиденциальную информацию, которая попала в обучающие данные.
— Какой главный вывод можно сделать уже сейчас?
— Генеративный ИИ — это не временный тренд, а новая технологическая реальность. Он действительно способен ускорить развитие бизнеса, медиа и разработки. Но одновременно технологии делают цифровую среду более уязвимой. Поэтому главный вызов ближайших лет — научиться сохранять доверие к информации в мире, где любой текст, голос или изображение могут быть сгенерированы машиной.
Алексей Двилянский, кандидат технических наук, доцент кафедры геоинформационных систем РТУ МИРЭА.
Беседовала Дарья Лаврентьева