Искусственный интеллект стремительно превращается из экспериментального инструмента в базовую инфраструктуру цифровой экономики. Он пишет тексты, озвучивает фильмы, помогает брендам говорить с аудиторией на новом уровне. Но вместе с ростом эффективности растет и цена ошибки: дипфейки, подмена контекста и кризис доверия становятся реальными рисками для бизнеса, медиа и государственных институтов. При этом сама технология остается нейтральной — все решает то, как и зачем ее используют.
Сможет ли рынок выработать правила игры, в которых ИИ станет источником роста, а не фактором нестабильности, изданию «О финансах и не только» рассказал Юрий Силаев, заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА.
— Где, на ваш взгляд, проходит граница между мощным инструментом развития и серьезной угрозой?
— Грань между инновацией и угрозой в мире ИИ-генерации и дипфейков определяется не кодом алгоритмов, а контекстом их применения. По сути, это одна и та же технологическая способность создавать убедительный синтетический контент, но ее воплощение ведет в диаметрально противоположные стороны в зависимости от намерения, прозрачности и конечной цели.
— В каких случаях использование ИИ можно уверенно назвать инновацией?
— Инновация проявляется там, где технология используется как инструмент созидания с явной добавленной стоимостью, причем ее применение открыто и понятно аудитории. Это может быть использование ИИ для преодоления творческого кризиса при написании текста, генерации концепт-артов по словесному описанию, качественного дубляжа кино с сохранением тембра голоса актера или цифрового оживления исторических фигур для образовательных проектов. Ключевые маркеры здесь — прозрачность, управляемость и созидательная задача, которая без этого инструмента решалась бы сложнее или вовсе не решалась.
— А когда та же самая технология превращается в угрозу?
— Угроза же рождается в тот момент, когда синтетический контент начинает использоваться для подмены реальности с целью обмана, манипуляции или причинения прямого вреда, а его искусственное происхождение скрывается. Дипфейк-видео с якобы публичным заявлением политика, голосовой клон, в панике выпрашивающий деньги у родственников, или сфабрикованные интимные фотографии для шантажа — все это примеры превращения технологии в оружие. Опасность усугубляется благодаря пугающему реализму этих материалов, скорости их распространения в социальных сетях и нашей врожденной психологической склонности доверять тому, что мы видим и слышим.
— Можно ли сформулировать универсальные критерии, по которым проходит эта граница?
— Граница проходит через три фундаментальных принципа. Первый — это намерение и согласие. Инновация служит созданию нового смысла или опыта, тогда как угроза направлена на искажение существующей реальности в деструктивных целях, чаще всего без ведома и разрешения тех, чьи образы используются. Второй принцип — прозрачность. Является ли синтетическая природа контента очевидной для потребителя или же она намеренно замаскирована, чтобы усилить обман. Третий принцип — последствия. Ведет ли применение технологии к позитивному результату, такому как повышение доступности знаний или раскрытие творческого потенциала, или же ее следствием становятся дезинформация, финансовый ущерб, психологическая травма и подрыв общественного доверия.
— Как меняется масштаб угрозы по мере развития технологий?
— Сегодня главная опасность эволюционирует от частного мошенничества к системному риску. Технология становится оружием для атаки на сами основы доверия в обществе: подрыва авторитета журналистики, дискредитации доказательств в суде, манипулирования электоратом и даже отрицания объективной реальности.
«Возникает опасный парадокс «ликвидации доказательств», когда любое подлинное видео или аудио можно поставить под сомнение, просто заявив, что это дипфейк», — Юрий Силаев.
— Какие меры, на ваш взгляд, могут снизить эти риски?
— Ответ на этот вызов лежит в формировании комплексного иммунитета на технологическом и социальном уровнях. Необходимо развивать и внедрять средства прогностической аутентификации контента, такие как цифровые водяные знаки и сертификаты подлинности, вшиваемые в момент создания оригинала. Критически важно воспитывать новую медиаграмотность, при которой здоровый скепсис по отношению к непроверенному аудиовизуальному контенту станет общественной нормой. Параллельно требуется создавать адаптивное законодательство, которое будет жестко карать за вредоносное использование дипфейков для клеветы, мошенничества или вмешательства в демократические процессы, но при этом не станет сковывать их творческое или исследовательское применение. И, наконец, необходимы открытые и доступные инструменты верификации, которые позволят и журналистам, и обычным гражданам проверять сомнительный контент.
— Если подводить итог, что сегодня является ключевой задачей общества в этом контексте?
— Технология сама по себе стерла былую границу между правдой и ложью в цифровом пространстве. Наша задача теперь — не искать эту утраченную грань в алгоритмах, а построить новые социальные договоренности, правовые нормы и технологические стандарты, которые будут надежно отделять созидательную работу с инновациями от злонамеренных атак на нашу индивидуальную и коллективную реальность.
Юрий Силаев, заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА.
Беседовала Дарья Лаврентьева