Искусственный интеллект дает бизнесу и государству мощный инструмент развития: он помогает находить ошибки, прогнозировать риски и принимать решения в сложных условиях. При грамотном использовании ИИ способен повысить качество услуг и сделать управление более точным. Но чем умнее система, тем выше цена ее ошибки и тем сложнее объяснить ее действия.
Как выстроить доверие к технологиям, не потеряв контроль над ними, заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев рассказал изданию «О финансах и не только».
— Кто должен нести ответственность, если автономный агент причиняет вред?
— Одна из центральных проблем — вопрос ответственности. Когда автономный агент совершает действие, причинившее вред — отказывает в жизненно важной услуге, провоцирует финансовый ущерб или ошибается в медицинской диагностике, — возникает правовой вакуум. Кто должен нести ответственность: разработчик алгоритма, компания-внедренец, курирующий оператор или абстрактная система? Существующее законодательство не предлагает ясного ответа, что создает риск безнаказанности и подрывает базовое доверие к таким технологиям.
— Насколько серьезна проблема дискриминации и предвзятости в ИИ-агентах?
— Не менее серьезен вызов, связанный с усилением предвзятости и дискриминации. ИИ-агенты обучаются на исторических данных, которые неизбежно несут в себе отпечаток человеческих предрассудков и социального неравенства. Воспроизводя эти паттерны, система может не замечать, как автоматизирует и делает невидимой несправедливость.
Например, алгоритм найма может систематически отдавать предпочтение кандидатам определенного пола или происхождения, а система оценки кредитоспособности ущемлять целые группы населения. Опасность усугубляется тем, что машинное решение ошибочно воспринимается как объективное и беспристрастное, лишая жертву дискриминации даже понятного основания для апелляции.
— Коммерческие компании все активнее используют ИИ для персонализации. Где здесь проходит грань между удобством и манипуляцией?
— Еще одна группа проблем касается манипуляции и утраты автономии. В коммерческой сфере ИИ-агенты, гипериндивидуализирующие предложения и цены, могут эксплуатировать психологические слабости пользователей, подталкивая к необдуманным покупкам или формируя зависимое поведение.
В государственном управлении подобные технологии, используемые для социального скоринга или управления информационными потоками, способны стать инструментом тотального влияния, мягко, но неотвратимо ограничивающим свободу выбора граждан и подрывающим основы демократического участия.
— Почему непрозрачность алгоритмов становится этическим вызовом, а не просто технической сложностью?
— Техническая сложность современных систем порождает вызов «черного ящика». Многие передовые модели, особенно глубокие нейронные сети, не поддаются полной интерпретации даже своими создателями.
Когда такая необъяснимая система рекомендует отказ в предоставлении государственной услуги, влияет на судебный приговор или диагностирует заболевание, она нарушает фундаментальные права человека на понимание причин принятого в отношении него решения и на возможность его оспорить.
«Непрозрачность противоречит принципам справедливости и верховенства права», — Юрий Силаев.
— Можно ли говорить о концентрации власти вокруг тех, кто контролирует ИИ-агентов?
— Широкое внедрение ИИ-агентов также ведет к беспрецедентной концентрации технологической власти. В государственном секторе это создает риск установления цифрового авторитаризма, где алгоритмы, контролируемые узкой группой, получают власть над общественными процессами.
В коммерции доминирование платформ с их интеллектуальными агентами может подавлять конкуренцию и инновации, закрепляя монопольное положение.
— Как ИИ-агенты влияют на «человеческое измерение» таких сфер, как медицина, образование или правосудие?
— Существует риск дегуманизации критически важных сфер жизни. Передача значительной части решений в области здравоохранения, образования, правосудия и социальной поддержки бездушным алгоритмам грозит эрозией таких чисто человеческих качеств, как эмпатия, сострадание и этическая гибкость.
Алгоритм может эффективно оптимизировать распределение ресурсов, но он не способен заменить моральное суждение, мудрость, рожденную из опыта, и простое человеческое участие в судьбе другого.
— Что, на ваш взгляд, может стать основой для ответственного использования ИИ-агентов в будущем?
— Преодоление этих вызовов требует не технических исправлений, а системных усилий по выстраиванию новых социальных и правовых договоренностей. Необходимы законодательные принципы, закрепляющие презумпцию конечного человеческого контроля над критическими решениями. Требуются обязательные процедуры независимого аудита алгоритмов на предмет дискриминации и предвзятости с прозрачными результатами.
Юрий Силаев, заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА.
Беседовала Дарья Лаврентьева