Искусственный интеллект сегодня похож на талантливого, но безответственного сотрудника: умен, продуктивен, работает без сна и выходных, и при этом абсолютно не осознает, что делает. Он генерирует тексты, пишет код, рисует картины, советует врачам и маркетологам, но не понимает последствий собственных действий.
Может ли система, обученная на миллиардах данных, принимать решения без человеческого участия, системный аналитик, менеджер IT-проектов и основатель AI-студии «Cherry RaiT» Роман Талютин поделился с изданием «О финансах и не только».
— Кто может являться ответственным за искусственный интеллект? Это должен быть отдельный человек в компании?
— Представьте автопилот в машине. Есть владелец, водитель, сервис и страховая. С ИИ действия происходят так же. Владелец продукта решает, зачем ИИ вообще нужен и где его можно включать. Юрист по персональным данным следит, чтобы у ИИ были только «разрешенные» данные и законные основания. ИТ/данные отвечают, чтобы система работала стабильно: версии, доступы, логи. Информационная безопасность задает «бордюры»: что ИИ не должен видеть и делать.
В маленькой фирме это могут быть 1–2 человека в нескольких ролях. В компания побольше — назначают координатора по ИИ или маленький комитет. Смысл один: на бумаге закреплено, кто ставит цели, дает доступ к данным, пускает в работу, наблюдает за качеством и нажимает «стоп», если что-то пошло не так.
— Какие риски может понести компания, если ИИ будет «свободен»?
— Юридические риски: ИИ обработал «лишние» данные или «проговорился» в чатах. Отсюда появляется проверка, штраф, блокировка сервиса. Репутационные: бот нахамил, придумал «факты», у кого-то запросил паспорт. Скрин улетит в соцсети быстрее, чем вы успеете объяснить. Операционные: неверные цены, автописьма «не тем» людям, отказ «не тем» кандидатам. Здесь страдают деньги, клиенты, сроки. Безопасность: в подсказки подмешали вредный текст, ИИ вытянул из истории диалога внутренние тайны, кто-то «утащил» токены доступа. Финансовые риски: зависимость от одного поставщика модели и его цен, срывы SLA.
Картинка из жизни: отдел продаж «подключил ИИ к базе клиентов, чтобы отвечал умнее». Через неделю бот начинает цитировать внутренние скидки и телефоны. Не потому, что «ИИ злой», а потому что ему дали все подряд и не ограничили выход.
— В какой момент роста компании или на каком уровне внедрения ИИ роль человека становится не просто полезной, а жизненно необходимой?
— Есть множество причин. Во-первых, если ИИ трогает персональные данные клиентов или сотрудников. Во-вторых, нейросеть выходит к людям: сайт, приложение, кол-центр. Также если ИИ влияет на деньги, безопасность, здоровье, прием на работу. Может быть так, что ИИ не один, а несколько: рекомендации, чат-бот, скоринг, автописьма. Они связаны и часто обновляются. После этих порогов «делаем как умеем» превращается в «нужен пилот в кабине и понятная инструкция».
— Как вы считаете, ответственный за нейросеть нужен всегда?
— Да, только масштаб разный. Если стартап или малый бизнес: «полставки» у продуктового или операционного руководителя и помощь юриста по данным. Письменно пропишите, где ИИ можно, какие данные, кто стопорит. Если средний/крупный бизнес: необходим выделенный лидер или комитет, реестр ИИ-сценариев, правила допуска в работу, контроль качества и вреда, журнал инцидентов, учения «красной кнопки». Во всех вариантах остается одно: в ключевых точках решения принимает человек.
— Что никогда не будет полностью передано в работу ИИ и почему?
— Во-первых, конечно же юридическая и этическая ответственность. За нее отвечают люди и юрлица, а не алгоритмы. Во-вторых, это кадровые решения, окончательное «да или нет» по человеку — за руководителем. В-третьих, кто решает, чем можно рискнуть ради выгоды, — всегда менеджмент. В-четвертых, кто пустил в прод, и кто обязан немедленно выключить при инциденте. И конечно, где необходимы сложные оценочные суждения, важны контекст, справедливость и возможность обжалования.
Причина проста: у ИИ нет прав и обязанностей. Он зависит от данных и подсказок, уязвим к манипуляциям и переносит ошибки между задачами. Бизнесу нужна понятная цепочка: кто решил и почему.
Роман Талютин, системный аналитик, менеджер IT-проектов и основатель AI-студии «Cherry RaiT».
Беседовала Кира Некрасова