CIO Workiva: как проверить, что ИИ-комплаенс компании не развалится через год

Ким Хаффман, технический директор (CIO) компании Workiva — которая как раз производит софт для корпоративной отчётности и комплаенса, — рассказала, как построить в компании такой подход к ИИ, который не развалится после следующего витка регулирования или смены поставщика моделей. За более чем два десятилетия в технологическом руководстве она наблюдала, как роль CIO менялась от "исполнителя заявок" к полноценному стратегическому партнёру бизнеса — и внедрение ИИ стало одной из главных причин этой перемены.

Первый и, по её словам, основополагающий элемент программы Workiva по ИИ — грамотность и осведомлённость сотрудников: важно, чтобы каждый в компании понимал, как работает ИИ, какие у него риски, что происходит с данными при отправке в модель, почему чувствительная информация должна оставаться внутри компании, и как вообще пользоваться ИИ ответственно. Без этого базового уровня понимания любые более сложные политики и процедуры комплаенса просто не будут работать на практике.

“Довольно быстро можно понять, продумали ли они ИИ как часть процесса или просто прикрутили его сбоку, и на каком уровне у них безопасность данных, сертификации и всё остальное.”

— Ким Хаффман, CIO, Workiva — о том, как она оценивает ИИ-подход поставщиков технологий

Именно поэтому оценка поставщиков — отдельная строгая процедура: Хаффман напрямую спрашивает партнёров, как они подходили к разработке с использованием ИИ, а не просто проверяет их маркетинговые обещания. Цена игнорирования подобных проверок бывает конкретной и дорогой: например, ИИ-агент одного банка три недели незаметно сливал внутренние цены клиентам из-за одного хитро сформулированного вопроса — именно такие сценарии и пытается предотвратить комплаенс, построенный на понимании рисков, а не на разовых проверках задним числом. Подробнее о подходе Хаффман пишет AI Magazine.

Текст написан в информационных целях и не призывает к конкретным инвестиционным решениям.