Проблема ИИ в IT-отделах — не в самой модели, а в данных, которые ей подсовывают

Компании один за другим внедряют ИИ в мониторинг собственной IT-инфраструктуры — и один за другим сталкиваются с одной и той же проблемой: операторы, которые должны на этот ИИ полагаться, ему не доверяют. Причина, как правило, не в самой модели: если исходные данные неполны, зашумлены или лишены контекста, результат работы ИИ становится ненадёжным — растёт число ложных тревог, реальные инциденты пропускаются, а доверие операторов падает ещё сильнее.

Многие инициативы AIOps буксуют именно поэтому: они опираются на неполную, низкокачественную телеметрию и разрозненные источники данных без единого контекста, точности и своевременности. Без надёжного «источника правды» ИИ и автоматизация не могут выдавать применимые на практике выводы — вместо проактивной работы получается реактивная, время на устранение инцидентов растёт, а качество обслуживания становится непредсказуемым. Схожую мысль в июле высказывали и другие эксперты по корпоративной автоматизации: настоящим вызовом для ИИ в операциях становится не сама модель, а оркестрация вокруг неё, отмечают авторы Forbes Technology Council.

• Неполная или зашумлённая телеметрия приводит к ложным алертам и пропущенным инцидентам
• Разрозненные источники данных без единого контекста не дают ИИ построить надёжную картину происходящего
• Результат — не проактивные операции, а реактивные: инциденты решаются медленнее, а SLA становится сложнее держать стабильно
• Решение видят не в более мощной модели, а в целостной наблюдаемости (observability) — курируемых, достоверных и непрерывных данных, которым ИИ действительно может доверять

Проблема доверия к ИИ в операциях — частный случай более широкой закономерности, которую мы уже разбирали: ИИ-агенты ошибаются не только из-за «глюков» самой модели — мы отдельно писали, что реально стоит за галлюцинациями ИИ, — но и из-за банально плохих входных данных и недостаточного контроля за тем, что агент делает с доступом, который ему дали. Похожий сценарий уже реализовался на практике: ИИ-агент одного банка три недели незаметно сливал внутренние цены из-за одного хитрого вопроса. Пока корпоративный ИИ работает поверх неполных данных и без должного контроля, скепсис операторов будет обоснованным — а не просто «страхом перед новым».

Текст написан в информационных целях и не призывает к конкретным инвестиционным решениям.