Процесс майнинг что это

Все о Process Mining от ProcessMi

Все о технологии Process Mining — кейсы, термины, решения и аналитика. Российский и зарубежный опыт от группы экспертов ProcessMi

Process mining (PM) — процессная аналитика

Process mining (процессная аналитика) — это технология получения новых знаний на основе информации, извлеченной из данных журналов событий информационных систем; автоматизированная визуализация реально протекающих бизнес-процессов организации на основе логов, полученных из информационных систем; общее название методов и технологий, направленных на анализ и оптимизацию бизнес-процессов на основе данных информационной системы.

История возникновения

Первые работы, где были расписаны шаги построения моделей процессов из протоколов работы при помощи программной инженерии, появились в 1995 году, авторами выступили Александр Вольф и Джонатан Кук. Однако основой современной процессной аналитики считается труд «Process mining: discovery, conformance and enhancement of business processes» Вила ван дер Аальст (Willibrordus Martinus Pancratius van der Aalst), профессора Эйндховенского технического университета (Нидерланды), почетного профессора Высшей школы экономики.

Содержание и принципы работы технологии

В основе технологии лежит принцип: при выполнении того или иного бизнес-процесса в информационной системе остаются некие “хлебные крошки”, следы его исполнения, по которым можно восстановить реальную цепочку действий и событий, что досконально точно и в деталях покажет его фактическую модель выполнения.

Process mining позволяет уйти от метода длительных интервьюирований сотрудников и ручного моделирования, которое может содержать фактические ошибки или неверные трактования на основе некорректных данных. Достаточно выгрузить необходимую информацию из журналов событий, которые выступают агрегатором данных из различных источников. Каждая строка = отдельное событие. Событие содержит в себе информацию об определенном “случае”. Отдельно можно выделить следующие атрибуты подобных событий в журналах:

Вся ненужная информация выводится отдельным атрибутом – other data.

Системы класса Process Mining, анализируя логи, группируют все события по их идентификаторам и времени, создавая модель реально протекающего бизнес-процесса. Визуализация процесса дает возможность увидеть лишние циклы и действия, “временные петли” и потери, переброс задач на разных исполнителей, “форс-мажорные” ситуации, исправление которых отнимает много времени и ресурсов. Процесс в динамике, изменения по его совершенствованию также можно отследить посредством фильтрации временных периодов. К тому же, несмотря на то, что процессная аналитика использует собранные (т.е. уже произошедшие) данные, результаты анализа можно применять к бизнес-процессам, протекающим в организации в данный момент.

Специализированные программные решения позволяют не только увидеть структуру процесса, но и всю “внутреннюю кухню”. Например, действия каждого участника, которые привели к увеличению временных затрат. Это дает возможность провести бенчмаркинг между всеми работниками, задействованными в процессе.

Вся неидеальность организации работы, все неэффективные и попросту ненужные действия, ошибки и задержки при выполнении процесса показаны именно с точки зрения имеющихся фактов. Ошибки или намеренные искажения данных, вызванные человеческим фактором, исключены.

Результаты внедрения

Применение технологии process mining позволяет:

Особенно заметен экономический эффект от внедрения инструментов процессной аналитики в двух случаях:

Источник

Все о Process Mining от ProcessMi

Все о технологии Process Mining — кейсы, термины, решения и аналитика. Российский и зарубежный опыт от группы экспертов ProcessMi

Что такое process mining (процесс майнинг)? Подробное руководство

Обнаружить недостатки в деятельности компании – не самая простая задача, особенно, когда речь идет о крупном предприятии, где работают свыше 500 человек и ежедневно участвуют в выполнении большого количества операций в рамках бизнес-процессов. На эффективность и производительность могут влиять десятки факторов, обнаружить которые без применения технологий не представляется возможным. Применение process mining как инструмент для поиска “узких мест”, ошибок и намеренных нарушений регламента в рамках процесса дает отличные результаты.

Что такое process mining?

Process mining – технология, позволяющая детально понять суть процессов компании. C помощью специализированного ПО, интегрированного в ИТ-системы, process mining отражает, каким образом протекают процессы в действительности. ПО структурирует и визуализирует данные, что дает полное представление о недостатках в процессах. В результате предприятия могут точнее сфокусироваться на совершенствовании своей деятельности, ориентируясь на достоверную информацию.

Как это работает?

Инструменты process mining обнаруживают фактические модели процессов, опираясь на «сырые» данные из журналов событий. Иными словами, технология способна собрать информацию из разных ИС, используемых на предприятии (1С, IP-телефония, кадровые системы), и выстроить точную карту любого процесса.

Как работают инструменты process mining шаг за шагом:

Главные преимущества технологии process mining?

Снижение затрат. Автоматизируя процессы и устраняя ненужные шаги, компании могут снизить затраты. QPR, компания разработчик одноименной системы класса process mining, поделилась информацией: их клиенты Metsä Board снизили количество ошибок в счетах на оплату на 80% после внедрения технологии process mining.

Улучшение качества обслуживания клиентов. Благодаря выявлению “узких мест”, направлений совершенствования и оптимизации различных процессов, общее время производственного цикла сокращается. Это позволяет ускорить обслуживание клиентов и улучшить качество оказания услуг в целом. В результате растет удовлетворенность клиентов, а это положительно скажется на доходах и потребительской лояльности.

Преимущества соответствий требованиям. Хотя аудит – это трудоемкий и длительный процесс, быстрый анализ с помощью инструментов process mining может сократить его. Кроме того, PM может обнаруживать несоответствующие требованиям процессы и уведомлять компании о таких вопросах в режиме реального времени.

Каким образом process mining способствует автоматизации и RPA?

Process mining обеспечивает наглядное, основанное на данных представление процессов. Это позволяет компаниям:

Команды, ответственные за RPA, как и любая инициативная группа по автоматизации, должны четко понимать суть автоматизируемого процесса. Обычно это достигается путем наблюдения за работой сотрудников и проведения опросов. Но эти методы дают лишь поверхностное представление и отнимают много времени как у специалистов в области автоматизации, так и у сотрудников. Кроме того, при опросе сотрудники не могут вспомнить все до мельчайших подробностей. Программное обеспечение для интеллектуального анализа предоставляет детальный обзор всех этапов процесса и позволяет предпринимать необходимые шаги на основе полученных данных. После завершения автоматизации инструменты process mining могут осуществлять мониторинг производительности, чтобы оценить степень улучшений и обеспечить корректную работу автоматизированного процесса. QPR заявляет, что process mining может повысить темпы автоматизации процессов на 50%.

На что следует обратить внимание при выборе поставщика технологии process mining?

На сегодняшний день инструменты process mining могут работать с различными системами (ERP-системы, CRM-приложения и т.д.) и могут быть интегрированы в любую существующую ИТ-инфраструктуру. При выборе поставщика учитывайте следующие возможности:

Ниже представлены компании разработчики систем класса process mining:

Сейчас, когда мировая экономика переживает непростые времена из-за пандемии коронавируса, компании более активно включились в процесс цифровой трансформации для того, чтобы отстоять свои позиции на рынке. Process mining, по мнению экспертов, станет более востребован в вопросах оптимизации бизнес-процессов для организаций разных форм собственности и сфер экономической деятельности.

Источник

Process Mining: знакомство

В этой статье я постараюсь приоткрыть завесу над интересной технологией из области управления бизнес-процессами ( BPM). Интеллектуальный анализ процессов ( Process Mining) фокусируется на обнаружении, анализе и оптимизации бизнес-процессов на основе данных из журналов событий (англ. event logs), представляя недостающее звено между классическим анализом бизнес-процессов с использованием их моделей и интеллектуальным анализом данных ( Data Mining).

Рисунок 1. Позиционирование Process Mining.

Далее мы разовьем тему позиционирования, коснемся вариантов использования, поговорим об исходных данных и рассмотрим различные типы интеллектуального анализа процессов.

Позиционирование

Интеллектуальный анализ процессов использует данные для анализа бизнес-процессов, пренебрегая анализом самих данных. Другими словами, Process Mining, в отличие от Data Mining, не интересуется низкоуровневыми закономерностями в исходных данных и не пытается принимать решения на их основе, но ставит задачей оптимизацию бизнес-процессов (в особенности сквозных), вытекающих из исходных данных.

Варианты использования

В таблице ниже указаны некоторые варианты использования интеллектуального анализа процессов, а также связанные с ними вопросы, разбитые по вышеуказанным группам.

Исходные данные

Часто отправной точкой для интеллектуального анализа процессов являются данные из журналов событий. Рассмотрим подходящий нам журнал. Каждая строка в таком журнале соответствует отдельному событию. В свою очередь, каждое событие несет в себе информацию о породившем его случае, выполненной в его рамках деятельности и времени его регистрации. Подобные журналы событий можно рассматривать как совокупности случаев, а отдельные случаи — как последовательности ссылающихся на них событий.

Конечно, выбор указанных выше атрибутов зависит от целей анализа. Например (смотрим на рисунок 2), если нас интересует процесс, описывающий порядок получения пациентами надлежащего лечения, то в качестве идентификаторов случаев используем пациентов (столбец patient), деятельностями называем получаемые пациентами процедуры (столбец activity), а ресурсами обозначаем выполняющих данные процедуры врачей (столбец doctor). Если же нам интересен другой процесс, описывающий порядок выполнения врачами процедур, то идентификаторами событий будут сами врачи (столбец doctor), деятельностями — выполняемые данными врачами процедуры (столбец activity), а ресурсами — внимание, также станут врачи (столбец doctor).

Типы Process Mining

Интеллектуальный анализ процессов фокусируется на отношениях между моделями бизнес-процессов и данными о событиях. Выделяют три типа подобных отношений, которые и определяют типы анализа.

Play-Out

Начинаем с готовой модели процесса. Далее симулируем различные сценарии выполнения процесса (согласно модели) для наполнения журнала событий данными о регистрируемых при симуляции событиях.

Рисунок 3. Пример Play-Out.

На рисунке 3 показан пример симуляции по готовой модели рабочего процесса (англ. workflow). Модель процесса выполнена с использованием упрощенной нотации BPMN. Красным показаны шаги на одном из возможных путей выполнения процесса, а журнал внизу наполнен данными о событиях в порядке их регистрации при прохождении данного пути.

Play-Out применяется для проверки разработанных моделей процессов на соответствие ожидаемым данным (последовательностям событий) от их выполнения.

Play-In

Начинаем с готовых данных в журнале событий. Далее получаем модель процесса, обеспечивающего выполнение представленных в журнале последовательностей событий (обучаем модель процесса на основе данных).

Рисунок 4. Пример Play-In.

На рисунке 4 показан пример получения модели процесса по готовым последовательностям событий (указаны красным). Если приглядеться, то можно заметить, что все последовательности событий на рисунке начинаются с шага a и заканчиваются шагом g или h. Результирующая модель процесса в точности соответствует подмеченным особенностям, что иллюстрирует основной принцип ее вывода из данных.

Play-In полезен при необходимости формального описания процессов, генерирующих известные данные.

Replay

Одновременно используем модель процесса (возможно, полученную при помощи Play-In) и данные в журнале событий (возможно, полученные при помощи Play-Out) для воспроизведения реальных последовательностей событий согласно модели.

Рисунок 5. Пример Replay.

На рисунке 5 представлен пример попытки воспроизведения имеющейся последовательности событий согласно готовой модели процесса. Попытка закончилась неудачей по причине того, что модель требует прохождения шага d прежде, чем будет открыт переход к шагу e (подробнее разобраться с причинами неудачи поможет изучение шлюзов (англ. gateways) нотации BPMN).

Replay позволяет находить отклонения моделей от реальных процессов, но также может использоваться и для анализа производительности процессов — стоит при воспроизведении начать отмечать время регистрации событий, как станут видны места задержек и скоростные участки на путях выполнения процессов.

Дополнительно

Для тех, кто желает самостоятельно попробовать применить полученные знания на практике, спешу сообщить об инструменте, который позволит воплотить ваши смелые начинания в жизнь. ProM — это свободный фреймворк, включающий все необходимое для выполнения интеллектуального анализа процессов. Стабильная версия ProM доступна для скачивания под Windows и под другие ОС. Общая информация (включая примеры исходных данных, руководства и упражнения) расположена на сайте ProM Tools.

Заключение

Существующий разрыв между анализом моделей бизнес-процессов и данных затрудняет поиск решений множества интересных и сложных задач современного мира, где значение данных давно сравнивается со значением нефти (см. Data is the new oil). Process Mining призван ликвидировать данный разрыв, поднимая анализ бизнес-процессов на новый уровень.

Благодарю за внимание и категорически рекомендую продолжить изучение темы самостоятельно! Отличным началом станет вышеупомянутый онлайн курс Process Mining: Data Science in Action.

Источник

Process Mining как эволюция «научного управления» — и наша открытая библиотека для анализа

Process Mining – это мост между Data Mining и Process Management. Это подход к извлечению, анализу и оптимизации процессов на основе данных из журналов событий (event logs), доступных в информационных системах. Мы разработали и открыли библиотеку, позволяющую быстро и достаточно просто обрабатывать данные информационных систем производства, чтобы находить узкие места и точки неэффективности.

Первой научной теорией, целью которой был анализ и оптимизация рабочих процессов, является «Научное управление». На рубеже XIX – XX веков усилиями американского исследователя Фредерика Тейлора и его единомышленников была создана теория классического менеджмента. Она основывается на положении, что существует «наилучший способ» выполнения каждой конкретной работы, и проблема низкой производительности может быть решена путем использования метода, названного «научным хронометрированием». Суть метода заключается в разделении работы на последовательность элементарных операций, которые хронометрируются и фиксируются при участии рабочих. В итоге это позволяет получить точную информацию о необходимых затратах времени на выполнение той или иной работы.

Таким образом, более 120 лет назад таким простым шагом был дан старт научному подходу к исследованию процессов. С развитием общества и технологий эволюционируют и совершенствуются подходы к анализу и оптимизации процессов: происходит переход к «Массовому производству», в основе которого лежит специализация с возможностями оптимизации сборки, компьютеризации и анализа статистки.

Современный Process Mining — это эволюция этого подхода с учётом больших данных.

Эволюция

В конце 80-х всем известный Таичи Оно совершил прорыв, разработав и внедрив в Toyota подход, именуемый «Бережливое производство». В основе подхода лежит постоянная работа со всеми типами потерь, которые возникают в процессе. Устранение потерь априори увеличивает эффективность.

Следующим качественным шагом в области оптимизации процессов является разработка и внедрение инструмента «цикл DMAIC», и использование статистических методов управления процессами Six sigma, которые также не нуждаются в представлении. Ключевыми характеристиками этапа являются – ввод КПЭ и работа с отклонениями, фокус на клиента и обеспечение непрерывного улучшения процессов.

Эти подходы, которые хорошо работали еще 5-10 лет назад и опирались на такие «ручные» инструменты как гемба, хронометраж, опросы клиентов и экспертов, дизайн-сессии, сейчас, в эпоху постоянного усложнения и ускорения процессов, не дают полной картины.

Сегодня повсеместное развитие цифровых технологий, роботизация и автоматизация, интернет вещей, глобальные сети и массовая цифровизация дает основу для качественно нового этапа исследования и оптимизации процессов, реализации возможностей ML и AI.
Таким инструментом AI-трансформации является Process Mining.

Для чего именно нужен такой подход?

Изобретенная профессором Вилом ван дер Аалстом в начале прошлого десятилетия, технология Process Mining стала быстро набирать популярность как в научной, так и в корпоративной среде. Сегодня в условиях роста объема информации и скорости изменений в бизнесе она приходит на смену классическим методам описания и ручного моделирования процессов.

Восстанавливая схемы бизнес-процессов в том виде, как они протекают на самом деле, Process Mining позволяет получить инсайты – объективные знания, необходимые для устранения узких мест (bottlenecks), оптимизации несовершенств и улучшения эффективности деятельности организации. Тем самым, применяя инструментарий Process Mining, компания решает и вопросы соответствия, и вопросы производительности процессов.

Визуализация инсайтов (узкие горлышки, возвраты, зацикленности, большая вариативность) на графе процесса:

Одним из основных драйверов современного бизнеса является цифровая трансформация. Ее пререквизитами, или обязательными условиями, традиционно считаются прозрачность и открытость, достичь которых помогает непосредственно Process Mining. По сути, он делает «рентген» протекающих в компании процессов, предоставляя исчерпывающую, а главное достоверную картину всей цепочки событий, а не отдельных шагов, тем самым устраняя барьеры между различными департаментами и отделами. Полученная оценка текущей операционной эффективности компании является объективной, и потому может быть использована для выявления возможностей оптимизации, отслеживания изменений и быстрого реагирования. Process Mining, стирая организационные границы, позволяет получить инсайты для любого уровня детализации. Ценность этих инсайтов заключается в том, что они дают компании основание и направление для дальнейших действий по совершенствованию и цифровизации процессов во всех подразделениях.

Таким образом, Process Mining дает руководителям-владельцам процессов полную аналитику, чтобы на объективных данных принимать управленческие решения по улучшению процесса.

Как проходит внедрение

Основу для применения Process Mining формируют данные журналов событий (event logs). Информационные системы автоматически регистрируют все действия (activities), выполненные в ходе одного процесса. В дополнение к деятельности, журналы событий содержат временные метки (timestamps) начала и конца, уникальный идентификационный номер (case ID) и прочие атрибуты события: исполнители операций, текст переписки, решение по сделке, территориальные признаки и так далее.

Лог-файлы, обеспечивая достоверную и детализированную информацию о ходе исполнения бизнес-процесса, делают его более прозрачным. С помощью этой информации можно визуализировать и проанализировать модель реального, а не предполагаемого процесса. Это важно, потому что именно этот разрыв делает Process Mining очень эффективным для крупных компаний. Однако, он не ограничивается восстановлением моделей бизнес-процессов из лог-файлов. Сопоставляя данные журналов и схемы процессов, Process Mining позволяет выявить отклонения и узкие места в процессе, изучить длительность выполнения каждой его стадии, обнаружить лишние или пропущенные этапы, а также определить потенциальные способы оптимизации и, следовательно, повышения эффективности.

Одна из ключевых задач — извлечение инсайтов из имеющихся в корпоративных ИТ-системах данных. Имея цифровую информацию обо всех действиях, выполненных в рамках процесса, с помощью технологии Process Mining компания способна воспроизвести фактически исполняемый бизнес-процесс. А построение его визуальной схемы позволяет не только получить полное представление о цепочке событий, но и исследовать актуальное состояние процесса на любом уровне детализации. Анализируя модель реконструированного процесса вместе с данными о длительности и особенностях его исполнения, можно выявить задержки по времени реализации отдельных действий, взаимосвязи между пользователями, зацикленности в процессе, неэффективных исполнителей, а также скрытые недостатки и проблемы в процессах, из-за которых может существенно снижаться производительность целой организации. Помимо этого, Process Mining позволяет увидеть процесс в динамике, а это означает возможность отследить изменения, происходящие в результате введения тех или иных мер по усовершенствованию. Итак, Process Mining играет ключевую роль в обеспечении ценной и объективной информацией, необходимой для повышения эффективности решений по оптимизации бизнес-процессов. Основными преимуществами процессной ориентации анализа являются следующие:

Безусловно, Process Mining представляет большую ценность для владельцев бизнес-процессов, поскольку выявляет нежелательные изменения и отклонения, узкие места и другие риски в процессе, показывая тем самым, где именно в системе имеются проблемы и уязвимости и как они влияют на общую производительность. Однако гораздо интереснее вопрос «Почему?» – в чем причина этих проблем и отклонений? Ответить на этот вопрос может помочь машинное обучение.

Что сделал Сбер?

Для реализации интеллектуального анализа процессов команда R&D Process Mining Сбера разработала специальную библиотеку.

Python-библиотека включает все необходимые методы для анализа и теперь они легко доступны для экспериментов. Первая версия Open Source-решения включает функции, которые позволяют:

Тепловая карта пропускной способности процесса:

График зависимости переменных:

Автоматический поиск инсайтов:

Алгоритмы машинного обучения используются в библиотеке для реализации автоматического анализа первопричин (Root Cause Analysis), в результате которого выявляются критические слабости процесса и определяются отправные точки для его оптимизации. Кроме того, Root Cause Analysis позволяет установить наиболее вероятные факторы влияния и причины проблем, то есть помогает ответить на вопросы, когда и почему возникли отклонения в процессе.

Таким образом, Process Mining – это, прежде всего, визуализация и анализ бизнес-процессов. На основе логов, хранящихся в информационных системах, можно восстановить фактическую (визуальную) схему исполнения процесса в том виде, как он проходит на самом деле. Машинное обучение, в свою очередь, позволяет определить root causes и тем самым понять, почему процесс протекает именно таким образом.

Как мы применяем Process Mining сами

У нас больше 12 тысяч офисов по России, дочерние организации и банки за пределами РФ, компании экосистемы. Process Mining позволяет «дотянуться» до процессов в территориальных банках, до коллег из Sberbank International: уже есть опыт, мы посмотрели процессы Казахстана, Беларуси; до наших дочерних обществ: СберЛизинг, СберФакторинг и др.

Использование технологии мы начинали в 2019 году. Первым и очень результативным end-2-end исследованием был анализ процесса кредитования. Кредитование — это огромный кросс-функциональный процесс, в котором на тот момент было задействовано несколько тысяч сотрудников и несколько автоматизированных систем.

Мы собрали и склеили event-log’и из нескольких систем, благодаря чему получили детальные сведения о длительности процесса на каждом этапе, реконструировали реальные варианты путей процесса, сравнили с нормативными. Процесс оказался перегружен разнообразием путей и вариаций прохождения отдельных этапов, петлями, возвратами с этапа на этап, а это все потери времени и в конечном счете денег. Нашли неэффективности, зацикливания, пинг-понг между исполнителями и возвраты заявок. Построили тепловую карту производительности по территориям, которая показала различия в организации процесса и скорости принятия решения по заявке.

Ценным источником информации стали комментарии исполнителей. ML-модуль по анализу текстов позволил автоматически, без обучающей выборки, кластеризовать тексты переписки и получить ТОП причин, почему заявка возвращается на предыдущие этапы, почему процесс протекает медленно.

Все это дало нам ответы, где нужно «полечить» процесс.

Process Mining эффективен на любых процессах, которые оставляют цифровой след: будь то бизнес-процесс «выдача кредита» или внутренний, обеспечивающий «согласование хозяйственного договора».

Большое распространение в Сбере технология приобрела в цифровом аудите. Для внутреннего аудита анализ процессов – это предметная область. Process Mining позволяет получать совершенно другого рода качественные результаты, поскольку:

Источник