Do-исчисление¶

Do-исчисление (англ. do-calculus) — это формальный математический аппарат для вывода причинно-следственных связей из наблюдательных данных и вмешательств, разработанный в рамках структурного подхода к причинности (каузальному моделированию). Do-исчисление позволяет преобразовывать выражения, содержащие оператор вмешательства do (обозначающий активное воздействие на переменную), в выражения, зависящие только от наблюдаемых вероятностей, что даёт возможность оценивать эффекты вмешательств (например, лечения или политики) без проведения рандомизированных контролируемых испытаний. Метод был предложен в 1995 году израильско-американским учёным Джудеей Перлом и его коллегами в рамках развития байесовских сетей и причинно-следственных графов.

¶История

Do-исчисление возникло как развитие идей причинно-следственного вывода, которые Джудея Перл начал разрабатывать в 1980-х годах. В 1995 году в статье «Causal diagrams for empirical research» Перл впервые формально описал три правила do-исчисления, позволяющие манипулировать выражениями с оператором do. В 2000 году вышла монография Перла «Causality: Models, Reasoning, and Inference», где do-исчисление было представлено как центральный инструмент для оценки причинных эффектов. В 2009 году Перл и его ученик Элиас Барейнбойм доказали полноту do-исчисления — то есть, что если эффект вмешательства идентифицируем (вычислим из наблюдаемых данных), то он может быть получен с помощью последовательного применения трёх правил.

В 2010-х годах do-исчисление стало активно применяться в эпидемиологии, экономике, социологии, машинном обучении и искусственном интеллекте. В 2020-х годах появились программные реализации do-исчисления (например, библиотека dowhy для Python), автоматизирующие процесс идентификации причинных эффектов.

¶Основные понятия

¶Причинно-следственный граф

Do-исчисление оперирует на направленных ациклических графах (DAG), где вершины — переменные, а направленные рёбра — прямые причинные связи. Каждая переменная может быть трёх типов:

Наблюдаемые — данные, доступные в выборке.
Латентные (скрытые) — ненаблюдаемые факторы, влияющие на несколько переменных.
Вмешательства — переменные, на которые оказывается внешнее воздействие.

¶Оператор do

Оператор do(X = x) обозначает активное вмешательство, которое принудительно устанавливает значение переменной X равным x, разрывая все причинные связи, ведущие в X. В отличие от обычного условия (P(Y | X = x)), которое отражает корреляцию, оператор do даёт причинную интерпретацию: P(Y | do(X = x)) — это распределение Y при условии, что X было принудительно установлено.

¶Идентифицируемость

Причинный эффект P(Y | do(X = x)) называется идентифицируемым, если его можно выразить в терминах наблюдаемых вероятностей (без проведения вмешательства). Do-исчисление даёт критерии идентифицируемости и алгоритмы для её проверки.

¶Три правила do-исчисления

Do-исчисление состоит из трёх правил, которые позволяют преобразовывать выражения с оператором do в выражения без него или с меньшим числом вмешательств. Правила основаны на свойствах причинно-следственных графов и d-разделения (критерия условной независимости).

¶Правило 1: Вставка/удаление наблюдений

Если в графе G после удаления рёбер, исходящих из X, переменная Y не зависит от Z при условии W и X, то: P(Y | do(X = x), Z, W) = P(Y | do(X = x), W)

Это правило позволяет удалять из условия переменные Z, которые не влияют на Y при данном вмешательстве.

¶Правило 2: Замена действия наблюдением

Если в графе G после удаления рёбер, входящих в X, переменная Y не зависит от X при условии W, то: P(Y | do(X = x), W) = P(Y | X = x, W)

Это правило позволяет заменить оператор do на обычное условие, если X не имеет обратных связей с Y через скрытые факторы.

¶Правило 3: Вставка/удаление действия

Если в графе G после удаления рёбер, исходящих из X, и рёбер, входящих в Z, переменная Y не зависит от Z при условии W и X, то: P(Y | do(X = x), do(Z = z), W) = P(Y | do(X = x), W)

Это правило позволяет удалять вмешательство на Z, если оно не влияет на Y при данном X.

¶Применение

¶Эпидемиология и медицина

Do-исчисление используется для оценки эффективности лечения по наблюдательным данным (например, по электронным медицинским картам). Позволяет скорректировать смещение из-за неучтённых факторов (конфаундеров) и оценить причинный эффект препарата без проведения рандомизированного испытания.

Применяется для оценки влияния государственных политик (например, повышения минимальной зарплаты на занятость) на основе панельных данных. Do-исчисление позволяет выделить причинный эффект из корреляций, наблюдаемых в неэкспериментальных данных.

¶Машинное обучение и искусственный интеллект

В машинном обучении do-исчисление используется для построения причинно-следственных моделей, которые могут обобщать знания на новые ситуации (например, в обучении с подкреплением или в системах рекомендаций). Библиотека dowhy (разработана в Microsoft Research) автоматизирует применение do-исчисления для задач причинного вывода.

¶Пример: эффект курения на рак лёгких

Рассмотрим классический пример: переменные — курение (X), рак лёгких (Y) и генетическая предрасположенность (U, скрытая). Граф: U → X, U → Y, X → Y. Наблюдаемые данные: P(Y | X = курит) = 0.2, P(Y | X = не курит) = 0.05. Однако из-за скрытого фактора U корреляция может быть смещённой. Do-исчисление позволяет вычислить P(Y | do(X = курит)) = 0.18, что ближе к истинному причинному эффекту.

¶Критика и ограничения

Do-исчисление предполагает, что причинно-следственный граф известен и корректен. На практике построение точного графа требует экспертных знаний и может быть субъективным. При наличии циклов (обратных связей) или неациклических зависимостей do-исчисление неприменимо. Кроме того, идентифицируемость не гарантирует состоятельности оценок при малых выборках или сильном смещении.

Некоторые исследователи (например, Джеймс Робинс) критикуют do-исчисление за то, что оно не даёт методов для оценки неопределённости (доверительных интервалов) и требует строгих предположений о графе, которые редко выполняются в реальных данных.

¶Интересные факты

Джудея Перл получил премию Тьюринга в 2011 году, в том числе за вклад в причинно-следственный вывод, частью которого является do-исчисление.
Do-исчисление может быть полностью автоматизировано: существуют алгоритмы, которые за полиномиальное время проверяют идентифицируемость и выводят формулу для причинного эффекта.
В 2022 году группа исследователей из MIT показала, что do-исчисление можно обобщить на случай частично наблюдаемых графов с использованием методов машинного обучения.