Теория коалесценции

Теория коалесценции — это статистическая модель популяционной генетики, описывающая процесс слияния (коалесценции) генеалогических линий генов при движении от современной выборки к общему предку. Теория позволяет реконструировать историю популяций, оценивать время расхождения видов, эффективный размер популяции, интенсивность миграции и другие параметры эволюционного процесса на основе анализа генетических данных.

История развития

Теория коалесценции была разработана в 1980-х годах как альтернатива классическим моделям популяционной генетики, основанным на уравнениях Фишера — Райта. Основополагающие работы принадлежат Джону Кингу (1982) и, независимо, Фумиаки Тадзиме (1983). В 1991 году Ричард Хадсон систематизировал и формализовал подход, предложив алгоритмы для моделирования коалесцентных процессов.

До появления теории коалесценции популяционные генетики использовали «прямые» модели, в которых эволюция популяции прослеживалась от прошлого к настоящему. Теория коалесценции перевернула этот подход: она начинается с анализа современных генетических последовательностей и прослеживает их общую историю назад во времени, что значительно упростило вычисления и позволило работать с большими выборками данных.

Основные принципы

Коалесцентное событие

Центральное понятие теории — коалесценция, то есть слияние двух генеалогических линий в одну в момент их общего предка. В модели рассматривается выборка из n генов (аллелей) из современной популяции. При движении назад во времени линии могут сливаться (коалесцировать) в узлах генеалогического дерева. Время ожидания до следующего коалесцентного события распределено экспоненциально и зависит от эффективного размера популяции (Nₑ) и числа линий, ещё не слившихся.

Эффективный размер популяции

Эффективный размер популяции (Nₑ) — это численность идеальной популяции, которая демонстрирует ту же степень генетического дрейфа, что и реальная популяция. В теории коалесценции Nₑ является ключевым параметром, определяющим скорость слияния линий. Для диплоидного организма с равным числом самцов и самок Nₑ обычно равен числу размножающихся особей, но может быть меньше из-за неравного соотношения полов, колебаний численности или отбора.

Генеалогическое дерево

Результатом коалесцентного процесса является генеалогическое дерево (или сеть) для выборки генов. Дерево состоит из узлов (точки коалесценции) и ветвей (периоды между слияниями). Длина ветвей пропорциональна времени, прошедшему между коалесцентными событиями. Форма дерева отражает демографическую историю популяции: например, быстрое расширение популяции приводит к коротким ветвям вблизи корня, а сокращение — к длинным.

Математическая модель

Вероятность коалесценции

Вероятность того, что две конкретные линии из k существующих сольются за одно поколение, равна 1/(2Nₑ) для диплоидных организмов. Время до коалесценции всех n линий в одну (время до самого последнего общего предка, TMRCA) имеет математическое ожидание:

E(TMRCA) = 4Nₑ × (1 — 1/n)

Для больших выборок (n → ∞) это значение стремится к 4Nₑ поколений. Время измеряется в поколениях; для перевода в годы его умножают на среднюю длину поколения.

Распределение времени

Время между последовательными коалесцентными событиями (когда число линий уменьшается с k до k-1) распределено экспоненциально со средним значением 4Nₑ / (k(k-1)). Это означает, что первые слияния (когда k велико) происходят быстро, а последние (когда k мало) — медленно.

Применение

Оценка эффективного размера популяции

Теория коалесценции позволяет оценить Nₑ по данным о генетическом разнообразии. Для этого используются такие статистики, как число сегрегирующих сайтов (S) и среднее число попарных различий (π). Например, ожидаемое значение π равно 4Nₑμ, где μ — скорость мутаций на поколение.

Реконструкция демографической истории

По форме генеалогического дерева можно сделать выводы о прошлых изменениях численности популяции. Например, «звёздчатая» топология (много коротких ветвей) указывает на недавнее резкое расширение популяции, а «вытянутая» — на длительный период стабильной численности. Методы, основанные на теории коалесценции, применяются для изучения истории человеческих популяций, миграций и смешения.

Филогенетика и систематика

В филогенетике теория коалесценции используется для оценки времени расхождения видов и для построения деревьев, учитывающих неполное сортирование линий (incomplete lineage sorting). Это особенно важно для недавно разошедшихся видов, где генеалогии отдельных генов могут не совпадать с видовым деревом.

Популяционная генетика человека

Теория коалесценции легла в основу многих исследований генетического разнообразия человека. Например, анализ митохондриальной ДНК (мтДНК) и Y-хромосомы позволил оценить время жизни «митохондриальной Евы» и «Y-хромосомного Адама» — последних общих предков всех современных людей по материнской и отцовской линиям. Эти оценки, полученные с помощью коалесцентных моделей, составляют около 150–200 тысяч лет для мтДНК и 100–150 тысяч лет для Y-хромосомы.

Консервационная биология

В природоохранной генетике теория коалесценции применяется для оценки эффективного размера популяции редких и исчезающих видов, что важно для планирования мер по сохранению генетического разнообразия. Например, для амурского тигра (Panthera tigris altaica) с помощью коалесцентных методов был оценён Nₑ в несколько сотен особей, что подтвердило критическое состояние популяции.

Методы и программное обеспечение

Для практического применения теории коалесценции разработаны различные статистические методы и программы:

• Метод максимального правдоподобия — позволяет оценивать параметры (Nₑ, время расхождения) по наблюдаемым данным. Реализован в программах MIGRATE, LAMARC.
• Байесовский подход — использует априорные распределения параметров и методы Монте-Карло по марковским цепям (MCMC). Программы: BEAST, MrBayes, *BEAST.
• Метод приближённого байесовского вычисления (ABC) — применяется для сложных моделей, где невозможно вычислить правдоподобие. Используется в программах DIYABC, msABC.
• Симуляция коалесцентных процессов — программы ms (Hudson, 2002), msprime, fastsimcoal2 позволяют генерировать искусственные выборки для проверки гипотез.

Критика и ограничения

Теория коалесценции основана на ряде упрощающих предположений, которые не всегда выполняются в реальных популяциях:

1. Нейтральность мутаций — классическая модель предполагает, что все мутации нейтральны и не влияют на приспособленность. Однако отбор может искажать генеалогическое дерево, делая его более «вытянутым» (при очищающем отборе) или «звёздчатым» (при положительном отборе).
2. Панмиксия — модель предполагает случайное скрещивание внутри популяции. Структурированность популяции (например, изоляция расстоянием или барьерами) может приводить к завышенным оценкам Nₑ.
3. Постоянство размера популяции — классическая модель предполагает постоянный Nₑ. Для популяций с изменяющейся численностью разработаны расширения (например, модель экспоненциального роста).
4. Рекомбинация — стандартная теория коалесценции не учитывает рекомбинацию, которая может приводить к образованию сетей вместо деревьев. Для рекомбинирующих последовательностей разработаны модели с «коалесценцией с рекомбинацией».

Несмотря на эти ограничения, теория коалесценции остаётся одним из наиболее мощных и широко используемых инструментов популяционной генетики, особенно в эпоху массового секвенирования геномов.

Источники

1. Kingman J.F.C. (1982). The coalescent. Stochastic Processes and their Applications, 13(3): 235–248.
2. Tajima F. (1983). Evolutionary relationship of DNA sequences in finite populations. Genetics, 105(2): 437–460.
3. Hudson R.R. (1991). Gene genealogies and the coalescent process. Oxford Surveys in Evolutionary Biology, 7: 1–44.
4. Hein J., Schierup M.H., Wiuf C. (2005). Gene Genealogies, Variation and Evolution: A Primer in Coalescent Theory. Oxford University Press.
5. Wakeley J. (2009). Coalescent Theory: An Introduction. Roberts & Company Publishers.
6. Drummond A.J., Rambaut A. (2007). BEAST: Bayesian evolutionary analysis by sampling trees. BMC Evolutionary Biology, 7: 214.