pymc和贝叶斯模型编程（1）

pymc和贝叶斯模型编程（1）

简介和安装

简介

PyMC是一个 Python 概率编程库，允许用户使用简单的 Python API

构建贝叶斯模型，并使用马尔可夫链蒙特卡罗 (MCMC) 方法对其进行拟合。

PyMC

致力于使贝叶斯建模尽可能简单、轻松，让用户能够专注于他们的问题而不是方法。

具有如下特性：

� 现代：包括最先进的推理算法，包括 MCMC (NUTS) 和变分推理 (ADVI)。

成。

� 以社区为中心：在讨论中提出问题、加入MeetUp

活动、在Twitter上关注我们并开始贡献。

PyMC和PyMC3？

PyMC3已重命名为PyMC，PyMC3 基于Theano计算 ，PyMC基于tensorflow 概率计算。

There have been many questions and uncertainty around the future of PyMC3

since Theano stopped getting developed by the original authors, and we

started experiments with a PyMC version based on tensorflow probability.

自从原作者停止开发 Theano 以来，PyMC3

的未来存在许多问题和不确定性，我们开始使用基于张量流概率的 PyMC 版本进行实验。

官方只给了用conda创建包含pymc的python环境的示例，我尝试在3.9python执行pip命令

，发现也可以成功安装。

pip install pymc

教程

通用API快速入门

PyMC 简介概述 — PyMC 开发文档 --- Introductory Overview of PyMC — PyMC dev

documentation

为了介绍模型定义、拟合和后验分析，我们首先考虑一个参数具有正态分布先验的简单贝

叶斯线性回归模型。我们需要预测 ， 是具有期望的正态分布观测值，其中

是两个预测变量 和 的线性函数。

编程目标：

使用 NumPy 的random模块来模拟该模型中的一些人工数据，然后使用 PyMC

尝试恢复相应的参数。

创建模拟数据

'''

import arviz as az

import matplotlib.pyplot as plt

import numpy as np

import pymc as pm

alpha, sigma = 1, 1

beta = [1, 2.5]

size = 100

X1 = np.random.randn(size)

X2 = np.random.randn(size) * 0.2

axes[1].scatter(X2, Y, alpha=0.6)

axes[0].set_ylabel("Y")

axes[0].set_xlabel("X1")

axes[1].set_xlabel("X2");

模型创建

PyMC 中的模型以Model类为中心。它引用所有随机变量 (RV) 并计算模型 logp

及其梯度。通常，您会将其实例化为with上下文的一部分：

basic_model = pm.Model()

with basic_model:

mu = alpha + beta[0] * X1 + beta[1] * X2

# Likelihood (sampling distribution) of observations

Y_obs = pm.Normal("Y_obs", mu=mu, sigma=sigma, observed=Y)

� 在贝叶斯建模中，未知参数都是随机变量，实例中首先创建了alpha、beta和sigm

a三个随机变量。

我们调用pm.Normal构造函数来创建一个随机变量来用作普通先验。第一个参数始终是随

机变量的名称，它几乎总是与分配给的 Python

变量的名称匹配，因为它有时用于从模型中检索变量以汇总输出。随机对象的其余必需参

数是参数，在本例中mu （均值）和sigma

的，因为它默认值为一。它可以是一个整数来指定一个数组，也可以是一个元组来指定一

个多维数组（

例如

shape=(5,7)生成一个具有 5 x 7 矩阵值的随机变量）。

� 有关分布、采样方法和其他 PyMC 函数的详细说明可在API 文档中找到。

mu是创建的一个确定性随机变量，它的值

完全

由其父级的值决定。也就是说，除了父母

固有的不确定性之外，不存在任何不确定性。这里，

mu只是截距alpha与beta系数和预测变量（无论它们的值是什么）的两个乘积之和。

PyMC

随机变量和数据可以任意加、减、除、乘并索引以创建新的随机变量。这可以实现出色的

模型表现力。还提供了许多常见的数学函数，如sum 、 sin 、

。这会在似然和这两个变量之间创建父子关系。

模型采样

with basic_model:

# draw 1000 posterior samples

idata = pm.sample()

with basic_model:

# instantiate sampler