半导体器件模拟中求解线性系统的预条件处理方法 (2001年)

对半导体器件模拟中求解线性方程组的预条件处理方法，即不完全LU分解方法进行了研究。首先介绍了ILU分解的理论基础，说明了采用预条件处理方法对解决线性方程组迭代求解收敛的重要性。然后介绍了由ILU方法发展而来的ILUV方法，并在对ILU和ILUV方法的理论研究和算法分析的基础上，提出了兼容以上2种方法优点的ILUVP方法，解决了ILUV方法中参数ψ的选取无法兼顾计算量和收敛速度不同要求的难题。最后通过对一个存在陡峭层分布的漂移扩散方程进行求解的实例，验证了算法的可行性和有效性。