迭代法也称辗转法，是一种不断用变量的旧值递推新值的过程,跟迭代法相对应的是直接法，即一次性解决问题。最常见的迭代法是牛顿法。其他还包括最速下降法、共轭迭代法、变尺度迭代法、最小二乘法、线性规划、非线性规划、单纯型法、惩罚函数法、斜率投影法、遗传算法、模拟退火等等。跟迭代法相对应的是直接法，即一次性的快速解决问题。当遇到复杂问题时，特别是在未知量很多，方程为非线性时，无法找到直接解法，这时候可通过迭代法寻求方程的近似解。