Si la matriz de coeficientes tiene alguna propiedad o estructura en especial, en particular si son simétricas, definidas positivas o bandeadas, es posible incrementar el número de ecuaciones a resolver mediante una programación más eficiente que tenga en cuenta estas particularidades de la matriz.
¿En que casos es preferible usar métodos iterativos?
Bueno pues esto, tenemos que tener en cuenta estas proposiciones.
Se se deben resolver varios sistemas de ecuaciones con la misma matriz de coeficientes pero diferentes vectores de términos independientes.
o la matriz de coeficientes es aproximadamente singular.
En la mayoría de los problemas asociados la solución de ecuaciones diferenciales parciales las matrices son bandas y dispersas, esto es, la cantidad de elementos nulos es mucho mayor que la cantidad de elementos no nulos y están ordenados a lo largo de una estrecha banda que rodea a la diagonal principal.
Para este tipo de matrices los métodos de eliminación gaussiana en su versión estándar son ineficientes ya que se efectúan una gran cantidad de operaciones innecesarias. Para prevenir esto , es posible adaptar el método de Gauss a matrices bandeadas y dispersas
En los métodos iterativos, combinados con técnicas eficientes de almacenamiento de matrices dispersas, hay muy pocas operaciones aritméticas asociadas con los coeficientes iguales a cero y por lo tanto se debe almacenar en la memoria de la computadora una cantidad de números considerablemente menor. Como consecuencia de esto, lo métodos iterativos pueden ser usados para resolver sistemas de ecuaciones que son demasiado grandes ara el uso de métodos directos. Además, la programación y el manejo de datos al aplicar métodos iterativos es mucho más simple que cuando aplicamos métodos directos, y fundamentalmente, los métodos iterativos pueden ser aplicados a la resolución de sistemas de ecuaciones no lineales, cosa que no puede realizarse en los métodos directos.
No obstante, el uso eficiente de los métodos iterativos es muy dependiente del calculo directo o estimación del valor de algunos parámetros de aceleración de la convergencia ( ciertos métodos los poseen y otros no) y de que la matriz de coeficientes esté bien condicionada. De no ser así la convergencia será lenta y la cantidad de operaciones aritméticas enorme. Con parámetros de aceleración óptimos la cantidad de cálculos realizados por los métodos iterativos para grandes sistemas de ecuaciones puede ser mucho menor que en los métodos directos.
Los principales métodos empleados para resolver sistemas de ecuaciones lineales son:
| Directos | Iterativos |
| Gauss | Jacobi |
| LU | Gauss-Seidel |
| Cholesky | SOR |
| Thomas | Gradiente Conjugado |