วิธีการแก้ non-diagonally dominant system ที่มีขนาดใหญ่ และไม่เป็น tridiagonal

การแก้ระบบสมการเชิงเส้นขนาดใหญ่มักทำวิธีตรงอย่าง Gaussian Elimination ไม่ได้ จึงต้องใช้วิธีพวก Jacobi กับ Gauss-Seidel ในการแก้ครับ แต่วันนี้ผมทำสอบย่อยเกี่ยวกับการใช้ Finite Difference Method ในการแก้ PDE และพบว่าระบบไม่ได้เป็น diagonally dominant ผมจึงได้แต่ทำใจแล้วสุ่มค่าเริ่มต้นเพื่อให้ได้คำตอบที่ลู่เข้า (อนุญาตให้ใช้ MS Excel ในห้องสอบได้โปรแกรมเดียวเท่านั้น) แต่วนสุ่มอยู่อย่างนั้นกว่าครึ่งชั่วโมงก็ยังทำไม่ได้จนหมดเวลาแล้วผมก็ยังคำนวณไม่เสร็จ (แต่วิเคราะห์ครบทั้งหมดอย่างสมบูรณ์) มันจึงคาใจผมครับว่าทางที่ stable มีเพียงตั้งเมทริกซ์แล้วหาอินเวอร์สตรง ๆ ใน Excel เพื่อให้ได้คำตอบ หรือไม่ก็ต้องใช้วิธีตระกูล Krylov Subspace Method ที่ไม่มีในหลักสูตรเท่านั้นหรือไม่ (ผมเคยแค่ได้ยินแนวคิดคร่าว ๆ แต่ไม่ทราบว่าต้องตั้งอย่างไร จากการสืบค้นด้วยตนเองในเวลาว่างเมื่อนานมาแล้ว)

ในเมื่อผมย้อนกลับไปแก้อะไรไม่ได้แล้วผมจึงอยากทราบแนวทางครับว่ามีวิธีใดที่แก้ปัญหาเหล่านี้ได้อย่าง stable บ้างครับเผื่อมีโอกาสได้ใช้งานจริง และหากผมจะศึกษาวิธีเหล่านั้น (มีความรู้น้อยมากในสายนี้เพราะเรียนวิศวกรรมเคมี) ผมควรเก็บ Prerequisite อะไรก่อนบ้างครับ เช่น พื้นฐาน Linear Algebra (ผมอ่านเองมาแค่พอรู้จัก Transformation, Column space, Null space, Basis, Diagonalization อะไรพวกนี้นิดหน่อย) วิธีเชิงตัวเลขสำหรับระบบเชิงเส้น (ที่มากกว่า LU Decomposition, Pivoting, Jacobi, Gauss-Seidel, SOR) ส่วนตัวผมพยายามศึกษาวิธีพวก CG กับ GMRES ตั้งแต่เดือนที่แล้วแล้วครับ แต่ผมอ่านแล้วทำความเข้าใจได้น้อยมาก (ได้มาเพียงแค่ GMRES คือการหาคำตอบบน Krylov space ที่ทำให้ residue ต่ำสุด) ไม่แน่ใจว่าผมควรศึกษา Optimization มาก่อนหรือไม่ครับ