Kwangmin Kim - Ch.2 §2.1 — Vectors and Linear Equations

1 왜 §2.1인가 — 선형대수의 중심 문제

선형대수의 핵심 문제는 연립 선형방정식(System of Linear Equations) \(Ax = b\) 를 푸는 것이다. 이 절은 같은 연립방정식을 세 가지 완전히 다른 시각으로 바라보는 법을 가르친다.

노트

핵심 주제: 선형 연립방정식의 세 가지 시각

\(n\) 개의 방정식, \(n\) 개의 미지수로 이루어진 시스템 \(Ax = b\) 를 읽는 방법은 세 가지이다.

행 그림 (Row Picture): 각 방정식 = 직선 or 평면 or 초평면. 해 = 이들의 교점
열 그림 (Column Picture): 해 = 열벡터의 선형 결합의 계수
행렬 형태 (Matrix Form): \(Ax = b\), \(Ax\) 는 내적(행) 또는 선형 결합(열)으로 계산

세 시각은 같은 수를 다른 방식으로 보는 것이다. 어떤 시각을 쓰느냐에 따라 풀기 쉬운 문제가 달라진다.

2 행 그림 (Row Picture)

2.1 2변수: 두 직선의 교점

가장 단순한 2×2 시스템에서 출발한다.

\[ \begin{cases} x - 2y = 1 \\ 3x + 2y = 11 \end{cases} \]

각 방정식은 \(xy\)-평면에서 하나의 직선을 정의한다.

첫 번째 직선 \(x - 2y = 1\): 점 \((1, 0)\) 과 \((3, 1)\) 을 지난다.
두 번째 직선 \(3x + 2y = 11\): 점 \((3, 1)\) 을 지난다.

두 직선이 만나는 교점 \((3, 1)\) 이 바로 해이다. 두 방정식을 동시에 만족하는 유일한 점이다.

\[ \text{검증: } x = 3,\, y = 1 \implies \begin{cases} 3 - 2(1) = 1 & \checkmark \\ 3(3) + 2(1) = 11 & \checkmark \end{cases} \]

2.2 3변수: 세 평면의 교점

3×3 시스템에서는 각 방정식이 3차원 공간의 평면을 정의한다.

\[ \begin{cases} x + 2y + 3z = 6 \\ 2x + 5y + 2z = 4 \\ 6x - 3y + z = 2 \end{cases} \]

두 평면이 만나면 직선 \(L\)이 생긴다.
세 번째 평면이 그 직선 \(L\) 을 하나의 점에서 자른다.
그 점이 해 \((x, y, z)\) 이다.

행 그림의 해 = 세 평면의 교점. 이 시스템의 해는 \((0, 0, 2)\) 이다.

\[ \text{검증: } x = 0,\, y = 0,\, z = 2 \implies \begin{cases} 0 + 0 + 3(2) = 6 & \checkmark \\ 0 + 0 + 2(2) = 4 & \checkmark \\ 0 - 0 + 2 = 2 & \checkmark \end{cases} \]

2.3 고차원에서 행 그림의 한계

\(n\) 변수 시스템에서 각 방정식은 \(n\) 차원 공간의 초평면(Hyperplane)을 정의한다. 4차원, 10차원의 초평면들이 어떻게 교차하는지 상상하기는 극히 어렵다.

경고

행 그림의 한계

고차원에서 행 그림은 직관력을 잃는다. 4개의 초평면이 한 점에서 만나는 장면을 시각화하기란 거의 불가능하다. 이때 열 그림이 빛을 발한다.

3 열 그림 (Column Picture)

3.1 핵심 아이디어: 선형 결합

열 그림은 방정식 시스템을 열벡터의 선형 결합(Linear Combination)으로 읽는다. 미지수 \(x, y, z\) 는 각 열벡터에 곱하는 계수가 된다.

\[ x \underbrace{\begin{bmatrix} 1 \\ 3 \end{bmatrix}}_{\text{col 1}} + y \underbrace{\begin{bmatrix} -2 \\ 2 \end{bmatrix}}_{\text{col 2}} = \underbrace{\begin{bmatrix} 1 \\ 11 \end{bmatrix}}_{b} \]

질문: 열 1과 열 2를 어떤 비율로 결합하면 \(b\) 가 되는가?

답: \(x = 3,\, y = 1\)

\[ 3 \begin{bmatrix} 1 \\ 3 \end{bmatrix} + 1 \begin{bmatrix} -2 \\ 2 \end{bmatrix} = \begin{bmatrix} 3 \\ 9 \end{bmatrix} + \begin{bmatrix} -2 \\ 2 \end{bmatrix} = \begin{bmatrix} 1 \\ 11 \end{bmatrix} = b \]

열 그림에서 해를 구하는 것 = 우변 \(b\) 를 만드는 열벡터들의 결합 계수를 찾는 것이다.

3.2 3변수 예시

\[ x \begin{bmatrix} 1 \\ 2 \\ 6 \end{bmatrix} + y \begin{bmatrix} 2 \\ 5 \\ -3 \end{bmatrix} + z \begin{bmatrix} 3 \\ 2 \\ 1 \end{bmatrix} = \begin{bmatrix} 6 \\ 4 \\ 2 \end{bmatrix} \]

열 그림의 강점: \(b = (6, 4, 2)^\top\) 가 세 번째 열 \((3, 2, 1)^\top\) 의 정확히 2배임을 직관적으로 파악할 수 있다.

\[ x = 0,\, y = 0,\, z = 2 \implies 2 \begin{bmatrix} 3 \\ 2 \\ 1 \end{bmatrix} = \begin{bmatrix} 6 \\ 4 \\ 2 \end{bmatrix} = b \]

소거법 없이 열 그림만으로 해를 읽어낸 것이다.

3.3 왜 열 그림이 더 강력한가

힌트

Strang의 관점: 열 그림을 선호하는 이유

행 그림은 \(n\) 이 커질수록 상상하기 어렵다. 반면 열 그림은 항상 동일한 질문 — “이 벡터들의 어떤 선형 결합이 \(b\) 를 만드는가?” — 으로 환원된다.

이 관점이 Ch.3의 핵심 개념인 열 공간(Column Space)으로 자연스럽게 이어진다: - \(A\) 의 모든 열의 선형 결합 전체 = \(A\) 의 열 공간 \(\mathcal{C}(A)\) - \(Ax = b\) 가 해를 가짐 \(\iff\) \(b \in \mathcal{C}(A)\)

4 행렬 형태 (Matrix Form: \(Ax = b\))

4.1 계수 행렬 \(A\)

\(n\) 개의 방정식, \(n\) 개의 미지수의 계수를 \(n \times n\) 행렬 \(A\) 에 담는다.

\[ \begin{cases} x + 2y + 3z = 6 \\ 2x + 5y + 2z = 4 \\ 6x - 3y + z = 2 \end{cases} \implies A = \begin{bmatrix} 1 & 2 & 3 \\ 2 & 5 & 2 \\ 6 & -3 & 1 \end{bmatrix},\quad x = \begin{bmatrix} x \\ y \\ z \end{bmatrix},\quad b = \begin{bmatrix} 6 \\ 4 \\ 2 \end{bmatrix} \]

행렬 방정식 \(Ax = b\) 는 이 시스템을 하나의 식으로 압축한다.

4.2 \(Ax\) 계산법: 행 방법 vs 열 방법

같은 \(Ax\) 를 계산하는 두 가지 방법이 있다. 결과는 동일하다.

행 방법 (Row Method): \(Ax\) 의 \(i\) 번째 성분 = \(A\) 의 \(i\) 번째 행과 \(x\) 의 내적

\[ Ax = \begin{bmatrix} (\text{row 1}) \cdot x \\ (\text{row 2}) \cdot x \\ (\text{row 3}) \cdot x \end{bmatrix} = \begin{bmatrix} a_{11}x_1 + a_{12}x_2 + a_{13}x_3 \\ a_{21}x_1 + a_{22}x_2 + a_{23}x_3 \\ a_{31}x_1 + a_{32}x_2 + a_{33}x_3 \end{bmatrix} \]

\(x = (0, 0, 2)^\top\) 을 대입하면:

\[ \begin{bmatrix} 1(0) + 2(0) + 3(2) \\ 2(0) + 5(0) + 2(2) \\ 6(0) + (-3)(0) + 1(2) \end{bmatrix} = \begin{bmatrix} 6 \\ 4 \\ 2 \end{bmatrix} = b \]

열 방법 (Column Method): \(Ax = x_1(\text{col 1}) + x_2(\text{col 2}) + x_3(\text{col 3})\)

\[ Ax = x_1 \begin{bmatrix} 1 \\ 2 \\ 6 \end{bmatrix} + x_2 \begin{bmatrix} 2 \\ 5 \\ -3 \end{bmatrix} + x_3 \begin{bmatrix} 3 \\ 2 \\ 1 \end{bmatrix} \]

\(x = (0, 0, 2)^\top\) 을 대입하면:

\[ 0 \begin{bmatrix} 1 \\ 2 \\ 6 \end{bmatrix} + 0 \begin{bmatrix} 2 \\ 5 \\ -3 \end{bmatrix} + 2 \begin{bmatrix} 3 \\ 2 \\ 1 \end{bmatrix} = \begin{bmatrix} 6 \\ 4 \\ 2 \end{bmatrix} = b \]

노트

핵심 대조

방법	수식	시각
행 방법	\((Ax)_i = \sum_j a_{ij} x_j\)	각 방정식을 독립적으로 계산
열 방법	\(Ax = \sum_j x_j (\text{col}_j)\)	전체 벡터를 열들의 결합으로 구성

Strang은 열 방법을 강조한다. \(A\) 의 열들이 어떤 공간을 만드는지 이해하는 것이 Ch.3의 핵심이기 때문이다.

4.3 행렬 표기법 (Matrix Notation)

\(m \times n\) 행렬 \(A\) 에서:

\(a_{ij}\) 또는 \(A(i, j)\): \(i\) 번째 행, \(j\) 번째 열의 원소
행 인덱스 \(i\): \(1\) 부터 \(m\) 까지
열 인덱스 \(j\): \(1\) 부터 \(n\) 까지
원소 개수: \(mn\) 개

\[ A = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} \]

5 해의 존재성 — 세 가지 시나리오

5.1 시나리오 1: 유일한 해 (Unique Solution)

\(n\) 개의 평면이 정확히 한 점에서 만난다. \(A\) 가 가역 행렬(Invertible Matrix)일 때 발생한다.

\[ Ax = b \implies x = A^{-1} b \]

위의 예시들이 모두 이 경우에 해당한다.

5.2 시나리오 2: 해 없음 (No Solution)

\(n\) 개의 평면 중 일부가 평행하거나, 세 평면이 공통 교점 없이 만나는 경우이다. 열 그림으로 설명하면: \(b\) 가 \(A\) 의 열 공간 \(\mathcal{C}(A)\) 밖에 있는 경우이다.

예시 (3×3, 해 없음):

\[ \begin{cases} x + 3y + 5z = 4 \\ x + 2y - 3z = 5 \\ 2x + 5y + 2z = 8 \end{cases} \]

세 방정식에 각각 \(1, 1, -1\) 을 곱하고 더하면:

\[ (1-1-2\cdot1)x + (1-1-1\cdot1)y + (1-1-1\cdot1)z = 4 + 5 - 8 \implies 0 = 1 \]

모순이 발생한다. 연립방정식에 해가 없다.

5.3 시나리오 3: 무한히 많은 해 (Infinitely Many Solutions)

\(n\) 개의 평면이 선이나 평면 전체를 공유하는 경우이다. 예: 세 번째 평면이 앞 두 평면의 교선을 그대로 포함하는 상황.

\[ \begin{cases} x + y + z = 2 \\ x + 2y + z = 3 \\ 2x + 3y + 2z = 5 \end{cases} \quad \text{(3번째 방정식 = 1번째 + 2번째)} \]

세 번째 방정식은 정보를 추가하지 않는다. 해의 집합은 직선이 된다.

시나리오	행 그림	열 그림	\(A\) 상태
유일한 해	평면들이 한 점에서 만남	\(b\) 가 열의 유일한 결합	가역
해 없음	평면들이 공통 교점 없음	\(b \notin \mathcal{C}(A)\)	특이
무한 해	평면들이 선/면 공유	\(b\) 의 결합이 무수히 많음	특이

6 응용 — ML/DL에서의 등장

6.1 선형 회귀

\(m\) 개의 데이터 포인트, \(n\) 개의 특성(feature)이 있을 때 선형 회귀 모델은 \(\hat{y} = Ax\) 이다. \(A\) 는 \(m \times n\) 설계 행렬(Design Matrix), \(x\) 는 가중치 벡터이다.

\(m = n\) 이고 \(A\) 가 가역이면: \(x = A^{-1} b\) 로 정확한 해가 존재한다. \(m > n\) (과결정, Overdetermined): 일반적으로 해가 없다 → 최소자승법(Least Squares)으로 근사.

6.2 신경망의 선형 레이어

신경망의 각 선형 레이어는 정확히 \(y = Wx + b\) 형태이다. 입력 \(x\) 와 출력 \(y\) 의 관계가 Ch.2의 \(Ax = b\) 와 동일한 구조이다.

역전파(Backpropagation)는 이 \(W\) 를 업데이트하는 알고리즘이며, 내부적으로 행렬 연산에 의존한다.

6.3 그래프 라플라시안

그래프에서 키르히호프 전압 법칙을 적용하면 \(Ax = b\) 시스템이 나온다. \(A\) 는 라플라시안 행렬이고, \(x\) 는 노드 전압 벡터이다. Ch.2의 해법으로 전압 분포를 계산한다.

7 예시 심화 — Worked Examples

7.1 예시 1: 열 그림으로 직접 해 읽기

\[ \begin{bmatrix} 1 & 2 & 2 \\ 2 & 2 & 2 \\ 3 & 5 & 6 \end{bmatrix} \begin{bmatrix} x \\ y \\ z \end{bmatrix} = \begin{bmatrix} -3 \\ -2 \\ -5 \end{bmatrix} \]

우변 \(b = (-3, -2, -5)^\top\) 을 관찰하면: \(b\) 는 두 번째 열 \((2, 2, 5)^\top\) 의 \(-1\) 배와 같다.

\[ 0 \cdot \text{col 1} + (-1) \cdot \begin{bmatrix} 2 \\ 2 \\ 5 \end{bmatrix} + 0 \cdot \text{col 3} = \begin{bmatrix} -2 \\ -2 \\ -5 \end{bmatrix} \]

아직 \(-3\) 이 아니므로 조정이 필요하다. 실제로는 \(b = (−3,−2,−5)\) 이고 열을 잘 관찰하면:

\(x = 0, y = -1, z = 0\) 일 때 \(0 \cdot (1,2,3) + (-1)(2,2,5) + 0 \cdot (2,2,6) = (-2,-2,-5) \neq (-3,-2,-5)\).

소거법(Ch.2.2)으로 확인하면 \(x = 1, y = -1, z = -\frac{1}{2}\) 는 아니고, 이 시스템은 \(b = (-3,-2,-5)\) 가 정확히 두 번째 열의 \(-1\) 배가 아닌 경우이므로 열 그림 직접 읽기는 실패한다 → 소거법 필요.

7.2 예시 2: 독립성과 특이 행렬

\[ \begin{bmatrix} 1 & 1 & 1 \\ 1 & 2 & 1 \\ 2 & 3 & 2 \end{bmatrix} x = b \]

세 번째 열 \((1, 1, 2)^\top\) 이 첫 번째 열과 같다. 열들이 선형 종속(Linearly Dependent)이다. 세 번째 방정식이 첫 번째 + 두 번째의 합과 같다면 해는 유일하지 않다.

\(b = (2, 3, 5)^\top\) 에 대해: \((x, y, z) = (1, 1, 0)\) 도 해이고, \((x, y, z) = (2, 0, 0)\) 도 해이다.

열이 종속적이면 \(A\) 는 특이 행렬 → 역행렬 없음 → 해가 없거나 무수히 많음.

7.3 예시 3: 4차원에서의 열 그림

\[ x_1 \begin{bmatrix} 1\\0\\0\\0 \end{bmatrix} + x_2 \begin{bmatrix} 1\\1\\0\\0 \end{bmatrix} + x_3 \begin{bmatrix} 1\\1\\1\\0 \end{bmatrix} + x_4 \begin{bmatrix} 1\\1\\1\\1 \end{bmatrix} = \begin{bmatrix} 3\\3\\3\\2 \end{bmatrix} \]

아래에서부터 읽으면: \(x_4 = 2\), \(x_3 + x_4 = 3 \implies x_3 = 1\), \(x_2 + x_3 + x_4 = 3 \implies x_2 = 0\), \(x_1 + x_2 + x_3 + x_4 = 3 \implies x_1 = 0\).

해: \(x = (0, 0, 1, 2)^\top\). 4차원에서도 열 그림 논리로 해를 직접 읽어낼 수 있다.

8 코드로 확인하기

8.1 Step 1 — 행/열 방법으로 \(Ax\) 계산 (NumPy 없이)

def ax_by_rows(A, x):
    """행 방법: 각 행과 x의 내적"""
    m = len(A)
    return [sum(A[i][j] * x[j] for j in range(len(x))) for i in range(m)]

def ax_by_cols(A, x):
    """열 방법: 열벡터들의 선형 결합"""
    m = len(A)
    n = len(x)
    result = [0.0] * m
    for j in range(n):                   # 각 열에 대해
        for i in range(m):               # 해당 열의 각 원소에 x[j]를 곱해 누적
            result[i] += A[i][j] * x[j]
    return result

# §2.1 3×3 예시
A = [[1, 2, 3],
     [2, 5, 2],
     [6, -3, 1]]
x = [0, 0, 2]

print("행 방법:", ax_by_rows(A, x))    # [6.0, 4.0, 2.0]
print("열 방법:", ax_by_cols(A, x))    # [6.0, 4.0, 2.0]

8.2 Step 2 — NumPy로 행/열 방법 비교

import numpy as np

A = np.array([[1, 2, 3],
              [2, 5, 2],
              [6, -3, 1]], dtype=float)
x = np.array([0, 0, 2], dtype=float)
b = np.array([6, 4, 2], dtype=float)

# 행 방법: 내적 (dot product per row)
b_row = np.array([A[i, :] @ x for i in range(len(b))])
print("행 방법:", b_row)       # [6. 4. 2.]

# 열 방법: 열벡터 선형 결합
b_col = sum(x[j] * A[:, j] for j in range(len(x)))
print("열 방법:", b_col)       # [6. 4. 2.]

# 표준 NumPy 행렬 곱
b_mat = A @ x
print("행렬 곱:", b_mat)       # [6. 4. 2.]

# 결과 동일성 확인
print("모두 같음:", np.allclose(b_row, b_col) and np.allclose(b_col, b_mat))

8.3 Step 3 — 행/열 그림 시각화

import numpy as np
import matplotlib.pyplot as plt

fig, axes = plt.subplots(1, 2, figsize=(12, 5))

# --- 행 그림 ---
ax = axes[0]
x_vals = np.linspace(-1, 5, 200)

# 직선 1: x - 2y = 1  =>  y = (x-1)/2
y1 = (x_vals - 1) / 2
# 직선 2: 3x + 2y = 11  =>  y = (11-3x)/2
y2 = (11 - 3 * x_vals) / 2

ax.plot(x_vals, y1, 'b-', linewidth=2, label='$x - 2y = 1$')
ax.plot(x_vals, y2, 'r-', linewidth=2, label='$3x + 2y = 11$')
ax.plot(3, 1, 'ko', markersize=10, label='해 $(3, 1)$')
ax.set_xlim(-1, 5)
ax.set_ylim(-2, 4)
ax.axhline(0, color='k', linewidth=0.5)
ax.axvline(0, color='k', linewidth=0.5)
ax.grid(True, alpha=0.3)
ax.legend()
ax.set_title('행 그림 (Row Picture)')
ax.set_xlabel('x')
ax.set_ylabel('y')

# --- 열 그림 ---
ax = axes[1]
col1 = np.array([1, 3])
col2 = np.array([-2, 2])
b_vec = np.array([1, 11])

origin = np.array([0, 0])
ax.quiver(*origin, *col1, angles='xy', scale_units='xy', scale=1,
          color='b', width=0.008, label='col 1 = $(1, 3)$')
ax.quiver(*origin, *col2, angles='xy', scale_units='xy', scale=1,
          color='r', width=0.008, label='col 2 = $(-2, 2)$')

# 3 * col1
ax.quiver(*origin, *(3 * col1), angles='xy', scale_units='xy', scale=1,
          color='b', alpha=0.4, width=0.008, label='$3 \\cdot$ col 1')
# b = 3*col1 + 1*col2
ax.quiver(*(3 * col1), *col2, angles='xy', scale_units='xy', scale=1,
          color='r', alpha=0.4, width=0.008)
ax.quiver(*origin, *b_vec, angles='xy', scale_units='xy', scale=1,
          color='k', width=0.01, label='$b = (1, 11)$')

ax.set_xlim(-4, 6)
ax.set_ylim(-1, 12)
ax.axhline(0, color='k', linewidth=0.5)
ax.axvline(0, color='k', linewidth=0.5)
ax.grid(True, alpha=0.3)
ax.legend()
ax.set_title('열 그림 (Column Picture)')
ax.set_xlabel('x')
ax.set_ylabel('y')

plt.tight_layout()
plt.show()

8.4 Step 4 — 3×3 시스템의 3D 시각화 (행 그림 · 열 그림)

3변수 시스템은 각 방정식이 \(\mathbb{R}^3\) 의 평면이 되고, 세 평면의 교점이 유일해이다. 열 그림에서는 세 열벡터의 선형결합이 \(\mathbf{b}\) 에 도달하는 방식으로 본다.

\[ \begin{aligned} 3x + 2y - z &= 1 \\ 2x - y + 3z &= -2 \\ x + 3y + z &= 3 \end{aligned} \]

import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D

A = np.array([[3, 2, -1],
              [2, -1, 3],
              [1, 3,  1]])
b = np.array([1, -2, 3])

sol = np.linalg.solve(A, b)
print(f"교점: x={sol[0]:.3f}, y={sol[1]:.3f}, z={sol[2]:.3f}")

# --- 행 그림: 세 평면의 교점 ---
fig = plt.figure(figsize=(11, 5))
ax1 = fig.add_subplot(121, projection='3d')

xx, yy = np.meshgrid(np.linspace(-2, 2, 10), np.linspace(-2, 2, 10))
z1 = (1 - 3*xx - 2*yy) / -1      # 3x + 2y - z = 1
xx2, zz2 = np.meshgrid(np.linspace(-2, 2, 10), np.linspace(-2, 2, 10))
y2 = (-2 - 2*xx2 + 3*zz2) / -1   # 2x - y + 3z = -2 → y = 2x + 3z + 2
yy3, zz3 = np.meshgrid(np.linspace(-2, 2, 10), np.linspace(-2, 2, 10))
x3 = (3 - 3*yy3 - zz3) / 1       # x + 3y + z = 3

ax1.plot_surface(xx,  yy,  z1, alpha=0.4)
ax1.plot_surface(xx2, y2, zz2, alpha=0.4)
ax1.plot_surface(x3,  yy3, zz3, alpha=0.4)
ax1.scatter(*sol, color='red', s=60, label='교점')
ax1.set_xlabel('x'); ax1.set_ylabel('y'); ax1.set_zlabel('z')
ax1.set_title('행 그림: 세 평면의 교점')
ax1.legend()

# --- 열 그림: 세 열벡터의 선형결합이 b ---
ax2 = fig.add_subplot(122, projection='3d')
origin = np.zeros(3)
cols = [A[:, j] for j in range(3)]
colors = ['red', 'green', 'blue']

for j, (col, c) in enumerate(zip(cols, colors)):
    ax2.quiver(*origin, *col, color=c, label=f'col {j+1}')
ax2.quiver(*origin, *b, color='black', linewidth=2, label='b')

ax2.set_xlim(-3, 3); ax2.set_ylim(-3, 3); ax2.set_zlim(-3, 3)
ax2.set_xlabel('x'); ax2.set_ylabel('y'); ax2.set_zlabel('z')
ax2.set_title(r'열 그림: $x\,\mathbf{a}_1 + y\,\mathbf{a}_2 + z\,\mathbf{a}_3 = \mathbf{b}$')
ax2.legend()
ax2.view_init(elev=20, azim=120)

plt.tight_layout()
plt.show()

왜 두 시각을 나란히 보는가: 같은 시스템이 전혀 다른 모양으로 보인다. 행 그림은 “교점 찾기”, 열 그림은 “\(\mathbf{b}\) 를 어떤 비율로 열벡터들의 합으로 쓸지”의 문제이다. 고차원에서는 행 그림 시각화가 무너지지만 열 그림의 “선형결합 계수” 관점은 \(n\) 차원에서도 유지된다.

9 핵심 요약

시각	해석	\(n\) 이 클 때
행 그림	각 방정식 = 초평면, 해 = 교점	시각화 어려움
열 그림	해 = 열벡터 결합의 계수	동일한 개념 유지
행렬 형태	\(Ax = b\)	모든 경우를 통합

\(Ax\) 계산:

행 방법: \((Ax)_i = \sum_j a_{ij} x_j\) (스칼라 곱 합)
열 방법: \(Ax = \sum_j x_j \mathbf{a}_j\) (벡터 합)

해의 존재성:

가역 \(A\): 유일한 해 — \(x = A^{-1}b\)
특이 \(A\), \(b \in \mathcal{C}(A)\): 무한히 많은 해
특이 \(A\), \(b \notin \mathcal{C}(A)\): 해 없음

10 관련 주제

선행 지식

Ch.1 §1.1 — Vectors and Linear Combinations — 선형 결합의 기초
Ch.1 §1.2 — Lengths and Dot Products — 내적의 기초

이 챕터의 다음 단계

후속 심화

Ch.4 투영과 최소자승법 — \(b \notin \mathcal{C}(A)\) 일 때의 근사 해