[경고] 아래 글을 읽지 않고 "좌표계 기반 벡터"를 보면 바보로 느껴질 수 있습니다.
[벡터와 스칼라(vector and scalar)]
[위치벡터(position vector)]

[그림 1] 벡터의 구성(출처: wikipedia.org)

[그림 2] 평면을 뚫는 벡터 표현(출처: wikipedia.org)
크기와 방향을 표현하기 위해 사용하는 벡터(vector)는 크기만을 표현하는 스칼라(scalar)와 구별된다. 벡터의 어원은 '운반하다'를 뜻하는 라틴어(Latin) 'vehere'이다. 스칼라의 어원도 '계단'이나 '저울'을 뜻하는 라틴어 'scala'이다. 어원을 보더라도 스칼라는 무언가를 재는 양(크기)을 뜻하고 벡터는 운동과 관계된 움직임(방향성)을 뜻한다.
그러면 벡터에서 방향은 어떻게 표현하는가?
[그림 1]은 벡터를 이용한 크기와 방향 표현방법을 제시한다. 벡터를 표현한 화살표의 길이가 크기를 나타내며 방향을 표시하기 위해 화살표를 사용한다. [그림 2]는 화살을 염두에 두고 평면을 뚫는 벡터를 표현한 것이다. 화살이 평면에 들어가면 화살의 끝이 보이므로 [그림 2]의 왼편처럼 X 표시하고 화살이 평면을 뚫고나오면 화살의 침이 보이므로 ⊙ 표시로 표현한다.
3차원 공간에서 벡터를 표현하려면 사원수(四元數, quarternion)를 사용할 수 있지만 매우 복잡하므로 전자파를 포함한 물리학 분야에서는 좌표계 기반 벡터를 사용한다.
일부 컴퓨터 그래픽스(computer graphics)를 하는 사람들은 사원수가 분명 필요하다고 주장한다. 하지만, 컴퓨터 그래픽스에 사용하는 수학보다 더욱 어려운 전자파 이론을 연구하는 사람들도 더이상 사원수를 쓰지 않는다.
물론 1864년 맥스웰(James Clerk Maxwell)의 전자파방정식(電磁波方程式, electromagnetic wave equation)이 나올 때는 이론이 사원수로 전개되어 있었지만 1901년(1800년후반에 개발) 깁스(Josiah Willard Gibbs)의 좌표계 기반 벡터 이론이 나오면서 서서히 사원수 이론은 사라져갔다.
좌표계 기반 벡터 표현은 어떻게 하는 것인가? [그림 3]은 이 표현법을 설명한다.


[그림 3] 좌표계 기반 벡터 표현(출처: wikipedia.org)
좌표계를 이용하여 벡터를 표현하려면 [그림 3]과 같이 좌표공간상에 있는 (x, y, z)에 점을 찍고 원점 (0, 0, 0)에서 (x, y, z)로 화살표를 그리면 된다. 무척 쉽다. 이 점이 사원수를 대신한 좌표계 기반 벡터 표현법의 장점이다.
수학적으로 살펴보면 사원수 기반 벡터를 간략히 표현한 것이 좌표계 기반 벡터이다. 사원수 표현에 사용되는 i, j, k 허수상수들을 [그림 3]과 같이 단위벡터(unit vector) x, y, z로 표현하면 식 (1)과 같다.

여기서 단위벡터는 크기가 1인 벡터이다. 그러면 사원수와 유사하게 벡터에 대한 연산을 정의할 수 있다.
1. 실수배


2. 덧셈


[벡터의 덧셈(addition of vectors)]
3. 뺄셈


[벡터의 뺄셈(subtraction of vectors)]
곱셈은 정의가 다소 복잡하다. 식 (5)가 나타내는 사원수의 곱셈이 복잡하기 때문에 벡터의 곱셈도 어렵게 정의한다. 벡터해석학 초보자들은 사원수를 잘 모르기 때문에 벡터의 곱셈을 제대로 이해하지 못한다.

사원수의 곱셈 결과는 실수와 i, j, k 허수로 나타나기 때문에 벡터의 곱셈은 두 가지로 정한다. 바로 내적(內積, inner product or dot product)과 외적(外積, outer product or cross product)이다.
사원수 곱셈의 실수부를 고려해서 벡터의 내적을 식 (6)으로 정의한다.

a1 = a2 = 0이면 식 (5)의 실수부와 식 (6)은 부호차이를 제외하고는 동일하다.
사원수 곱셈의 허수부를 고려하면 벡터 외적을 식 (7)처럼 정의한다.

행렬식(行列式, determinant)을 사용하면 식 (7)을 좀더 예쁘게 표현할 수 있다.

식 (6)의 정의로 인해 벡터 내적은 아래와 같은 산술 체계를 가진다.

벡터 외적의 산술 체계는 식 (7)을 바탕으로 얻어진다.

벡터 외적의 특성 중에서 흥미로운 것은 결합법칙이 성립하지 않는 것이다. 사원수는 결합법칙이 성립했으나 사원수 곱셈을 실수부와 허수부로 분해해서 이를 각각 내적과 외적이라 정의했기 때문에 벡터 외적은 더이상 결합법칙이 성립하지 않는다. 이 때문에 실제 문제를 풀 때 굉장히 주의해야 한다.
결합법칙이 성립하지 않는 예는 식 (11)에 제시되어 있다.

[벡터의 곱셈(product of vectors)]
[그림 4]를 통해 벡터 내적의 기하학적 의미를 살펴보자.

[그림 4] 벡터 내적의 기하학적 의미(출처: wikipedia.org)
[그림 4]를 보면 두 벡터의 길이를 서로 곱한 값이 내적이다. 다만, 곱할 때 방향을 고려해서 서로 일직선을 이루는 방향의 길이를 곱한 것이다.
식 (6)의 결과를 고려하면 벡터 내적은 임의 차원으로 확장될 수 있다.
일반적인 n차원 공간에서 벡터 내적의 기하학적 의미를 유도하자.

식 (12)와 같은 내적이 정의되었으므로 벡터의 크기는 식 (13)으로 정의할 수 있다.

다음으로 식 (4)와 (13)으로부터 벡터 뺄셈의 크기를 고려하자.

n차원 벡터의 크기를 고려한 것이 식 (14)이다. 이때 벡터 뺄셈을 한 결과는 기하학적으로 식 (4) 혹은 [그림 4]와 같은 삼각형을 이루므로 식 (15)의 코사인 제2법칙(law of cosines)을 적용한다.

식 (14)와 (15)를 비교하면 잘 알려진 벡터 내적 공식을 유도할 수 있다.

식 (16)을 보면 벡터 a와 b가 서로 직교하면 θ = 90도가 되므로 벡터 내적은 항상 0이 된다.
[그림 5]는 벡터 외적의 기하학적 의미를 보여준다. 벡터 내적에도 주의할 부분이 하나있다. 식 (16)의 우변은 항상 실수이므로 벡터의 성분(component)이 실수가 아닌 복소수(complex number)이면 식 (16)과 [그림 5]의 기하학적 의미는 더이상 성립하지 않는다. 즉, 벡터의 성분이 복소수이면 식 (16)이 아닌 식 (12)로만 벡터 내적을 정의해야 한다.

[그림 5] 벡터 외적의 기하학적 의미(출처: wikipedia.org)
[그림 6] 벡터 외적의 단위벡터 결정 방법: 오른손 법칙(출처: wikipedia.org)

벡터 외적은 [그림 5]와 같이 벡터 a, b가 이루는 평행사변형의 면적(스칼라)과 외적의 단위벡터 방향(벡터)을 곱해서 표현한다. 수학에서는 기준방향을 [그림 6]과 같은 오른손 법칙으로 정하므로 벡터 외적도 [그림 6]으로 정한다.
식 (8)이 나타내는 수식이 평행사변형의 면적이라는 것은 금방 와닿지는 않는다. 증명은 식 (17)에 있다.

여기서 벡터 a = (x1, y1, z1), 벡터 b = (x2, y2, z2)이다. 벡터 외적 방향을 오른손 법칙으로 정한 것은 x, y, z 좌표축을 식 (18)로 정한 것과 동일한 의미를 가진다.

또한, 식 (19)에 의해 벡터 a, b와 벡터 외적 a x b의 내적이 0이므로 식 (16) 결과에 따라 이 벡터들은 [그림 5]와 같이 서로 수직이다.

식 (19)의 증명은 식 (8)에 벡터 a와 벡터 b를 대입하면 가능하다.
따라서, 벡터 외적은 식 (20)으로 표현할 수 있다.

식 (8)과 (10)에 정의한 벡터 외적은 결합법칙이 성립하지 않는다고 했다. 하지만, 결합법칙이 성립하는 경우도 있지 않을까? 식 (21)에 있는 벡터 삼중적(三重積, vector triple product)을 이용하여 벡터 외적의 결합법칙 성립조건을 찾자.

식 (21)의 증명은 식 (8)의 벡터 외적 정의에 벡터 A, B, C를 대입하면 된다.
결합법칙이 성립하려면 식 (21)과 (22)가 서로 같아야 한다.

식 (21)과 (22)가 같다고 두면 식 (23)이 반드시 성립해야 한다.

식 (23)이 성립하는 경우는 두 가지이다. 벡터 내적이 0인 경우와 아닌 경우이다.
식 (23)의 벡터 내적이 0이면 벡터 A와 C가 벡터 B에 수직하면 된다.
벡터 내적이 0이 아니라면 벡터 A와 벡터 C의 방향이 일직선이면 된다.
식 (21)에 있는 벡터 삼중적과 유사한 식은 스칼라 삼중적(scalar triple product)이다.

[그림 7] 벡터 a, b, c가 만든 평행육면체(출처: wikipedia.org)
[그림 7]은 벡터 a, b, c가 만든 평행육면체(平行六面體, parallelepiped)를 보여준다. 이 평행육면체가 만드는 부피가 식 (24)가 표현하는 기하학적 의미이다.
식 (24)가 평행육면체의 부피라는 결과는 행렬식(行列式, determinant) 관점에서 식 (6)과 (8)을 결합하면 얻을 수 있다.

여기서 벡터 a = (x1, y1, z1), 벡터 b = (x2, y2, z2), 벡터 c = (x3, y3, z3).
그런데 식 (25)가 부피를 나타내는 식이라는 것은 한눈에 보이지는 않는다.
부피는 아래면적 x 높이이므로 벡터 b와 c의 벡터 외적은 식 (20)과 [그림 7]에 의해 아래면적을 형성하고 아래면적과 수직인 방향으로 식 (16)과 [그림 4]에 정의한 벡터 내적을 취했으므로 아래면적에 높이를 곱한 결과를 낸다. 즉, 식 (25)는 평행육면체의 부피가 된다.
n x n 행렬(行列, matrix)의 관점에서 보면 행렬식의 기하학적 의미는 n차원의 방향을 가진 부피이다. 식 (25)는 3 x 3 행렬의 행렬식이므로 3차원의 부피를 나타내게 되어 당연히 평행육면체의 부피가 된다.
식 (8)과 같은 2 x 2 행렬인 경우, 행렬식은 2차원 부피, 즉 면적을 표현한다.


[그림 8] 3차원 공간상의 평면(출처: wikipedia.org)
지금까지 벡터 a와 b의 선형결합 벡터인 k1*a + k2*b는 [그림 8]처럼 원점(p0 = 0), 벡터 a(= p1 - p0)와 벡터 b(= p2 - p0)가 만드는 평면(平面, plane)에 있다고 가정했다. 이 가정이 맞는가?
평면의 방정식은 식 (26)으로 표현할 수 있다.

여기서 벡터 p0 = (0, 0, 0)이며 벡터 r = (x, y, z)는 평면상에 있는 모든 점을 표현한다. 식 (26)에서 벡터 r 대신에 벡터 k1*a + k2*b를 대입하면 식 (19)에 의해 식 (26)을 만족하므로 선형결합 벡터는 항상 동일 평면에 있는 것을 알 수 있다.

항등식(恒等式, identity)에 대한 내적과 외적 특성을 알아보자.
임의의 벡터 A와 어떤 벡터 B의 내적이 항상 0이면 벡터 B는 반드시 영벡터(0)가 되어야 한다.

이것은 어떻게 증명할까? 식 (16)을 이용하면 쉽게 증명이 된다. 벡터 A가 임의이면 벡터 A의 크기와 벡터 B와의 끼인 각인 θ가 고정이 아니고 가변이므로 전체 내적값이 0이기 위해서는 벡터 B의 크기가 0이어야 한다. 즉, 벡터 B가 영벡터가 되어야 한다.
벡터 내적은 임의의 n차원에 대해서도 정의할 수 있으므로 식 (29)와 같은 일반적인 항등식 조건도 식 (16)을 이용해서 쉽게 유도할 수 있다.

벡터 외적에 대해서도 식 (30)이 성립한다.

식 (30) 증명에는 식 (20)을 이용한다. 최종결과가 0이므로 벡터 B의 크기는 반드시 0이어야 한다.