PDP모델에 대해서 궁금해 살펴보다가
언어습득에 관한 예시 중 하나인, 과거시제 학습에 관한 모형을 발견해서 공유해보고자 올립니다^^
교과서에서 본 connectionism의 과거시제 습득에 대한 부분이 설명되어 있습니다.
언어습득에 관한 PDP모델 부분만을 추려내려고 하다가
전체적으로 connectionism에 대해 이해를 도울 수 있을 것 같아 한꺼번에 올려요~
PDP모델이 connectionism을 바탕으로 했다는 점, 그 연관성이 잘 나타나 있더라구요
그리고.... ↓요기는 connectionism과 PDP모델에 관해서 매우 전문적으로(?) 정리되어 있습니다.
http://users.ecs.soton.ac.uk/harnad/Papers/Py104/pinker.conn.html
양이 방대해서 저도 조금씩만 읽어보았는데요^^;
관심있으신 분은 읽어보셔도...ㅎㅎ
전체 발달 과정에 대한 또 하나의 견해는 Rumelhart와 McClelland(1986)가 컴퓨터 본뜨기로 제시한 것인데, 이들은 과거 시제의 학습을 PDP 모형으로 만들어 냈다. 3장에서, 정보의 표상에 대한 연결주의적 접근에서 정보가 그물망의 고리에 한 집합을 통한 활성화 형태로 어떻게 저장되는지 논의하였다. 특히 Rumelhart와 McClelland는 이런 그물망이 "학습"될 수 있는 것인지에 대해서 영어의 과거 시제 산출 방식으로 결정하고자 하였다. 이 모형을 단순화한 것이 그림 10.5에 나와 있다.

[그림 10.5: 과거 시제 학습에 대한 PDP 모형. 단어 쌍(예, walk-walked)이 제시되면, 어근 형태(walk)의 특징들과 과거 시제 형태(walked)의 특징들의 연결이 강화된다. 몇 가지 쌍에 대해 훈련되고 나면, 이 모형은 훈련 국면에서는 사용되지 않았던 동사들에 대한 적절한 반응으로 일반화될 수 있다.]
이 모형은 사실 어근이 되는 단어들, 예를 들어 play와 hold 그리고 그 과거 시제인 played와 held 사이의 관계성을 연결짓는 방식일 뿐이다. 이 모형이 한 단어의 정확한 과거 시제 형태를 만들어 낼 때, "과거 시제를 만들려면 -ed를 덧붙인다."같은 규칙은 체계의 기억 어느 곳에라도 직접 저장되는 것이 아니다; 그런데도 이 모형은 이 규칙에 의한 것처럼 작용하는데, 이는 많은 어근 단어와 과거 시제-ed 사이의 연결이 강하기 때문이다. 하지만, 불규칙 동사는 그 과거 시제를 표상하는 다른 음운 형태와 강력하게 연결되어 있다.
재미있는 문제는 이 모형이 이런 방식으로 작동하도록 훈련될 수 있는지, 또 이 모형에 의한 학습 국면에 어린이가 과거 시제를 습득하는 과정과 비슷한지 아닌지 하는 것이다. 처음에는, 어간 특징과 과거 시제 특징 사이의 특정 연결이 다른 연결보다 더 활성화되어 있는 것이 없다. 따라서, 연구자들은 이 모형에 어간과 과거 시제를 제시하여 훈련을 시킬 수 있었다. 이 과정은 아이들이 부모가 말하는 정확한 형태를 듣는 것에 해당한다. 훈련 쌍이 제시되면서, 특정 특징 집합의 연결이 강화된다. 예를 들어, 이 모형에 play-played가 주어지면, play를 표상하는 어간과 played를 표상하는 과거 시제 특징이 강화된다. 단어 사이의 유사성에 근거하여, 이 모형은 훈련 시에 제시되지 않았던 단어에 대해서도 과거 시제를 만들어낸다. 그래서 play 같은 단어에 대하여 훈련을 받고 나면, 이 모형은 delay에 대해서도 정확한 과거 시제를 만들어낼 수 있다. 마찬가지로, drink-dark에 대해 훈련 받으면, 이 모형은 sink의 과거형으로 sank를 산출해내는데, 이는 두 단어의 어근에서 비슷한 특징이 활성화되기 때문이다.
Rumelhart와 McClelland(1986)는 아이들이 빈도가 높은 단어들을 낮은 빈도의 단어보다 먼저 배운다고 생각하였다. 그렇다면, 흔히 쓰이는 동사는 대부분 불규칙 동사이므로 아이는 적은 수의 불규칙 동사를 먼저 배우고 나서, 수많은 규칙 동사를 배울 것이다. Rumelhart와 McClelland가 자기네 모형을 훈련시키는 입력 자극을 이와 같은 순서로 사용하였을 때, 아이들과 똑같은 국면을 겪었다; 정확한 사용, 다음에 과잉 규칙화, 그리고 나서, 마지막으로 다시 정확한 사용. 다음이 그들이 제시한 결론이다.
"우리가 과거 시제의 습득을 연구 주제로 선택한 이유 중 하나는 이 규칙화 현상이 아이들이 언어의 일반적인 규칙에 따라서 반응한다는 견해를 지지하는 것으로 자주 인용되는 예이기 때문이다. 그렇지 않다면, 왜 아이들이 전혀 들어본 적이 없는 형태를 만들어내는가 하는 질문이 가끔 제기되어왔다. 우리가 제공하는 대답은 아이들이 배우는 비슷한 동사들의 과거 시제가 상당히 일관성 있는 형태를 보여주므로 이들 비슷한 형태의 동사에서 일반화하는 것이 문제가 되는 불규칙 동사에 대해서 배운 비교적 적은 학습량을 능가하기 때문이라는 것이다. 우리는 본질적으로 이와 같은 생각이 언어습득의 다른 양상에 대한 설명에서도 유용할 것임이 증명될 것이라 생각한다(pp.267-268)"
Rumelhart와 McClelland의 결론은 보다시피 분명히 비선천적이다. 이들은 과거 시제 습득이라는 이상한 발달 과정이 단순한 일반적 학습 원리와 아이들이 접하는 동사의 순서로 설명될 수 있다고 주장한다. 하지만 이러한 생각들은 상당히 모순적인 것이다. 예를 들어, Pinker와 동료들(Marcus et al., 1992; Pinker & Prince, 1988)은 Rumelhart와 McClelland의 PDP 모형에서 몇 가지 문제들을 찾아내었다. 이 모형의 핵심 가정은 아이들이 초기에는 대부분 불규칙 동사를 접하고 나서 많은 규칙 동사를 배우기 시작한다는 것이다. 그러나 Pinker와 그의 동료들이 Adam, Eve, Sarah가 접한 실제 언어 표본에서 이 가정을 검토해보았을 때, 이들이 발견한 것은 만 2세에서 만 5세까지 동안에는 규칙 동사와 불규칙 동사의 비율이 일정하다는 사실이었다. 또한 Pinker와 Prince(1991)는 과거 시제의 학습을 한 가지 음운론적 형태에서 다른 형태로의 연결로 모형화 하는 것은 정확하지 않다고 주장하였다; 그보다는, Rumelhart와 McCelland의 모형에서는 들어가지 않았던 어휘집에서의 정보에 근거하는 것으로 볼 필요가 있다고 주장하고 있다. 간단한 예를 들어보자. 우리가 명사에서 파생된 동사의 과거 시제를 만들 때, 과거 시제는 규칙적인데, 이는 이와 소리가 비슷한 불규칙 동사가 있더라도 그렇다. 따라서 한 사람이 야구 경기에서 fly ball을 치고 이 공이 잡히면, 우리는 타자가 filled out 되었다고 말하지 flew out 되었다고 하지는 않는다.
Rumelhart와 McClelland의 모형에서 문제점이 있다면, 일반적으로 연결주의 모형이 언어습득을 설명하기에 부족하다고 결론지어야 할 것인가? 이 질문에 대해서는 아직 의견이 일치하지 않는다. 어떤 이론가들은(Pinker & Prince, 1991) 전체 접근 방법이 기본적으로 결함이 있다고 보지만, 다른 사람들은(예, MacWhinney & Leinbach, 1991), PDP 모형은 Rumelhart와 McClelland(1986)의 선구적인 시도에서 보이는 문제점을 피하여 만들어질 수도 있다고 믿는다. 현재 우리가 과잉 규칙화에서 PDP 접근을 중요하게 보는 것은, 언어에 관한 지식이 어떻게 학습될 수 있는지 알아볼 수 없다고 해서 언어 발달의 일부 측면이 선천적 지식에 의한다고 가정하지는 말아야 한다는 점을 일깨워 주기 때문이다. 적어도 Rumelhart와 McClelland 모형이 좀더 전통적인 언어 심리학자들로 하여금 그들의 대안적 모형을 지지하거나 반박하는 증거를 찾는 일에 더욱 몰두하도록 촉진시켜준 것은 사실이다.
*출처: 언어심리학