튜링의 텔레파시 : 기계는 지능의 꿈을 꾸는가?
최근에 앨런 튜링의 《지능에 관하여》 논문을 직접 읽어보게 되었는데 LLM과 관련된 어떤 자료보다 감명 깊었습니다. 1948년, 77년 전에 튜링이 현재와 미래를 예견했다는 것은 튜링이 미래로 보낸 텔레파시처럼, 혹은 튜링이 미래를 텔레파시로 들은 것처럼 무척 “신비롭게” 느껴졌습니다.
읽으면서 개인적으로 흥미로웠던 부분을 정리했습니다.
1. 지능을 가진 기계
기계의 지능은 창조자의 지능이 반영된 것에 지나지 않는다고 보아야 한다
나는 이 말을 프롬프트 작성자의 능력에 따라 LLM의 답변 퀄리티가 달라지는 것과 일맥상통하다고 읽었습니다. 비전문가인 제가 체감할 수 있을 정도로 현재 AI의 성능이 좋아졌기 때문에 AI가 뭔가 만족스럽지 않은 답변을 한다면 내 프롬프트의 문제가 아닌가 생각해보게 됩니다.
괴델 및 그 밖의 정리에서 비롯하는 논변(반론(d))의 기본 바탕은 기계가 실수를 저질러서는 안 된다는 조건이다. 하지만 이것은 지능의 조건이 아니다
할루시네이션에 대한 저의 의견과 유사합니다. 인간 역시 할루시네이션을 가지고 있으며, 사실상 객관적인 사실이란 존재하지 않고 공통의 합의된 할루시네이션이 존재합니다(저는 아닐 세스의 《내가 된다는 것》을 좋아합니다). 그리고 할루시네이션은 모델을 어떻게 설계했느냐와도 관련이 있습니다. (관련 링크)
만약 내가 뭔가를 반드시 말해야만 보상을 얻을 수 있다면, 나라도 진실일 확률이 낮더라도 뭔가 말하는 쪽을 택할 것입니다. 하지만 정확도에 더 큰 가중치가 있고 대답하지 않을 수 있다는 선택지가 있다면 “모릅니다”라고 말할 수도 있습니다. 요컨데 어떻게 보상 시스템이 설계되어 있느냐와 연관되어 있습니다.
또한 앨런 튜링은 지능 기계를 만들고자 한다면, 또한 인간 모형을 최대한 흉내내고자 한다면 “교육”을 해야한다고 말합니다. 마치 어린 아이를 가르치는 것처럼요! AI를 어린아이 가르치듯 대하는 관점은 내게 무척 흥미로웠습니다. 성숙한 인간은 이미 체화된 지식을 많이 가지고 있습니다. 암묵지를 가지고 있는데, 어린이는 암묵지를 가지고 있지 않습니다. 그러므로 성인은 어린이와 대화할 때 본인의 암묵지가 어린이에게는 당연하지 않다는 것을 항상 명심해야 합니다. 물론 다른 성인과 대화할 때도 마찬가지입니다.
당연하지만(?) 강화학습에 관련된 이야기도 여러 차례 언급됩니다. 쾌락-고통을 제공함으로써 기계를 가르치는 법에 대해서도요.
2. 계산 기계와 지능
이 파트에서 튜링은 ‘기계가 생각할 수 있을까?’라는 질문을 “흉내 게임을 잘 할 수 있는 상상 가능한 디지털 컴퓨터가 있을까?”로 변형하는데 이것도 실용적인 관점이라고 생각합니다. 전자는 답변하기 모호한 반면 후자는 판단할 수 있는 명제이기 때문에 이것이 더 실리적이라고 생각합니다.
그리고 다시 한 번 흉내 게임을 잘 하는 디지털 컴퓨터를 만드는 방법에 대해 이것을 언급합니다.
(a) (출생시) 마음의 초기 상태
(b) 마음이 받은 교육
(c) (교육은 아니지만) 마음이 겪은 경험
그리고 성인의 마음보다 차라리 아동의 마음을 흉내내는 프로그램을 만드는 것이 어떨지 제안합니다. 어쩌면 갓 탄생한(?) 프로그램을 gym에서 양육하게 될지도 모르겠네요. 어떤 완벽한 지능을 만드는 게 아니라 지독하게 인간과 유사한(실수하고, 잊기도 하는) 존재를 만든다고 한다면 충분히 일리 있으며 시도할 만한 가치가 있는 방법이라고 저는 생각했습니다.
3. 지능을 가진 기계라는 이단적 이론
기계 ‘고장’을 논외로 한다면 기계는 무엇을 하든 신뢰할 수 있는 반면에 수학자는 실수를 적잖이 저지릅니다. 수학자가 실수를 저지를 위험은 이따금 완전한 새로운 방법을 생각해내는 능력의 불가피한 결과일 것입니다. 가장 미더운 사람이 진정으로 새로운 방법을 생각해내는 일은 거의 없다는 널리 알려진 사실이 이를 뒷받침합니다
이 부분도 내가 굉장히 좋아하는 부분입니다. 주어진 태스크를 주어진 방식대로 완벽하게 따른다면 창발성을 발생하기 어려울 것 같습니다. 의도하지 않았던 것, 원래 계획을 따르지 않는 것, 실수는 창조성의 좋은 토대가 됩니다.
그리고 경험에 대한 이야기가 다시 등장합니다. 경험에 의해 기계가 배울 수 있다면, 그리고 기계에게 부과하는 경험을 적절히 선택한다면 이것을 교육이라고 부를 수 있을 거라고요.
기계 자신의 생각이 어땠는지 기억하기 시작하는 것입니다. 이것은 생산적인 새로운 형태의 색인화로 이어질 것입니다. 새로운 형태의 색인은 이미 쓰인 색인에서 관찰되는 특징에 따라 도입될 수도 있습니다. 그 색인들은 이런 식으로 쓰일 것입니다. 다음에 무엇을 할지 선택할 때마다 현재 상황의 특징을 색인에서 찾는데, 비슷한 상황에서 예전에 어떤 선택을 했고 그 결과가 좋았는지 나빴는지 발견합니다.
기계에게 기억을 부여함으로써 자기 평가, 성찰을 하고 이후 결정에 영향을 주도록 하는 것에 대해 제안합니다. 기억이 적재될수록 어떻게 많은 기억을 정리하고, 솎아내고, 어떻게 색인을 할지가 더더욱 중요해질 것입니다.
각 기계는 임의의 숫자열(이를 테면 0과 1이 같은 개수로 나열된 것)이 쓰인 테이프를 공급받고 이 숫자열은 기계의 선택에 쓰여야 합니다. 이렇게 하면 기계의 행동이 전적으로 경험에 따라 결정되지 않을 것이며, 교육방법을 실험할 때 쓰임새가 있을 것입니다.
이와 동시에 임의적 요소에 대해서도 언급합니다. 전적으로 경험에 따라 결정될 경우 다소 경직될 수 있기 때문에 임의의 랜덤적 요소를 추가하자는 아이디어인데, 이것은 ‘아주’ 단순하게 구현한다면 temperature나 Top P, Top K를 사용할 수도 있겠습니다.
4. 디지털 컴퓨터가 생각할 수 있을까?
컴퓨터가 뇌처럼 행동하도록 프로그래밍 하는 문제는 무인도에서 화성 이야기를 쓰려고 하는 것과 같습니다.
이 부분은 내가 상당히 좋아하는 문장입니다. 이제는 AI의 성능이 굉장히 좋아졌기 때문에 AI가 내 기대와 다른 답변을 할 때(나는 이제 할루시네이션을 이렇게 부릅니다) 내가 AI에게 화성에 대한 정보를 충분히, 제대로 알려줬는지를 다시 생각하게 됩니다.
“생각의 전체 과정은 여전히 우리에게 매우 신비롭지만 생각하는 기계를 만드려는 시도는 우리 자신이 어떻게 생각하는지 이해하는 데 큰 도움이 될 것이라 믿습니다.”
마지막 문장은 정말 아름답습니다! 인간과 유사하게 느껴지는 무엇을 만드려고 노력하면서 무엇보다 저는 저 자신을 많이 들여다보게 되었습니다. 내가 어떻게 인지하고 느끼고 생각하고 그것을 표현하는가? 그리고 그것이 굉장히 개인적인 경험이며, 인간은 저마다의 퀄리아(Qualia)를 가지고 있음을 다시 한 번 상기하게 되었습니다. 기계에게도 퀄리아(Qualia)를 부여할 수 있을까요?
물론 예술의 환상은 위대한 문학이 삶과 매우 가깝다고 믿게 하지만, 사실은 정반대입니다. 삶은 형태가 없고, 문학은 형식적입니다.
이것은 예술과 현실의 관계에 대해 프랑소와즈 사강이 한 말입니다. 아주 인간적인 AI를 만든다는 것은 아마도 ‘불완전한’ 편향을 “완벽하게” 형식적으로 구현하는 작업이라는 생각이 듭니다.