대규모 언어 모델의 챗GPT 형성

챗GPT의 뛰어난 능력은 엄청난 데이터 처리 속도와 새로운 기술 덕분이다. 챗GPT는 인간 언어를 이해하고 데이터의 큰 말뭉치(Large Corpora of Data)를 바탕으로 반응을 생성하도록 설계된 대규모 언어 모델(Large Language Model)을 기반으로 한다. 챗GPT의 LLM은 GPT-3.5 버전으로 불린다.

이전에 오픈AI가 개발한 GPT-3의 업그레이드 버전인 셈이다. 1,750억 개의 엄청난 매개 변수(Parameters)를 가진 GPT-3는 지금까지 등장한 가장 크고 강력한 언어 처리 AI 모델 중 하나다.

챗GPT는 상상을 초월하는 수준의 데이터 학습과 훈련으로 인간과 매우 흡사한 반응을 내놓는다. 컨설팅 회사 EY의 글로벌 혁신 담당 임원(Global Chief Innovation Officer) 제프리 윙은 CNBC와의 인터뷰에서 "놀라운 것은 점점 더 사람처럼 대화할 수 있다는 것이다. 이는 이전 컴퓨터에서는 상상도 할 수 없었던 일"이라고 답했다.

또 챗GPT가 이전 AI와 다른 또 하나의 특징은 사용자의 이전 메시지와 맥락(Context)를 이해해 향후 응답에 사용, 참고하는 '맥락적 이해' 능력이다. 대부분 머신 러닝 기술은 기존 정보에 의존하고 데이터 패턴을 식별해 트렌드를 선정하거나 원하는 결과를 내놓는다.

현재 페이스북이나 틱톡 등이 쓰고 있는 추천 알고리즘(Recommendation Algorithms)이 바로 이런 머신 러닝 기술에 기반을 두고 있다. 이들 소셜 미디어는 소비자들의 검색 습관에 기반해 광고를 추천한다.

그러나 챗GPT, 같은 생성형 AI 도구(Generative AI Tools)은 빠른 데이터 처리 능력으로 검색 엔진의 자리를 빠르게 차지하고 있다. 생성형 AI의 언어 학습 방식은 기본적으로 어린이가 말을 배우는 과정과 비슷하다. 그야 말로 현실 세계의 복제판인 셈이다.