작성자: 전윤호 (IT 전문가, SF작가)
* 본 자료는 ESC에서 2023년 4월 22일 개최한 '인공지능 윤리 포럼 - ChatGPT 활용 그 너머를 묻다' 발표 요약문입니다.
최근 GPT-4로 업그레이드된 ChatGPT는 여러 유형의 과제에서 사람의 지능에 필적하는 놀라운 성능을 보여주고 있다. 본 발표에서는 ChatGPT와 같은 거대언어모델(LLM)의 기본 원리와 특성, 발전 과정을 알아보고 AI의 여러 문제와 향후 발전 전망을 논한다.
언어생성 AI는 인터넷에서 수집한 텍스트를 학습해 다음 단어를 예측하는 단순한 원리로 동작한다. 그러나 방대한 데이터를 학습한 LLM은 상식과 전문지식을 이해하고 복잡한 명령의 수행이 가능해지는 등, 창발적인 능력을 보여준다. 언어모델 자체에는 메모리가 없고 순방향 단일 패스의 연산 만으로 단어를 예측하나, 예측한 단어를 입력에 추가해 다음 단어를 예측하는 반복 과정을 통해 제한적인 다단계 추론이 가능하다.
ChatGPT는 학습한 텍스트를 통계적으로 활용하는 단순한 답변이 아닌, 인간의 가치에 부합하는 답변을 내놓을 수 있도록 인간의 피드백을 반영하는 추가적인 학습이 이뤄졌고, 목적에 따라 답변의 스타일을 조절할 수 있으며 이미지를 함께 인식하는 방향으로 진화하고 있다. 최신 LLM은 일반인공지능(AGI)의 특성을 일부 보이기 시작하였으나 학습방식과 모델의 구조에 기인하는 여러 한계를 여전히 갖고 있다. 일명 ‘환각’ 문제는 아직 뚜렷한 해결 방안이 없고 연속 학습이 불가하며 하드웨어의 한계와 비용 문제로 모델의 규모 성장이 둔화될 전망이다. 그럼에도 불구하고 ChatGPT와 같은 챗봇의 형태 외에 범용적인 추론 모듈로서 LLM의 다양한 응용이 시도되고 있다. 모델이 내재화한 데이터에만 의존해 답변하는 한계를 벗어나 검색 엔진과 결합되고 있으며, 플러그인 및 백엔드 API를 통해 다양한 서비스와 결합되고 있다. 능동적으로 복잡한 작업을 계획하고 수행하는 에이전트의 원시적 형태가 개발되는 등, AGI로의 진화가 예상보다 빠르게 일어나고 있다.
* 본 자료는 ESC에서 2023년 4월 22일 개최한 '인공지능 윤리 포럼 - ChatGPT 활용 그 너머를 묻다' 발표자료 요약문입니다.
#AI윤리포럼요약문 #인공지능윤리를묻다
작성자: 전윤호 (IT 전문가, SF작가)
* 본 자료는 ESC에서 2023년 4월 22일 개최한 '인공지능 윤리 포럼 - ChatGPT 활용 그 너머를 묻다' 발표 요약문입니다.
최근 GPT-4로 업그레이드된 ChatGPT는 여러 유형의 과제에서 사람의 지능에 필적하는 놀라운 성능을 보여주고 있다. 본 발표에서는 ChatGPT와 같은 거대언어모델(LLM)의 기본 원리와 특성, 발전 과정을 알아보고 AI의 여러 문제와 향후 발전 전망을 논한다.
언어생성 AI는 인터넷에서 수집한 텍스트를 학습해 다음 단어를 예측하는 단순한 원리로 동작한다. 그러나 방대한 데이터를 학습한 LLM은 상식과 전문지식을 이해하고 복잡한 명령의 수행이 가능해지는 등, 창발적인 능력을 보여준다. 언어모델 자체에는 메모리가 없고 순방향 단일 패스의 연산 만으로 단어를 예측하나, 예측한 단어를 입력에 추가해 다음 단어를 예측하는 반복 과정을 통해 제한적인 다단계 추론이 가능하다.
ChatGPT는 학습한 텍스트를 통계적으로 활용하는 단순한 답변이 아닌, 인간의 가치에 부합하는 답변을 내놓을 수 있도록 인간의 피드백을 반영하는 추가적인 학습이 이뤄졌고, 목적에 따라 답변의 스타일을 조절할 수 있으며 이미지를 함께 인식하는 방향으로 진화하고 있다. 최신 LLM은 일반인공지능(AGI)의 특성을 일부 보이기 시작하였으나 학습방식과 모델의 구조에 기인하는 여러 한계를 여전히 갖고 있다. 일명 ‘환각’ 문제는 아직 뚜렷한 해결 방안이 없고 연속 학습이 불가하며 하드웨어의 한계와 비용 문제로 모델의 규모 성장이 둔화될 전망이다. 그럼에도 불구하고 ChatGPT와 같은 챗봇의 형태 외에 범용적인 추론 모듈로서 LLM의 다양한 응용이 시도되고 있다. 모델이 내재화한 데이터에만 의존해 답변하는 한계를 벗어나 검색 엔진과 결합되고 있으며, 플러그인 및 백엔드 API를 통해 다양한 서비스와 결합되고 있다. 능동적으로 복잡한 작업을 계획하고 수행하는 에이전트의 원시적 형태가 개발되는 등, AGI로의 진화가 예상보다 빠르게 일어나고 있다.
* 본 자료는 ESC에서 2023년 4월 22일 개최한 '인공지능 윤리 포럼 - ChatGPT 활용 그 너머를 묻다' 발표자료 요약문입니다.
#AI윤리포럼요약문 #인공지능윤리를묻다