작성자: 한지윤 (업스테이지 데이터 리더) 

* 본 자료는 ESC에서 2023년 4월 22일 개최한 '인공지능 윤리 포럼 - ChatGPT 활용 그 너머를 묻다' 발표  요약문입니다.

한 엔지니어가 23년 1월 5일에 올린 “AI will not replace you. A person using AI will.”이라는 트윗은 360만 이상의 조회수를 기록했고, 4만 개 이상의 하트가 찍혔다. ChatGPT가 촉발한 디지털 자동화가 단지 물리적 노동만을 대체하는 것이 아니라, 창의력을 요하는 정신노동의 영역까지 대체할 거라는 불안이 사회를 흔들고 있을 때 의표를 찌르는 문장이었다. 이 문장은 결국 AI를 개발하고 활용하는 주체가 사람이라는 것을 선명하게 드러낸다.

AI를 개발하는 데는 결정의 순간들이 있고 그 주체는 사람이다. 학습 데이터를 어떻게 수집할지, AI를 어떤 방식으로 평가할지, 실험된 모델 중 실제 서비스에 어떤 모델을 결정하고 AI를 활용한 서비스 기획하여 시장에 내놓는 것 모두 사람이 하는 일이다. AI는 분명 일상의 풍경을 바꿀 만큼 놀라운 영향력을 지녔으나, 결국 하나의 시스템이고 도구이다. 신뢰할 수 있고 안전한 도구를 만드는 것은 이것을 만들고 활용하는 사람의 책무이다.

ChatGPT는 AI 기반의 자동화가 거스를 수 없는 흐름이고, 어느 시점에 오든 언젠가는 올 것이며, 노동의 패러다임이 전환기를 맞이했다는 것을 수면 위로 떠오르게 했다. 이 변화는 기술 자체가 추동하는 것이 아니라 이를 개발하는 조직들이 치열한 경쟁 속에서 가속화시키고 있는 것이다. 이 시점에서 우리는 이 속도에 질식하지 않고 이러한 변화를 어떤 방향으로 이끌어야 하는 지 진지하게 논의해야 한다.

AI로 인한 실제 피해가 가시화되는 상황에서 기업들도 신뢰할 수 있고, 믿을 수 있는, 안전한(Responsible, Trustworthy, Safe) AI를 마케팅 용어로 이용하기 시작했다. 정부에서도 인공지능 윤리 기준을 만들고 검증에 활용할 수 있도록 다양성 존중, 책임성, 안전성, 투명성을 요건으로 제시했다. 그러나 이들은 아직 AI 서비스 자체에 집중하고 있다. 이를 넘어서서 AI 산업 생태계와 이에 영향을 받는 사회의 문제들도 함께 조명해야 하는 시점이다.

참고자료

• 롭 라이히, 메흐란 사하미, 제러미 M. 와인스타인(2022). 시스템 에러 : 빅테크 시대의 윤리학. 어크로스
• 저스틴 조크(2022). 혁명을 위한 수학. 장미와동백
• 신뢰할 수 있는 인공지능 개발 안내서(2022). 과학기술정보통신부, 한국정보통신기술협회
• https://twitter.com/svpino/status/1610984481342771200
• https://www.dair-institute.org/blog/letter-statement-March2023

* 페이지 하단에 발표 자료가 첨부되어 있습니다. 

#AI윤리포럼요약문    #인공지능윤리를묻다