「듀얼 브레인」 을 읽고

책 제목 : 듀얼 브레인) : 듀얼브레인

저자 및 출판사 : 이선 몰릭 지음, 상상스퀘어

핵심 키워드 3가지 뽑아보기 : AI Alignment, AI와 공존, 인간의 역할/역량 

개요

2022년 11월 오픈AI가 Chat GPT를 출시한 후, 전세계는 표현하기 어려울 정도의 많은 놀라움을 경험했습니다. 2년이 지난 지금, 그때처럼 파격적인 혁신과 놀라움을 느끼지 못한다고 말하는 이들도 있지만 하루가 다르게 기술이 혁신되면서 AI가 만들 미래에 대한 불안감을 표현하는 사람들도 있는 상태입니다. 그만큼 지금은 AI로 인해 놀라움, 불안, 기대 등 다양한 감정들이 공존하고 있는 상황입니다.

이 책은 부제목(AI 시대의 실용적 생존 가이드)에서 이야기하는 것처럼 AI가 일상과 업무에 깊숙이 침투한 시대에 AI와 인간이 어떻게 협력하고 적응하면서 살아갈 수 있는지 아니 더 나아가 살아가야 하는지에 대한 구체적인 방법이나 고민들을 제시하고 있습니다.

“ … AI가 동료, 교사, 전문가, 더 나아가 친구로서 

우리 삶을 어떻게 변화시킬지 깊이 탐색할 것이다.

이러한 변화가 우리에게 어떤 의미가 있을지, 

마치 외계인처럼 낯선 지성과 함께 생각한다는 것이 무엇을 의미하는지 살펴볼 것이다. “

저자 (이선 몰릭)

“2024년에 타임에서 선정한 ‘인공지능 분야에서 가장 영향력있는 인물’중 한명으로 뽑혔다”

이선 몰릭(Ethan Mollick) 교수는 미국 펜실베이니아대학교 와튼스쿨의 교수로서, 기업가정신과 혁신 분야와 관련된 다양한 연구결과를 소개하면서 영향력을 인정받고 있는 전문가입니다.

현재 교육 현장에서 AI를 적극적으로 도입하여 2023년에 자신의 강의계획서에 AI 정책을 도입, 학생들에게 Chat GPT 사용을 허용하고 오히려 이를 의무화하면서 AI와 인간의 협력을 강조하고 있습니다. AI 시대에 인간과 기술의 공존을 모색하는 데 있어 중요한 지침을 제공하려고 노력하는 분 중에 한 분입니다. 

줄거리

이 책은 먼저, 현재 인간의 삶에 개입하기 시작한 AI는 어떤 기술이며 유익한 점과 위험요인이 무엇인지를 소개하고 이젠 공존할 수 밖에 없는 AI를 인간의 삶 속에서 어떻게 활용해야 할지에 대한 원칙들을 1부에서 제시합니다.

이제까지 기술은 인간의 신체능력을 지원하거나 복합한 일 처리를 지원하는 기술 개발에 집중했습니다만 드디어 Gen AI 라는 기술을 통해 인간의 지적역량을 향상시키는 기술개발에까지 이르렀습니다. 이렇게 발전한 AI 기술은 인간에게 도움을 주기도 하지만 인간을 위협하는 위험 요소가 될 수 있는 가능성이 충분하기 떄문에 AI 정렬이라는 개념이 필요한 상황입니다. 

*AI 정렬: AI시스템을 인간이 의도한 목표, 선호도, 윤리적 원칙에 맞게 조정하는 것을 뜻함. AI가 인간에게 해를 끼치지 않고 도움이 되도록 만드는 것

이제 우리는 이 기술의 발전을 외면할 수 없는 상황에 살고 있습니다. 그렇다면 어떻게 해야 할까요? 작가는 아래와 같이 4가지 원칙을 소개했습니다.

(1) 작업할 때 항상 AI를 초대한다

(2) 인간의 판단과 전문성이 반드시 포함되도록 주요 과정에 계속 개입한다 

(3) AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려준다

(4) 현재의 AI가 앞으로 사용하게 될 최악의 AI라고 생각한다 단지 시작에 불가하다

2부에서는 본격적으로 AI가 인간의 삶에 어떻게 영향을 미치고 있는지 구체적인 역할자들로 정의하여 설명하고 있습니다. AI를 편의성을 위해 단순하게 사용하는 수준에서 넘어서서 사람처럼 대하는 것, 기존의 Software와 다르게 학습한 데이터를 기반으로 창작을 하는 AI, 인간이 수행하는 업무를 같이 하는 동료로서의 AI, 교사로서의 AI, 인간의 작업물에 대한 적절한 피드백, 조언, 논의를 할 수 있는 코치로서의 AI 를 통해 인간이 어떻게 AI와 공존해야 할지에 대해서 작가 나름의 제안을 하고 있습니다.

책을 읽고 느낀점

(1) AI 의 정렬, 난제

Chat GPT가 처음 등장했을 때, 우리는 AI의 실수와 오답 - 이른바 ‘할루시네이션’ - 을 우스갯소리처럼 이야기하고 했습니다. 기술적으로는 이러한 오류를 줄이기 위한 다양한 시도들이 이어지고 있지만 이 책을 통해 더 근본적으로 제시하는 문제는 ‘AI 정렬(Alignment)’인 것 같습니다.

*할루시네이션(Hallucination: 환각) : 정확하지 않거나 사실이 아닌 조작된 정보를 생성하는 것을 의미

AI 정렬이란 단순히 정보를 정확하게 제공하는 수준을 넘어서서, AI가 무엇이 윤리적이며 무엇이 옳은 것이고 어떤 것은 잘못된 것이고 위험적인 것인지를 인식시키고 정렬시키는 것입니다. 하지만 이것이 가능할까? 라는 생각이 듭니다. AI를 훈련시키는 인간들조차도 시대와 사회, 문화, 이해관계에 따라 옳고 그름에 대한 판단이 다르기 때문입니다.

어떤 것이 윤리적인지, 옳은지 말하기 어려운 지금 현대 시대에 어떻게 Gen AI 기술에 접목시킬 수 있을까요? 예를 들어, 인종이나 성별에 대한 편견이 섞여 있는 데이터들, 국가와 지역에 따라 다르게 해석되는 가치관들, 그리고 시대에 따라 바뀌는 윤리적 기준들을 어떻게 ‘정렬된 기준’으로 AI에게 가르칠 수 있을까요?

AI는 그동안 인간들이 생성시킨 방대한 데이터들을 학습하여 그 학습된 데이터를 기반으로 대답을 합니다. 결국 그 데이터가 담고 있는 불완전성과 편향까지 함꼐 학습하게 됩니다. 이처럼 AI의 판단 기준을 잡는 일은 단순히 기술적인 문제가 아니라 철학적이면서 사회적인 합의가 필요한 복잡하고 복합적인 과제라는 생각이 듭니다. .

(2) AI 시대, 인간에게 필요한 새로운 역량

AI가 빠르게 발전하는 시대, 사람들은 종종 묻습니다.

“AI 때문에 내 일자리는 사라질까?”

“AI가 모든 걸 대체하면 인간은 무얼 해야 하지?”

이 책은 이 질문에 대해 ‘AI와 인간이 공존’하는 것으로 설명합니다. AI는 직업을 통째로 대체하지는 않지만 업무의 일부를 효율적으로 수행할 수 있습니다. 직업은 여러 개의 단위 업무로 이루어져 있기 때문에 어떤 업무를 AI가 하고 어떤 업무를 인간이 할 지, 결국 협업과 공존이 답이라는 것입니다.

한편으로는 기술이 아무리 발전해도 인간의 창의성을 대체할 수 없다고 생각했던 것들도 흔들리고 있습니다. Gen AI는 창의적인 글을 쓰고, 그림도 그리고 음악도 작곡합니다. 이제 인간은 AI보다 더 ‘창의적이어야 한다’는 새로운 과제를 떠안게 된 상황입니다.

이제 사람은 어떻게 일을 해야 할까요? 그리고 어떤 역량을 갖추어야 하는 것이 맞을까요?

이 상황에서 오히려 인간에게 요구되는 역량은 점점 더 복잡해지는 것이 아닐까 하는 생각이 듭니다.

인간이 AI가 하는 일을 감독하고 판단하고 개입할 수 있어야 한다고 했는데 그러기 위해서는 어떤 역할과 역량을 이제는 갖추어야 하는 것일까요?

오히려 방대한 정보와 데이터를 읽고 해석하여 AI가 답한 것들을 판단할 수 있어야 하고, AI가 제대로 된 답을 내놓을 수 있도록 정확하고 명확한 질문을 제시할 수 있어야 하며 데이터의 흐름과 정보를 이해하고 비판적으로 해석할 수 있는 능력도 필요해옵니다. 

이런 역량은 결국 더 깊이 있는 학습과 넓은 범위의 전문성을 요구합니다. 그렇다면 우리는 앞으로 더 많은 공부를 해야만 하는 것인가요? 아니면 공부의 방식 자체를 AI와 함께 다시 새롭게 고민해봐야하는 것일까요? 고민만 더 늘어납니다.

* Chat GPT를 통해 생성한 이미지

결국 『듀얼 브레인』은 단순한 기술서가 아니라, 우리가 AI와 함께 ‘어떻게 살아갈 것인가’를 묻는 책이었습니다. 지금 우리가 해야 할 일은 정답을 찾는 것이 아니라, 더 나은 질문을 던질 수 있는 인간이 되는 것일지도 모르겠습니다.