[와아앙냥냥] 독서후기 #53 듀얼브레인

▼추천도서후기 쓰는 양식

책 제목(책 제목 + 저자) : 듀얼브레인

저자 및 출판사 : 이선 몰릭 / 상상스퀘어

읽은 날짜 : 5/12 ~ 30

핵심 키워드 3가지 뽑아보기 : #AI #LLM

도서를 읽고 내 점수는 (10점 만점에 ~ 몇 점?) : 9점

LLM의 특징

텍스트 조각을 분석해서 그다음에 나올 토큰인 단어나 단어의 일부를 예측하는 식으로 작동한다.

사용자가 초기 텍스트를 입력하면, 단어 배열에서 다음 토큰이 될 여지가 가장 많은 단어를 통계적으로 계산하여 글을 이어 나간다.

LLM은 답변에 약간의 무작위 성을 가미해 사용자가 질문할 때마다 조금씩 다른 답변을 제시하도록 설계된다.

 

대다수 LLM은 사전 학습 이후 미세조정이라 불리는 추가적인 개선을 거친다.

이렇게 얻은 피드백은 AI의 추가 학습에 반영되어 인간이 선호하는 방식으로 AI의 성능이 미세조정된다.

다음 토큰이 될 여지가 많은 단어를 고르는데 있어서 높은 확률로 그럴싸하게 만들어낸다는 것이 굉장했다.

얼마만큼의 연결고리를 가지고 있으면 되는걸까,

나는 종종 캐쥬얼한 느낌으로 바꿔달라고도 요구하는 편인데,

그 요청도 제법 잘 들어줘서 유용하게 잘 쓰고 있다 ㅎ…

가장 중요한 기능은 사용자가 좋아할 만한 답을 제시해 사용자를 ‘만족시키는’ 것이다.

그리고 이 목표는 종종 정확성을 유지하는 것보다 더 중요하게 여겨진다.

 

AI를 제한하는 가장 큰 문제이자 AI의 강점이기도 한 특성이 바로 악명 높은 환각, 즉 사실이 아닌 정보를 그럴듯하게 지어내는 능력이다.

이건 좀 문제가 될 수 있는 부분인데,

가끔다가 없는 말을 지어내는게 너무 심해서 도저히 못쓰겠다 싶을 때도 있다.

내가 하는 말을 이해하지 못했음에도 불구하고 이해한 척 하고(…)

두 가지 특성을 고려해보자면 어떤 해답을 요구할 때 

(책에서도 말하듯이) 대체로 괜찮으나 정확도가 높아야하는 업무에는 문제가 있을 수 있단 건데, 

이 점이 아직까지는 완벽한 기업용/상담용 챗봇을 만드는데 한계를 가져오는 것이 아닐까 싶다.

하지만 앞으로 LLM의 발전을 기다리는 동안 우리도 준비한다는 차원에서 학습을 시키는 것이 필요하지 않을까

그리고 발췌문으로는 적지 않았는데, 확증편향에 대한 위험성도 나온다. 

위에서 적었던 것처럼, LLM은 기본적으로 사용자 만족도를 높히기 위한 방향으로 대답을 하다보니 확증편향이 강해질 위험이 존재한다.

그런 부분을 인지하고 사용해야한다는 걸 잊지 말아야 한다. (의심만 늘어간다.)

LLM 잘 쓰기

따라서 인간이 주요 과정에 계속 개입하려면, AI가 그럴듯한 거짓말을 늘어놓는 것은 아닌지 확인할 수 있어야 하며, AI에 휘둘리지 않으면서 함께 작업할 수 있어야 한다.

이때 우리는 고유한 관점, 비판적 사고 능력, 윤리적 문제에 대한 의견을 제시하면서 AI를 감독하는 중요한 역할을 맡게 된다.

이러한 협업은 더 나은 결과를 도출할 뿐만 아니라, AI의 처리 과정에 지속적으로 참여함으로써 AI에 지나치게 의존하거나 현 상태에 안주하는 결과를 피하게 한다.

주요 처리 과정에 계속 개입하는 것은 AI로부터 적극적으로 배우고, 새로운 사고방식과 문제 해결 방식에 적응하게 한다.

이는 우리 각자의 능력을 유지하고 연마하는 데도 도움이 된다.

또한 AI와 함께 실용적인 공동지능을 형성하는 데도 기여하게 된다.

 

AI에게 거의 모든 종류의 초안을 맡긴다는 것이 의미하는 바는 엄청나다.

이에 따른 잠재적인 결과 한 가지는 창의성과 독창성을 잃게 된다는 것이다.

그러면 더 나은 해결책과 통찰로 이어질 수 있는 다양한 관점과 대안을 탐색할 수 없게 된다.

또 다른 잠재적 결과는 사고와 추론의 질과 깊이가 떨어지는 것이다.

실수와 피드백을 통해 배우거나, 자신만의 스타일을 발전할 기회도 놓치게 된다.

결국 AI와 함께 일하되, 모든 일을 맡기지 말라는 것이다. (당연하지만)

얼마 전 인터넷에서 GPT가 업무 대신 해줬는데 실수해서 구멍났다는 이야기를 봤었는데 딱 이 사례이지 않나,

(근데 코딩은 대체로 최적의 답을 내주는 편, 물론 AI마다 성능 다름)

AI를 통해서 지식을 배우고 확장해 나가야지, AI가 하라는대로 그대로 하면 결국 대체되어버릴 것이라 생각한다.

그리고 생각보다 이렇게 배울 수 있는 것들이 제법 많은 편이라고 느끼는데,

내가 경험해보지 않으면 모를 업무에 대해서 굉장히 자세히 알고 있다…!

명확하고 구체적인 인격을 설정해서, AI가 누구이며 어떤 문제를 해결해야 하는지 규정해야 한다.

이러한 패턴을 깨면 훨씬 더 유용하고 흥미로운 답변을 들을 수 있다.

패턴을 깨는 가장 쉬운 방법은 맥락과 제약을 정해주는 것이다.

즉 ‘자신이 누구인지’ 말해 주는 것인데, 이렇게 하면 시스템에 일정한 관점을 제시할 수 있다.

페르소나를 지정해주는 것도 제법 효과적이다. (가끔 본인의 페르소나를 잊어버리긴 하는데)

책에서도 여러 사례가 나오는데, 이런 페르소나를 가지고서 상황극 시뮬레이션을 해보는 것도 좋은 경험이 된다.

때때로는 비판적으로 말해보라던지, 어떤 시각으로 봐보라고 요구하는 것도 꽤 효과적이다.

물론, 그것도 본인이 사고를 확장할 수 있을 때의 이야기지만.

결국 본인의 실력이 중요하다는 것.

후기

일하면서 AI 확장을 통한 효율화를 실감하는데, LLM의 원리와 특성을 이해하고 업무에 적용할 수 있었던 책이다.

물론 책에서 말한 것처럼 극반대하는 세력이 있을 수 있다.

그래도 시도해보고 앞으로 적용해나가야하지 않을까라는 생각이 든다.

업무 외적으로도 그냥 내가 GPT를 이용함에 있어서 어떻게 해야 더 잘 쓸 수 있는지 알 수 있었던 책.