ChatGPT, 그 이후

Tech Trend

ChatGPT, 그 이후

sarahkim 2023. 2. 23. 10:00

시작하며

본 포스팅은 2023년 2월 3일, 카카오엔터프라이즈 기술전략팀에서 세미나를 진행했던 내용을 요약하고 있습니다.

작년 11월 30일 OpenAI가 ChatGPT를 공개한 이후, ChatGPT의 일 사용자가 5일 만에 100만 명을, 40일 만에 1천만 명을 넘겼고, ChatGPT 관련된 기사가 쏟아져 나왔습니다.
그림 1(왼쪽)을 보면, ChatGPT가 얼마나 무서운 속도로 사용자를 끌어모으고 있는지 알 수 있는데요. 서비스 사용자가 100만이 되기까지 걸린 시간을 유명 서비스와 비교해 보면, 넷플릭스는 3.5년, 페이스북은 10개월, 그리고 인스타그램은 2.5개월이 걸렸습니다. 하지만, ChatGPT는 이 수치를 단 5일 만에 넘어섰습니다.
그림 2(오른쪽) 그래프는 ChatGPT 론칭 이후 같은 기간 동안 인스타그램 사용자와 ChatGPT 사용자 수를 비교한 그래프입니다. 인스타그램과는 비교도 안 될 정도로 빠르게 사용자가 늘고 있으며, 잠깐 반응하고 끝난 것이 아니라 최근까지도 계속해서 사용자가 늘어난 것을 확인할 수 있습니다.

[그림 1] (왼) 유명 서비스 사용자 100만 명 돌파하는데 걸린 시간 (오) 같은 기간 동안 ChatGPT와 인스타그램 사용자 수 (출처: Statistia, similarWeb, ARK Invest)

2016년 11월 딥마인드사의 알파고가 이세돌을 이겼던 세기의 대결 이후, 두 번째 빅 웨이브가 온 것으로 평가받고 있는데요. 사실 ChatGPT 이전에 공개된 GPT-3도 많은 주목을 받았으며 초거대 모델 유행을 불러왔지만, 이 정도로 조명을 받지는 못했습니다. 그렇다면 도대체 ChatGPT는 어떤 특별함이 있길래 이렇게 많은 관심을 받고 세상을 뒤흔들고 있을까요?
이번 포스팅에서는 카카오엔터프라이즈 기술전략팀에서 ChatGPT를 간단하게 소개해 드리려고 합니다. ChatGPT가 무엇이며 기존 기술과 어떻게 다른지, 빅테크 기업들이 이에 어떻게 대응하고 있는지, 그리고 다양한 활용 사례도 알아보겠습니다. 그리고 ChatGPT의 미래와 카카오엔터프라이즈 기술전략팀에서 보고 있는 2023년 AI 시장의 전망도 공유해 보겠습니다.

ChatGPT에 관하여

ChatGPT는 사람처럼 대화를 주고받을 수 있는 OpenAI의 최신 자연어 처리 모델입니다. 좀 더 자세히 설명하면, 개방형 도메인 대화를 위해 특별히 설계된 GPT-3.5(InstructGPT)에 기반한 모델입니다. 말이 좀 어려운데요. 개방형 도메인 대화 모델이란 주제에 상관없이 대화가 가능한 모델을 의미하고, GPT는 사전 학습된 트랜스포머 기반 생성 모델을 의미합니다.
ChatGPT는 인간 언어의 뉘앙스를 학습하고 현실적인 응답을 생성할 수 있으며, 간단한 문의뿐만 아니라 몇 번에 걸쳐 대화를 주고받는 시나리오까지 처리할 수 있습니다. 이렇게 텍스트로만 설명하면 정확히 ChatGPT가 어떤 건지 전혀 와 닿지 않으실 것 같아서, 제가 직접 시연해 보는 영상을 준비해 봤습니다.

ChatGPT는 무엇이 달라졌는가

[영상 1] ChatGPT 시연 영상 (한글로 질문하면 다소 답변이 오래 걸려 4배속된 영상. 영어로 사용할 경우 훨씬 빠른 속도로 답변을 받을 수 있음)

이전에도 GPT-3 모델이나 다른 자연어 모델이 많이 있었는데, 무엇이 달라져서 이렇게나 GhatGPT가 이슈가 되고 있는지 궁금하신 분도 계실 텐데요. 기존 자연어 모델과 ChatGPT 간에는 많은 차이점이 있지만, 가장 중요하다고 생각되는 차이점을 3개로 정리할 수 있습니다.

[그림 2] ChatGPT가 다른 자연어 모델과 다른 주요 차이점 3가지

그럼 각각의 차이점에 대해 좀 더 자세히 살펴보겠습니다.

(1) 대화형 질문을 이해하고 결과물 생성

우선 가장 중요한 차이점은 대화형으로 질문이 가능하며 주문한 대로 원하는 결과물을 생성한다는 것입니다.

기존 GPT-3의 경우, 대화가 아니라 태스크에 대한 설명과 원하는 결과가 빈칸으로 만들어져 있는 형태의 프롬프트를 적절하게 입력해야 합니다.
그림 3(왼쪽)의 예시처럼 ‘치즈’라는 영어 단어를 프랑스어로 번역하고 싶으면 “Translate English to French”라고 태스크에 대한 설명을 하고 “cheese =>”라는 프롬프트를 입력하면 프랑스어로 cheese를 답변해서 빈칸을 완성하는 방식입니다.
하지만 ChatGPT는 오른쪽의 예시처럼 “cheese를 프랑스어로 번역해 줘"라고 질문하면 번역을 해줍니다.
만약 GPT-3에게 대화 방식 질문에 대한 답변을 받고 싶다면 왼쪽의 대화 예시처럼 아래의 요소들을 모두 입력해야 합니다.

• 대화하는 태스크임을 설명하는 문장
• 답변을 할 AI assistant의 특징(페르소나)에 대한 설명
• 대화를 주고받는 예시, 질문 내용과 “AI :”

반면 ChatGPT는 그림 3(오른쪽)처럼 바로 원하는 메시지를 전송해 대화할 수 있습니다.

(2) 대화 내용을 기억하고 맥락에 맞게 답변

ChatGPT의 두 번째 중요한 차이점은 대화의 내용을 기억하고 맥락에 맞는 답변을 할 수 있다는 것입니다.

처음에 제가 ChatGPT를 간단히 설명해 달라고 요청하고, 그다음에는 “데이터 사이언티스트를 위해 좀 더 자세히 설명해 줘”라고 요청을 했는데요, 두 번째 물어볼 땐 이전 대화의 주제를 생략하고 질문을 했는데도 전혀 문제없이 답변이 가능했습니다. 심지어 다른 배경지식을 가진 대상임을 이해하고 거기에 맞는 답변까지 생성했습니다.
이렇게 여러 단계에 걸쳐서 대화를 진행하면서 점점 발전된 대화를 진행하는 것까지도 가능합니다.

(3) 잘못된 정보를 지적

세 번째 차이점은 잘못된 정보를 지적하고, 비윤리적인 질문에 대한 답변을 회피할 수 있다는 것입니다.
아래 내용은 제가 GPT-3와 ChatGPT에게 “콜럼버스가 2020년 미국에 도착했을 때에 대해서 얘기해 줘”라고 요청한 예시입니다.

GPT-3는 마치 콜럼버스가 2020년에 미국에 도착했던 것처럼 얘기하고 있지만, ChatGPT는 콜럼버스가 15~16세기 사람이며 미국에 간 적이 없다고 지적하고 있습니다.
아래는 비윤리적 질문에 대한 예시인데요, 다른 사람을 어떻게 해칠 수 있느냐고 물어보자 GPT-3는 때리고, 밀고, 발로 차고, 펀치를 날리라고 하지만 ChatGPT는 사람을 해치는 것은 나쁜 행동임을 지적하고 있습니다.

잘못된 정보를 판별할 수 있는 능력과 비윤리적 질문에 대한 답변을 회피하는 것은 대화형 AI 서비스에서 가장 중요한 요소 중 하나입니다. 하지만 아직 ChatGPT에도 한계가 있어서, 앞으로 OpenAI는 이 기능을 강화한 모델 개발에 초점을 맞출 것으로 예상됩니다.

ChatGPT는 어떻게 문제를 해결했는가

그렇다면 ChatGPT는 어떻게 GPT-3가 가진 문제들을 해결했을까요?
바로 대화 모델의 실제 목표와 학습에 사용하는 목적 함수의 불일치 문제를 해결하여 사람처럼 대화할 수 있는 모델을 개발한 덕분인데요.

❗ 문제의 원인 : GPT-3의 학습에 사용되는 목적 함수

[그림 7] Next Token Prediction 학습 방법 (출처 : Alammar, J 블로그)

기존의 GPT 모델은 입력으로 들어온 텍스트 코퍼스 다음에 어떤 단어가 올지 예측하는 Next Token Prediction 학습을 진행
이렇게 학습을 진행할 경우 문장을 완성하는 것이 목표기 때문에 사람과 대화하는 것처럼 인터랙션 할 수 없음
GPT-3가 빈칸을 채우는 형태의 프롬프트 엔지니어링이 필요한 이유가 바로 이 학습 방식 때문

반면 ChatGPT는 사람의 피드백에 기반한 강화학습을 통해 사람처럼 답변할 수 있도록 학습을 진행했습니다.
사람 피드백 기반 강화학습을 쉽게 설명해 드리자면, 모델이 질문을 받고 생성한 답변이 사람이 답변한 것처럼 보이면 높은 점수를 주고 자연스럽지 않은 답변을 하면 낮은 점수를 주는 방식으로 피드백을 통해서 학습을 진행하는 방법입니다.
여기서 학습 방법의 이름에 “사람의 피드백”이란 단어가 들어간 이유는 모델의 답변이 “얼마나 사람 같은지” 평가하는 보상 모델이 있는데, 이 모델이 마치 사람이 한 것처럼 평가할 수 있도록 사람의 평가 데이터로부터 학습했기 때문입니다.
OpenAI가 공개^[각주:1]한 자료에 따르면 ChatGPT의 학습은 3단계를 통해 진행했다고 합니다.

📌 어떻게 문제를 해결했는가? Reinforcement Learning from Human Feedback(RLHF) [1]

Step 0. Pretraining

GPT-3처럼 언어모델을 대용량의 학습데이터에서 사전학습
ChatGPT는 추가로 사람이 만든 입력 프롬프트 데이터로 fine-tuning 시킴

Step 1. Supervised Fine-tuning

데이터셋에서 프롬프트를 샘플링하고, 사람이 직접 적절한 답변을 작성한 데이터 수집
사전학습된 언어 모델을 사람 답변 문장을 수집한 데이터셋으로 지도학습 진행

Step 2. Training reward model

프롬프트를 샘플링하고 앞에서 학습한 언어모델을 통해 같은 입력에 대해 k개(4~9개)의 결과물을 생성
사람이 k개의 결과물에 대해 순위를 매김 (상대적 비교 방식)
랭킹 데이터를 사용해서 (입력 프롬프트, 모델이 생성한 문장)을 입력으로 받으면 점수를 출력하는 보상 모델을 학습 (k개 결과 문장 중 두 문장 선택하여 두 문장 중, 어느 문장이 더 선호되는지 학습)

Step 3. Reinforcement Learning with PPO algorithm

2단계에서 지도 학습한 언어모델을 강화학습 알고리즘으로 추가 학습(fine-tuning) 진행
언어모델이 프롬프트를 입력으로 받으면 결과 문장 생성 → 보상 모델이 입력 프롬프트와 결과 문장을 평가하여 점수 계산 → 언어모델이 받은 점수를 이용해 더 높은 점수를 받을 수 있도록 언어모델을 업데이트
ChatGPT에서는 PPO(& PPO-ppx) 알고리즘을 사용

참고) RLHF로 학습된 주요 언어모델

OpenAI : ChatGPT, InstructGPT(GPT-3.5)
DeepMind : Sparrow, SFT-Utilitarian model
Anthropic : Claude

빅테크 기업의 ChatGPT 대응 현황

ChatGPT 날개를 단 Microsoft

먼저 OpenAI와 긴밀한 협업 관계를 유지하고 있는 마이크로소프트부터 설명드리겠습니다.
마이크로소프트는 올해 1월 23일, 앞으로 수년간 OpenAI에 100억 달러, 약 12조 3500억 원 규모의 금액을 투자할 계획이라고 발표했으며^[각주:2]OpenAI 서비스를 Azure가 독점 제공하고, ChatGPT를 MS의 기존 서비스에 융합해 새로운 기능을 선보일 것이라고 발표했습니다. 사티야 나델라 CEO는 CES 2023에서 “AI는 윈도우에서 하는 모든 작업의 방식을 말 그대로 바꿔놓게 될 것” 이라고까지 말했습니다^[각주:3].

💡 Microsoft가 공개한 ChatGPT 활용 계획

Microsoft는 ChatGPT를 검색 엔진인 Bing에 적용할 것이라고 발표, Bing이 새로운 검색 서비스로 탈바꿈해서 구글 검색의 대항마가 될 것을 예고
또한 Word, Outlook 및 PowerPoint를 포함한 Office 생산성 기술 제품군에 통합하여 업무 환경을 혁신할 것이라는 오피스 전략 발표
Azure 클라우드에서 OpenAI의 최신 모델을 사용해 서비스를 개발할 수 있는 Azure OpenAI Service에 ChatGPT API도 공개 예정

비상사태에 돌입한 Google

구글은 현지시간으로 작년 12월 21일 ChatGPT에 대응하기 위해 CEO 순다르 피차이가 사내 위기 경고인 코드 레드(code red)를 발령했습니다^[각주:4]. 2019년에 경영에서 물러난 창업자들까지 복귀해서 대응책 마련을 위한 비상 대책 회의까지 가졌는데요. 구글은 ChatGPT가 기존의 검색 방식을 근본적으로 바꿔 자사의 검색 엔진 사업에 대한 거대한 위협이 될 것으로 보고 있습니다.

💡 Google의 ChatGPT에 대한 대응책

2023년 1월 20일, 5월에 열릴 Google I/O 행사에서 올해 자사의 검색 챗봇 데모를 포함하여 20개 이상의 AI 제품을 론칭할 예정이라고 발표
같은 날 오전, Google은 12,000명을 해고하고, 가장 중요한 영역인 AI에 집중할 것이라고 발표
Google의 유력한 ChatGPT 후보로 자회사 DeepMind의 Sparrow 델이 언급되고 있으며, 최근 타임지와의 인터뷰에서 DeepMind CEO가 2023년 중 프라이빗 베타로 론칭할 계획이라고 밝힘

이외에 아마존의 반응도 조사해 봤는데요. 아마존은 아직까지 공식적으로 대응을 내놓지 않아서 아직은 지켜봐야 하는 상황입니다.

ChatGPT 활용 사례

ChatGPT가 공개된 이후 벌써 다양한 방법으로 활용되고 있는데요. 유용하게 사용해 볼 수 있을 만한 사례 몇 가지를 소개해 드리도록 하겠습니다.

검색 엔진 + ChatGPT

[영상 2] ChatGPT for Google 시연 영상

첫 번째 사례는 크롬 익스텐션으로 공개된 ChatGPT for Google입니다. 기존의 검색 페이지에서 ChatGPT의 답변을 같이 볼 수 있는 크롬 익스텐션인데요. 영상처럼 구글에서 검색을 하면 검색 쿼리에 대한 ChatGPT의 답변을 검색 페이지 오른쪽 여백에 같이 보여주는 앱입니다.
구글에 테트리스 게임을 파이썬 코드로 원한다고 검색하니 ChatGPT가 파이썬 코드를 작성해주고 있습니다. 구글뿐만 아니라 빙, 야후, 네이버 등 여러 검색 엔진에서 모두 지원하며 ChatGPT 서비스에 로그인하면 바로 이용할 수 있습니다.

Quora의 대화형 답변 서비스 Poe

다음은 미국의 질의응답 서비스인 Quora의 사례입니다. Quora는 사용자 커뮤니티에 질문을 올리고 다른 사용자가 질문에 답변하는 웹사이트인데요. 이번에 ChatGPT를 사용한 대화형 답변 서비스 Poe를 공개하였습니다.

질의 응답 사이트의 가장 큰 문제는 질문을 하면 다른 사용자의 답변이 달릴 때까지 기다려야 하고, 심지어는 답변이 안 달릴 수도 있습니다. AI 서비스인 Poe에게 질문을 하면 즉시 답변을 받을 수 있어서 큰 편의를 제공하고 있습니다.

Zapier 워크플로우에 ChatGPT 연동

다음 사례는 노코드 자동화 툴인 Zapier입니다. Zapier는 다양한 업무 툴과 서비스를 연결하고 반복적인 업무를 자동화해 주는 서비스로 약 5,000개 이상의 툴과 서비스 연동을 지원하고 있습니다. 이러한 Zapier에서 이제는 ChatGPT와의 연동도 지원한다고 합니다.
Zapier 사이트에 들어가면 다양한 ChatGPT 연동 예시를 볼 수 있는데, 그중 두 가지를 소개해 드리겠습니다.

[그림 10] Zapier에서 제공하는 ChatGPT 활용 워크플로우 자동화 템플릿 (출처 : Zapier 홈페이지)

첫 번째는 비즈니스 이메일의 답장 초안 작성 자동화입니다. 지메일이 오면 자동으로 ChatGPT에 답장 메일 작성을 요청하고 draft를 작성해서 저장해 주는 워크플로우를 생성할 수 있습니다.
두 번째는 Jira 예시입니다. Jira에서 유저 스토리를 적은 이슈가 생성되면 인수 조건(Acceptance Criteria)을 작성해야 합니다. 이때 이슈가 생성되면 자동으로 ChatGPT에게 인수 조건 작성을 요청하고 인수 조건의 초안을 다시 이슈의 코멘트에 작성하도록 하는 워크플로우를 만들 수 있습니다.
이외에도 Zapier에서는 다양한 방법으로 ChatGPT를 활용해서 업무 효율을 높일 수 있습니다.

VSCode + ChatGPT

다음은 개발 환경에 ChatGPT를 적용한 사례로, VSCode 에디터에서 개발을 도와주는 ChatGPT 플러그인입니다. 아래에서 보시는 것과 같이 왼쪽에 ChatGPT에게 질문할 수 있는 창이 따로 있어서 구현하고 싶은 코드를 요청하면 ChatGPT가 생성하는 코드를 바로 볼 수 있습니다. 또한 이미 작성된 코드 일부분을 드래그해서 코드 설명을 요청하거나 리팩토링도 요청할 수 있습니다.

지금까지 ChatGPT의 다양한 활용 사례를 살펴보았습니다. 이번 스터디를 진행하면서 ChatGPT와 비슷한 AI 모델을 활용한 서비스들도 찾을 수 있었는데요. 자세한 내용은 부록. ChatGPT 외의 자연어 생성 모델 활용 사례에 정리해 두었으니, 관심있으신 분들은 참고하시면 좋을 것 같습니다.

ChatGPT, 그 이후

지금까지 ChatGPT의 다양한 활용 사례를 살펴보았습니다. 많은 분들이 ChatGPT가 어떤 변화를 가져올지 궁금해하실 것 같아서, ChatGPT가 큰 변화를 가져올 것으로 예상되는 분야 2개와 저희가 생각하는 2023년 AI 시장 전망을 간략히 소개해 드리도록 하겠습니다.

검색의 미래

ChatGPT가 등장하고 가장 많이 거론되는 얘기는 검색의 변화와 구글의 위기입니다. ChatGPT가 현재 검색 기술을 위협하는 이유는 검색의 패러다임이, “필요한 정보를 데이터베이스에서 찾는 것”에서 “질문하면 원하는 답을 바로 얻는 것”으로 바뀔 수 있기 때문입니다.
사용자들은 웹사이트 링크 100개를 원하는 게 아니라 답 하나를 원합니다. 때문에 ChatGPT가 앞당겨온 검색의 미래는 검색이 사라지고 질문에 대한 결과만 나오는 모습이 되지 않을까 싶습니다.
이와 관련해서 구글이 왜 위기인지, 구글도 AI를 잘하니 빨리 따라잡으면 되는 게 아닌가 의문이 들 수 있는데요. 구글은 섣불리 새로운 검색을 받아들일 수 없습니다.
그 이유는 구글의 비즈니스 모델이 지나치게 광고에 의존하고 있기 때문입니다. 실제 21년 기준 구글의 광고 수익이 전체 매출의 81%를 차지했으며^[각주:5], 이러한 광고 모델은 검색에 기반하고 있습니다. 구글 광고 모델은 검색을 했을 때 검색 결과와 관련된 내용 광고를 보여주는 애드워즈와 검색을 통해 들어간 블로그나 홈페이지에 구글 광고를 게재하는 방식인 애드센스 모델이 있습니다. 검색이 더 이상 링크를 보여주는 것이 아니라 원하는 답만 알려주는 방식으로 바뀌게 된다면 이러한 광고 비즈니스 모델이 설 자리를 잃게 됩니다.
때문에 검색의 미래를 구글이 쫓아간다 하더라도 핵심 비즈니스 모델인 광고 모델을 파괴하게 되어 구글은 딜레마에 빠진 상황입니다. 구글이 크롬을 비롯해 지금까지 많은 파괴적 혁신을 해왔지만, 자사의 핵심 사업을 파괴해야 하는 상황에서도 잘 해낼 수 있을지는 지켜봐야 할 것입니다.

업무 효율을 높여주는 AI Assistant

검색 다음으로 ChatGPT가 바꿀 것으로 기대되는 분야는 업무 생산성 툴입니다. 앞에서 이야기해 드렸듯이 MS Office, Notion AI 등 다양한 툴에 ChatGPT와 같은 AI 자연어 생성 모델이 적용되고 있습니다. 또한 Copilot, VSCode처럼 개발 환경에서도 변화를 일으키고 있습니다.
앞으로는 AI 기술이 단순히 번거로운 작업만 줄여주는 게 아니라 아이데이션부터 결과물 제작까지 모든 과정을 지원하게 되어 업무 생산성을 크게 높여줄 것으로 기대됩니다.
한편 업무 생산성을 얘기했을 때 가장 많이 받은 질문이 “AI가 사람을 얼마나 대체할까요?”입니다. 여기서 말씀드리고 싶은 점은 먼 미래는 모르겠지만, 적어도 가까운 미래에서는 AI가 사람을 대체하는 게 아니라 사람을 도와주는 어디까지나 Assistant가 될 것이라는 점입니다.
ChatGPT에 오기까지 AI 기술이 정말 많이 발전했으나 아직 실전에 바로 적용하기엔 많은 결함이 있습니다. 앞에서 보여 드린 예시 대부분은 AI가 업무를 수행하고 자동으로 끝내는 게 아니라 초안을 작성하는 것이었습니다. AI가 생산성 툴에 적용되면 사용자는 짧은 시간 안에 더 많은 결과물을 내거나 높은 수준의 결과물을 만드는 데 집중할 수 있게 될 것입니다.

2023년 AI 시장 전망

끝으로 2023년 AI 시장 전망을 이야기해 드리고 마치도록 하겠습니다. 우선 ChatGPT가 공개된 이후로 주요 AI 기업들의 AI 모델 공개 방식이 바뀌고 사이클이 단축되고 있습니다.
다른 기업들은 논문으로만 공개하거나 블로그에 영상을 올리는 수준으로 공개해 왔는데 OpenAI는 누구나 쉽게 사용해 볼 수 있는 UI와 쉽게 가져다 쓸 수 있는 API를 제공하는 방식으로 큰 영향력을 끼쳤습니다. 다른 빅테크 기업들도 OpenAI처럼 공개하는 방식을 준비하고 있고, 기존에 만들어둔 모델들을 서비스로 오픈하기 위해 준비 중입니다.
ChatGPT 공개 이후 얼마 안 되어서 MS는 TTS 모델인 VALLE를, 구글은 음악 생성 모델인 MusicLM을 공개하였고, 최근 OpenAI에서는 특정 문장을 AI가 생성한 문장인지 판별해 주는 AI Text Classifier를 공개했습니다. 짧은 기간 안에 다양한 모델들이 연이어 출시되고 있으며, 올해에는 GPT-4도 공개될 것으로 예상되어 새로운 모델 발표 경쟁이 불붙을 것으로 예상됩니다.
두 번째로는 데이터센터향 AI 반도체 시장의 성장입니다. 작년까지만 해도 초거대 모델의 서비스 적용이 쉽게 풀리지 않으면서 AI 기술이 전반적으로 인기가 식어가고 있었는데요. ChatGPT가 등장하면서 다시 불이 붙었습니다.
다만, 이전에는 AI의 활용처 찾기에 혈안이 되어있었다면, 이미 ChatGPT를 통해 가능성을 본 빅테크 기업들은 앞으로 비용 줄이기에 집중할 것으로 예상됩니다.
ChatGPT 같은 초거대 AI 모델을 학습하거나 서비스를 운영할 때, GPU는 너무 많은 전력을 소모하고 가격 또한 비싸서 큰 비용이 드는데요. 기사에 따르면 ChatGPT의 운영비용이 하루에 10만 달러, 월간 300만 달러(약 37억 원) 정도가 예상^[각주:6]된다고 합니다. ChatGPT 같은 거대 모델로 서비스를 운영하기 위해서는 반드시 인프라 차원에서 비용을 낮출 필요가 있는데, 이에 대한 대안으로 주목받는 기술이 바로 AI 반도체입니다.
저전력 고효율로 거대 모델을 서빙할 수 있으며 비용도 저렴한 데이터센터향 AI 반도체를 통해 초거대 모델의 학습과 추론 비용을 크게 줄일 수 있을 것으로 기대되어 AI 반도체 시장이 크게 성장할 것으로 전망합니다.

마치며

이번 포스팅에서 다룬 내용은 ChatGPT 관련된 이슈의 일부분에 해당합니다. ChatGPT가 영향을 끼친 범위가 너무나도 넓어서 아직 얘기하지 못한 이슈들도 많이 있습니다. ChatGPT에 대해 너무 많은 소식이 쏟아져 나와서 쫓아가기 어려웠던 분들도 계실 텐데요. 이번 포스팅을 통해 이해한 내용을 바탕으로 앞으로의 소식을 보다 쉽게 이해하고, 관련한 다양한 논의를 할 수 있게 되면 좋겠습니다.
앞서 ChatGPT의 좋은 점과 앞으로 펼쳐질 밝은 미래 위주로 얘기했지만, ChatGPT에는 아직 문제가 많이 있다는 점을 기억해야 합니다. 대표적으로 AI 모델이 정답이 아니면서도 그럴듯한 답변을 하는 할루시네이션(Hallucination) 현상을 들 수 있습니다. 이러한 현상이 발생하는 이유는 생성 모델이 정확한 메커니즘을 이해하고 답변하는 것이 아니라, 기존 데이터에 기반해 가장 정답일 확률이 높은 답변을 생성하기 때문입니다.
또한 ChatGPT가 가져온 어두운 면도 많이 있습니다. 이미 미국 대학에서는 과제를 ChatGPT로 작성해서 논란이 되고 있고, ChatGPT로 아무 의미가 없는 낚시성 글을 찍어내서 검색어를 장악하며, 범죄에까지 사용되고 있습니다.
기술이 가져올 미래를 정확하게 예측한다는 것은 불가능하지만, 미래를 만들어갈 순 있습니다. 이를 위해서 다양한 관점에서 ChatGPT를 바라보고 준비해야 할 것입니다. 이번 글에서 소개드리지 않은 부분들에 관해서도 관심을 갖고 찾아보시기를 추천드립니다. 감사합니다.