[IT TREND] FMOps, LLM 시대의 AI 앱 개발 방법

들어가며 거대 언어 모델 (이하 LLM, Large Language Model)이 빠르게 기술 시장을 잠식하는 시대에 접어들며 FMOps (Foundation Model Operations)라는 방법론이 떠오르고 있습니다. 기반 모델 (Foundation Model; 줄여서 FM)이라는 용어는 2021년 8월에 스탠퍼드 대학에서 처음 사용된 만큼, 기반 모델이라는 용어를 포함하는 FMOps라는 기술 트렌드는 비교적 새롭게 등장한 기술 트렌드입니다 (LLMOps라고도 칭합니다). 현재 FMOps 시장은 활발하게 형성되고 있는 단계인 것으로 보이며, 개별적인 단계를 지원하는 플레이어들이 있는 반면에 가장 최근에는 MS와 같이 풀스택, 엔드 투 엔드 FMOps 플랫폼 구축을 시도하는 사례가 등장하고 있습니다...

[IT TREND] 자율 AI 에이전트, ChatGPT 다음의 메가트렌드?

시작하며 피자를 시켜달라고 했더니 AI가 스스로 피자를 전화로 주문하고, 스스로 자신의 코드를 리뷰하고 개선하는 AI 사례까지 등장한 오늘. 이제 사람들의 관심은 ChatGPT에서 AI 모델이 스스로 외부 툴을 활용하여 보다 적은 사람의 개입으로 더 복잡한 일을 처리해주는 'Autonomous AI Agent (이하 자율 AI 에이전트)'로 이동하고 있습니다. 자율 AI 에이전트가 주목을 받기 시작한 것은 이와 같은 프레임워크를 개발자들이 사용해볼 수 있도록 한 Auto-GPT라는 오픈소스 앱이 화제가 되었기 때문인데요. Auto-GPT는 출시한지 불과 한 달여 밖에 되지 않은 ‘실험’이지만, 한 달만에 GitHub에서 30번째로 가장 star 수가 많은 프로젝트로 등재될 정도로 많은 관심을 받고 있습니..

[IT TREND] AGI를 향한 기대와 우려

시작하며 4월에도 기술 시장 소식은 AI를 중심으로 끊임없이 이어지고 있습니다. 금주의 수 많은 소식들을 살펴보며 특히 눈에 띄었던 것은, 바로 AGI (Artificial General Intelligence)에 대하여 다루는 내용의 자료들이 부쩍 많이 보이기 시작했다는 것 입니다. AGI는 여러가지, 또는 모든 태스크를 사람과 같이 수행 할 수 있는 유형의 AI, 일명 범용AI를 일컫는 용어입니다. 이와 같은 유형의 AI가 정확히 무엇이고, 또 어떻게 실현될 수 있는지에 대한 의견은 분분한 상태이지만, 많은 가능성을 열어두며 이와 같은 수준의 AI 발전 방향성이 여러 갈래로 나뉠 것으로 예상되고 있는데요. 그럼, 아래 금주의 소식들을 살펴보며, 왜 AGI가 거론되고 있는지 살펴보고 AI의 빠른 발전에..

[IT TREND] 프롬프트 엔지니어링, AI라는 도구를 잘 사용하는 방법

시작하며 생성형 AI, 그 중에서도 특히 거대 언어 모델들을 중심으로 기술 시장은 이례없던 속도로 움직이고 있습니다. 대중의 생성형 AI에 대한 높아진 관심을 기반으로 다양한 애플리케이션 사례들이 쏟아져 나오고 있고, 이와 동시에 잘못된 정보를 사실인 것 같이 답변으로 제시하는 일명 hallucination (이하 할루시네이션)과 같은 모델의 치명적인 한계점에 대한 우려도 계속 커지고 있는데요. 이에 AI 모델로부터 더 복잡한 태스크들에 대한 정확한 답변을 이끌어내는 것을 유도하면서 할루시네이션과 같은 오류를 줄이는데 기여하는, "Prompt Engineering (이하 프롬프트 엔지니어링)"이라는 NLP (자연어 처리) 분야가 새롭게 떠오르고 있습니다. "Writing a really great pro..

서비스 개발자를 위한 컨테이너 뽀개기 (a.k.a 컨테이너 인터널)

시작하며 안녕하세요. 카카오엔터프라이즈에서 검색 서비스를 개발하고 있는 검색클라우드기술셀의 Sam(김삼영)입니다. 저는 앞으로 ‘컨테이너 인터널’이라는 주제로 글을 연재할 예정입니다. 그런데 클라우드 개발자도 아닌, 검색 기술 개발자가 왜 컨테이너를? 이라는 질문을 하실 수도 있을 것 같아요. 저는 개발자라는 본캐(본래 캐릭터)와 사내 강사라는 부캐(부가 캐릭터)를 가지고 있습니다. 몇 년 전 제가 동료 크루들과 컨테이너 스터디를 리드한 적이 있었습니다. 사실 처음에는 가볍게 시작했는데, 제가 공부한 컨테이너에 대해 알려주고 또 같이 공부한 크루들에게 잘 이해가 되었는지 확인하다 보니 스터디가 강의처럼 흘러가게 되었어요. 다행히 반응이 꽤 좋아서 다른 팀분들도 듣고 싶다고 하시더라고요. 이렇게 자연스레 ..