AI 환각의 종말! LLM의 미래? RAG란 무엇인가

(Dev + IT + )

한빛출판네트워크 8월 넷째 주 Dev

- # 이슈 픽 #Best 생성형 AI 환각의 종말? RAG로 엿보는 LLM의 미래
- # 추천 픽 #꾸욱꾹이 인간은 인공지능의 지배자로 존재할 수 있을까? ①인공지능의 머릿속 들여다보기
- # 맛IT는 녀석들 #줍줍 LY의 QA 엔지니어가 생성형 AI를 이용해 품질 활동의 생산성을 높이는 방법
  # 데브잇냥 독자탐구생활 <처음 시작하는 FastAPI> by steve 님
  # 데브잇냥 지식in 입사 1개월 차 프론트엔드 개발자의 자체 기술 온보딩 : Streaming SSR편!

이슈 픽 #Best‍

생성형 AI 환각의 종말? RAG로 엿보는 LLM의 미래

대규모 언어모델인 LLM을 활용한 챗봇, 챗GPT가 세상에 등장하고 빠르게 자리를 잡아가고 있어. 챗GPT 이후로 그것을 개발한 오픈AI, 오픈AI에 대규모 투자를 한 마이크로소프트를 비롯해 AI 학습에 필요한 GPU 기술을 보유한 엔비디아에 이르기까지 여러 방면에서 인공지능이라면 모든 것들이 핫 이슈로 떠오르고 있는 지금이야. 하지만 그런 관심의 이면에 인공지능의 여러 문제점도 지적되고 있는데, 그중에 가장 일반적으로 거론되는 것이 할루시네이션, 즉 환각 현상이야. 논리적이거나 현실적이지 않은 응답을 마치 사실처럼 만들어내는 거지.

챗GPT를 사용하는 이들은 이런 환각 현상을 가지고 여러 재미난 짤을 생성하면서 놀기도(?) 했어. 근데, 환각은 챗GPT가 거짓을 말한다기보다는 LLM이 내재하고 있는 기술적인 한계 때문에 생긴 거라고 해. 이를 보완하기 위해 많은 노력과 대안들이 제시되고 있는데, 그중 최근 자주 접하게 되는 것 중에 ‘RAG’라는 것이 있어. 바로 ‘검색증강생성’이야.

‘검색과 생성의 결합’, ‘지속적으로 업데이트되는 외부 데이터와 지식의 활용’, ‘특정 영역에 특화된 전문적이고 구체적인 지식 제공’, ‘정보 출처 제공’이란 특징을 가진 RAG와 그로 인한 LLM의 미래를 전망한 내용이 있어서 소개할게. 그간 무심결에 접해왔던 RAG란 용어가 궁금했다면 가볍게 살펴보는 것도 도움이 될 거야.

추천 픽 #꾸욱꾹이

인간은 인공지능의 지배자로 존재할 수 있을까? ①인공지능의 머릿속 들여다보기

지금의 인공지능 기술이 있기까지 얼마나 많은 고민과 시행착오, 그리고 도전이 있었는지는 다들 (정확하지는 않지만, 얼핏 느낌상으로라도…?)는 알고들 있을 거야. 근데 이쯤 되면 궁금하지 않아? 지금의 인공지능이란 것 말이야. 여러 가지 책들도, 강연도 AI에 관해 이야기하는 요즘인데, 과거부터 이어져 온 인공지능에 대한 정보를 쉽게 정리한 내용이 있어서 가져왔어. 이참에 인공지능 지식을 UP해 보자고!

초기에는 인간이 말을 하고, 글을 읽고, 그림을 보는 것에 대한 ‘수학적 모델’을 만드는 것으로 시작해. 이런 작업을 논리적으로 추론하는 컴퓨터 프로그램을 제작해 지능적 행동을 만들려고 한 거지. 근데 현실 세계의 복잡함을 다루기에 적절치 않았나 봐. 그러다 중요한 사실을 깨달았는데, 그게 바로 ‘데이터가 이론적 모델보다 더 강력할 수 있다’는 점이야. 지금에 대입해 보면 LLM 같은 데이터셋을 떠올려 볼 수 있겠지? 그렇게 소량의 통계적 학습 알고리즘과 대량의 데이터로 무장한 인공지능 기계의 세대가 뚜둔! 하고 등장이오~ 그 밖에도 “머신러닝은 불확실한 정보를 다루는 기술이므로 사람들이 좀 더 의심해야 한다”고 하는 점이나, “인간에 있어 진정한 위험은 질문하기를 포기할 때 올 것”이라고 한 점 등 지금 인공지능에 대해 고민하는 지점들을 다시금 돌이켜볼 만한 이야기들을 쉽게 풀어내고 있어. 인공지능을 이해하고 다시 이해하는 계기가 될 수 있을 거라 생각해 봄.

맛IT는 녀석들 #줍줍

재미난 소식과 알짜 정보들을 물어왔다냥

[정보] LY의 QA 엔지니어가 생성형 AI를 이용해 품질 활동의 생산성을 높이는 방법
인공지능, 생성형 AI. 이제 사용하지 않으면 나만 뒤처지는 거 같고 그렇네? 과도기인 듯, 또 도입을 고민하고 활용을 테스트하는 시도들이 이어지고 있어. 이번에 QA 분야에 생성AI를 도입한 사례가 있어서 물어왔어! 보통 QA 품질 활동을 테스트로만 한정해서 자동화 테스트나 보고서 작성에 생성AI를 도입하려는 시도가 많았고, 전반적인 QA 활동의 생산성을 높이는 방향으로는 다뤄지지 못했다지? 이번 기회에 자동화된 방법을 적용해 QA 품질 분야의 업무 효율성을 높이는 아이디어를 찾아보는 건 어때?
[정보] LLMOps를 위한 프롬프트 엔지니어링 도구 개발 경험기
한국어 검색하면 그래도 네이버 아닌가? 네이버 비즈니스 애널리틱스 팀에서 프롬프트 엔지니어링 도구를 개발한 경험을 공개했어. LLM 애플리케이션을 개발하면서 수많은 프롬프트가 쌓여갔고, 오픈 소스 LLM이나 sLLM 등 다양한 모델에 따라 파인튜닝 체크포인트도, 파라미터 조절도 고려하고 관리해야 할 것들이 많았나 봐. 그래서! 프롬프트 엔지니어링 도구를 개발해 고민을 해결했대. 개발한 도구의 소개부터, 아키텍처, 테스트, 평가에 이르기까지. 프롬프트 관리에 고민하고 있다면 살펴보길 추천함.
[뉴스] “아직 수익은 못 내지만”…미스트랄 AI 창업자가 밝힌 LLM 기업의 수익화 방안
부쩍 인공지능에 대한 높은 관심과 함께 막대하게 증가한 관련 투자 비용에 대한 우려가 들려오고 있어. 프랑스 인공지능 스타트업 미스트랄 AI도 삼성, 엔비디아 등으로부터 1조 원 가까운 투자금을 유치하며 오픈AI, 앤트로픽 못지않은 관심을 받는 곳이야. 미스트랄 창업자는 현재 수익을 창출하지 못하고 있다고 솔직히 밝히면서, 자신들의 사업 모델은 프런티어 모델을 구축해 개발자들에게 제공하는 것이라고 언급했어.
[대담] 모든 기술은 처음이 있었다 – 카카오테크가 만난 Andi Gutmans
앤디 구트만스가 한국을 방문했대. 웹 개발의 선구자로 불리는 앤디 구트만스는 PHP3를 만든 인물이기도 해. 현재 구글 클라우드 데이터베이스를 총괄하고 있는 그와 카카오 기술 총괄 정규돈 CTO가 진행한 인터뷰가 있어서 가져왔어. PHP를 만들던 과거 일화부터 빅테크 기업을 만든 원동력이 된 오픈 소스 이야기를 지나, LLM 시대의 오픈 소스와 지금의 생성AI 시대로까지 이어지는 그들의 챗이 궁금하다면 클릭.
[정보] 사내 공통 목서버로 카카오페이 테스트 진입 장벽 낮추기
‘목 서버’는 시뮬레이션용 가상의 서버를 말하는데, 카카오페이 내에는 29개 조직에서 72개의 목 서버를 사용한다고 해. 이 목 서버는 독립적인 테스트 환경을 제공해 개발 및 테스트 효율성을 높이는 역할을 한다고! 실제 카카오페이에서 사용 중인 공용 목 서버를 어떻게 만들고 제공했는지를 정리한 글이 있어. 속! 편~안한 서비스 테스트에 목말랐다면, 목 서버 사용 사례를 참고하는 것도 도움이 되겠어.