핸즈온 시리즈

[데브레터 코멘터리] 빠르게 변해도 흔들리지 않는 생성형 AI의 토대

구독하기

 

[데브레터 코멘터리] 빠르게 변해도 흔들리지 않는 생성형 AI의 토대

■ 편집자 코멘트: 빠르게 변해도 흔들리지 않는 생성형 AI의 토대

핸즈온 시리즈편집자 A: 제가 특히 흥미롭게 읽었던 부분은 마지막 장인 ‘생성형 AI 분야의 발전과 최신 동향’이었습니다. 앞에서 다양한 실습과 실행 예제를 보며 “오, 이렇게까지 나온다고?” 하고 놀랐다가, 마지막 장에서는 지금의 기술 흐름이 어떤 과정을 거쳐 발전해왔는지를 자연스럽게 정리할 수 있었습니다. 지금 우리가 사용하는 도구나 모델들이 단순히 눈앞에 뚝 떨어진 게 아니라, 어떤 문제의식과 시도 끝에 발전해온 결과물이라는 걸 알게 되니, 앞서 배운 실습들도 더 입체적으로 이해되더라고요.

단순한 요약처럼 보일 수도 있지만, 앞 장부터 차근차근 따라 읽다 보면 저자들이 이 책을 어떤 방향으로 이끌고자 했는지 그 의도가 잘 느껴집니다. 기술의 ‘사용법’만이 아니라, 그 배경과 흐름까지 함께 짚어주는 마지막 장 덕분에 책 전체가 잘 정리되고, 독자도 자신이 지금 어디쯤 와 있는지 돌아볼 수 있게 해주는 구성이라 개인적으로도 특히 인상 깊었습니다.

더불어 편집 과정 내내 마음에 남았던 건, 저자 중 한 명인 오마르 산세비에로가 남긴 글이었습니다.
“이 책을 쓰면서 가장 어려웠던 점 중 하나는…”


■ 데브심층탐구

    • [정보] 생성형 AI를 잘 쓰려면 꼭 알아야 할 프롬프트의 다섯 가지 원칙
      AI한테 뭘 시킬 때 혹시 이렇게 프롬프트를 쓰고 있는 사람 있어? 설명 명확하게 안 하고, 응답 형식도 안 정해주고, 예시는 빼먹고, 품질 평가는 생각도 안 하고, 심지어 한 번에 모든 일을 다 해달라고 요청하는 식으로 말이야. (나도 그래) 우리 모두 AI를 쓰고는 있지만, 사실 AI한테 똑 부러지게 일을 시키는 방법은 잘 모르고 있는 경우가 많지 않나 싶어. 그런데 말이지, 중국 바이두의 CEO 로빈 리가 “10년 후 전 세계 일자리의 절반이 프롬프트 엔지니어링 분야에서 창출될 것”이라고 이야기했을 만큼, 생성형 AI 활용에서 ‘프롬프트 엔지니어링’이 정말 중요해. 그래서 이 글을 준비했어. AI한테 일을 시켰다가 오히려 수정하는 데 더 많은 시간이 걸린다면 꼭 읽어봐야 할 거야! 나도 다시 읽어보고 올게 (;・∀・)

    • [정보] 우리 팀에도 Jarvis 가 생겼다 – 생성형 AI로 만든 에러 분석가 이야기
      컬리 딜리버리프로덕트팀에는 자비스같은 AI 에러 분석가가 있대! 개발자들이 에러 로그 분석하느라 시간 낭비하는 걸 보고, 이걸 AI로 자동화시킨 거지. 물론, 처음부터 AI가 원하는 답을 척척 내놓진 않았나봐. 이에 컬리 팀 역시 ‘프롬프트 작성을 위한 다섯 가지 규칙’을 정하고, 그 규칙에 맞춰 AI에게 질문했더니 점점 숙련된 ‘시니어 개발자’처럼 똑똑하게 대답하기 시작했대. 거기에 MCP도 도입해서 팀원들과 함께 해결 방안을 논의하는 진정한 개발자의 모습을 갖추게 되었다고 해.

    • [뉴스] 오픈소스 생태계, 생성형 AI로 저변 확대
      IT의 발전에는 언제나 오픈소스가 함께 해왔지. 생성형 AI도 마찬가지야. 특히 AI 모델에게 중요한 요소들이 오픈소스의 핵심 가치인 ‘개방’과 ‘협업’ 정신과 맞닿아 있어 더 그런 것 같아. 더불어 오픈소스 생태계도 생성형 AI로 인해 많은 변화가 감지되고 있대. AI 툴을 활용해 다각적인 관점의 아이디어와 코드 생산 가능성이 올라가면서 오픈소스의 저변이 확대되고 있지. 오픈소스 전략 또한 시대에 맞춰 인프라 수준의 활용에서 AI 모델, 학습 데이터셋, AI 개발 프레임워크 등으로 이동하고 있고 말야. AI 시대의 오픈소스에 대해 더 궁금하다면 이 글을 읽어보는 걸 추천할게.

    • [경험담] 해커톤 경험을 통해 엿본 AI시대에 개발자가 가져야 할 자세
      이번엔 카카오페이 팀이 해커톤에서 AI 채용 도우미 ‘AIVA’를 만들면서 겪은 생생한 경험담이야. 채용 과정의 생산성을 높이려고 이력서와 과제를 LLM으로 분석하고, 실시간 코드 실행 환경까지 구현하면서 여러 실험을 해봤다고 하더라고. 특히 직접 부딪혀 AI를 익히고, 사용하는 과정에서 ‘AI 시대에 개발자는 어떤 자세로 접근해야 할지’를 깊이 고민해볼 수 있어서 뜻깊었다고 해.

  • [후기] 연간 LLM 호출 비용 25% 절감, 인턴이 도전한 시맨틱 캐싱 도입 기록
    당근에서 중고거래 채팅 좀 해본 사람이라면 AI 추천 메시지 기능, 써본 사람 많지? 유용하긴 한데, LLM 호출 비용이 많이 들어 고민이었대. 그런데 여기에 ‘시맨틱 캐싱’을 도입하면서 상황이 달라졌어. 비슷한 의미의 요청은 AI에게 다시 물어볼 필요 없이 캐시된 답변을 재활용하는 방식인데, 덕분에 기존 비용보다 약 1760배나 저렴하게 쓸 수 있게 됐지! 지금은 24% 비용 절감을 목표로 하고 있고, 궁극적으로는 50% 이상을 바라보고 있대. 비용에 대한 비슷한 고민이 있다면 이거 꼭 확인해 봐!


■ 독자탐구생활


■ 데브주요뉴스


데브레터 피드백 설문조사

 

에디터 SBG_지난 월요일은 본격적인 더위가 시작된다는 소서(小暑)였습니다. 남녀노소 양산 필수

한빛
No Comments

Post a Comment