숫자로 알아보는 LLM 이모~! 저모~! 고모

Contents News Letter

숫자로 알아보는 LLM 이모~! 저모~! 고모

>>구독하기<<

숫자로 알아보는 LLM 이모~!저모~!고모

(Dev + IT + )

한빛출판네트워크 8월 둘째 주 Dev

- # 이슈 픽 #Best 숫자로 알아보는 LLM 이모~!저모~!고모
- # 추천 픽 #꾸욱꾹이 “챗GPT, 지금 골드러시….. 맞아?”
- # 맛IT는 녀석들 #줍줍 [뉴스] 작지만 똑똑한 AI … sLLM 시대 온다

# 데브잇냥 독자탐구생활 <사실은 이것도 디자인입니다> by 이주명 님
# 데브잇냥 지식in ChatGPT를 GPT-5로 만들기

이슈 픽 #Best‍

숫자로 알아보는 LLM 이모~! 저모~! 고모

샘 알트먼이 그랬대. “챗GPT 연산 비용은 눈물이 날 정도다”라고. 챗GPT의 검색 1회 답변 비용은 약 25원이고, 월 이용자 수가 15억명 정도니까….(입틀막) 한빛출판네트워크 오픈AI뿐만 아니라 구글이 바드를 활용해 검색엔진을 운용하려면 내년까지 약 7조6500억 원을 추가로 부담해야 한다는 분석도 있어. LLM 서비스를 운영 예정이거나 운영중이라면 금액에 민감할 수 밖에 없지. 개발자가 알아두어야 할 LLM 숫자들에도 금액에 관련된 숫자가 많아. 몇 개만 미리 보면…

[5:1] GPT-3.5-Turbo로 생성하는 비용은 OpenAI 임베딩보다 5배 비싸다 (GPT-4와 비교하면 250배!)
[<0.001] 파인 튜닝의 비용은 처음부터 학습하는 것보다 훨씬 싸다
[1.3:1] 영단어 1개는 평균 1.3개의 토큰이다 (영어가 아니면 좀 더 많이 필요하다!)

이 외에도 트레이닝이나 GPU 메모리에 대한 숫자도 나와있으니까 청구서보고 깜짝! 놀라지 말고 한번씩 살펴보자 한빛출판네트워크

“챗GPT, 지금 골드러시….. 맞아?”

위에서 LLM을 숫자로 알아봤으니 이번엔 업계의 목소리를 직접 들어볼까? 우선 질문의 답에 대해 MS 코파일럿 AI 팀의 개발자는 ‘지금이 골드러시가 맞다’고 해. 기준을 만들고, 인프라 기초를 정하고, 대규모 투자를 통해서 이 기준대로 확대하려고 노력해야만 뭘 할 수 있는 시절이 한참 지났기 때문이야. 게다가 현재의 IT 시장은 아이폰이 출시되고 앱 스토어가 열린 시절과 비슷하지만, 그때보다 훨씬 더 쉬운 개발 환경에 놓여 있지. 인터넷으로 촘촘하게 연결된 세계이니 AI 모델의 먹이로 쓰일 콘텐츠도 무한대로 있고 말이야.

좀 더 자세히 듣고 싶다고? 그럼 챗GPT가 처음 문 연 2022년 11월, 마이크로소프트 본사로 돌아가 LLM에 대한 뒷 이야기부터 골드러시까지 한 번에 들어보자. 이야기는 지금 여기에서 시작해!

맛IT는 녀석들 #줍줍

재미난 소식과 알짜 정보들을 물어왔다냥

- [뉴스] 작지만 똑똑한 AI … sLLM 시대 온다
  지난회에 소개했던 메타의 라마 기억나? 스탠퍼드대 연구진이 라마를 미세 조정해 sLLM ‘알파카’로 개발했는데 약 80만원 정도를 지출했대. 1750억개의 파라미터를 갖춘 GPT-3은 132억원 정도가 들었던 거에 비하면 정말 적은 금액이지. 이처럼 소형 대규모언어모델 (sLLM)은 비용은 적고 특정 분야에 맞춤화되어 깊이 있는 데이터를 학습할 수 있어서 관심을 얻고 있지. 국내 스타트업과 대기업에서도 개발중인 sLLM을 통해 AI 시장을 공략할 예정이라 하니, 다같이 기대해보자.
- [뉴스] 생성 AI 만난 포토샵, 빠진 이미지 다 그려 넣어주네
  조용한 강자 어도비의 이미지 생성 AI 모델, ‘파이어플라이’가 더욱 강해졌어. 포토샵 베타 버전에 ‘생성형 확장’ 기능을 추가됐거든! 기존에는 뽀샵한 티가 나고 사용자가 작업해야 하는 부분이 더 많았는데 이번 기능은 ai 콘텐츠 생성 역량을 활용해 이미지의 공백을 자동으로 채워준대. 텍스트로 전체 이미지를 만들어야 하는 미드저니와는 다른 길을 걷는 파이어플라이. 어디까지 발전할까?
- [정보] 챗GPT 넘어라··· 다양한 LLM 활용이 필요한 때
  챗GPT는 우릴 놀라게 한 최초의 생성형 AI 도구였지만 이제는 AI의 지평을 넓혀야 할 때가 왔어. 현 단계에서는 여러 서비스를 사용하며 꾸준히 실험하는게 지평을 넓히는 데 도움이 될거래. 가능한 한 많은 새로운 도구를 사용하고, AI를 업무에 통합하는 실험도 해보는 거지. 자, 오늘의 과제는 <새로운 LLM 서비스 한 개 이상 사용해 보기>로 하자. 새로운 경험에 대해 이야기 나누고 싶다면 아래 피드백에 남겨줘~!
- [정보] ‘안 돼요’라고 말하지 않는다
  개발자와 함께 일을 하는 사람들이 공통적으로 얘기하는 훌륭한 개발자의 요소에는 ‘말이 통한다’가 있지. 그런데 말입니다. (그알 톤으로 읽어줘) 그들이 말하는 ‘말이 통하는 개발자’는 뭘까? 많은 사람들이 입을 모아 말하길 일하고 싶은 개발자는 ‘안 된다’라는 말을 그냥 하지 않더래. 일명, 문제 해결형 개발자. 그럼 문제 해결형 개발자의 반대는 무엇일까? 나는 어느 개발자가 되고 싶을까? 여기에서 확인해 볼 수 있어.
- [경험담] 나 4년 차 서버개발자, 배달의민족의 지리 체계를 뒤흔들다
  다른 회사나 팀의 업무 진행 과정을 들을 땐 ‘우리 팀에 무엇을 적용할 수 있을까?’라는 생각을 하곤 해. 그래서 준비했어. 배달의 민족 ‘셀러시스템팀’의 서버 개발자가 얘기해주는 프로젝트 진행 과정. 셀러시스템 팀은 ‘방향성 검토>개발>검증>회고’의 과정을 거치는데 유관부서, 외주사와 함께하는 큰 프로젝트에서 마무리 회고를 진행했대. 어떤 일이든 늘 아쉬운 점이 생기기 마련인데, 다시 되짚어 보고 더 나은 ‘다음’을 만들고자 하는게 인상깊은 것 같아.
- [경험담] 면접에서 제대로 답변하지 못한, 좋은 질문들
  이번에는 면접 답변을 회고한 내용이야. △더 나은 코드로 개선한 경험 (리팩토링) △테크리드로서 기술적 리딩을 한 경험과 같이 다시 답하고 싶은 질문부터, △라이브러리를 만들어본 경험 △대용량 트래픽을 다루어 본 경험 △좋아하는 프로그래밍 언어와 이유 등 좋은 답변이였다고 생각한 내용, 그리고 면접때 아쉬웠던 점까지 정리되어 있어. 지나온 행적을 돌아보는 것만큼 힘든 일도 없지만 그만큼 더 멀리 나아가는 추진력이 생길 거라고 믿어!