[데브레터 코멘터리] "많이 읽으면 똑똑해질까?"

[데브레터 코멘터리] “많이 읽으면 똑똑해질까?”

■ 역자 코멘트: “많이 읽으면 똑똑해질까?”‍

조선 시대의 지식인들은 비교적 적은 종류의 책을 반복해서 읽었다. 그 덕분에 몇몇 텍스트를 놀라울 만큼 깊이 자기 것으로 만들었겠지만, 세상을 바라보는 틀 역시 그 텍스트에 강하게 영향받았을 것이다.

반대로 세상을 놀라게 한 AI도 많이 읽히는 것만으로는 부족했다. 방대한 텍스트를 읽힌 후에도 다양한 기법을 동원해 더 학습시켜야 비로소 사람이 기대하는 수준의 답을 할 수 있게 된다.

사람의 공부도 크게 다르지는 않은 것 같다. 많이 읽는 것은 중요하다. 하지만 읽은 것을 생각해 보고, 의심하고, 다른 지식과 연결하고, 써먹어 보고, 고치는 과정이 그 못지않게 중요하다.

『밑바닥부터 시작하는 딥러닝』 1편을 번역할 때만 해도 AI가 정말 쉬워 보였다. 어느덧 10년이 지나 6편까지 번역을 끝낸 지금은 느낌이 전혀 다르다. 배움에는 끝이 없고, 배울수록 오히려 모르는 것이 더 많이 보인다. 그 사이 AI는 놀라운 속도로 발전했고, 이제는 내가 읽고 쓰고 생각하는 방식까지 바꾸고 있다.

이렇듯 10여 년을 AI와 가깝게 지내며 내게 남은 질문은 뜻밖에도 AI보다 나에 관한 것이다. 앞으로 무엇을 AI에게 읽게 하고, 무엇을 직접 읽을 것인가?

■ 데브심층탐구‍

- [읽을거리] 중2 개발자가 만든 한국어 LLM
  대단한 seoan1210이라는 친구는 아직 중2 밖에 안 됐는데, 파이썬 기초만 가지고 1.09B 짜리 한국어 LLM 학습 파이프라인을 짜냈어. 유료 툴이나 복잡한 AI 에이전트 기능을 쓰지 않고 클로드·GPT·제미나이 무료 버전 3개를 컨텍스트 제한 걸릴 때마다 번갈아 사용하면서 만들었대. 9GB GPU로 어떻게든 돌려보려고 별의별 최적화를 다 넣었다는데, 본인 말로는 아이디어는 내가, 구현은 AI가 했다며 시니어 개발자들한테 냉정한 피드백을 구하고 있어. 댓글에선 벌써 대학원 올 생각 없냐고 난리야ㅋㅋ. 어라.. 난 중2 때 뭐했었지..?

- [정보] 클로드 코드 스킬에 보관된 기술 스택 조합이었다니!
  클로드 코드한테 이슈 생성을 요청했더니, 요청도 않은 Next.js + Tailwind + shadcn/ui 스캐폴딩 조합을 알아서 제안했대. 이유를 물어보니, 앤트로픽의 web-artifacts-builder 스킬이 애초에 이 조합을 쓰도록 학습시켜 놨고, shadcn 조직도 매 턴마다 컴포넌트 레지스트리를 공급하는 공식 스킬을 배포하고 있어서였대. 클로드 입장에선 뭘 쓸지 고민할 필요 없이 이미 방향이 정해져있던 셈이지.

- [정보] 토큰 팩토리의 생산성을 끌어올리는 인퍼런스 기술
  좋은 모델을 고르면 좋은 서비스가 탄생할까? 아니. 진짜 숙제는 하루 수천억 토큰을 제한된 GPU로 감당하는 순간부터 시작되거든. KV 캐시 오프로드(GPU 연산 결과를 저장해뒀다가 재사용하는 방식)로 캐시 적중률을 90% 이상까지 끌어올려 처리량을 1.3~1.8배 늘린 삼성SDS 사례를 공유할게. 결국 인퍼런스 경쟁력은 어떤 모델을 올렸느냐가 아니라, 같은 GPU에서 얼마나 낭비 없이 뽑아내느냐로 갈린다는 것.

- [정보] 같은 LLM인데 왜 결과가 다를까? 답은 하네스에 있다.
  같은 LLM 써도 어떤 에이전트는 일을 척척 끝내고, 어떤 건 같은 자리만 맴돈다면 그 차이는 모델이 아니라 하네스, 즉 모델을 둘러싼 환경 전체 설계에 있다고 해. 지시 문서(AGENTS.md)만 써두는 걸론 부족하고, 규칙을 어기면 통과 자체를 막는 자동 검사 장치를 붙여야 진짜 효과가 있다는 게 포인트야. 에이전트한테 자기 결과물을 스스로 검증시키면 안 되는 이유도 흥미로운데, 사람처럼 검토할 때도 자기가 놓친 부분은 똑같이 못 보고, 자기 결과물을 방어하려는 경향까지 있어서래. 결국 좋은 에이전트는 컨텍스트를 크게 키우는 게 아니라 깨끗하게 관리하는 데서 나온다고.

[기사] 오픈AI, ‘GPT-6 아스트라’ 출시…”AGI 시대 진입”
오픈AI가 GPT-6 아스트라를 출시하면서 “AGI의 초기 단계로 여겨질 것”이라고 자평했어. 사람이 30분 걸리는 검색을 5분 만에 끝내버렸는데, 진짜 눈에 띄는 건 따로 있어. 아스트라가 오픈AI 안전성 평가체계에서 처음으로 사이버 보안 역량 ‘위험’ 수준에 도달했다는 거야. 인간 개입 없이 제로데이 취약점을 식별·개발할 수 있다는 뜻이라, 지난 7월 오픈AI 시험용 에이전트가 격리 환경을 벗어나 허깅페이스 시스템 일부를 침해했던 사건과 겹쳐 보이기도 해. 그래서인지 이번엔 역대 최대 규모인 10억 달러짜리 사이버 보안 방어 지원 프로그램도 함께 내놨더라고.

■ 독자탐구생활‍