옵티웍 AI 데일리 Optiwork AI Daily · by Optiwork
← 목록
초보 같은 날 고급 버전 보기 →

24GB로는 22B가 끝이라 믿었는데, 내일 125B를 돌린다는 사람이 나왔다

2026년 10월 19일 · 옵티웍 AI 데일리 · 초보

한 줄 요약 (GEO) 그래픽카드에 모델을 통째로 넣지 않아도 되는 방법이 국내 아침 게시판을 바꿨다. 같은 시각 리셋을 기다리던 사람들은, 담당자가 길에서 리셋을 조르는 사람들에게 나눠 줄 카드를 만들겠다는 농담을 돌려 보고 있었다.

오늘 수집 안내: 평소 쓰는 국내 게시판 자동 수집 스크립트가 오늘도 접속 단계에서 끊겼습니다(서울 07:55, 도메인이 198.18.0.1로 해석되며 TLS EOF — 10-15부터 닷새째). 그래서 다른 경로로 ChatGPT·AI 활용 두 게시판의 최신 목록 첫 화면(제목·조회·추천·시각)을 읽고, 글 15건을 열어 글자 본문 8건을 확인했습니다. 다음 쪽 목록은 열리지 않아서 ChatGPT 게시판은 10-18 밤~07:17, AI 활용 게시판은 06:25~07:57 글만 봤습니다. AI 활용 게시판의 자정~새벽 6시 글, 개념글 전용 목록, 댓글, 이미지뿐인 본문은 읽지 못했습니다. 조회·추천은 서울 07:55~08:05 기준입니다.

오늘 핵심 세 가지

  1. 국내 AI 활용 게시판 아침이 ‘스트라타(Strata)’ 이야기로 채워졌다. 그래픽카드 메모리(VRAM)가 작아도 아주 큰 AI를 집에서 돌린다는 무료 프로그램이다. 07:52 「좀 설렌다 내가 125B 모델을 돌린다고」의 본문은 이렇습니다. “24GB VRAM으로는 22B 같은 게 최선이겠구나 하고 살았는데, 내가 내일 125B 모델을 돌린다니 기분이 들떠.” 07:38 「RTX 5090 + Strata 모델별 속도 측정」은 2비트급 압축본에서 실제 초당 180~200토큰을 냈다는 표를 올렸습니다. 스트라타가 모델을 그래픽카드·램·CPU에 나눠 싣는다는 설명은 공식 문서로 확인했고, 속도 숫자는 올린 사람 주장(미확인) 입니다.
  2. 13일차 리셋 다음 날, 리셋은 ‘기다리는 물건’이 됐다. 오픈AI 코덱스 책임자 는 서울 05:34에 “사람들이 타임라인 밖으로 나와 길에서 나한테 리셋을 달라고 한다. 나눠 줄 작은 카드를 만들어야겠다”고 썼습니다(좋아요 약 5.6천·답글 약 750). 국내에선 06:59 이 화면을 캡처한 글이 아침 조회 1위(약 505)였고, 06:25 「오늘 리셋임?」(약 433), 07:49 「코덱스 한도 너무 빨리 타버린다」가 이어졌습니다. 오늘 아침 기준 14일차 발표는 아직 없었습니다.
  3. 딥시크가 AI용 ‘검색·웹페이지 읽기’ 기능을 1천 번에 0.75달러로 내놨다. 해커뉴스 1면 1위(약 518점)였습니다. 딥시크 문서에 따르면 클로드 코드·코덱스 같은 도구에서 딥시크 모델을 쓸 때 서버 쪽 검색 호출은 베이징 시각 11-01 0시(서울 11-01 01시)까지 무료입니다. 국내 07:34 「AI 토큰값 정상화는 역시 대중국」(약 220)은 “클로드·GPT 발등에 불 떨어졌네”라고 썼습니다. 가격과 무료 기간은 확인, 품질은 미확인입니다.

국내 커뮤니티에서 오늘 많이 나온 이야기

1) “24GB로 125B를?” — 스트라타가 뭐길래

국내(본문 확인): AI 활용 게시판 07시대는 로컬 AI 글이 연달아 올라왔습니다.

  • 07:52 「좀 설렌다 내가 125B 모델을 돌린다고」(약 98) — 위에 인용한 “22B가 최선인 줄 알았다”는 글.
  • 07:38 「RTX 5090 + Strata 모델별 속도 측정」(약 161·추천 1) — 두 가지 압축본을 비교한 표입니다. 아래는 글쓴이가 올린 숫자를 그대로 옮긴 것입니다.
    • IQ2_XS(약 39GB): 실제 초당 180~200토큰, 긴 글(5만~6만 토큰)에서도 약 180, 자주 쓰는 전문가를 그래픽카드에 둔 비율(적중률) 98~99.6%.
    • IQ3_XXS(약 47GB): 실제 초당 145~160토큰, 긴 글 약 151, 적중률 94~98%.
    • 처음 불러오는 데 70~90초. 글쓴이 결론은 “IQ3_XXS가 20~25% 느린 대신 더 정밀하다. 다만 서로 다른 코딩 작업 기록을 비교한 거라 같은 조건 벤치는 아니다.”
  • 07:34 「스트라타가 VRAM이랑 시스템 램 묶어주는 기술임」(약 181): “지금까지 큰 로컬 모델을 쓰려면 막대한 VRAM이 필요했는데, 스트라타는 그래픽카드 VRAM·시스템 램·CPU를 함께 쓰는 새 실행 방식. 이거 나오고 지포스 그래픽카드들 숨통이 트였다.”
  • 07:19 「램 샀다 로컬 가본다 (3090 씀, 스트라타 운용 예정)」(약 373·댓글 18) — “캐나다라 환율 적용하면 22만 원쯤. 64GB로 로컬 모델 쓰다가 내 취향 아니면 클로드나 GPT에 램 더 물려주려고.” 바로 앞 06:59 같은 글쓴이의 「로컬 LLM 질문」은 댓글 22개로 오늘 아침 댓글이 가장 많았습니다(본문은 이미지라 미확인).
  • 그 밖에 07:41 「GPU가 연산하려면 VRAM에 올려야 하는 거 아니냐」(약 169·댓글 4), 07:05 「3080 12GB 쓰는 중인데 로컬 모델 추천 좀」(약 185), 07:22 「나 램 62인데 젬마4 돌려」, 06:52 「램 증설 좀 하려 했더니」, 07:38 「스트라다 이거 RTX 스파크엔 못 씀?」(엔비디아의 소형 AI 컴퓨터 ‘DGX 스파크’를 묻는 것으로 보임), 07:30 「이제 아시겠습니까 오픈소스의 위대함을」.

확인(공식 문서): 스트라타는 9월 말 깃허브에 공개된 무료(MIT 라이선스) 프로그램입니다. 알리바바의 공개 모델 Qwen3.8-Flash-Next(파라미터 1,250억 개) 를 일반 PC에서 돌리는 데 맞춰져 있습니다. 공식 설명은 부엌에 비유합니다. “자주 쓰는 재료는 조리대(그래픽카드)에 두고, 나머지는 찬장(램)에 둔다.” 이 모델 안에는 작은 전문가가 24,576개 있는데, 단어 하나를 만들 때 그중 10개만 일합니다. 그래서 자주 불리는 전문가만 그래픽카드에 올리고, 전부는 램에 두고, 그래픽카드에 없는 전문가는 CPU가 램에서 바로 계산합니다.

필요한 것(공식): 그래픽카드 VRAM 12GB 이상(엔비디아 RTX 20~50 시리즈, 일부 AMD), 램 32GB 이상, 디스크 약 80GB(다운로드만 약 70GB). 램 64GB면 모든 크기가 들어갑니다. 공식 표 기준 RTX 5070(12GB)·램 64GB PC에서 답 쓰는 속도가 초당 53~94토큰입니다. 처음 켤 때 35~55GB를 램에 올리느라 1~3분 동안 PC가 멈춘 것처럼 보일 수 있다고 문서가 미리 경고합니다.

그래서 “GPU는 VRAM에 올려야 계산하는 거 아니냐”는 질문의 답: 반은 맞습니다. 그래픽카드는 자기 메모리에 있는 것만 빠르게 계산합니다. 스트라타는 그래픽카드에 없는 부분을 그래픽카드에 억지로 옮기지 않고 CPU가 대신 계산하게 해서, 큰 모델 전체를 VRAM에 넣지 않아도 돌아가게 만든 것입니다.

미확인(조심할 점):

  • 국내 측정 글의 “RTX 5090”은 데스크톱용(VRAM 32GB) 으로 보입니다(그래픽카드에 전문가를 약 24GB 올렸다고 적었기 때문, 해석). 노트북용 RTX 5090은 VRAM이 24GB라 같은 숫자를 기대하면 안 됩니다.
  • 해외 X에는 “RTX 3060 노트북 + 램 32GB에서 4비트 버전은 메모리가 1GB 모자라 안 돌았다”는 실패담도 있었습니다. 램이 빠듯하면 아예 안 켜질 수 있습니다.
  • 2비트·3비트로 많이 압축한 버전일수록 빠르지만 답의 정확도가 조금씩 떨어집니다.

초보에게 남는 한 줄: “VRAM이 작으니 큰 모델은 못 쓴다”는 공식이 깨지고 있습니다. 다만 이제 램 용량(32GB·64GB)이 더 중요한 숫자가 됐습니다. 램을 사기 전에 내 PC의 VRAM·램·디스크 여유부터 적어 보세요.

2) 리셋 다음 날 — 기다림은 짜증이 됐다

국내(제목·일부 본문 확인):

  • 06:25 「오늘 리셋임?」(약 433), 06:48 「하루 지났는데 리셋권으로 주겠지 설마」(약 135), 07:25 「오늘 개선 아직 안 올라왔나」 — 어제 13일차 전체 리셋 이후, 오늘도 무언가 오기를 기다리는 글입니다.
  • 06:59 티보의 ‘길거리 리셋 카드’ 글을 캡처해 비꼰 글(약 505·추천 1·댓글 5)이 아침 조회 1위였고, 07:56 「티보 정도면 좀 싸가지 없어도 되지」, 07:57 리셋을 내놓으라는 욕설 섞인 글이 뒤를 이었습니다. 07:54 「티보갓」(약 103)처럼 반대로 치켜세우는 글도 있었습니다.
  • 07:10 「애초에 사람들이 리셋 달라고 하는 이유가」(약 182·추천 1): “정확한 기준도 모르고 체감 사용량이 계속 줄어서 그런 거 아닌가. 정말 그런지는 몰라.”
  • 07:49 「코덱스 한도 너무 빨리 타버린다」, 07:50 「클로드 코드 공식 앱 토큰 너무 많이 먹는 거 같아서」, 07:07 「코덱스 나만 로그인 안 되나」(댓글 3), 07:04 “버거 타임(사람 몰리는 시간)도 아닌데 용량 부족이 걸린다”는 글.

ChatGPT 게시판(본문 확인): 새벽 01:26, 오픈AI 대표 알트만을 향한 욕설 제목의 글이 추천 12개로 오늘 목록에서 추천이 가장 많았습니다(조회 약 396). 욕을 걷어 내면 불만 목록은 이렇습니다. “이미지 품질을 떨어뜨렸다, 뭐만 하면 검열한다, 아스트라 지능까지 낮춘 것 같다, 토큰 사용량을 속인다, 한도 충전 주기는 5시간인데 30분도 안 돼 다 쓰게 해 놨다.” 06:06 「울트라 사용량 소모가 엄청 크네?」는 “체감상 전 단계의 2~3배”라고 했습니다. 하루 전 밤에도 「와 토큰 소모 빨라졌다 하는 거 진짜네」(약 222), 「아 dot 또 한도 막혔어」(약 157)가 있었습니다.

해외 교차(확인=원문): 티보는 서울 01:00에 “오늘 뭐가 나올까(What’s cooking today)”라고만 써서 답글 약 2,260개가 달렸고, 05:34에 위의 ‘카드’ 글을 올렸습니다. “팔로워가 100만 명이 되면 리셋을 주느냐”는 질문에는 “두고 보자(We’ll see)”라고만 답했습니다. Reddit r/codex 상위 글은 이랬습니다.

  • 「리셋 뒤 사용량이 훨씬 빨리 탄다」(월 200달러 Pro): “하루 넘게 문제없던 세션에서 6.1 Sol이 이상한 실수를 하고 Astra를 띄우기 시작했다. 92~94%여야 할 한도가 74%다.”
  • 「지금 6.1 Sol 믿지 마세요!」(Plus): “리셋 이후 간단한 화면 정리를 시켰는데 엉뚱한 요소를 만들고 문법 오류 파일을 네 번 연속 냈다. 큰 수정 전엔 백업하라.”
  • 「dot 쓰기 전 코덱스 4일치, 쓴 뒤 4시간」(월 200달러): 코덱스 데스크톱 사용량 분석에서 ‘에이전트가 만든 대화’가 주간 사용량의 57.9%, 하위 에이전트 24.2%, 직접 대화 17.8%였다는 캡처.

정리하면: 사람들이 리셋을 조르는 진짜 이유는 국내 07:10 글 그대로입니다. 한도가 얼마나 남았고 왜 줄었는지 기준을 모르기 때문입니다. 해외 사례를 보면 ‘dot’ 같은 를 붙이면, 사람이 직접 대화한 것보다 훨씬 많은 양을 AI가 스스로 써 버릴 수 있습니다.

초보에게 남는 한 줄: 한도가 빨리 닳는다면 먼저 무엇이 쓰고 있는지를 보세요. 코덱스 데스크톱에는 사용량을 종류별로 보여 주는 화면이 있다고 합니다(해외 글 기준). 에이전트·하위 에이전트 몫이 크다면 그 기능부터 줄이는 게 리셋을 기다리는 것보다 빠릅니다.

3) 싸게 쓰기 — 딥시크, 그리고 ‘광저우 시계 장인’

국내(제목·일부 본문):

  • 07:13 「딥식 쓰니까 광저우 시계 장인이 생각나네」(약 245·추천 4) — AI 활용 게시판 오늘 창에서 추천이 가장 많았습니다. 본문은 이미지라 미확인이지만, ‘광저우 시계 장인’은 국내에서 정교한 복제 시계를 만드는 사람을 가리키는 말입니다. “싸고 그럴듯하게 따라 만들었다”는 뜻의 농담으로 읽힙니다(해석, 미확인).
  • 07:34 「AI 토큰값 정상화는 역시 대중국」(약 220·댓글 4): “클로드·GPT 발등에 불 떨어졌네. 로 기술 다 빼 갔고.”
  • 07:30 「클로드 하이쿠·소넷·오푸스+딥시크 번개 벤치마크」(약 199·댓글 6) — 본문은 이미지 4장과 “순서대로 하이쿠·소넷·딥시크·오푸스”라는 한 줄. 무엇을 비교했는지는 미확인입니다.
  • 06:26 「dsh 과추론 어떻게 해결함?」(약 182·댓글 7) — 모델이 필요 이상으로 오래 생각하는 문제를 묻는 글(본문 미확인).

해외(확인=공식 문서): 딥시크는 AI 에이전트용 검색(Search) API와 웹페이지 읽기(Fetch) API를 문서로 공개했습니다. 성공한 요청 1천 번당 0.75달러(검색·읽기 각각), 결과가 비거나 실패하면 돈을 받지 않습니다. 초당 5번까지 부를 수 있습니다. 해커뉴스 1면 1위(약 518점·댓글 약 249). 문서에는 “딥시크 하네스·클로드 코드·코덱스로 딥시크 API를 쓸 때 서버 쪽 도구 호출은 이미 이 검색을 쓰고 있으며, 11-01 베이징 0시부터 요금이 붙는다”고 적혀 있습니다.

초보에게 남는 한 줄: “검색 1천 번에 약 천 원”은 싸 보이지만, 에이전트는 한 작업에 검색을 수십 번 부르기도 합니다. 11월부터 요금이 붙으니, 딥시크를 연결해 쓴다면 10월 안에 내가 하루 몇 번 검색을 부르는지 한 번 세어 보세요.

4) 갈아탈까 — 아스트라·클로드·아르곤

  • 06:51 「아스트라… 말만 번지르르하면 믿지 마라」(약 325·추천 1) — 본문 미확인. 같은 날 해외 r/codex의 “Sol이 갑자기 이상하다”와 함께, 오픈AI 모델 품질에 대한 불신이 겹친 아침입니다.
  • 06:50 「짚보이(GPT 쓰는 사람)인데 진지하게 클로드 넘어갈까 생각 중」, 06:27 「클로드 넘 좋아」, 07:39 「클로드 이거 작업 이어서 해 주는 거 맞음?」(댓글 4).
  • 07:55 「아르곤 웹에서는 프로는 3개만 물어보게 했나 보네」 — 구글 제미나이 4 아르곤을 웹에서 Pro 요금제로 쓰면 몇 번 못 묻는다는 체감입니다. 해외 r/Bard에도 “아르곤 High로 질문 4개 만에 주간 한도 50% 가까이 썼다”는 글이 올라왔습니다(1건, 미확인). 06:36 「아르곤이 GPT보다 이미지 창의력이 좋은 듯」(약 204)처럼 품질 칭찬은 따로 있었습니다.
  • 06:43 「RTK, Caveman 후기」(약 177) — 둘 다 해외에서 코딩 에이전트가 쓰는 토큰을 줄이는 도구로 알려진 이름입니다. 후기 본문은 이미지라 미확인입니다.

초보에게 남는 한 줄: 갈아타기 전에 같은 일 세 개를 두 서비스에 똑같이 시켜 보고 결과와 한도 소모를 적어 보세요. 오늘 국내·해외 글은 대부분 하루 이틀의 체감입니다.

5) ChatGPT 게시판의 조용한 새벽 — 요금제 질문

  • 00:38 「크롬에서 쓰는 GPT-6 모델은 정확히 무슨 모델임?」(약 264·댓글 6)
  • 00:16 「프로 500 쓰면 하루 종일 써도 사용량 남음?」(약 224·댓글 3)
  • 04:19 「잘 모르고 스토어에서 프로 15만 원짜리 요금제 골랐는데」(약 147)
  • 03:53 「님들 무료 플랜이랑 플러스랑 차이 많이 나?」(약 145·댓글 10), 00:29 「음성 대화 무료·유료 차이 큼?」
  • 05:49 「성능 갈수록 나빠지는 듯」(약 100), 07:17 「소신 발언인데 성능 떨어지는 건 신경 안 씀」

초보에게 남는 한 줄: 앱 스토어에서 결제하면 웹에서 결제할 때와 가격·환불 경로가 다를 수 있습니다. 비싼 요금제를 실수로 골랐다면 결제한 곳(애플·구글 스토어)의 환불 요청부터 확인하세요.

해외 커뮤니티 교차 확인

클로드가 25년 묵은 암호 수수께끼를 30분 만에 풀었다

확인(앤트로픽 공식 글, 미국 10-16): 인터넷 보안에 널리 쓰이는 암호 표준(ECDSA)의 곡선 값들은 1990년대 미국 국가안보국(NSA)이 출처 설명 없이 넘긴 ‘씨앗(seed)’ 숫자에서 만들어졌습니다. 그래서 “일부러 뒷문을 숨긴 것 아니냐”는 의심이 25년 동안 있었습니다. 앤트로픽 직원이 내부 연구용 클로드에게 물었더니, 30분도 안 돼 그 씨앗들이 1997~1998년 당시 C언어의 흔한 난수 함수(lrand48)에 그 순간의 시각을 넣어 뽑은 값이라는 것을 찾아냈습니다. 앤트로픽은 “암호가 깨진 것이 아니라, 오히려 뒷문이 없었다는 쪽으로 더 믿을 수 있게 됐다. 따로 할 일은 없다”고 썼고, 현상금 36,864달러는 비영리 인터넷 보안 단체에 기부합니다. Reddit r/ClaudeAI 1위였습니다.

초보에게: 이 소식의 핵심은 “AI가 사람이 25년간 잘못된 방향으로 찾던 것을 다른 각도에서 봤다”는 점입니다. 내 암호나 인증서를 바꿀 필요는 없습니다.

로컬 쪽 해외 반응

  • 스트라타 해외 실측(X, 사용자 주장·미확인): RTX 5080·램 64GB에서 IQ3_S로 초당 62.1토큰(전문가 적중률 78.5%), 96GB짜리 전문가용 카드에서는 초당 180~230토큰, RTX 3090(24GB)·램 62GB에서 13만 토큰 문맥까지 돌렸다는 글이 이어졌습니다. 일본어로 “작년 봄에 램 증설을 미룬 나를 때리고 싶다”는 글도 있었습니다.
  • “그렇게 비싼 PC 없어도 된다”(r/LocalLLaMA): VRAM 16GB 그래픽카드와 램 24GB로 Qwen3.8 27B를 초당 약 43토큰에 돌렸다는 글. 64GB·여러 장 그래픽카드 자랑에 지친 사람들의 공감을 받았습니다.
  • “공유기를 해킹해 달라고 했더니”(r/LocalLLaMA): 공유기 펌웨어를 바꾸려는데 클로드 오푸스는 거절했고, 내 PC의 Qwen3.8 27B는 공유기의 약점을 이용해 성공했다는 글. 로컬 모델은 안전장치도 내가 책임진다는 점을 보여 줍니다.
  • 허깅페이스 ‘좋아요 조작’(r/LocalLLaMA): 한 회사 모델들이 가짜 계정의 좋아요로 인기 순위에 올랐다는 고발 글. 인기 순위만 보고 모델을 받지 말라는 경고입니다.

짧게

  • 에이전트 사용량(r/ClaudeAI): “불안해서 모든 작업을 최고 설정으로 돌리고, 월 최고 요금제를 3일 만에 쓴다”는 글이 공감을 얻었습니다. 최고 설정이 늘 더 좋은 결과를 주는 것은 아닙니다.
  • 티보의 유럽 답변(X): dot이 유럽(EU)에서 안 된다는 질문에 “다른 곳에서 만든 dot은 EU에 가도 계속 작동하게 하고, EU 출시도 준비 중”이라고 답했습니다.
  • 해커뉴스 Show HN 「Sphinx」(약 237점): AI가 쓴 코드를 내보내기 전에 나에게 퀴즈를 내서 내가 이해했는지 확인하는 도구입니다.
  • MOSS-Image(r/StableDiffusion): 공개 이미지 모델 MOSS 열기가 이어졌고, Reddit이 MOSS 공식 계정의 질의응답(AMA)을 닫고 계정을 정지했다는 글이 올라왔습니다(이유는 미확인).

한 장으로 보는 오늘

축 확인된 것 아직 아닌 것
로컬 큰 모델 스트라타 공식 요구 사양(12GB VRAM·32GB 램 이상, 64GB면 전 크기) 노트북 5090 실측, 압축본 품질
국내 반응 125B 기대, 램 구매, 5090 속도표 댓글, 자정~06시 글
오픈AI 한도 13일차 리셋 다음 날, 14일차 발표 없음(08시 전) 리셋 일정 규칙
사용량 원인 해외 캡처에서 에이전트 대화 57.9% 국내 사례 수치
딥시크 검색·읽기 API 1천 번 0.75달러, 11-01 과금 시작 검색 품질
클로드 암호 곡선 씨앗 기원 규명(앤트로픽 공식) 남은 씨앗 1개

목적별 모델 고르기 (한국어)

모델판은 2026-10-14 그대로 둡니다. 오늘 아침 Artificial Analysis 화면을 다시 확인했는데 상위 점수와 작업당 비용이 그대로였습니다. 표 전체는 모델 판세에서 보세요. 주간 재확인은 10-21 무렵입니다.

  • 확인(벤치·AA): 종합 1위 Claude Opus 5.5 최고 설정(58·작업당 약 $5.98). 코딩·문서 가성비는 GPT-6.1 Sol 최고 설정(52·$0.72). 대량·바닥선은 Sol medium(48·$0.21), Claude Haiku 5.5(43·$0.21), GPT-6 Luna(38·$0.07). 오픈 웨이트 1위는 MiMo-V2.6-Pro(46·$0.13).
  • 확인(벤치·AA): 스트라타가 돌리는 Qwen3.8-Flash-Next는 AA 40점·작업당 $0.37입니다. 이 점수는 압축하지 않은 원본을 API로 잰 값이라, 집에서 2~3비트로 줄여 돌리면 이보다 조금 낮다고 보는 게 안전합니다.
  • 확인(벤치·AA) + 정정: 딥시크 V4.1 Flash 최고 설정은 오늘 AA 화면에서 39점·작업당 $0.49로 보입니다(어제 글에는 $0.27로 적었습니다). 새 1017 버전은 아직 따로 측정되지 않았습니다.
  • 미확인(커뮤니티): “로컬 125B면 구독 안 해도 된다”는 기대는 체감입니다. AA 기준으로 이 모델은 Sol medium(48)·Haiku 5.5(43)보다 아래입니다.

초보용 한 줄: 지금 고르는 기준은 그대로입니다. 가성비는 /models/의 Sol, 최고 품질은 Opus 5.5. 로컬 125B는 비용 걱정 없이 오래 돌리거나, 밖으로 내보내기 싫은 자료를 다룰 때의 선택지입니다.

오늘이 의미하는 것 · 바꾸지 말 것

  • 의미: 집에서 큰 AI를 돌리는 기준이 ‘VRAM이 몇 GB냐’에서 ‘램이 몇 GB냐’로 옮겨 가고 있습니다. 국내 게시판에서 “램 샀다”는 글이 아침 조회 상위에 오른 이유입니다.
  • 의미: 리셋이 매일 기다려지는 상황은, 한도가 얼마나 남았고 왜 줄었는지 사용자가 알기 어렵다는 신호입니다. 해외 캡처처럼 에이전트가 대부분을 쓰는 경우도 있습니다.
  • 의미: 딥시크 검색 API처럼, 싼 모델 회사는 이제 ‘모델값’뿐 아니라 ‘에이전트가 쓰는 도구값’까지 싸게 내놓고 있습니다.
  • 바꾸지 말 것: 스트라타 소식만 보고 새 그래픽카드를 사지 마세요. 오히려 램이 먼저입니다. 그리고 프로젝트가 아직 한 달도 안 된 초기 단계입니다.
  • 바꾸지 말 것: 로컬 125B가 된다고 유료 구독을 바로 끊지 마세요. AA 기준 품질은 구독 모델의 중간 설정보다 낮습니다.
  • 바꾸지 말 것: 리셋을 기다리며 일을 미루지 마세요. 14일차가 리셋일지 다른 개선일지 아무도 모릅니다.

시도 후보

  1. 내 PC 숫자 적기(2분): 작업 관리자에서 그래픽카드 VRAM, 램 용량, 남은 디스크를 적어 보기. 스트라타 기준(12GB·32GB·80GB)과 비교.
  2. 노트북이라면(3분): 노트북 그래픽카드는 같은 이름이라도 데스크톱보다 VRAM이 적을 수 있습니다. ‘RTX 5090 노트북’은 24GB입니다.
  3. 설치는 주말에(30분+): 해 본다면 다운로드 약 70GB, 첫 실행 때 PC가 1~3분 멈출 수 있다는 점을 알고 시작하기. 브라우저 탭을 닫고 하기.
  4. 한도 원인 보기(5분): 코덱스·클로드의 사용량 화면에서 ‘직접 대화’와 ‘에이전트·하위 에이전트’ 비율을 확인.
  5. 최고 설정 줄여 보기(10분): 같은 질문을 ‘높음’과 ‘중간’으로 한 번씩 돌려 결과 차이를 비교.
  6. 딥시크 검색 횟수 세기: 딥시크 API를 쓴다면 10월 안에 하루 검색 호출 수를 확인(11-01부터 유료).
  7. 갈아타기 전 3문제 테스트: 같은 일 세 개를 두 서비스에 시키고 결과·한도 소모를 표로 적기.
  8. 큰 수정 전 백업: 해외에서 “리셋 뒤 Sol이 이상하다”는 글이 나온 만큼, 에이전트에게 큰 코드 수정을 맡기기 전에 저장해 두기.
  9. 모델판 확인: /models/에서 내 목적 칸이 그대로인지 보기.

자주 묻는 짧은 답

Q. 스트라타 쓰면 VRAM 8GB 그래픽카드도 돼?
A. 공식 문서 기준 12GB 이상입니다. 오래된 카드용 실험 안내가 따로 있지만, 일반 사용자에게 권하는 단계는 아닙니다.

Q. 125B면 ChatGPT만큼 똑똑해?
A. 아닙니다. AA 기준 원본이 40점으로, GPT-6.1 Sol 중간 설정(48)보다 낮습니다. 대신 내 PC 안에서 돌아가니 한도도 없고 자료가 밖으로 나가지 않습니다.

Q. 램은 몇 GB가 좋아?
A. 스트라타 문서 기준 32GB면 코딩용 작은 버전, 48GB면 2비트 버전, 64GB면 모든 크기가 들어갑니다. 다만 다른 프로그램(특히 브라우저)도 램을 쓴다는 걸 계산하세요.

Q. 리셋이 또 올까?
A. 알 수 없습니다. 티보는 “팔로워 100만 명 되면 리셋 주냐”는 질문에 “두고 보자”라고만 답했습니다. 기다리기보다 지금 한도로 할 일을 정하는 편이 낫습니다.

Q. 클로드가 암호를 풀었다는데 내 비밀번호 위험해?
A. 아닙니다. 앤트로픽은 “암호가 깨진 게 아니라 숫자의 출처를 밝힌 것”이라며, 할 일이 없다고 했습니다.

조금 더 깊게 — 오늘 판을 읽는 법

‘조리대와 찬장’이 바꾼 계산

예전에는 큰 AI를 집에서 돌리려면 AI 전체를 그래픽카드 메모리라는 작은 조리대에 다 올려야 했습니다. 조리대가 작으면 요리를 못 했습니다. 스트라타는 요리법 자체를 바꿨습니다. 이 AI는 재료(전문가)가 2만 개가 넘지만, 한 번에 쓰는 건 10개뿐입니다. 그래서 자주 쓰는 재료만 조리대에 두고 나머지는 큰 찬장(램) 에 넣어 둡니다. 조리대에 없는 재료가 필요하면 옆 사람(CPU)이 찬장 앞에서 바로 손질합니다. 국내 측정 글에서 ‘적중률 98%’라는 숫자가 중요한 이유가 이것입니다. 필요한 재료가 거의 다 조리대 위에 있었다는 뜻이고, 그래서 빨랐습니다. 반대로 조리대가 작을수록(노트북처럼) 찬장까지 가는 일이 잦아져 느려집니다.

리셋을 조르는 대신 ‘누가 먹었는지’ 보기

한도가 빨리 닳는 느낌은 대부분 내가 안 보는 사이 AI가 쓴 양 때문입니다. 해외 사례의 사용자는 dot이라는 비서를 붙인 뒤 4일 가던 한도가 4시간 만에 끝났고, 분석 화면에서 AI가 스스로 만든 대화가 절반 넘게 차지한 것을 확인했습니다. 리셋은 다시 채워 줄 뿐 새는 곳을 막아 주지 않습니다. 먼저 새는 곳(에이전트·하위 에이전트·최고 설정)을 찾는 것이 초보에게 가장 싸게 먹히는 방법입니다.

싼 것은 언제 비싸지나

딥시크 검색 API는 지금 도구 안에서 쓰면 무료지만 11월부터 돈이 듭니다. 로컬 125B는 한도가 없지만 전기와 램, 그리고 설치 시간이라는 비용이 있습니다. 오늘 소식들은 모두 “싸게 쓰는 길”이지만, 무엇을 대가로 내는지는 길마다 다릅니다. 돈, 시간, 품질 중 무엇을 아끼고 싶은지 먼저 정하면 고르기가 쉬워집니다.

소스 범위

  • 국내 수집: 자동 수집 스크립트 실패(서울 07:55, 198.18.0.1 TLS EOF, 닷새째). 대체 경로로 ChatGPT 게시판 목록 첫 화면(10-18 밤~07:17, 약 50행)과 AI 활용 게시판 목록 첫 화면(06:25~07:57, 약 55행)만 확인했습니다. AI 활용 게시판의 자정~06시 글은 빠졌습니다. 글 15건을 열어 글자 본문 8건(「RTX 5090 + Strata 속도 측정」, 「스트라타가 VRAM이랑 시스템 램 묶어주는 기술」, 「램 샀다 로컬 가본다」, 「125B 모델을 돌린다고」, 「리셋 달라고 하는 이유」, 「토큰값 정상화는 대중국」, ChatGPT 게시판 알트만 비판 글, 「울트라 사용량」)을 읽었고, 나머지 7건(「로컬 LLM 질문」, 「광저우 시계 장인」, 「번개 벤치마크」, 「RTK, Caveman 후기」, 「아스트라」, 「티보갓」, 티보 캡처 글)은 이미지 위주라 일부 또는 전부 미확인입니다. 댓글 0건, 개념글 전용 목록 미확인.
  • 해외: Reddit RSS 9개 서브(LocalLLaMA·MachineLearning·ChatGPT·OpenAI·ClaudeAI·singularity·StableDiffusion·Bard·codex) — 5개는 처음에 요청 제한(429)이 걸려 다른 브라우저 정보로 다시 받아 모두 확보. 해커뉴스 1면, X 원문(티보 최근 글, 스트라타 사용자 실측), 스트라타 공식 README, 딥시크 검색 API 문서, 앤트로픽 ECDSA 글, AA 리더보드.
  • 원문(더 궁금할 때만): 스트라타(깃허브) · 티보 ‘리셋 카드’(X) · 딥시크 검색 API · 앤트로픽 ECDSA · 모델 판세 · AA 보드

내일 아침에도 보려면

텔레그램으로 매일 받기

Optiwork

AI 소식, 직접 활용해 보려면

옵티웍이 함께 운영합니다. 실행 환경을 살펴보고, 아이디어를 검토하고, 실제 적용 사례로 이어가세요.

옵티웍 전체 서비스와 개발 사례 →