푸른강아지의 일상

AI 코딩의 다음 병목은 ‘생성’이 아닙니다 - 에이전트의 일을 이해하고 검토하는 시스템

AI 코딩의 다음 병목은 ‘생성’이 아닙니다 — 에이전트의 일을 이해하고 검토하는 시스템핵심 요약: AI 코딩 에이전트는 더 많은 코드를 더 빨리 만들고 있습니다. 하지만 실제로 희소해진 자원은 사람의 검토 시간과 시스템 이해입니다. Mindwalk의 세션 시각화, Geoffrey Litt의 ‘이해를 위한 산출물’, Pydantic이 말한 감독 피로를 함께 보면, 다음 경쟁력은 더 긴 프롬프트가 아니라 작업 궤적을 읽고·설명하고·중단할 수 있는 리뷰 루프에 있습니다.📌 코드는 빨라졌지만, 팀의 판단 속도는 빨라지지 않았습니다AI 코딩 도구를 쓰는 팀이라면 익숙한 장면이 있습니다. 밤새 열린 변경 요청이 아침에 쌓입니다. 생성량만 보면 생산성은 크게 늘어난 듯합니다. 그러나 배포 여부를 결정하려면 누군가..

3.9GB로 줄어든 27B 모델, 스마트폰 AI의 승리일까? - Bonsai 27B가 드러낸 로컬 에이전트의 진짜 병목

3.9GB로 줄어든 27B 모델, 스마트폰 AI의 승리일까? — Bonsai 27B가 드러낸 로컬 에이전트의 진짜 병목핵심 요약: PrismML의 Bonsai 27B는 Qwen3.6 27B를 1-bit로 압축해 언어 모델 가중치를 약 3.9GB까지 낮췄습니다. 그러나 ‘휴대폰에서 27B’를 곧바로 실사용 가능한 장기 에이전트로 번역하면 안 됩니다.가중치 압축은 첫 관문일 뿐입니다. 긴 문맥의 KV 캐시, 비전 모듈, 런타임 버퍼, 전용 커널, 도구 호출의 신뢰성이 뒤따릅니다. 이번 릴리스의 진짜 의미는 모델을 작게 만든 데만 있지 않고, 로컬 에이전트의 설계 기준을 모델 크기에서 피크 메모리와 작업 경계로 바꿨다는 데 있습니다.📌 ‘로컬 27B’가 뉴스가 된 이유로컬 LLM 이야기는 흔히 “몇 GB면 ..

Thinking Machines의 Inkling - ‘1조 파라미터 오픈 웨이트’보다 중요한 것은 커스터마이징의 배포 경로입니다

Thinking Machines의 Inkling — ‘1조 파라미터 오픈 웨이트’보다 중요한 것은 커스터마이징의 배포 경로입니다핵심 요약: Thinking Machines Lab이 975B 전체·41B 활성 파라미터의 멀티모달 MoE 모델 Inkling을 오픈 웨이트로 공개했습니다. 하지만 이 발표를 ‘거대한 무료 모델’로 읽으면 절반만 본 셈입니다.Inkling의 진짜 메시지는 모델 가중치, 파인튜닝 플랫폼 Tinker, 여러 추론 엔진과 클라우드 제공자를 한 묶음으로 내놓은 데 있습니다. 이제 경쟁 단위는 모델 다운로드가 아니라 특정 업무에 맞게 바꾸고, 안전하게 배포하고, 요청별 비용을 제어하는 경로가 되고 있습니다.📌 오픈 웨이트의 기준이 ‘공개’에서 ‘운영 가능성’으로 바뀌고 있습니다오픈 모델..

Kimi K3가 던진 진짜 질문 - 2.8조 파라미터 오픈 모델 시대, 병목은 ‘가중치’가 아닙니다

Kimi K3가 던진 진짜 질문 — 2.8조 파라미터 오픈 모델 시대, 병목은 ‘가중치’가 아닙니다핵심 요약: Moonshot AI의 Kimi K3는 2.8조 파라미터, 100만 토큰 컨텍스트를 내세운 대형 오픈 가중치 모델입니다. 하지만 7월 27일 가중치 공개 전까지는 API 기반 평가가 전부이며, 공식 문서도 64개 이상 가속기 슈퍼노드 구성을 권합니다. Mozilla의 최신 조사에서 오픈 모델 사용률은 79%인데 실제 프로덕션 도달률은 51%에 그쳤습니다. 모델의 크기와 벤치마크보다 배포·권한·관측·평가를 묶는 에이전트 하니스가 경쟁력의 중심으로 옮겨갔다는 신호입니다.📌 ‘오픈 3T급’이라는 헤드라인 뒤에 있는 조건Moonshot AI가 7월 16일 공개한 Kimi K3는 2.8조 파라미터 Mo..

Claude Sonnet 5 마이그레이션의 함정 - 모델 교체가 아니라 ‘실행 계약’ 교체입니다

Claude Sonnet 5 마이그레이션의 함정 — 모델 교체가 아니라 ‘실행 계약’ 교체입니다핵심 요약: Claude Sonnet 5는 Sonnet 4.6의 드롭인 업그레이드처럼 보이지만, 기본 adaptive thinking·새 토크나이저·파라미터 제약이 함께 바뀌었습니다. 같은 프롬프트도 토큰 수와 출력 예산, 오류 조건이 달라질 수 있습니다. 이번 전환의 핵심은 새 모델의 벤치마크 점수를 읽는 일이 아니라, 비용 알람·재시도·회귀 테스트를 포함한 에이전트의 실행 계약을 다시 검증하는 일입니다.📌 ‘드롭인 업그레이드’라는 말이 놓치는 것모델 릴리스 소식은 보통 성능 그래프부터 읽게 만듭니다. Anthropic은 Claude Sonnet 5가 도구 사용·코딩·지식 작업에서 Sonnet 4.6을 개선..