OpenAI, Codex의 기억 용량을 50만 토큰으로 늘렸다

10월 11일, OpenAI의 Codex 책임자 티보 소티오가 X에 변경 사항을 알렸다. Codex와 ChatGPT Work에서 쓰는 GPT-6.1 Sol의 기본 컨텍스트 길이를 27만 2천 토큰에서 50만 토큰으로 늘렸다는 내용이다. 약 80% 증가다.

컨텍스트가 뭐길래

컨텍스트는 AI가 한 번에 기억하며 작업할 수 있는 분량이다. 대화, 읽은 코드, 지금까지 한 작업이 모두 여기에 담긴다. 이 창이 가득 차면 AI는 앞의 내용을 요약해 압축하고 작업을 이어 간다. 압축 과정에서 세부 내용이 빠지면, 앞에서 정한 규칙을 잊거나 같은 실수를 되풀이한다.

무엇이 달라지나

큰 코드베이스를 분석하거나 오래 걸리는 작업에서 압축이 덜 일어난다. 필요하면 최대 100만 토큰까지 직접 늘릴 수 있다. 반대로 기본값보다 줄일 수도 있다. OpenAI는 앞으로 기본값을 더 올리겠다고 밝혔다.

알고 써야 할 것

API로 직접 쓰는 경우, 입력이 27만 2천 토큰을 넘으면 요청 전체에 더 높은 요금이 붙는다. 입력은 2배, 출력은 1.5배다. Codex 기본값이 커지면서 사용량 한도가 더 빨리 차는지는 아직 밝혀지지 않았다.

비개발자에게 주는 의미

창이 커졌다고 정리가 필요 없어지는 것은 아니다. 지난 글에서 말한 바이브코딩의 버그 문제도 결국 AI가 앞에서 정한 규칙을 잊는 데서 생긴다. 50만 토큰은 잊는 시점을 뒤로 미뤄 줄 뿐이다. 프로젝트 규칙을 문서로 남겨 AI가 매번 읽게 하는 습관이 여전히 가장 확실한 방법이다.