안녕하세요, 캐럿팀이에요. 🤗 오늘은 다른 AI를 공격하며 보안을 높이는 모델부터 코덱스 전용 키보드, 직접 튜닝할 수 있는 오픈 모델, 터미널에서 일하는 코딩 에이전트까지 살펴볼게요.

오픈AI가 다른 AI를 공격하는 GPT-Red를 만들었어요. 공격과 방어를 반복하며 프롬프트 인젝션을 찾아내는 모델이에요. 오픈AI가 MIT Technology Review에 설명한 내용에 따르면, GPT-Red는 사람이 하던 red-teaming을 자동화해 웹 검색, 이메일 읽기, 캘린더 사용, 코드 편집 같은 환경에서 모델을 속이는 방법을 찾도록 훈련됐어요.

GPT-Red는 공격 모델과 방어 모델이 서로 겨루는 self-play 방식으로 훈련됐어요. 새로운 공격을 발견하면 여러 변형을 만들어 어떤 상황에서 가장 잘 통하는지 파고들어요. 이 과정에서 다른 모델의 사고 기록에 가짜 정보를 끼워 넣는 새로운 유형의 프롬프트 인젝션도 발견했다고 해요.

오픈AI의 테스트에서는 GPT-Red가 사람보다 효과적인 공격을 더 많이 찾아냈고, GPT-5.6은 GPT-Red가 만든 공격에 대한 방어력이 이전 모델보다 높았어요. 다만 이미지가 포함된 공격이나 여러 차례 대화가 이어지는 공격에는 아직 약점이 있고, GPT-Red 자체는 공개되지 않아요.

오픈AI가 코딩 에이전트 코덱스와 함께 사용할 수 있는 키보드 Codex Micro를 공개했어요. 가격은 230달러이고, 키보드 전문 제작사 Work Louder와 함께 만든 한정판 협업 제품이에요.

키보드에는 에이전트의 상태를 보여주는 Agent Keys, 코덱스 명령을 실행하는 Command Keys, 작업 흐름을 시작하는 조이스틱이 들어갔어요. 다이얼을 돌려 에이전트가 문제를 해결할 때 사용하는 reasoning 강도도 조절할 수 있어요. ChatGPT 데스크톱 앱에서 키를 설정하고 제품을 관리해요.

스마트 스피커 형태의 미공개 기기와 달리, Codex Micro는 실제로 공개된 제품이에요. 다만 한정 수량 협업 제품이라 대중적인 업무 도구라기보다 AI 에이전트를 책상 위에서 관리하는 새로운 인터페이스를 보여주는 제품에 가까워요.

Thinking Machines가 오픈 웨이트 모델 Inkling을 공개했어요. 전체 파라미터는 9,750억 개이고, 한 번에 활성화되는 파라미터는 410억 개예요. Mixture of Experts 구조를 사용하며 텍스트, 이미지, 오디오를 입력으로 받을 수 있어요.

공식 페이지는 Inkling을 특정 작업만 잘하는 모델보다 지식, 수학, 과학, 코딩, 도구 사용, 이미지와 음성 입력을 폭넓게 다루는 범용 모델로 소개해요. 컨텍스트 윈도는 기본 100만 토큰이고, Tinker에서는 6만 4천 또는 25만 6천 토큰 설정을 지원해요.

모델 가중치를 직접 만지고 도메인에 맞게 fine-tuning할 수 있다는 점이 핵심이에요. Thinking Machines의 Tinker 플랫폼, 모델 카드, Hugging Face를 통해 접근할 수 있어요.

xAI가 터미널형 코딩 에이전트 Grok Build의 소스 코드를 공개했어요. 전체 화면 터미널 UI에서 코드베이스를 이해하고, 파일을 수정하고, 셸 명령을 실행하고, 웹을 검색하고, 오래 걸리는 작업을 관리할 수 있어요.

Grok Build는 대화형 터미널뿐 아니라 headless 방식의 스크립트와 CI 환경에서도 실행할 수 있어요. 편집기 안에 연결할 수 있도록 Agent Client Protocol도 지원해요. macOS, Linux, Windows용 사전 빌드 바이너리를 제공하고, 소스에서 Rust로 직접 빌드할 수도 있어요.

챗봇 창에서 코드를 제안하는 단계를 넘어, 에이전트가 개발 환경 안에서 파일과 명령어를 직접 다루는 흐름을 보여주는 프로젝트예요. 다만 설치 후 브라우저 인증이 필요하고, 공식 저장소에는 외부 기여를 받지 않는다고 안내돼 있어요.

오늘 소식은 여기까지예요. AI를 공격하며 방어력을 높이는 모델부터 에이전트를 조작하는 키보드와 개발 환경까지, AI가 직접 일하는 방식이 빠르게 구체화되고 있어요. 내일 또 좋은 소식으로 찾아올게요. 😄