OrcaReplay GitHub 저장소. Apache-2.0 라이선스로 공개돼 있다. 소개 문구는 ‘Time travel for AI agents. Record, replay, fork, and debug any agent run with any model’이다
싱가포르--(뉴스와이어)--CONTINUUM AI(컨티뉴엄 AI)가 개발한 OpenAI 호환 LLM 게이트웨이인 OrcaRouter가 AI 에이전트의 실행을 기록하고 되짚는 추적 도구 ‘orca-trace’ v0를 공개했다고 밝혔다. 같은 시점에 실행 기록을 재현하고 분기하는 오픈소스 도구 OrcaReplay도 Apache-2.0 라이선스로 함께 공개했다.
한 번의 실행이 두 갈래로 흩어진다
에이전트 실행에서 일어나는 일은 두 곳에 나뉘어 있다. 모델 쪽에서는 무엇을 요청했고 무엇이 돌아왔는지, 어떤 모델과 제공자로 라우팅됐는지가 게이트웨이를 지나간다. 기계 쪽에서는 셸 명령, 파일시스템 접근, MCP 호출, 그리고 실제로 남은 부작용이 일어난다. 한쪽만 보면 나머지 절반이 보이지 않는다.
orca-trace는 이 두 갈래를 한 줄로 잇는다. 게이트웨이가 보는 요청·응답·라우팅 결정·실제 프로덕션 트래픽과 실행 환경이 보는 셸·파일시스템·MCP·부작용을 함께 기록해 하나의 실행으로 묶는다.
로컬과 게이트웨이를 양방향으로 옮긴다
기록한 실행은 명령 두 개로 로컬과 게이트웨이 사이를 오간다. ‘orca push [run]’은 로컬에서 기록한 실행을 게이트웨이로 올리고, ‘orca pull
기록된 실행은 OrcaRouter 사용자 콘솔의 Insights → Sessions 화면에서 확인한다.
기록한 실행을 되감고, 갈라놓는다
OrcaReplay는 기록한 에이전트 실행을 재생하고, 분기하고, 디버깅하는 도구다. OrcaRouter는 이 도구를 Apache-2.0 라이선스로 공개했으며, 저장소는 공개 상태로 유지되고 있다. 같은 실행을 서로 다른 모델로 돌려 결과가 어떻게 갈라지는지 비교하는 용도로 쓸 수 있다.
초기 버전이라는 점
orca-trace는 첫 공개 버전인 v0며, 별도의 문서 페이지는 아직 공개되지 않았다. 현재 확인 가능한 공개 자료는 OrcaRouter의 발표와 OrcaReplay 저장소다. OrcaRouter는 이 도구를 에이전트 관측성의 출발점으로 두고 있다고 밝혔다.
주요 모델
OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.
참고
OrcaRouter 소개
OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1밀리초 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.
CONTINUUM AI PTE LTD 소개
Continuum AI Pte. Ltd.는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.