OpenAI가 Agents API를 퍼블릭 베타로 공개했습니다. 단순히 모델을 호출해 답변을 받는 API와는 방향이 다릅니다. Codex와 ChatGPT Work에서 사용해 온 장기 실행형 에이전트의 실행 구조를 개발자가 API로 사용할 수 있게 한 것이 핵심입니다.
AI 에이전트를 직접 만들어 본 개발자라면 모델 성능보다 주변 구조를 만드는 일이 더 어렵다는 점을 알고 있습니다. 긴 작업에서 컨텍스트를 관리하고, 파일과 코드를 다루고, 여러 도구를 호출하고, 중간 결과를 저장하며, 필요하면 하위 에이전트를 병렬로 움직여야 합니다. Agents API는 이 부분을 OpenAI가 관리하는 ‘하네스’ 형태로 제공하려는 서비스입니다.
모델 API가 아니라 실행 환경에 가깝다
기존 LLM API는 대체로 입력을 보내고 출력을 받는 구조였습니다. 에이전트 기능을 만들려면 개발자가 별도로 상태 저장, 반복 호출, 도구 실행, 오류 복구, 작업 분할을 구현해야 했습니다. Agents API는 이런 제어 계층을 Codex에서 사용한 구조를 기반으로 제공하는 것이 차이입니다.
OpenAI 설명에 따르면 개발자는 OpenAI가 관리하는 샌드박스를 사용할 수도 있고, 자체 인프라나 제휴 샌드박스 환경을 선택할 수도 있습니다. 즉 에이전트의 판단과 작업 흐름은 관리형 하네스를 사용하면서 실제 실행 환경은 서비스 특성에 맞춰 선택할 수 있습니다.
장시간 작업과 서브에이전트가 핵심
흥미로운 부분은 ‘며칠 동안 안정적으로 동작하는 에이전트’를 전제로 설계했다는 점입니다. 일반 챗봇은 한 번의 질문과 답변이 중심이지만, 실제 업무형 에이전트는 여러 파일을 읽고 코드를 실행하고 결과를 검토한 뒤 다시 수정하는 과정이 반복됩니다.
Agents API는 컨텍스트 관리, 도구 사용, 서브에이전트 조율을 하네스에서 담당하도록 설계됐습니다. 특히 복잡한 작업을 여러 하위 에이전트로 분리해 병렬화할 수 있다는 점은 단순한 Function Calling보다 한 단계 위의 사용 사례를 겨냥한 것으로 보입니다.
직접 구축과 관리형 API의 차이
개발자가 LangGraph나 자체 오케스트레이션 코드를 이용해 비슷한 구조를 만들 수도 있습니다. 장점은 세밀한 제어와 특정 모델에 종속되지 않는 설계입니다. 반면 상태 관리와 장애 대응, 샌드박스 보안, 장기 작업 신뢰성을 모두 직접 책임져야 합니다.
Agents API는 반대로 OpenAI의 Codex 하네스를 그대로 활용하면서 개발 부담을 줄이는 쪽입니다. 대신 실행 구조가 OpenAI 생태계와 더 밀접하게 연결됩니다. 따라서 단순한 챗봇이라면 굳이 필요하지 않을 수 있지만, 파일 처리·코딩·리서치·사내 업무 자동화처럼 여러 단계를 지속적으로 수행하는 서비스에는 의미가 커집니다.
한국 개발자 입장에서는 비용보다 구조 단순화가 포인트
OpenAI는 퍼블릭 베타에서 Agents API 자체에 별도 사용료를 붙이지 않고, 사용한 토큰과 도구 비용을 지불하는 방식이라고 밝혔습니다. 물론 실제 서비스 비용은 에이전트가 얼마나 오래 실행되고 도구를 얼마나 많이 호출하느냐에 따라 달라질 수 있습니다.
국내에서도 n8n이나 자체 백엔드에 LLM을 연결해 다단계 자동화를 구성하는 사례가 늘고 있습니다. 이 경우 가장 번거로운 부분이 모델 호출 그 자체보다 상태와 실행 흐름을 관리하는 코드입니다. Agents API는 이 영역을 서비스화했다는 점에서 개발 시간을 크게 줄일 가능성이 있습니다.
개인적으로 이번 발표는 새로운 모델 하나가 나온 것보다 ‘에이전트 제품을 만드는 방식’이 바뀐다는 점이 더 중요해 보입니다. 다만 아직 퍼블릭 베타인 만큼 장시간 실행 안정성, 비용 예측, 외부 도구 연결의 유연성이 실제 서비스에서 어느 정도인지 확인해야 합니다.