Skip to content

feat(providers): Open AI Service Hub(hasa) 외부 provider 추가 - #701

Merged
riskpw merged 1 commit into
mainfrom
feat/hasa-provider
Sep 1, 2026
Merged

feat(providers): Open AI Service Hub(hasa) 외부 provider 추가#701
riskpw merged 1 commit into
mainfrom
feat/hasa-provider

Conversation

@riskpw

@riskpw riskpw commented Sep 1, 2026

Copy link
Copy Markdown
Member

요약

  • https://open.hasa.re.kr (Open AI Service Hub) OpenAI 호환 게이트웨이를 사용자 BYOK 외부 provider hasa 로 추가
  • nvidia 추가(52efc8b)와 동일 범위: 카탈로그 entry · KNOWN_FULLID_PREFIXES · picker 라벨 3파일
  • 게이트웨이(LiteLLM) 편입은 direct 동작 확인 후 별도 (설정 2줄)

문서 검토 요지

  • Bearer sk-dev-*/sk-ops-*, /v1/chat/completions SSE, OpenAI tools 지원(5개 모델), 모델 ID 접두사 없음
  • /v1/models 무인증 → 등록 검증 항상 통과 (helpText 안내)
  • 개발키 한도: RPM 기본 약 10 · 동시 제한 · 일 토큰 상한 → 429 + Retry-After
  • 무키/무효키 호출은 IP 단위 누적 차단(10회 초과 시 1→32분)

라이브 실측 (2026-09-02, 개발키)

  • qwen3-coder 비스트림 200, system_fingerprint: vllm-0.24.0
  • 스트리밍 + tools: delta.tool_calls 표준 청크, get_weather({"city":"서울"})

검증

  • tsc --noEmit api/web 통과, eslint 통과
  • jest providers · chat-service · admin-provider-key-sync 258 passed
  • 배포 후 user 3 키 등록 → chat.openmake.cc 에서 hasa:qwen3-coder 채팅·도구 호출

🤖 Generated with Claude Code

https://claude.ai/code/session_01BtAjkS2BAQ7JxMsidkdYQD

open.hasa.re.kr OpenAI 호환 게이트웨이를 사용자 BYOK provider 로 편입.
기존 openai-compatible 인프라 재사용 — 카탈로그 entry + KNOWN_FULLID_PREFIXES + picker 라벨만 추가 (nvidia 와 동일 범위).

- fallbackModels 는 2026-09-02 공개 카탈로그(/api/catalog) 의 개발키 허용 채팅 모델 8종, capability(tool calling/vision/thinking) 명시
- /v1/models 가 무인증이라 등록 검증이 항상 통과 → helpText 에 첫 채팅 확인 안내 (nvidia 동일 함정)
- 라이브 실측: qwen3-coder 채팅 200(vLLM 0.24), 스트리밍 tool_calls 청크 표준 형식 확인

Co-Authored-By: Claude Fable 5.1 <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_01BtAjkS2BAQ7JxMsidkdYQD
@github-actions

github-actions Bot commented Sep 1, 2026

Copy link
Copy Markdown
Contributor

평가 회귀 리포트 (96f8ed5)

평가 통과율 통과/전체 베이스라인 상태
Routing (Gate 5) 100.0% 120/120 50.0%
Response (Gate 6) 100.0% 30/30 50.0%
  • 데이터셋 버전: routing=0.8.3, response=0.8.3
  • 베이스라인은 OMK_EVAL_PASS_THRESHOLD / OMK_EVAL_RESPONSE_THRESHOLD 환경변수 기준 (이력 비교 아님)
  • 상세 결과: Actions 실행의 evaluation-results-96f8ed5e2c0036b00b8914681e6141a482831845 아티팩트 참조

@riskpw
riskpw merged commit 0a1c18d into main Sep 1, 2026
1 check passed
@riskpw
riskpw deleted the feat/hasa-provider branch September 1, 2026 23:30
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant