Skip to content
View zachhew's full-sized avatar
🦔
🦔

Block or report zachhew

Block user

Prevent this user from interacting with your repositories and sending you notifications. Learn more about blocking users.

You must be logged in to block users.

Maximum 250 characters. Please don’t include any personal information such as legal names or email addresses. Markdown is supported. This note will only be visible to you.
Report abuse

Contact GitHub support about this user’s behavior. Learn more about reporting abuse.

Report abuse
zachhew/README.md

Захар | Python / LLM Engineer

Привет. Я занимаюсь backend-разработкой и проектами в области LLM.

Мне особенно интересны системы, в которых модель — это только часть решения: RAG, MCP, multi-agent workflow, tool-based integration, retrieval quality, evaluation и инженерная обвязка вокруг всего этого.

Не ограничиваюсь только интеграцией модели в приложение — интереснее выстраивать вокруг этого более цельные backend-системы с понятной архитектурой, API-слоем, инфраструктурой и контролем качества.

♟️ Основные направления

  • RAG-системы: ingestion, embeddings, hybrid retrieval, reranking, citations, evaluation

  • MCP/tool-calling серверы для интеграции LLM с внешними инструментами

  • Multi-agent workflows на LangGraph с маршрутизацией, review loop и typed state

  • LLM backend: FastAPI, Pydantic, PostgreSQL, Redis, Docker, CI/CD

  • Structured outputs, JSON schemas, task routing, prompt design, answer validation

  • Retrieval quality, observability, testing и production-oriented подход к AI-системам

📋 Основные проекты

Advanced RAG-система для работы с документами: ingestion pipeline, Qdrant, dense + BM25 hybrid retrieval, cross-encoder reranking, citations, streaming и evaluation.

Что показывает проект:

  • построение RAG-пайплайна end-to-end;

  • hybrid retrieval и reranking;

  • генерация ответов с источниками;

  • оценка качества retrieval/generation;

  • FastAPI API для работы с системой.

MCP-style backend-сервер для LLM-агентов с typed tools, JSON-RPC endpoint, API-key auth, scope-based доступом, audit logging, PostgreSQL search, Redis, metrics и CI.

Что показывает проект:

  • tool-calling архитектуру для LLM;

  • серверную реализацию MCP-style подхода;

  • строгие схемы инструментов;

  • контроль доступа и audit logs;

  • production-oriented backend вокруг LLM-инструментов.

Мультиагентный workflow на LangGraph с planner, coordinator, curator, writer и reviewer loop. Проект демонстрирует orchestration, typed artifacts, traceable execution и работу с несколькими ролями внутри LLM-системы.

Что показывает проект:

  • LangGraph state machine;

  • multi-agent orchestration;

  • reviewer loop и итеративное улучшение результата;

  • typed state/artifacts;

  • traceable execution.

OpenAI-compatible FastAPI assistant для подбора моделей MWS Model Hub: парсинг каталога и тарифов, расчёт стоимости, session-aware follow-ups, streaming/SSE и LLM-based ranking.

Что показывает проект:

  • OpenAI-compatible API;

  • прикладной AI-assistant под бизнес-задачу;

  • работу с каталогом моделей и pricing logic;

  • структурированную генерацию ответа;

  • session management.

Backend-проект для демонстрации Python/infrastructure базы: FastAPI, PostgreSQL, Redis cache-aside, MongoDB event store, RedPanda/Kafka, Docker Compose, GitHub Actions CI и Kubernetes manifests.

Что показывает проект:

  • event-driven backend architecture;

  • работу с Kafka/RedPanda;

  • Redis cache invalidation;

  • Docker/CI/CD/Kubernetes basics;

  • backend-навыки, полезные для production LLM-систем.

Travel assistant с LangGraph orchestration, RAG-поиском по рекомендациям, weather API integration, ChromaDB vector store и OpenRouter LLM.

Что показывает проект:

  • связку LangGraph + tools;

  • RAG-инструмент внутри агента;

  • интеграцию внешнего API;

  • FastAPI API для агентного приложения.

🛠️ Стек

LLM / AI: LangChain, LangGraph, RAG, MCP, tool-calling, structured outputs, embeddings, reranking, evaluation

Backend: Python, FastAPI, Pydantic, REST API, OpenAPI, SQLAlchemy, Alembic

Databases / Storage: PostgreSQL, Redis, Qdrant, ChromaDB, MongoDB

Infrastructure: Docker, Docker Compose, GitHub Actions, basic Kubernetes, logging, metrics

Quality: Pytest, Ruff, MyPy, typed schemas, CI checks

Сейчас развиваю

  • production-oriented RAG-системы с evaluation и citations;

  • MCP/tool-calling backend для LLM-агентов;

  • multi-agent orchestration на LangGraph;

  • event-driven backend и инфраструктурные навыки для AI-сервисов.

📬 Контакты

Pinned Loading

  1. legal-word-llm-addin legal-word-llm-addin Public

    Microsoft Word Add-in for AI-assisted legal document review with controlled LLM editing.

    Python

  2. RAG_docs_assistant RAG_docs_assistant Public

    Advanced RAG system with FastAPI, Qdrant, dense + BM25 hybrid retrieval, cross-encoder reranking, citations, streaming and evaluation.

    Python 1

  3. mcp_knowledge_server mcp_knowledge_server Public

    Production-oriented MCP-style FastAPI backend with typed tools, API key auth, scopes, audit logs, PostgreSQL search, Redis, metrics and CI.

    Python 1

  4. agentic-research-orchestrator agentic-research-orchestrator Public

    LangGraph multi-agent backend with planner, coordinator, curator, writer and reviewer loop, typed artifacts, MCP tools and traceable runs.

    Python

  5. mws_ai_assistant_test mws_ai_assistant_test Public

    OpenAI-compatible FastAPI assistant for MWS model selection with deterministic pricing, catalog parsing, session-aware follow-ups and LLM ranking.

    Python

  6. event-driven-order-platform event-driven-order-platform Public

    Production-oriented FastAPI backend with PostgreSQL, Redis cache-aside, MongoDB event store, RedPanda/Kafka, Docker Compose, CI and Kubernetes manifests.

    Python