Categorías
···
Entrar / Registro
Resumen: Buscamos un Ingeniero Backend para ampliar una plataforma de IA utilizando Node.js/NestJS, construyendo un backend de proxy para el tiempo de ejecución de inferencia y expandiendo los paneles de control. Aspectos destacados: 1. Ampliar una base probada de SaaS hacia una nueva plataforma de tiempo de ejecución de IA. 2. Construir el backend de proxy para una nueva plataforma de IA. 3. Trabajar con modelos de lenguaje de IA de vanguardia en una startup en modo sigiloso. ### **Sobre nosotros** Somos una **startup en modo sigiloso** que está desarrollando una nueva plataforma de IA. Nuestra misión es hacer que los modelos avanzados de lenguaje sean desplegables, personalizables y seguros en entornos diversos. ### **Puesto** Buscamos un **Ingeniero Backend (Node.js/NestJS)** para ampliar nuestra plataforma utilizando nuestra base de código existente. Usted construirá el **backend de proxy** que interactúa con nuestro tiempo de ejecución personalizado de inferencia y ampliará los paneles de control. Este puesto requiere sólidas habilidades de ingeniería backend, la capacidad de integrar sistemas existentes y comodidad trabajando estrechamente con ingenieros de C\+\+/CUDA que desarrollan funciones de tiempo de ejecución de bajo nivel. ### **Responsabilidades** #### **Backend de proxy para el tiempo de ejecución de inferencia** * Construir y mantener un **backend de proxy basado en Node.js** que: + Reciba solicitudes de inferencia desde el frontend. + Programe y serialice prompts. + Gestione la **carga/descarga de la caché QKV**. + Proporcione APIs para **gestionar adaptadores LoRA**. * Integrarse con la autenticación, RBAC y registro ya proporcionados por la pila existente. * Exponer métricas y registros para supervisar el uso y el rendimiento de la inferencia. #### **Paneles de control** * Ampliar el panel de control existente con carga de conjuntos de datos, vista de trabajos de entrenamiento, gestión de modelos, uso de inferencia, historial de solicitudes y selección de adaptadores. * Reutilizar el código de **autenticación, facturación y gestión de usuarios** (Auth0, Stripe). * Agregar los puntos finales de backend necesarios para soportar nuevos flujos de interfaz de usuario. #### **Pila principal e infraestructura** * Desarrollar utilizando **NestJS** como marco principal de backend. * Trabajar con **PostgreSQL, Redis y HashiCorp Vault** para persistencia, almacenamiento en caché y administración de secretos. * Usar **Socket.IO** para actualizaciones en tiempo real (estado de trabajos, progreso de inferencia). * Asegurar la integración segura con Stripe (facturación) y Auth0 (identidad). * Colaborar con DevOps en las canalizaciones de despliegue (Proxmox, Docker, CI/CD). ### **Requisitos** * Experiencia sólida con **Node.js** y el marco **NestJS**. * Competencia en **PostgreSQL** y **Redis** para persistencia y almacenamiento en caché. * Experiencia práctica con **Socket.IO** u otras bibliotecas WebSocket. * Experiencia con **configuración segura y gestión de secretos** (preferentemente HashiCorp Vault). * Comodidad trabajando con **microservicios** e integrando con bases de código existentes. * Fuertes habilidades de depuración y pensamiento sistémico: capacidad para razonar sobre programación, gestión de estado y concurrencia. ### **Deseable** * Experiencia integrando con **tiempos de ejecución de IA** (backends gRPC/REST para inferencia). * Experiencia con RAG y MCP. * Experiencia con **marcos de autenticación/autorización** (Auth0, JWT, RBAC). * Familiaridad con la **API de Stripe** u otros sistemas de facturación. * Contribuciones a proyectos de código abierto de backend. * Experiencia con WebRTC. ### **¿Por qué unirse?** * Ampliar una base probada de SaaS hacia una **nueva plataforma de tiempo de ejecución de IA**. * Remuneración competitiva y potencial de participación accionaria.
