AI local pentru fluxuri utile si date controlate.

Exemplu interactiv pentru clienti: analiza lead, extragere JSON, rezumat, raspuns client si Q&A pe documentatie locala, cu datele pastrate in mediul controlat al beneficiarului.

Analiza leadExtractor JSONRezumat si actiuniRaspuns client

Mediu controlat

Provider: loading
Model: -
Endpoint: mock local
Date: verifica env

Task

Input pentru model

Rezultat

lead-analyzermocklocal-ai-demo-mock

Aici apare output-ul generat de demo.

Ce poate vedea clientul

Demo-ul arata fluxuri utile pentru firme, nu doar conversatie generica.

Analiza lead

Scor, intentie, buget, urgenta si intrebari de follow-up.

Extractor JSON

Transforma mesaje libere in date structurate pentru CRM sau aplicatii, fara expunere inutila.

Rezumat si actiuni

Reduce documente sau emailuri la pasi clari si riscuri.

Raspuns client

Propune un mesaj profesional, scurt si orientat spre pasul urmator.

Q&A local

Raspunde din documentatie locala, util pentru knowledge base privat si date controlate.

Arhitectura demo

Aceeasi interfata poate rula mock, Ollama sau endpoint local/NPU, cu procesarea pastrata controlat.

Browser client

API demo eINFO

Prompt pe task

Provider mock/local/NPU

Date controlate

Rezultat text sau JSON

Conectare NPU

Cand runtime-ul local este pregatit, se schimba providerul si URL-ul endpointului.

Config demo

EINFO_DEMO_AI_PROVIDER=local-http
EINFO_DEMO_LOCAL_AI_URL=http://127.0.0.1:8787/generate
EINFO_DEMO_LOCAL_AI_MODEL_ID=qwen2.5-1.5b-instruct-npu-int8

Contract runtime

{
  "prompt": "...",
  "task_id": "lead-analyzer",
  "model": "qwen2.5-1.5b-instruct-npu-int8",
  "max_new_tokens": 384,
  "temperature": 0.1,
  "response_format": "json"
}

Update semnat eINFO

Demo-ul include si ideea de update personalizat, verificat prin manifest, checksum si rollback.

Mod: demo

Date locale protejate

.env.localdocumente clientbaze de date