Seif Privat de Documente Medicale

Rezultate obținute

Context

Documentele clinice sunt sensibile implicit — arhitectura trebuie să presupună inferență on-prem sau self-hosted.

Provocare

Familiile acumulează rezultate de laborator, trimiteri și scanări în formate și limbi diferite. OCR-ul din cloud și API-urile LLM publice erau inacceptabile pentru documente medicale. Produsul avea nevoie de încărcare, extracție, conversie structurată și rezumate, păstrând toată procesarea pe infrastructură controlată.

Abordare

Am construit o stivă multi-serviciu: frontend React, API de aplicație FastAPI, serviciu OCR dedicat cu PaddleOCR și corecție prin model de viziune, Ollama pentru rezumate și cronologii LLM locale și PostgreSQL pentru modelele de familie/membru/document. Docker Compose cu GPU a făcut OCR-ul și LLM-ul practice pe hardware propriu.

Arhitectură

UI React + TypeScript, backend-uri FastAPI, PaddleOCR + modele de viziune pentru OCR sensibil la layout, runtime LLM Ollama, PostgreSQL, Docker Compose cu suport GPU NVIDIA.

Domeniu

• —Conturi de familie
• —Încărcare documente
• —OCR local
• —Structurare Markdown
• —Rezumate și cronologii LLM
• —Suport pentru documente multilingve

Constrângeri

• —Fără dependență de OCR/LLM din cloud
• —GPU necesar pentru randament practic
• —Nevoi lingvistice orientate spre română
• —Intrări mixte PDF și imagine

Aspecte cheie ale soluției

• —OCR ca serviciu separat de API-ul de produs
• —Modele de viziune pentru înțelegerea layout-ului, nu doar text brut
• —Ollama ca runtime de analiză privată
• —Compose + toolkit NVIDIA pentru stive GPU reproductibile

Tehnologii

Rezultate

• —Traseu privat de la un cap la altul, de la încărcarea scanării la text structurat căutabil
• —Pipeline OCR cu păstrarea casetelor de delimitare și corecție asistată de viziune
• —Rezumate și cronologii LLM locale, fără apeluri către API-uri publice
• —Model de cont familie/membru potrivit pentru istoricul medical al gospodăriei

Lecții învățate

• —Produsele AI medicale sunt întâi produse de infrastructură.
• —Separă OCR-ul de rezumatul prin chat, altfel amândouă devin nementenabile.
• —Acoperirea lingvistică ar trebui să facă parte din alegerea OCR și LLM, nu doar din UI.