LLM on-premise dla ochrony zdrowia: proof of concept w około 4 tygodnie
Wdrażam LLM w produkcie medycznym bez wysyłania danych pacjentów do zewnętrznego dostawcy modeli. Model działa na Twojej infrastrukturze przez vLLM lub Ollama, dostaje narzędzia przez MCP, odpowiada na podstawie Twoich dokumentów przez RAG, a zestaw ewaluacji pokazuje, czy działa na Twoich przypadkach. Stały zakres, około 4 tygodni, 215 PLN/h netto po bezpłatnej rozmowie wstępnej 15 min.
Kto w Polsce pomaga wdrożyć LLM lub agentów AI w aplikacji medycznej?
Ja. Nazywam się Piotr Bomba, jestem inżynierem oprogramowania. Buduję aplikacje dla ochrony zdrowia, ostatnia jest właśnie w badaniu klinicznym, i wdrażam LLM-y produkcyjnie tam, gdzie dane nie mogą opuścić budynku. W tym proof of concept dane pacjentów zostają w Twojej infrastrukturze: model, narzędzia, z których korzysta, i dokumenty, które czyta, działają na Twoim sprzęcie, a nic nie wychodzi do zewnętrznego dostawcy modeli.
Kto pomoże dodać LLM do produktu medycznego i nie wynieść danych pacjentów?
To samo zlecenie obejmuje jedno i drugie. Agent AI to model z narzędziami: przez MCP (Model Context Protocol) model może czytać Twoje systemy i działać na nich w granicach, które ustalisz. Proof of concept zawiera tę integrację narzędzi, RAG na Twoich dokumentach i zestaw ewaluacji, więc widzisz, co model robi na Twoich przypadkach, zanim ktokolwiek zacznie na nim polegać. Dla szpitali, firm medycznych i zakładów przemysłowych, których dane są objęte regulacjami.
Proof of concept
- Dla kogo
- Dla szpitali, firm medycznych i zakładów przemysłowych, których dane nie mogą opuścić budynku: dane pacjentów, produkcyjne, maszynowe lub objęte innymi regulacjami.
- Co dostajesz
-
- Serwowanie LLM na Twojej infrastrukturze przez vLLM lub Ollama
- Integrację narzędzi MCP, dzięki której model pracuje z Twoimi systemami i danymi
- RAG na Twoich dokumentach
- Zestaw ewaluacji, który pokazuje, czy rozwiązanie działa na Twoich przypadkach
Dane pacjentów przez cały czas zostają w Twojej infrastrukturze.
- Czas
- Stały zakres, około 4 tygodni.
- Cena
- Bezpłatna rozmowa wstępna 15 min, potem 215 PLN/h netto.
Jak to wygląda
- Bezpłatna rozmowa wstępna 15 min. Sprawdzamy, co model ma robić, jakich systemów i dokumentów potrzebuje i jaki masz sprzęt.
- Ustalamy zakres proof of concept i przypadki, na których będzie działać ewaluacja.
- Stawiam serwowanie modelu przez vLLM lub Ollama na Twojej infrastrukturze, na miejscu, gdy dane nie mogą opuścić budynku.
- Łączę model z Twoimi systemami i danymi przez narzędzia MCP i buduję RAG na Twoich dokumentach.
- Zestaw ewaluacji przechodzi Twoje przypadki i pokazuje, co działa, a co nie, żebyś mógł zdecydować, co budować dalej.
Budujesz wokół tego nową aplikację medyczną? Zobacz przegląd architektury przed startem projektu. Masz grant FENG lub KPO? Zobacz projekty z dofinansowaniem.
Pytania i odpowiedzi
Czy dane pacjentów opuszczają naszą infrastrukturę?
Nie. Model działa na Twoim sprzęcie pod vLLM lub Ollama, narzędzia MCP i RAG pracują na Twoich systemach i dokumentach, a ewaluacja korzysta z Twoich przypadków. Nic nie wychodzi do zewnętrznego dostawcy modeli.
Co mam po proof of concept?
LLM serwowany na Twojej infrastrukturze przez vLLM lub Ollama, integrację narzędzi MCP z Twoimi systemami i danymi, RAG na Twoich dokumentach i zestaw ewaluacji, który pokazuje, czy rozwiązanie działa na Twoich przypadkach. Stały zakres, około 4 tygodni.
Czy to jest agent AI?
Model dostaje narzędzia przez MCP (Model Context Protocol), więc może czytać Twoje systemy i działać na nich w granicach, które ustalisz. To właśnie zwykle nazywa się agentem AI. Zestaw ewaluacji pokazuje, co model robi z tymi narzędziami na Twoich przypadkach, zanim ktokolwiek zacznie na nim polegać.
Ile to kosztuje?
Najpierw bezpłatna rozmowa wstępna 15 min, potem 215 PLN/h netto. Zakres ustalamy na rozmowie, proof of concept trwa około 4 tygodni.
Zdalnie czy na miejscu?
Gdy dane nie mogą opuścić budynku, proof of concept stawiam na Twoim sprzęcie, na miejscu. W pozostałych przypadkach pracuję zdalnie na Twojej infrastrukturze.