Kiedy warto postawić na lokalny model AI?
Dokumenty zawierają dane pacjentów, receptury albo tajemnice firmy i nie mogą trafić do publicznego ChatGPT.
Dział prawny wymaga, żeby dane nie opuszczały Unii Europejskiej albo firmowego serwera.
Połowa dokumentacji to skany i formularze wypełniane ręcznie. Zwykły OCR sobie z nimi nie radzi.
Wiedza jest rozproszona w tysiącach PDF-ów i nikt nie potrafi szybko znaleźć odpowiedzi.
Kontrola jakości ręcznie przegląda setki stron i szuka tych samych błędów w kółko.
Nie wiesz, który model wybrać, bo rankingi w internecie nie mówią nic o Twoich dokumentach.
Rozwiązania AI szyte na Twoje dokumenty
Prywatny czat na dokumentach
Asystent odpowiada na pytania na podstawie Twoich dokumentów (RAG) i podaje, skąd wziął odpowiedź. Działa na serwerze w firmie albo w UE.
OCR i pismo ręczne
Odczyt skanów, tabel i formularzy, także polskiego pisma ręcznego, zaznaczeń i skreśleń. Tam, gdzie gotowe modele nie wystarczają, douczamy je na Twoich danych.
Wyciąganie danych
Nazwy, daty, numery serii, dawki i kontrahenci trafiają z dokumentu do bazy albo systemu, zamiast być przepisywane ręcznie.
Weryfikacja dokumentów
Sprawdzanie kompletności i zgodności. Twarde reguły piszemy jako kod, a model językowy zajmuje się tym, czego regułą opisać się nie da.
Tłumaczenie na żywo
Rozpoznawanie mowy, tłumaczenie i drugi model, który sprawdza, czy w tłumaczeniu nic nie zginęło.
Wyszukiwanie semantyczne
Wyszukiwarka, która rozumie sens pytania, a nie tylko słowa kluczowe. Łączy wyszukiwanie pełnotekstowe z wektorowym.
Co już zbudowaliśmy
Pilotaż: dokumentacja produkcyjna z pismem ręcznym
| Co mierzyliśmy | Wynik |
|---|---|
| Pismo ręczne, poprawnie odczytane pola | 23/44 → 32/44 |
| Druk, poprawnie odczytane pola | 37/42 → 40/42 |
| Dokładne dopasowanie po douczeniu (545 próbek) | 66,4% zamiast 28,8% |
| Rozpoznanie struktury strony | 92% pól, ok. 10 s na stronę |
| Zaznaczenia na formularzach | ok. 99% |
Wyniki na próbce dokumentów klienta, przed i po douczeniu modeli OCR.
Wdrożymy każdy model
Nie jesteśmy przywiązani do jednego dostawcy. Model dobieramy do zadania, sprzętu i wymagań dotyczących danych.
Używaliśmy we wdrożeniach
Wdrożymy też
Polskie modele, takie jak Bielik i PLLuM, trenowano z naciskiem na język polski. Llama i Qwen mają za sobą największą społeczność i narzędzia. Który wypadnie najlepiej u Ciebie, pokazuje dopiero test na Twoich dokumentach. W jednym z projektów porównaliśmy trzy modele na tych samych dziesięciu dokumentach i różnice były wyraźne.
Modele uruchamiamy przez vLLM albo Ollamę, na Twoim serwerze z kartą graficzną albo w hostingu GPU w UE. Wokół modelu budujemy resztę systemu: wyszukiwarkę, bazę dokumentów, panel i integracje. Tak jak przy każdej aplikacji webowej. Więcej o polskich modelach piszemy w poradniku Bielik i PLLuM lokalnie.
Od próbki dokumentów do wdrożenia
Lokalny model AI obok Twoich systemów, bez wymiany infrastruktury
Model dokładamy jako warstwę do tego, co działa w firmie. Twoje systemy, serwer i zasady zostają.
Pytania o AI na lokalnych modelach
Opowiedz, co chcesz zrobić z dokumentami
Opinie klientów w GoogleGorąco polecam! Profesjonalne podejście do klienta, pełne zaanagażowanie i pomysłowość! Pan Kamil sprawnie odpowiadał na wszelkie prośby i sugestie. Zlecenie wykonane zgodnie z moimi oczekiwaniami
Współpracujemy już z 5 lat w różnych aspektach. Sam fakt, że nigdy nie przeszło mi przez myśl współpracować z inna firmą mówi o wszystkim Pełen profesjonalizm, terminowość, kreatywność, inicjatywy...długo by wymieniać. Wszystko się zgadza. Naprawdę polecam.
