Ferryt Chat 2.0 (RAG): chat z generowaniem wspomaganym wyszukiwaniem

Centrum Sztucznej Inteligencji UAM, we współpracy z partnerem DomData, zrealizowało moduł inteligentnego chatbota, bazującego na wewnętrznej dokumentacji przedsiębiorstwa. Projek ten obejmował analizę możliwości zastosowania różnych modeli językowych dla języka Polskiego oraz analizę jakości odpowiedzi. System zaprojektowany w architekturze RAG (ang. Retrieval Augmented Generation, pl. Generowanie Wspmagane Wyszukiwaniem) pozwala analizować dostępną wiedzę i informacje będące wewnętrznymi dokumentami przesiębiorstwa i na tej podstawie udzielić szczegółowej odpowiedzi. Zastosowana architektura zapewnia dostęp do najnowszych danych przedsiebiorstwa, zapewniając jednocześnie bezpieczeństwo danych oraz ich nieudostępnianie poza kontrolowaną infrastrukturę przedsiębiorstwa.

Istotnym elementem projektu jest również możliwość szybkiego dotarcia do źródła wiedzy, dzięki wskazaniu dokumentów na podstawie których model udzielił odpowiedzi.