Chatbot pro práci s dokumenty, ne generický asistent
Chatbot bude dostupný všem přihlášeným zaměstnancům přímo v prostředí intranetu, s možností omezení podle role uživatele. Bude komunikovat v přirozeném jazyce a bude umět vyhledávat, sumarizovat a citovat obsah dokumentů, včetně odkazů na jejich stažení. Zásadní je, že bude znát obsah všech dokumentů nahraných na intranet (PDF, MS Office apod.) i jejich metadata – ve které sekci jsou uloženy, kdy byly publikovány nebo kdo je nahrál – a tato znalost se bude udržovat automaticky. Chatbot navíc udrží kontext konverzace, takže je možné se v dialogu doptávat a zpřesňovat požadavky.
RAG, embedding a chunking v kostce
Aby chatbot odpovídal na základě reálného obsahu dokumentů, a ne jen z obecné znalosti jazykového modelu, využívá se technika RAG (Retrieval-Augmented Generation). Při každém dotazu systém nejprve vyhledá relevantní pasáže v dokumentech a teprve ty předá jazykovému modelu jako kontext pro odpověď. Dokumenty se pro tento účel rozdělí na menší logické části (chunky) a každá část se pomocí tzv. embeddingu převede na vektorovou reprezentaci, která zachycuje její význam. Tyto vektory se ukládají do vektorové databáze, kde je lze při dotazu rychle vyhledávat podle podobnosti významu, nikoli jen podle shody slov.
Dokumenty jako data: média v Drupalu
Zdrojem dat je stávající implementace Portálu úředníka v CMS Drupal, kde je každý dokument uložen jako samostatné médium s vlastními metadaty – názvem, popisem, adresářem (sekcí), skutečným autorem, typem souboru i údaji o tom, kdo a kdy dokument nahrál. Řešení bude zpracovávat všechny publikované dokumenty tohoto typu a při odpovědích využívat nejen text samotného souboru, ale i tato metadata.
Výsledkem první fáze návrhu je jasně definovaný cíl a datový základ: chatbot, který stojí na dokumentech uložených v Drupalu, doplněných o techniku RAG.
Seriál: AI chatbot v Portálu úředníka KHK