Veľký jazykový model (LLM) a kedy ho nahradiť rozhodovacím stromom

Za dnešnými AI chatbotmi stojí veľký jazykový model, skrátene LLM. Je to mocný nástroj, no nie liek na všetko. Vysvetlíme si, čo LLM je a ako funguje, a potom ukážeme, kedy je rozumnejšie nahradiť ho jednoduchým a predvídateľným rozhodovacím stromom.

Čo je veľký jazykový model (LLM)

Veľký jazykový model (po anglicky large language model) je typ umelej inteligencie natrénovaný na obrovskom množstve textu, ktorý vie generovať ľudsky znejúci jazyk. Stojí za nástrojmi ako ChatGPT, Claude či Gemini. Patrí do strojového učenia, presnejšie do jeho vetvy hlbokého učenia s neurónovými sieťami.

Ako LLM funguje

Princíp je prekvapivo jednoduchý. Model sa z miliárd viet naučil vzory jazyka. Keď mu napíšete otázku, predpovedá najpravdepodobnejšie ďalšie slovo (presnejšie kúsok slova, takzvaný token) a takto skladá odpoveď slovo po slove.

Dôležité je pochopiť, že model nemyslí ani nechápe v ľudskom zmysle a ani „nevie" fakty. Pracuje so štatistikou vzorov a generuje text, ktorý znie vierohodne. Preto si občas aj sebavedomo vymyslí nezmysel, čomu sa hovorí halucinácia.

Čo LLM dokáže a aké má vlastnosti

LLM je výborný na prácu s jazykom: písanie a úpravu textov, zhrnutia, preklady, vysvetľovanie, nápady aj kód. Má však aj vlastnosti, ktoré treba poznať:

• Je nedeterministický. Na rovnakú otázku môže dať zakaždým trochu inú odpoveď. To je super pri tvorivosti, no zlé tam, kde chcete istotu.
• Halucinuje. Vie si vymyslieť, preto treba dôležité výstupy overovať.
• Je náročný na výkon a peniaze. Beží zvyčajne v cloude a každé volanie niečo stojí.
• Nie je vždy vysvetliteľný. Ťažko zistíte, prečo odpovedal práve takto.

Viac o správnom používaní je v článku ako používať AI chatbotov.

Čo je deterministický rozhodovací strom

Rozhodovací strom je postupnosť jasných otázok a podmienok, ktoré vetvením vedú k výsledku. Predstavte si vývojový diagram alebo schému „ak toto, tak tamto".

Keď je strom deterministický, znamená to, že na rovnaký vstup dá vždy rovnaký výstup. Je to obyčajná, vopred napísaná logika (pravidlá), nie štatistická predpoveď.

Príklad: „Je objednávka nad 100 eur? Ak áno, doprava zdarma. Ak nie, doprava 4 eurá." Žiadne hádanie, žiadna halucinácia, vždy rovnaký a overiteľný výsledok.

(Pozn.: v strojovom učení existuje aj rozhodovací strom natrénovaný z dát. Tu hovoríme o ručne navrhnutom strome pravidiel, teda o čistej deterministickej logike.)

LLM verzus rozhodovací strom

Kedy nahradiť AI rozhodovacím stromom

Toto je hlavné posolstvo: nie každý problém potrebuje AI. Veľa úloh, na ktoré ľudia siahajú po LLM, je v skutočnosti jasne ohraničených a vyrieši ich jednoduchý deterministický strom, ktorý je lacnejší, rýchlejší a spoľahlivejší. Strom je lepšia voľba, keď:

• Problém má jasné a konečné pravidlá, napríklad výpočet ceny a zliav, kontrola podmienok (nárok, splnenie kritérií), validácia formulára, smerovanie otázky na správne oddelenie, diagnostický postup krok za krokom.
• Potrebujete predvídateľnosť a vysvetliteľnosť, napríklad pri financiách, práve a súlade s pravidlami, kde musí byť rozhodnutie auditovateľné.
• Nesmiete si dovoliť halucináciu ani náhodnú odpoveď.
• Chcete nulové náklady, rýchlosť, súkromie a beh offline.

V praxi sa veľa „chatbotov" pre časté otázky dá nahradiť obyčajným stromom s pevnými odpoveďami a funguje to spoľahlivejšie.

Kedy naopak potrebujete LLM

Strom má svoje hranice. LLM je nenahraditeľný tam, kde sa pravidlá nedajú vymenovať:

• Porozumenie voľnému textu a nejednoznačným vstupom.
• Tvorba a úprava obsahu, zhrnutia, preklady.
• Obrovská rozmanitosť prípadov, ktoré by ste do stromu nikdy nevypísali.

Hybridný prístup: to najlepšie z oboch

Často je ideálne oboje skombinovať. LLM použijete na to, aby porozumel a vytiahol z textu podstatu, a deterministický strom potom spraví samotné rozhodnutie. Tak získate pružnosť jazyka aj istotu a vysvetliteľnosť pravidiel. O agentoch, ktorí spájajú modely s nástrojmi, je článok čo je AI agent.

Záver

Veľký jazykový model je AI, ktorá skladá text predpovedaním ďalšieho slova. Je skvelý na jazyk, ale je nedeterministický, halucinuje, stojí peniaze a ťažko sa vysvetľuje. Deterministický rozhodovací strom je naopak jednoduchá logika pravidiel, ktorá je predvídateľná, lacná a auditovateľná. Pred siahnutím po AI sa preto oplatí spýtať: nedá sa to vyriešiť obyčajným stromom? Často áno. A keď treba oboje, najlepšie funguje ich kombinácia. Ako pri každej technológii platí, že AI je dobrý sluha, no zlý pán, viac v článku AI, dobrý sluha a zlý pán.

Chcete vo firme nasadiť automatizáciu alebo AI tak, aby dávala zmysel a nestrieľala vedľa? Ozvite sa nám, navrhneme riešenie na mieru.

Tento článok je súčasťou prehľadu Umelá inteligencia.