Kas yra LLM
LLM (angliškai large language model, lietuviškai didysis kalbos modelis) yra dirbtinio intelekto modelis, išmokytas iš labai didelio teksto kiekio ir generuojantis atsakymą po vieną žodžio dalį, kiekvieną kartą spėdamas, kas seka toliau.
Rokas ZauerasAI Evoliucija5 min skaitymo
Būtent didieji kalbos modeliai veikia po ChatGPT, Claude, Gemini ir kitų pokalbio įrankių danga.
Kaip modelis iš tikrųjų sudaro atsakymą
Modelis neieško atsakymo lentelėje ir neturi savyje interneto kopijos. Mokymosi metu jis peržiūrėjo milžinišką teksto kiekį ir išmoko, kokie žodžiai kokiame kontekste eina vienas po kito. Rašydamas atsakymą jis kaskart pasirenka labiausiai tikėtiną tęsinį, prideda jį prie jau parašyto teksto ir kartoja iš naujo.
Iš to seka du praktiškai svarbūs dalykai. Pirma, tas pats klausimas gali duoti šiek tiek skirtingus atsakymus, nes renkamasi iš tikimybių. Antra, modelis niekada „nežino“, ko nežino: jei fakto neturi, jis vis tiek sudėlioja sklandžiai skambantį sakinį. Tai vadinama halucinacija, ir tai ne gedimas, o tiesioginė veikimo principo pasekmė.
Todėl taisyklė paprasta: viską, kas yra skaičius, data, pavardė ar teisės norma, tikrina žmogus. Tekstą modelis paruošia greitai, o atsakomybė lieka Jums.
Konteksto langas
Modelis vienu metu gali matyti tik ribotą teksto kiekį: Jūsų klausimą, pridėtus dokumentus ir ankstesnį pokalbį. Ši riba vadinama konteksto langu. Kai jis prisipildo, seniausia pokalbio dalis iškrenta, ir modelis ima pamiršti, kas buvo sutarta pradžioje.
Būtent čia dažniausiai lūžta bandymai dirbti su įmonės dokumentais vien pokalbio lange. Kiekvieną kartą įklijuoti tuos pačius duomenis ranka nėra automatizacija, o kai duomenų daug, jie tiesiog nebetelpa.
Kelios sąvokos, kurios eina kartu
- Tokenas Teksto dalis, kuria modelis matuoja įvestį ir atsakymą. Vienas tokenas maždaug atitinka žodžio dalį, todėl lietuviškas tekstas jų sunaudoja daugiau nei angliškas.
- Mokymo duomenys Tekstas, iš kurio modelis mokėsi. Jis turi pabaigos datą, todėl apie visai naujus įvykius modelis nežino, jei jam jų nepateikiate patys.
- Halucinacija Įtikinamai suformuluotas, bet neteisingas teiginys.
- Modelio versija Tas pats įrankis gali veikti su skirtingais modeliais, o jie skiriasi tikslumu, greičiu ir kaina.
Ką tai reiškia renkantis įrankį įmonei
Modeliai keičiasi greitai, ir gaudyti kiekvieną naujieną nėra prasmės. Praktiškai svarbiau kitkas: ar įrankis pasiekia Jūsų failus, ar jis padoriai rašo lietuviškai, kur keliauja duomenys ir ar komanda moka juo naudotis. Modelio pavadinimas yra lengviausiai pakeičiama sprendimo dalis.
Populiariausius įrankius ir jų skirtumus aprašėme ChatGPT įraše.
Norite pamatyti, kaip tai veiktų Jūsų versle?
Nemokamas strateginis pokalbis, be įsipareigojimų.