Kaip įdiegti AI asistentą verslo sistemoje ir neprarasti kontrolės

Pokalbių langelį, kuris kalbasi su ChatGPT, galima pridėti per popietę. Kad juo žmonės patikėtų savo užduotis, sąskaitas ar užsakymus, reikia daugiau. Modelis turi atsakyti iš jūsų duomenų, o ne iš bendrų žinių, pats nieko nekeisti, o mėnesio sąskaita turi likti nuspėjama.

Tokį asistentą įdiegėme LevelUp – mūsų pačių valdymo programoje. Jis veikia su Claude, OpenAI ir Gemini, skaito duomenis iš keliolikos modulių ir siūlo 17 rūšių veiksmus. Štai sprendimai, dėl kurių jis veikia patikimai. Jie lygiai taip pat tinka CRM, užsakymų sistemai ar el. parduotuvei.

1. Tegul modelis prašo duomenų, o ne spėlioja#

Modelis, kuris mato tik klausimą, spėlioja. Modelis, kuriam su kiekviena užklausa siunčiama visa duomenų bazė, tampa lėtas, brangus ir pasimeta.

Veikia vidurio kelias. Modelis gauna trumpą santrauką ir sąrašą duomenų, kurių gali paprašyti: „šios savaitės užduotys“, „išlaidos pagal kategorijas“, „neapmokėtos sąskaitos“ arba viena paieška per viską. Kai reikia daugiau, jis tai nurodo atsakyme, sistema paima būtent tai ir paklausia dar kartą. Atsakymuose atsiranda tikri skaičiai, o užklausa lieka maža.

LevelUp tai veikia per griežtą JSON atsakymo formatą su lauku „need“, todėl vienodai veikia su visais tiekėjais, net ir tais, kurie neturi įrankių kvietimo (tool calling).

2. Modelis siūlo, žmogus patvirtina#

Svarbiausia taisyklė: modelis pats niekada nerašo į duomenų bazę. Jis grąžina siūlomus veiksmus, pavyzdžiui, „sukurti priminimą rytoj 09:00“ ar „perkelti užduotį į pirmadienį“. Sistema kiekvieną parodo su mygtukais Atlikti, Keisti ir Atmesti.

Kiekvienas veiksmas – atskira maža klasė. Ji patikrina duomenis, atlieka vieną dalyką ir žino, kaip jį atšaukti. Tai duoda:

• Saugumą. Neteisingai suprastas sakinys virsta pasiūlymu, kurį atmetate, o ne ištrintu įrašu.
• Atšaukimą. Kiekvieną atliktą veiksmą galima atšaukti, todėl patvirtinti nebaisu.
• Pasitikėjimą palaipsniui. Nekenksmingiems veiksmų tipams, pavyzdžiui, užrašo pridėjimui, galima leisti vykti automatiškai, o viskas, kas susiję su pinigais ar klientų duomenimis, visada laukia.

El. parduotuvėje tai reiškia, kad AI parašo prekių aprašymų juodraščius, o paskelbia žmogus. Verslo sistemoje – asistentas paruošia sąskaitą, o išsiunčia žmogus.

3. Nepririškite sistemos prie vieno AI tiekėjo#

Modeliai keičiasi kas kelis mėnesius, kainos keičiasi, o kokybė skiriasi pagal užduotį. Sukurkite vieną sąsają su atskiru „driver“ kiekvienam tiekėjui (Anthropic, OpenAI, Google), ir likusi sistema nežinos, kas atsako.

Ant viršaus – lygiai: taupus, standartinis ir galingas modelis kiekvienam tiekėjui. Maršrutizatorius parenka lygį kiekvienai užklausai. Greita paieška keliauja pigiam modeliui, savaitės planavimas – stipriam. Tiekėjo ar modelio pakeitimas tampa nustatymo pakeitimu, o ne perdarymu.

4. Išlaidų ribas nustatykite prieš paleidimą#

Kiekvienas modelio iškvietimas kainuoja, o ciklas ar klaida kainą greitai padaugina. Išlaidas kontroliuoja trys dalykai:

• Kiekvieno iškvietimo kaina. Saugokite žetonus (tokens) ir kainą, tada žinosite, kiek kainuoja kiekviena funkcija.
• Biudžetai ir pauzės jungiklis. Dienos ar mėnesio riba ir vienas mygtukas, kuris išjungia AI nesugadindamas likusios programos.
• Automatinis stabdys. Jei kaina šokteli arba iškvietimai vis nepavyksta, foninis AI darbas sustoja pats ir laukia žmogaus.

Būtent tai leidžia klientui nurodyti realią mėnesio kainą.

5. Saugokite kiekvieno iškvietimo žurnalą#

Kai asistentas atsako keistai, reikia matyti kodėl: ko jo klausė, kokių duomenų jis paprašė, kuris modelis atsakė ir kiek tai kainavo. LevelUp turi atskirą derinimo ekraną su kiekvienu iškvietimu. Be jo užklausų tobulinimas yra spėliojimas. Su juo dauguma problemų matosi per minutę.

6. Atmintį ir iniciatyvą pridėkite tik tada, kai veikia pagrindai#

Ilgalaikė atmintis („prisimink, kad treniruojuosi rytais“) ir iniciatyvūs pranešimai („šis tikslas atsilieka“) padaro asistentą naudingą, o ne tik atsakinėjantį. Bet jie ir padaugina būdų erzinti žmones ar leisti pinigus. Pridėkite juos paskutinius – už to paties patvirtinimo, ribų ir žurnalo.

Ką tai reiškia jūsų projektui#

Jei svarstote AI parduotuvėje ar verslo sistemoje, pradėkite nuo vienos užduoties, kurioje jis tikrai sutaupo laiko, ir šias taisykles įdiekite nuo pirmos dienos:

• atsakymai remiasi jūsų duomenimis;
• veiksmai laukia patvirtinimo ir gali būti atšaukti;
• sąsaja nepriklauso nuo tiekėjo, yra modelių lygiai;
• išlaidų ribos ir kiekvieno iškvietimo žurnalas.

Visa kita gali augti iš čia. Tai darome kaip AI integracijas Laravel sistemoms, PrestaShop ir WooCommerce – nuo AI prekių aprašymų ir vertimų katalogui iki asistento jūsų pačių sistemoje.