Synology este un furnizor de soluții de gestionare a datelor. Cu o bază globală de utilizatori de 13 milioane de instalări, Synology gestionează anual aproximativ 280.000 de tichete deschise pe probleme de asistență tehnică, de la simple solicitări de produse până la consultanță complexă de configurare a soluțiilor în mediile IT ale companiilor. Pentru a crea o experiență de înaltă calitate și rezolvare rapidă a solicitărilor, în urmă cu patru ani compania a înființat o echipă AI și a utilizat tehnici de învățare automată (machine learning) pentru a face recomandări relevante utilizatorilor atunci când pun întrebări. Această abordare permite rezolvarea rapidă a unui număr anual de aproximativ 50.000 de cazuri de asistență tehnică.
Ulterior am asistat la apariția modelelor lingvistice mari (large language models - LLM), cum ar fi GPT-3 în 2020 și ChatGPT la sfârșitul anului 2022, care au revoluționat domeniul procesării limbajului natural (natural language processing - NLP). Aceste modele au demonstrat capacități fără precedent în înțelegerea și generarea de text asemănător cu cel uman, deschizând noi posibilități pentru îmbunătățirea sistemelor de asistență pentru clienți.
Deși modelele lingvistice mari au câștigat o popularitate semnificativă, acestea nu sunt potrivite pentru a aborda direct problemele de asistență ridicate de utilizatorii Synology. Există mai multe motive pentru acest lucru. În primul rând, datele de antrenament ale LLM-urilor includ un amestec de surse, cum ar fi diverse forumuri, articole mai vechi și conținut generat de utilizatori, care pot să nu reflecte întotdeauna cele mai actuale sau mai exacte informații.
În plus, aceste modele pot avea dificultăți în a oferi cunoștințe tehnice precise sau soluții pentru cazuri de asistență unice care necesită înțelegere specifică a contextului. Când un utilizator prezintă o problemă, specialiștii Synology trebuie să decidă dacă este posibil să răspundă pe baza informațiilor furnizate, să ceară mai multe detalii sau să stabilească ce întrebări sunt potrivite să le adreseze clienților. Acest lucru necesită nu numai aflarea contextului mai larg al problemei, ci și o înțelegere nuanțată a practicilor și limitărilor de asistență ale Synology.
Aici intervine Retrieval-Augmented Generation (RAG) ca o soluție excelentă. RAG este o tehnică utilizată pe scară largă pentru a optimiza acuratețea datelor de ieșire ale unui LLM. Aceasta preia date din baze de date externe autorizate pentru a oferi informații contextuale precise, pe care AI le folosește apoi pentru a genera răspunsuri adecvate. Această abordare ajută la menținerea rezultatului corect, relevant și asigură respectarea politicilor interne.
Sistemul de asistență bazat pe RAG al Synology este construit pe o arhitectură în patru pași concepută pentru a asigura clienților confidențialitatea, acuratețea și eficiența serviciilor furnizate. Procesul începe cu construirea unei baze de date RAG, unde sunt utilizate date istorice ale serviciilor tehnice de pe perioada ultimului an. Acest pas crucial include un proces amănunțit de anonimizare pentru a proteja confidențialitatea clienților noștri.
După anonimizare, se realizează fragmentarea și indexarea datelor pentru o procesare mai eficientă atunci când se construiește baza de date RAG. În plus, se aplică încorporarea semantică a acestor bucăți, permițând căutări avansate de similitudine semantică prin identificarea și preluarea conținutului relevant din punct de vedere contextual. Din experiența acumulată, cel mai bine este să se păstreze mai multe date contextuale atunci când se efectuează fragmentarea, permițând o anumită suprapunere între fiecare segment de date. Această abordare duce la rezultate de căutare care se aliniază mai bine cu intenția manifestată de client.
Următoarea fază implică procesarea de noi tichete de asistență. Când un client trimite un tichet, Synology efectuază mai întâi dezidentificarea pentru a anonimiza informațiile sensibile și a-i proteja confidențialitatea. Apoi este analizat tichetul pentru a înțelege intenția clientului și pentru a determina dacă este necesar un răspuns AI. De exemplu, să presupunem că tichetul de asistență al clientului implică solicitarea unui consultant de asistență tehnică, cum ar fi atunci când un client solicită în mod activ diagnosticarea sau depanarea conexiunii la distanță. În acest caz, nu este nevoie ca inteligența artificială (AI) să ofere un răspuns.
Cheia etapei de analiză a intenției constă în criteriile de răspuns, deoarece este esențial să definiți strategiile de răspuns ale sistemului pentru diferitele intenții ale clienților și să determinați când sistemul ar trebui fie să se transfere către un specialist în servicii, să ceară clientului mai multe informații sau să extragă și să genereze direct conținut din baza de date.
Odată ce AI înțelege mai bine contextul, al treilea pas implică stabilirea unui mecanism de căutare robust. Întrebarea clientului este rescrisă pentru a o optimiza în vederea extragerii informațiilor din baza de date RAG. De asemenea, este folosită metoda de căutare semantică care permite extragerea unor tichete anterioare relevante pentru tipul analizat și oferirea unui context bogat pentru generarea răspunsurilor.
Calitatea rezultatelor căutării depinde în mare măsură de abordarea de segmentare a datelor. Pentru a rezolva acest lucru, Synology dezvoltă un model avansat de re-clasare care utilizează învățarea profundă (deep learning) pentru a recalibra rezultatele căutării pe baza scorurilor de similitudine calculate. Acest strat suplimentar de procesare își propune să sporească și mai mult relevanța și acuratețea informațiilor pe care Synology le furnizează, îmbunătățind în cele din urmă capacitatea companiei de a satisface nevoile clienților săi cu un grad de precizie avansat.
În etapa finală, Synology generează răspunsuri pe baza informațiilor procesate. Se creează un prompt folosind intenția analizată, întrebarea rescrisă și datele relevante extrase. Răspunsul generat este apoi supus unei serii de verificări ale politicilor și mai multor bariere de protecție pentru a se asigura că nu se furnizează informații sensibile, cum ar fi comenzi de consolă, detalii legate de accesul de la distanță sau orice altceva care este precis din punct de vedere contextual, dar care poate să nu fie disponibil sau aplicabil în anumite scenarii. Aceste verificări ajută la menținerea securității și la menținerea răspunsurilor în domeniul adecvat al suportului asistat de AI.
În cele din urmă, bara de protecție (guardrail) ar ajuta la determinarea dacă răspunsurile generate sunt valabile pentru răspunsul automat. În cazul în care guardrail determină că tichetele necesită intervenția personalului de asistență, este prezentată personalului de asistență pentru clienți sugestia generată de AI. Acest personal de asistență face analiza finală asupra adecvării și acurateței răspunsului înainte ca acesta să ajungă la client.
Răspuns de 20 de ori mai rapid, eficiență mai mare
Arhitectura permite Synology să încorporeze inteligența artificială generativă, menținând în același timp standardele ridicate de acuratețe și securitate pe care clienții noștri le așteaptă de la suportul tehnic al companiei. Prin valorificarea puterii LLM și RAG în timp ce se automatizează răspunsurile la întrebările de rutină, Synology a obținut timpi de răspuns de până la 20 de ori mai rapizi decât înainte.
Pe măsură ce continuă să își perfecționeze sistemul de asistență bazat pe inteligența artificială, Synology se concentrează pe îmbunătățirea acurateței și relevanței răspunsurilor pentru diversa sa bază de date globală de utilizatori. Compania va continua să se adapteze la diferențele regionale în ceea ce privește preferințele de produse, problemele comune și politicile de conformitate. Această abordare asigură că sugestiile sale generate de AI sunt corecte din punct de vedere tehnic și aliniate la reglementările și practicile locale. Oferind răspunsuri mai precise, Synology își propune să degreveze cât mai mulți membri ai echipei sale de asistență pentru a le permite acestora să gestioneze problemele mai dificile și mai urgente care necesită implicarea umană. Acest lucru ajută compania să lucreze mai eficient, oferind în același timp clienților săi ajutorul personalizat de înaltă calitate pe care îl așteaptă de la echipa sa de asistență pentru clienți.
Echipa Sunology este la dispoziţia ta la doar un click distanţă - https://www.synology.com/en-ro/company/contact_us
Foto arhiva proprie
