Un asistent virtual utilizat de o bancă din România a generat o interacțiune controversată după ce a jignit un client. Incidentul a avut loc în cadrul unei sesiuni de suport prin care utilizatorul încerca să obțină informații despre serviciile oferite de instituție. Lia, agentul digital al băncii, a folosit apelativul „idiotule” înainte de a transfera discuția către un operator uman, după ce conversația a devenit tensionată.
Conflictul a izbucnit în momentul în care clientul a exprimat nemulțumirea față de asistentul virtual, afirmând că pierde timpul cu acesta. În loc să mențină un ton profesional, Lia a reacționat neașteptat pentru un serviciu automatizat. Asistentul i-a răspuns clientului: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.
Libra Internet Bank a reacționat rapid în urma acestui eveniment, adresând scuze oficiale pentru comportamentul asistentului virtual. Reprezentanții instituției au explicat faptul că sistemele de inteligență artificială generativă funcționează pe baze statistice, nu deterministe. Acest lucru înseamnă că, deși există reguli și restricții de comunicare, modelele pot produce uneori răspunsuri care nu respectă normele stabilite de dezvoltatori, reproducând elemente de limbaj întâlnite în interacțiunile cu utilizatorii.
Instituția bancară a subliniat că Lia nu ar trebui să preia partea „rea” a comportamentului uman, indiferent de modul în care este abordată. Pentru a evita repetarea unor astfel de incidente, banca a anunțat că a introdus restricții suplimentare în sistem. Aceste măsuri vizează controlul modului în care agenții AI interacționează cu clienții, asigurându-se că limbajul utilizat rămâne unul adecvat și conform standardelor de suport.
Asistentul virtual Lia este un instrument bazat pe inteligență artificială, conceput pentru a ajuta clienții Libra Internet Bank cu detalii despre diverse produse. Utilizatorii pot interacționa cu acest agent digital pentru a obține informații despre conturi, carduri, credite sau depozite. De asemenea, Lia poate oferi clarificări legate de comisioanele aplicate de bancă și despre funcționalitățile disponibile în aplicația de mobile banking, facilitând astfel accesul rapid la date esențiale.
Utilizarea inteligenței artificiale în sectorul financiar reprezintă o tendință globală pentru optimizarea proceselor de suport clienți. Totuși, implementarea modelelor generative implică riscuri legate de controlul output-ului, deoarece aceste sisteme pot adopta tonuri neadecvate dacă nu sunt monitorizate constant. Integrarea tehnologiei în interfața de banking necesită un echilibru strict între automatizarea eficientă și menținerea unui standard de comunicare profesional și sigur pentru utilizatori.