Czy klient musi wiedzieć, że odpowiedź przygotowała sztuczna inteligencja?

Firmy coraz częściej wykorzystują sztuczną inteligencję do obsługi klientów. AI odpowiada na pytania w chatbotach, podpowiada konsultantom treść wiadomości, przygotowuje oferty, analizuje reklamacje i automatycznie klasyfikuje zgłoszenia.

Nie każde użycie AI oznacza jednak, że klient musi otrzymać informację: „ta odpowiedź została wygenerowana przez sztuczną inteligencję”. Znaczenie ma przede wszystkim to, czy klient bezpośrednio komunikuje się z systemem AI, czy technologia jest jedynie wewnętrznym narzędziem pracownika.

Od 2 sierpnia 2026 roku zastosowanie znajdą przepisy AI Act dotyczące przejrzystości systemów sztucznej inteligencji. Systemy AI przeznaczone do bezpośredniej interakcji z człowiekiem powinny być zaprojektowane w taki sposób, aby użytkownik został poinformowany, że komunikuje się ze sztuczną inteligencją. Wyjątek dotyczy sytuacji, w których jest to oczywiste z punktu widzenia osoby odpowiednio poinformowanej, uważnej i rozsądnej, przy uwzględnieniu kontekstu oraz okoliczności interakcji. Informacja powinna zostać przekazana w sposób jasny i rozpoznawalny najpóźniej podczas pierwszej interakcji z systemem.¹

Artykuł 50 ust. 1 AI Act kieruje ten obowiązek przede wszystkim do dostawcy systemu, który powinien odpowiednio zaprojektować jego działanie. Firma wdrażająca gotowego chatbota lub voicebota powinna jednak sprawdzić, czy mechanizm informowania użytkownika rzeczywiście działa w konkretnym kanale komunikacji i nie został wyłączony, ukryty albo zastąpiony niejasnym komunikatem. Jeżeli organizacja samodzielnie rozwija lub istotnie modyfikuje rozwiązanie, może również wymagać oceny, czy nie staje się jego dostawcą w rozumieniu AI Act. ²

Chatbot odpowiada klientowi – informacja o AI będzie potrzebna

Najbardziej oczywistym przykładem jest chatbot znajdujący się na stronie internetowej, w aplikacji, sklepie internetowym lub komunikatorze. Jeżeli klient wpisuje pytanie, a system AI samodzielnie przygotowuje i wysyła odpowiedź, mamy do czynienia z bezpośrednią interakcją człowieka z systemem sztucznej inteligencji.

W takim przypadku klient powinien wiedzieć, że nie rozmawia z pracownikiem firmy. Komunikat powinien pojawić się najpóźniej przy rozpoczęciu interakcji i być sformułowany w sposób jasny oraz zrozumiały.

Może on brzmieć na przykład:

Rozmawiasz z wirtualnym asystentem wykorzystującym sztuczną inteligencję. Odpowiedzi mogą wymagać dodatkowej weryfikacji.

Dobrą praktyką jest również poinformowanie klienta, jak może skontaktować się z człowiekiem, zwłaszcza gdy sprawa dotyczy reklamacji, płatności, umowy, danych osobowych lub innego istotnego problemu.

Sam zapis ukryty w regulaminie albo polityce prywatności może być niewystarczający. Informacja powinna być widoczna w miejscu, w którym klient faktycznie rozpoczyna rozmowę z systemem.

Czy informacja jest konieczna, gdy wygląd chatbota jednoznacznie wskazuje na AI?

AI Act przewiduje wyjątek dla sytuacji, w których fakt komunikowania się z systemem AI jest oczywisty dla odpowiednio uważnej osoby, biorąc pod uwagę kontekst i okoliczności interakcji.

Nie warto jednak opierać całego wdrożenia na założeniu, że klient „powinien się domyślić”. Nazwa „wirtualny asystent”, charakterystyczna ikona lub automatyczny styl wypowiedzi nie zawsze wystarczą, szczególnie gdy chatbot posługuje się imieniem, zdjęciem człowieka albo podpisuje wiadomości jako pracownik działu obsługi.

Bezpieczniejszym rozwiązaniem jest umieszczenie krótkiego i jednoznacznego komunikatu. Nie musi on być rozbudowany ani utrudniać korzystania z usługi.

Voicebot na infolinii również powinien się przedstawić

Podobna zasada dotyczy systemów głosowych. Jeżeli połączenie odbiera voicebot, klient powinien na początku rozmowy usłyszeć, że rozmawia z automatycznym asystentem wykorzystującym AI.

Przykładowy komunikat może brzmieć:

Dzień dobry, jestem automatycznym asystentem wykorzystującym sztuczną inteligencję. Pomogę w ustaleniu statusu zamówienia lub połączę z konsultantem.

Szczególna ostrożność jest potrzebna, gdy system używa bardzo realistycznego, syntetycznego głosu. Klient nie powinien pozostawać w przekonaniu, że rozmawia z konkretnym pracownikiem.

AI przygotowuje wiadomość, ale wysyła ją pracownik – czy trzeba to ujawniać?

Inaczej wygląda sytuacja, gdy sztuczna inteligencja jest wykorzystywana wyłącznie jako narzędzie pomocnicze. Pracownik może poprosić AI o przygotowanie projektu odpowiedzi, skrócenie tekstu, poprawienie języka albo uporządkowanie informacji, a następnie samodzielnie sprawdzić wiadomość, zmodyfikować ją i wysłać klientowi.

W takim przypadku klient nie komunikuje się bezpośrednio z systemem AI. Otrzymuje wiadomość, za którą odpowiada pracownik i organizacja. Sam fakt wykorzystania AI przy redagowaniu tekstu nie tworzy automatycznie ogólnego obowiązku oznaczania każdej wiadomości jako wygenerowanej przez sztuczną inteligencję.

Kluczowe znaczenie ma jednak rzeczywisty poziom udziału człowieka. Samo automatyczne dodanie podpisu pracownika nie oznacza jeszcze, że odpowiedź została przez niego zweryfikowana.

Firma powinna ustalić:

• czy pracownik sprawdza prawdziwość informacji;
• czy może zmienić lub odrzucić propozycję AI;
• czy weryfikuje dane odbiorcy i załączniki;
• kto odpowiada za błędną poradę lub obietnicę;
• czy odpowiedź jest wysyłana automatycznie;
• jakie dane klienta trafiają do narzędzia.

Takie zasady powinny zostać opisane w polityce korzystania z AI w firmie.

Automatyczna odpowiedź e-mail może być bezpośrednią interakcją z AI

Granica staje się mniej oczywista, gdy system samodzielnie analizuje wiadomość klienta, tworzy odpowiedź i wysyła ją bez zatwierdzenia przez człowieka.

W takim modelu samo wykorzystanie poczty elektronicznej zamiast okna czatu nie zmienia charakteru procesu. Klient w praktyce otrzymuje odpowiedź bezpośrednio od systemu AI. Firma powinna więc rozważyć umieszczenie jasnej informacji w treści wiadomości lub podpisie, na przykład:

Ta wiadomość została przygotowana automatycznie przez system wykorzystujący sztuczną inteligencję. W przypadku bardziej złożonej sprawy odpowiedź może zostać zweryfikowana przez konsultanta.

Przed uruchomieniem takiego rozwiązania warto sprawdzić także, czy AI może analizować maile klientów, jakie informacje są przekazywane dostawcy systemu oraz czy wiadomości nie są wykorzystywane do dalszego trenowania modelu.

Automatyzacja w tle nie zawsze wymaga osobnego komunikatu

Sztuczna inteligencja może być używana również bez generowania końcowej odpowiedzi. System może na przykład:

• przypisać zgłoszenie do odpowiedniego działu;
• rozpoznać temat wiadomości;
• wskazać poziom pilności;
• wyszukać podobne zgłoszenia;
• przetłumaczyć treść dla konsultanta;
• wykryć dane wymagające szczególnej ochrony;
• zaproponować pracownikowi kolejne działanie.

W takich przypadkach nie zawsze powstaje obowiązek informowania klienta w każdej wiadomości, że w procesie wykorzystano AI. Należy jednak przeanalizować zakres przetwarzania danych oraz to, czy system jedynie wspiera organizację pracy, czy wpływa na sytuację klienta.

Im większe znaczenie ma wynik działania AI, tym bardziej istotne stają się przejrzystość algorytmów, kontrola człowieka i możliwość zakwestionowania rezultatu.

Co w przypadku decyzji dotyczącej reklamacji, ceny lub zawarcia umowy?

Szczególne ryzyko pojawia się, gdy AI nie tylko przygotowuje odpowiedź, ale faktycznie podejmuje decyzję. System może na przykład:

• automatycznie odrzucić reklamację;
• odmówić zwrotu środków;
• ustalić indywidualną cenę;
• ocenić zdolność klienta do zawarcia umowy;
• ograniczyć dostęp do usługi;
• zakwalifikować klienta jako osobę wysokiego ryzyka;
• zdecydować o przekazaniu sprawy do windykacji.

Jeżeli decyzja jest podejmowana wyłącznie automatycznie i wywołuje skutki prawne lub w podobny sposób istotnie wpływa na osobę, zastosowanie mogą znaleźć przepisy RODO dotyczące zautomatyzowanego podejmowania decyzji i profilowania. Artykuł 22 RODO przyznaje osobie ochronę przed określonymi decyzjami opartymi wyłącznie na automatycznym przetwarzaniu.³

takich procesach samo zdanie „odpowiedź przygotowała AI” nie wystarczy. Konieczne może być między innymi przekazanie informacji o istnieniu zautomatyzowanego podejmowania decyzji, istotnych zasadach działania procesu, jego znaczeniu i przewidywanych konsekwencjach. W przypadkach określonych w RODO trzeba również zapewnić odpowiednie zabezpieczenia, w tym możliwość uzyskania interwencji człowieka, przedstawienia własnego stanowiska i zakwestionowania decyzji. ⁴

Przed wdrożeniem warto przeprowadzić analizę ryzyka RODO, a w bardziej ryzykownych przypadkach również ocenę skutków dla ochrony danych.

Czy klient musi wiedzieć, że jego dane trafiają do systemu AI?

To odrębna kwestia od samego oznaczenia odpowiedzi.

Klient może rozmawiać z konsultantem, ale jego wiadomość, nagranie rozmowy, numer zamówienia albo historia kontaktu mogą być analizowane przez system sztucznej inteligencji. Jeżeli wiąże się to z przetwarzaniem danych osobowych, firma powinna zweryfikować realizację obowiązku informacyjnego RODO.

Informacje dotyczące wykorzystania AI można umieścić między innymi w:

• polityce prywatności;
• klauzuli informacyjnej dla klientów;
• regulaminie usługi;
• komunikacie przy formularzu;
• zapowiedzi głosowej przed rozpoczęciem nagrywania;
• opisie działania chatbota.

UODO wskazuje, że systemy AI przetwarzają i analizują dane osobowe, dlatego ich stosowanie powinno uwzględniać zasady ochrony prywatności oraz przygotowanie administratorów i inspektorów ochrony danych do nowych sposobów przetwarzania informacji.

Należy jednak unikać ogólnych formuł typu „możemy wykorzystywać nowoczesne technologie”. Informacja powinna odpowiadać temu, co organizacja rzeczywiście robi z danymi.

Czy każda treść przygotowana przez AI musi zostać oznaczona?

Nie. AI Act nie wprowadza zasady, zgodnie z którą każda wiadomość, oferta, opis produktu lub dokument, przy których wykorzystano AI, musi zawierać specjalną etykietę.

Inne obowiązki dotyczą systemów bezpośrednio komunikujących się z ludźmi, a inne treści wygenerowanych lub zmanipulowanych przez AI. Szczególne reguły obejmują między innymi deepfake’i oraz określone treści publikowane w celu informowania opinii publicznej o sprawach leżących w interesie publicznym. Komisja Europejska podkreśla, że obowiązki przejrzystości przewidziane w art. 50 AI Act zaczną być stosowane 2 sierpnia 2026 roku.

Zwykła odpowiedź na pytanie o termin dostawy nie jest tym samym co publiczna publikacja dotycząca sprawy interesu publicznego. Nie oznacza to jednak, że przedsiębiorca może używać AI w sposób wprowadzający klienta w błąd.

Firma nie powinna udawać, że bot jest człowiekiem

Nawet przed pełnym rozpoczęciem stosowania przepisów o przejrzystości AI firma powinna unikać projektowania komunikacji w sposób mogący wprowadzać klientów w błąd.

Ryzykowne będzie między innymi:

• nadanie botowi imienia i zdjęcia prawdziwego konsultanta;
• pisanie „sprawdziłem Pana dokumenty”, gdy system zrobił to automatycznie;
• sugerowanie indywidualnej analizy przez eksperta, gdy jej nie przeprowadzono;
• ukrywanie, że klient nie ma kontaktu z człowiekiem;
• generowanie fałszywego wrażenia empatii lub osobistej opieki;
• wysyłanie automatycznych zapewnień, których firma nie może spełnić.

Komisja Europejska wskazuje, że przejrzystość jest potrzebna po to, aby człowiek mógł świadomie ocenić interakcję z maszyną.

Informacja o AI nie zwalnia jednocześnie firmy z odpowiedzialności za treść odpowiedzi. Przedsiębiorca nie może uzasadniać błędnych informacji tym, że przygotował je chatbot.

Jak prawidłowo oznaczyć rozmowę z AI?

Komunikat powinien być:

• widoczny przed rozpoczęciem lub najpóźniej na początku rozmowy;
• zrozumiały dla przeciętnego użytkownika;
• dostosowany do kanału komunikacji;
• jednoznaczny;
• dostępny także dla osób z niepełnosprawnościami;
• przedstawiony niezależnie od długiego regulaminu.

Nie trzeba używać języka prawnego. W praktyce sprawdzą się proste komunikaty:

Rozmawiasz z asystentem AI.

Odpowiedzi generuje system sztucznej inteligencji.

Jestem wirtualnym asystentem. W razie potrzeby możesz przekazać sprawę konsultantowi.

Ta odpowiedź została przygotowana automatycznie i nie była jeszcze sprawdzona przez pracownika.

Ostatni komunikat warto stosować tylko wtedy, gdy rzeczywiście nie przeprowadzono kontroli człowieka.

Jak przygotować firmę do nowych obowiązków?

Pierwszym krokiem powinna być identyfikacja wszystkich miejsc, w których AI komunikuje się z klientami lub analizuje ich dane. Pomocny będzie rejestr narzędzi AI w firmie, obejmujący nie tylko oficjalne chatboty, lecz także rozwiązania stosowane przez działy sprzedaży, marketingu, reklamacji i obsługi klienta.

Następnie warto ustalić:

1. Czy klient rozmawia bezpośrednio z AI?
2. Czy system wysyła wiadomości bez zatwierdzenia przez człowieka?
3. Czy klient może rozpoznać, że rozmawia z maszyną?
4. Czy AI wykorzystuje dane osobowe?
5. Czy system wpływa na decyzję dotyczącą klienta?
6. Czy istnieje możliwość przekazania sprawy pracownikowi?
7. Kto odpowiada za kontrolę wygenerowanych odpowiedzi?
8. Czy komunikaty są zgodne z faktycznym działaniem systemu?
9. Czy pracownicy wiedzą, kiedy wolno korzystać z AI?
10. Czy wdrożenie zostało objęte audytem AI i RODO?

Odpowiedzi powinny zostać przełożone na konfigurację narzędzia, procedury, treść klauzul oraz szkolenia pracowników z bezpiecznego korzystania z AI.

Przejrzystość nie powinna kończyć się na jednym komunikacie

Zdanie „rozmawiasz z AI” jest ważne, ale nie rozwiązuje wszystkich problemów. Organizacja powinna kontrolować jakość odpowiedzi, dostęp systemu do danych, możliwość generowania nieprawdziwych informacji i zasady przekazywania rozmowy konsultantowi.

Potrzebne są również procedury postępowania w przypadku:

• ujawnienia danych niewłaściwej osobie;
• wygenerowania błędnej odpowiedzi;
• odrzucenia reklamacji bez podstawy;
• wykorzystania danych klienta w innym celu;
• złożenia sprzeciwu lub żądania wyjaśnień;
• skargi dotyczącej działania chatbota.

Takie działania są elementem szerszego systemu AI Governance, który łączy obowiązki prawne, ochronę danych, bezpieczeństwo, nadzór człowieka i odpowiedzialność za decyzje podejmowane przy użyciu AI.

Czy zatem klient zawsze musi wiedzieć o użyciu AI?

Nie zawsze.

Jeżeli AI pomaga pracownikowi przygotować projekt wiadomości, ale człowiek rzeczywiście ją sprawdza, poprawia i bierze za nią odpowiedzialność, osobne oznaczenie każdej odpowiedzi najczęściej nie będzie konieczne wyłącznie z powodu wykorzystania narzędzia.

Jeżeli jednak klient rozmawia bezpośrednio z chatbotem, voicebotem albo systemem automatycznie generującym i wysyłającym odpowiedzi, powinien zostać jasno poinformowany, że ma do czynienia ze sztuczną inteligencją. Od 2 sierpnia 2026 roku obowiązki przejrzystości wynikające z AI Act będą miały w tym zakresie bezpośrednie znaczenie.

Przed wdrożeniem automatycznej obsługi warto więc przeprowadzić audyt zgodności systemu AI, sprawdzić sposób przetwarzania danych klientów i przygotować jasne zasady komunikacji. Samo uruchomienie chatbota jest proste. Znacznie trudniejsze jest zapewnienie, że jego działanie będzie rzetelne, bezpieczne i zgodne z prawem.

Źródła:

1. Parlament Europejski i Rada Unii Europejskiej, Rozporządzenie (UE) 2024/1689 w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji – AI Act, w szczególności art. 50 i art. 113
2. Komisja Europejska, Draft guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI Act, 8 maja 2026 r.
3. Parlament Europejski i Rada Unii Europejskiej, Rozporządzenie (UE) 2016/679 – RODO, w szczególności art. 13, 14, 22 i 35
4. Europejska Rada Ochrony Danych, Wytyczne w sprawie zautomatyzowanego podejmowania decyzji w indywidualnych przypadkach i profilowania do celów rozporządzenia 2016/679

Wdrożenie NIS2 krok po kroku. Od analizy ryzyka do procedur

Czy IOD jest obowiązkowy? Kiedy trzeba powołać Inspektora Ochrony Danych?

Jak oznaczać treści wygenerowane przez AI od 2 sierpnia 2026 r.? Praktyczny przewodnik dla firm

zobacz więcej