Prawdziwy koszt art. 50 AI Act

Od 2 sierpnia 2026 r. dostawcy systemów AI przeznaczonych do bezpośredniej interakcji z osobami fizycznymi muszą zapewnić poinformowanie rozmówcy o tym, że rozmawia z AI. Obawa rynku była jednoznaczna: ludzie, którzy dowiedzą się, że piszą z maszyną, przerwą rozmowę albo przestaną ufać. Według naszej wiedzy jest to jedno z pierwszych badań na świecie i pierwsze w Polsce, które mierzy koszt ujawnienia AI w rzeczywistych rozmowach z klientami po wejściu w życie obowiązku prawnego.

Miejsce testu wybrało się samo: AI Persona obsługująca pierwszy kontakt z konsumentami w trudnej sytuacji finansowej - osobami zadłużonymi, często objętymi postępowaniami egzekucyjnymi i znajdującymi się w stresie. Jeśli ujawnienie tożsamości AI miałoby zniszczyć zaufanie gdziekolwiek, to właśnie tutaj.

Trzy wyniki:

Od 2 sierpnia 2026 r. obowiązuje art. 50 AI Act. Dla procesu opisanego w tym badaniu kluczowy jest przede wszystkim art. 50 ust. 1: system AI przeznaczony do bezpośredniej interakcji z osobą fizyczną ma być zaprojektowany tak, aby rozmówca został poinformowany, że komunikuje się z AI, a informacja ta ma zostać przekazana jasno i wyraźnie, najpóźniej w momencie pierwszej interakcji. Komisja Europejska zalicza do tej kategorii wprost chatboty, agentów konwersacyjnych i asystentów głosowych. Interakcja może odbywać się przez interfejs internetowy, telefon lub e-mail.

1.1Co znaczy "jasno i wyraźnie" oraz "najpóźniej przy pierwszej interakcji"

Dla WhatsAppa, Messengera i e-maila praktyczne znaczenie mają sformułowania "jasno i wyraźnie" oraz "najpóźniej w momencie pierwszej interakcji". Według wytycznych Komisji informacja musi być zauważalna, zrozumiała i łatwa do odróżnienia od pozostałej treści. Nie wystarczy umieszczenie jej w regulaminie, polityce prywatności albo pod linkiem. Komisja jako prawidłowe przykłady wskazuje komunikat rozpoczynający rozmowę chatbota oraz oznaczenie AI u góry wiadomości e-mail. W kanałach tekstowych oznacza to, że informacja powinna być widoczna w pierwszej wiadomości systemu, najlepiej zanim użytkownik przejdzie do jej merytorycznej części. Umieszczenie dopisku na końcu pierwszej odpowiedzi nadal może nastąpić "w momencie pierwszej interakcji", ale jest rozwiązaniem bardziej podatnym na zarzut, że informacja mogła zostać przeoczona. W kanale głosowym odpowiednikiem jest jednoznaczny komunikat wypowiedziany na początku rozmowy. Sam syntetyczny głos albo sygnał dźwiękowy nie wystarcza.

Jednorazowe, wyraźne ujawnienie będzie wystarczające w większości przypadków. Komisja zastrzega jednak, że w bardziej wrażliwych kontekstach mogą być potrzebne przypomnienia w toku dłuższej rozmowy. Wśród przykładów wymienia interakcje z osobami podatnymi na szczególne ryzyko oraz konteksty dotyczące finansów, pomocy prawnej, ubezpieczeń, zdrowia i reklamacji. Nie oznacza to automatycznie obowiązku ponawiania komunikatu w każdej rozmowie takiej jak analizowana tutaj, ale wskazuje, że ocena nie powinna kończyć się na technicznym sprawdzeniu, czy informacja pojawiła się raz. Liczy się to, czy rozmówca pozostaje rzeczywiście świadomy, że kontaktuje się z AI.

W przypadku agentów AI Komisja wskazuje dodatkowo, że użytkownik powinien zostać poinformowany nie tylko o tym, że komunikuje się z AI, ale także o osobie lub podmiocie, w imieniu którego agent działa, przy czym ujawnienie powinno następować przy każdej nowej interakcji.

W uproszczeniu, jeżeli klient rozmawia bezpośrednio z AI, powinien zostać o tym poinformowany najpóźniej w pierwszej wiadomości systemu, w sposób łatwy do zauważenia i zrozumienia, najlepiej na jej początku. W większości przypadków wystarczy jedno wyraźne wskazanie, że rozmówcą jest AI, choć przy dłuższych lub szczególnie wrażliwych interakcjach może być potrzebne przypomnienie tej informacji.

1.2Wyjątki i zastrzeżenia

Zakres art. 50 ust. 1 jest szeroki, ale nie obejmuje każdego użycia automatyzacji. Komisja odróżnia systemy prowadzące rzeczywistą, kontekstową wymianę od prostych mechanizmów automatycznych, takich jak tradycyjny autoresponder czy odpowiedź oparta wyłącznie na regułach. Poza zakresem pozostają również systemy działające wyłącznie w tle, komunikacja machine-to-machine i narzędzia, których wynik dociera do klienta dopiero po rzeczywistym przejęciu odpowiedzialności za komunikat przez człowieka. Sama możliwość interwencji człowieka nie może jednak służyć do obejścia obowiązku, jeżeli faktycznym rozmówcą pozostaje AI.

Jest też dość istotny wyjątek - dotyczy sytuacji, w której dla rozsądnie dobrze poinformowanej, uważnej i ostrożnej osoby jest oczywiste, że komunikuje się z AI. Komisja interpretuje ten wyjątek wąsko. Sama powszechna wiedza, że chatboty istnieją, nie wystarcza. Znaczenie ma konkretny kanał, sposób przedstawienia rozmówcy, profil użytkowników, ich poziom kompetencji cyfrowych, język, głos, awatar i stopień podobieństwa interakcji do rozmowy z człowiekiem. Według wytycznych Komisji możliwość powołania się na wyjątek powinna być ograniczona do przypadków, w których przeciętnemu przedstawicielowi przewidywanej grupy odbiorców praktycznie nie pozostają wątpliwości, że po drugiej stronie działa system AI. Chatbota obsługi klienta, którego odpowiedzi mogą być odbierane jako ludzkie, Komisja wskazuje wprost jako przykład sytuacji, w której wyjątek może nie mieć zastosowania.

W uproszczeniu, obowiązek nie dotyczy każdej automatyzacji, lecz przede wszystkim sytuacji, w których użytkownik faktycznie prowadzi bezpośrednią rozmowę z systemem AI. Z kolei wyjątek "oczywistości" należy traktować ostrożnie - jeśli użytkownik może rozsądnie uznać, że po drugiej stronie jest człowiek, informacja o wykorzystaniu AI powinna zostać przekazana.

1.3Podmiot odpowiedzialny - dostawca czy podmiot stosujący?

Adresatem obowiązku z art. 50 ust. 1 jest dostawca systemu AI, nie podmiot stosujący jako taki. To dostawca ma wbudować mechanizm ujawnienia w projekt i działanie systemu. Nie oznacza to jednak, że w każdym wdrożeniu dostawcą jest podmiot technologiczny wskazany w umowie jako vendor. Organizacja, która rozwija system we własnym zakresie, oddaje go do użytku pod własną nazwą albo odpowiednio modyfikuje cudzy system i wprowadza go jako własny, może sama uzyskać status dostawcy. Podmioty stosujące są natomiast bezpośrednimi adresatami innych obowiązków z art. 50, m.in. dotyczących systemów rozpoznawania emocji oraz oznaczania deepfake'ów i określonych treści wygenerowanych lub zmanipulowanych przez AI.

W dużym uproszczeniu, dostawca to podmiot, który tworzy system AI lub zleca jego stworzenie i wprowadza go do obrotu albo oddaje do użytku pod własną nazwą, natomiast podmiot stosujący to organizacja, która korzysta z takiego systemu w swojej działalności.

1.4Czy art. 50 określa wszystkie obowiązki wobec osób fizycznych?

Obowiązek z art. 50 jest odrębny od obowiązków wynikających z prawa konsumenckiego i RODO. Komisja wskazuje wprost, że przepisy o ochronie konsumentów nadal niezależnie zakazują działań i zaniechań wprowadzających w błąd co do istotnych cech produktu lub usługi. Nie każde naruszenie art. 50 automatycznie będzie jednak praktyką wprowadzającą w błąd - przesłanki obu reżimów są odrębne.

Tak samo jest z RODO. Informacja, że rozmówcą jest AI, nie zastępuje obowiązków informacyjnych z art. 13 lub 14 RODO dotyczących przetwarzania danych osobowych. Komisja podkreśla, że oba obowiązki realizują różne cele. Można je organizacyjnie skoordynować, ale klauzula prywatności nie powinna być traktowana jako substytut wyraźnego ujawnienia AI przy rozpoczęciu rozmowy.

1.5Otoczenie regulacyjne i kary

Podstawowym praktycznym, niewiążącym punktem odniesienia pozostają wytyczne Komisji Europejskiej dotyczące art. 50 oraz Code of Practice on Transparency of AI-Generated Content. Same wytyczne nie są źródłem prawa, a wiążącej wykładni AI Act może ostatecznie dokonać TSUE.

W Polsce ustawa z 3 lipca 2026 r. o systemach sztucznej inteligencji ustanowiła Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako organ nadzoru rynku i pojedynczy punkt kontaktowy. Komisja ma prowadzić kontrole i postępowania oraz współpracować m.in. z Prezesem UOKiK i Prezesem UODO. Komisja aktualnie przyjmuje również wnioski o opinie indywidualne dotyczące stosowania przepisów AI Act (art. 9 ustawy).

Data 2 sierpnia 2026 r. nie zamyka harmonogramu stosowania AI Act. Obowiązki z rozdziału III sekcji 1-3 dla systemów wysokiego ryzyka z załącznika III mają być stosowane od 2 grudnia 2027 r., a dla systemów z art. 6 ust. 1 i załącznika I - od 2 sierpnia 2028 r. Dla organizacji wykorzystujących chatboty, voiceboty lub inne systemy AI bezpośrednio komunikujące się z klientami art. 50 jest więc jednym z pierwszych bezpośrednio widocznych dla konsumenta obowiązków nowego reżimu.

Za naruszenie art. 50 maksymalna kara wynosi 15 mln euro albo, w przypadku przedsiębiorstwa, 3 proc. całkowitego światowego rocznego obrotu z poprzedniego roku obrotowego, w zależności od tego, która wartość jest wyższa. Dla MŚP obowiązuje niższy z tych dwóch maksymalnych progów.

Ta obawa jest racjonalna. Ujawnienie tożsamości AI zmienia ramę rozmowy: z "ktoś się mną zajmuje" na "system mnie obsługuje". W środowiskach, w których każda interakcja ma znaczenie dla przychodów, reputacji lub spełnienia wymogów regulacyjnych, spadek o kilka punktów procentowych w którymkolwiek z tych trzech obszarów to realny koszt.

Problem w tym, że do sierpnia 2026 r. obawa była wyłącznie deklaratywna. Publikowane opinie opierały się na ankietach ("czy chciałbyś wiedzieć, że rozmawiasz z AI?") lub na eksperymentach laboratoryjnych. Ankieta mierzy, co ludzie mówią, że zrobią. Badanie w realnie działającej usłudze mierzy, co robią. Wejście obowiązku w życie 2 sierpnia dało pierwszą okazję, żeby zmierzyć wszystkie trzy warstwy w tym samym procesie, w tej samej populacji, przed zmianą i po niej - bez zmiany kryteriów kwalifikacji i bez eksperymentu na ludziach: zmiana była wymuszona prawem, a my ją tylko zmierzyliśmy.

Według naszej wiedzy jest to jedno z pierwszych badań na świecie i pierwsze w Polsce, które mierzy koszt ujawnienia AI w rzeczywistych rozmowach z klientami po wejściu w życie obowiązku prawnego. Wcześniejsze badania naukowe, zarówno eksperymenty terenowe, jak i laboratoryjne, wskazywały ten sam kierunek zależności. Ujawnienie AI ma koszt na wejściu w rozmowę, zwłaszcza w sprzedaży (Luo i in., 2019), a jego skutki zależą od kontekstu usługi (Mozafari i in., 2022). Zarazem ludzie chętniej powierzają wrażliwe informacje maszynie niż człowiekowi (Lucas i in., 2014). Nasze wyniki potwierdzają te obserwacje w warunkach realnie działającej usługi.

Literatura: Luo, X., Tong, S., Fang, Z., Qu, Z. (2019). Frontiers: Machines vs. Humans: The Impact of Artificial Intelligence Chatbot Disclosure on Customer Purchases. Marketing Science, 38(6), 937-947, doi.org/10.1287/mksc.2019.1192. Mozafari, N., Weiger, W. H., Hammerschmidt, M. (2022). Trust me, I'm a bot - repercussions of chatbot disclosure in different service frontline settings. Journal of Service Management, 33(2), 221-245, doi.org/10.1108/JOSM-10-2020-0380. Lucas, G. M., Gratch, J., King, A., Morency, L.-P. (2014). It's only a computer: Virtual humans increase willingness to disclose. Computers in Human Behavior, 37, 94-100, doi.org/10.1016/j.chb.2014.04.043.

3.1Czym jest AI Persona

W dyskusji o art. 50 dwa pojęcia bywają używane zamiennie, choć opisują zupełnie różne systemy: agent AI i AI Persona. Agent AI to zwykle jeden model językowy z jednym promptem, odpowiadający w jednym kanale. AI Persona to kompletny system operacyjny rozmowy: jedna nazwana tożsamość, za którą pracuje zespół wyspecjalizowanych subagentów, wspólna pamięć, kontrolowany kontekst i warstwa, która decyduje, co Persona może zrobić, a czego nie. Dla tego badania różnica ma znaczenie, bo to, czym jest podmiot po drugiej stronie rozmowy, decyduje o tym, jak ujawnienie działa w praktyce - i co da się o nim udowodnić.

AI Persona w rozumieniu infrastruktury Quantum Neuron to nazwana tożsamość, z którą rozmawia klient - z imieniem, miejscem w organizacji i jednym stylem - niezależnie od tego, czy rozmowa toczy się na WhatsAppie, w Messengerze, e-mailem, głosem, SMS-em czy przez widget na stronie. Za tą jedną imienną AI Personą pracuje zespół do 18 wyspecjalizowanych subagentów AI, które przełączają się w zależności od etapu rozmowy: jeden prowadzi kwalifikację, inny odpowiada na pytania o proces, inny rozpoznaje prośbę o kontakt z człowiekiem i uruchamia przekazanie. Rozmówca tego przełączania nie widzi - zawsze odpowiada mu ta sama, jedna Persona.

Zakres tego, co Persona robi i czego nie robi, wyznaczają przypisane jej Zestawy Kompetencji, ustalone z organizacją. Zestaw Kompetencji to douczony pakiet dla jednego procesu: dobrane modele, ustawienia, master prompting, źródła wiedzy, scenariusze i warunki przekazania do człowieka. Jedna Persona może mieć kilka Zestawów i przełącza się między nimi dynamicznie w zależności od tego, z czym przychodzi rozmówca. W ten sposób ta sama Persona obsługuje kilka procesów i działów organizacji - pod jednym compliance, u jednego dostawcy i pod jedną tożsamością. Persona ma pamięć wspólną dla wszystkich kanałów: informacja podana w formularzu albo w jednym kanale nie jest zadawana ponownie w drugim. Każdą odpowiedź generuje warstwa orkiestracji Quantum Engine™, w której moduł Curator dobiera model do danego etapu rozmowy spośród kilkunastu modeli językowych, a w kanale głosowym także modeli rozpoznawania i syntezy mowy (STT/TTS) - organizacja nie jest związana z jednym modelem ani jednym dostawcą. Persona uczy się na podstawie własnych rozmów i ocen: część usprawnień wdraża się automatycznie w granicach konfiguracji ustalonej z organizacją, część po decyzji człowieka, a każda zmiana jest zapisana w historii wersji. Jedna rzecz jest poza zasięgiem tego mechanizmu: ujawnienie tożsamości AI - jego miejsce i brzmienie - jest wbudowane w infrastrukturę na stałe i żaden proces uczenia nie może go zmienić. Każda wygenerowana wiadomość ma pełny ślad decyzyjny: które subagenty brały udział, który model odpowiadał i na jakiej podstawie.

Ta sama architektura jest zbudowana tak, żeby halucynacje modeli językowych - odpowiedzi, które brzmią wiarygodnie, ale nie mają oparcia w faktach - nie docierały do użytkownika końcowego. Niezawodność nie opiera się tu na nieomylności jednego modelu. Odpowiedź AI Persony nie jest swobodnym wynikiem jednego modelu, tylko rezultatem kilku warstw o ograniczonej odpowiedzialności: dla każdej wiadomości system buduje kontekst z zatwierdzonych źródeł organizacji, właściwych dla danego etapu rozmowy, zamiast podawać modelowi wszystko; model odpowiada za interpretację i sformułowanie komunikatu; o dozwolonych działaniach i danych decyduje warstwa backendowa, która odrzuca niedozwoloną operację, zanim dotrze ona do systemów organizacji. Sytuację poza zakresem swoich kompetencji Persona rozpoznaje i przekazuje człowiekowi, zamiast na nią odpowiadać. Dla momentów o zerowej tolerancji na błąd architektura przewiduje dwa dodatkowe poziomy kontroli: wieloetapową walidację wygenerowanej odpowiedzi przez niezależne modele, zanim trafi do rozmówcy, oraz tryb, w którym model nie generuje treści swobodnie, lecz wybiera spośród wcześniej zatwierdzonych komunikatów, a treść wysyła system, nie model.

Dla art. 50 ma to trzy konsekwencje. Po pierwsze, ujawnienie jest cechą Persony, nie pojedynczego agenta ani modelu: pojawia się w tym samym miejscu i brzmieniu niezależnie od tego, który agent prowadzi dany etap i który model generuje odpowiedź. Po drugie, jedna tożsamość w każdym kanale oznacza, że rozmówca zawsze ma tego samego rozmówcę - nie ma sytuacji, w której w jednym kanale pisze oznaczona AI Persona, a w drugim ktoś bez oznaczenia. Po trzecie, ślad decyzyjny i historia wersji pozwalają odpowiedzieć na pytanie, które zada każdy audytor: co dokładnie powiedziało AI, kiedy, i co zmieniło się od poprzedniej kontroli.

3.2Populacja

AI Persona, której dotyczy badanie, prowadzi pierwszy kontakt z konsumentami zgłaszającymi się po pomoc w trudnej sytuacji finansowej: osobami z wieloma zobowiązaniami, często wobec kilku lub kilkunastu podmiotów, nierzadko objętymi egzekucją komorniczą. Część rozmówców jest bez pracy, część spłaca jedno zobowiązanie kolejnym, część nie otwiera korespondencji od wierzycieli.

To jest grupa, w której zaufanie jest najtrudniejsze do zdobycia i najłatwiejsze do stracenia. Rozmówca ma za sobą doświadczenia z windykacją, ma powody, by nie ufać instytucjom, i jest proszony o podanie informacji, których nie podałby przypadkowej osobie. Jeśli obawa z rozdziału 2 miałaby się zmaterializować gdziekolwiek, to tutaj. Dlatego wynik uzyskany w tej populacji traktujemy jako górną granicę kosztu ujawnienia dla środowisk konsumenckich o mniejszym ładunku emocjonalnym. Potencjalnie istnieje także możliwość odwrotnego kierunku oddziaływania. Osoba, która sama szuka pomocy, może być mniej wrażliwa na to, z kim rozmawia, niż klient w kontakcie sprzedażowym, a badania wskazują na większą skłonność do ujawniania wrażliwych informacji maszynie niż człowiekowi (Lucas i in., 2014). Ta szczególna grupa konsumentów wymaga odrębnych, pogłębionych badań.

Podmiot, w którym Persona działa, świadczy usługi finansowo-prawne dla konsumentów - po stronie konsumenta, nie wierzyciela - i podlega wymogom wynikającym z przepisów o ochronie konsumenta i z RODO. Na jego prośbę nie ujawniamy nazwy. Wszystkie dane w tym dokumencie są zagregowane i zanonimizowane; żadna treść rozmowy nie została opublikowana w oryginalnej formie.

3.3Proces

Rozmowy rozpoczynają się po zgłoszeniu dokonanym przez konsumenta za pomocą formularza na stronie podmiotu. Persona prowadzi rozmowę w kanałach tekstowych - WhatsApp, Messenger, e-mail - i ma jedno zadanie: zebrać cztery informacje opisujące sytuację finansową rozmówcy, ocenić na ich podstawie, czy podmiot jest w stanie pomóc, i przekazać sprawę do konsultanta - człowieka, który dzwoni i dalej prowadzi sprawę.

Cztery elementy kwalifikacji dotyczą: łącznej wysokości zobowiązań, podmiotów, wobec których istnieją, statusu postępowań egzekucyjnych oraz bieżącego regulowania zobowiązań. Każdy z nich jest informacją wrażliwą w potocznym sensie tego słowa: dotyczy pieniędzy, długów i egzekucji. To właśnie dlatego kompletność tych czterech elementów jest w tym badaniu miarą zaufania.

Persona nie udziela porad prawnych, nie podaje warunków współpracy i nie podejmuje decyzji o przyjęciu sprawy. W każdym momencie rozmówca może poprosić o kontakt z człowiekiem - Persona przekazuje wtedy sprawę bez dalszej kwalifikacji.

3.4Ujawnienie

Do 1 sierpnia 2026 r. Persona działała w konfiguracji zgodnej z ówczesnym stanem prawnym. Od 2 sierpnia w pierwszej odpowiedzi Persony po wejściu użytkownika w rozmowę pojawia się informacja, że rozmówca pisze z AI. Komunikat został sformułowany celowo lekko i konwersacyjnie:

Podkreślamy: to jest najlżejsza forma ujawnienia, którą można uznać za bezpośrednią - dopisek na końcu pierwszej odpowiedzi, w tonie rozmowy, bez formalnej formuły. Nie prezentujemy jej jako wzorca. Prezentujemy ją jako dolną granicę: jeśli nawet minimalne, konwersacyjne ujawnienie ma mierzalny koszt, warto go znać; jeśli nie niszczy zaufania, mocniejsze formy tym bardziej go nie zniszczą. Standard, który stosujemy, opisujemy w rozdziale 8.

4.1Dwa badania, jedna populacja

Trzy warstwy obawy z rozdziału 2 wymagają dwóch różnych pomiarów:

Oba badania obejmują te same dwa okresy, po 14 dni każdy: okres przed - 19.07.2026 - 01.08.2026, okres po - 03.08.2026 - 16.08.2026. Dzień 2 sierpnia został wyłączony jako dzień przejściowy. Próba badania 2 pochodzi z tego samego zbioru rozmów co próba badania 1.

4.2Badanie 1 - próba i wskaźnik

Po 500 rozmów dobranych chronologicznie z okresów bezpośrednio przed 2 sierpnia i po tej dacie (łącznie 1 000).

Wskaźnik: odsetek rozmówców, którzy odpowiedzieli na pierwszą odpowiedź Persony po wejściu w rozmowę (oraz dopełniający go odsetek braku odpowiedzi). W okresie przed ujawnieniem ta wiadomość nie zawierała jeszcze informacji o AI - wynik tej grupy jest poziomem bazowym naturalnego odsetka przerwanych kontaktów w tym samym punkcie rozmowy. W okresie po wprowadzeniu ujawnienia ta sama wiadomość zawierała informację o AI. Porównanie mierzy więc różnicę między rozmową bez ujawnienia i z ujawnieniem w identycznym momencie, przy tym samym procesie i tych samych kryteriach kwalifikacji.

Dodatkowo zliczono ręcznie rozmowy, w których użytkownik wprost odniósł się do faktu rozmowy z AI.

4.3Badanie 2 - próba i wskaźniki

Po 350 chronologicznie następujących po sobie rozmów w każdym okresie, w których doszło do wymiany co najmniej dwóch wiadomości z każdej strony. Warunek ten wyklucza rozmowy, które urwały się na wejściu (mierzone w badaniu 1), i pozostawia rozmowy, w których rozmówca zobaczył ujawnienie i mimo to kontynuował rozmowę.

Wskaźniki: liczba rozmów, w których zebrano każdy z czterech elementów kwalifikacji osobno; liczba rozmów z kompletem 4/4 i z 3/4; średnia kompletność w skali 0-4. Osobno: liczba leadów zakwalifikowanych, przy czym kwalifikacja zależy od sytuacji rozmówcy, nie od przebiegu rozmowy (patrz 4.5).

4.4Selekcja rozmów

Liczebność próby ustalono z góry na 500 rozmów na okres. Rozmowy przeglądano w kolejności chronologicznej, licząc od daty granicznej, i włączano do próby aż do osiągnięcia tej liczby; w okresie przed przejrzano w ten sposób 712 rozmów, w okresie po - 639. Wykluczono kontakty niespełniające przyjętej na potrzeby badania definicji rozmowy, według kryteriów zdefiniowanych przed selekcją i zastosowanych identycznie do obu okresów:

• przypadkowe zgłoszenia (użytkownik od razu informuje o pomyłce),
• rozmowy zakończone po jednej wiadomości użytkownika w wyniku przekierowania systemowego,
• komunikaty botów spamowych i próby oszustwa,
• rozmowy z osobami deklarującymi, że nie dokonały zgłoszenia.

Wykluczono 212 z 712 przejrzanych rozmów w okresie przed (29,8%) i 139 z 639 w okresie po (21,8%). Różnica w odsetku wykluczeń wynika z różnego nasilenia spamu i przypadkowych zgłoszeń między falami kampanii; żadne kryterium wykluczenia nie odnosi się do treści rozmowy ani do reakcji na AI. Selekcja i klasyfikacja wykluczeń zostały wykonane ręcznie przez analityka, nie automatycznie.

4.5Co się zmieniło poza ujawnieniem - i czego nie mierzymy

W analizowanym okresie, poza wprowadzeniem ujawnienia, w konfiguracji Persony zmieniły się dwie rzeczy dotyczące stylu rozmowy: forma zwracania się do rozmówcy (po wprowadzeniu ujawnienia Persona częściej używała form „Pan” i „Pani” zamiast zwracać się na „ty”) oraz sposób powitania. Kryteria kwalifikacji, cztery zbierane informacje, kanały i proces przekazania do konsultanta nie zmieniły się. Obie zmiany wynikały z korekty konfiguracji stylu Persony.

Odsetek leadów zakwalifikowanych (badanie 2) nie jest miarą wpływu ujawnienia: kwalifikacja zależy od sytuacji majątkowej rozmówcy, nie od tego, jak przebiegła rozmowa, a lead może zostać zakwalifikowany przed podaniem wszystkich czterech elementów. Miarą zaufania są dane cząstkowe - to, ile rozmówca zdecydował się powiedzieć.

Rozmówcy w obu okresach trafiali do procesu z różnych kampanii, skierowanych do różnych grup odbiorców o różnym poziomie wstępnego zainteresowania. Wskaźniki nie były normalizowane pod tym kątem, bo rzetelna normalizacja nie jest możliwa: zgłoszenia pochodzą z kilku formularzy bez walidacji pól, jeden rozmówca może zgłosić się w więcej niż jednej kampanii, a treść kreacji reklamowych nie jest znana. Wszystkie różnice w tym dokumencie należy interpretować jako różnice obserwowane w realnie działającej usłudze (w warunkach produkcyjnych), nie jako wyizolowany efekt ujawnienia. Piszemy to wprost, bo dokument, który udaje precyzję, której nie ma, jest gorszy od dokumentu, który nazywa własne granice.

5.1Badanie 1 - odpowiedź na wiadomość w punkcie ujawnienia

Przed wejściem obowiązku w życie ponad cztery osoby na pięć odpowiadały na pierwszą wiadomość Persony; niespełna co piąta urywała kontakt w tym punkcie - to naturalny odsetek przerwanych kontaktów na początku rozmowy w tej populacji. Po wprowadzeniu ujawnienia odpowiadało nieco ponad trzy osoby na cztery. Ta różnica jest kosztem, o którym mowa w tytule. Podajemy ją bez normalizacji i bez korekty - taką, jaka wystąpiła w realnie działającej usłudze, przy zmieniającym się miksie kampanii.

Nota metodologiczna: różnica -5,4 pp jest istotna statystycznie (test dla dwóch proporcji, p ≈ 0,03). 95-proc. przedział ufności wynosi od ok. -0,4 do ok. -10,4 pp. Jest to różnica obserwowana i zawiera także efekt zmieniającego się miksu kampanii.

5.2Badanie 1 - reakcje odnoszące się wprost do AI

Te dwie liczby to różne miary i nie należy ich porównywać wprost. Przed 2 sierpnia zliczono samodzielne rozpoznanie AI przez rozmówcę - w sytuacji, w której nikt go o tym nie poinformował. Po 2 sierpnia zliczono zwerbalizowaną negatywną reakcję w sytuacji, w której każdy rozmówca wie, że pisze z AI. W obu okresach zjawisko jest marginalne. Co istotne: po ujawnieniu połowa osób, które wyraziły niezadowolenie, mimo to kontynuowała rozmowę.

5.3Badanie 2 - skłonność do przekazywania informacji wrażliwych

Próba: 350 rozmów przed, 350 po, w których doszło do wymiany co najmniej dwóch wiadomości z każdej strony.

Interpretacja: skłonność do przekazywania informacji wrażliwych nie spadła - w próbie nieznacznie wzrosła. Komplet wszystkich czterech informacji podało 49,1% rozmówców przed i 50,3% po, co najmniej trzy z czterech - 72,3% i 73,4%, a średnia kompletność wzrosła z 2,97 do 3,02 w skali 0-4. Z czterech elementów dwa zebrano częściej (wysokość zobowiązań, status egzekucji), dwa nieco rzadziej (podmioty, regulowanie) - różnice w obie strony mieszczą się w zmienności, jakiej należy się spodziewać między falami kampanii, i nie wskazują na jednolity kierunek zmian. Największa pojedyncza zmiana (+8,3 pp w zakresie informacji o wysokości zobowiązań) najprawdopodobniej odzwierciedla różnice między kampaniami, nie efekt ujawnienia. Tak samo traktujemy wzrost średniej: odnotowujemy go jako wynik zaobserwowany w próbie, ale nie przypisujemy go ujawnieniu. Wniosek, który formułujemy, brzmi: ujawnienie nie obniżyło skłonności rozmówców do przekazywania informacji wrażliwych.

Spadku odsetka leadów zakwalifikowanych (69,7% -> 64,0%) nie przypisujemy ujawnieniu: kwalifikacja zależy od sytuacji rozmówcy, nie od przebiegu rozmowy, a wskaźniki mierzące sam przebieg rozmowy nie spadły.

Nota metodologiczna: różnice w badaniu 2 nie są istotne statystycznie (dla kompletu 4/4: p ≈ 0,76, 95-proc. przedział ufności ok. ±7 pp). Przy 350 rozmowach na okres wiarygodnie wykrywalny byłby dopiero spadek rzędu 10 pp. Wynik należy więc interpretować jako brak wykrycia spadku.

5.4Trzy warstwy obawy - podsumowanie

Liczby mówią, ile osób zareagowało. Rozmowy pokazują, jak. Przejrzeliśmy losową próbę rozmów z obu okresów. Poniższe fragmenty zostały przeredagowane: zmieniono kwoty, usunięto nazwy podmiotów, imiona i wszelkie szczegóły osobiste, zachowując wyłącznie przebieg wymiany.

Obserwacja pierwsza: brak reakcji. W zdecydowanej większości rozmów po 2 sierpnia rozmówca nie odnosi się do ujawnienia w żaden sposób. Odpowiada na pytanie merytoryczne, które je poprzedza, tak jakby dopisku nie było:

Ujawnienie jest zauważalne - dopisek jest wyraźny, w każdej rozmowie w tym samym miejscu - ale dla rozmówcy, który przyszedł z konkretną sprawą, nie jest istotne. Ma pytanie o swoje długi, dostaje odpowiedź na pytanie o swoje długi.

Obserwacja druga: zaufanie wyrażone czynem. Rozmówcy w okresie po ujawnieniu dzielą się informacjami, o które Persona nie pyta - o sytuacji rodzinnej, zdrowotnej, zawodowej - w tym samym stopniu co przed ujawnieniem. Persona nie potwierdza, nie komentuje i nie przekazuje dalej informacji wykraczających poza cztery elementy kwalifikacji - do notatki dla konsultanta trafia wyłącznie to, o co Persona pytała.

Obserwacja trzecia: sprzeciw i jego obsługa. Rozmówca, który nie chce rozmawiać z AI, mówi to wprost i krótko:

Dwie wiadomości. Bez przekonywania, bez pytania "dlaczego", bez próby dokończenia kwalifikacji. Prośba o człowieka jest traktowana jako polecenie, a nie zastrzeżenie, które należy przezwyciężyć.

W sześciu z 500 rozmów po 2 sierpnia rozmówcy wyrazili wprost negatywną reakcję na fakt rozmowy z AI. Trzy z tych osób zakończyły kontakt. Trzy kontynuowały rozmowę mimo wyrażonego niezadowolenia.

To, co dzieje się z tymi sześcioma osobami, jest ważniejsze niż ich liczba. Ujawnienie tożsamości AI jest obowiązkiem - nie podlega warunkom, ale jego wartość dla rozmówcy powstaje dopiero wtedy, gdy za informacją stoi możliwość działania: rozmówca, który dowiaduje się, że pisze z AI, musi móc coś z tym zrobić. W badanym procesie prośba o człowieka - wypowiedziana w dowolnej formie i w dowolnym momencie - kończy udział Persony w rozmowie i uruchamia przekazanie do konsultanta z kompletem zebranych dotąd informacji. Persona nie próbuje dokończyć kwalifikacji, nie negocjuje, nie odkłada przekazania "do zebrania jeszcze jednej informacji".

W tym miejscu kończy się też zakres tego badania. Persona przekazuje sprawę i nie uczestniczy w dalszym kontakcie; to, co dzieje się po przekazaniu - kiedy konsultant zadzwonił, jak poprowadził rozmowę - pozostaje w zakresie procesu prowadzonego przez podmiot i jego relacji z klientem. Nie mamy do tego wglądu i nie powinniśmy go mieć: granica między tym, co widzi infrastruktura, a tym, co pozostaje po stronie organizacji i jej ludzi, jest jedną z zasad, na których ta infrastruktura jest zbudowana. Badanie dokumentuje więc mechanizm przekazania i jego niezawodność w rozmowie, nie jego skutki po drugiej stronie.

Ujawnienie i prawo do kontaktu z człowiekiem są jednym mechanizmem, nie dwoma. Informacja bez wyjścia to formalność. Wyjście bez informacji to loteria. Dopiero razem spełniają cel art. 50, a nie tylko jego brzmienie: rozmówca wie, z czym rozmawia, i sam decyduje, czy chce kontynuować.

Wyniki badania i przegląd rozmów prowadzą do kilku zasad, które stosujemy w naszej infrastrukturze i które przedstawiamy jako punkt odniesienia dla każdej organizacji wdrażającej AI Persony w kontakcie z konsumentem. Nie są to wymogi prawne - te opisuje rozdział 1. Są to decyzje projektowe, które w naszej ocenie sprawiają, że wymóg jest spełniony zgodnie z duchem, a nie tylko literą przepisu.

Lista dla osoby, która odpowiada za wdrożenie systemu AI rozmawiającego bezpośrednio z konsumentem - niezależnie od tego, czy dostawca nazywa go AI Personą, agentem, asystentem czy chatbotem - i musi ocenić, czy wymogi art. 50 są spełnione zgodnie z duchem, a nie tylko literą przepisu. Pytania nie zależą od dostawcy ani od technologii.

10.1Zestawienie parametrów

10.2Ograniczenia

• Jedno wdrożenie, jeden rynek, jedna populacja. Wynik nie jest reprezentatywny dla rynku - jest reprezentatywny dla tego procesu. Uważamy go za górną granicę kosztu w środowiskach konsumenckich, bo populacja jest wyjątkowo trudna, ale to jest interpretacja, nie pomiar. Potencjalnie istnieje także możliwość odwrotnego kierunku oddziaływania. Osoba, która sama szuka pomocy, może być mniej wrażliwa na to, z kim rozmawia, niż klient w kontakcie sprzedażowym, a badania wskazują na większą skłonność do ujawniania wrażliwych informacji maszynie niż człowiekowi (Lucas i in., 2014). Ta szczególna grupa konsumentów wymaga odrębnych, pogłębionych badań.
• Brak randomizacji. Porównanie przed / po jest porównaniem dwóch okresów, nie eksperymentem z grupą kontrolną. Zmiana była wymuszona prawem w jednym dniu dla wszystkich rozmówców, co wyklucza projekt eksperymentalny.
• Brak normalizacji kampanii. Wszystkie różnice są obserwowane, nie wyizolowane.
• Ujawnienie w formie minimalnej. Wyniki dotyczą lekkiej, konwersacyjnej formy; mocniejsze formy nie były testowane w tym badaniu.
• Dwa tygodnie po wejściu obowiązku w życie. Efekt długoterminowy - np. zmiana oczekiwań rozmówców, w miarę oswajania się z ujawnieniem, które od 2 sierpnia obowiązuje we wszystkich kanałach - wymaga pomiaru w dłuższym okresie. Planujemy powtórzenie badania po sześciu miesiącach.

10.3Autorzy, partner prawny i komentatorzy

Do raportu zaproszono grono ekspertów ze świata biznesu, technologii i inwestycji. Każdy z komentatorów odpowiadał na inne pytanie dotyczące wyników badania lub ich konsekwencji dla organizacji wdrażających AI w kontakcie z klientem. Komentarze wyrażają poglądy ich autorów, nie stanowisko organizacji, które reprezentują, ani Quantum Neuron i LAWMORE. Komentatorzy nie mieli wpływu na metodę badania ani na treść rozdziałów 1-10.