Dane osobowe w ChatGPT nie oznaczają automatycznie naruszenia RODO. Firma może korzystać z narzędzia w zaplanowanym procesie, jeżeli ustaliła role stron, podstawę prawną, zakres danych, konfigurację, umowę i zabezpieczenia. Sytuacja wygląda inaczej, gdy pracownik bez zgody organizacji wkleja do prywatnego konta reklamację klienta, umowę, listę pracowników, dokumentację medyczną albo plik z numerami PESEL. Wtedy organizacja może utracić kontrolę nad danymi, a zdarzenie wymaga natychmiastowej analizy. Samo usunięcie rozmowy nie kończy sprawy. Trzeba zabezpieczyć informacje, sprawdzić rodzaj konta i ustawienia, ustalić zakres danych, ocenić ryzyko oraz zdecydować, czy konieczne jest zgłoszenie do Prezesa UODO i zawiadomienie osób.
Najważniejsze informacje
- Dane osobowe w ChatGPT mogą być przetwarzane zgodnie z prawem tylko w odpowiednio zaprojektowanym procesie.
- Nieautoryzowane wklejenie danych do prywatnego konta może stanowić naruszenie poufności lub utratę kontroli nad danymi.
- Nie każde naruszenie trzeba zgłaszać, ale każde trzeba ocenić i udokumentować.
- Termin 72 godzin liczy się od stwierdzenia naruszenia przez administratora, nie od zakończenia pełnego dochodzenia.
- Konto indywidualne, ChatGPT Business, Enterprise i API mogą mieć inne warunki, ustawienia oraz zasady wykorzystywania treści.
- Usunięcie rozmowy może ograniczyć ryzyko, ale nie powinno zastępować analizy retencji, kopii, dostępu i ewentualnego wykorzystania treści.
- Jeżeli ryzyko dla osoby jest wysokie, poza zgłoszeniem do UODO może być potrzebne jej zawiadomienie.
Zapraszamy do współpracy
Szczegółowe informacje o ofercie i warunkach współpracy można uzyskać telefonicznie lub wysyłając zapytanie za pomocą formularza kontaktowego.
Czy wklejenie danych do ChatGPT zawsze narusza RODO?
Nie. Dane osobowe w ChatGPT mogą pojawić się w zatwierdzonym procesie biznesowym. Przykładem może być firmowe środowisko objęte odpowiednią umową, skonfigurowane przez administratora, używane przez upoważnione osoby i ograniczone do ustalonego celu.
Zgodność zależy jednak od całego procesu, a nie wyłącznie od nazwy produktu. Firma powinna wcześniej ustalić:
- cel korzystania z systemu;
- podstawę prawną przetwarzania;
- zakres i minimalizację danych;
- rolę dostawcy;
- warunki umowy oraz DPA;
- lokalizacje przetwarzania i transfery;
- retencję danych;
- możliwość wykorzystywania treści do ulepszania modeli;
- uprawnienia użytkowników;
- logowanie i kontrolę działań;
- sposób realizacji praw osób;
- reakcję na błędy i incydenty.
Problem pojawia się wtedy, gdy dane osobowe w ChatGPT trafiają poza zatwierdzony proces. Pracownik może użyć prywatnego konta, wgrać plik większy niż potrzebny, ujawnić dane szczególnej kategorii albo wykorzystać narzędzie, którego firma nigdy nie oceniła.
Kiedy może dojść do naruszenia ochrony danych?
Naruszenie ochrony danych to naruszenie bezpieczeństwa prowadzące do przypadkowego lub niezgodnego z prawem zniszczenia, utracenia, zmodyfikowania, nieuprawnionego ujawnienia albo dostępu do danych.
Wprowadzenie danych do zewnętrznej usługi może prowadzić do naruszenia, jeżeli:
- pracownik nie był uprawniony do przekazania danych;
- dostawca nie został zatwierdzony;
- użyto prywatnego konta;
- dane mogły zostać wykorzystane w sposób nieprzewidziany przez organizację;
- zakres informacji był nadmierny;
- zabrakło wymaganej umowy powierzenia;
- doszło do transferu bez odpowiedniego mechanizmu;
- dane były dostępne innym użytkownikom konta;
- rozmowa została udostępniona publicznym linkiem;
- organizacja nie może zrealizować usunięcia lub praw osoby.
Nie każda niezgodność organizacyjna jest automatycznie naruszeniem ochrony danych. Może jednak ujawnić odrębne naruszenie zasad legalności, minimalizacji, rozliczalności lub bezpieczeństwa. Dlatego dane osobowe w ChatGPT trzeba analizować na dwóch poziomach: zgodności procesu oraz samego incydentu bezpieczeństwa.
Pierwsze 60 minut po zgłoszeniu
Najgorszą reakcją jest polecenie pracownikowi, aby natychmiast wszystko usunął i nikomu nie mówił. Usunięcie może być potrzebne, ale najpierw należy zachować informacje konieczne do oceny zdarzenia.
1. Ustal osobę i czas
Zapisz, kto wprowadził dane, kiedy to zrobił, kiedy zauważył problem i kiedy poinformował organizację.
2. Ustal narzędzie oraz konto
Sprawdź nazwę usługi, typ planu, właściciela konta, adres e-mail, przestrzeń roboczą, integracje i urządzenia, z których korzystano.
3. Zabezpiecz treść promptu
Potrzebna jest treść zapytania, nazwy załączników, kategorie danych i odpowiedzi systemu. Nie należy tworzyć kolejnych niepotrzebnych kopii. Wystarczy kontrolowany zapis dowodowy.
4. Ogranicz dalsze przetwarzanie
Przerwij używanie rozmowy, usuń publiczne linki, wyłącz integracje, ogranicz dostęp i skontaktuj się z administratorem przestrzeni roboczej.
5. Uruchom procedurę
Powiadom IOD, bezpieczeństwo, prawnika lub zespół incydentowy. Dane osobowe w ChatGPT mogą wymagać szybkiej decyzji, dlatego zgłoszenie nie powinno czekać na cotygodniowe spotkanie.
Dane osobowe w ChatGPT. Jakie fakty trzeba zebrać?
Prawidłowa ocena zależy od faktów. Dane osobowe w ChatGPT trzeba ocenić na podstawie konkretnej usługi, konta, konfiguracji i przebiegu zdarzenia. Formularz incydentu powinien obejmować co najmniej:
| Pytanie | Dlaczego jest ważne? |
|---|---|
| Jakiego konta użyto? | Warunki i ustawienia mogą różnić się między usługą indywidualną a biznesową |
| Jakie dane wprowadzono? | Rodzaj danych wpływa na prawdopodobieństwo i wagę skutków |
| Ilu osób dotyczyły dane? | Skala jest jednym z elementów oceny ryzyka |
| Czy były to dane dzieci lub dane wrażliwe? | Takie informacje zwykle zwiększają ryzyko |
| Czy wgrano plik? | Plik może zawierać znacznie więcej danych niż widoczny fragment |
| Czy rozmowę udostępniono? | Publiczny link może rozszerzać krąg odbiorców |
| Czy treść mogła służyć do trenowania? | Zależy to od produktu, ustawień i aktualnych warunków |
| Czy rozmowę usunięto? | Ma znaczenie dla ograniczenia dalszego przetwarzania, ale nie kończy oceny |
| Czy istnieje DPA? | Pomaga ustalić role, instrukcje, wsparcie i zasady usuwania |
| Czy wynik został dalej użyty? | Dane mogły trafić do maila, raportu, CRM lub kolejnego systemu |
Organizacja nie powinna opierać decyzji na ogólnym stwierdzeniu, że „ChatGPT niczego nie zapamiętuje” albo „wszystko trafia do modelu”. Należy sprawdzić dokumentację obowiązującą dla konkretnego produktu, planu, konta i daty zdarzenia.
Konto prywatne a firmowe środowisko
Ocena danych osobowych w ChatGPT wymaga rozróżnienia usług dla osób indywidualnych od produktów biznesowych. OpenAI informuje, że w usługach indywidualnych treści mogą być używane do ulepszania modeli, chyba że użytkownik wyłączy takie wykorzystanie. Z kolei w usługach biznesowych dane wejściowe i wyjściowe nie są domyślnie używane do trenowania modeli, o ile organizacja wyraźnie nie włączy udostępniania.
To rozróżnienie nie oznacza, że firmowy plan automatycznie zapewnia zgodność z RODO. Nadal trzeba ocenić cel, podstawę, umowę, konfigurację, retencję, transfery, dostęp i bezpieczeństwo.
| Element | Konto indywidualne | Środowisko biznesowe |
|---|---|---|
| Kontrola organizacji | Zwykle ograniczona | Zależna od planu i panelu administratora |
| Umowa biznesowa i DPA | Może nie odpowiadać procesowi firmy | Dostępne są warunki biznesowe i DPA |
| Użycie do trenowania | Zależne od ustawień użytkownika | Domyślnie wyłączone dla produktów biznesowych |
| Retencja | Zależna od funkcji i warunków | Może podlegać ustawieniom administratora i umowie |
| Zarządzanie kontami | Po stronie użytkownika | Możliwe zarządzanie centralne |
Pracownik korzystający z płatnego konta indywidualnego nadal może działać poza kontrolą organizacji. Sam fakt opłacenia abonamentu nie zmienia prywatnego konta w zatwierdzone narzędzie firmowe.
Czy usunięcie rozmowy rozwiązuje problem?
Usunięcie rozmowy jest jednym z działań ograniczających, ale nie powinno kończyć postępowania. Organizacja musi ustalić:
- czy rozmowa została trwale usunięta, czy tylko ukryta;
- jaki okres usuwania wynika z warunków usługi;
- czy dane mogły znajdować się w logach lub kopiach;
- czy treść została wykorzystana do ulepszania modeli;
- czy odpowiedź skopiowano do innych systemów;
- czy utworzono publiczny link;
- czy dane trafiły do narzędzi połączonych z kontem;
- czy możliwe jest złożenie dodatkowego żądania do dostawcy.
OpenAI wskazuje, że usunięte lub niezapisane rozmowy w produktach biznesowych są usuwane z systemów w określonym terminie, z wyjątkami wynikającymi między innymi z prawa i bezpieczeństwa. Zawsze należy jednak sprawdzić warunki właściwe dla produktu użytego w chwili zdarzenia.
Ocena ryzyka krok po kroku
Nie każde naruszenie wymaga zgłoszenia do Prezesa UODO. Administrator zgłasza naruszenie, chyba że jest mało prawdopodobne, aby powodowało ryzyko naruszenia praw lub wolności osób fizycznych.
Krok 1. Określ kategorie danych
Inaczej ocenia się nazwisko i firmowy adres e-mail, inaczej PESEL, dane finansowe, medyczne, dane dzieci, hasła lub dokument tożsamości.
Krok 2. Oceń możliwość identyfikacji
Nawet bez imienia osoba może być możliwa do zidentyfikowania przez numer sprawy, szczegółowy opis zdarzenia, stanowisko lub połączenie kilku informacji.
Krok 3. Ustal możliwy sposób wykorzystania
Rozważ kradzież tożsamości, oszustwo, dyskryminację, naruszenie tajemnicy, szantaż, utratę kontroli, szkodę reputacyjną i wykorzystanie danych uwierzytelniających.
Krok 4. Uwzględnij konfigurację usługi
Znaczenie mają typ konta, ustawienia treningu, retencja, DPA, kontrola administratora, publiczne udostępnienie i możliwość usunięcia.
Krok 5. Oceń osoby szczególnie narażone
Wyższe ryzyko może dotyczyć dzieci, pacjentów, pracowników w relacji zależności, osób zadłużonych lub ofiar przemocy.
Krok 6. Uwzględnij działania ograniczające
Szybkie usunięcie, blokada linku, potwierdzenie dostawcy, brak użycia do trenowania i ograniczony dostęp mogą zmniejszać ryzyko. Nie powinny być jednak przyjmowane bez dowodów.
Wynik analizy danych osobowych w ChatGPT powinien zostać zapisany w rejestrze naruszeń wraz z faktami, oceną, decyzją i uzasadnieniem.
Kiedy biegnie termin 72 godzin?
Administrator ma co do zasady 72 godziny od stwierdzenia naruszenia na jego zgłoszenie Prezesowi UODO. Stwierdzenie następuje wtedy, gdy organizacja ma rozsądny stopień pewności, że doszło do zdarzenia obejmującego dane osobowe.
Nie trzeba czekać na pełną analizę techniczną. Jeżeli część informacji nie jest dostępna, zgłoszenie może zostać uzupełnione etapami. Zwłoka wynikająca z oczekiwania na idealnie kompletny raport może być bardziej ryzykowna niż wstępna notyfikacja z jasnym wskazaniem brakujących danych.
Termin nie zaczyna się automatycznie w chwili kliknięcia „wyślij”, jeżeli organizacja nie wiedziała o zdarzeniu. Nie można go jednak sztucznie przesuwać przez opóźnianie wewnętrznej eskalacji. Dlatego pracownik powinien zgłaszać dane osobowe w ChatGPT natychmiast po zauważeniu błędu.
Kiedy trzeba zawiadomić osobę?
Jeżeli naruszenie może powodować wysokie ryzyko dla praw lub wolności osoby, administrator powinien zawiadomić ją bez zbędnej zwłoki. Komunikat powinien być napisany prostym językiem i wskazywać:
- co się wydarzyło;
- jakie dane objęło zdarzenie;
- jakie mogą być skutki;
- jakie działania podjęła organizacja;
- co może zrobić osoba;
- jak skontaktować się z organizacją lub IOD.
Zawiadomienie nie powinno zawierać bagatelizujących stwierdzeń ani gwarancji, których firma nie potrafi wykazać. Nie należy również ujawniać w nim dodatkowych danych innych osób.
Czy dane szczególnej kategorii zmieniają ocenę?
Tak. Dane o zdrowiu, poglądach, religii, orientacji seksualnej, biometrii lub pochodzeniu wymagają szczególnej ochrony. Wprowadzenie dokumentacji medycznej, notatki psychologa, informacji o niepełnosprawności albo wyników badań może powodować wysokie ryzyko nawet przy niewielkiej liczbie osób.
W takim przypadku dane osobowe w ChatGPT wymagają także sprawdzenia, czy organizacja posiadała przesłankę z art. 9 RODO do ich przetwarzania w tym konkretnym celu oraz czy narzędzie było odpowiednie do ryzyka.
Co z tajemnicą przedsiębiorstwa i poufnością?
Incydent może obejmować jednocześnie dane osobowe, tajemnicę przedsiębiorstwa, tajemnicę zawodową, informacje klienta i prawa autorskie. Brak obowiązku zgłoszenia do UODO nie oznacza, że problem znika.
Organizacja powinna osobno ocenić:
- obowiązki wobec klienta lub kontrahenta;
- zapisy umów o poufności;
- tajemnice ustawowo chronione;
- bezpieczeństwo informacji;
- obowiązki wynikające z KSC, DORA lub regulacji sektorowych;
- możliwość roszczeń;
- potrzebę działań dyscyplinujących lub szkoleniowych.
Procedura decyzyjna
- Przyjmij zgłoszenie bez obwiniania pracownika.
- Zabezpiecz fakty i ogranicz dalsze przetwarzanie.
- Ustal typ konta, ustawienia, umowę i retencję.
- Określ zakres, kategorie i liczbę osób.
- Sprawdź dalsze kopie oraz udostępnienia.
- Oceń, czy doszło do naruszenia ochrony danych.
- Oceń poziom ryzyka dla osób.
- Podejmij decyzję o zgłoszeniu do UODO.
- Oceń potrzebę zawiadomienia osób.
- Udokumentuj decyzję i działania.
- Sprawdź inne obowiązki prawne i umowne.
- Wdroż działania naprawcze.
W sytuacji wymagającej pilnej kwalifikacji BPPZ oferuje obsługę naruszeń RODO, obejmującą zabezpieczenie informacji, ocenę ryzyka, dokumentację oraz przygotowanie zgłoszeń.
Jak zapobiegać sytuacjom, w których dane osobowe w ChatGPT tworzą ryzyko?
Lista zatwierdzonych narzędzi
Pracownik powinien wiedzieć, z jakich systemów wolno korzystać oraz na jakim koncie.
Klasyfikacja danych
Firma powinna wskazać dane dozwolone, dozwolone warunkowo i zakazane do wprowadzania.
Firmowe konta
Procesy biznesowe nie powinny opierać się na prywatnych kontach pracowników.
Zasady anonimizacji
Usunięcie imienia nie zawsze wystarcza. Dane należy ograniczyć tak, aby osoba nie była możliwa do zidentyfikowania również pośrednio.
Szkolenia scenariuszowe
Pracownik powinien przećwiczyć sytuację: klient wysyła reklamację, trzeba przygotować podsumowanie, czego nie wolno wkleić?
Proces zatwierdzania AI
Nowe narzędzie powinno przechodzić ocenę prawną, techniczną i biznesową przed uruchomieniem.
BPPZ wspiera organizacje w ramach AI Governance, w tym w przygotowaniu rejestru narzędzi, zasad korzystania, oceny dostawców i procedury incydentowej.
Praktyczny scenariusz
Pracownik działu reklamacji otrzymuje skan pisma zawierającego imię, adres, numer klienta, opis stanu zdrowia i dane dotyczące sporu. Wkleja cały dokument do prywatnego konta ChatGPT z prośbą o przygotowanie odpowiedzi.
Firma powinna ustalić typ konta, ustawienia, czas, dokładny plik, zakres danych i dalsze użycie odpowiedzi. Następnie ogranicza dostęp, usuwa rozmowę zgodnie z dostępnymi funkcjami i sprawdza dokumentację dostawcy. Ze względu na dane zdrowotne ocena nie może ograniczyć się do liczby osób.
Jeżeli organizacja stwierdzi naruszenie i ryzyko dla klienta, podejmuje decyzję o zgłoszeniu do UODO. Przy wysokim ryzyku przygotowuje również komunikat dla klienta. Równolegle aktualizuje politykę AI, ponieważ dane osobowe w ChatGPT trafiły tam w wyniku braku jasnych zasad i zatwierdzonego narzędzia.
Dzielimy się wiedzą
W BPPZ pomagamy firmom reagować na incydenty bez pochopnego zgłaszania każdego błędu i bez ryzykownego bagatelizowania zdarzeń. Łączymy ocenę RODO, warunki dostawcy, bezpieczeństwo, umowy i rzeczywiste skutki dla osób. Dzięki temu decyzja jest udokumentowana i możliwa do obrony.
Podsumowanie
Dane osobowe w ChatGPT nie są z definicji zakazane. Firma może wykorzystywać AI w zgodnym procesie, jeżeli kontroluje cel, zakres, konto, dostawcę, umowę, retencję i dostęp. Największe ryzyko powstaje wtedy, gdy pracownicy samodzielnie używają prywatnych kont i wprowadzają pełne dokumenty.
Po wykryciu zdarzenia trzeba zabezpieczyć fakty, ograniczyć przetwarzanie, sprawdzić właściwe warunki produktu, ocenić naruszenie oraz ryzyko dla osób. Każda decyzja powinna być udokumentowana. Dane osobowe w ChatGPT wymagają więc zarówno sprawnej reakcji, jak i późniejszego uporządkowania AI Governance.
Zapraszamy do współpracy
Jeżeli pracownik wprowadził dane do niezatwierdzonego narzędzia, BPPZ może pomóc w ocenie naruszenia, przygotowaniu dokumentacji, kontakcie z UODO oraz zaprojektowaniu zasad zapobiegających kolejnym zdarzeniom. Sprawdź zakres obsługi naruszeń RODO.
FAQ
Nie zawsze. Trzeba sprawdzić cel, upoważnienie, rodzaj konta, umowę, ustawienia i zakres danych. Nieautoryzowane użycie prywatnego konta może jednak prowadzić do naruszenia poufności lub innych zasad RODO.
Nie. Zgłoszenie jest potrzebne, gdy naruszenie może powodować ryzyko dla praw lub wolności osób. Każde zdarzenie trzeba jednak ocenić, wpisać do dokumentacji i uzasadnić decyzję.
Od chwili, gdy administrator ma rozsądny stopień pewności, że doszło do naruszenia obejmującego dane osobowe. Nie trzeba czekać na zakończenie pełnej analizy technicznej.
Nie. Trzeba sprawdzić retencję, kopie, ustawienia, ewentualne użycie treści oraz dalsze udostępnienia. Usunięcie rozmowy jest działaniem ograniczającym, ale nie zastępuje oceny.
Nie. Produkt biznesowy daje inne mechanizmy i warunki, ale firma nadal odpowiada za cel, podstawę prawną, minimalizację, konfigurację, dostęp, retencję, transfery i realizację praw osób.
Nie. Ogranicza jeden sposób wykorzystania treści, ale nie rozwiązuje kwestii podstawy prawnej, retencji, dostępu, umowy, bezpieczeństwa, transferów i nadmiernego zakresu danych.
Ustal jego pełną zawartość, usuń go za pomocą dostępnych funkcji, zablokuj udostępnienia i sprawdź, czy powstały kopie. Następnie oceń kategorie danych, skalę i możliwe skutki dla osób.
Tak, jeżeli naruszenie może powodować wysokie ryzyko dla jego praw lub wolności. Komunikat powinien jasno opisywać zdarzenie, możliwe skutki, działania firmy i zalecenia dla klienta.
Prawdziwie anonimowe dane nie podlegają RODO. Samo usunięcie imienia często jednak nie wystarcza, jeżeli osobę można rozpoznać przez numer sprawy, stanowisko, opis zdarzenia lub inne informacje.
Wprowadź firmowe konta, listę zatwierdzonych narzędzi, klasyfikację danych, szkolenia, kontrolę ustawień, proces akceptacji nowych systemów i prostą procedurę zgłaszania błędów.
Źródła
- EUR-Lex – Rozporządzenie (UE) 2016/679, w szczególności art. 5, 24, 28, 32, 33, 34 i 35.
- UODO – W jakim terminie należy zgłosić naruszenie Prezesowi UODO?.
- UODO – Materiały dotyczące obowiązków administratorów związanych z naruszeniami.
- OpenAI – How your data is used to improve model performance.
- OpenAI – Enterprise privacy at OpenAI.
- OpenAI – Data Processing Addendum.
