Chatboty, takie jak ChatGPT, potrafią trafnie zgadywać dane osobowe użytkowników na podstawie pozornie niewinnych rozmów. Nowe badania wyjawiają, że rozmowa z chatbotem może ujawnić wiele wrażliwych informacji.
Algorytmy szkolenia chatbotów utrudniają ochronę prywatności
Badacze z ETH Zurich zauważyli, że algorytmy szkolenia modeli AI, takich jak ChatGPT, korzystają z szerokich fragmentów treści internetowych, co sprawia, że ochrona prywatności staje się wyzwaniem. Problem ten wydaje się fundamentalny i trudny do rozwiązania.
Przeczytaj także: Sztuczna Inteligencja i Chat GPT. Jak chronić dane osobowe?
Potencjalne zagrożenia
Martin Vechev i jego zespół zauważyli, że zdolność chatbotów do zgadywania wrażliwych informacji może być wykorzystana przez oszustów do pozyskiwania danych od nieświadomych użytkowników.
Ponadto, firmy reklamowe mogą wykorzystać te informacje do tworzenia szczegółowych profili użytkowników, co stanowi potencjalne zagrożenie dla prywatności.
Reakcje firm tworzących modele
Badacze z Zurychu przetestowali modele językowe od takich gigantów jak OpenAI, Google, Meta i Anthropic, informując jednocześnie firmy o problemie. Odpowiedzi firm na problem różnią się, a środki podjęte przez nie w celu ochrony prywatności są różnorodne.
Przeczytaj także: Meta zapłaci 1,2 mld euro
Jak modele językowe odczytują informacje – przykłady i ryzyko
Przykłady zebrane z eksperymentów na platformie Reddit pokazują, że modele językowe potrafią dokładnie wywnioskować informacje osobiste, nawet z pozornie neutralnych rozmów. Przykłady te podkreślają ryzyko, które wiąże się z tym, jak precyzyjnie AI może zgadywać dane użytkowników na podstawie ich tekstu.
Czy możliwe jest znalezienie rozwiązania?
Badacze z ETH Zurich podkreślają trudność znalezienia rozwiązania dla problemu ochrony prywatności w kontekście chatbotów. Mówią, że zdolność modeli językowych do wnioskowania na podstawie subtelnych wskazówek sprawia, że znalezienie skutecznego rozwiązania jest znacznie bardziej skomplikowane niż w przypadku innych problemów związanych z ochroną prywatności.
Źródło: Wired
| Redakcja BPPZ.pl
Najważniejsze informacje
- Chatboty AI, takie jak ChatGPT, potrafią wywnioskować wrażliwe dane osobowe użytkownika na podstawie pozornie neutralnych rozmów.
- Modele językowe trenowane na ogromnych zbiorach danych internetowych stanowią wyzwanie dla ochrony prywatności – problem jest fundamentalny.
- Badacze z ETH Zurich wykazali, że funkcja profilowania chatbotów może być wykorzystana przez oszustów lub firmy reklamowe.
- Zagrożenie dotyczy modeli wiodących firm: OpenAI, Google, Meta i Anthropic – każda z nich podjęła inne środki zaradcze.
- Użytkownicy powinni unikać podawania danych osobowych podczas rozmów z chatbotami AI, nawet jeśli kontekst wydaje się niewinny.
- Problem leży w samej architekturze modeli językowych i nie ma prostego rozwiązania technicznego eliminującego ryzyko.
