W odpowiedzi na rosnące wyzwania związane z rozwojem technologii sztucznej inteligencji, NASK PIB ogłosił powstanie Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji. Nową jednostką pokieruje dr hab. inż. Szymon Łukasik, uznany ekspert w dziedzinie uczenia maszynowego.
Bezpieczeństwo Sztucznej Inteligencji – Główny Cel Nowego Ośrodka
Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji będzie zajmować się kluczowymi aspektami dotyczącymi bezpieczeństwa technologii AI, w tym:
- Rozwojem metod AI – obejmujących klasyfikację, rozpoznawanie wzorców, prognozowanie oraz generowanie treści multimedialnych.
- Tworzeniem systemów wyjaśnialnych AI – zwiększających zrozumiałość działania algorytmów dla użytkowników.
- Projektowaniem bezpiecznych systemów AI – zapewniających niezawodność i minimalizujących ryzyko błędów.
- Publikacją i popularyzacją wiedzy – wyniki badań będą dostępne zarówno w renomowanych czasopismach naukowych, jak i w formie otwartych bibliotek programistycznych (open source).
Jak podkreślono na stronie instytucji, badania będą prowadzone na poziomie zarówno krajowym, jak i międzynarodowym, co sprzyja wypracowaniu uniwersalnych rozwiązań.
Kim jest dr hab. inż. Szymon Łukasik?
Nowy dyrektor ośrodka, dr hab. inż. Szymon Łukasik, to specjalista z wieloletnim doświadczeniem. Wcześniej pełnił funkcję kierownika Zakładu Nauki o Danych w NASK, gdzie rozwijał technologie przetwarzania wielkich zbiorów danych. Jest również profesorem Akademii Górniczo-Hutniczej w Krakowie.
Prof. Szymon Łukasik prowadzi badania z zakresu adaptacji struktur i samouczenia głębokich sieci neuronowych, a także z analizy wideo oraz tekstu w inżynierii i sporcie. Jego zainteresowania badawcze to obliczenia inspirowane naturą, w szczególności metaheurystyki i ich zastosowania, a także analiza zbiorów wielomodalnych, łączących w sobie tekst, grafikę, dźwięk i dane liczbowe.
Ostatnio reprezentował Polskę podczas zamkniętego spotkania w San Francisco, gdzie omawiano globalne zagrożenia i możliwości związane z bezpieczeństwem AI. „W dynamicznym świecie AI, szczególnie w kontekście modeli generatywnych, kluczowe jest, byśmy skupili się na zapewnieniu bezpieczeństwa technologii. Rozważamy zarówno aspekty lokalne, takie jak język i kultura, jak i międzynarodowe wyzwania etyczne” – podkreśla dr Łukasik.
Kluczowe Wyzwania Bezpieczeństwa AI
Deepfake i manipulacja treścią
Jednym z priorytetów ośrodka jest przeciwdziałanie zagrożeniom wynikającym z technologii deepfake. W ramach badań prowadzone są analizy oraz rozwijane narzędzia automatycznej identyfikacji zmanipulowanych treści.
Ocena ryzyka wdrażania AI
Nowy ośrodek skupi się również na metodologii zarządzania ryzykiem przy wprowadzaniu zaawansowanych systemów AI do codziennego użytku.
Rozwój Polskiego Dużego Modelu Językowego (PLLuM)
NASK prowadzi projekt PLLuM – innowacyjny model językowy dedykowany językowi polskiemu, co pozwoli lepiej zrozumieć specyfikę lokalnych wyzwań związanych z AI.
Dlaczego Bezpieczeństwo Sztucznej Inteligencji Jest Tak Ważne?
Dynamiczny rozwój AI niesie ze sobą nie tylko ogromne możliwości, ale również potencjalne zagrożenia. Jak zauważył dr Łukasik, w przyszłości konsekwencje błędów w algorytmach mogą prowadzić do poważnych skutków dla użytkowników, takich jak utrata zdrowia czy życia.
Odpowiedzialność twórców AI stanie się kluczowym zagadnieniem etycznym i prawnym.
Perspektywy Rozwoju Bezpiecznej AI
Powstanie Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji to ważny krok w kierunku budowania odpowiedzialnych technologii przyszłości. Dzięki ścisłej współpracy z międzynarodowymi partnerami oraz zaangażowaniu polskich ekspertów, ośrodek może stać się jednym z liderów w dziedzinie badań nad bezpieczeństwem AI.
Podsumowanie
Bezpieczeństwo sztucznej inteligencji to temat, który zyskuje na znaczeniu w obliczu globalnego rozwoju technologii AI. Nowy ośrodek w NASK nie tylko stawia na innowacje, ale także na ochronę użytkowników, uwzględniając lokalne i międzynarodowe aspekty. Dzięki takim inicjatywom możemy liczyć na rozwój technologii, które będą zarówno zaawansowane, jak i bezpieczne.
| Redakcja BPPZ
Przeczytaj także:
- RODO obowiązuje już sześć lat, ale wciąż sieje grozę
- Social media a ochrona danych – jakie są niebezpieczeństwa?
- Realizacja obowiązku informacyjnego nie musi być skomplikowana
Źródła:
Najważniejsze informacje
- NASK PIB powołał Ośrodek Badań nad Bezpieczeństwem AI pod kierunkiem dr. hab. inż. Szymona Łukasika – eksperta w dziedzinie uczenia maszynowego.
- Ośrodek zajmuje się metodami AI, tworzeniem systemów wyjaśnialnych, bezpiecznym projektowaniem technologii i popularyzacją wiedzy.
- Priorytetowe obszary badań to: wykrywanie deepfake'ów, zarządzanie ryzykiem AI i rozwój Polskiego Dużego Modelu Językowego (PLLuM).
- Badania prowadzone są na poziomie krajowym i międzynarodowym w celu wypracowania uniwersalnych rozwiązań dla bezpieczeństwa AI.
- Ośrodek odpowiada na rosnące ryzyko błędów algorytmów, które mogą mieć poważne konsekwencje dla użytkowników i całych systemów.
