10. Wyzwania teraźniejsze i przyszłe

Question 1

Komputery kwantowe
-czy są we wszystkim lepsze od zwykłych?

Answer 1

Najważniejsze właściwości komputerów kwantowych

• wykorzystują bity kwantowe (kubity) zamiast
  bitów klasycznych
• są zdolne do wykonywania tych samych obliczeń,
  co komputery klasyczne
• co oznacza, że obliczenia kwantowe mogą być
  symulowane na komputerze klasycznym
• algorytmy kwantowe są nieporównywalnie szybsze
  od algorytmów klasycznych

Question 2

Mocne i słabe strony komputerów kwantowych

Answer 2

Mocne strony
- Operacje równoległe
- Faktoryzacja, rozkład na
czynniki
- Przeszukiwanie baz danych
- Problemy optymalizacyjne
- Uczenie maszynowe

Słabe strony
- Prosta arytmetyka
- Przechowywanie danych w
pamięci
- Podatność na błędy
- Specyfika niektórych
algorytmów (np. sortowanie)

Question 3

Co to ma do cyberbezpieczeństwa?

Answer 3

Szanse

• Kwantowa dystrybucja klucza
• Szyfrowanie post-kwantowe,
  odporne na kwantowe metody
  ataku
• Wzmocnienie narzędzi
  wykrywających wzorce ataku

Zagrożenia
- ryzyko złamania obecnych
standardów szyfrowania
- wymagania finansowe i
informacyjne przy
wykorzystywaniu infrastruktury
kwantowej
- chaotyczny okres przejściowy

Question 4

Akt o usługach cyfrowych
-(sprecyzowana została w prezentacji terminologia prawna, nie wpływa na resztę pytań)
-kogo dotyka i z jakimi obowiązkami się wiąże

Answer 4

• Inaczej Digital Services Act (DSA) [link]
• W pełni wprowadzone 17 lutego 2024
• rozporządzenie unijne dotyczące moderacji treści
  na stronach internetowych
• nielegalne treści i towary
• przejrzystość reklamy
• przeciwdziałanie dezinformacji
• ataki indywidualne

Zobowiązania:
- Usuwanie niedozwolonych
treści, jeśli zostaną wykryte
- Ujawnienie:
- algorytmów wyświetlania
treści
- uzasadnienia usunięcia
danej treści
- Zasad targetowania reklam

Question 5

Sztuczna inteligencja

Answer 5

podstawowa idea działania współczesnych modeli tekstowych AI - zastosowanie uczenia maszynowego i sieci neuronowych

1. AI to nie magia, tylko matematyka
2. AI wymaga mocy obliczeniowej
3. AI jest zwodnicza!

Question 6

Duże modele językowe (LLM)

Answer 6

• Przykład generatywnej sztucznej inteligencji, czyli
  modeli zdolnych tworzyć nowe treści
• Trenowane na podstawie dużych zbiorów danych
• Dane wejściowe (prompt) przetwarzane są na wartości
  liczbowe, na których wykonywane są obliczenia w
  kolejnych warstwach modelu
• rezultatem jest najbardziej trafne (wg modelu)
  kolejne słowo w ciągu

Question 7

Wstrzykiwanie podpowiedzi
(prompt injection)

Answer 7

• Odpowiednie wykorzystanie
  podpowiedzi (promptu)
  prowadzi do zwodniczej
  zmiany polecenia, często
  wbrew woli lub wiedzy
  użytkownika
• Może być osadzone zarówno
  w tekście, jak i w obrazie

Question 8

Zatrucie danych (data poisoning)

Answer 8

• Wprowadzenie błędnie opisanych
  danych treningowych w celu
  ograniczenia efektywności
  modelu
• W wyniku ataku model źle
  błędnie interpretuje słowa
  kluczowe
• Niskiej jakości dane również
  ograniczają skuteczność modelu

Question 9

Regurgitacja, halucynacja, czy może pseudoplagiat?

Answer 9

Chociaż domyślnie modele tekstowe
mają ‘kreatywnie’ aranżować treść,
w przypadku małej ilości danych
treningowych mogą być bardzo
podobne do oryginału -
regurgitacja
W przypadku całkowitego braku
wzorców model potrafi brnąć w
całkowicie błędne założenia - tzw.
halucynacja