Bezpieczeństwo, uczenie maszynowe i teoria obliczeń
Powtórz wybrane pojęcia z kryptografii, bezpieczeństwa aplikacji internetowych i oprogramowania, uczenia maszynowego, sieci neuronowych i teorii obliczeń. Wymagana jest podstawowa znajomość programowania, sieci, rachunku prawdopodobieństwa i algebry liniowej. Nacisk pada na definicje, warunki i ograniczenia, a nie na pełny kurs implementacji.
- Category
- Computer Science
- Level
- advanced
- Languages
- pl → pl
- Cards
- 32
- Markdown
- Bezpieczeństwo, uczenie maszynowe i teoria obliczeń (.md)
Flashcards (32)
| # | Front (Term / Question) | Back (Definition / Answer) | Example | Multiple-Choice Options |
|---|---|---|---|---|
| 1 | Jakie własności bezpieczeństwa powinna mieć kryptograficzna funkcja skrótu o stałej długości wyniku, np. SHA-256? | Deterministycznie przekształca dane w skrót o stałej długości. Odporność na odtworzenie przeciwobrazu oznacza obliczeniową niewykonalność znalezienia danych dla danego skrótu; odporność na drugi przeciwobraz — innych danych o takim samym skrócie jak skrót podanych danych; odporność na kolizje — dowolnej pary różnych danych o jednakowym skrócie. | ||
| 2 | Dlaczego między warstwami afinicznymi sieci neuronowej stosuje się nieliniowe aktywacje? | Złożenie przekształceń afinicznych pozostaje afiniczne, więc samo ich układanie nie tworzy nieliniowych cech. Nieliniowe aktywacje ukryte, np. ReLU lub GELU, pozwalają wyrażać bogatsze funkcje. Chodzi o reprezentację ukrytą, nie tylko o nieliniową transformację na wyjściu. | ||
| 3 | Jak PKCE chroni przepływ kodu autoryzacyjnego OAuth, również w OpenID Connect? | Klient tworzy nowy tajny weryfikator kodu i wysyła wyzwanie wyprowadzone metodą S256 wraz z żądaniem autoryzacji. Przy wymianie kodu podaje weryfikator; serwer sprawdza, czy wyprowadzone z niego wyzwanie odpowiada wyzwaniu związanemu z kodem. Samo przechwycenie kodu nie wystarcza. OAuth dotyczy delegowanej autoryzacji; OpenID Connect dodaje uwierzytelnianie. | ||
| 4 | Jak przy stałym wymiarze cech różnią się koszty pełnej samouwagi, FlashAttention i pamięci podręcznej KV wraz z długością sekwencji? | Dla N tokenów zwykła pełna uwaga wymaga O(N²) operacji i O(N²) pamięci na jawnie zapisane wyniki porównań. Dokładny FlashAttention unika tej kwadratowej pamięci, ale zachowuje kwadratową liczbę operacji. Przy dekodowaniu autoregresyjnym pamięć KV ponownie wykorzystuje wcześniejsze klucze i wartości; nie trzeba ich przeliczać, lecz każde nowe zapytanie nadal porównuje się z wcześniejszymi tokenami. | ||
| 5 | Czym różnią się uczenie nadzorowane, nienadzorowane i przez wzmacnianie? | Nadzorowane uczy przewidywania na przykładach z etykietami docelowymi. Nienadzorowane znajduje strukturę w danych bez takich etykiet. Uczenie przez wzmacnianie uczy zachowania przez interakcję ze środowiskiem w celu zwiększenia oczekiwanej skumulowanej nagrody. | ||
| 6 | Jak ustalenie wersji zależności, weryfikacja podpisów i SBOM wspierają bezpieczeństwo łańcucha dostaw oprogramowania? | Ustalone wersje i sprawdzone skróty pomagają rozpoznać zamierzone zależności; zweryfikowane podpisy i dane pochodzenia pomagają ustalić źródło i integralność artefaktu; SBOM stanowi wykaz komponentów. Należy łączyć je z chronionym procesem budowania i analizą podatności. Poprawny podpis ani SBOM nie dowodzą bezpieczeństwa oprogramowania. | ||
| 7 | Co wyklucza nierozstrzygalność problemu stopu? | Wyklucza algorytm, który zawsze kończy działanie i dla każdego programu oraz wejścia poprawnie rozstrzyga, czy dane wykonanie się zakończy. Nie wyklucza dowodzenia zakończenia lub niezakończenia konkretnych programów albo ograniczonych klas. | ||
| 8 | Co łączy deterministyczne i niedeterministyczne automaty skończone oraz formalne wyrażenia regularne? | Oba rodzaje automatów rozpoznają dokładnie języki regularne, opisywane też formalnymi wyrażeniami regularnymi. Automat niedeterministyczny akceptuje, jeśli akceptuje co najmniej jeden dozwolony przebieg obliczenia. Funkcje wyrażeń regularnych w językach programowania, np. odwołania wsteczne, mogą wykraczać poza tę klasę formalną. | ||
| 9 | Jak obciążenie i wariancja wiążą się z niedopasowaniem i przeuczeniem w klasycznym ujęciu? | Obciążenie to systematyczny błąd średniej predykcji lub estymacji; wariancja to wrażliwość na próbę treningową. Duże obciążenie może sprzyjać niedopasowaniu. Duża wariancja może sprzyjać dopasowaniu do fluktuacji właściwych próbie i słabej generalizacji. Równowaga zależy od modelu, danych i procedury uczenia. | ||
| 10 | Co chroni forward secrecy po ujawnieniu długoterminowego klucza uwierzytelniającego? | Wcześniej zarejestrowane sesje pozostają poufne, jeśli nie ujawniono również ich sekretów sesyjnych. Efemeryczny Diffie–Hellman może zapewnić tę własność przy bezpiecznym usuwaniu sekretów efemerycznych; ujawnienie samego klucza długoterminowego nie odsłania wtedy kluczy wcześniejszych sesji. | ||
| 11 | Czym różnią się wolumetryczne DDoS, zalew SYN i ataki na warstwę aplikacji? | Z rozproszonych źródeł obciążają odpowiednio przepustowość, zasoby obsługi połączeń i pracę aplikacji. Ochronę dopasowuje się do wąskiego gardła: filtrowanie lub oczyszczanie ruchu w sieci nadrzędnej, SYN cookies przy niektórych atakach na stan połączeń oraz filtrowanie lub limity żądań właściwe dla aplikacji przy nadużyciach HTTP. Jeden środek nie powstrzymuje wszystkich DDoS. | ||
| 12 | Czym różnią się P, NP, NP-trudność i NP-zupełność dla problemów decyzyjnych i wielomianowych redukcji wiele-do-jednego? | P obejmuje problemy rozstrzygalne deterministycznie w czasie wielomianowym. W NP instancje z odpowiedzią „tak” mają certyfikaty wielomianowej długości sprawdzalne w czasie wielomianowym. Problem jest NP-trudny, gdy każdy problem NP można do niego tak zredukować. NP-zupełny oznacza NP-trudny i należący do NP; sama NP-trudność nie wymaga przynależności do NP. | ||
| 13 | Jak kary L1 i L2 wpływają na wagi modelu? Czy gwarantują mniejsze przeuczenie? | L1 dodaje do straty λ∑|wᵢ| i może wyzerować niektóre wagi. L2 dodaje λ∑wᵢ² i zwykle zmniejsza wagi, nie wymuszając dokładnych zer. Siłę λ ≥ 0 trzeba dostroić; żadna kara nie gwarantuje lepszej generalizacji ani rozpoznawania wyłącznie nieistotnych cech. | ||
| 14 | Co głosi teza Churcha–Turinga i dlaczego nazywa się tezą? | Każdą funkcję obliczalną efektywną procedurą mechaniczną może obliczyć maszyna Turinga. Łączy to nieformalne pojęcie efektywnego obliczania z modelem formalnym; to utożsamienie jest tezą, nie twierdzeniem o dwóch modelach formalnych. Równoważność konkretnych modeli formalnych można udowodnić. | ||
| 15 | Co mierzą precyzja, czułość, F1 i ROC-AUC w klasyfikacji binarnej? | Dla wybranej klasy dodatniej: precyzja = TP/(TP+FP), czułość = TP/(TP+FN), F1 = 2TP/(2TP+FP+FN), gdy mianowniki są niezerowe. ROC-AUC podsumowuje odsetek trafnie dodatnich względem fałszywie dodatnich wyników przy różnych progach. Przy nierównowadze klas należy też badać precyzję–czułość i koszty błędów; samo ROC-AUC nie jest uniwersalną miarą jakości. | ||
| 16 | Co zawiera podpisany JWT w postaci zwartej i dlaczego dekodowanie nie wystarcza? | Trzy części base64url zawierają nagłówek, treść z deklaracjami oraz podpis lub MAC. Są zakodowane, nie zaszyfrowane. Należy zweryfikować podpis lub MAC zaufanym kluczem i jawnie dozwolonym algorytmem, a następnie deklaracje wymagane przez aplikację, np. wystawcę, odbiorcę i termin wygaśnięcia. JWT mogą też mieć postać szyfrowaną. | ||
| 17 | Jak połączenia rezydualne i normalizacja warstwowa pomagają przy trudnym przepływie gradientów w głębokich sieciach? | Podczas propagacji wstecznej gradienty mogą stawać się bardzo małe lub duże. Połączenie rezydualne y = F(x) + x zapewnia bezpośrednią ścieżkę pochodnej przez składnik identycznościowy. Normalizacja warstwowa przeskalowuje aktywacje i może stabilizować uczenie. Nie gwarantują jednak, że gradienty przestaną zanikać lub eksplodować. | ||
| 18 | Czym jest SSRF i co powinny ograniczać zabezpieczenia? | SSRF powoduje wysyłanie przez serwer żądań do miejsc wskazanych przez napastnika, potencjalnie do usług wewnętrznych lub metadanych chmury. Należy ograniczać dozwolone cele i protokoły, sprawdzać adresy uzyskane po rozwiązaniu nazw i przekierowania oraz kontrolować ruch wychodzący. Samo sprawdzenie podanej nazwy hosta nie wystarcza. | ||
| 19 | Jak dochodzi do wstrzyknięcia SQL i jak pomagają zapytania parametryzowane? | Niezaufane dane są interpretowane jako kod SQL. Wartości danych należy wiązać z parametrami, zamiast sklejać je z tekstem SQL. Parametry zwykle nie zastępują nazw tabel, kolumn ani słów kluczowych; takie elementy struktury należy wybierać spośród zaufanych, jawnie dozwolonych możliwości. | ||
| 20 | Jak w typowym uzgadnianiu TLS 1.3 z uwierzytelnieniem certyfikatem i efemerycznym Diffie–Hellmanem weryfikuje się serwer i klucze sesji? | Klient sprawdza certyfikat i tożsamość serwera oraz podpis CertificateVerify obejmujący zapis komunikatów uzgadniania. Efemeryczny Diffie–Hellman ustala wspólny sekret, z którego wyprowadza się klucze ruchu. Komunikaty Finished uwierzytelniają zapis i potwierdzają wyprowadzone klucze. TLS 1.3 obsługuje też inne tryby uzgadniania. | ||
| 21 | Jak wiążą się zasada najmniejszych uprawnień i zero trust? | Najmniejsze uprawnienia oznaczają dostęp tylko w zakresie potrzebnym do zadania. Zero trust odrzuca domyślne zaufanie oparte wyłącznie na lokalizacji w sieci lub własności; przed dostępem do zasobu ocenia tożsamość, stan urządzenia i politykę, a ocena jest ponawiana. Stosuje zasadę najmniejszych uprawnień, zamiast ją zastępować. | ||
| 22 | Jak polityka tego samego pochodzenia i CORS regulują odczyt odpowiedzi z innego pochodzenia w przeglądarce? | Dla zwykłych adresów WWW pochodzenie określają schemat, host i port. Polityka tego samego pochodzenia ogranicza odczyt między pochodzeniami przez skrypty; CORS pozwala serwerowi dopuścić określony dostęp przeglądarki przez nagłówki odpowiedzi. Tylko niektóre żądania wymagają wstępnego OPTIONS. CORS nie zastępuje autoryzacji na serwerze. | ||
| 23 | Jak przepełnienie bufora może uszkodzić pamięć i jakie są ograniczenia ASLR, NX oraz kanarków stosu? | Zapis poza granicami może uszkodzić dane stosu lub sterty, czasem również informacje sterujące. ASLR losuje położenia, NX blokuje wykonywanie kodu na wskazanych stronach pamięci, a kanarki wykrywają niektóre nadpisania na stosie. Ograniczają wykorzystanie luki, lecz nie usuwają samego błędu bezpieczeństwa pamięci. | ||
| 24 | Jak samouwaga ze skalowanym iloczynem skalarnym łączy informacje tokenów i uwzględnia maskowanie? | Oblicza softmax(QKᵀ/√dₖ + M)V. Q, K i V są projekcjami tej samej sekwencji, a dₖ to wymiar kluczy i zapytań. Maska addytywna M wynosi 0 dla dozwolonych pozycji i −∞ dla zablokowanych. Softmax stosuje się dla każdego zapytania do dozwolonych kluczy. Maska przyczynowa blokuje przyszłe tokeny. | ||
| 25 | Czym różnią się zabezpieczenia przed XSS od środków ograniczających tylko jego skutki? | XSS uruchamia kod kontrolowany przez napastnika w kontekście witryny w przeglądarce. Kodowanie wyjścia właściwe dla kontekstu, bezpieczne operacje DOM i oczyszczanie celowo dopuszczonego HTML przeciwdziałają wstrzyknięciu. CSP stanowi dodatkową warstwę ochrony. HttpOnly może uniemożliwić skryptowi odczyt ciasteczka, lecz nie wykonanie XSS. | ||
| 26 | Czym jest generowanie wspomagane wyszukiwaniem (RAG) i czego nie gwarantuje? | RAG wyszukuje materiał zewnętrzny i uzależnia od niego generowanie. Może poprawić oparcie odpowiedzi w źródłach i ułatwić aktualizację informacji bez ponownego uczenia generatora. Materiał może być nieaktualny, błędny lub nieistotny, a generowanie nadal może się mylić; wyszukanie dokumentu nie gwarantuje jego prawdziwości. | ||
| 27 | Jak HSTS ogranicza wymuszanie przejścia z HTTPS na HTTP i jakie ma ograniczenie przy pierwszej wizycie? | Napastnik może próbować utrzymać przeglądarkę przy nieszyfrowanym HTTP. Dla znanego hosta HSTS przeglądarka używa HTTPS i odrzuca błędy certyfikatu. Polityka poznana dopiero podczas wcześniejszej bezpiecznej wizyty nie chroni pierwszej wizyty niebezpiecznej; wstępnie załadowana polityka może wypełnić tę lukę. | ||
| 28 | Dlaczego hasła przechowuje się z użyciem funkcji haszowania haseł z solą, zamiast samego SHA-256? | Unikatowa losowa sól uniemożliwia ponowne użycie wcześniej obliczonych tablic i daje różne zapisane skróty nawet przy jednakowych hasłach użytkowników. Regulowany koszt spowalnia zgadywanie. Argon2id i scrypt wymagają pamięci; bcrypt to starsza, wolniejsza opcja obciążająca głównie CPU. SHA-256 zaprojektowano jako szybką funkcję. Sól nie jest tajna, a odpowiedni koszt zależy od wdrożenia. | ||
| 29 | Jak dzielą pracę propagacja wsteczna i optymalizatory, takie jak SGD lub Adam? | Propagacja wsteczna używa reguły łańcuchowej do wyznaczania gradientów straty. SGD aktualizuje parametry krokiem przeciwnym do gradientu obliczonego z próby. Adam dostosowuje aktualizacje, używając ruchomych oszacowań momentów gradientu. Obliczenie gradientu i wybór aktualizacji parametrów to różne zadania. | ||
| 30 | Czym różnią się szyfrowanie symetryczne i kryptografia klucza publicznego? | Szyfrowanie symetryczne, np. AES lub ChaCha20, używa tego samego tajnego klucza do szyfrowania i odszyfrowywania. Kryptografia klucza publicznego używa powiązanej pary kluczy: publicznego i prywatnego. Zależnie od schematu umożliwia szyfrowanie, podpisy cyfrowe lub uzgadnianie kluczy; nie są to operacje zamienne. | ||
| 31 | Na czym polega CSRF i dlaczego SameSite nie zapewnia pełnej ochrony? | CSRF nakłania przeglądarkę do niechcianych żądań z automatycznie dołączonymi danymi uwierzytelniającymi, np. ciasteczkami sesji. Dla żądań zmieniających stan należy sprawdzać odpowiednie tokeny anty-CSRF, a SameSite traktować jako dodatkową ochronę. SameSite=Lax może dopuścić ciasteczka przy nawigacji najwyższego poziomu między witrynami metodą GET; punkty końcowe GET nie powinny więc zmieniać stanu. | ||
| 32 | Co uwierzytelnia HMAC i czego nie zapewnia? | HMAC wylicza znacznik wiadomości ze wspólnym tajnym kluczem, np. HMAC-SHA256. Poprawny znacznik wspiera integralność i uwierzytelnienie wobec posiadacza klucza. Nie szyfruje wiadomości ani nie dowodzi, który z kilku posiadaczy klucza ją utworzył. |