Bezpieczeństwo, uczenie maszynowe i teoria obliczeń

Powtórz wybrane pojęcia z kryptografii, bezpieczeństwa aplikacji internetowych i oprogramowania, uczenia maszynowego, sieci neuronowych i teorii obliczeń. Wymagana jest podstawowa znajomość programowania, sieci, rachunku prawdopodobieństwa i algebry liniowej. Nacisk pada na definicje, warunki i ograniczenia, a nie na pełny kurs implementacji.

Category
Computer Science
Level
advanced
Languages
pl → pl
Cards
32
Markdown
Bezpieczeństwo, uczenie maszynowe i teoria obliczeń (.md)

Flashcards (32)

#Front (Term / Question)Back (Definition / Answer)ExampleMultiple-Choice Options
1Jakie własności bezpieczeństwa powinna mieć kryptograficzna funkcja skrótu o stałej długości wyniku, np. SHA-256?Deterministycznie przekształca dane w skrót o stałej długości. Odporność na odtworzenie przeciwobrazu oznacza obliczeniową niewykonalność znalezienia danych dla danego skrótu; odporność na drugi przeciwobraz — innych danych o takim samym skrócie jak skrót podanych danych; odporność na kolizje — dowolnej pary różnych danych o jednakowym skrócie.
2Dlaczego między warstwami afinicznymi sieci neuronowej stosuje się nieliniowe aktywacje?Złożenie przekształceń afinicznych pozostaje afiniczne, więc samo ich układanie nie tworzy nieliniowych cech. Nieliniowe aktywacje ukryte, np. ReLU lub GELU, pozwalają wyrażać bogatsze funkcje. Chodzi o reprezentację ukrytą, nie tylko o nieliniową transformację na wyjściu.
3Jak PKCE chroni przepływ kodu autoryzacyjnego OAuth, również w OpenID Connect?Klient tworzy nowy tajny weryfikator kodu i wysyła wyzwanie wyprowadzone metodą S256 wraz z żądaniem autoryzacji. Przy wymianie kodu podaje weryfikator; serwer sprawdza, czy wyprowadzone z niego wyzwanie odpowiada wyzwaniu związanemu z kodem. Samo przechwycenie kodu nie wystarcza. OAuth dotyczy delegowanej autoryzacji; OpenID Connect dodaje uwierzytelnianie.
4Jak przy stałym wymiarze cech różnią się koszty pełnej samouwagi, FlashAttention i pamięci podręcznej KV wraz z długością sekwencji?Dla N tokenów zwykła pełna uwaga wymaga O(N²) operacji i O(N²) pamięci na jawnie zapisane wyniki porównań. Dokładny FlashAttention unika tej kwadratowej pamięci, ale zachowuje kwadratową liczbę operacji. Przy dekodowaniu autoregresyjnym pamięć KV ponownie wykorzystuje wcześniejsze klucze i wartości; nie trzeba ich przeliczać, lecz każde nowe zapytanie nadal porównuje się z wcześniejszymi tokenami.
5Czym różnią się uczenie nadzorowane, nienadzorowane i przez wzmacnianie?Nadzorowane uczy przewidywania na przykładach z etykietami docelowymi. Nienadzorowane znajduje strukturę w danych bez takich etykiet. Uczenie przez wzmacnianie uczy zachowania przez interakcję ze środowiskiem w celu zwiększenia oczekiwanej skumulowanej nagrody.
6Jak ustalenie wersji zależności, weryfikacja podpisów i SBOM wspierają bezpieczeństwo łańcucha dostaw oprogramowania?Ustalone wersje i sprawdzone skróty pomagają rozpoznać zamierzone zależności; zweryfikowane podpisy i dane pochodzenia pomagają ustalić źródło i integralność artefaktu; SBOM stanowi wykaz komponentów. Należy łączyć je z chronionym procesem budowania i analizą podatności. Poprawny podpis ani SBOM nie dowodzą bezpieczeństwa oprogramowania.
7Co wyklucza nierozstrzygalność problemu stopu?Wyklucza algorytm, który zawsze kończy działanie i dla każdego programu oraz wejścia poprawnie rozstrzyga, czy dane wykonanie się zakończy. Nie wyklucza dowodzenia zakończenia lub niezakończenia konkretnych programów albo ograniczonych klas.
8Co łączy deterministyczne i niedeterministyczne automaty skończone oraz formalne wyrażenia regularne?Oba rodzaje automatów rozpoznają dokładnie języki regularne, opisywane też formalnymi wyrażeniami regularnymi. Automat niedeterministyczny akceptuje, jeśli akceptuje co najmniej jeden dozwolony przebieg obliczenia. Funkcje wyrażeń regularnych w językach programowania, np. odwołania wsteczne, mogą wykraczać poza tę klasę formalną.
9Jak obciążenie i wariancja wiążą się z niedopasowaniem i przeuczeniem w klasycznym ujęciu?Obciążenie to systematyczny błąd średniej predykcji lub estymacji; wariancja to wrażliwość na próbę treningową. Duże obciążenie może sprzyjać niedopasowaniu. Duża wariancja może sprzyjać dopasowaniu do fluktuacji właściwych próbie i słabej generalizacji. Równowaga zależy od modelu, danych i procedury uczenia.
10Co chroni forward secrecy po ujawnieniu długoterminowego klucza uwierzytelniającego?Wcześniej zarejestrowane sesje pozostają poufne, jeśli nie ujawniono również ich sekretów sesyjnych. Efemeryczny Diffie–Hellman może zapewnić tę własność przy bezpiecznym usuwaniu sekretów efemerycznych; ujawnienie samego klucza długoterminowego nie odsłania wtedy kluczy wcześniejszych sesji.
11Czym różnią się wolumetryczne DDoS, zalew SYN i ataki na warstwę aplikacji?Z rozproszonych źródeł obciążają odpowiednio przepustowość, zasoby obsługi połączeń i pracę aplikacji. Ochronę dopasowuje się do wąskiego gardła: filtrowanie lub oczyszczanie ruchu w sieci nadrzędnej, SYN cookies przy niektórych atakach na stan połączeń oraz filtrowanie lub limity żądań właściwe dla aplikacji przy nadużyciach HTTP. Jeden środek nie powstrzymuje wszystkich DDoS.
12Czym różnią się P, NP, NP-trudność i NP-zupełność dla problemów decyzyjnych i wielomianowych redukcji wiele-do-jednego?P obejmuje problemy rozstrzygalne deterministycznie w czasie wielomianowym. W NP instancje z odpowiedzią „tak” mają certyfikaty wielomianowej długości sprawdzalne w czasie wielomianowym. Problem jest NP-trudny, gdy każdy problem NP można do niego tak zredukować. NP-zupełny oznacza NP-trudny i należący do NP; sama NP-trudność nie wymaga przynależności do NP.
13Jak kary L1 i L2 wpływają na wagi modelu? Czy gwarantują mniejsze przeuczenie?L1 dodaje do straty λ∑|wᵢ| i może wyzerować niektóre wagi. L2 dodaje λ∑wᵢ² i zwykle zmniejsza wagi, nie wymuszając dokładnych zer. Siłę λ ≥ 0 trzeba dostroić; żadna kara nie gwarantuje lepszej generalizacji ani rozpoznawania wyłącznie nieistotnych cech.
14Co głosi teza Churcha–Turinga i dlaczego nazywa się tezą?Każdą funkcję obliczalną efektywną procedurą mechaniczną może obliczyć maszyna Turinga. Łączy to nieformalne pojęcie efektywnego obliczania z modelem formalnym; to utożsamienie jest tezą, nie twierdzeniem o dwóch modelach formalnych. Równoważność konkretnych modeli formalnych można udowodnić.
15Co mierzą precyzja, czułość, F1 i ROC-AUC w klasyfikacji binarnej?Dla wybranej klasy dodatniej: precyzja = TP/(TP+FP), czułość = TP/(TP+FN), F1 = 2TP/(2TP+FP+FN), gdy mianowniki są niezerowe. ROC-AUC podsumowuje odsetek trafnie dodatnich względem fałszywie dodatnich wyników przy różnych progach. Przy nierównowadze klas należy też badać precyzję–czułość i koszty błędów; samo ROC-AUC nie jest uniwersalną miarą jakości.
16Co zawiera podpisany JWT w postaci zwartej i dlaczego dekodowanie nie wystarcza?Trzy części base64url zawierają nagłówek, treść z deklaracjami oraz podpis lub MAC. Są zakodowane, nie zaszyfrowane. Należy zweryfikować podpis lub MAC zaufanym kluczem i jawnie dozwolonym algorytmem, a następnie deklaracje wymagane przez aplikację, np. wystawcę, odbiorcę i termin wygaśnięcia. JWT mogą też mieć postać szyfrowaną.
17Jak połączenia rezydualne i normalizacja warstwowa pomagają przy trudnym przepływie gradientów w głębokich sieciach?Podczas propagacji wstecznej gradienty mogą stawać się bardzo małe lub duże. Połączenie rezydualne y = F(x) + x zapewnia bezpośrednią ścieżkę pochodnej przez składnik identycznościowy. Normalizacja warstwowa przeskalowuje aktywacje i może stabilizować uczenie. Nie gwarantują jednak, że gradienty przestaną zanikać lub eksplodować.
18Czym jest SSRF i co powinny ograniczać zabezpieczenia?SSRF powoduje wysyłanie przez serwer żądań do miejsc wskazanych przez napastnika, potencjalnie do usług wewnętrznych lub metadanych chmury. Należy ograniczać dozwolone cele i protokoły, sprawdzać adresy uzyskane po rozwiązaniu nazw i przekierowania oraz kontrolować ruch wychodzący. Samo sprawdzenie podanej nazwy hosta nie wystarcza.
19Jak dochodzi do wstrzyknięcia SQL i jak pomagają zapytania parametryzowane?Niezaufane dane są interpretowane jako kod SQL. Wartości danych należy wiązać z parametrami, zamiast sklejać je z tekstem SQL. Parametry zwykle nie zastępują nazw tabel, kolumn ani słów kluczowych; takie elementy struktury należy wybierać spośród zaufanych, jawnie dozwolonych możliwości.
20Jak w typowym uzgadnianiu TLS 1.3 z uwierzytelnieniem certyfikatem i efemerycznym Diffie–Hellmanem weryfikuje się serwer i klucze sesji?Klient sprawdza certyfikat i tożsamość serwera oraz podpis CertificateVerify obejmujący zapis komunikatów uzgadniania. Efemeryczny Diffie–Hellman ustala wspólny sekret, z którego wyprowadza się klucze ruchu. Komunikaty Finished uwierzytelniają zapis i potwierdzają wyprowadzone klucze. TLS 1.3 obsługuje też inne tryby uzgadniania.
21Jak wiążą się zasada najmniejszych uprawnień i zero trust?Najmniejsze uprawnienia oznaczają dostęp tylko w zakresie potrzebnym do zadania. Zero trust odrzuca domyślne zaufanie oparte wyłącznie na lokalizacji w sieci lub własności; przed dostępem do zasobu ocenia tożsamość, stan urządzenia i politykę, a ocena jest ponawiana. Stosuje zasadę najmniejszych uprawnień, zamiast ją zastępować.
22Jak polityka tego samego pochodzenia i CORS regulują odczyt odpowiedzi z innego pochodzenia w przeglądarce?Dla zwykłych adresów WWW pochodzenie określają schemat, host i port. Polityka tego samego pochodzenia ogranicza odczyt między pochodzeniami przez skrypty; CORS pozwala serwerowi dopuścić określony dostęp przeglądarki przez nagłówki odpowiedzi. Tylko niektóre żądania wymagają wstępnego OPTIONS. CORS nie zastępuje autoryzacji na serwerze.
23Jak przepełnienie bufora może uszkodzić pamięć i jakie są ograniczenia ASLR, NX oraz kanarków stosu?Zapis poza granicami może uszkodzić dane stosu lub sterty, czasem również informacje sterujące. ASLR losuje położenia, NX blokuje wykonywanie kodu na wskazanych stronach pamięci, a kanarki wykrywają niektóre nadpisania na stosie. Ograniczają wykorzystanie luki, lecz nie usuwają samego błędu bezpieczeństwa pamięci.
24Jak samouwaga ze skalowanym iloczynem skalarnym łączy informacje tokenów i uwzględnia maskowanie?Oblicza softmax(QKᵀ/√dₖ + M)V. Q, K i V są projekcjami tej samej sekwencji, a dₖ to wymiar kluczy i zapytań. Maska addytywna M wynosi 0 dla dozwolonych pozycji i −∞ dla zablokowanych. Softmax stosuje się dla każdego zapytania do dozwolonych kluczy. Maska przyczynowa blokuje przyszłe tokeny.
25Czym różnią się zabezpieczenia przed XSS od środków ograniczających tylko jego skutki?XSS uruchamia kod kontrolowany przez napastnika w kontekście witryny w przeglądarce. Kodowanie wyjścia właściwe dla kontekstu, bezpieczne operacje DOM i oczyszczanie celowo dopuszczonego HTML przeciwdziałają wstrzyknięciu. CSP stanowi dodatkową warstwę ochrony. HttpOnly może uniemożliwić skryptowi odczyt ciasteczka, lecz nie wykonanie XSS.
26Czym jest generowanie wspomagane wyszukiwaniem (RAG) i czego nie gwarantuje?RAG wyszukuje materiał zewnętrzny i uzależnia od niego generowanie. Może poprawić oparcie odpowiedzi w źródłach i ułatwić aktualizację informacji bez ponownego uczenia generatora. Materiał może być nieaktualny, błędny lub nieistotny, a generowanie nadal może się mylić; wyszukanie dokumentu nie gwarantuje jego prawdziwości.
27Jak HSTS ogranicza wymuszanie przejścia z HTTPS na HTTP i jakie ma ograniczenie przy pierwszej wizycie?Napastnik może próbować utrzymać przeglądarkę przy nieszyfrowanym HTTP. Dla znanego hosta HSTS przeglądarka używa HTTPS i odrzuca błędy certyfikatu. Polityka poznana dopiero podczas wcześniejszej bezpiecznej wizyty nie chroni pierwszej wizyty niebezpiecznej; wstępnie załadowana polityka może wypełnić tę lukę.
28Dlaczego hasła przechowuje się z użyciem funkcji haszowania haseł z solą, zamiast samego SHA-256?Unikatowa losowa sól uniemożliwia ponowne użycie wcześniej obliczonych tablic i daje różne zapisane skróty nawet przy jednakowych hasłach użytkowników. Regulowany koszt spowalnia zgadywanie. Argon2id i scrypt wymagają pamięci; bcrypt to starsza, wolniejsza opcja obciążająca głównie CPU. SHA-256 zaprojektowano jako szybką funkcję. Sól nie jest tajna, a odpowiedni koszt zależy od wdrożenia.
29Jak dzielą pracę propagacja wsteczna i optymalizatory, takie jak SGD lub Adam?Propagacja wsteczna używa reguły łańcuchowej do wyznaczania gradientów straty. SGD aktualizuje parametry krokiem przeciwnym do gradientu obliczonego z próby. Adam dostosowuje aktualizacje, używając ruchomych oszacowań momentów gradientu. Obliczenie gradientu i wybór aktualizacji parametrów to różne zadania.
30Czym różnią się szyfrowanie symetryczne i kryptografia klucza publicznego?Szyfrowanie symetryczne, np. AES lub ChaCha20, używa tego samego tajnego klucza do szyfrowania i odszyfrowywania. Kryptografia klucza publicznego używa powiązanej pary kluczy: publicznego i prywatnego. Zależnie od schematu umożliwia szyfrowanie, podpisy cyfrowe lub uzgadnianie kluczy; nie są to operacje zamienne.
31Na czym polega CSRF i dlaczego SameSite nie zapewnia pełnej ochrony?CSRF nakłania przeglądarkę do niechcianych żądań z automatycznie dołączonymi danymi uwierzytelniającymi, np. ciasteczkami sesji. Dla żądań zmieniających stan należy sprawdzać odpowiednie tokeny anty-CSRF, a SameSite traktować jako dodatkową ochronę. SameSite=Lax może dopuścić ciasteczka przy nawigacji najwyższego poziomu między witrynami metodą GET; punkty końcowe GET nie powinny więc zmieniać stanu.
32Co uwierzytelnia HMAC i czego nie zapewnia?HMAC wylicza znacznik wiadomości ze wspólnym tajnym kluczem, np. HMAC-SHA256. Poprawny znacznik wspiera integralność i uwierzytelnienie wobec posiadacza klucza. Nie szyfruje wiadomości ani nie dowodzi, który z kilku posiadaczy klucza ją utworzył.