# Безопасность, машинное обучение и теория вычислений

> Повторение избранных понятий криптографии, веб-безопасности и безопасности ПО, машинного обучения, нейронных сетей и теории вычислений. Предполагаются основы программирования, сетей, теории вероятностей и линейной алгебры; акцент на определениях, условиях и ограничениях, а не на полном курсе реализации.

- **Canonical URL:** https://flashcards.world/flashcards/sets/28455d8c-42a0-4dc7-a4a5-b518149a2b8b/
- **Markdown URL:** https://flashcards.world/flashcards/sets/28455d8c-42a0-4dc7-a4a5-b518149a2b8b.md
- **Category:** Computer Science
- **Level:** advanced
- **Languages:** ru → ru
- **Total Cards:** 32

## Flashcards (32 Cards)

| # | Front (Term / Prompt) | Back (Definition / Answer) | Example | Multiple-Choice Options |
| :--- | :--- | :--- | :--- | :--- |
| 1 | Как самовнимание с масштабированным скалярным произведением объединяет информацию токенов с учётом маски? | Оно вычисляет softmax(QKᵀ/√dₖ + M)V. Q, K и V — проекции одной последовательности; dₖ — размерность ключей и запросов. Аддитивная маска M равна 0 для разрешённых позиций и −∞ для заблокированных. Softmax применяется по разрешённым ключам для каждого запроса. Причинная маска блокирует будущие токены. |  |  |
| 2 | Что утверждает тезис Чёрча–Тьюринга и почему это тезис? | Любую функцию, вычислимую эффективной механической процедурой, можно вычислить машиной Тьюринга. Это связывает неформальное понятие эффективного вычисления с формальной моделью; такое отождествление является тезисом, а не теоремой о двух формальных моделях. Эквивалентность конкретных формальных моделей можно доказать. |  |  |
| 3 | Как фиксация зависимостей, проверка подписей и SBOM помогают безопасности цепочки поставок ПО? | Зафиксированные версии и проверенные хеши помогают определить нужные зависимости; проверенные подписи и сведения о происхождении помогают установить источник и целостность артефакта; SBOM перечисляет компоненты. Это сочетают с защищённой сборкой и анализом уязвимостей. Действительная подпись или SBOM не доказывает безопасность ПО. |  |  |
| 4 | Зачем между аффинными слоями нейросети нужны нелинейные активации? | Композиция аффинных отображений остаётся аффинной, поэтому одно их наслаивание не создаёт нелинейных признаков. Нелинейные активации скрытых слоёв, например ReLU или GELU, позволяют выразить более сложные функции. Речь о скрытом представлении, а не только о нелинейном преобразовании выхода. |  |  |
| 5 | Как политика одинакового источника и CORS регулируют чтение браузером ответов другого источника? | Для обычных веб-URL источник определяется схемой, хостом и портом. Политика одинакового источника ограничивает межисточниковое чтение скриптами; CORS позволяет серверу разрешать определённый доступ браузера заголовками ответа. Предварительный запрос OPTIONS требуется лишь для некоторых запросов. CORS не заменяет авторизацию на сервере. |  |  |
| 6 | Чем отличаются P, NP, NP-трудность и NP-полнота для задач распознавания и полиномиальных сведений многие-к-одному? | P содержит задачи, разрешимые детерминированно за полиномиальное время. В NP положительные экземпляры имеют сертификаты полиномиальной длины, проверяемые за полиномиальное время. Задача NP-трудна, если к ней так сводится любая задача из NP. NP-полнота означает NP-трудность и принадлежность NP; сама NP-трудность не требует принадлежности NP. |  |  |
| 7 | Как штрафы L1 и L2 влияют на веса модели? Гарантируют ли они меньшее переобучение? | L1 добавляет к функции потерь λ∑\|wᵢ\| и может обнулить некоторые веса. L2 добавляет λ∑wᵢ² и обычно уменьшает веса, не стимулируя их точного обнуления. Силу λ ≥ 0 нужно подбирать; ни один штраф не гарантирует лучшего обобщения или выявления только несущественных признаков. |  |  |
| 8 | Что исключает неразрешимость проблемы остановки? | Она исключает алгоритм, который всегда завершается и для каждой программы и входа верно решает, завершится ли данное выполнение. Это не запрещает доказывать завершение или незавершение конкретных программ либо ограниченных классов. |  |  |
| 9 | Как при фиксированных размерностях признаков зависят от длины последовательности затраты полного самовнимания, FlashAttention и KV-кеша? | Для N токенов обычное полное внимание требует O(N²) арифметических операций и O(N²) памяти для явно сохранённых оценок. Точный FlashAttention избегает этой квадратичной памяти, но сохраняет квадратичную арифметику. При авторегрессионном декодировании KV-кеш повторно использует прошлые ключи и значения; это устраняет их пересчёт, но каждый новый запрос полного внимания всё ещё сравнивается с предыдущими токенами. |  |  |
| 10 | Чем различаются обучение с учителем, без учителя и с подкреплением? | Обучение с учителем использует примеры с целевыми метками для предсказаний. Обучение без учителя ищет структуру в данных без таких меток. Обучение с подкреплением осваивает поведение через взаимодействие со средой ради увеличения ожидаемой накопленной награды. |  |  |
| 11 | Что такое SSRF и что должна ограничивать защита? | SSRF заставляет сервер отправлять запросы по выбранным злоумышленником адресам, потенциально открывая доступ к внутренним службам или метаданным облака. Ограничивают разрешённые назначения и протоколы, проверяют адреса после разрешения имён и перенаправления, контролируют исходящий сетевой трафик. Одной проверки переданного имени хоста недостаточно. |  |  |
| 12 | Как HSTS ограничивает понижение HTTPS до HTTP и каково ограничение при первом посещении? | Злоумышленник может попытаться оставить браузер на незашифрованном HTTP. Для известного HSTS-хоста браузер использует HTTPS и отклоняет ошибки сертификата. Политика, узнанная лишь при предыдущем безопасном посещении, не защищает первое небезопасное посещение; предзагруженная политика может закрыть этот начальный пробел. |  |  |
| 13 | Чем отличаются объёмные DDoS-атаки, SYN-флуд и атаки на прикладном уровне? | Распределённые источники нагружают соответственно пропускную способность, ресурсы учёта соединений и работу приложения. Защиту подбирают к узкому месту: фильтрация или очистка трафика выше по сети, SYN cookies против некоторых атак на состояние соединений, прикладная фильтрация или ограничение частоты при злоупотреблениях HTTP. Ни одна мера не останавливает все DDoS-атаки. |  |  |
| 14 | Как проверяются сервер и сеансовые ключи при типичном рукопожатии TLS 1.3 с аутентификацией сертификатом и эфемерным обменом Диффи–Хеллмана? | Клиент проверяет сертификат и идентичность сервера, а также подпись CertificateVerify над записью сообщений рукопожатия. Эфемерный обмен Диффи–Хеллмана устанавливает общий секрет, из которого выводятся ключи трафика; сообщения Finished аутентифицируют запись и подтверждают выведенные ключи. TLS 1.3 поддерживает и другие режимы рукопожатия. |  |  |
| 15 | Что защищает прямая секретность при компрометации долговременного ключа аутентификации? | Ранее записанные сеансы остаются конфиденциальными, если их сеансовые секреты также не скомпрометированы. Эфемерный обмен Диффи–Хеллмана может дать это свойство при безопасном удалении эфемерных секретов; компрометация только долговременного ключа тогда не раскрывает ключи прошлых сеансов. |  |  |
| 16 | Как возникает SQL-инъекция и чем помогают параметризованные запросы? | Недоверенный ввод интерпретируется как SQL-код, а не данные. Значения следует связывать с параметрами, а не вставлять конкатенацией в SQL. Параметры обычно не заменяют имена таблиц, столбцов или ключевые слова SQL; такие элементы структуры выбирают из доверенных, явно разрешённых вариантов. |  |  |
| 17 | Что общего у детерминированных и недетерминированных конечных автоматов и формальных регулярных выражений? | Оба вида автоматов распознают в точности регулярные языки, описываемые и формальными регулярными выражениями. Недетерминированный автомат принимает вход, если принимает хотя бы одно разрешённое вычисление. Возможности регулярных выражений в языках программирования, например обратные ссылки, могут выходить за эту формальную категорию. |  |  |
| 18 | Как PKCE защищает поток кода авторизации OAuth, включая OpenID Connect? | Клиент создаёт новый секретный верификатор кода и отправляет производное от него значение challenge по методу S256 вместе с запросом авторизации. При обмене кода он предъявляет верификатор; сервер проверяет соответствие вычисленного challenge значению, связанному с кодом. Перехвата одного кода недостаточно. OAuth обеспечивает делегированную авторизацию; OpenID Connect добавляет аутентификацию. |  |  |
| 19 | Чем защита от XSS отличается от мер, лишь ограничивающих последствия? | XSS запускает управляемый злоумышленником код в контексте сайта в браузере. Контекстное кодирование вывода, безопасные операции DOM и очистка намеренно разрешённого HTML противодействуют внедрению. CSP добавляет слой защиты. HttpOnly может запретить скриптам читать cookie, но не предотвращает выполнение XSS. |  |  |
| 20 | Что такое генерация с дополнением из поиска (RAG) и чего она не гарантирует? | RAG извлекает внешний материал и обусловливает им генерацию. Это может улучшить опору ответов на источники и облегчить обновление сведений без переобучения генератора. Найденный материал может быть устаревшим, неверным или нерелевантным, а генерация всё равно может ошибаться; поиск не делает документы гарантированно истинными. |  |  |
| 21 | Как остаточные связи и нормализация слоя помогают при трудностях распространения градиентов в глубоких сетях? | При обратном распространении градиенты могут становиться очень малыми или большими. Остаточная связь y = F(x) + x даёт прямой путь для производной через тождественный член. Нормализация слоя масштабирует активации и может стабилизировать обучение. Эти методы помогают, но не гарантируют устранения затухающих или взрывающихся градиентов. |  |  |
| 22 | Что аутентифицирует HMAC и чего он не обеспечивает? | HMAC вычисляет тег сообщения с общим секретным ключом, например HMAC-SHA256. Верный тег подтверждает целостность и аутентичность для обладателя ключа. Он не шифрует сообщение и не доказывает, кто из нескольких обладателей ключа его создал. |  |  |
| 23 | Как связаны принцип наименьших привилегий и нулевое доверие? | Наименьшие привилегии дают лишь доступ, нужный для задачи. Нулевое доверие исключает неявное доверие только на основании положения в сети или владения; перед доступом к ресурсу оцениваются идентичность, состояние устройства и политика с дальнейшей переоценкой. Оно применяет принцип наименьших привилегий, а не заменяет его. |  |  |
| 24 | Как смещение и дисперсия связаны с недообучением и переобучением в классической картине? | Смещение — систематическая ошибка среднего предсказания или оценки; дисперсия — чувствительность к обучающей выборке. Большое смещение может способствовать недообучению. Большая дисперсия может способствовать подгонке под особенности выборки и плохому обобщению. Баланс зависит от модели, данных и процедуры обучения. |  |  |
| 25 | Чем симметричное шифрование отличается от криптографии с открытым ключом? | Симметричное шифрование, например AES или ChaCha20, использует один секретный ключ для шифрования и расшифрования. Криптография с открытым ключом использует связанную пару открытого и закрытого ключей; в зависимости от схемы она обеспечивает шифрование, цифровые подписи или согласование ключей. Эти операции не взаимозаменяемы. |  |  |
| 26 | Как переполнение буфера может повредить память и каковы ограничения ASLR, NX и стековых канареек? | Запись за границы может повредить данные стека или кучи, иногда включая управляющие данные. ASLR рандомизирует размещение, NX запрещает выполнение на заданных страницах памяти, а канарейки выявляют некоторые перезаписи в стеке. Эти меры затрудняют эксплуатацию, но не устраняют исходную ошибку безопасности памяти. |  |  |
| 27 | Как делят работу обратное распространение ошибки и оптимизаторы SGD или Adam? | Обратное распространение применяет цепное правило для вычисления градиентов потерь. SGD меняет параметры шагом против градиента, вычисленного на выборке. Adam использует скользящие оценки моментов градиента для адаптации обновлений. Вычисление градиента и выбор обновления параметров — разные операции. |  |  |
| 28 | Что содержит подписанный JWT в компактном формате и почему декодирования недостаточно? | Три части base64url содержат заголовок, полезную нагрузку с утверждениями и подпись либо MAC. Это кодирование, а не шифрование. Подпись или MAC проверяют доверенным ключом и явно разрешённым алгоритмом, затем проверяют необходимые приложению утверждения, например издателя, аудиторию и срок действия. JWT также могут иметь зашифрованное представление. |  |  |
| 29 | Почему пароли хранят с помощью схемы хеширования паролей с солью, а не одного SHA-256? | Уникальная случайная соль препятствует повторному использованию заранее вычисленных таблиц и даёт разные сохранённые хеши даже при одинаковых паролях пользователей. Настраиваемая стоимость замедляет перебор. Argon2id и scrypt требуют затрат памяти; bcrypt — более медленный устаревающий вариант преимущественно с затратами CPU. SHA-256 спроектирован быстрым. Соль не секретна, а подходящая стоимость зависит от развёртывания. |  |  |
| 30 | Какие свойства безопасности должна обеспечивать криптографическая хеш-функция с фиксированной длиной результата, например SHA-256? | Она детерминированно преобразует вход в хеш фиксированной длины. Стойкость к поиску прообраза означает вычислительную неосуществимость поиска входа по заданному хешу; стойкость ко второму прообразу — другого входа с хешем заданного входа; стойкость к коллизиям — любой пары разных входов с одинаковым хешем. |  |  |
| 31 | Что измеряют точность precision, полнота recall, F1 и ROC-AUC в бинарной классификации? | Для выбранного положительного класса precision = TP/(TP+FP), recall = TP/(TP+FN), F1 = 2TP/(2TP+FP+FN), если знаменатели ненулевые. ROC-AUC обобщает доли истинно положительных относительно ложноположительных результатов при изменении порога. При дисбалансе классов оценивают также precision–recall и цену ошибок; один ROC-AUC не является универсальной мерой качества. |  |  |
| 32 | Что такое CSRF и почему SameSite не обеспечивает полной защиты? | CSRF побуждает браузер отправлять нежелательные запросы с автоматически приложенными учётными данными, например сеансовыми cookie. Для запросов, меняющих состояние, проверяют подходящие анти-CSRF-токены, а SameSite используют как дополнительную защиту. SameSite=Lax может разрешать cookie при межсайтовом переходе верхнего уровня методом GET; поэтому GET не должен выполнять действия, меняющие состояние. |  |  |

---
Study this deck interactively with FSRS-6 spaced repetition, audio review, and multiple-choice mode at [Flashcards World](https://flashcards.world/flashcards/sets/28455d8c-42a0-4dc7-a4a5-b518149a2b8b/).
