Безопасность, машинное обучение и теория вычислений

Повторение избранных понятий криптографии, веб-безопасности и безопасности ПО, машинного обучения, нейронных сетей и теории вычислений. Предполагаются основы программирования, сетей, теории вероятностей и линейной алгебры; акцент на определениях, условиях и ограничениях, а не на полном курсе реализации.

Category
Computer Science
Level
advanced
Languages
ru → ru
Cards
32
Markdown
Безопасность, машинное обучение и теория вычислений (.md)

Flashcards (32)

#Front (Term / Question)Back (Definition / Answer)ExampleMultiple-Choice Options
1Как самовнимание с масштабированным скалярным произведением объединяет информацию токенов с учётом маски?Оно вычисляет softmax(QKᵀ/√dₖ + M)V. Q, K и V — проекции одной последовательности; dₖ — размерность ключей и запросов. Аддитивная маска M равна 0 для разрешённых позиций и −∞ для заблокированных. Softmax применяется по разрешённым ключам для каждого запроса. Причинная маска блокирует будущие токены.
2Что утверждает тезис Чёрча–Тьюринга и почему это тезис?Любую функцию, вычислимую эффективной механической процедурой, можно вычислить машиной Тьюринга. Это связывает неформальное понятие эффективного вычисления с формальной моделью; такое отождествление является тезисом, а не теоремой о двух формальных моделях. Эквивалентность конкретных формальных моделей можно доказать.
3Как фиксация зависимостей, проверка подписей и SBOM помогают безопасности цепочки поставок ПО?Зафиксированные версии и проверенные хеши помогают определить нужные зависимости; проверенные подписи и сведения о происхождении помогают установить источник и целостность артефакта; SBOM перечисляет компоненты. Это сочетают с защищённой сборкой и анализом уязвимостей. Действительная подпись или SBOM не доказывает безопасность ПО.
4Зачем между аффинными слоями нейросети нужны нелинейные активации?Композиция аффинных отображений остаётся аффинной, поэтому одно их наслаивание не создаёт нелинейных признаков. Нелинейные активации скрытых слоёв, например ReLU или GELU, позволяют выразить более сложные функции. Речь о скрытом представлении, а не только о нелинейном преобразовании выхода.
5Как политика одинакового источника и CORS регулируют чтение браузером ответов другого источника?Для обычных веб-URL источник определяется схемой, хостом и портом. Политика одинакового источника ограничивает межисточниковое чтение скриптами; CORS позволяет серверу разрешать определённый доступ браузера заголовками ответа. Предварительный запрос OPTIONS требуется лишь для некоторых запросов. CORS не заменяет авторизацию на сервере.
6Чем отличаются P, NP, NP-трудность и NP-полнота для задач распознавания и полиномиальных сведений многие-к-одному?P содержит задачи, разрешимые детерминированно за полиномиальное время. В NP положительные экземпляры имеют сертификаты полиномиальной длины, проверяемые за полиномиальное время. Задача NP-трудна, если к ней так сводится любая задача из NP. NP-полнота означает NP-трудность и принадлежность NP; сама NP-трудность не требует принадлежности NP.
7Как штрафы L1 и L2 влияют на веса модели? Гарантируют ли они меньшее переобучение?L1 добавляет к функции потерь λ∑|wᵢ| и может обнулить некоторые веса. L2 добавляет λ∑wᵢ² и обычно уменьшает веса, не стимулируя их точного обнуления. Силу λ ≥ 0 нужно подбирать; ни один штраф не гарантирует лучшего обобщения или выявления только несущественных признаков.
8Что исключает неразрешимость проблемы остановки?Она исключает алгоритм, который всегда завершается и для каждой программы и входа верно решает, завершится ли данное выполнение. Это не запрещает доказывать завершение или незавершение конкретных программ либо ограниченных классов.
9Как при фиксированных размерностях признаков зависят от длины последовательности затраты полного самовнимания, FlashAttention и KV-кеша?Для N токенов обычное полное внимание требует O(N²) арифметических операций и O(N²) памяти для явно сохранённых оценок. Точный FlashAttention избегает этой квадратичной памяти, но сохраняет квадратичную арифметику. При авторегрессионном декодировании KV-кеш повторно использует прошлые ключи и значения; это устраняет их пересчёт, но каждый новый запрос полного внимания всё ещё сравнивается с предыдущими токенами.
10Чем различаются обучение с учителем, без учителя и с подкреплением?Обучение с учителем использует примеры с целевыми метками для предсказаний. Обучение без учителя ищет структуру в данных без таких меток. Обучение с подкреплением осваивает поведение через взаимодействие со средой ради увеличения ожидаемой накопленной награды.
11Что такое SSRF и что должна ограничивать защита?SSRF заставляет сервер отправлять запросы по выбранным злоумышленником адресам, потенциально открывая доступ к внутренним службам или метаданным облака. Ограничивают разрешённые назначения и протоколы, проверяют адреса после разрешения имён и перенаправления, контролируют исходящий сетевой трафик. Одной проверки переданного имени хоста недостаточно.
12Как HSTS ограничивает понижение HTTPS до HTTP и каково ограничение при первом посещении?Злоумышленник может попытаться оставить браузер на незашифрованном HTTP. Для известного HSTS-хоста браузер использует HTTPS и отклоняет ошибки сертификата. Политика, узнанная лишь при предыдущем безопасном посещении, не защищает первое небезопасное посещение; предзагруженная политика может закрыть этот начальный пробел.
13Чем отличаются объёмные DDoS-атаки, SYN-флуд и атаки на прикладном уровне?Распределённые источники нагружают соответственно пропускную способность, ресурсы учёта соединений и работу приложения. Защиту подбирают к узкому месту: фильтрация или очистка трафика выше по сети, SYN cookies против некоторых атак на состояние соединений, прикладная фильтрация или ограничение частоты при злоупотреблениях HTTP. Ни одна мера не останавливает все DDoS-атаки.
14Как проверяются сервер и сеансовые ключи при типичном рукопожатии TLS 1.3 с аутентификацией сертификатом и эфемерным обменом Диффи–Хеллмана?Клиент проверяет сертификат и идентичность сервера, а также подпись CertificateVerify над записью сообщений рукопожатия. Эфемерный обмен Диффи–Хеллмана устанавливает общий секрет, из которого выводятся ключи трафика; сообщения Finished аутентифицируют запись и подтверждают выведенные ключи. TLS 1.3 поддерживает и другие режимы рукопожатия.
15Что защищает прямая секретность при компрометации долговременного ключа аутентификации?Ранее записанные сеансы остаются конфиденциальными, если их сеансовые секреты также не скомпрометированы. Эфемерный обмен Диффи–Хеллмана может дать это свойство при безопасном удалении эфемерных секретов; компрометация только долговременного ключа тогда не раскрывает ключи прошлых сеансов.
16Как возникает SQL-инъекция и чем помогают параметризованные запросы?Недоверенный ввод интерпретируется как SQL-код, а не данные. Значения следует связывать с параметрами, а не вставлять конкатенацией в SQL. Параметры обычно не заменяют имена таблиц, столбцов или ключевые слова SQL; такие элементы структуры выбирают из доверенных, явно разрешённых вариантов.
17Что общего у детерминированных и недетерминированных конечных автоматов и формальных регулярных выражений?Оба вида автоматов распознают в точности регулярные языки, описываемые и формальными регулярными выражениями. Недетерминированный автомат принимает вход, если принимает хотя бы одно разрешённое вычисление. Возможности регулярных выражений в языках программирования, например обратные ссылки, могут выходить за эту формальную категорию.
18Как PKCE защищает поток кода авторизации OAuth, включая OpenID Connect?Клиент создаёт новый секретный верификатор кода и отправляет производное от него значение challenge по методу S256 вместе с запросом авторизации. При обмене кода он предъявляет верификатор; сервер проверяет соответствие вычисленного challenge значению, связанному с кодом. Перехвата одного кода недостаточно. OAuth обеспечивает делегированную авторизацию; OpenID Connect добавляет аутентификацию.
19Чем защита от XSS отличается от мер, лишь ограничивающих последствия?XSS запускает управляемый злоумышленником код в контексте сайта в браузере. Контекстное кодирование вывода, безопасные операции DOM и очистка намеренно разрешённого HTML противодействуют внедрению. CSP добавляет слой защиты. HttpOnly может запретить скриптам читать cookie, но не предотвращает выполнение XSS.
20Что такое генерация с дополнением из поиска (RAG) и чего она не гарантирует?RAG извлекает внешний материал и обусловливает им генерацию. Это может улучшить опору ответов на источники и облегчить обновление сведений без переобучения генератора. Найденный материал может быть устаревшим, неверным или нерелевантным, а генерация всё равно может ошибаться; поиск не делает документы гарантированно истинными.
21Как остаточные связи и нормализация слоя помогают при трудностях распространения градиентов в глубоких сетях?При обратном распространении градиенты могут становиться очень малыми или большими. Остаточная связь y = F(x) + x даёт прямой путь для производной через тождественный член. Нормализация слоя масштабирует активации и может стабилизировать обучение. Эти методы помогают, но не гарантируют устранения затухающих или взрывающихся градиентов.
22Что аутентифицирует HMAC и чего он не обеспечивает?HMAC вычисляет тег сообщения с общим секретным ключом, например HMAC-SHA256. Верный тег подтверждает целостность и аутентичность для обладателя ключа. Он не шифрует сообщение и не доказывает, кто из нескольких обладателей ключа его создал.
23Как связаны принцип наименьших привилегий и нулевое доверие?Наименьшие привилегии дают лишь доступ, нужный для задачи. Нулевое доверие исключает неявное доверие только на основании положения в сети или владения; перед доступом к ресурсу оцениваются идентичность, состояние устройства и политика с дальнейшей переоценкой. Оно применяет принцип наименьших привилегий, а не заменяет его.
24Как смещение и дисперсия связаны с недообучением и переобучением в классической картине?Смещение — систематическая ошибка среднего предсказания или оценки; дисперсия — чувствительность к обучающей выборке. Большое смещение может способствовать недообучению. Большая дисперсия может способствовать подгонке под особенности выборки и плохому обобщению. Баланс зависит от модели, данных и процедуры обучения.
25Чем симметричное шифрование отличается от криптографии с открытым ключом?Симметричное шифрование, например AES или ChaCha20, использует один секретный ключ для шифрования и расшифрования. Криптография с открытым ключом использует связанную пару открытого и закрытого ключей; в зависимости от схемы она обеспечивает шифрование, цифровые подписи или согласование ключей. Эти операции не взаимозаменяемы.
26Как переполнение буфера может повредить память и каковы ограничения ASLR, NX и стековых канареек?Запись за границы может повредить данные стека или кучи, иногда включая управляющие данные. ASLR рандомизирует размещение, NX запрещает выполнение на заданных страницах памяти, а канарейки выявляют некоторые перезаписи в стеке. Эти меры затрудняют эксплуатацию, но не устраняют исходную ошибку безопасности памяти.
27Как делят работу обратное распространение ошибки и оптимизаторы SGD или Adam?Обратное распространение применяет цепное правило для вычисления градиентов потерь. SGD меняет параметры шагом против градиента, вычисленного на выборке. Adam использует скользящие оценки моментов градиента для адаптации обновлений. Вычисление градиента и выбор обновления параметров — разные операции.
28Что содержит подписанный JWT в компактном формате и почему декодирования недостаточно?Три части base64url содержат заголовок, полезную нагрузку с утверждениями и подпись либо MAC. Это кодирование, а не шифрование. Подпись или MAC проверяют доверенным ключом и явно разрешённым алгоритмом, затем проверяют необходимые приложению утверждения, например издателя, аудиторию и срок действия. JWT также могут иметь зашифрованное представление.
29Почему пароли хранят с помощью схемы хеширования паролей с солью, а не одного SHA-256?Уникальная случайная соль препятствует повторному использованию заранее вычисленных таблиц и даёт разные сохранённые хеши даже при одинаковых паролях пользователей. Настраиваемая стоимость замедляет перебор. Argon2id и scrypt требуют затрат памяти; bcrypt — более медленный устаревающий вариант преимущественно с затратами CPU. SHA-256 спроектирован быстрым. Соль не секретна, а подходящая стоимость зависит от развёртывания.
30Какие свойства безопасности должна обеспечивать криптографическая хеш-функция с фиксированной длиной результата, например SHA-256?Она детерминированно преобразует вход в хеш фиксированной длины. Стойкость к поиску прообраза означает вычислительную неосуществимость поиска входа по заданному хешу; стойкость ко второму прообразу — другого входа с хешем заданного входа; стойкость к коллизиям — любой пары разных входов с одинаковым хешем.
31Что измеряют точность precision, полнота recall, F1 и ROC-AUC в бинарной классификации?Для выбранного положительного класса precision = TP/(TP+FP), recall = TP/(TP+FN), F1 = 2TP/(2TP+FP+FN), если знаменатели ненулевые. ROC-AUC обобщает доли истинно положительных относительно ложноположительных результатов при изменении порога. При дисбалансе классов оценивают также precision–recall и цену ошибок; один ROC-AUC не является универсальной мерой качества.
32Что такое CSRF и почему SameSite не обеспечивает полной защиты?CSRF побуждает браузер отправлять нежелательные запросы с автоматически приложенными учётными данными, например сеансовыми cookie. Для запросов, меняющих состояние, проверяют подходящие анти-CSRF-токены, а SameSite используют как дополнительную защиту. SameSite=Lax может разрешать cookie при межсайтовом переходе верхнего уровня методом GET; поэтому GET не должен выполнять действия, меняющие состояние.