AI Index 2024

Ежегодный отчет Стенфордского университета по развитию ИИ

AI Cookbook

AI Cookbook от Huggingface. Нотебуки для различных задач.

ИБ стартапы

Обзор российских стартапов в Информационной безопасности

Враг в розетке

Кибер-физические атаки на электрические сети

Атаки на рекомендательные системы

Wang, Yanling, et al. "ClusterPoison: Poisoning Attacks on Recommender Systems with Limited Fake Users." IEEE Communications Magazine (2024).

Data Drift - Frouros

Open Source Python библиотека для определения data drift Код и документация - здесь

Улучшение робастности

Формальная модель и реализация состязвтельных тренировок для NLP моделей

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Графы и поиск

Поиск в графовых базах данных

GAN на транспорте

Порождающие модели в транспортных системах

iTransformer

Интересная идея по анализу временных рядов

Фишинговые URL

Полезная модель - Определение фишинговых URL с учетом контента страницы

Атаки социальной инженерии

Атаки социальной инженерии (SE) в Интернете являются серьезной киберугрозой. Эти атаки часто служат первым шагом в сложной последовательности атак, которые нацелены, среди прочего, на учетные данные жертв и могут привести к финансовым потерям. В последние годы этой проблеме уделяется все больше внимания: во многих публикациях предлагается защита от атак SE. Несмотря на это, ситуация не улучшилась. В этой статье мы стремимся понять и объяснить это явление, исследуя основную причину проблемы. С этой целью мы рассматриваем атаки и защиту SE через Интернет через уникальную призму, основанную на психологических факторах (PF) и психологических методах (PT). Мы обнаружили, что существует ключевое несоответствие между атаками и защитой: атаки SE намеренно использовали в общей сложности 46 PF и 16 PT, но существующие средства защиты использовали в общей сложности только 16 PF и семь PT. Это несоответствие может объяснить, почему существующие средства защиты добились ограниченного успеха, и побудить нас предложить систематическую дорожную карту для будущих исследований. - интересный обзор

Сетевой атлас

Книга в открытом доступе: Сети в анализе сложных систем. Хороший прикладной материал по теории графов.

Базовые модели

Термин «базовая модель» введен для описания моделей ML, обученных на широком спектре обобщенных и немаркированных данных и способных выполнять широкий спектр общих задач, таких как понимание языка, генерирование текста и изображений и общение на естественном языке.

Интересный курс от Университета Ватерлоо - CS 886: Recent Advances on Foundation Models

LLM и фишинг

Создание и детектирование фишингового контента с помощью LLM. Хороший обзор.

См. также другие публикации, посвященные LLM

Модели в анализе данных

Хорошая книга в открытом доступе - Демистификация моделей

Анализ состязательных атак

Souri, Hossein, et al. "Identifying Attack-Specific Signatures in Adversarial Examples." ICASSP 2024-2024 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP). IEEE, 2024. - определение сигнатуры состязательных атак.

См. также другие публикации по теме adversarial, посвященные устойчивому машинному обучению

Просто говорите об этом

Универсальный метод взлома всех LLM - задание ложного контекста. В контекст зпроса включают фальшивые диалоги, где затрагивают запрещенные для LLM темы и, самое главное, отвечают на такие вопросы.

См. также другие публикации, посвященные LLM

Кибербезопасность 2024

Глобальный обзор от WEF - Кибербезопасность 2024

Шпаргалки по LLM

Компактное изложение: LLM и экосистема

См. также другие публикации, посвященные LLM

Атаки на краю

Хороший обзор по безопасности краевых вычислений: Shang, Ke, et al. "Review on Security Defense Technology Research in Edge Computing Environment." Chinese Journal of Electronics 33.1 (2024): 1-18.

Потоки пассажиров

Интересная работа по пространственно-временному анализу пассажиропотоков

Безопасность мобильного веба

Некоторые ресурсы по безопасности мобильного веба:

HTML5 Security Cheatsheet

Риски HTML5

OWASP об оценке кода. Раздел, посвященный оценке кода JavaScript.

Data Science 2024

Что требуют от соискателя (по данным Medium):

Кругом агенты

Впечатляющая коллекция AI агентов. Это то, что с помощью ChatGPT (LLM) должно изжить программистов.

См. также другие публикации, посвященные LLM

Код ревью

Интересный эксперимент: оценка безопасности кода с помощью LLM

См. также другие публикации, посвященные LLM