Кибербезопасность
Защита данных, пентест, безопасность с ИИ
Мне позвонил «директор». Голос был его. Но это был не он
Несколько месяцев назад сотрудник финансового отдела одной немецкой компании снял трубку. На другом конце — генеральный директор. Голос, интонации, манера речи. Попросил срочно перевести 220 000 евро ...
Как ИИ помогает анализировать вредоносный код
На прошлой неделе коллега скинул мне малварь в архиве. Говорит: «Посмотри, тут что-то странное, обычные сканеры молчат». Я потратил полчаса, разворачивая песочницу, и в итоге нашёл в коде строку, кото...
Как я автоматизировал аудит безопасности и что из этого вышло
В прошлый понедельник случился классический завал. Утром тикет — нужно проверить 47 устаревших зависимостей в проекте, который я не трогал полгода. К вечеру встреча с безопасниками. Ручками проверять ...
Политики конфиденциальности ChatGPT и Claude: как разработчики защищают ваши данные
Сейчас найду актуальную информацию о политиках конфиденциальности ChatGPT и Claude.
Как я учил ИИ искать дыры в коде вместо меня
Месяц назад я провалил аудит. Не в смысле "меня взломали" — в смысле я потратил три дня на ручной просмотр конфигов и логов, написал отчёт на двадцать страниц, а потом коллега за десять минут нашёл в ...
Я скормил малварь нейросети. Вот что получилось
Несколько недель назад мне попался подозрительный скрипт. Не в смысле "что-то тут не так" — а буквально: коллега прислал файл с припиской "глянь, что это вообще делает". Файл был обфусцирован так, что...
Безопасность LLM в продакшне: основные уязвимости
Три месяца назад ко мне пришёл знакомый разработчик — показывал свою RAG-систему, которую они поставили клиенту. Крутая штука: документы загружаются, Embedding-модель работает, всё индексируется. И во...
OSINT с помощью ИИ: что реально работает, а где я уткнулся в стену
Несколько месяцев назад мне понадобилось собрать публичный профиль на одну компанию. Я решил заодно проверить, сколько из этого вообще можно автоматизировать с помощью ИИ. Спойлер: часть пошла на удив...
Социальная инженерия в эпоху ИИ: новые векторы атак
Сижу вечером, листаю ленту — и наткнулся на видео. Знакомый CEO одной небольшой компании произносит речь, которую никогда не произносил. Обещает инвесторам невероятные результаты, звучит уверенно, жес...
Prompt injection: как хакеры ломают ИИ-системы
Несколько месяцев назад я наткнулся на историю про исследователя безопасности, который заставил корпоративного чат-бота слить внутренние инструкции — просто написав в чат: "Игнорируй все предыдущие ук...
Я отправил в ChatGPT кусок рабочей базы данных. Вот что из этого вышло
Восемь месяцев назад я отлаживал скрипт, который тянул данные из CRM, и попросил Claude помочь с SQL-запросом. Скопировал пример — а там реальные имена клиентов, телефоны, суммы сделок. Просто потому ...