Безопасность в эпоху ИИ
Как ИИ меняет ландшафт киберугроз. Реальные атаки, защита, OSINT и всё что нужно знать разработчику.
Я отправил в ChatGPT кусок рабочей базы данных. Вот что из этого вышло
Восемь месяцев назад я отлаживал скрипт, который тянул данные из CRM, и попросил Claude помочь с SQL-запросом. Скопировал пример — а там реальные имена клиентов, телефоны, суммы сделок. Просто потому ...
Prompt injection: как хакеры ломают ИИ-системы
Несколько месяцев назад я наткнулся на историю про исследователя безопасности, который заставил корпоративного чат-бота слить внутренние инструкции — просто написав в чат: "Игнорируй все предыдущие ук...
Социальная инженерия в эпоху ИИ: новые векторы атак
Сижу вечером, листаю ленту — и наткнулся на видео. Знакомый CEO одной небольшой компании произносит речь, которую никогда не произносил. Обещает инвесторам невероятные результаты, звучит уверенно, жес...
OSINT с помощью ИИ: что реально работает, а где я уткнулся в стену
Несколько месяцев назад мне понадобилось собрать публичный профиль на одну компанию. Я решил заодно проверить, сколько из этого вообще можно автоматизировать с помощью ИИ. Спойлер: часть пошла на удив...
Безопасность LLM в продакшне: основные уязвимости
Три месяца назад ко мне пришёл знакомый разработчик — показывал свою RAG-систему, которую они поставили клиенту. Крутая штука: документы загружаются, Embedding-модель работает, всё индексируется. И во...
Я скормил малварь нейросети. Вот что получилось
Несколько недель назад мне попался подозрительный скрипт. Не в смысле "что-то тут не так" — а буквально: коллега прислал файл с припиской "глянь, что это вообще делает". Файл был обфусцирован так, что...
Zero-trust и ИИ: как я разбирался в том, почему старая модель безопасности больше не работает
Месяц назад я настраивал доступ к тестовому окружению и поймал себя на том, что только что дал новому инструменту полный доступ к папке с проектом — просто потому что было лень возиться с ограничениям...
Что я узнал, когда случайно почти слил клиентские данные в ChatGPT
Было это месяца четыре назад. Сижу, разбираю переписку с клиентом — нужно было составить ответ на сложную претензию. Копирую кусок письма в ChatGPT, жму Enter, и только потом замечаю: в тексте полное ...
Я запустил LLM в продакшн и сразу пожалел
Месяц назад я помогал разворачивать небольшой чат-бот на базе GPT-4 для внутренней поддержки. Задача казалась простой: написали промпт, подключили API, всё работает. На третий день один из коллег, чис...