28944
Уникальный контент про кибербезопасность от Алексея Лукацкого (@alukatsk) - мысли, полезные ссылки, комментарии к текущим событиям, юмор и мемасики. Канал личный - мой работодатель никак не влияет на то, что здесь публикуется. Рекламу не размещаю!!!
Вот как надо заманивать в фишинговые сети, а не эти ваши скучные «новый сайт по доступности бензина на АЗС», «узнай срок осенней мобилизации» или «оплатите налог за неучастие в СВО». Креатива не хватает современным фишерам. Эх…
#фишинг
А вот кому инъекций, разных, вкусных, безопасных...
#маркетинг
Чтобы не смешивать с прошлым видео несколько интересных и связанных историй, расскажу о них сейчас. Они хорошо дополняют историю безопасности ИИ-агентов, вышедших из под контроля.
Начнем с Anthropic, пиарщики которой решили перехватить повестку и тоже рассказали, что их агенты на стероидах самых современных модельках похакали реальные компании. Но так как взламывать HuggingFace уже нельзя (место занято OpenAI), то компания Дарио Амодеи заявила, что они незаметно взломали аж несколько разных компаний и во всех случаях ИИ-агенты подозревали, что делают что-то плохое, но просто проигнорировали это, поставив цель выше средств ее достижения.
Первый пример – в рамках тестов на якобы изолированном от Интернет стенде моделька каким-то образом вырвалась наружу и нашла в Сети реальную компанию с именем, как в синтезированном тесте. Ну а дальше все просто - неудачная конфигурация на периметре и проникновение внутрь. Второй пример - модель Anthropic просканировала несколько тысяч адресов в Интернете, в одной из реальных компаний украла пароли с одного из публичных ресурсов и, использовав SQL-инъекцию, получила доступ к внутреннему приложению. Третий пример иного плана – моделька конкурента OpenAI также тестировала мифическую компанию на стенде, увидела в документации ссылку на несуществующий пакет Python, зарегала его, загрузив его на PyPI с вредоносной нагрузкой. Интересно, что этот вредонос успело загрузить 15 компаний, среди которых была одна и из сфера кибербезопасности (!) 😂
Во всех случаях налицо ошибка конфигурации в инфраструктуре ИИ-компании (у OpenAI та же проблема), а также попытка достигнуть цели любой ценой, даже понимая, что перед тобой не тестовая среда, а реальная компания. Так что делаем выводы и задаемся вопросом – а как защищены мои ИИ-агенты? 🔓
Об этом задумался Китай и утвердил первый в мире, как они говорят, стандарт по безопасности ИИ-агентов. По-китайски не читаю, поэтому сложно сказать, что в этом стандарте написано. Но, думаю, скоро появится вольный перевод на английский. В это же время центральное командование Вооруженных сил США и ОАЭ договорились сформировать оперативную группу Task Force Talon Synapse специально для ускорения разработки и внедрения военных приложений искусственного интеллекта (Скайнет на шаг ближе) 🤖
Наконец, мои коллеги из Positive Technologies задались логичным вопросом – насколько автономные наступательные ИИ-агенты, коих выложено немало на Github, опасны в реальных атаках и готова ли к ним современная защита? Чтобы это проверить, 🤟 решила провести эксперимент на киберполигоне Standoff, где столкнула четыре автономных атакующих ИИ-агента (HexStrike AI, NyxStrike, PentAGI, Yasen) против построенного также на базе ИИ MaxPatrol O2, сделав из этого настоящую ИИ-кибербитву. Результаты достаточно интересны – их можно оценить в отчете на Хабре.
#ии #тенденции
21 июля 2026 года CSIS провел закрытую настольную командно-штабную игру для членов и сотрудников двух комитетов Палаты представителей – комитета по внутренней безопасности и специального комитета по стратегической конкуренции между США и КНР. Это были не полноценные национальные киберучения с участием CISA, Пентагона и операторов критической инфраструктуры, а скорее политико-стратегическая игра для законодателей: участники должны были принимать решения в условиях неполной информации и быстро развивающегося кризиса.
Сценарий выглядел так:
6️⃣ Летом 2027 года Китай начинает крупные военные учения вокруг Тайваня.
2️⃣ США не понимают, идет ли речь о демонстрации силы, фактической блокаде или подготовке вторжения.
3️⃣ Американская разведка сообщает о китайских кибератаках на порты, грузовые железные дороги, аэропорты и логистические системы, необходимые для переброски американских войск.
4️⃣ Часть атак сразу нарушает работу инфраструктуры, часть сохраняет скрытый доступ для последующего применения.
5️⃣ Участникам приходится решать, какие объекты защищать в первую очередь, как взаимодействовать с частными операторами и не приведет ли переброска войск к дальнейшей эскалации.
ИИ в этом сценарии тоже применялся и не только для ускорения взлома. Были предусмотрены:
➡️ кража и использование учетных данных
➡️ вмешательство в системы логистики и маршрутизации
➡️ информационная операция
➡️ атака посредством prompt injection на некую используемую защитниками ИИ-систему.
То есть игра моделировала уже не просто "Китай получил мощную модель и взломал Америку", а смешанный конфликт, в котором ИИ:
➡️ масштабирует традиционные кибератаки
➡️ ускоряет поиск и эксплуатацию уязвимостей
➡️ помогает атаковать сразу множество связанных систем
➡️ одновременно становится новой уязвимой частью инфраструктуры управления.
Примерно в тоже время, на первой сессии Глобального механизма ООН по безопасности ИКТ, которая проходила 20–24 июля 2026 года, государства-участники неоднократно предлагали использовать:
➡️ настольные и сценарные учения
➡️ киберполигоны
➡️ тренировки кризисного управления
➡️ проверку каналов связи между национальными контактными пунктами
➡️ совместную отработку реакции на трансграничные инциденты
➡️ сценарии, связанные с ИИ, критической инфраструктурой и международным правом.
Председатель сессии отдельно включила штабные киберучения в перечень практических форм наращивания кибер-потенциала, которые предлагались делегациями. Например, Кувейт предложил создавать добровольные сценарные модули по применению международного права к операциям с использованием ИКТ, опираясь на существующие упражнения UNIDIR, OSCE и ASEAN. Другие участники предлагали многонациональные киберучения, киберполигоны, кризисные симуляции и выработку общих оперативных playbook до возникновения реального киберкризиса.
Американцы в целом следуют этой логике, но привносят в нее свои, уже привычные правила игры, в которых:
➡️ противник заранее определен
➡️ атрибуция уже встроена в сценарий
➡️ политическая причина атаки известна
➡️ действия в киберпространстве напрямую связаны с военной операцией вокруг Тайваня.
А это в свою очередь приводит к тому, что учения могут стать не только инструментом повышения киберустойчивости, но и способом (и в случае с США это многое объясняет):
➡️ закрепить образ конкретного государства как неизбежного противника
➡️ легитимизировать собственные наступательные приготовления
➡️ заранее сформировать политический консенсус относительно атрибуции
➡️ представить технологическую гонку ИИ как элемент подготовки к войне.
Но это уже другая история. Главное, что тема киберучений плотно проникает во все уровни и ее начинают воспринимать как действенный механизм для сценарного анализа до того, тестируемый сценарий реализуется на практике.
ЗЫ. А вы знали, что термин Red/Blue Team пришел как раз из штабных учений США, где "красной угрозой" были СССР?
#киберучения #геополитика
Про Дурова я в последние пару дней дал несколько комментариев и могу повторить основные мысли и тут, в канале, который ведется в мессенджере, принадлежащем компании, генеральный директор который внесен в список террористов. Можно ли продолжать пользоваться Telegram в этом случае? Я ненастоящий "сварщик", но свое диванное мнение имею. Итак, важно понимать отличие статуса у Дурова и у принадлежащих ему компаний. Это, как говорят в Одессе, две большие разницы.
Пока Telegram сам по себе не внесен в список "плохих" организаций, а таких статусов у нас немало (и в них сам черт ногу сломит), пользоваться Telegram можно, не опасаясь никаких ограничений и проблем. Если, конечно, вы явно не нарушаете законодательство, но тут вообще не важно, где вы это делаете. Но даже если Telegram и внесут в список, то и это еще ничего не значит. Многие до сих пор пользуются продуктами Марка Цукерберга и ничего, хотя их производитель внесен в список экстремистских организаций.
Я попробовал составить упрощенную табличку и могу отметить, что основная проблема возникает, если вы хотите что-то заплатить Telegram. Хотя оплата "звезд", рекламы или Premium-подписки не может считаться финансированием терроризма по ст.205.1 УК РФ (умысла в этом нет, если вы, конечно, не начисляете звезды экстремистским каналам), все же мало кто из финансовых посредников захочет брать на себя такой риск, так как Telegram контролируется включенным в реестр Росфинмониторинга лицом, которое и является выгодоприобретателем от оплаченных денег; Telegram направляет Дурову средства, что и создает неприемлемый для многих риск.
Гораздо хуже ситуация может случиться, если все же сам Telegram внесут в список нежелательных организаций, за финансирование (ч. 2 ст. 284.1 УК РФ) которых предусмотрено до пяти лет лишения свободы (для этой формы ответственности не требуется предварительное административное наказание, в отличие от участия в деятельности нежелательной организации). После признания нежелательной организацией продолжать сознательно оплачивать Premium из России было бы неразумным и потенциально уголовно рискованным. Для российских рекламодателей появляется дополнительный юридический и репутационный риск.
Так что сидим, наблюдаем, за тем, как Дуров пополнил список, в котором уже находится Акунин, Быков, Глуховский, Полозкова. Пока пользователям ничего не грозит. Если перестанет проходить оплата Premium, все переключатся на посредников, которые взвинтят цены, как это было с подарочными картами Apple. Активизируются мошенники (к бабке не ходи), которые начнут эксплуатировать эту тему. А вот если уже саму организацию, управляющую Telegram, внесут в "черные списки", вот тогда и будем думать, как с этим жить.
#мессенджер #ответственность
Представьте, кто-то по количеству подписчиков объединяется, а кто-то - по доходу и возможности реально влиять на отрасль. Как-то так...
Читать полностью…
На прошедшем 10 дней назад в Питере Петербургском цифровом форуме, я модерировал секцию "Инцидент и последствия. Первые 72 часа и жизнь после" и теперь пришла пора подвести некоторые итоги. Я не буду пересказывать слова каждого участника, скорее поделюсь концентратом идей, которые я вынес с дискуссии. Для начала стоит сказать, что когда я перед мероприятием спрашивал участников, сталкивались ли они с инцидентами, только один участник честно сказал, что да, было дело (хотя у некоторых из коллег инциденты становились даже достоянием гласности). Но по ходу дискуссии стало понятно, что многие участники лукавили и они реально сталкивались с киберкризисами, что и позволило им достаточно интересно рассказывать о своем опыте.
6️⃣ Практически все участники независимо друг от друга пришли к одной мысли: план реагирования – это не инструкция, которая гарантирует успех. Это стартовая точка, которая после каждого реального инцидента должна переписываться. Никто из участников не сказал, что первоначальный план оказался идеальным. Наоборот, все отмечали, что именно реальные инциденты показали слабые места документов.
2️⃣ Главная цель реагирования – не расследование, а сохранение бизнеса. Один из участников несколько раз подчеркнул, что первая задача – не искать виноватых и не заниматься расследованием, а обеспечить непрерывность бизнеса. Сначала остановить хаос, сохранить производство, при необходимости перейти на ручной режим и только потом разбираться с причиной. Классная цитата прозвучала: "Мы уже ничего не можем изменить – событие произошло. Теперь наша задача – максимально сохранить способность компании работать". Кто-то из коллег больше фокусировался на технических вопросах и это тоже хорошо отражает отношение ИБ к своей работе – для кого-то это чисто техническая история, а для кого-то бизнесовая.
3️⃣ Практически никто не имеет раздела "борьба с паникой" в своих плейбуках, но все признали, что именно паника становится первой проблемой. Никто еще не понимает масштабов, руководители требуют мгновенных ответов, но пока все не соберутся в одной комнате, пока не остановится поток эмоций, пока не будет составлен короткий план ближайших действий, ничего не начнет выстраиваться.
4️⃣ Практически каждый участник сказал одно и то же – лучшие планы пишутся после аварии. Именно после первого серьезного инцидента:
➡️ переписывается порядок действий
➡️ уточняются инструкции
➡️ появляются новые чек-листы
➡️ убираются лишние пункты
➡️ добавляются реальные детали.
5️⃣ Самая слабая часть почти всех планов – уведомления и документирование. Во время первого серьезного инцидента команда полностью забывает порядок уведомлений, перестает вести журнал действий, концентрируется исключительно на техническом расследовании. А потом оказывается, что нужно:
➡️ отправлять уведомления
➡️ готовить отчеты
➡️ объяснять регуляторам свои действия
➡️ восстанавливать хронологию.
А вспомнить ничего уже нельзя. Прозвучал классный совет – возьмите джуна и пусть все записывает, что ему говорят.
6️⃣ Очень интересная мысль, которую повторили сразу несколько участников. Инструкция может быть правильной, но человек... боится ее выполнить. Охранник боится выдернуть кабель, DevOps боится погасить кластер, инженер боится отключить систему, оператор боится остановить сервис. А все потому, что есть опасение: "А вдруг потом виноватым окажусь я?" То есть реагирование тормозит не техника или нехватка навыков, а психология исполнителей.
Окончание...
#управлениеинцидентами #bestpractice
Обновили MCP-протокол, используемый для работы ИИ-инструментов с различными инструментами и сервисами. Выделил для себя несколько важных моментов с точки зрения кибербезопасности:
6️⃣ MCP становится stateless. Как по мне, так это плохо для безопасности, так как теперь каждый запрос должен быть полноценно аутентифицирован, авторизован и проверен. clientInfo и serverInfo из протокола - самодекларативны и никак не верифицируемы, а значит в полный рост необходимо опираться на проверенную идентичность из OAuth, mTLS или service mesh.
2️⃣ Теперь шлюзы, WAF или service mesh могут понимать, какой MCP-метод и какой инструмент вызывается, не разбирая JSON-RPC-тело. Таким образом, можно строить более гибкие политики, например, "агенту разрешен search, но запрещен execute_sql", "delete_project требует отдельного подтверждения", обращение к административным инструментам направляется на дополнительную проверку, а события можно нормально передавать в API Security Gateway, NDR/NAD, SIEM и observability-платформы.
3️⃣ Параметры инструментов тоже можно выносить в заголовки, что позволяет строить более точные политики – разрешить работу только с определенным регионом, запретить прод, отделить тенанты, применять DLP или тарифные ограничения к определенным операциям.
4️⃣ Исправляется реальная проблема OAuth mix-up, когда креды должны храниться с привязкой к конкретному issuer и не могут автоматически переиспользоваться с другим сервером авторизации.
5️⃣ Dynamic Client Registration постепенно выводится из употребления в пользу Client ID Metadata Documents, что позволяет вести белый список доверенных приложений, применять корпоративные политики, проверять перенаправление URI и т.п.
6️⃣ MRTR улучшает подтверждение действий, но создает новый канал социальной инженерии.
7️⃣ Кэширование каталогов инструментов создает риск "устаревших полномочий", когда отозванные инструменты все еще остаются в клиентском кэше, изменившаяся схема параметров еще не обновилась, инструмент стал опасным, а старое описание говорит, что он безопасный, и т.п.
8️⃣ Явные handles вместо скрытой сессии хороши для аудита, но опасны при утечке. Если одного знания handle достаточно для продолжения операции, его утечка в логах, промптах, трассах, истории диалога и т.п. может позволить перехватить чужой workflow или задачу.
9️⃣ Tasks вынесены в официальное расширение: появляются durable handles, polling через tasks/get и обновление через tasks/update. MCP-вызов перестает быть только мгновенной операцией – агент может запустить длительную задачу, вернуться к ней позже, продолжать действия после завершения пользовательской сессии и т.п. А значит нужно мониторить не только вызываемые инструменты, но и весь жизненный цикл задач.
Этот релиз не решает ключевую проблему MCP: протокол по-прежнему соединяет вероятностную модель с инструментами, которые способны читать данные и совершать реальные действия (но это общая проблема любой безопасности ИИ, о чем я уже писал). Сама спецификация честно говорит, что MCP открывает пути к произвольному доступу к данным и выполнению кода, а многие требования к согласию и безопасности не могут быть принудительно обеспечены самим протоколом. Но теперь вокруг него стало чуть легче строить ИБ - API Gateway, Zero Trust, централизованную авторизацию, RBAC/ABAC для инструментов, WAF, журналирование, SIEM-мониторинг и т.п.
То есть MCP стал более защищаемым, но не стал безопасным по умолчанию.
#ии #архитектура
⚡️ Хотите проверить кибербезопасность Т-Банка на прочность?
Тогда приглашаем вас на Кибериспытания, в которых вы сможете легально протестировать защищенность нашей инфраструктуры.
Мы расширяем рамки классического bug bounty и первыми среди финтеха запускаем программу, в которой нужно обнаружить не только отдельные уязвимости, а целые сценарии недопустимых событий.
🔥 За один такой сценарий вы получите до 12 000 000 ₽, а весь призовой фонд составляет 50 000 000 ₽. Также за участие вы получите памятную ачивку в профиле Standoff, а за реализацию недопустимого события — ачивку победителя.
Как принять участие?
↗️ Отправьте заявку на сайте и заполните анкету.
↗️ Дождитесь приглашения. Обработаем вашу заявку в течение двух недель.
↗️ Если подтвердим недопустимое событие, начислим вознаграждение — сумму и статус выплаты можно посмотреть на платформе.
Не забудьте отправить пост друзьям и коллегам, которые умеют находить уязвимости не только в теории!
Знаете эту старую легенду про Кольцо... нет, не всевластия, а Хранителя Границ? Говорят, оно появилось задолго до того, как мы научились прятать свои секреты за криптографией. Его ковали не для королей и не для великих полководцев. Оно предназначалось архивариусам, судьям, советникам магов – тем, кому доверяли не меч, а право принимать сложные решения.
Носили его строго на указательном пальце левой руки – пальце Юпитера, символе власти и ответственности. Левая рука всегда считалась "рукой памяти" и внутреннего знания, поэтому кольцо не давало власти над миром. Оно давало власть над собой. Но настоящая сила кольца была даже не в магии. Просто каждый раз, когда Хранитель собирался сгоряча вынести приговор или вскрыть древнюю печать, кольцо леденело на пальце. Словно тихо спрашивало: "А ты точно уверен?"
Если человек торопился, магия уходила. Но если он брал паузу, проверял факты и вдумывался в происходящее, прозрачные камни на кольце начинали мягко светиться серебром. Как говорили в старину: "Настоящая сила кольца не в том, что оно открывает двери, а в том, что иногда не дает их открыть".
Наверное, поэтому такие артефакты так любят в фэнтези. И дело не в том, чтобы просто украсить героя. Через кольцо проще всего рассказать историю без слов. В хороших мирах магические вещи не делают героя всемогущим сами по себе – нужно быть их достойным. Одни требуют привязки к хозяину, другие нельзя забрать силой, а третьи и вовсе превращаются в бесполезную железку в руках того, кто ищет только власти.
Вообще, классный артефакт меняет не характеристики персонажа, а самого игрока. Особенно того, кто не летит с порога наносить максимальный урон, а хочет разобраться: "Что тут вообще происходит?" Такого игрока видно сразу:
– Он читает пыльные книги, пока остальные гуляют в таверне.
– Слушает торговца, на которого все давно махнули рукой.
– Собирает чужие истории по крупицам и лечит команду не ради опыта, а потому что иначе все просто погибнут.
И вдруг, незаметно для всех, именно этот тихий "помощник" начинает принимать ключевые решения. Пожалуй, именно такие люди и становятся настоящими хранителями. Потому что кольца редко выбирают самых сильных – зато очень любят самых внимательных.
И тут я неожиданно поймал себя на мысли. Между хорошей ролевой игрой и кибербезопасностью пугающе много общего. Серьезно. Современные хакерские атаки – они же вообще не про взлом компьютеров. Они про доверие. Про фальшивые личности и поддельные письма. Про артефакты, которые кажутся безопасными, пока ты не возьмешь их в руки. Замените мечи на ноутбуки, а магические свитки на электронную почту – и мир останется тем же. Просто драконы стали цифровыми 🎁
Недавно на Реддите наткнулся на обсуждение, где предложили объяснять основы кибербеза через Dungeons & Dragons. А так как я люблю геймификацию, то стал вчитываться и чем больше читал, тем больше понимал – это же идеально ложится на реальность! Смотрите сами:
– Поддельное письмо от знакомого NPC – чистой воды фишинг.
– Заколдованная шкатулка – вредоносное вложение.
– Иллюзия – это дипфейк, а оборотень – угнанная учетка.
– Проклятый меч, незаметно сводящий с ума владельца, – скомпрометированная библиотека зависимостей в коде.
– Лучший вор проникает в замок не потому, что гениально ломает замки. Он просто заговаривает зубы стражнику, и тот сам открывает ему ворота. Социальная инженерия как она есть.
И ведь этот подход работает безотказно. В мире D&D не нужно читать нудные лекции по безопасности. Достаточно один раз дать группе довериться обаятельному незнакомцу, который в итоге окажется слугой лича. Думаю, что после такого игроки усвоят урок куда лучше, чем после десятка скучных корпоративных тренингов 🐉
#геймификация
ГОСУДАРСТВО: Я думаю, для защиты детей и национальной безопасности мы должны повсеместно внедрить биометрию по отпечаткам пальцев, потому что это быстро, удобно, просто, безопасно и уникально для каждого гражданина.
ГРАЖДАНИН: А если биометрию скомпрометируют, то как отозвать свой доступ к ЕБС?
ГОСУДАРСТВО:
Киномастерская by Seclab продолжает свою работу, сняв новый (после «Испытай свою крепость») микрофильм «Катастрофа была предопределена» по мотивам недопустимого события, случившегося с легендарным Титаником. И, конечно, мы не могли не найти параллели с кибербезом. 7 причин катастрофы на воде и столько же причин виртуальных просчетов.
#видео #аналогии #история
Google тестирует новую капчу на базе жестов руками, что требует доступа к веб-камере. Правда, по отзывам, прототип быстро обошли с помощью обычных статичных фотографий. Но у меня сразу всплыл кейс с Pokemon GO и обвинением компании, что она ненавязчиво собирала кучу чувствительной информации о местах, в которых "случайно" находились покемоны. А тут у вас камера фиксирует не только жесты аутентифицируемого субъекта, но и всю обстановку вокруг него. Прекрасный способ обогатить свой ИИ. Ну или не свой, а еще чей-то... ☺️
#аутентификация
Тут с утра все стали комментировать новость РИА о том, что топ-менеджера одной компании уволили за разглашение коммерческой тайны через DeepSeek. И я почему-то уверен, что никто не видел мотивировочной части судебного дела. А в таких делах важны именно нюансы. Девушку могли уволить не за пользование DeepSeek, а за пересылку коммерческой тайны на личную почту. DeepSeek там мог быть упомянут просто до кучи, среди всех приложений, куда были загружены корпоративные секреты.
С тем же успехом это мог быть диск Яндекса, Гигачат, почта Gmail/Mailru и куча других внешних сервисов, которые для установленного режима КТ (если он был, то прям респект – это совсем нетривиальная задача и по уму его делают единицы из сотен тысяч российский компаний) не имеют никакой разницы. Просто на фоне хайпа вокруг ИИ, любое упоминание любого сервиса будет восприниматься как красная тряпка.
Не забываем, что 26 июля был подписан закон о развитии искусственного интеллекта в России, а он, как мы помним, в своих первых редакциях, по сути запрещал использование иностранных ИИ-сервисов. И никто из заинтересованных лиц от этой идеи не отказывался. Так что мы можем иметь дело с началом информационной войны против зарубежных LLMок и продвижением мысли, что надо пользоваться отечественными доверенными и суверенными. А она у нас как бы всего одна, судя по последнему заявлению главы Сбербанка в Совете Федерации.
Ровно также разгоняли тему с оборотными штрафами за утечку ПДн – много кейсов об утечках, публичные разборы, потрясания кулаками на трибунах парламента и принятый в итоге закон, который до сих пор так и не заработал. Так что ларчик может просто открываться! 🤔
#ии #регулирование #ответственность
Китайское видение будущих войн. Место реверс-инжинирингу я в предложенном сценарии вижу. Место для атак supply chain тоже. А вот наступательные операции в киберпространстве что-то не учтены. Непорядок… Что-то китайцы мутят. Скрывают. Внимание уводят в сторону 🇨🇳
#кибервойны
Никто еще не придумал туры по местам реализации недопустимых событий в области кибербезопасности? Оказывается в обычном мире места, где происходили катастрофы и гибель большого числа живых существ, вызывает интерес у туристов и это имеет определенное психологическое объяснение. Учитывая, какую роль цифра играет в нашей жизни и насколько разрушительными могут быть последствия от киберинцидентов, то пора уже вводить новые маршруты в программы турагентств и экскурсионных бюро.
Читать полностью…
Коллектив авторов из "Эшелона" к своему 20-тилетию (компании, а не авторов) выпустил учебное пособие, которое в деталях рассказывает, что такое ГОСТ Р 56939-2024. Я не вчитывался в столь подробное изложение нормативных требований к процессу безопасной разработки; все-таки не совсем моя тема, а учебники я не очень люблю из-за типичной скучности изложения (хотя примеров ПО под разные требования описано немало, это плюс). Но одно в книге заметил – она не учитывает (ну или я не заметил) вайб-кодинг. Хотя это претензия не к книге, а скорее к стандарту и в целом процессу стандартизации, который не успевает за современными практиками; в 24-м году о вайб-кодинге еще никто и не думал особо.
#книга #devsecops #рбпо #ии
Кейс OpenAI vs HuggingFace уже неоднократно сравнивался с историей Скайнет в Терминаторе. Ну и мы с SecLab Pictures не остались в стороне, сняв небольшое анимационное кино, которое рассказывает о том, что происходило за закрытыми дверьми в момент военной приемки Skynet и почему голос кибербеза был не услышан.
Ну а если серьезно, то при в воде в промышленную эксплуатацию ИИ-систем, особенно на базе агентов с высоким уровнем автономности, к вопросам ИБ надо относиться более чем серьезно. При этом не все старые подходы к ИБ работают, а что-то и вовсе требует нового взгляда на кибербез.
Об этом сейчас говорят многие эксперты. Кто-то, конечно, не забывает и себя при этом продвинуть, как, например, Microsoft, которая пару дней как разродилась квази-манифестом о необходимости менять стратегию ИБ в эпоху ИИ. Как по мне, так менять там надо совсем немного. Управление доступом, инвентаризация, сегментация, минимум привилегий, управление identity, мониторинг, регистрация событий, резервное копирование, оценка защищенности и т.п. остаются. Разве что управление уязвимостями должно быть на "скорости машин", но для начала надо просто выстроить нормальный процесс патчинга. А уж потом ускорять его.
#ии #видео
Если внимательно смотреть по сторонам, то можно видеть знаки. А иногда можно их связывать воедино. Например, вчера увидел у кофейни на даче автомобиль с интересной рамкой для номера. Сегодня утром прочитал где-то, что Сайберус создал «Хакакадемию», которая поможет в том числе и старшеклассникам прокачивать ИБшное (не бумажное) мышление. Днем с коллегами из ФГБУ «НИИ Интеграл» обсуждали просветительские проекты по ИБ и ИТ, в том числе и для школьников. Проект «Наука в барах. Байки у сервера» вряд ли им подойдет (молодые еще), а вот «Естественный интеллект» вполне. А уже вечером вел беседу про другой просветительский проект по ИБ для школьников. А вы говорите случайность… Паззл складывается.
ЗЫ. А где-то, наверное, есть ясли-сад «защитничек», «хакерёныш» 👶
Вписался тут в совместную ВШЭ и Яндекса программу профессиональной переподготовки "ИИ-лидеры: бизнес-лаборатория для руководителей", в рамках которой буду проводить обучение по безопасности, устойчивости и контролируемости ИИ. 4 пары, разговоры о том, как сделать запуск ИИ-проекта более безопасным, на что обращать внимание, когда сказать "нет" и вот это вот все. Куча чеклистов, практические занятия... 👾
Люблю такие программы. Они заставляют прокачиваться самому, чтобы дать слушателям что-то не только новое (для топов почти все про кибербез – новое), но и практически полезное именно для конкретной аудитории. И тут речь не про очередной рассказ про промпт-инъекции или как ИИ-агент слил все корпоративные секреты, а про безопасное применение ИИ для конкретной роли топ-менеджера (CFO, CHRO, COO и т.п.) или специфической отрасли 🥳
#ии #обучение
Начало...
7️⃣ Инструкции должны писать те, кто реально ими пользуется. Хорошая инструкция рождается не в кабинете. Ее пишут люди, которые:
➡️ сами выполняют эти действия
➡️ сами проходят их ночью
➡️ сами тестируют последовательность шагов.
После этого инструкцию обязательно нужно заставить выполнять других сотрудников. Именно тогда становится понятно, чего не хватает, где возникают ошибки, какие действия непонятны.
8️⃣ Еще один неожиданный вывод. Джуны чаще всего думают: "Лучше никого не будить. Вдруг тревога ложная." Руководители же говорили обратное: "Лучше разбудить меня зря, чем утром обнаружить разрушенный сервис". Получается, что культуру эскалации тоже приходится воспитывать.
9️⃣ Ручной режим – не пережиток прошлого. При катастрофических инцидентах компания должна иметь возможность:
➡️ перейти на бумагу
➡️ продолжить выпуск продукции
➡️ сохранить критичные процессы.
6️⃣1️⃣ Не все инциденты должны жить в одном процессе (хотя у кого-то были в одном). Была интересная дискуссия о том, что: ИТ-инциденты, ИБ-инциденты, инциденты службы безопасности и производственные аварии не всегда должны попадать в одну тикетницу. Но между всеми службами обязательно должна существовать быстрая схема обмена информацией. Во многих компаниях именно взаимодействие между ИТ и ИБ оказалось важнее, чем единая система регистрации недопустимых событий.
6️⃣6️⃣ Прозвучала еще одна очень жизненная мысль – настоящие аварии всегда отличаются от учений. Даже полностью протестированный DRP в реальной аварии работает иначе, потому что:
➡️ сервера стоят в воде
➡️ помещения затоплены
➡️ оборудование недоступно
➡️ люди действуют под стрессом.
Именно поэтому планы приходится постоянно дорабатывать после реальных происшествий.
6️⃣2️⃣ Запомнились несколько практических кейсов:
➡️ маркировка нужных кабелей красным цветом
➡️ поднятие серверов выше уровня возможного подтопления (Питер, что уж тут скажешь)
➡️ увеличение мощности дренажных насосов
➡️ перенос резервной серверной.
То есть реальные инциденты нередко меняют не только политику ИБ, но и инженерные решения.
6️⃣3️⃣ Интересный взгляд представителя страховщика – киберстрахование заставляет смотреть на инциденты через деньги. Они рекомендуют начинать не с технологий, а с вопросов:
➡️ сколько денег компания потеряет?
➡️ какие статьи затрат самые большие?
➡️ какие убытки можно компенсировать?
➡️ что будет стоить простой производства?
Фактически речь идет о переводе разговора с технического языка на язык финансовых рисков.
Если свести всю дискуссию к короткому списку, получится примерно следующее:
6️⃣ План реагирования должен исходить из принципа "не если, а когда".
2️⃣ Первые действия – сохранить бизнес, а не искать виноватых.
3️⃣ Паника опаснее многих технических проблем.
4️⃣ Каждый реальный инцидент обязан приводить к пересмотру плана.
5️⃣ Документировать расследование нужно в процессе, а не после.
6️⃣ Инструкции должны писать те, кто действительно ими пользуется.
7️⃣ Людей нужно учить не бояться эскалации.
8️⃣ Ручной режим должен существовать хотя бы для критичных процессов.
9️⃣ Учения не заменяют настоящие инциденты.
6️⃣1️⃣ Самые ценные изменения после инцидентов часто оказываются организационными и психологическими, а не техническими.
#управлениеинцидентами #bestpractice
ИИ-специалисты, требующие от американского правительства ограничить развитие ИИ - это как физики-ядерщики Манхэттенского проекта, придумавшие атомную бомбу, и потом требующие ядерного сдерживания. Или как молекулярные биологи, которые сами начали проводить эксперименты с рекомбинантной ДНК, а потом сами же предложили ввести мораторий на это. Или как разработчики технологии CRISPR стали требовать ограничений на вмешательство в генетику. Нобель, Бернерс-Ли тоже прошли этот путь.
И только ИБшники требуют от регуляторов не запрещать и ограничивать; а усиливать давление на бизнес, чтобы последний больше думал об ИБ, а не отказывался от нее, не понимая, зачем она нужна. Прямо противоположная история. Но в чем все эти примеры схожи, так это в том, что сначала ты, как ребенок, накосячил, а потом прибежал к мамке, спрятался за спину, схватившись за юбку, и требуешь, чтобы тебя защитили, оградили, повлияли… но при этом ты не виноват 🙈
Накосячил - отвечай. Пробуй сам исправить, а не перекладывай ответственность на других.
Но есть и позитив во всем этом. Авторы технологий, которые требуют ограничений, обладают уникальным пониманием потенциальных сценариев развития своего детища (правда, не всегда верным). В ИБ без сценарного анализа никуда!
#рефлексия
Три основных принципа российского правоприменения:
🎈 От греха подальше
🎈 Как бы чего не вышло
🎈 Я думаю, имелось ввиду...
Иными словами, законодателям часто не надо даже напрягаться. Принял закон с намеками на терроризм, нежелательность, госизмену и, не дай Бастрыкин, угрозы в адрес детей, и дальше ничего не надо делать – бизнес сам все поймет и сам все сделает в лучшем виде, даже если об этом еще не просили. Достаточно выпустить в каком-нибудь СМИ заголовок пожестче и ни у кого даже мысль не закрадется, пойти и почитать сам текст нормативного акта (привет, новость об увольнении за пользование DeepSeek).
А если какой-нибудь народный избранник, плохо разбирающийся в теме, еще и с трибуны что-то скажет весомое, то считай это вылито в граните и так и будет. Даже если закон принят с явными ошибками (авторизация = аутентификация, как пример). Проще перебдеть, чем недобдеть. За первое не накажут, а за второе могут все отжать, еще и по этапу пустить. А если кто-то и предъявит претензии, то у властей руки чистые – в законе же такого нет – это бизнес сам так все воспринял. И какие тогда претензии к государству? Идеально выстроенная система. Так и живем...
#регулирование
Т-Банк предлагает пентест-тоник 🍹 (может на ИТ-Пикнике 8-го августа будут наливать). Ну и еще можно заработать 12 миллионов за реализацию недопустимого для банка события.
#оценказащищенности #bugbounty
В поле моего зрения попало три интересных случая, связанных с введением ответственности за различные действия в сфере нашей деятельности. Первый кейс произошел за океаном, в США, где Минюст возбудил уголовное дело за то, что житель Атланты воспользовался встроенным в операционную систему "тревожным" паролем, позволяющим уничтожить все данные на смартфоне. Сэмюэля Туника остановили при пересечении границы и попросили предъявить гаджеты на досмотр, что тот и сделал. Однако на просьбу пограничной службы предоставить пароль Сэмюэль назван не обычный пароль, разблокирующий устройство, а пароль, стирающий на нем все данные (такая функция есть в GrapheneOS). Препятствие действиям сотрудников при исполнении и подозрение в сокрытии противоправного контента с участием несовершеннолетних (да, опять защита детей) и привело к предъявлению обвинения ❤️
Второе событие произошло уже у нас – Следственный комитет России подготовил законопроект об ужесточении уголовной ответственности за использование информационно‑коммуникационных технологий, искусственного интеллекта, VPN‑сервисов и прокси‑серверов при совершении преступлений. Вспоминаем, как все депутаты и министр цифрового развития уверяли, что за использование VPN не планируется вводить никакую ответственность. Да, справедливости ради ее и сейчас не предлагают, просто использование компьютера становится отягчающим обстоятельством. Где мои счеты? 🧮
И снова о будущем. В Госдуму внесен законопроект, усиливающий борьбу с иноагентами и иными лицами, нарушившими законодательство и уехавшими из страны. Наряду с запретом самозанятости и индивидуального предпринимательства, операций с недвижимостью, вождения транспорта, получения кредитов и займов, а также оказания дистанционных банковских услуг, получения госуслуг в электронной форме, оказания консульских услуг, действий по доверенности, субъектам, на которых распространяется законопроект также будет запрещено использовать электронную подпись для подписания электронных документов (включая ПЭП???) и выдавать сертификат ключа проверки ЭП. Ранее выданные сертификаты ключа проверки ЭП будут признанными недействительными (интересно, а сделки с их помощью заверенные?). Ну хорошо, что сертификат НУЦа для собственного сайта можно пока еще получить. Хоть что-то...
ЗЫ. В контексте последней законодательной новеллы следите за списком нежелательных организаций…
#регулирование #ответственность
А как вы управляете жизненным циклом сертификатов своих сайтов, своего ПО, своих сетевых устройств, VPN, межсетевых экранов? Такой опрос я хотел провести, но передумал. И решил вспомнить о том, что для многих прошло незамеченным в январе этого года, но укладывается в общую картину происходящего последние пару месяцев с сертификатами сайтов подсанкционных компаний.
Итак, 4 января 2026 года многие игроки League of Legends столкнулись с невозможностью запустить игру. Первой реакцией многих было предположение о масштабной хакерской атаке или проблемах в облачной инфраструктуре Riot Games. Однако причина оказалась куда более прозаичной: истек срок действия SSL/TLS-сертификата, который использовался клиентом игры. Правда, признав проблему, техническую первопричину Riot все же не назвала.
Пользователи обнаружили, что в момент сбоя клиент регистрировал ошибки проверки сертификата. Кроме того, временным обходным решением оказалось изменение системной даты на время до истечения сертификата. После отката часов клиент снова мог запуститься. И хотя производитель игры так и не подтвердила причину, по совокупности технических признаков был сделан вывод именно об истечении сертификата.
Когда сертификат перестал считаться доверенным:
➡️ операционная система начала отвергать защищенные соединения между локальными компонентами игрового клиента "Лиги"
➡️ перестали устанавливаться защищенные соединения внутри компонентов игры на ПК
➡️ нарушились процессы межкомпонентной аутентификации
➡️ перестала запускаться основной клиент игры.
Можно выделись сразу несколько организационных просчетов, которые совершила Riot Games, а также совершают многие компании, забывающие о необходимости выстраивания процесса управления сертификатами:
➡️ отсутствовал контроль срока действия сертификатов
➡️ не было автоматического оповещения о скором истечении срока действия сертификата
➡️ не проводилась регулярная инвентаризация сертификатов
➡️ отсутствовал процесс своевременного перевыпуска сертификатов
➡️ критическая зависимость оказалась завязана на один сертификат без резервного сценария.
Именно поэтому отказ одного элемента вызвал каскадный сбой глобального игрового сервиса, в который играет 120-130 миллионов человек ежемесячно.
Опираясь на список просчетов достаточно легко формируется и перечень рекомендаций:
✔️ вести централизованный реестр сертификатов (инвентаризация и управления активами – наше все, включая и сертификаты, и ИИ-агенты)
✔️ автоматизировать контроль сроков действия (да хоть с помощью обычных напоминалок в смартфоне ли почтовом клиенте)
✔️ использовать инструменты автоматического продления (например, ACME)
✔️ регулярно проводить аудит криптографической инфраструктуры (это и для постквантовой криптографии тоже требуется).
Парадокс в том, что в 2016-м году у Riot Games уже была проблема с сертификатом, но уже для домена *.riotgames[.]com. Спустя 10 лет история с просроченным сертификатом вновь повторилась (но тот ли это был сертификат, что выпустили в 2016-м году или нет, неизвестно). Новый сертификат выпустили в этом январе уже со сроком действия до 11 декабря 2125 года. Мы не доживем, но будет крайне забавно, если спустя 100 лет у Riot Games повторится история с сертификатом 😊
#pki #инцидент
В квантовой криптографии произошло событие, которое сами исследователи называют решением одной из самых сложных открытых задач последних лет. Речь идет о так называемом "неклонируемом шифровании". Если совсем упростить, то идея выглядит достаточно интересно. В обычной криптографии зашифрованный файл можно бесконечно копировать. Даже если злоумышленник не знает ключа сегодня, он может сохранить копию шифртекста и дождаться момента, когда ключ станет известен или появится более мощный компьютер. Именно поэтому сейчас все упоминают угрозу "сохрани сейчас – расшифруй потом".
Квантовая механика позволяет задуматься о совершенно другом подходе. Вместо обычного файла сообщение шифруется в виде квантового состояния – набора кубитов. А такие состояния нельзя идеально копировать. Это фундаментальный закон физики, известный как теорема о невозможности клонирования (No-Cloning Theorem). Попытка сделать копию не просто не удается – она изменяет само состояние.
Отсюда рождается необычное следствие. Представьте, что вы отправили человеку зашифрованное сообщение, а на следующий день… опубликовали ключ в открытом доступе. Для классической криптографии это означает полный провал: любой, кто успел сохранить копию шифртекста, сможет его расшифровать. Для неклонируемого квантового шифрования это уже не так. Если злоумышленник не смог сохранить копию квантового состояния (а он не может), то опубликованный позже ключ ему уже ничем не поможет.
Почему же вокруг этой темы столько шума? Потому что придумать такую схему оказалось значительно проще, чем доказать, что она действительно безопасна. Последние шесть лет криптографы пытались строго показать, что злоумышленник не сможет получить никакого преимущества, даже если попытается разделить квантовый шифртекст между несколькими участниками. Предыдущие работы доказывали лишь более слабые свойства безопасности. А вот доказательство более сильной модели – той самой, которую в современной криптографии считают "золотым стандартом" (в работе говорится о сложнопроизносимом термине "indistinguishability"), – никак не удавалось получить.
Именно эту проблему, судя по всему, удалось решить авторам новой работы. Причем любопытно, что в обсуждении исследования отдельно упоминается ChatGPT (это меня и зацепило); по словам авторов и коллег, эта LLM помогла найти новую идею доказательства, которая не опирается на единственный математический инструмент, которым пользовалось сообщество многие годы. Конечно, не стоит думать, что "ИИ решил задачу за ученых". Скорее, он стал интеллектуальным ассистентом, подсказавшим альтернативный путь рассуждений. Но сам факт уже выглядит довольно символично.
Авторы доказали существование схемы, которая одновременно:
🌸 использует настоящие квантовые состояния
🌸 не требует предположений о вычислительной сложности, то есть обеспечивает информационно-теоретическую безопасность
🌸 обладает сильным свойством unclonable indistinguishability (не знаю, как на русском это будет звучать)
🌸 имеет экспоненциально малую вероятность успешной атаки
🌸 эффективно шифрует и расшифровывает (правда, пока только для одного бита информации).
До практического применения еще далеко. Для такой схемы нужны квантовые каналы связи и устройства, способные надежно хранить кубиты, а сама работа пока носит фундаментальный характер. Но именно подобные результаты обычно становятся кирпичиками, из которых спустя годы вырастают новые поколения криптографических технологий. Возможно однажды мы действительно придем к ситуации, в которой украсть зашифрованные данные "на будущее" станет физически невозможно 💀
ЗЫ. Вот интересно, за последнее время опубликовано множество примеров, где то Fable, то GPT, то Qwen находят неожиданные способы решения (или помогают найти) нерешенных ранее проблем в физике, математике, химии и т.п. А есть такие факты с Гигачатом?
#ии #pqc #криптография
Почитал я материалы суда и, в целом, я оказался прав насчет реальной причины увольнения. DeepSeek там упомянут не как основная причина, а просто как внешний сервис, куда отправлялись данные, относимые к коммерческой тайне и конфиденциальной информации. Причем упомянут вскользь и после страницы перечисления фактов отправки закрытой информации на личную почту уволенной. Гораздо больше, несколько страниц, посвящено анализу других фактов разглашения коммерческой тайны. Но про это же скучно писать и в заголовке смотрится так себе; чего не скажешь об увольнении за использование DeepSeek.
Из интересного – работодатель, заявляя о возможном перехвате передаваемых конфиденциальных данных DeepSeek'ом, спокойно применяет у себя облачный же PowerBI от Microsoft. Но так как этот сервис являлся в компании разрешенным, а DeepSeek нет, то поэтому последний и появляется в материалах суда. Факт отправки на личную почту зафиксирован с помощью системы мониторинга деятельности работников (делает постоянно скриншоты рабочих мест).
Но если дистанцироваться от материалов дела и попробовать посмотреть с точки зрения здравого смысла, то топ-менеджера уволили спустя менее пяти (!) месяцев после приема на работу директором по продаже, а "копать" под нее начали спустя уже 3,5 месяца. В материалах написано, что топ-менеджер не показала за время работы положительной динамики продаж. Но, глядь, что можно показать за 4,5 месяца работы, 3 из которых приходится на лето, а ты торгуешь не мороженным и не турпутевками? В общем, истинная причина там явно в чем-то другом, а нарушение режима коммерческой тайны просто использовано как основание.
#ответственность #ии
Gartner выпустил очерегодный отчет по технологиям Security Operations, но это не просто дань привычке и не очередная констатация ухода одних аббревиатур и прихода других. В этот раз Gartner фиксирует структурную перестройку технологий SOC – SIEM, XDR, управление уязвимостями и threat intelligence меняют свое место в архитектуре центров мониторинга, а ИИ становится главным источником одновременно новых возможностей и завышенных ожиданий.
Во-первых, традиционный рынок SIEM разделяется на два направления:
➡️ интегрированные SOC-платформы, объединяющие обнаружение, расследование и реагирование в продуктах одного поставщика
➡️ security data lakes, позволяющие дешевле хранить большие объемы телеметрии и не выбирать между "загружать все и разориться" и "экономить на данных и потерять видимость".
Первые конкурируют с SIEM за счет готовых сценариев и более быстрого запуска. Вторые решают экономическую проблему хранения и обработки данных, которая долгое время ограничивала SOC. Практический вывод из этого тренда такой – вместо ответа на вопрос "какой SIEM купить?" компании переходят на "какая архитектура Security Operations нам нужна?".
Gartner считает, что XDR "умирает" как отдельная рыночная категория; не потому, что его функции больше не нужны, а потому, что они поглощаются более крупными платформами. Все как в прошлом году с SOAR, которые были поглощены SOC-платформами. То есть XDR становится не самостоятельным продуктом, а набором возможностей внутри:
➡️ endpoint-платформ (EDR)
➡️ облачных средств защиты
➡️ интегрированных SOC-платформ
➡️ крупных экосистем ИБ-вендоров.
Традиционное управление уязвимостями смещается от периодического поиска CVE к Continuous Threat Exposure Management. Иными словами, сам факт наличия уязвимости становится менее важен, чем ответ на вопрос: может ли она привести к значимому для бизнеса сценарию атаки с катастрофическими последствиями? Я про это уже много раз писал в канале – не буду повторяться.
Еще одно изменение – отказ от представления Threat Intelligence как простого набора IP-адресов, доменов, хешей и фидов. Для SOC важно не количество полученных индикаторов, а способность связать разведданные со своей инфраструктурой, активами, уязвимостями и актуальными гипотезами обнаружения. Контекст рулит.
Очень много Gartner пишет про AI Assistants и AI SOC Agents. Первые – это генеративный функционал, встроенный в уже существующий продукт:
➡️ создание запросов на естественном языке
➡️ объяснение событий
➡️ суммаризация
➡️ рекомендации по следующим действиям
➡️ помощь в работе с интерфейсом конкретного продукта.
Агенты – это самостоятельные системы, которые должны работать поверх нескольких средств защиты и источников данных: SIEM, EDR, облачной инфраструктуры, систем управления идентификацией, threat intelligence, других средств SOC. Они могут расследовать сигналы тревоги, обогащать события, сокращать ложные срабатывания, анализировать пути атаки, формировать отчеты и предлагать дальнейшие действия.
При этом, по оценкам Gartner, рыночное внимание к AI SOC Agents растет значительно быстрее, чем их реальная зрелость. Один из наиболее критичных выводов американских аналитиков – многие функции, которые производители называют ИИ-агентами, на деле относятся к более простой категории ИИ-ассистентов. К продукту добавляют LLM, возможность задать вопрос, создать запрос или получить краткое объяснение – и все это объявляют "агентом". Но настоящая агентность предполагает не только генерацию текста, а способность:
➡️ самостоятельно планировать последовательность действий
➡️ выбирать инструменты
➡️ собирать данные из разных систем
➡️ уточнять гипотезы
➡️ выполнять многошаговое расследование
➡️ предоставлять проверяемые доказательства
➡️ учитывать последствия своих решений.
Там много всего еще в 100+ страницах, но меня в первую очередь зацепило вышенаписанное 🛡
#soc #ии #тенденции #средствазащиты
Apple на ComicCon показала трейлер грядущего в 2027-м году «Нейроманта» Уильяма Гибсона, классики киберпанка, с которой практически начался этот жанр и которая ввела многие привычные нам термины – «киберпространство», «матрица» и т.п. Интересно будет посмотреть, как историю хакера Нео Кейса и борющихся друг с другом добрым и злым ИИ (кто сказал автономный пентестер и AI SOC?), экранизировали… Ждемс 22 января 2027 года на Apple TV 😎
#кино