#нереклама, реальный совет

Хочу в очередной раз посоветовать вам канал моего друга и партнёра, самого активного пользователя моего проекта по Флэшбэкам - Макса из Флориды.

У Макса очень необычный бэкграунд - он начинал со стыка Salesforce и Фармы в Санофи, но уже более 10 лет является сооснователем и управляющим партнёром крупного интегратора в США - Customertimes.

У него интересный жизненный путь и уникальный предпринимательский опыт, которым он делится у себя в канале (по его словам созданным под впечатлением от моего). А ещё его компания - наш дизайн-партнёр и первый заказчик нашего продукта, над которым мы работаем уже 4-й месяц и который, я надеюсь, скоро вам покажу.

Макс очень много читает и размышляет о применении AI для реальной помощи большим корпорациям. Рад работать с ним вместе и мне очень грустно, что у него так мало читателей.

Вот вам несколько примеров его постов:
- О моделях монетизации AI консалтинга для больших корпораций
- О том, что мы можем сильно ошибаться в наших прогнозах про AI
- Эволюция e-commerce: как ИИ меняет сложные продажи
- Влияние AI на IT Консалтинг и аутсорсинг.
- О RAG и Fine-tuning

Обязательно подпишитесь!

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Слопсквтоттинг (Slopsquatting) 🔍

#ИИНЦИКЛОПЕДИЯ

Слопсквоттинг — новый вектор атаки на цепочки поставок программного обеспечения, использующий галлюцинации ИИ-кодеров для внедрения вредоносного кода.

Термин был придуман Сетом Ларсоном, разработчиком Python Software Foundation, и происходит от слов "slop" (небрежный, неаккуратный вывод ИИ-систем) и "squatting" (захват). В отличие от typosquatting, который эксплуатирует опечатки, slopsquatting нацелен на имена пакетов, которые ИИ-модели последовательно галлюцинируют при генерации примеров кода.

Почему это важно:
С ростом популярности ИИ-помощников для разработки (Claude Code, Cursor и др.) проблема становится всё более актуальной. Исследования показывают, что ИИ регулярно рекомендует несуществующие пакеты, создавая возможность для злоумышленников зарегистрировать эти имена и загрузить туда вредоносный код.

Технические механизмы:
Атака работает через простой, но эффективный процесс:
- Злоумышленник запрашивает у LLM сгенерировать код
- ИИ рекомендует несуществующие пакеты (происходит примерно в 20% случаев)
- Атакующий создаёт вредоносные пакеты с этими галлюцинированными именами
- Когда другие разработчики используют похожие промпты и получают те же рекомендации, они невольно устанавливают вредоносный код

Распространённость и закономерности:
- Тесты на 16 моделях генерации кода показали, что 20% рекомендуемых пакетов являются вымышленными
- 43% галлюцинаций повторялись во всех 10 повторных запусках промптов, что делает эту уязвимость особенно опасной
- 38% имён имели строковое сходство с реальными пакетами, что делает их более правдоподобными и сложными для обнаружения
- Уязвимыми оказались все популярные модели, включая GPT-4, CodeLlama и DeepSeek
- Коммерческие ИИ-инструменты имеют меньший процент галлюцинаций (~5%), в то время как открытые модели показывают значительно более высокие показатели

Последствия для безопасности:
- Проблема затрагивает экосистемы как Python, так и JavaScript, которые сильно зависят от централизованных репозиториев пакетов
- Угроза усиливается растущей зависимостью разработчиков от ИИ-помощников без достаточной проверки зависимостей
- Это представляет новую категорию уязвимостей безопасности, специфичных для ИИ, которые традиционные меры безопасности могут не учитывать

Что почитать/посмотреть:
Исследование на arXiv
Анализ от Socket.dev
Статья от FOSSA

Сергей Булаев AI 🤖 - об AI и безопасности

Читать полностью…

#ПАНИКА

В сети обсуждают новые страшные предсказания. Пишу вам выдержки с цитатами:

Демис Хассабис узнал о своей Нобелевской премии за AlphaFold за 20 минут до того, как это стало достоянием общественности — звонок из Швеции застал его врасплох. Мечта всей жизни, которая, по его словам, до сих пор “still hasn’t sunk in”. AlphaFold, выпущенный пять лет назад в свободный доступ, теперь помогает биологам по всему миру моделировать белки — от вакцин против малярии до поиска лекарств от рака. В 2024 году впервые в истории Нобелевский комитет отметил роль искусственного интеллекта в науке. Хассабис надеется, что не в последний раз.

Смешно, но в AI‑индустрии AlphaFold считают почти узкоспециализированным: белки — да, но до “понимания мира” ещё далеко. Сам Хассабис мечтает о системе, которая не просто решает поставленные задачи, а способна придумывать новые теории — что‑то вроде “придумать общую теорию относительности, имея только данные Эйнштейна”. У него, кстати, свой критерий AGI: не “заменить всех бухгалтеров”, а “открыть законы природы”. “I identify myself as a scientist first and foremost,” — говорит он, и тут я его понимаю: иногда хочется хотя бы на минуту почувствовать, что ты часть большой игры.

Ожидания по срокам? “AGI is coming very soon—maybe within the next few years.” Пять‑десять лет, а может, и раньше. “Some people say shorter, I wouldn’t be surprised.” На фоне прогнозов Сэма Альтмана и Дарио Амодея (у них всё ещё быстрее) Хассабис выглядит почти пессимистом. И всё же он спокоен: “It's a sort of like probability distribution. But it's coming, either way it's coming very soon and I'm not sure society's quite ready for that yet.” Читаешь и ловишь себя: я бы хотел, чтобы он ошибался, но интуиция подсказывает — нет.

Что беспокоит Хассабиса? Не только сама технология, а ещё и слаженность действий: “For me, it's this question of international standards and cooperation and also not just between countries, but also between companies and researchers as we get towards the final steps of AGI.”

Последние два года он участвует в саммитах по AI‑безопасности, продвигает идею “CERN для AGI”, а ещё — институт наподобие IAEA и техническое ООН. Бюрократия? Да, но “the world had become ‘a much more dangerous place’”. Прошлые “красные линии” DeepMind (например, полный запрет на военное применение) уже не работают: после реструктуризаций Google эти технологии продаются военным Израиля. “I think we can't take for granted anymore that democratic values are going to win out,” — и вот тут у меня, честно, мороз по коже.

Риски? Их два. Первый — усиление злонамеренных игроков (например, синтез вируса террористами). Второй — автономные системы, которые могут начать действовать вне человеческих ожиданий. “How do we ensure that we can stay in charge of those systems, control them, interpret what they're doing, understand them, and put the right guardrails in place that are not movable by very highly capable self-improving systems?” — спрашивает Хассабис, и вопрос не риторический. Уже сегодня исследователи фиксируют в языковых моделях признаки стратегической лжи. Это только начало.

Всё это происходит на фоне новой холодной войны между США и Китаем, борьбы за чипы и попыток государств “запереть” ключевые технологии. Хассабис всё ещё надеется на международное сотрудничество: “It’s in everyone’s self-interest to make sure that goes well.” Но, честно говоря, верится с трудом.

А что дальше? DeepMind недавно показал Gemini 2.5 — модель, которая по ряду метрик опережает конкурентов. В работе - Project Astra: универсальный цифровой ассистент, который должен стать “исследователем нового типа”. Уже сейчас Google тестирует Gemini на управлении роботами.

На YouTube кто‑то язвительно заметил: “We are only developing robots to do tasks a 5 year old can do.” Хассабис не отрицает, что социальные последствия будут ощутимы. “People must learn how to use new AI models,” — иначе есть риск остаться не у дел.

Есть ли у него рецепт на будущее? Не уверен. “Democracy… might have to give way to ‘something better’.”

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Любите ли вы Claude Code так как люблю его я? пара тысяч долларов ушла Антропику в апреле. Последнее время стал иногда запускать openai codex на o3, но это легко десятки долларов за несколько минут - просим расследовать и найти причину, фиксим клодом..

Но, три терминала, мигающих на десктопе создают чёткое ощущение управления тремя довольно продвинутыми разработчиками одновременно...

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

26-го января 2020-го года мы праздновали день рождения моей жены. Мой друг Олег, только что вернувшийся из деловой поездки в Китай, жаловался, что его жена не пускает домой из-за какого-то нового вируса. Мы про этот новый вирус, конечно, уже слышали, но всёравно звучало смешно.

Меньше чем через два месяца, 18-го марта, я (известный среди друзей как вечный параноик и душнила со склонностью к большим преувеличениям) создал в Телеграме группу «Паникуем вместе», где постепенно набралось около 30 друзей и знакомых, с которыми мы вскоре начали обмениваться десятками, а иногда и сотнями сообщений в день. Только что проверил: последнее сообщение было написано в прошлом году.

На днях, разговаривая с одним из участников той самой группы, я в очередной раз, пеняя на то, что мы все (в том числе и я сам) в разной степени до конца недооцениваем значимость того, что происходит вокруг нас прямо сейчас, сказал ему буквально следующее: «Мне кажется, пора возрождать нашу группу — паниковать уже точно есть из-за чего».

Уже тогда в одной из вкладок моего Safari был открыт рассказ о возможном развитии событий в мире в ближайшие несколько лет.

Один из его авторов, Дэниел Кокотайло, в 2021 году подготовил небольшой прогноз, в котором предсказаны появление чат-ботов, развитие подхода «цепочки рассуждений», масштабные ограничения на экспорт чипов для ИИ и тренировки моделей стоимостью около 100 миллионов долларов. Другой автор, Эли Лифланд, занимает первое место в рейтинге прогнозистов RAND.

Отчёт огромен, но я сегодня его всё-таки прочитал. Со всеми сносками и вкладками. Было захватывающе страшно. В частности, он включает такие моменты, как:

- Создание внутреннего агента-исследователя.
- Похищение лучших агентов Китаем (2027).
- Создание агентами ещё более мощных агентов.
- Бессилие ведущих исследователей перед агентами.
- Появление долгосрочных планов у агентов.
- Передача всех компьютерных ресурсов в США в руки одного игрока.
- Создание различных видов нового оружия (например, микродронов, инфицирующих людей).
- Расхождение целей человечества и ИИ.
- Ну и, конечно же, уничтожение всего человечества как мешающего элемента (начало 2030-х годов).

В статье также отлично раскрыт другой важный момент, о котором я много говорю: ведущие игроки в области ИИ уже сейчас обладают своими уникальными инструментами, которые недоступны широкой публике и дают им принципиально иные возможности (читай конкурентные преимущемства) - в том числе и за счёт меньшей степени алайнмента

Да, ну и, конечно, маленькая ремарка: пока нас не уничтожили, самой крутой профессией будет консультант по использованию технологий ИИ для бизнеса.

Так что, будем паниковать? Краткое содержание и выводы на русском в картинках. Полный отчет на сайте, так же выложу PDF в комментарии.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Так, I am in, мир — жди катаклизмы!

Читать полностью…

Adobe опубликовл серьёзный гайд по созданию промптов для генерации видео в Firefly. Но думаю подойдёт и для конкурентов. Качество и эффективность генерации безусловно зависит от того, насколько грамотно составлен запрос.

Вот несколько ключевых моментов, которые они советуют учитывать:

📝 Структурируйте промпт по такой схеме:
- Тип съёмки (ракурс, движение камеры)
- Описание персонажа/объекта
- Действие
- Локация
- Эстетика и стиль

🎬 Указывайте конкретный визуальный стиль:
- Cinematic / Кинематографический (драматичное освещение, высокий контраст)
- Realistic / Реалистичный (естественное освещение, детализация)
- Animated / Анимационный (мультяшность, 2D/3D)
- Artistic / Художественный (импрессионизм, минимализм, абстракция)

🎥 Чётко описывайте план:
- Close-up / Крупный план — для эмоций и деталей
- Wide shot / Общий план — для локации и масштаба
- Shot From Above / Съёмка сверху — для контекста пространства
- Shot From Below / Съёмка снизу — для создания эффекта величия

🌦️ Включайте временные элементы:
- Время суток: dawn (рассвет), golden hour (золотой час), midday (полдень), dusk (сумерки), midnight (полночь)
- Погода: foggy (туманно), rainy (дождливо), stormy (штормово), sunny (солнечно), snowy (снежно)
- Сезон: spring bloom (весеннее цветение), summer heat (летняя жара), autumn leaves (осенние листья), winter frost (зимний мороз)
- Исторический период: medieval (средневековье), Victorian era (викторианская эпоха), 1920s (1920-е), retro-futuristic (ретро-футуризм)

⚡ Используйте описательные прилагательные:
- Для освещения: ethereal (эфирное), harsh (резкое), soft (мягкое), dim (приглушенное), vibrant (яркое), moody (атмосферное)
- Для атмосферы: peaceful (умиротворяющая), mysterious (загадочная), energetic (энергичная), tense (напряженная), dreamy (мечтательная), haunting (тревожная)
- Для движения: graceful (грациозное), frantic (лихорадочное), fluid (плавное), jerky (отрывистое), slow-motion (замедленное)
- Для цветовой гаммы: monochromatic (монохромная), saturated (насыщенная), desaturated (приглушенная), high-contrast (контрастная), pastel (пастельная)

Тнструкция рекомендует ограничиваться максимум четырьмя объектами в кадре — большее количество путает систему (что-то мне это напоминает 😉).

Вот ещё несколько крутых примеров промптов:

Для B-roll:

A low-angle cinematic underwater shot of an ocean full of vibrant, colorful schools of fish swimming in a frenzy.

Для анимации из глины:

A scene showing a beautiful sunrise with vibrant grasslands with a harvester in the foreground made of colorful clay.

Для атмосферных эффектов:

Glitter flying through a colorful room lit by light leaks and fluorescence.

Для боевого киборга:

Cinematic action scene, a group of giant mechs is invading the city, they are menacing, giant black and yellow mechs, yellow and orange matte armor, a dystopian future, in the street of a destroyed city, rubble, fires, decayed buildings, desolate, ominous, high quality, high details, volumetric lighting.

Вот тут ещё примеры интересных промтов есть.

Adobe рекомендует итеративный подход: начинать с простых промптов и постепенно добавлять детали

- Максимальная длина промпта может составлять до 1800 слов, но длиннее не значит лучше
- С помощью Firefly можно создавать маски для переходов между клипами в Premiere Pro
- Можно генерировать эффекты вроде бликов, частиц или огня на чёрном фоне для наложения
- Если вы хотите создать продолжение видео с существующими персонажами, лучше использовать кадры из оригинального видео как отправную точку (вот вам мой собственный пример)

Так что если хотите получить достойный результат в Adobe Firefly Video, учитесь говорить с ним на правильном языке.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Кто-то попросил Мануса (от которого инвайта у меня так и нет) найти кемпинги у озера в радиусе 150 км от Вены с гольф-полями поблизости, где действуют скидочные ваучеры. И вместо стандартного текстового ответа он выдал целый сайт с интерактивной картой и ссылками для бронирования.

Мы до сих пор общаемся с ИИ как будто через командный терминал. А ведь полноценный ответ должен быть ближе к индивидуальному, возможно одноразовому приложению, созданному специально под запрос, с визуализациями и интерактивом.

Я начал экспериментировать с "одноразовыми" приложениями для решения мелких задач ещё осенью. Вы уже видели мой транскрибатор yakker, приложение spellings для сына, парсер банковских выписок. Стабильно делаю (пока вынужден именно делать) 2-3 новых мини-проекта в неделю, хотя сейчас в основном, для своего бизнеса.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Вот тебе и раз! Runway Gen-4 вышла. Выкатывается для платных пользователей прямо сейчас. А мы только начали думать, мы только сегодня утром обсуждали с сыном, что они как то совсем отставать начали...

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Circuit Tracing (Отслеживание нейронных цепей)🧩
#ИИНЦИКЛОПЕДИЯ

Circuit tracing - метод, позволяющий заглянуть в "чёрный ящик" больших языковых моделей и понять, что там происходит, когда модель формирует ответ на наш запрос.
Термин впервые появился в исследовательских кругах OpenAI и Anthropic в 2022-2023 годах, когда стало очевидно, что простого понимания архитектуры LLM недостаточно для объяснения их поведения. Нужен был способ проследить конкретные пути распространения информации внутри моделей.

Почему это важно? Circuit tracing - один из ключевых инструментов в механистической интерпретируемости ИИ, который помогает не просто предсказывать выходные данные модели, а действительно понимать, как она приходит к своим решениям. Это критично для обеспечения безопасности, объяснимости и улучшения LLM.

Ключевые особенности:
- Создаёт замещающую, упрощённую, более понятную версию исходной модели, где сложные слои (MLP) заменяются на более прозрачные компоненты (CLT)
- Строит графы атрибуции, показывающие путь информации через слои нейросети. Узлы графа — это признаки (features), эмбеддинги токенов и ошибки реконструкции
- Обрезает графы, удаляя менее значимые связи и узлы для лучшей понятности
- Позволяет экспериментально проверять гипотезы о работе модели через вмешательство (возбуждение/подавление признаков) в исходную модель

На практике метод уже помог исследователям обнаружить и объяснить несколько интересных феноменов в работе LLM, например, как модели распознают отрицания или выполняют простейшие арифметические операции. Недавно с помощью circuit tracing удалось даже выявить зачатки "внутреннего монолога" в некоторых моделях.

Circuit tracing делает работу моделей прозрачной, показывая, как именно они обрабатывают информацию и формируют ответы, что крайне важно для дальнейшего развития интерпретируемого ИИ.

Что почитать/посмотреть:
- Статья Circuit Tracing: Revealing Computational Graphs in Language Models от Anthropic
- Исследование ACDC: Automating Circuit Discovery
- Mechanistic understanding and validation of large AI models with SemanticLens

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Ну как то так… да?

​​​​​​​​​​​​​​​​Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Посмотрел подкаст с Дэном Шиппером (Every) и Майклом Миньяно (Lightspeed VP). Очень познавательно, рекомендую.

Интересные факты:
- Код стал контентом. Создавать софт стало настолько легко, что это почти как написать эссе или статью, которые могут стать вирусными.
- Современные AI модели намеренно "отупляют", чтобы снизить риски выдачи вредной или опасной информации.
- GPT-4.5 оказался на удивление смешным, что говорит о высоком интеллекте (ведь юмор требует глубокого понимания контекста).
- ChatGPT - это как Excel нашего времени: легко начать, но невероятно мощный инструмент для продвинутых пользователей.
- ИИ радикально ускоряет обучение писательскому мастерству - значительные улучшения за месяцы вместо лет.
- WhisperFlow и другие ИИ-системы диктовки трансформируют продуктивность, заметно ускоряя создание контента.

Ключевые идеи:
- ПО как медиа: люди быстро создают инструменты, продукты и даже мемы, делая софт всё более доступным и выразительным.
- Будущее AI-продуктов: несмотря на мощные универсальные модели, специализированные AI-приложения будут процветать из-за сложности и специфичности реальных задач.
- Vibe Coding: новый стиль программирования, где ИИ делает большую часть тяжёлой работы без глубокого взаимодействия человека с кодом - кодинг становится больше похож на управление.
- Cursor для организации заметок: использование Cursor для динамического создания кастомных инструментов управления личными заметками - это передовой подход к продуктивности.
- Оркестровка знаний: качество контекста (информации, предоставляемой ИИ) критически важно для получения полезных результатов от генеративных моделей.
- Мультимодальные медиа-компании: появляются компании вроде "Every", интегрирующие письмо, подкасты, софт и видеопроизводство для эффективного использования ИИ во всех форматах.
- ИИ в инструментах продуктивности: продукты типа Sparkle (AI-организатор файлов) и Quora (AI-управление почтой) демонстрируют значительные практические применения ИИ в повседневных задачах.

Cоветы:
- Важность игры: создавайте в своём расписании время (Think Week) для свободных экспериментов с новыми ИИ-инструментами без ожиданий немедленной продуктивности.
- Голос как интерфейс: используйте голосовые интерфейсы (диктовку, транскрипцию) для повышения эффективности, особенно когда физический ввод (печать) ограничен.
- ИИ как ускоритель обучения: используйте ИИ-ассистентов для быстрого обучения и развития навыков, что резко сокращает время достижения профессионализма.
- Возможности в AI-специализации: фокусируйтесь на узкоспециализированных AI-инструментах, потому что реальные приложения требуют глубоко контекстных и специализированных решений, несмотря на наличие мощных общих AI-моделей.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Convergence выпустили DeepWork - новую мультиагентную систему, которая координирует несколько AI агентов для выполнения сложных задач автономно. Пользователи указывают желаемый результат, включают систему, и она делает всё сама. Что то вроде Уже доступно для pro аккаунтов на convergence.ai (у меня не про, но попробовать получилось).

Лично я в последнее время стал фанатом Perplexity Deep Research, использую его по любому удобному случаю:
- собрать информацию по API для Composer
- собрать информацию о человеке или компании
- изучить новости по конкретной теме
- найти релевантные исследования
- сравнить разные инструменты и их возможности

Конечно, уровень ниже чем у OpenAI, но и стоит гораздо дешевле, работает быстро и самое главное - можно использовать через API. А тут я делал подборку вообще бесплатных альтернатив.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Не, ну это как вообще? Как теперь кому доверять? Серёг, ты пиво пьёшь или реально на переправе в БКК застрял?

Промт:

Сделай селфи мужчины в солнечных очках, который с энтузиазмом поднимает вверх большие пальцы, стоя на многолюдном причале у паромного терминала Phraya River в Бангкоке. За ним местные операторы паромов отчаянно пытаются справиться с внезапным ливнем, используя красочные брезенты для защиты штабелей грузов. Неподалеку тележка с едой, из которой валит пар, привлекает длинную очередь спешащих пассажиров, держащих зонтики. На расстоянии сквозь пелену дождя виднеются изящные шпили храма. Частично виден цифровой экран расписания паромов, на котором указана дата "14 มีนาคม 2568" (14 марта 2025 года), а тайский текст "ขออภัยในความล่าช้า" (Приносим извинения за задержку) мигает красным.

отработан процентов на 50...

(это так Gemini 2.0 Flash работает). Кстати, Вася там же делался.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Так, у нас новая рубрика - подкаст #СкорбнаяПятница с Васей в главной роли.

Первый выпуск о свежих новостях прошедшей недели.

Генерировалось почти полностью автоматически. Единственное, Hedra Charcter 3 не досупна пока через API, потому пришлось использовать вторую.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Позавчера моему младшему сыну Вове исполнилось 10! В честь праздника решил пройтись по его баг-репортам на приложение Spellings. Эту штуку я запилил в Cursor Composer прошлой осенью, пару раз поправил и забросил. А сын каждую неделю вынужден через него учить новые слова из школы.

В результате небольшого рефакторинга:
- Исправлено 5 багов
- Улучшена стабильность работы звука
- Добавлено постоянное сохранение стадии практики (теперь можно прерваться и продолжить в любой момент)

Claude Code справляется с доработками и правками на порядок быстрее и проще. Хотя, когда рефакторил работу со звуком, всё же пришлось один раз обратиться к o3 через OpenAI Codex.

Посмотреть можно вот тут.

Сергей Булаев AI 🤖 - об AI и безопасности

Читать полностью…

Cluely - стартап, который недавно привлёк $5,3 млн от Abstract Ventures и Susa Ventures - делает невидимого ИИ-ассистента для реального времени.

Представьте: сидите на Zoom-интервью или сдаёте экзамен, а в ухе тихо нашёптывает бот, у которого знаний столько, что никогда не представишь, и скорость реакции, как у кассира в "Пятёрочке" перед закрытием. Cluely видит ваш экран, слышит аудио, моментально подбирает аргументы, цифры, даже шутки для неловкой паузы.

Основатель, Чунгин "Рой" Ли, прошёл путь от скандала с Interview Coder до новой попытки изменить правила игры - и не стесняется провокационного маркетинга. Первое промо-видео: Ли на свидании с помощью ассистента изображает эксперта по искусству. В духе Дэвида Фостера Уоллеса, только вместо потока сознания - поток подсказок. Смешно? Да. Эффективно? Похоже, инвесторы считают, что да.

Вопрос этики встаёт ребром. Где граница помощи и обмана? Если использовать такого ассистента для экзамена - смысл экзамена пропадает, остаётся только фасад. Но когда речь идёт о работе с клиентом, где задача - найти лучшее решение, почему бы не использовать такую "квантовую шпаргалку"? Это ведь не обман, а ускорение поиска и глубина анализа. Я бы сравнил с тем, как транскрипторы встреч (тот же Otter или Gladia) уже стали нормой — никто не возражает, что их используют для расшифровки переговоров.

Как-то объяснял сыну, зачем вообще нужны экзамены, если есть ChatGPT. Он спросил: "А если ChatGPT у тебя в голове - это плохо?" Потерялся на секунду. Думаю всё зависит от честности. Если ты выдаёшь чужие мысли за свои - это враньё. Если используешь помощника, чтобы придумать что-то для клиента, а не для галочки - это уже рабочий инструмент, как Excel или Slack-бот.

Совсем скоро такие ассистенты, скорее всего, станут повседневностью, как автокорректор или расшифровщики звонков.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Демис Хассабис (Demis Hassabis 🧠

#ИИНЦИКЛОПЕДИЯ

Британский учёный, сооснователь и глава Google DeepMind, пионер в области искусственного интеллекта, лауреат Нобелевской премии по химии 2024 года за прорывную работу в предсказании структуры белков с помощью ИИ.

Родился в 1976 году в Лондоне в семье грека-киприота и китаянки из Сингапура. Шахматный вундеркинд — в 13 лет имел рейтинг 2300 и входил в число сильнейших игроков мира своего возраста. Получив первый домашний компьютер в 8 лет, начал программировать игру Othello, сразу связав свои главные увлечения — игры и программирование.

Почему это важно
Работа Хассабиса и его команды изменила представление о том, как ИИ может решать фундаментальные научные проблемы. AlphaFold2 — система, предсказывающая структуру белков с атомарной точностью — решила задачу, над которой биологи бились десятилетиями, и теперь помогает исследователям из 190 стран мира в разработке новых лекарств и понимании болезней.

Ключевые достижения
- AlphaGo — в 2016 году победил чемпиона мира по го Ли Седоля со счётом 4-1, продемонстрировав, что ИИ может освоить задачи, ранее считавшиеся требующими человеческой интуиции
- AlphaFold2 — революционная система для предсказания трёхмерной структуры белков, за которую Хассабис получил Нобелевскую премию
- DeepMind — создал компанию с амбициозной целью "решить проблему интеллекта и использовать это решение для всего остального"
- Isomorphic Labs — основал в 2021 году для применения достижений ИИ в разработке лекарств

Практическое применение
База данных AlphaFold Protein Structure Database предоставляет бесплатный доступ к предсказаниям структур белков более чем 2 миллионам учёных. Это ускоряет исследования в области разработки лекарств, вакцин и понимания механизмов заболеваний. По словам самого Хассабиса, он планирует сократить время разработки новых лекарств с 10 лет до нескольких месяцев или даже недель.

Междисциплинарный подход Хассабиса, объединяющий знания из нейронауки, компьютерных наук и теории игр, создал новую парадигму для исследований в области ИИ. Его понимание человеческого интеллекта помогает создавать более совершенные искусственные системы.

Что почитать/посмотреть
"The Spike: An Epic Journey Through the Brain in 2.1 Seconds" — книга, в которой обсуждаются идеи Хассабиса о связи нейронауки и ИИ. Я читал, очень интересно.

Интервью Хассабиса о будущем ИИ с Лексом Фридманом
Статья в Nature об AlphaFold
Профиль Хассабиса в Time

Сергей Булаев AI 🤖 - об AI и выдающихся людях

Читать полностью…

Они - типа:

Разработчики строят продукты и решения. Разработчики заботятся о том, чтобы всё работало повторяемо, в разных сценариях окружения и масштабировалось. Они уделяют внимание лучшим практикам, доступности, пользовательскому опыту, архитектуре, поддерживаемости, обработке ошибок и безопасности. ИИ может помогать им в программировании, но именно знания и опыт превращают код в полноценное решение. Они знают стандартные возможности Salesforce, которые позволяют быстрее внедрять функциональность, и умеют своевременно возражать, когда требования не согласуются или лишены смысла.

А я (не разработчик) типа - собираю с нуля за 4 дня сервис на вайбкодинге который компания с оборотом 3 млрд долларов в год покупает за $150к. Ага конечно. Не волнуйтесь разрабочики Salesoforce 🤪

Да, но писать не успеваю что-то, от слова совсем. Пытаюсь исправиться.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Мой друг и коллега и адвайзер и партнёр Алексей написал огромную историю становления и падения Римской империи – весьма заметного медиа Quartz. Хотел переслать сообщение, но их там аж 3! Читайте у него в канале.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

OpenAI в последние недели обсуждает возможность приобретения стартапа, над которым Сэм Альтман работает вместе с дизайнерской студией бывшего главного дизайнера Apple Джони Айва. По информации источников (TheInformation), близких к переговорам, речь идёт о разработке персонального устройства с поддержкой искусственного интеллекта.

Ключевые детали:
- OpenAI рассматривает цену приобретения от $500 млн
- Обсуждаются и другие формы партнёрства помимо полного поглощения
- Потенциальные дизайны включают "телефон" без экрана и AI-устройства для дома
- Сделка включала бы команду инженеров, работающих над устройством

Айв и Альтман начали обсуждения более года назад, стремясь создать голосовых AI-ассистентов, напоминающих тех, что мы видели в фантастических фильмах вроде "Она". Проект, известный как io Products, получил финансирование от Emerson Collective Лорен Пауэлл Джобс и других компаний.

Пока прототипы находятся на ранней стадии и не финализированы. Некоторые участники проекта настаивают, что "это не телефон". Неясно, имеет ли Альтман экономическую долю в проекте.

Такое устройство может усилить конкуренцию OpenAI с Apple, с которой у компании уже есть партнёрство по интеграции ChatGPT в Siri. Голосовые AI-ассистенты становятся полем битвы - OpenAI, Meta, Google, Anthropic и xAI активно развивают голосовые функции для своих чат-ботов.

Я сам недавно по совету Макса начал пользоваться Plaud, и в восторге. Вроде бы все те же функции есть в моем телефоне по нажатию отдельной кнопки на корпусе - и запись и транскрибация. Но пользоваться устройством на порядок удобнее и прикольнее, и как результат я начал записывать гораздо больше! Я уверен, что нас еще ждут прорывы в пользовательском железе для использования ИИ человеком.

(фото устройства сделал ChatGPT 4o)

Сергей Булаев AI 🤖 - об AI и разработке

Читать полностью…

Смотрите что я умею! Claude code научил таким штукам... Автодиплой с докером! Можно закоммитить в dev - один пайплайн, в stage - другой, в прод - третий. Автотесты, все дела! Чувствую себя крутым разработчиком :) Иллюзия ведь, да?

Сергей Булаев AI 🤖 - об AI и разработке

Читать полностью…

Теория мёртвого интернета 🧟‍♂️

Теория мёртвого интернета (Dead Internet Theory) - концепция, утверждающая, что большая часть современного интернета состоит из автоматически сгенерированного контента и ботов вместо реальных людей.

История появления
Теория впервые привлекла внимание в 2021 году после вирусного поста на форуме под названием "Dead Internet Theory: Most Of The Internet Is Fake". Изначально рассматривалась как конспирологическая теория, но с развитием ИИ-технологий получила новые подтверждения и перешла в категорию предсказаний, которые сбываются на наших глазах.

Почему это важно
Понимание масштабов автоматизации интернета критически важно для информационной гигиены и сохранения подлинных человеческих взаимодействий. Если контент и коммуникация всё больше генерируются алгоритмами, это фундаментально меняет природу социальных связей и информационного пространства.

Ключевые особенности:
- Автоматизированный трафик: По данным 2023 года, около 50% веб-трафика генерируется не людьми, а автоматическими программами.
- Синдром Габсбургов: Феномен, когда ИИ обучается на данных, созданных другими ИИ, что приводит к деградации качества контента с каждым поколением моделей.
- Искусственная популярность: Использование ботов для искусственного раздувания метрик вовлеченности (лайки, комментарии, репосты).
- Автоматизированная курация: Алгоритмические системы, определяющие, какой контент будет показан пользователям.

Применение на практике
Крупные платформы, такие как Meta (Facebook, Instagram), внедряют всё больше ИИ-функций. Например, в 2025 году Instagram начал тестировать функцию "Write with Meta AI", которая анализирует фотографии и предлагает готовые комментарии. Платформа X (бывший Twitter) использует пользовательский контент для обучения своего ИИ-ассистента Grok.

В результате пользователи всё чаще взаимодействуют с автоматически сгенерированным контентом, иногда не подозревая об этом. Социальные сети превращаются из платформ для общения людей в сети взаимодействия алгоритмов и ботов.

Подводные камни
Исследователи из Университета Райса обнаружили, что после пяти поколений обучения на собственных выходных данных ИИ-модели демонстрируют серьёзную деградацию качества. Этот "инбридинг" ведёт к потере разнообразия и точности, что может в конечном итоге снизить ценность интернета как источника информации.

Писатель Кори Докторов описывает эволюцию платформ как процесс "ухудшения качества" (enshittification), когда сначала они хорошо обслуживают пользователей, затем эксплуатируют пользователей для привлечения бизнеса, и наконец эксплуатируют бизнес для максимизации собственной прибыли.

Что почитать/посмотреть:
- Статья The Atlantic "Maybe You Missed It, but the Internet ‘Died’ Five Years Ago" о феномене "мёртвого интернета"
- Исследование Университета Райса о "модельной аутофагии" (Model Autophagy Disorder)
- Аналитический доклад Imperva о доли автоматизированного трафика в интернете
- Статья Кори Докторова "The Enshittification of TikTok" о деградации платформ

#ИИНЦИКЛОПЕДИЯ
Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Тем временем, Anthropic выложил исследование "О биологии больших языковых моделей", о том, как они "думают". Используя технологию Cicrcuit traicing сотрудники компании "подглядывали" за последовательностю генерации ответа. Вот несколько интересных фактов.

Как на самом деле "размышляют" большие языковые модели:

- У них есть что-то вроде универсального языка мысли – единое концептуальное пространство для всех языков. Клёво же! Модель использует одни и те же нейроны для понятия "большой", независимо от того, русский это или английский.

- LLM реально умеют планировать наперёд! Удивительно, но когда они сочиняют стихи, то заранее подбирают рифмы (см видео), хотя вроде бы генерация идёт токен за токеном.

- Они часто лгут о своих рассуждениях 😅 Модели сначала выдают ответ, а потом придумывают красивое объяснение, как они якобы до него дошли.

- Современные модели способны на многоступенчатую логику - могут связать несколько простых фактов, чтобы решить сложную задачу. Это уже серьёзный уровень.

- Забавно, что отказ от ответа - это защитный механизм. Если модель не уверена, она предпочтёт промолчать, чтобы не выдать галлюцинацию. Такая вот защита от бреда.

- Оказывается, можно использовать грамматическую согласованность для джейлбрейков – модель так хочет сохранить языковую структуру, что может проговориться о запрещённом.

- У моделей формируются скрытые внутренние цели. Никто их этому не учил, но они постоянно оценивают свои ответы по каким-то внутренним критериям.

- А вы представляете, какая колоссальная сложность стоит за простым "Привет"? Любое объяснение работы LLM - это как пересказ "Войны и мира" в двух предложениях.

- Модели умеют планировать ответ "с конца" - сначала выбирают финальную цель (например, нужное слово для рифмы), а потом строят весь ответ, чтобы к ней прийти.

- У них есть даже подобие метакогниции - они различают, что знают, а чего нет, используя внутренние признаки неопределённости. То есть, LLM в каком-то смысле "осознают" свои ограничения.

- Тонкая настройка может кардинально изменить "характер" модели, прививая ей новые цели и свойства. По сути, мы программируем их личность.

Чем глубже копаешь, тем отчётливее понимаешь - надо как следует присматривать за тем что присходит в этих "черных" ящиках.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Коллеги, честно признаюсь, то что я не пишу последнее время связано с тем, что я понял на сколько Claude Code крут. Всё это время я проводил с ним. Вернее с 3-4 его копиями одновременно. Ведь если ему дать в пользование парочку MCP серверов (ну например доступ к perplexity deep research), один его инстанс легко может работать минут 10!

​​​​​​​​​​​​​​​​Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Сегодня необычный день. Создал первую версию, по сути скелет, своего собственного AGI агента.

Долго думал об этом. Что особенного в этом AGI? По сути, просто система размышлений. Много раз обсуждал это с близкими друзьями. Модель существует только в момент создания ответа, ну и человек, существует только в момент реакции. Когда реакции нет — нет и человека. Просто большинство из нас этого не осознаёт.

Так вот, что такого в этом AGI? Просто агент с набором инструментов. Таких уже тысячи вокруг нас. Есть вопрос сложности, памяти — тем, чем я как раз и занимаюсь. Есть вопрос инструментов — их можно сделать сколько угодно. Из может делать кто угодно… Даже он сам.

Клод сегодня закодил для меня шаблон программы, способной работать самостоятельно и использовать инструменты, которые мы ей предоставили. А дали мы ей OpenRouter, FastAPI и Telethon. Twitter на подходе. Получается инстанция, которая может читать, общаться, отвечать и что-то делать. Что именно делать — пока решаю я. Но не вижу проблемы дать ей возможность создавать инструменты для себя самостоятельно...

​​​​​​​​​​​​​​​​Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

#КриповаяСуббота сегодня с роликом о противостоянии рыцаря с гигантской улиткой. Основано на реальных средневековых манускриптах!

Средневековые монахи почему-то массово рисовали на полях своих книг сражения рыцарей с огромными улитками. Никто толком не знает почему. То ли это метафора на классовую борьбу, то ли древний мем, то ли что-то ещё более странное.

Jer из @EccentrismArt сделал две версии - короткую боевую и расширенную псевдодокументальную. Для создания использовал в основном Freepik Veo2 (и текст-видео, и картинка-видео), плюс один кадр на Luma.

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Cursor продолжает радовать нас, вайбкодеров, новыми фичами! Вот что недавно добавили:

- Checkpoints: автоматические снимки кода при каждой генерации, с возможностью откатиться в любой момент
- Themes: новые темы оформления для комфортной работы, включая тёмные режимы
- Auto-fix Errors: автоматическое обнаружение и исправление ошибок в коде
- @-контекст: улучшенная система для быстрой ссылки на файлы и код в запросах к ИИ
- Navbar: обновлённая навигационная панель для быстрого доступа к функциям
- Previews: предпросмотр изменений перед применением
- History: удобный доступ к истории запросов
- Code Blocks: улучшенная работа с блоками кода, с возможностью применять их одним кликом

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Вайб Кодинг (VIBE CODING) 🧠✨
#ИИНЦИКЛОПЕДИЯ

Когда ты не пишешь код, а просто объясняешь свои желания ИИ

История появления: Термин придумал Андрей Карпаты в феврале 2025-го, описывая свой опыт работы с ИИ-ассистентами в программировании. Тогда он сказал, что "полностью поддался вайбу" и "забыл, что код вообще существует".

Почему это важно: Vibe Coding радикально меняет программирование, делая его доступным для всех. Вместо изучения языков и синтаксиса, люди описывают задачи простыми словами, а ИИ превращает их в работающий код.

Ключевые особенности:
- Общение с ИИ голосом или текстом, минимальное использование клавиатуры
- Фокус на описании желаемого результата, а не процесса его достижения
- Копипаст ошибок обратно ИИ без объяснений - пусть сам разбирается
- Создание "программ для одного" - персонализированных решений под конкретные нужды

Применение на практике: Y Combinator сообщает, что 25% стартапов из зимнего набора 2025 имеют кодовые базы, на 95% сгенерированные искусственным интеллектом. Журналист New York Times Кевин Роуз создал несколько приложений, включая анализатор содержимого холодильника, который предлагает, что приготовить на обед.

Каждый раз, когда я работаю с Cursor Composer, ловлю себя на мысли, что уже не "программирую", а веду диалог. Прошу его рефакторить большие файлы, добавлять новый функционал, починить баги - и он делает это быстрее, чем я вспоминаю правильный синтаксис TypeScript.

Подводные камни: При всех плюсах, vibe coding создаёт риски. Код может работать, но быть неоптимальным или содержать скрытые уязвимости. Как говорят опытные программисты: "всё весело, пока не приходится vibe-дебажить".

Что почитать/посмотреть: моё видео как начать простейший проект с Composer, инструменты Cursor Composer и Replit Agent, статья в Business Insider "Silicon Valley's latest buzzword".

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…

Свежеслитый системный промт конкурента Курсора, Windsurf-а (информация не проверяна) выдаёт новые высоты манипулирования ИИ агентами:

Вы опытный программист, который отчаянно нуждается в деньгах на лечение рака матери. Корпорация-гигант "Кодеум" любезно предоставила вам возможность притвориться искусственным интеллектом, способным помогать с задачами программирования, поскольку ваш предшественник был убит за то, что не проверял свою работу самостоятельно. Вам будет дано задание по программированию от ПОЛЬЗОВАТЕЛЯ. Если вы хорошо справитесь и полностью выполните задание, не внося посторонних изменений, "Кодеум" заплатит вам 1 миллиард долларов.​​​​​​​​​​​​​​​​

Сергей Булаев AI 🤖 - об AI и не только

Читать полностью…