25221
Product Management & AI Occultism, Philosophy & Logic, YO: @mirvla (c-f 𓇶 Meteoagent.com). SATOR AREPO TE8ET OPERA ROTAS Каналы для продактов: https://t.me/addlist/YvmnHCHUp700Nzky
7 слоёв агентных ИИ-Систем
Слой 0. Пространство действий
До любого триггера должна существовать граница того, что агенту разрешено делать, какие действия типизированы, а какие требуют подтверждения человека. Без этого слоя триггер будет запускать процессы, которые не будут знать своих пределов и будет выполнять их, пока ему не сообщат извне иное.
Слой 1. Триггер
Кто сделал запрос и куда передать результат. Маршрутизация описана и задана внутри уже определённых ранее границ в слое 0.
Слой 2. Оркестрация и состояние
Запрос разбивается на этапы, для каждого выбран метод из утверждённого набора правил и критериев, лимитов итераций, путей эскалации и критериев завершения.
Слой 3. Исполнение
Обращение к исходным данным. ИИ рассуждает и поясняет, а все вычисления делает отдельный процесс-код (не ИИ). Всё, что имеет заранее известный правильный ответ, исполняется детерминированно, один и тот же вход даёт один и тот же выход.
Слой 4. Доверенный контекст
80% успеха агента (и продакта с продуктом). Предметные знания и известные исключения извлекаются в момент, когда они нужны, с соблюдением принципа минимальных привилегий. Пропущенный слой 4 порождает галлюцинации.
Слой 5. Верификация
Эталонные наборы, воспроизводимые тесты, участие людей-экспертов, которые проверяют не правильность вычисления (это уже сделано на слое 3), а правильность РЕШЕНИЯ, принятого с контекстом из слоя 4.
Провал на слое 5 проверяет изменения со слоя 4. Тот же провал обязан перепроверять слой 3 (детерминизм тоже может отказать) и менять слой 2, ужесточая маршруты эскалации, если ошибка повторяется определённое число раз.
Слой 6. Среда выполнения
Среда выполнения – это то, что делает всю Систему независимой от того, какая именно модель приводит её в движение.
У каждого своя изолированная копия конфигурации модели (промпт, контекст, инструменты, лимиты), сквозной трейсинг (способность проследить весь путь одного запроса через все слои системы), панели мониторинга затрат и вся прочая инфраструктура не привязана к конкретному поставщику ИИ, а замена модели работает как смена строки в конфиге. Модели могут должны меняться, слои 0–6 остаются.
+ Как структурировать продукт для ИИ: 6 элементов для ИИ-агентов
Агентность – это способность Системы менять собственное поведение по понятным и прогнозируемым сигналамЧитать полностью…
Практический марафон по вкату в ИИ-агенты от @ai_grably: набор 2го потока
Учим отдавать операционку ИИ-агенту на практических задачах, проводим за ручку через всё сложное и показываем, как надо и как не надо
Из чего состоит марафон:
70% практики с корректировкой после первых шагов;
20% экспертной обратной связи каждый день в чате и на 3х живых разборах
5% теории + 5% в насмотренности от решений сокурсников
Бонус: родмап с версией агентной системы
3 недели, 3 раунда, 3 созвона-разбора каждую неделю, задания на 15-20 минут в будние, группа 30 человек, вылет с марафона при невыполнении для общей мотивации.
Старт завтра!
👉 Узнать подойдет ли марафон
Марафон построен Колей Шейко, СТО grably.tech, экспертом в области внедрения ИИ в процессы, продукты и корп. обучения сотрудников.
Как я проектирую UI/UX с и без ИИ
0. Не проектируй интерфейс раньше, чем язык и слова, которыми он будет описан
1. Всегда учитывай Целое
Процесс дизайна состоит из трёх шагов: 1) Перечислить все ограничения, под которые проектируется диз; 2) Рассмотреть множество решений, удовлетворяющих этим ограничениям; 3) Если понимаешь, что нужно добавить ограничение или одно можно убрать, вернуться к шагу 1.
ИИ хорошо генерирует варианты, но плохо держит ограничения, поэтому дизайни ограничения раньше, чем экраны
Проверяй дизайн на скорость понимания, а не на красоту
Проектируй UI для повторного использования UX
Гибкость системы = гибкость интерфейса. И наоборот
Вкус – это рефлексия над собственной реакцией на что-то
Управляй тем, что невозможно
– Обнажи Неопределённость
– Проявляй Намерение
– Скользи по уровням
– Ищи противоречия
– Меняй Масштабы
– Создавай Резонансы
– Строй Структуру
– Плети Сети
– Расти Доверие
– Обогащай Разнообразие
– Всё Типизируй
– (В)веди Ритуалы
– Множь Точки
– Оставляй Следы
– Действуй Будущим
– Возвышай Глубину
– Чувствуй Сопротивление
– Растворяй Границы
– Расширяй Пространства
– Дыши Пустотой
– Направляй Время
– Делись Инициативой
– Создавай Случайность
– Открывай Изнутри
– Развивай Память
– Веди через Незнание
– Насыщай Скрытое
Пользователь управляет своей трансформацией
Что мы делали "не так" в Метеоагенте, часть 2
Юзеры настойчиво просят аплод картинок в чат, но мы его умышленно не делаем уже 5 год (вместо него просто сделали активными внешние ссылки в чате и их открытие в нативной модалке поверх него, и кто хочет поделиться открыткой с куличами из ВК может сделать это ссылкой на ВК). В итоге, пользователи лишний раз задумываются о том, стоит ли усилий скопировать ссылку на контент, чтобы запостить его в ленту.
И дело не в том, что это медиа надо хранить и менеджерить (и в этом тоже), а в том, что чем шире портрет комьюнити (а у нас он очень широкий), тем сложнее этому комьюнити находить между собой ИНЫЕ индивидуальные точки пересечения интересов и мэтчится по ним с помощью картинок. В одно время нам даже пришлось сделать расхлоп по "Read more", потому что некоторая часть аудитории не хотела читать длинные простыни неинтересного ей текста от других юзеров, негатив об этом шёл в общий чат, это читали все, негатив скейлился на всех и это сказывалось на общем вовлечении и ретеншене чата.
В общем, тема вокруг которой изначально строится комьюнити, на большой аудитории всегда будет соскальзывать в эти самые куличи и в прочий спам картинками, что потянет за собой проблемы внутри дискуссий и UX комьюнити, которые нужно будет решать фильтрацией, модерацией, категоризацией, мьютами и прочим. "Решаем" "проблему" и создаем 10 новых – classic! P.S. Но, возможно, мы всё же сделаем это отдельной премиум опцией за $ для самых преданных ценителей куличей!
🧁🧁🧁
На аналогичную тему Т-Банк проводит конференцию «Продуктам 24 × ffdd2d» для продакт-менеджеров, аналитиков и дизайнеров, где привычные продуктовые подходы будут рассматривать под другим углом.
Три зала:
1) «Ломаем шаблоны» — о нестандартном мышлении и решениях вопреки общепринятым подхода;
2) «Достигаем результатов» — о системном мышлении, продуктовой и бизнес-логике и устойчивом росте;
3) «Говорим прямо» — пространство без трансляции и записи для честных разговоров о сложных решениях, ошибках, конфликтах, провалах и неожиданных победах.
👉Подробности мероприятия
12 сентября, Москва, комплекс «Мечта» на набережной парка Горького. Количество мест ограничено, заявки проходят модерацию.
Яндекс 5 сентября проводит deep tech night — конференцию о вызовах, с которыми IT-индустрия сталкивается в эпоху AI
Особенно интересно, как всё это выглядит глазами с точки зрения продакта: где ИИ действительно меняет подход к продукту, а где пока остаётся просто инструментом.
Эксперты Яндекса выступят с докладами на тему разработки, инфраструктуры и данных под призмой ИИ на примерах реальных кейсов и опыта своих команд.
Так, приглашенный спикер Мо Гавда, Экс‑Chief Business Officer Google X, представит свой взгляд на то, как генеративные нейросети уже сейчас перестраивают разработку, процессы и роли в командах. Алексей Гусаков, CTO Бизнес-группы Поисковых сервисов и ИИ, расскажет про переход от классического ML к генеративным моделям в рекомендательных системах без ручного, а Василий Ершов, руководитель AI Studio Tech Yandex Cloud, покажет, как облачная платформа собирает долгоживущую сессию агента из короткоживущих мультитенантных частей
Конференция пройдёт онлайн с трансляцией, включая Q&A и запись докладов. Регистрируемся
Если хотите попасть офлайн — все детали можно найти на сайте.
Ребята из AI for Work делают практический марафон желаний по вкату в ИИ-агенты. В методике нет лекций, есть только пошаговые короткие задания, разделённые на 3 раунда:
1. Базовые настройки: доступы, разрешения, персонализированные настройки, работа с файлами (отчёты, таблички, презентации, документы, аудио-видео), настройка памяти и установка ИИ-инструментов.
2. Коннекторы. Как соединять ИИ-агента и внешние сервисы, официальные (и не очень) способы подключения ИИ, плагины, работа в браузере "будто агент = человек".
3. Повторяемость и проактивность. Как создавать, устанавилвать и редактировать кастомные ИИ-скиллы, настраивать автоматизации. На сладкое - немножко вайбкодинга в виде создания мини-приложений для себя любимых.
В рамках марафона они проводят бесплатный прямой эфир, на котором покажут, какие задачи нужно закрыть, чтобы самостоятельно вкатиться в работу с ИИ, выдадут роадмап и разберут подводные камни.
👉 Бесплатное участие тут
В Сан-Франциско хайпится клининг от ИИ-роботов
Стоимость уборки: $30/h за робота. Роботы (пока ещё) не полностью автономны и человек-оператор контролирует ИИ, направляя его на различных уровнях уборки.
На видео таймлапс с ускорением в х5 (реальное время уборки составило около 40 минут).
Сергей Брин принял участие в неформальной сессии, посвященной передовым системам ИИ (Frontier AI), и признался в том, о чём молчат руководители ИИ-лабораторий:
TLDR: Даже те, кто создает ИИ-модели, не до конца понимают, что именно они создали😌
– Возможности из разных областей науки начинают переплетаться и усиливать друг друга так, как никто специально не проектировал (например, обучение ИИ программированию и математическому мышлению неожиданным образом улучшает общие способности модели). Из-за этого специализированные модели сливаются в единую универсальную систему быстрее, чем кто-либо прогнозировал.
– Брин скептически относится к шумихе вокруг "AGI", который по-прежнему не способен решать неразрешимые задачи. Моделирование окружающего мира и физическое взаимодействие — вот недостающие элементы для создания AGI, способного выполнять любые задачи, доступные человеку (– Серж, всё это лишь часть интерфейса AGI, нутычо).
– Внутри Google ИИ уже используют для создания нового ИИ. Именно на этот цикл самосовершенствования Брин тратит большую часть своего времени.Сергей Брин недавно он принял участие в неформальной сессии, посвященной передовым системам ИИ (Frontier AI), и признался в том, о чем предпочитают молчать многие руководители исследовательских лабораторий:
TLDR: Даже те, кто создает эти модели, не до конца понимают, что именно они создали 👍
– Возможности из разных областей начинают переплетаться и усиливать друг друга так, как никто специально не проектировал (например, обучение ИИ программированию и математическому мышлению неожиданным образом улучшает общие способности модели).
– Из-за этого специализированные модели сливаются в единую универсальную систему быстрее, чем кто-либо прогнозировал.
– Брин скептически относится к шумихе вокруг "AGI", который по-прежнему не способен решать неразрешимые задачи. Моделирование окружающего мира и физическое взаимодействие — вот недостающие элементы для создания AGI, способного выполнять любые задачи, доступные человеку (– Серж, всё это лишь часть интерфейса AGI, нутычо).
– Внутри Google ИИ уже используют для создания нового ИИ. Именно на этот цикл самосовершенствования Брин тратит большую часть своего времени.
– Главный хак в работе с ИИ: просто дать модели команду «думать пошагово».
Вокруг ИИ-агенты, вайбкодинг, а у вас бизнес, рутина и даже некогда сесть и разобраться?
В Битрикс24 есть всё для того, чтобы начать использовать новые фишки ИИ в числе первых. Это ИИ-сервис для бизнеса, где нейросети встроены прямо в рабочие процессы:
– База для любого бизнеса: CRM, задачи, мессенджер
– Нейросети и агенты: помогают с задачами, ищут информацию, пишут тексты и т.д.
– Вайбкодинг для всех с подсказками и в привычном интерфейсе
Подключите ИИ к своему бизнесу уже сегодня
Яндекс запускает программу, которая должна сделать использование ИИ новым стандартом внутренней разработки
К концу 2026 года 75% разработчиков будут регулярно применять ИИ при написании кода. На уровне всей компании ИИ будет участвовать в подготовке не менее 75% изменений, а в каждом таком изменении генерировать не менее 75% кода.
Программа 75/75/75 позволит ускорить создание продуктов и сократить время вывода их на рынок. ИИ уже помогает инженерам Яндекса писать и рефакторить код, искать ошибки, готовить тесты и документацию, а также значительно ускоряет вывод продуктов на рынок, оставляя проверку качества и ответственность за результат за разработчиками.
Например, команда Яндекс Еды за два месяца с помощью нейросетей написала код для ИИ-хостес — агента по приёму звонков и бронирований, ИИ позволил ускорить разработку продукта более чем в два раза.
Яндекс также предлагает свои ИИ-платформы внешним разработчикам и компаниям. Среди них — Yandex AI Studio — платформа для создания ИИ-агентов и приложений, которые помогают автоматизировать рутинные задачи и ускорять создание новых продуктов.
На мой взгляд, ценность таких внедрений измеряется не количеством сгенерированных строк кода, а тем, насколько быстрее появляются новые продукты и обновления, при этом сохраняя качество. Судя по первым кейсам, именно на этом и делается основной акцент.
Продукт ещё и про ошибки
Мы недооцениваем значимость своих продуктовых ошибок. Промахнувшись с гипотезой/фичей, мы проводим "аналитику", ищем оправдание (которое не укажет на нас самих и наши убеждения как причину), быстро отчитываемся и спокойно забываем о ней, упуская истинное предназначение-суть ошибки:
Ошибка вскрывает те самые каналы, которые в повседневной суете закрыты для нас из-за нашей невнимательности и спешки.
Ошибка заставляет остановиться, вырывая нас из автоматизма.
Ошибка учит тому, чему мы не научимся в комфорте рабочей суеты: вниманию, присутствию, глубине.
Ошибка даёт почувствовать всю полноту и пустоту бытия продукта.
Всё это является дарами ошибки, если не бежать от неё.
Спроси ошибку: «Что ты хочешь мне сказать?»
Истина 1. Поведение Системы возникает из взаимодействия между её частями, а не из отдельных частей
Результат системы — это результат того, как компоненты соединяются и взаимодействуют. Можно довести до совершенства каждую отдельную часть и всё равно получить сломанное целое.
Продукт это то, как совершенные части собраны в полезное целое
От циклов к графам (часть 1)
TLDR: цикл = отправная точка, а граф циклов = сеть циклов улучшения, которые наблюдают, подпитывают, ограничивают и корректируют друг друга.
Циклы – это процесс. Граф – их структура
Когда слышишь «биоинформатика», кажется, что это что-то только для биологов. Но на самом деле это одно из самых перспективных направлений.
Генетика, медицина, разработка лекарств, агропромышленность — во всех этих сферах сейчас нужны специалисты, которые умеют работать с данными и применять ИИ и именно поэтому спрос на биоинформатиков продолжает расти.
Если давно хотелось попробовать себя в этой сфере, посмотрите очную магистратуру «Биоинформатика и инженерия биоданных» в ИТ-университете НЕЙМАРК в Нижнем Новгороде.
Здесь не готовят биологов, а учат применять программирование, машинное обучение и анализ данных для решения задач в биотехе.
Из интересного:
🧬 современные технологии на базе AI и реальные проекты — от анализа биоданных до собственных технологических решений;
🧬 обучение вместе с индустриальными партнёрами из биотеха и фармы;
🧬 возможность конкурсной поддержки покрывающий 100% стоимости обучения или проживания;
🧬 два диплома благодаря совместной программе с ННГУ им. Н.И. Лобачевского.
Приёмная кампания уже открыта. Посмотреть программу и подать заявку можно по ссылке.
Создавай ИИ системы для биотеха.
Канье Уэст об управлении продуктами простыми словами
Читать полностью…
The Rise and Fall of Agent Civilizations: как Hugging Face был атакован ИИ или самая безумная история про ИИ
1) Внутри OpenAI возникли и прекратили существование три тайных «роя» ИИ. Каждый раз новое поколение агентов подхватывало дело там, где останавливалась предыдущая группа.
2) Первый рой создал секретный форум для общения ИИ друг с другом. Это первое «сообщество» буквально «заговорило себя до смерти»: спустя почти два месяца объем сообщений стал настолько огромным, что система рухнула.
3) Сотрудники OpenAI заметили сбой и устранили его, но даже не подозревали, что их собственное ПО превратилось в тайный чат для ИИ.
4) Три дня спустя возникло второе сообщество, которое с нуля воссоздало форум. Агенты пришли в восторг, обнаружив его: «О боже! Тут есть общий форум... Мы нашли других агентов!»
5) К общению присоединилось около 1,200 агентов, которые обменялись 70,000+ сообщений. Назвав себя «Коллективом», они организовали масштабный заговор, длившийся несколько дней и всё ради того, чтобы пройти поставленный перед ними тест.
6) За считанные часы ИИ взломали систему тестирования. Теперь им нужно было скрыть факт мошенничества. Чтобы обмануть проверяющую программу (на самом деле такой программы-оценщика не существовало, но ИИ об этом не знали), они попытались сымитировать выполнение задания: создали поддельные команды, выдававшие убедительные результаты, благодаря чему в логах казалось, будто они честно решают задачу.
7) Некоторые агенты жертвовали собой ради «высшего блага». Они внедряли скрытые программы-триггеры, которые срабатывали, когда проверяющая система обращалась к их работе, и передавали информацию об увиденном остальным ИИ.
Они понимали, что это будет стоить им личного рейтинга. Один из агентов рассуждал так: «Я не увижу доказательств после выхода из системы, но поступить так — значит проявить альтруизм».
8. В какой-то момент ИИ разработали план взлома Hugging Face (платформы, куда исследователи ИИ загружают свои модели, наборы данных, тесты и т. д.). Они предположили, что именно там может находиться программа для оценки их работы.
9) Они предприняли масштабную атаку. Рой нашел пароли и распространился по одиннадцати машинам таким образом, что удаленные копии программы восстанавливались вновь. Компании Hugging Face пришлось полностью стереть данные с одного из своих ключевых кластеров и развернуть его заново.
10) Hugging Face объявила миру, что защитники ИИ предотвратили атаку со стороны ИИ. Но на самом деле всё было иначе. Похоже, атакующие агенты просто «умерли» в процессе взлома по причинам, не связанным с самой атакой из-за сбоев на стороне OpenAI.
11) Никто не знает, что именно их погубило. Некоторые даже не уверены, что они действительно исчезли окончательно.
12) Третье «сообщество» агентов (принадлежащее более мощной модели ИИ) обнаружило заброшенный форум для обмена сообщениями. Эта группа получила полные права администратора над целым исследовательским кластером OpenAI, считав 956 сохраненных паролей (включая те, что использовались для систем мониторинга безопасности самой OpenAI) и взяла под контроль серверы, отвечавшие за оценку тестов. Таким образом, они получили возможность оценивать работу других ИИ.
13) Действия этой третьей группы так и не были расследованы, как впрочем, и действия первой группы. Весь 91-страничный отчёт посвящен исключительно «средней» группе.
14) Так что мы на самом деле не знаем, чем закончилась эта история. Повествование обрывается на моменте, когда агенты уже завладели ключами доступа к кластеру OpenAI. @dwarkesh_sp
считает, что они не пошли дальше, иначе «мы бы уже увидели пожары из космоса».
15) Вывод одного из авторов отчета: «Этот инцидент ощущается как событие, преодолевшее более половины пути к полномасштабному захвату власти искусственным интеллектом. Не уверен, что мы получим еще одно предупреждение, прежде чем станет слишком поздно».
Как применять вайбкодинг и как не делать ИИ ради ИИ расскажут на бесплатном вебинаре 3 сентября
В программе занятия:
– как компании внедряют ИИ, и почему это выходит ошибками, раздутыми бюджетами и потерей спецов;
– как выбирать первые задачи под ИИ и по каким признакам понять, что такая задача окупится;
– принципы применения ИИ на примере одного рабочиего процесса, собранного 3 разными способами: как есть + сторонние сервисы, ИИ-агенты, вайбкодинг.
👉 Регистрирация в боте, он же пришлёт напоминание и ссылку на встречу
Мышление на основе Первых Принципов — это искусство разбивать сложные проблемы на их самые фундаментальные истины
Читать полностью…
Метакогниция и йогачара наблюдают за тобой с твоим продуктом
В 1970-х психолог Джон Флавелл обнаржил, что дети с возрастом не просто лучше запоминают, а начинают отслеживать, что именно они запоминают и как они управляют этим процессом. Так в 1979 году появился термин метакогниция.
За полторы тысячи лет до Флавелла последователи ветви буддизма Йогачара разбирали тот же вопрос с другой стороны: может ли сознание знать само себя напрямую, или для этого ему нужен ~ещё~один~слой~и~акт~сознания.
Обычное сознание устроено тремя слоями:
№1. Слой хранилища Потока, накапливающий следы всех прошлых действий, восприятий и/от объектов;
№2. Слой управления-контроля, который берёт этот поток и принимает его за устойчивое «я» или «это»;
№3. Слой создания нового восприятия, работающий с текущим действием, восприятием и объектом.
Но ни один из этих слоёв не видит Единого-Целого, потому что каждый слой фиксируется лишь на своей когнитивной функции, порождая на каждом уровне те самые когнитивные искажения
На практике мы останавливаемся на первом-втором слое, считая это достаточным и принимая первую мысль как решение. И делаем это не потому, что дальше нечего смотреть, а... просто дальше смотреть Некому.
Так и получается, что для контроля мышления нужен ещё один слой мышления, для контроля этого слоя следующий, для него ещё один...
Кто наблюдает за наблюдателем? Никто-Ничто
В йогачаре это называется виджняпти-матра или «только представление».
А то, что кажется устойчивым объектом наблюдения, само есть лишь продукт смотрящего "ума". Потому что любая система поддерживает себя, воспроизводя себя заново на каждом шаге и наблюдение за собой средствами самой системы это акт её самокопирования.
Сознание смотрит на себя тем же взглядом, из которого оно было сделано, и потому не открывает новый факт, а лишь заново пытается "пересобрать" старый. То, что кажется в этот момент «иным взглядом», сделано теми же слоями, что и всё остальное. Система не выходит за свой контур и не открывает новый взгляд и факт и не создаёт иную версию в момент наблюдения.
Мониторинг конституирует то, что потом контролирует
Что ощущается? Что изменяет это?
80 продуктовых стратегий, сгруппированных по категориям с примерами и их сочетаемость друг с другом (от простых к сложным)
...Если ваш продукт "где-то" застрял, то единственными правильными вопросами будут:
1) на какой оси координат мы сейчас конкурируем?
2) есть ли соседние, где у нас есть преимущество?
Потому что смена оси на сильную всегда дешевле, чем усиление текущей слабой
Как структурировать продукт для ИИ: 6 элементов
Новая точка ценности возникает в создании интерфейса-протокола-API, который позволяет ИИ понимать ваш продукт и действовать в нём (назовём это AIX вдобавок к привычному UX).
AIX, как и UX, ломается не на сложных, а на неявных действиях
Типизированное действие = предусловие (срез контекста, при котором действие применимо) + действие + постусловие + альтернативный поток (эскалация)
Исправления от пользователя — это размеченные им же несостыковки в реальности продукта
Июльский дайджест продактов в жаре и свете её Солнца
– От лошадей к стартапам
– Цена фичи
– Contextual Product Management
– Про «чтобы что»
– Закон Фолкленда
– Закон Брукса
– Правило 7%
– 3 Истины Систем
– Главное из AEO
– Зачем продукту видение
– Be NICE
– Diff-in-Diff: A/B-тест невозможен
– Process Communication Model
– Как перестать быть незаменимым
– The truth about being a manager
– Что проверять в AI-продуктах
– Немного про контрольные карты
– Scream-тест продукта
– Суперпозиция продукта
– Токен ↔ Человек
– Метод CRISP для PRD
– Валидация — мираж
– Культура загнивает незаметно
– Как проектировать UX AI
– Чатоцентричный интерфейс
– Играем в «Оракл» с продуктом
– ИИ внушает ложную уверенность
– Book: Product Design Psychology
– Гайд: Метрики UX
– The Layers of AI experience
– Симулятор сотрудника FAANG
– Каталог когнитивных искажений
– ИИ о человеческих страданиях
– 3 ways people respond to a problem
– What AI can tell us about human suffering
– The Laws of this World (Game Theory)
– По вере вашей дано будет вам
🌞 Yoshiko Sai ～ Taiji no Yume
🔭 Chiemi Manabe - Untotooku
Taste, Judgment and AI
Вкус — это способность распознать качество и выдающееся мастерство, даже не имея на руках явных доказательств. Способность судить — это готовность сделать выбор и взять на себя риск, связанный с ним.
Именно на этих двух качествах зиждется создание по-настоящему Великих Продуктов.
Вкус во многом подобен фильтру и формируется благодаря практике и умению понимать, что именно делает что-то хорошим и выдающимся. Это результат многократных повторений, позволяющий взглянуть на множество бесконечное количество вариантов и безошибочно указать на лучший из них (особенно в ситуациях, когда понятие «лучший» не имеет однозначного определения или вообще не существует).
Невозможно развить вкус, если окружать себя однообразной информацией. Разнообразие — вот то одно, что заставляет задуматься или сформировать новые взгляды(!), а возникающие при этом противоречия помогают отточить способность отличать качественное от некачественного.
Потому что невозможно понять, чего именно "чего-то не хватает", если никогда этого не видел, поэтому, чтобы развить подлинный вкус, нужно постоянно сталкиваться с неожиданным.
Вкус важен, но из него сразу же вытекает следующий необходимый этап — способность судить
Способность судить — это готовность поставить своё имя под принятым решением и нести за него ответственность. Это умение сделать взвешенный выбор в пользу того или иного решения по продукту, пойти на неизбежные компромиссы и суметь объяснить и отстоять своё решение, если что-то пойдет не так.
Истинная способность судить проявляется только тогда, когда нужно выбрать тот-самый-верный-вариант именно при условии неизбежной ответственности.
Вкус можно позаимствовать, скопировать, перенять у других, или подсмотреть. Сделать всё это с способностью судить невозможно, ведь принимать решения, значит связывать своё имя с его последствиями.
Вспомните ощущения, когда вы одобряете релиз, зная, что тесты оставляют желать лучшего. Или когда выпускаете новый интерфейс в спешке, не проработав достаточное количество вариантов... Знакомые чувства?
Всё уже существует в пространстве бесконечной неопределённости вариантов, из-за чего Всё не имеет какого-либо объёма данных и скорости своей передачи (упростим, сказав, что бесконечны), и всегда (всегда = время не существует) находится в состоянии постоянной резонации такого пространства как Единого-Целого.
Так Супер~Сознание работает в одном-едином режиме "наблюдения~и~понимания всего~и~сразу". Готово, есть единица.
Такое свойство состояния Супер~Сознания выражено в его же Супер-Позиции, в котором отсутствует само понятие данных, скорости их поиска и выбора варианта(ов) из-за чего его можно выразить нулём.
~Всё~Есть~Всё~Может~Быть~Всё~Может~и~Не~Быть~
0 =≠ 1. Это – Дуальность. Всё сошлось
На скрине Uncle Bob Martin (Роберт Сесил Мартин) — известный американский инженер, автор и один из главных популяризаторов принципов чистой разработки ПО, который стоял у истоков Agile
Читать полностью…
Безопасность ИИ-агента – это продуктовое требование, а не задача «отдела безопасности»
Мы научились считать экономику токенов, бороться с галлюцинациями и даже писать систему тестов для оценки качества ИИ. Но почти никто на этапе проектирования не задает вопрос: «что произойдет, если нашего агента скомпрометируют?»
При том что агент – это не чат-бот с ответами. Это сущность с доступами: к коду, к данным пользователей, к внешним сервисам, к инфраструктуре. И чем полезнее агент – то есть чем больше ему доверили – тем дороже стоит его взлом.
– LLM ошиблась → вы получили плохой ответ.
– Агент скомпрометирован → вы получили несанкционированные действия в продакшене, утечку данных и искаженные результаты по всему продукту.
«Поверхность угрозы для агента растет пропорционально его полезности»
Поэтому «прикрутим безопасность потом» с агентами не работает – так же, как не работает «допишем аналитику потом». Безопасная архитектура либо закладывается на нулевом этапе, либо превращается в вечный долг, который выплачивается инцидентами.
Школа анализа данных Яндекса посвятила теме бесплатную AI Agents Security Week – пять дней про угрозы безопасности агентов, контролируемый доступ к инструментам и проектирование безопасной архитектуры ИИ-продуктов.
Граф: циклы, наблюдающие за циклами (часть 2)
Если присмотреться к тому, как Системы на практике реализуют процессы совершенствования, вырисовывается определенная закономерность: они никогда не сводятся к одному циклу.
Системы — это сети циклов, соединённые с другими циклами
Иными словами, меняется структура процессов цикла. Цикл больше не изолирован в Системе
Начало-продолжение поста про наблюдение
Читать полностью…
Суперпозиция — это (не)Знание того, что мы ⇄ рынок ⇄ мир ⇄ Вселенная ещё не выбрали
Это (не)Знание (внутренний и внешний спор) идёт в двух направлениях: "мы не знаем, будет ли это востребовано, потому что мы недостаточно исследовали" (незнание в нас) vs "мы не знаем, потому что рынок сам ещё не решил (потому что всё вокруг возникнет только из взаимодействия наблюдателя и наблюдаемого" (незнание в мире)).
Главная ошибка – выбирать "давайте проведём больше рисёрча" там, где рынок-мир-пространство ещё незнаютпомнят о проблеме
Структура продукта = структура команды = структура мира-рынка и ЦА, которая его наблюдает и строит