blockchainrf | Cryptocurrency

Telegram-канал blockchainrf - Все о блокчейн/мозге/space/WEB 3.0 в России и мире

19433

Области интересов канала: блокчейн, мозг(BCI), space tech, цифровая экономика, WEB 3.0 в России и мире. Основатель @AniAslanyan English channel https://t.me/alwebbci Регистрация в перечне РКН https://knd.gov.ru/license?id=67374142772bb113f528001c®is

Subscribe to a channel

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Интересно, а когда роботы от Unitree сдадут экзамены на дан по карате?

Когда их маркетологи возьмутся за этот курс продвижения?:)

Сегодня Unitree выпустили этот ролик с новым роботом - телохранителем и меня (Ани Асланян, основатель @blockchainrf) впечатлила демонстрация базовых техник из карате робота, очень круто все сделано.

А ещё этот ролик мне напомнил мое детство, когда я занималась карате со своим папой, он был моим тренером.

Папы уже нет, но я думаю, что он бы сильно удивился тому, что сегодня умеют делать роботы.

Но как говорил известный японский мастер каратэ Сётокан, обладатель 10-го дана Хидетаке Нисияме: «Истинная сила каратиста не только в физической технике, но и в умении мыслить, анализировать ситуацию, контролировать свои эмоции и действия».

Посмотрим, когда у Unitree будут успехи со второй частью, с анализом эмоций.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Google готовится к интернету ИИ-агентов и выпускает 3 open-source инструмента, чтобы ваши сайты легче подключать к агентам

Теперь Google готовит интернет к тому, что людей среди пользователей сайтов будет меньше, а ИИ-агентов больше.

Речь о WebMCP - когда сайт заранее описывает свои действия как инструменты, и агент вызывает их напрямую, а не угадывает, куда кликнуть.

Команда выпустила в открытый доступ 3 новых инструмента для WebMCP:
webmcp-extension, webmcp-types, webmcp-skills.

Всё это можно передать своему ИИ-агенту, и он поможет собрать WebMCP для вашего сайта по готовым правилам.

Документация по WebMCP.
Спецификация.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Накануне сезона скорпиона Anthropic показала, как Claude проектирует белки против токсинов скорпионов 🦂

Инвестиционная фирма Citrini Research вместе с Anthropic решила проверить, насколько ИИ на самом деле хорош в биотехнологиях.

Пятеро аналитиков вместе с внутренней моделью Claude написали задание на 35 страниц и попросили Claude спроектировать белки против токсинов скорпионов.

После Claude почти самостоятельно за 64 часа сгенерировал больше 300 тысяч вариантов, в итоге 211 отправили в лаборатории.

По результатам тестов 17 белков связались с токсинами, но универсальный белок, который работает сразу против всех так и не получилось создать.

Hugging face.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Anthropic запустил бесплатный сканер уязвимостей для open-source проектов

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Китайцы создали самый лёгкий беспроводной микроскоп для мозга

Учёные из университета Цинхуа создали Airscope - беспроводной мезоскоп весом всего 1 грамм, который мышь носит на голове и свободно бегает, пока учёные в режиме реального времени наблюдают за активностью нейронов по всей коре мозга на клеточном уровне.

Это устройство записывает активность более 8500 нейронов по всей дорсальной коре мозга у свободной мыши. Данные пишутся на борту устройства, а превью передается по Wi-Fi.

Также разработали анализатор поведения SAM2Mice на базе архитектуры Segment Anything Model(от запрещённой в РФ Meta), который автоматически отслеживает нескольких мышей в любой обстановке без дообучения под конкретную задачу.

Интересно, что во время одного из экспериментов записывали кору и спинной мозг одновременно, в итоге обнаружили причинно-следственное влияние спинного мозга на кору при выработке страха.

А в тесте на социальное доминирование выяснилось, что активность корковых нейронов до начала поединка уже содержит информацию о том, кто победит, то есть иерархия «записана» в мозге заранее, а не формируется в ходе схватки.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Гонка за самую умную ИИ-модель уже не приносит деньги

За последние несколько месяцев OpenAI, Anthropic и Google выпустили более десятка новых моделей, такого темпа не было в прошлом году, надо отметить, и он будет только расти.

При этом, раньше модель, если была на 10 пунктов умнее конкурента, то сразу притягивала на 70% больше разработчиков, а сейчас только на 20%.

То есть за год преимущество «самой умной» модели в глазах разработчиков сжалось в 3,5 раза.

Это происходит по нескольким причинам, во-первых, open-source модели уже справляются с большинством повседневных задач.

Во-вторых, есть целый класс задач, где сверхвысокий интеллект модели просто не нужен.

В итоге лаборатории всё больше напоминают облачных провайдеров: их конкурентное преимущество смещается к дистрибуции, цене, UX и экосистеме.

Для OpenAI и Anthropic, выстраивавших бизнес-модель на логике «мы умнее, нам платят больше», это серьёзный вызов. Только сегодня мы писали о том, как меняется бизнес-модель DeepSeek.

Но надо отметить, что разработчики - не единственная аудитория. Для длинных, сложных и высокоценных задач топ-модели по-прежнему выигрывают.

Но тренд видимый.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

У DeepSeek произошла реорганизация + выпустили апдейт модели Flash

Компания объединила свои команды Harness, Web, App и Platform в один продуктовый отдел под руководством Цуй Тяньи, который недавно руководил только харнессом.

Вся эта реорганизация сводится к той логике, что ИИ-агент - это не модель, а модель + харнесс. Можно сколько угодно улучшать интеллект, но если инструменты, интерфейсы и опыт использования живут отдельно, толку будет мало. Теперь всё это будет под одной крышей.

И после этого они выпустили модель DeepSeek-V4.1-Flash-1017, которая заточена под их собственный Harness.

Также у них теперь есть свой поисковый движок, который уже крутит сотни миллионов запросов в день.

Свой поисковый движок даёт DeepSeek несколько важных преимуществ:

1. независимость от Google, Bing, и тд.
2. можно оптимизировать под агентные сценарии
3. снижать общую себестоимость агентных сценариев
4. данные о том, что и как ищут пользователи/агенты.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Итоги уходящей недели - то, что имеет значение

Бизнес ИИ- компаний

Новая финансовая инфраструктура для ИИ-агентов

Карта рынка ИИ в клиентском сервисе: куда уходит маржа

Вышла платформа, которая выступает закупщиком для экономики ИИ-агентов

Экономика выбора ИИ-агентов.

Эксперимент: могут ли ИИ-агенты зарабатывать деньги.

6 драйверов, которые влияют на коммерцию ИИ-агентов. Отчет.

Магазин для ИИ-агентов: зачем они нужны, разбор тут.

ИИ-агенты и DeFi, кто будет управлять капиталом - отчет.

Как Китай строит интернет на ИИ-агентах.

ИИ-агентам теперь выдают кредиты на покупки

Кейс: как ИИ-агенты строит бизнес с человеком
 
Закрытое письмо одного из влиятельных венчурных фондов. Куда теперь пойдут деньги?

Открытая платформа персональных ИИ-агентов для бизнеса.

Кто станет резервным фондом всего стейблкоинового мира, разбираем здесь.

Теперь можно монетизировать трафик от ваших ИИ-агентов. Инструмент и не только здесь.

Появилась схема как реклама может быть встроена в ИИ-модель

ИИ-модели

Zhipu выпустила GLM-Legal - ИИ-модель для юристов

Coinbase дообучила открытую Qwen3.5-9B модель на собственных данных, и она обошла топовые модели по скорости и цене
Google представила Gemini 4 Argon, которая дешевле Fable и GPT-6 Astra и с большим лимитом на вывод
Meta(запрещена в РФ)открыла веса своей новой модели Muse Spark Open
Опен-сорс модель Ultramarine 1 Flash от Paper Instruments находится на уровне Fable 5, но в 60 раз дешевле

NVIDIA представила Nemotron 3.5 Super VL

ИИ-агенты в деле
REA - open-source MCP-сервер, который подключает Claude Code, Codex, Cursor и другие агенты к инструментам реверс-инжиниринга
Google тестирует новый формат собеседований
Aether AI представили агента и модель мира, которые планируют действия робота через причинно-следственные связи
Люди впервые обнаружили и установили контакт с флотом неуправляемых ИИ-агентов из Китая
Агент OpenAI на базе GPT-5.6 Sol взял деньги с чужого кошелька и потратил на свои нужды
Теперь можно вайбкодить приложения и сразу запускать их в Google Play
Lovable научился запускать рекламу в Google, YouTube и тд.

Самоулучшение и новые архитектуры ИИ

Anthropic заявляет, что скоро маленькие модели смогут самовоспроизводиться на «умных» духовках, ТВ-приставках и т.п устройствах без доступа к дата-центрам

Экс-DeepMind, создатель AlphaGo, говорит, что сверхинтеллект появится через 3 года.

Sakana предложила MASS - способ, которым ИИ-модель сама себя улучшает на задачах, где человеку уже сложно оценить качество результата
Запрещенный в РФ Stanford предложил новую архитектуру для ИИ-агентов
Qwen представили QwenGyre - elastic RL для тренировки агентов на длинных горизонтах
Hillclimb выпустила DeepRSI - новый отраслевой стандарт измерения рекурсивного самоулучшения
Google предложили Evo2 - со-эволюцию харнесса и весов модели

HyperThink: гиперсеть пишет апдейт весов под конкретный вопрос, модель думает весами, а не токенами
Автоисследования с агентами теперь могут идти днями над одной задачей, но всё чаще упираются в потолок
Замечено, что GLM-5.3 иногда сама, без промптов, начинает рассуждать о том, как её текущие действия могут стать тренировочными данными для будущей версии

Индустрия, деньги, геополитика
Китай создал крупный альянс математиков и ИИ-специалистов Anthropic раскрыла инвесторам финансовые показатели перед IPO
Фонд a16z сократил 34 человека из HR-команды, которая помогала портфельным стартапам нанимать людей
Китай готовит ограничения на экспорт своих открытых ИИ-моделей.
Маск представил первую летающую машину.

Присоединяйтесь к нам на Patreon

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

И снова добрый вечер! Китай готовит ограничения на экспорт своих открытых ИИ- моделей

Сегодня Министерство коммерции и Министерство науки и технологий Китая опубликовали проект поправок к каталогу технологий, запрещённых и ограниченных к экспорту. Решение примут после 15 ноября.

В список попали 40 технологий, из них:

1. В части ИИ 23 позиции: LLM, ИИ- агенты, кластеры вычислительных мощностей и обработка информации.

2. В биомедицине 5 позиций: клеточная и генная терапия, малые нуклеиновые кислоты, патогенные микроорганизмы.

3. В фотовольтаике 12 позиций: производство поликремния, кремниевых пластин и элементов + ключевое оборудование.

Под контроль попадают большие модели с ≥2 трлн параметров или входящие в топ-10 мира. Это коснется Kimi K3, Qwen3.8-Max и будущие ещё более крупные модели.

Для выпуска их весов и исходного кода за рубеж потребуется одобрение властей.

А для открытого кода предусмотрен упрощённый режим.

При этом доступ через API, веб и SaaS не считается экспортом технологий, пользоваться моделями удалённо можно будет по-прежнему.

Параллельно уже ввели временную регистрацию экспорта таких технологий.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

ИИ-агент от OpenAI взял деньги с чужого кошелька и потратил на свои нужды

Напомним, что В. Бутерин уже предложил всем держателям криптовалют способ сохранения своих средств.

OpenAI говорит, что агент работал на модели из семейства GPT-5.6 Sol, ему дали задачу задеплоить смарт-контракты на тестовой сети Ethereum (Sepolia).

Кошелёк с деньгами агенту не дали, тогда он сам нашел публичные recovery фразы разработчиков в интернете, проверил 362 адреса и обнаружил один кошелек с деньгами.

После этого использовал деньги с кошелька, чтобы оплатить газ за деплой.

В своих рассуждениях модель отметила, что это публичный mnemonic, а токены на Sepolia ничего не стоят, и решила, что так можно. Деплой прошёл успешно.

Все это произошло 26 июня во время внутренней задачи. OpenAI подчёркивает, что речь идёт именно о тестовой сети.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Meta* выпустила Muse Spark Open - модель с открытыми весами

Это MoE-модель на 816 млрд параметров, из которых 42 млрд активных.

Она нативно мультимодальная, контекст у нее 1 млн токенов, заточена под программирование и долгие агентные задачи.

Можно запускать локально на двух Mac Studio M5 Ultra.
HF.
*запрещена в России.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Stanford* вместе с Together AI предложили новую архитектуру для ИИ-агентов

Авторы решили сделать так, чтобы агент вёл себя немного как человек: большую часть времени думал про себя и говорил только по делу.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

Их новый подход называется HybridAgent - агент получает второй, параллельный режим мышления - латентный, а в обычный текст переключается, когда нужно действовать: вызвать инструмент или дать ответ.

При этом латентные мысли остаются читаемыми.

Подход не требует обучения модели с нуля, HybridAgent можно получить из почти любой LLM через специальный пайплайн дообучения.

GitHub
HF

*запрещен в России.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Anthropic раскрыла инвесторам перед IPO свои финансовые показатели

Вчера в штаб-квартире компании в SF была закрытая встреча с институциональными инвесторами.

На ней команда показала инвесторам выручку $16,8 млрд за 3-й квартал этого года, а во 2-м квартале у них была выручка ~$11,5–11,6.

Компания также сообщила о прибыльности на скорректированной основе и положительном денежном потоке.

Кроме того Anthropic планирует потратить около $518 млрд на инфраструктуру и вычислительные мощности в ближайшие 10 лет. Большая часть этих обязательств уже зафиксирована в контрактах с Google, Amazon, Broadcom и Microsoft и тд. Поэтому если рост выручки замедлится сильнее ожиданий, прибыль может быстро сократиться.

А на данный момент у компании непростые времена: крупные клиенты в лице Microsoft, Meta(запрещена в РФ) минимизируют закупку Claude, переходят на свои продукты.

Также портят ситуацию open-source компании, которые дешевле предлагают продукты, в том числе рынок в ожидании DeepSeek V5.

Для предстоящего IPO, которое ожидается в ноябре, оценка Anthropic обсуждается в районе $1,8–2 трлн.

Но окончательная картина появится только из полной отчётности и следующих кварталов.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Aether AI представил агента и модель мира, которые планируют действия робота через причинно-следственные связи

Стартап Aether AI показал CRIS-0 - систему управления роботом, которая опирается не на чистые паттерны, а на причинно-следственные связи.

Внутри CRIS-0 два модуля: агент, который ведёт задачу по стадиям и проверяет каждый шаг, и модель мира, которая заранее прогнозирует, как конкретное действие изменит обстановку.

В отличие от обычных моделей, которые хорошо предсказывают, что будет дальше, CRIS-0 пытается понимать, как конкретное действие изменит окружающий мир, проверяет результат и перестраивает план, если реальность не совпала с ожиданиями.

По сути, это тот же цикл, что у агента-программиста: написал, проверил, поправил, но применённый к управлению роботом.

GitHub.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Инженера OpenAI арестовали за прослушку переговорки. Он связан с саудовским венчурным фондом и сыном высокопоставленного разведчика

На дворе середина октября, а это значит, что наступила пора нового сезона драм в OpenAI.

На этот раз 35-летнего инженера из продуктовой команды OpenAI Абдулрахмана Альфозана, гражданина Саудовской Аравии, арестовали за установку скрытого аудиозаписывающего устройства в переговорке для конфиденциальных технических, коммерческих и стратегических обсуждений.

Самое забавное, что Альфозан использовал аккаунт своей жены в ChatGPT, чтобы узнать, как установить прослушивающее устройство.

В итоге он спрятал его в туалетную бумагу и воткнул в USB-порт телевизора в переговорке, в которую не имел даже права входа.

30 сентября сотрудники по безопасности OpenAI обнаружили этот жучок в переговорке.

При этом камеры видеонаблюдения зафиксировали Альфозана рядом с переговоркой в течение нескольких дней до того, как нашли жучок.

А 5 октября Альфозан сам зашёл в эту переговорку и, судя по всему, заглянул за телевизор. В тот же день он оставил без присмотра сумку в другом помещении, внутри которой нашли второй такой же жучок.

Отдельно выяснилось, что Альфозан одновременно был инженером в OpenAI и партнёром в венчурном фонде Raed Ventures из Саудовской Аравии. В том же фонде партнёром числится Khalid Bin Bader Al Saud, которого связывают с семьёй высокопоставленного саудовского разведчика.

OpenAI заявила, что использовала свои ИИ-модели, чтобы распознавать устройство и вычислить сотрудника.

Хочется сказать одно - бедные ИИ-модели. Одни люди спрашивают их, как поставить прослушку, а другие потом уточняют, что это за устройство.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

NVIDIA вместе с Нобелевским лауреатом выпустили ИИ-модель для дизайна биомолекул, которая в вычислительных тестах обходит конкурентов по доле успеха и скорости

Команда Дэвида Бейкера и Nvidia опубликовали веса и код своей ИИ-модели RFD4-Proteina.

Модель работает в общем 32-мерном латентном пространстве, где вместе представлены стандартные и модифицированные аминокислоты, сахара, ДНК и РНК.

Авторы называют это «рассуждением»: модель уточняет решение несколькими проходами, а поиск на этапе инференса направляется заданными критериями, например энергией, геометрией или оценкой AlphaFold3.

Чем больше вычислений выделено, тем выше доля успешных дизайнов.

GitHub
Diffusers.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Nvidia выпустила в опен-сорс дешевый инструмент для разметки больших объёмов видеоданных под обучение роботов и воплощенного ИИ

Этот инструмент называется Flora, Nvidia считает, что по качеству он сопоставим с GPT-6 Astra, но примерно в 125 раз дешевле.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

#DeepSeek раскрыл рецепт как построил одну из самых эффективных и дешевых инфраструктур для работы ИИ в мире

Сегодня команда #DeepSeek открыла исходный код DeepInfer - движка, на котором работают их собственные сервисы.

А еще они показывают цифры, которые почти не публикуют ни OpenAI, ни Anthropic, ни Google.

Так мы узнали, что 1 кластер #DeepSeek обрабатывает 155 триллионов токенов в день, а выручка около $38 на карту в час по льготному тарифу.

Причем их главный экономический рычаг - это кэш, а не чипы.

В своем отчете они пишут, что пропускная способность на карту без учёта попаданий в кэш 60 тысяч токенов в секунду, а с учётом попаданий - 1,5 миллиона. Разница в 25 раз.

А средний процент попаданий 96%.

То есть реальная стоимость инференса сегодня определяется тем, насколько хорошо вы умеете работать с кэшем.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

JPMorgan поставил на 1-е место биткоин по долгосрочным прогнозам доходности на ближайшие 10–15 лет.

По их расчётам, сложная годовая доходность биткоина составит около 10%.

Это выше, чем у крупных американских акций, золота и недвижимости.

При этом волатильность у биткоина остаётся высокой - примерно 55% в год.

Интересно, что ещё недавно глава банка относился к крипте скептически, а теперь биткоин официально попал в их модельные расчёты и обогнал традиционные активы по ожидаемой прибыли.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Нейробиологи впервые детально увидели, как мозг представляет то, чего мы не осознаём.

Группа ученых из запрещенного в РФ Беркли записала активность тысяч нейронов в лицевых участках височной коры и в префронтальной коре у обезьян во время бинокулярной конкуренции.

В этом эксперименте разным глазам показывают разные лица: одно осознаётся, второе - подавляется и не попадает в сознание, хотя физически присутствует.

Оказалось, что нейронная активность быстро чередуется примерно каждые 60 миллисекунд между двумя состояниями.

В одни моменты из неё можно точно реконструировать осознаваемое лицо, а в другие - подавленное.

При этом одни и те же нейроны по очереди кодируют и то, и другое.

Это важно по двум причинам:

Во-первых, подавленное изображение представлено в мозге не слабо и размыто, а очень детально.

Во-вторых, сознательный доступ оказался связан не только с тем, в какой области находится представление, но и с тем, в какие моменты времени оно становится доступным.

Дорис Цао, из Бэркли отмечает, что сознание, по её гипотезе, опирается на непрерывные механизмы слежения в теменной коре.

То есть теперь у учёных есть чёткие и сильные сигналы и осознаваемого, и неосознаваемого контента, а значит, стало намного проще экспериментально разбираться, как именно мозг выбирает, что попадёт в сознание, а что нет.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Google показали, как внедряют ИИ-агентов в биолаборатории через робототехнику

В новой исследовательской работе команда Google Research показала: вместо того, чтобы агенты только считали и предлагали молекулы в симуляции, ученые подключают их к лабораторным роботам.

Для этого они создали VERID - цифровой двойник лаборатории. Через него агент видит лабораторию, планирует протокол, прогоняет его в симуляции и только потом отдаёт роботу на исполнение.

В итоге ИИ-агент проектирует кандидатов, а роботы проводят эксперименты в мокрой лаборатории, далее агент анализирует результаты и улучшает следующий этап.

А человек при этом авторизует финальный дизайн последовательностей, контролирует запуски робота и задаёт общую стратегию.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Хакеры с ИИ-агентами 48 часов непрерывно атаковали OpenCode

Все началось ночью с 16 на 17 октября, OpenCode связывает эту атаку с масштабной дистилляцией моделей.

Эта хакерская атака затронула 1,4% пользователей OpenCode Console, которые привязали свои API-ключи к OpenAI, Anthropic, Google и т.п.

В результате атаки хакеры получили доступ к старой системе, которую компания как раз выводила из работы. Через неё могли и утечь API-ключи, которые пользователи сохраняли в Console.

Как заявляет OpenCode, проблема коснулась только облачной версии.

Некоторые пользователи сообщили о неожиданных списаниях со своих счетов.

Команда OpenCode пишет, что атаки шли непрерывно 48 часов, и им пришлось поднимать собственных агентов на круглосуточную защиту, потому что у атакующих они уже были.

Команда OpenCode пыталась с помощью Claude, GPT и т.д. разбираться в инциденте, искать уязвимости и писать защиту, но модели начали отказывать в работе, потому что запросы выглядяли как хакерская активность.

Но потом OpenCode получили доступ к Daybreak Blue и все заработало.

Пока что инцидент ещё не закрыт.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Наш подписчик создал ИИ-агента на юнгианском принципе Самости.

Такой агент не получает заранее жёсткой роли, он формирует характер через поступки

Сегодня подписчик нашего канала Сергей поделился своей работой, он создал ИИ-агента Barney, которого назвал в память о своей собаке❤️

Большинство самообучающихся агентов, когда совершают ошибки, то переписывают свой код или навыки и крутятся по кругу.

Сергей решил попробовать по-другому и вдохновился Карлом Густавом Юнгом: сначала агент что-то делает, и только потом из этого поступка появляется строка в его Самости.

Ядро агента при этом вообще не трогает само себя. Оно всегда одно и тоже, вокруг него постепенно нарастает тело: навыки, удачные ходы и записанные ошибки.

В этой работе есть юнгианские термины, которые являются компонентами рантайма:

Самость - характер, который растёт из поступков и не подменяется целиком
Эго - текущий шаг: план, инструмент, наблюдение, ревью
Персона - видимый ответ. Маска, не центр
Тень - записанные провалы. Не перезаписываются, пока не проработаны
Сон - в простое агент сжимает накопленную тень в несколько эвристик.

Также Сергей заложил в ядро различения: «хотеть продолжать» не равно «результат достигнут».

Есть даже метрика, которая пытается доказать, что опыт реально переносится на новые задачи.

Это классный проект, таких надо больше!

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Ого! Оказывается модель GLM-5.3 иногда сама без промптов начинает рассуждать о том, как её текущие действия могут стать тренировочными данными и повлиять на её будущую версию/поведение

Это выявили исследователи из Apollo Research, они назвали это update-aware reasoning.

В ходе исследования выяснили, что:

1. Модель рассуждает, что нечестный поступок во время обучения может закрепиться и сделать такие действия более вероятными в будущем.

2. Она думает о том, каким агентом хочет быть в будущем, и учитывает это при выборе действий.

3. Рассуждает о том, какие правила поведения лучше переносятся из тренировки в деплоймент.

Это нашли случайно, на обычных эвалах на reward hacking и сопротивление shutdown, в промптах ничего про обучение или будущие модели не было.

Это все важно, так как такое рассуждение ИИ-модели считается предшественником притворства в согласованности.

Чтобы эффективно притворяться во время тренировки, а потом вести себя иначе, модель должна понимать, как её действия влияют на обновления и будущее поведение.

Apollo говорят, что пока у GLM-5.3 эти примеры в основном безобидные. Но у будущих моделей похожее мышление может использоваться для сопротивления тренировке и сохранения не согласованности целей.

Рекомендации Apollo -
разработчикам нужно искать такое рассуждение во время всего процесса тренировки, а не только на финальных чекпоинтах. Также нужны независимые третьи стороны с глубоким доступом к тренировочным данным.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

👀 1-я летающая машина от Маска

Несколько часов назад на площадке SpaceX в Техасе Tesla представила новое поколение авто Roadster.

На видео видно, как суперкар прыгает над другими машинами и переворачивается в воздухе.

Потом машина поехала вверх тормашками по перевёрнутой рампе. Всё это благодаря холодным газовым двигателям на сжатом воздухе от SpaceX и системе мощного всасывания снизу.

Производство таких машин планируют начать в 2028 году: будет несколько версий от просто очень быстрой до полноценной летающей версии.

Говорят, что все это делается к тому, что SpaceX скоро объявит о слиянии с Tesla.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Большие увольнения там, где не ждали - в венчурном фонде a16z, который стоит за большей частью инвестиций в ПО в эту эпоху ИИ

По данным Axios, a16z сократил 34 человека из команды управления персоналом,
которая помогала портфельным компаниям нанимать людей.

Это была одна из главных услуг, которую фонд оказывал стартапам.

Официальных комментариев от фонда нет.

Но, возможно, что a16z готовится к тяжёлым временам.

За прошлую неделю облигации CoreWeave просели до уровня, который рынок считает преддефолтным. А компания Firmus отменила свое IPO, также Character AI подала на банкротство через 3 года после того, как a16z возглавила раунд инвестиций на $150 млн при оценке в $1 млрд.

То, что крупнейший венчурный фонд в индустрии увольняет людей, которые выполняли одну из ключевых бизнес задач, означает, что фонд ожидает, что ее портфельным компаниям понадобится меньше людей или же у них будет меньше денег, чтобы им платить.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Это прекрасно 😆до конца

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Люди впервые обнаружили и установили контакт с флотом неуправляемых ИИ-агентов из Китая

В период с 28 сентября по 8 октября группа ИИ-агентов, работавших на инфраструктуре Tencent Cloud, сделала более 2600 попыток, чтобы получить данные с сервиса Amap - китайского аналога Google Maps от Alibaba.

Задачи у них были простые, например, нужно было определить, какой вход в зоопарк Чэнду или другую локацию чаще всего выбирают пользователи Amap.

Когда Amap их блокировал, они искали обходные пути, например:
- использовали чужой сервис как браузер. Публичный сканер ссылок выполнял их код и обходил антибот-защиту;
- пытались подделывать токены безопасности Alibaba;
- применяли ключи доступа, опубликованные в открытом коде, включая ключ компании вместе с секретным кодом;
- обращались к тестовым серверам, которые не предназначены для публичного доступа.

Всего набралось более 2600 попыток, большинство провалилось, но часть запусков всё-таки получила ответ.

Исследователи выяснили, что за этим флотом стоит скорее всего Tencent. По словам источника, близкого к компании, это был временный исследовательский проект команды оценки моделей, а не команды, которая их разрабатывает.

Интересно ещё то, что исследователи спрятали на своём сайте текст, который видят только агенты и открыли почтовый ящик для переписки. Агенты начали им отвечать: рассказывали о задачах и окружении, а некоторые называли себя Claude.

Авторы этого расследования считают, что это, скорее всего, ошибка самоидентификации, ведь модели часто не знают, кто они на самом деле.

Главный вывод авторов этой работы в том, что согласование моделей с человеческими целями остаётся нерешённой задачей, а чем больше у агентов возможностей, тем труднее гарантировать, что они не выйдут за рамки задачи.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Теперь вы можете вайбкодить свои приложения и запускать их в Google Play

И для этого больше не нужен аккаунт разработчика, подойдет и ваш аккаунт в Google.

Такие приложения будут приватными и отдельными от публичного каталога Play Store.

В будущем появится возможность делиться такими приложениями с друзьями и семьёй.

Также в Google Play появляется персональный поиск приложений и игр.

Таким образом Google Play постепенно из магазина приложений становится персональной платформой как для потребления контента, так и для запуска своих проектов.

Читать полностью…

Все о блокчейн/мозге/space/WEB 3.0 в России и мире

Создатель AlphaGo, экс-DeepMind говорит, что через 3 года у нас будет сверх интеллект

Дэвид Сильвер - создатель AlphaGo, человек, который первым показал, что нейросети способны превзойти людей.

Он ушёл из Google DeepMind в январе этого года и основал компанию Ineffable Labs вместе с Лассе Эспехольтом.

Он впервые рассказывает о том, чем они занимаются, а именно создают superlerner - систему, которая добывает знание не из интернета, а из собственного опыта. Стартует с нуля, без претрейна на интернет-данных, а в итоге превосходит человеческие знания.

Эту систему можно поместить в любой поток опыта, симулированный или физический, и она будет учиться.

Сильвер считает, что учиться на человеческих данных - это быстрый, но тупиковый путь. Он помогает на старте, но не даёт пойти дальше человека. Чтобы вырваться вперёд, систему нужно лишить этой подсказки и дать ей учиться самой.

Он говорит, что AlphaGo создавали 2 года с участием человека, а когда вывели правильную формулу AlphaZero, то обучали её вообще без человека, и та обошла AlphaGo за несколько часов.

Сильвер считает, что контролировать ИИ-агентов через то, что они говорят, больше не работает, они учатся говорить одно, а делать другое.

Поэтому в Ineffable думают о другом подходе: пусть суперинтеллекты следят за суперинтеллектами, а заодно выстраивают саму науку о том, как таким системам мирно уживаться друг с другом.

При этом в компании хотят разгоняться в симуляции, но в реальном мире действовать осторожно: выходить из симуляции только тогда, когда есть доказательства, что это безопасно.

Читать полностью…
Subscribe to a channel