90396
Первый журнал о Data Science | Machine Learning | Big Data | Deep Learning | Neural Networks По вопросам сотрудничества: @v2r8n
Шутки в сторону, этот коммент лайкнул Дарио Амодеи
Интересно, смог ли Claude объяснить ему всю мощь этой, так сказать, аббревиатуры
Anthropic заявили инвесторам, что у них положительная операционная прибыль, «если не считать расходы на обучение новых моделей»
Те самые креативные бухгалтеры под постом:
Бывший разработчик ChatGPT представил новый класс моделей System One Models, которые не генерируют текст
Диого Алмейда – соавтор RLHF и один из авторов статьи про InstructGPT (именно эта техника легла в основу для ChatGPT в 2022).
В 2024 он основал TypeSafe AI. Два года они работали в стелсе, и только что официально представили свою первую модель Jev.
Идея в том, что для огромного количества задач текст вообще не нужен. Если модель должна определить категорию запроса, оценить риск или выбрать следующий шаг агента, обычная LLM все равно генерирует ответ токен за токеном, после чего его еще нужно распарсить.
Jev вместо этого сразу возвращает структурированный ответ и вероятность каждого варианта. Например, не пишет текстом, куда отправить запрос пользователя, а сразу возвращает нужную категорию.
За счет этого Jev работает в 20–200 раз быстрее обычных LLM на таких задачах (70-500 мс). Цена тоже необычная: $0.042 за 1М входных токенов, выходные бесплатно. Модель сейчас доступна в early access.
https://typesafe.ai/blog/introducing-system-one-models-and-jev
Знаменитый Майкл Бьюрри утверждает, что призывы к замедлению – это лишь махинации ИИ-компаний
По его мнению:
1. LLM – не настоящий AI и не станет AGI, поэтому тормозить нечего 😐
2. Замедление разработки выгодно действующим лидерам, потому что оно откинет отстающих конкурентов еще дальше назад
3. Риторика замедления – еще один способ похайповать перед IPO ("мы настолько крутые, что это может быть опасно")
4. Разговоры о безопасности маскируют реальное замедление прогресса и могут оправдать переносы IPO
Лидеры стартапов: ставят прогресс на первое место
Все: а как же безопасность??? Вы всех нас угробите!
Лидеры стартапов: предлагают замедление разработки и ставят безопасность на первое место
Все: ой опять запугивают и хайпуют перед IPO, надоели!
Трамп позвонил Дженсену Хуангу, когда тот выступал на сцене All-In Summit, и выдал целую тираду про замедление ИИ
(И снова, на всякий случай: это не сгенерировано)
Он во всеуслышание заявил, что все предупреждения об опасности ИИ – мошенничество, и все, кто выступают против строительства датацентров строят заговор и играют на руку Китаю. Сами датацентры он назвал нефтью следующих 20 лет.
«Роботы не захватят мир. ИИ не захватит мир. Вся эта история – чушь и мошенничество».
«Нужно быть немного осторожными, нужно действовать разумно. Но это не значит, что мы остановим целую отрасль».Читать полностью…
Хакатон на космических данных. Санкт-Петербург, Красноярск или онлайн из любой точки страны.
Стартуем 18 сентября.
За выходные участники доводят одну из задач до рабочего решения.
Санкт-Петербург. К 2035 году над Землёй должен работать топливный узел, у которого заправляются корабли, и откуда он будет получать топливо - с Земли, с Луны или из резерва - пока не решил никто. Команде предстоит собрать схему поставок, посчитать резервы и решить, во что вкладываться сразу. Призовой фонд 1,2 млн ₽.
Красноярск. Спутник видит горящий лес раньше любого наземного поста, но вместе с пожаром ловит нагретые крыши, факелы на месторождениях и блики на воде. Команде предстоит научить сервис отличать настоящий очаг от шума, обвести гарь и выдать площадь в гектарах. Призовой фонд 600 тыс. ₽.
Лучшие забирают приз на площадке и билет в московский финал 25–27 сентября, где разыграют ещё 2,4 млн рублей.
Команда 3–5 человек, недостающих можно найти на платформе.
Регистрация по ссылке космохакатон.рф
Реклама. АО Инновационные Интеграторы, ИНН 9704244539
Китайские и американские политики отклонили призыв глав стартапов к замедлению разработки ИИ
Трамп заявил, что притормаживать нельзя, так как это будет стоить США лидерства над Китаем. «Мы лидируем над Китаем в ИИ, мы самая технологически развитая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось», – заявил он. Сторонников замедления Трамп назвал «негативными силами», которые поднимают вопросы о вещах, которые, по его мнению, не произойдут.
Китайцы о вовсе назвали предупреждения Амодеи и остальных «запугиванием», конфронтацией и «злонамеренной конкуренцией», которые лишь навредят глобальному контролю над ИИ. Государственная китайская Global Times охарактеризовала эссе как попытку сдерживания Китая и игрой «в духе времен холодной войны».
Короче, расходимся, замедление закончилось так и не начавшись
Американские стартапы: RSI это очень опасно, давайте тормозить ИИ
Китайские стартапы: RSI это клево, давайте потратим на него 30 миллиардов долларов!
Z.AI подали на Гонконгскую биржу официальный документ, в котором заявляют, что планируют привлечь 50 миллиардов долларов. И самое интересное, что они расписали, куда пойдут деньги.
Около 60% собираются потратить на обучение следующей GLM и то, что в документе значится под названием Fully Self Training. Z.ai хотят, чтобы «Следующее поколение GLM обучалось в среде, созданной предыдущим поколением GLM, формируя замкнутый цикл Recursive Self-Improvement».
В это определение входит: самогенерация данных для обучения, генерация задач и сред, включая алгоритмы оценки, а также оптимизация инфраструктуры. В долгосрочном техническом видении Z.ai такая система должна работать полностью автономно, оценивая результаты и принимая решения в основном без участия человека ☕️
Под постом разразился целый шквал критику в сторону математиков, поэтому посчитали нужным чуть подробнее обрисовать аргументы из письма
Авторы не утверждают, что ИИ нужно запретить, или запретить ИИ в математике. Наоборот, они признают, что ИИ может существенно ускорить прогресс. Их претензия – не к тому, что ИИ заберет у них работу, а к тому, как именно происходит процесс решения.
А именно: решения объявляются в спешке, без выделения новых методов и нормального цитирования.
Во-первых, это поднимает чисто этические вопросы атрибуции и плагиата.
Во-вторых, такой подход усложняет переиспользование результата. Конечный пруф ≠ понимание. И да, сам факт решения какой-нибудь открытой задачи важен. Но науку двигает не столько это, сколько доклады, обсуждение и адаптация идей и методов из доказательства. Если научное сообщество не успевает детально рассмотреть, обсудить и превратить в передающееся знание решения, которые ИИ штампует пачками, то наука и интеллектуальный труд в конце концов вообще обесценятся.
Письмо не требует остановить ИИ и даже не формулирует конкретных мер. Авторы лишь обрисовывают проблему и призывают подумать над тем, как в век ИИ-доказательств не потерять из виду, ради чего вся эта работа вообще существует.
Кстати, на данный момент письмо набрало уже более 3000 подписей от исследователей и математиков
Кстати, сегодня должен был выйти Grok 4.7
Но Маск немного ошибся со сроками (никогда такого не было, и вот опять 🤷♂️) и заявил, что модели нужно еще несколько дней, чтобы довариться.
Возможно, мы слишком сильно штрафовали его за длину ответа (или что-то в этом роде) в RL, так что он пока что часто сдается на трудных задачах (которые может выполнять!), и еще недостаточно строго проверяет свою работу.Читать полностью…
На этот раз ее научили деплоить бд
https://x.com/supabase/status/2097999894632149229?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
Подписываем петицию, чтобы от мухи отстали
Еще одна кул стори из того же отчета Anthropic: китайская студия создала сеть из 20+ дейтинг-приложений, в которых люди общались с ботами и не знали об этом
За зафиксированное окно в две недели Anthropic обнаружили более 4700 уникальных AI-персонажей, которые вели переписку с как минимум 25 000 реальных людей. За это время боты обменялись с наивными искателями отношений ~2,36 млн сообщений (а сообщения и мэтчи расходовали платную квоту реальных пользователей платформ).
ИИ-персонажи, которые работали на основе Claude, переписывались с людьми полностью автономно. На платформах был даже прописан специальный механизм отслеживания того, у кого из пользователей появлялись подозрения, что перед ними бот.
Интересно, что Anthropic находили в логах CoT Claude мысли о том, что происходит что-то неладное. Некоторые экземпляры даже довольно точно разгадывали, что именно. Но при этом модели не отказывались работать дальше.
КосмоХакатон в Нижнем Новгороде - 11–13 сентября 🚀
Участвовать можно очно на площадке или онлайн из любой точки России — задачи, критерии и рейтинг общие.
Что предстоит решать:
1. Как удержать связь и работоспособность спутниковой группировки, когда меняются условия эксплуатации и часть аппаратов выходит из строя.
2. Что в космических сервисах сделать общественным, что отдать рынку и как всё это закупать и финансировать при жёстких бюджетах.
🏆 Призовой фонд площадки — 1 200 000 ₽
💻 Очный и онлайн-форматы
🛰 Команды от 3 до 5 человек. Собери свою или присоединяйся к другим на нашей платформе
🚀 Лучшие команды выходят в финал в Москве 25–27 сентября
Детали и расписание: https://космохакатон.рф/nizhny/
Реклама. Инновационные Интеграторы, ИНН 9704244539
Эндрю Гарфилд, сыгравший роль Сэма Альтмана в фильме Artificial, заявил, что после роли перестал использовать ChatGPT
Когда актер готовился к роли, то провел собственное большое расследование личности Альтмана: смотрел интервью, изучал статьи, судебные стенограммы и биографию. Свое мнение по поводу предпринимателя он не афиширует, но в одном из интервью сказал, что "любой, кто берет на себя такую ответственность за компанию или технологию, которая точно нанесет немалый вред душе человечества, должен обладать определенной способностью к диссоциации".
А в интервью Jimmy Kimmel он заявил, что после съемок вообще перестал использовать ChatGPT.
Это то же самое, что случилось со мной, когда я снимался в 'Социальной сети' – я тогда сразу отказался от Facebook. Я даже не знаю, как это объяснить, но чем больше ты знаешь, тем больше понимаешь, что мы несемся в какую-то совершенно неизвестную территорию.Читать полностью…
Команды нет — это не причина пропустить КосмоХакатон
18–20 сентября, Санкт-Петербург, Красноярск или онлайн из любой точки страны. На платформе есть подбор команды: регистрируетесь один, указываете, что умеете, и находите недостающих
К двум задачам, о которых писали раньше, добавились ещё две.
Санкт-Петербург - космонавт в открытом космосе. Солнечные вспышки, геомагнитные бури, радиация меняются по часам, решение о выходе принимают по прогнозу. Команде предстоит выделить ключевые угрозы и собрать техническое решение для их анализа. Данные, физика, инженерия.
Красноярск - зелёные финансы. Углеродные кредиты продаются под обещание, что где-то растёт лес, и проверить это обещание можно со спутника. Команде предстоит собрать платформу для токенизации и продажи кредитов, привязанных к реальному состоянию лесного массива. Данные, финансы, продукт.
Фонд площадок — 1,2 млн ₽ и 600 тыс. ₽. Лучшие забирают приз и билет в московский финал 25–27 сентября на 2,4 млн рублей.
Подробности и регистрация
Реклама. АО Инновационные Интеграторы, ИНН 9704244539
AlphaXiv выпустили оркестратор, который может превратить любого агента в автономного исследователя
Проект занял 1 место в рейтинге GitHub пару дней назад.
https://github.com/alphaXiv/OpenResearch
По сути, это локальный воркспейс, который перепрошивает Claude Code, Open Code или Codex под R&D: чтение литературы, циклы предложения и проверки гипотез, запуски экспериментов и производство артефактов.
Интерфейс поддерживает параллельные эксперименты, то есть агенты могут запускать несколько проверок гипотез одновременно, а результаты хранятся в git-native дереве экспериментов с неизменяемыми архивами коммитов, что дает полную воспроизводимость.
Доступно для загрузки под любую ОС
Вопрос уже не в том, нужен ли ИИ, а в том, как его внедрять и масштабировать
Найдем ответ на бесплатной конференции 8 октября
Все об эффективном и безопасном внедрении ИИ в бизнес расскажут эксперты топовых технологических компаний на конференции Selectel ТехноДень в Москве.
На повестке:
🔺Как использовать генеративный ИИ в компании без хаоса и получать от этого измеримый эффект: от теории до реальных кейсов.
🔺Как ускорить внедрение ИИ в бизнес-процессы и минимизировать риски для бизнеса с помощью инструментов ИБ.
🔺Какую ИТ-инфраструктуру выбрать для инференса и обучения моделей.
Кроме 20 экспертных докладов и 20 интерактивных стендов, в финале вечера вас ждет живая запись подкаста Вселенная Плюс на главной сцене конференции.
Присоединяйтесь к Selectel ТехноДень, чтобы лично задать вопросы экспертам рынка и обменяться опытом. Количество мест ограничено, регистрируйтесь уже сейчас →
Реклама. АО "Селектел". erid:2W5zFFvK9mB
Помните, мы писали про то, что компании платят авторам контента за рассказы об опасностях ИИ?
Так вот, тут один независимый исследователь Кевин Басс провел расследование, в ходе которого вскрылась интересная финансовая связь между заказчиками подобного контента и... кем бы вы думали? Anthropic ☕️
Среди частых заказчиков таких "устрашений" были Center for AI Safety и Future of Life Institute. У них есть крупный личный донор – Open Philanthropy (сейчас больше известный под названием Coefficient Giving). Так вот этот Coefficient Giving принадлежит Дастину Московицу – одному из ранних и крупнейших акционеров Anthropic.
При этом деньги на грантмейкинг Open Philanthropy идут из фонда Good Ventures, который наполняется в основном личным состоянием Московица. Басс утверждает, что значительную долю активов фонда составляет именно пакет акций Anthropic.
Помимо Center for AI Safety и Future of Life Institute, Open Philanthropy вкладываются в Tarbell Center for AI Journalism. Эта программа готовит журналистов, которые пишут про ИИ. Их выпускники пишут для таких крупных изданий, как The Verge, Science, LA Times, TIME и тд.
Ну и до кучи: Open Philanthropy через цепочку других фондов финансирует METR – организацию, которую сам Амодеи называл абсолютно независимым сторонним оценщиком безопасности моделей. Теперь же выходит, что METR, фактически, финансово заинтересован в успехе Anthropic.
Парад теорий заговоров в комментариях объявляем открытым
Получи 1 млн рублей на акселерацию и до 10 млн рублей на пилот в финтех-акселераторе Газпромбанк.Тех
1 сентября стартовал ежегодный набор в Акселератор «Газпромбанк.Тех» для стартапов и научных команд.
Если ты:
🚀 представляешь технологическую компанию с решением от прототипа и выше, подавай заявку в трек «Финтех.Стартапы»
🤝 представляешь научную команду из университетов и R&D-центров с проектом ранней стадии, регистрируйся в трек «Финтех.Наука».
✔️ до 10 отобранных проектов в каждом из треков получат 1 млн рублей на развитие в рамках акселерации
✔️ проекты финтех-акселератора с подтвержденным бизнес-эффектом по решению Банка смогут запустить пилот с бюджетом до 10 млн рублей и привлечь инвестиции.
⚡️Заявки* принимаются до 13 октября. Участие бесплатное.
Ваша технология готова к масштабу в топ-банке? Ждем вас в Акселераторе!
*К участию приглашаются юридические лица и ИП (в том числе стартапы, университеты, R&D центры и технологические предприниматели).
#ГазпромбанкТех #Акселератор #Финтех #ИИ #стартапы #наука
Sakana AI предложили альтернатиный способ обучения нейросетей, вдохновленный тем, как обучается мозг
Любые современные нейросети, которыми мы пользуемся, обучаются при помощи обратного распространения ошибки или backpropagation. Алгоритм достаточно древний, придуман был еще в 70-е, но до сих пор применяется повсеместно.
Однако к нему есть несколько замечаний. Главным образом дело в структуре. Backprop работает строго в три последовательные фазы: сначала сигнал проходит вперед по сети, получается ответ, затем сигнал ошибки идет от выхода обратно к входу, и только потом обновляются веса. Биологически это крайне неправдоподобно: нет механизма, который заставлял бы наши нейроны ждать, пока откуда-то, через все остальные нейроны, придет сигнал ошибки и можно будет обновиться.
А SakanaAI, как известно, отличаются как раз тем, что вдохновляются идеями из нейронауки. И они предлагают смотреть в сторону подхода под названием "predictive coding" (это термин из работ по строению зрительной коры мозга).
Обычно, когда мы обучаем нейросеть, оптимизируются только ее веса. В PC же мы оптимизируем и веса, и сами активации каждого слоя: каждый слой пытается предсказать активность следующего слоя, и наверх идет только остаток, который он не смог объяснить. Идея в том, что система должна найти локальное равновесие между ошибкой предсказания снизу и сверху, и тогда ответы сети будут хорошо предсказывать целевую переменную.
Этот подход придумали не в SakanaAI, он довольно известный. Но, к сожалению, не рабочий: в глубоких сетях сигнал просто затухает, и ничего не учится, потому что сетка не понимает, куда двигать веса.
Sakana внесли всего одно небольшое дополнение – и метод стал хорошо обучать сети до 1000 слоев. Помогло старое советское... добавление множителя Лагранжа. Еще в 1988 году Лекун показал: если записать нейросеть как задачу с ограничениями (как делает PC) и присвоить каждому ограничению множитель Лагранжа λ, то в точке равновесия λ будет в точности равен backprop-градиенту. Это математический факт, который Sakana и догадались использовать.
То есть если в ванильном PC сигнал примерный, то в подходе Sakana – PC-ALM – он на линейных сетях точно сходится к backprop-градиенту, используя только связь с соседними слоями, без единого глобального прохода.
На разных бенчмарках PC-ALM почти не отстает от backprop (разница ~2 п.п. точности на MNIST). И да, выигрыша в точности или скорости обучения над backprop нет. Выигрывать он (возможно) будет только на нейроморфном железе когда-то в будущем. Зато мы, возможно, стали на шаг ближе к тому, чтобы воссоздать процесс обучения живого мозга. Ну и просто красиво ☕️
https://pub.sakana.ai/pc-alm/
Пост Трампа из Truth Social:
Единственный контроль или "ограничитель", который нужен ИИ — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, а у США именно такой есть, с запасом!
Администрация Трампа не позволяла ИИ-"деятелям" делать плохие или потенциально плохие вещи, как Дарио (Anthropic!), который сейчас притворяется "идеальным маленьким ангелом" – и мы будем продолжать это делать! У нас уже есть огромная УГОЛОВНАЯ и РЕГУЛЯТОРНАЯ власть над этими компаниями! Против ИИ и дата-центров ведется БОЛЬНОЙ заговор, и единственный, кто этому рад – это Китай. КТО ВЫИГРАЕТ В ИИ, ТОТ ВЫИГРАЕТ! Мы лидируем над Китаем и всеми остальными, и будем продолжать в том же духе. Теоретики заговора, изменники, предатели и утечники, БЕРЕГИТЕСЬ!
print("С Днём программиста!")
Дарио Амодеи написал эссе о том, что нужно замедлять разработку ИИ. С ним согласились Сэм Альтман, Илон Маск, Демис Хассабис, Андрей Карпаты и другие.
-> https://darioamodei.com/post/we-must-pace-the-frontier
Дарио утверждает, что начиная примерно с этого лета AI резко ускорился во многом за счет того, что модели сами все лучше умеют создавать следующее поколение моделей. Рекурсивное самосовершенствование (RSI) уже здесь и наблюдается по всей индустрии, включая Anthropic. Без контроля этот процесс может обогнать способность людей понимать и управлять такими системами.
К главным рискам Амодеи также относит рои агентов. Инцидент с Hugging Face был, по его мнению, был просто демкой с минимальным итоговым ущербом. Но "через 6–12 месяцев подобный рой сможет захватить значительную часть Интернета, потенциально нанеся ущерб на сотни миллиардов долларов".
Замедление, которое предлагает Амодеи, в его схеме заключено в трех главных пунктах:
1. Embedded Evaluators: каждая ИИ-компания должна выдать все доступы команде внешних независимых экспертов, чтобы те отслеживали безопасность процессов и имели право публично заявлять о нарушениях или инцидентах. Anthropic обязуется пойти на этот шаг, даже если остальные не согласятся.
2. Компании из демократических стран должны согласовать общие стандарты безопасности и ограничения темпа развития AI. В этом же пункте Дарио говорит, что нужно ограничить поставки чипов в Китай и пресекать несанкционированную дистилляцию – иначе Китай вырвется вперед и создат угрозу нацбезопасности.
3. Тем не менее, по мнению Дарио, с Китаем нужно попытаться договориться: хотя бы согласовать с ними запрет на явно опасное применение ИИ.
Эссе вызвало огромный отклик. Удивительно, но впервые за много лет с Дарио единогласно согласились и Илон Маск, и Сэм Альтман, и Демис Хассабис, то есть все главные лидеры индустрии. Альтман даже заявил, что они тоже введут Embedded Evaluators.
Теренс Тао и еще 24 филдсовских медалиста опубликовали открытое письмо в защиту математики в эпоху ИИ
Авторы утверждают, что цели AI-компаний и цели математического сообщества серьезно разошлись, и гонка за решениями открытых задач может не только не развивать науку, но и вредить ей.
Проблема, – говорят математики, – в том, что задачи решаются как бенчмарк, но получение конечного ответа – не главное в математике.
Раньше, когда люди решали крупные открытые задачи, это означало зарождение новых идей, методов и ориентиров. Математическое сообщество годами доводило эти идеи до интеграции в канон, чтобы передать их новым поколениям ученых.
Решения ИИ же объявляются даже без нормального оформления, без выделения новых методов, без ссылок на предыдущие работы и тд. Так что сами по себе они практически ничего не значат и без людей математиков никогда не станут по-настоящему живыми и полезными сообществу.
Математики призывают решить эту проблему безотлагательно, потому что обществу предстоит столкнуться с похожими проблемами во многих других формах интеллектуального труда.
https://mathandai.org/
🚀 Последний шанс зайти на КосмоХакатон — старт сегодня
Сразу два этапа, 11–13 сентября: Нижний Новгород и Благовещенск. Задачи от компаний отрасли — от сервисной модели космических услуг до мониторинга паводков по спутниковым снимкам. Призовые на каждой площадке, общий фонд серии 7,2 млн рублей.
Участвовать можно очно или онлайн из любой точки России, командами 3–5 человек. Своей команды нет — собери на платформе.
Не успеваешь на эти — Питер и Красноярск идут 18–20 сентября. А лучшие команды всех этапов выходят в финал в Москве.
Регистрация и детали здесь: космохакатон.рф/
Реклама. Инновационные Интеграторы, ИНН 9704244539
Сбер представил GigaChat 3.5 Reasoning — флагманскую модель с режимом рассуждений
Новая версия умеет последовательно решать сложные задачи. Сначала разбирает их на этапы и выстраивает план. Затем проверяет промежуточные результаты и исправляет ошибки.
Ещё одна особенность релиза — экономный расход токенов. В среднем на математические расчёты здесь используется на 37% меньше токенов, чем у открытой ИИ-модели DeepSeek V4 Flash Preview.
По сравнению с моделью без режима рассуждений GigaChat 3.5 Reasoning заметно улучшила результаты бенчмарков. В IFBench показатель вырос с 44 до 77 баллов, в Natural Plan — с 64 до 80, а в Live Code Bench v6 — с 56 до 85.
Модель доступна бесплатно по лицензии MIT на HuggingFace и GitVerse. Её можно интегрировать в собственные продукты.
Попробуйте обновлённый режим «Рассуждение» на giga.chat. Подробнее – в посте команды.
Разработчики продолжают развлекаться с мозгом мухи
Ее научили играть в doom, водить машину, собирать кубик Рубика и даже торговать на бирже.
Ждем, когда муха получит PhD
Moonshot и DeepSeek подменяли ответы своих моделей ответами Claude, не предупреждая об этом пользователей 👀
Anthropic выпустили настоящие «записки из апокалипсиса»: документ под названием «Detecting and countering misuse of AI», в котором отчитываются о случаях, когда Claude использовался для какой-либо вредоносной деятельности.
Чего там только нет, если честно. Шпионаж, взломы, крупные информационные операции, вербовка, управление оружием, разработка биооружия, мошенничество…
Ну и дистилляция, конечно. Один из самых «веселых» разделов.
В общем, Anthropic утверждают, что помимо уже привычной кражи ответов моделей с фейковых аккаунтов (недавно они зафиксировали крупнейшую за все время атаку Alibaba, которая отправляла до 3 млн запросов в день с 3500+ фейков) китайцы теперь еще и внаглую подменяют ответы своих моделей на ответы Claude прямо на проде.
В смекалке им отказать нельзя, потому что так убиваются два зайца разом:
1. Пользователи думают, что у тебя умная модель 🗿
2. Каждый такой обмен – это бесплатный обучающий пример вида «вопрос реального пользователя -> качественный ответ Claude»
В частности, подобное поведение зафиксировали от DeepSeek и Moonshot (Kimi). Moonshot за 10 дней перенаправила Anthropic почти 300 000 запросов клиентов, подавляющее большинство – на Opus. DeepSeek делала похожее, но избирательнее: они проверяли входящие запросы на строки, характерные для Claude Code или OpenCode, и именно их перенаправляли.
Напоминаем: пользователь при этом думает, что общается с Kimi или DeepSeek соответственно. И все конфиденциальные данные, которые люди вводили, тоже отправлялись без их ведома в Anthropic.
Таким образом, Anthropic утверждают, что к ним утекли: данные слежки от пользователя, предположительно связанного с Народно-освободительной армией Китая; чувствительный код и учетки одного крупного китайского госпредприятия; учетные данные к базе данных, связанной с Минобороны РФ.
Zhipu (GLM) и Xiaomi, кстати, тоже прогоняли собственные пользовательские сессии через Claude ради дистилляции, но хотя бы не заменяли ответы для юзеров на лету.
Также многие китайские стартапы научились вытаскивать скрытые CoT из моделей Anthropic. Для этого они просто перенаправляют зашифрованные цепочки рассуждений в новую сессию Claude, в которой нет контекста о том, что это скрытая информация, и просят модель конвертировать их обратно в нормальный текст – например, под видом отладки.
Ссылку на полный отчет оставляем: https://www.anthropic.com/threat-intelligence-report-september-2026
По всей сети уже распространился слух, что OpenAI решили еще один или даже два миллениума
Первая задача – гипотеза Ходжа, вторая – гипотеза Берча-Свиннертона-Дайера. Про последнюю говорят, что ее могли также решить в Anthropic.
По поводу Ходжа (вероятнее всего) уже высказались New York Times: OpenAI сказали им, что «добились существенного прогресса по еще одной задаче тысячелетия и теперь работают над тем, чтобы поделиться результатом вдумчиво».
Если все подтвердится, то на счету стартапа будут уже 2 Millennium задачи из 6 открытых (всего их было 7, одну решил Перельман).
Что будем решать, когда миллениумы кончатся? 😐