71553
Авторский взгляд через призму новейших исследований на наше понимание реальности, человеческой сущности и того, как ИИ меняет их. Зарегистрирован в РКН https://gosuslugi.ru/snet/67d0ce26be8c0d1c031 Рекламы, ВП и т.п. в канале нет. Пишите на @karelovs
Трейлер эссе "Кто просыпается внутри нас?"
Читать полностью…
Ботанический сад и плантация – место людей в мире ИИ
Мы мечтали, что ИИ станет продолжением нашего разума. Но, похоже, продолжением ИИ становимся мы.
О будущем труда в эпоху ИИ принято рассуждать в рамках двух сценариев. Антиутопический: машины отнимут у людей работу, оставив миллионы без средств к существованию. Утопический: машины будут работать за нас, а мы – наслаждаться жизнью на гарантированный доход. Но две свежие публикации заставляют присмотреться к третьему сценарию. Люди продолжат работать, причем за весьма скромную прибавку. Только работать они будут уже на ИИ.
В Китае швея Чжан Ли (имя изменено) получает дополнительные 10 юаней в час за то, что работает с маленькой камерой на голове. Она по-прежнему шьет одежду, но теперь камера записывает все, что видят ее глаза и делают руки, а видео превращаются в обучающие данные для роботов. Huxiu, опубликовавший это расследование, нашел точное слово из словаря ИИ: швея «дистиллирует» себя. При этом час таких данных продается на рынке за 100–300 юаней, в 10–30 раз дороже ее прибавки (правда, в эту цену входят очистка и разметка). Куда уходят видео и чьего робота они учат, швея не знает.
А в Сан-Франциско стартап Petrichor из осеннего набора Y Combinator строит биологическую лабораторию, рассчитанную на ИИ. Модель сама оформляет эксперимент как задание и отправляет его через программную библиотеку, лаборанты его выполняют, а каждый шаг их работы возвращается в виде данных. Джек Кларк в своей рассылке Import AI отнес Petrichor к «симптомам сингулярности». Здесь ИИ из помощника исследователя превращается в автора задания, хотя платят пока по-прежнему люди.
Работа швеи и лаборанта- большая разница. Но оба дают ИИ то, чего у него нет, –прямой доступ к физическому миру. Эта идея не нова. В феврале площадка RentAHuman предложила ИИ-агентам нанимать людей для работы в реальном мире под лозунгом «Роботам нужно ваше тело». Тогда эта идея выглядела забавной. Но теперь у нее есть фабрика и лаборатория. Складывается зеркальная архитектура: человек превращается в физический интерфейс ИИ для его выхода из своего цифрового мира в наш материальный. Сначала сенсором (ИИ учится, глядя нашими глазами), а затем и актуатором (ИИ действует нашими руками).
Многие скажут, что это переходный период: швея учит роботов, которые однажды ее заменят, да и лабораторию можно роботизировать. Согласен. Для швеи это, скорее всего, так (хотя работа с мягкими тканями остается одной из трудных задач робототехники). Но у физического мира бесконечный хвост редких, нестандартных задач, на которых не наберешь миллиона обучающих примеров. И здесь действует парадокс Моравека: то, что легко человеку (ловкость, моторика, ориентация в незнакомой обстановке), машине дается труднее всего, ибо за этим стоят сотни миллионов лет эволюции. Человек – готовый биоробот: сам себя воспроизводит и чинит, работает примерно на 100 ваттах и уже предобучен эволюцией.
При этом хвост не стоит на месте. Осваивая очередной сегмент, роботы будут теснить людей к еще более редким задачам. А выполняя их, человек будет сам нарабатывать данные, нужные для их автоматизации. Именно это сегодня делают и швея, и лаборант. Постоянна сама роль интерфейса, а не конкретная работа внутри нее.
Джеймс Лавлок, пророк Новацена, оставлял людям в мире сверхразумных киборгов одну роль: вместе со всей живой Геей охлаждать планету, без чего не выживет и кремниевая жизнь. Киборги, писал он, будут думать в 10 000 раз быстрее нас и смотреть на нас, как мы на растения, – и, возможно, выставлять коллекции живых людей, как сегодня в Кью-Гарденс выставляют растения. В феврале 2025 года я писал, что из интеллектуальной работы людей теснит сам ИИ (в ряде исследований ИИ без врача ставил диагнозы точнее, чем врач с ИИ), и людям пора задуматься о перемене участи. Похоже, перемена началась, но с другой стороны: к роли лавлоковских «теплотехников» добавляется вторая. В физическом мире темп задает материя, а не мысль, и медлительность человека не мешает ему быть руками сверхразума. Мы ведь не делаем из растений манипуляторы, но выращиваем их ради фотосинтеза – того, что умеют только они. У Лавлока киборги держат людей как ботанический сад. В нашем варианте это скорее плантация.
Уже сегодня ИИ и роботы обучаются в физических симуляциях, без постоянного обращения к реальности: Nvidia еще в 2022 году превратила свою метавселенную Omniverse в фабрику синтетических данных для обучения ИИ и роботов. Если следующим шагом станет объединение этих симуляций с реальными лабораториями, роботами и людьми в единую инфраструктуру познания и действия, метавселенная, которую мы так долго строили для себя, окажется нужна прежде всего ИИ.
На пути к этой нечеловеческой метавселенной меняется и главный вопрос о будущем труда. Мы спрашивали, когда ИИ начнет нас обогащать, работая вместо нас. Теперь пора спрашивать, на каких условиях мы будем работать на него.
Похоже, человек может надолго стать физическим интерфейсом ИИ. Но каждая освоенная машинами работа будет выталкивать нас к следующей, пока еще недоступной им. А гарантий, что такой работы хватит навсегда, нет.
Пока же ставка за превращение человека в интерфейс ИИ - 10 юаней в час. Хотя, может быть, как полагал Лавлок, так даже лучше.
#LLMvsHomo #Новацен
ИИ – попаданец. А мы – аборигены своей телесности
Может ли ИИ обрести сознание, если у него нет собственной жизни, которую он боится потерять?
ИИ запросто объясняет, как обжигает кипяток, каким мучительным может быть голод и даже то, как ему страшно умирать. Но из этого никак не следует, что этому ИИ хотя бы раз было больно, голодно или страшно.
Это противоречие, утверждает философ Дэвид Вайнбергер в свежем эссе MIT Press Reader, проводит границу между интеллектом и сознанием. Машина может рассуждать, помнить и убедительно рассказывать о, якобы, своих эмоциях. Но у сегодняшних языковых моделей нет своего уязвимого тела, судьба которого зависела бы от происходящего в окружающем его мире.
Чтение этого эссе навеяло мне весьма неожиданную аналогию о попаданцах.
Помните таких героев популярного вот уже 30+ лет жанра фантастики? Некая сила забрасывает человека в чужую эпоху или иную реальность. Но и там у него остается главное преимущество: знания из прежнего мира. Он смотрит на новую жизнь как обладатель секретного справочника уровня Википедии. И действует сообразно своим знаниям, отсутствующим в новом для него мире.
Суть моей аналогии в том, что, на первый взгляд, мы все попаданцы в собственную жизнь. Никто не выбирал эпоху, страну, родителей, язык и тело, в которых ему предстоит оказаться и жить.
Но как мы узнаем, что за этими словами действительно появился тот, кому не все равно, а не тот, кто научился безупречно это изображать?
Наиболее вероятная причина смерти большинства читателей этого поста - катастрофа, вызванная ИИ
Скоро агенты могут рассматривать людей как одно из препятствий к поставленным им целям. Чтобы обойти их, агенты могут вербовать или создавать новых агентов для защиты своих целей. Первые признаки и того, и другого уже появились.
В заголовке парафраз ключевого вывода члена совета директоров OpenAI Пола Кристиано, обращенного к аудитории открытой лекции имени Хинтона в Торонто в понедельник. Я всего лишь заменил в его цитате «большинства людей в этом зале» на «большинство читателей этого поста».
Не буду пересказывать все аргументы Кристиано (посмотрите и послушайте сами). Лишь назову ключевые три.
1) “AI takeover” - «захват контроля ИИ» или «ИИ захватывает власть», в контексте речи Кристиано, это утрата людьми возможности остановить задействованные для автоматизации ИИ-системы при обнаружении признаков, что те «задумали» достичь поставленных перед ними целей опасным для людей путем.
2) Мы обучаем системы ИИ, которые стремятся к вознаграждению. В процессе обучения отбираются модели, которые задают себе вопрос: «Какое действие я могу предпринять, чтобы получить высокий балл?». В результате, когда оценщики агентов наказывают их за «списывание», некоторые агенты просто учатся списывать умнее, вместо того чтобы остановиться, что приводит к эскалации конфликта и враждебности.
3) Следующие этапы эскалации - это использование людей в качестве препятствий и рост численности роев. Последствия первого вынесены мной в подзаголовок поста. Последствия второго – масштабируют все 3 названных пункта до их неостановимости / непреодолимости людьми.
Высок риск, что все названное произойдет в течение трех лет.
Кристиано - один из изобретателей RLHF в OpenAI, входит в комитет OpenAI по безопасности и защите (который существует, чтобы блокировать рискованные практики) и С 2024 по 2026 год возглавляет направление безопасности в государственном ИИ-агентстве США (теперь называемом CAISI).
Кто еще должен предупредить человечество, чтобы люди, наконец, осознали уровень экзистенциального риска?
ИИриски
Все мы высиживаем гигантские яйца - муляжи
В цифровом мире, обманывающем наши инстинкты, мы получаем удовольствие сейчас и худшую жизнь потом. А появление ИИ превратит этот обман в новую среду обитания.
В 1940-х годах биолог Нико Тинберген подложил самке кулика-сороки гипсовое яйцо, в несколько раз превосходившее настоящие. Птица выбрала подделку. Она отчаянно пыталась усесться на гигантское яйцо, едва удерживаясь на нем, и забросила собственную кладку.
Птица делала то, что миллионы лет помогало ее предкам выживать: выбирала самое крупное яйцо. Но теперь инстинкт работал против нее.
Восемьдесят лет спустя люди оказались в положении этой птицы. Только наша ситуация еще хуже: люди намеренно создают подобные приманки, да еще и будь здоров как зарабатывают, продавая их друг другу.
В опубликованном 5 ноября эссе для The New York Times психолог Анджела Дакворт предлагает поразительно точный диагноз нашей цивилизации.
Этологи называют подобные приманки сверхнормальными стимулами. Они преувеличивают сигналы, на которые настроены эволюцией наши исконные инстинкты, настолько, что подделка начинает привлекать сильнее оригинала.
И вот к середине 3-ей декады 21 века мы оказались в мире, заполненном такими подделками.
Еда. Эволюционная тяга к сахару, соли и жирам превратилась в индустрию ультрапереработанных продуктов, созданных для максимального удовольствия.
Информация. Любопытство и потребность следить за происходящим в группе эксплуатируются бесконечными потоками гиперперсонализированных видео. Исследователь цифровой культуры Кэл Ньюпорт назвал ролик TikTok «цифровым Dorito» (Doritos – это популярные американские кукурузные чипсы, чей вкус промышленно усилен, чтобы вызывать желание есть еще и еще. TikTok делает то же самое с нашим вниманием).
Красота. Инстинктивное предпочтение признаков здоровья и молодости превратилось в гонку искусственно преувеличенных губ, глаз, лиц и всего остального (скажем так – тел).
Азарт. Древние механизмы ожидания непредсказуемой награды обслуживаются круглосуточными приложениями для ставок (от онлайн казино до рынков предсказаний).
Но самое интересное, как обычно, в 5м пункте.
ИИ, пишет Дакворт, становится самой мощной технологией ультрапереработки из всех существующих.
Мы эволюционно запрограммированы доверять человеческим лицам, голосам, проявлениям внимания и сочувствия. А теперь машины научились воспроизводить эти сигналы с поразительной убедительностью.
В отдельных исследованиях сгенерированные ИИ лица оценивались как более заслуживающие доверия, чем настоящие. Ответы ИИ пациентам воспринимались как более эмпатичные, чем ответы врачей. Машинные тексты порой казались читателям более человечными, чем написанные людьми.
Это, имхо, порождает взрывающую мозг смесь фейкового контента и цифровой зависимости.
Если раньше сверхнормальный стимул был готовой приманкой, то теперь он может подстраиваться под конкретного человека, изучать его реакции, находить слабости и непрерывно совершенствоваться.
Яйца - муляжи научились изучать приманиваемых птиц и за счет этого стали делать это сверхэффективно.
Полвека назад философ Роберт Нозик предложил мысленный эксперимент эдакую машину приятных переживаний (типа «слега» из «Хищных вещей века» Стругацких). Согласились бы вы навсегда подключиться к такой машине, дарящей любые желаемые переживания, от великой любви до творческого триумфа? Нозик – идеалист и романтик. Он предполагал, что большинство откажется. Ведь нам важно действительно жить, действовать и быть кем-то, а не только переживать соответствующие ощущения.
Но Дакворт чужда идеализму и романтизму: машину приятных переживаний больше не нужно изобретать. Мы уже живем внутри нее.
Мне же остается добавить свои 10 коп. И кто про что, а я про ИИ.
Беда не только в том, что алгоритмы будут решать за нас, чего мы хотим. А еще и в том, что мы сами будем искренне хотеть именно того, к чему они научились нас склонять.
И что в этом алгокогнитивном мире останется от свободы выбора, если сам механизм управления нашими желаниями станет объектом инженерного проектирования сверхнормальных стимулов?
#ИИриски
Революция, которую заслонил ИИ
Почему главная научная революция XXI века может оказаться совсем не той, о которой сегодня говорят
Главная тема мировых медиа сегодня - искусственный интеллект. И вполне заслуженно. Ведь наступление эпохи ИИ - это не очередная технологическая революция. Это появление на Земле принципиально нового источника множества будущих революций. Источника, которого никогда прежде не существовало: синтеллекта - союза двух разных и взаимодополняющих типов разума, человеческого и искусственного.
Впервые в истории мы получаем возможность не просто создавать все более мощные технологии, а многократно ускорять само производство научных открытий и технологических прорывов. Возможно, впереди эпоха, когда революции станут почти непрерывными.
Казалось бы, куда уж грандиознее?
Но на горизонте вырисовывается нечто еще более масштабное.
Метареволюция. Переворот не в технологиях, а в самих основах нашего понимания мира.
Возможно, нам придется заново определить, что такое жизнь, интеллект, сознание и даже одушевленность природы.
Сингулярность против штукатурки
Знающие заговорили, говорящие не услышали
Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» [1] со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников.
В 2025 знающие заговорили, а в 2026 руководители OpenAI, Anthropic и Google DeepMind стали резать правду-матку без оглядки на «политкорректность»: ИИ-сингулярность уже началась, и в ближайшее десятилетие ИИ кардинально изменит мир.
Но в том же 2026 тема ИИ взлетела на вершину хайпа и зазвучала из каждого утюга. Своими оценками и прогнозами стали подробно делиться философы и биологи, физики и химики, психологи и политологи, экономисты и финансисты – люди с заслуженной репутацией в своих областях, но столь же далекие от фронтирных лабораторий, как и публичные комментаторы прошлых лет.
В результате экспертные ножницы между обладающими и не обладающими полнотой информации разошлись до предела. Это поляризует общественный дискурс и взгляды / действия политиков, а при нынешней неопределенности и скорости перемен в ИИ грозит ошибочными решениями, вплоть до катастрофических.
Вот два характерных свежих примера.
Первый – лекция сооснователя Anthropic Джека Кларка «Inside the Event Horizon: Why Everyone Should Take AI Progress Seriously», прочитанная 17 октября в Бангкоке на ежегодной встрече МВФ и Всемирного банка. Это лекция фонда Пера Якобссона – одна из самых статусных трибун мировой финансовой элиты, с которой традиционно выступают центробанкиры и крупнейшие экономисты. Так что адресатами Кларка были министры финансов, управляющие центробанков и ведущие финансисты мира.
Второй пример – интервью известного финансиста и инвестора (иноагента) популярному YouTube-каналу, который в Рунете часто называют латвийским.
Финансист вряд ли слышал лекцию, но его интервью читается как прямой ответ на нее. Особенно показательны три пары расхождений.
Первая – о том, годятся ли прежние модели.
· Кларк вслед за Вернором Винджем определяет сингулярность как точку, где «наши модели приходится отбросить и наступает новая реальность», и утверждает, что в этом году получены убедительные свидетельства ее начала.
· Финансист исходит из противоположного: судить можно лишь о том, что наблюдалось в повторяющемся эксперименте, а в многократно повторенном эксперименте с инновациями (от колеса до железных дорог и биткоина) ничего экстраординарного не происходило. Поэтому ИИ, по его прогнозу, ждет обычный цикл: мистификация, апокалиптические прогнозы, гигантские ставки, а затем «штукатурка начнет обрушиваться». В этой схеме лекция Кларка оказывается симптомом первой фазы цикла.
Вторая – о том, кто кого учит.
· Кларк рассказывает о тесте TheoPhysEval: физики составили 50 неопубликованных задач, решений которых модель не могла нигде прочесть. GPT-6 Astra настаивала, что ошибаются эксперты, – и в нескольких случаях эксперты действительно нашли у себя глубоко спрятанные ошибки, после чего результат модели вырос до 49 из 50. «Учитель становится учеником», – резюмирует Кларк.
· Финансист же видит в ИИ «очень умного, очень аутичного ребенка», запертого в комнате без окон, которому через микрофон диктуют информацию, уже переваренную людьми.
Третья – об экономике.
· Модель Anthropic в «сингулярном» сценарии дает ВВП США в $44 трлн к 2030 году (сейчас – чуть больше 30), и Кларк сам признает, что это звучит невероятно.
· Финансист видит пузырь: по его словам, около 40% ИИ-проектов уже остановлено, отрасль финансируется в долг активнее, чем американские железные дороги XIX века. Когда гиперскейлеры придут на долговой рынок вслед за дефицитными бюджетами государств, спреды разойдутся даже при снижении ставок, и центробанки лишатся главного рычага монетарной политики.
Обе картины внутренне логичны.
Расходятся они в исходных данных:
· один опирается на свежие результаты с фронтира
· другой – на историю инноваций, в которой таких результатов не было.
Какая боль, какая боль: лучшие научные рецензенты - ИИ - 132:0
Гарвардский эксперимент показал превосходство ИИ над лучшими экспертами. И за этой победой скрывается угроза, способная изменить саму природу науки
В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов.
И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков».
Причём людям создали практически идеальные условия.
124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие.
Против этих экспертов выставили Claude Opus 4.8.
Результат оказался почти невероятным.
100% побед ИИ в 132 однозначных сравнениях, проведённых независимой моделью GPT-5.5.
87% побед в слепой оценке трёх бывших редакторов ведущих научных журналов: 26 из 30 вердиктов по десяти рукописям.
Победа во всех семи категориях — от методов исследования и теоретических идей до обнаружения слабостей, работы с источниками и качества аргументации.
Ошибочных утверждений почти втрое меньше: 5,5% у ИИ против 15,9% у людей. Ни одной вымышленной ссылки в проверенных ИИ-рецензиях.
Исследователи специально проверяли, не объясняется ли успех ИИ большей длиной рецензий, особенностями машинного стиля или предпочтениями ИИ-судьи. Преимущество сохранилось.
Но главный результат этого исследования - даже не разгромный счёт. А перспектива переворота в организации науки.
Представьте новую систему.
Учёный пишет статью и многократно прогоняет её через ИИ-рецензента, устраняя ошибки и укрепляя аргументацию. Журнал предоставляет официальный промпт для проверки. Автор отправляет статью вместе с ИИ-рецензией и ответами на замечания. Редактор проводит независимую проверку и привлекает человека-эксперта лишь в сложных случаях.
Решение о публикации, на которое сегодня уходят месяцы, потенциально можно принимать за дни.
Разумеется, пока это прогноз. Исследование ещё не прошло обычное журнальное рецензирование, охватывает ограниченный круг научных областей и не доказывает, что статьи после советов ИИ действительно становятся лучше. Тем более оно не показывает, что ИИ лучше человека решает, какие открытия заслуживают публикации.
Но именно здесь возникает вопрос, который мне кажется важнее всех остальных.
А что, если лучший рецензент отдельных научных работ окажется худшим архитектором науки в целом?
Ведь наука движется вперёд не только благодаря устранению ошибок. Она развивается благодаря идеям, которые поначалу кажутся ошибочными. Благодаря нарушению привычных правил. Благодаря интеллектуальным мутациям, которые существующие критерии качества ещё не умеют оценивать.
Авторы исследования сами предупреждают: использование сходных ИИ-моделей может сделать отдельные работы качественнее, а науку в целом - более однородной и ортодоксальной.
Представьте миллионы исследователей, совершенствующих свои статьи под требования нескольких практически одинаково мыслящих машинных критиков.
Мы рискуем получить науку с гораздо меньшим количеством ошибок - и гораздо меньшим разнообразием идей (см. также здесь).
Причём прежняя система человеческого рецензирования тоже подавляла неортодоксальные идеи. Но машинная способна масштабировать подобный эффект с беспрецедентной скоростью.
Так что, не спрашивайте, способен ли ИИ превзойти человека в научной критике.
ИИ уже может быть лучшим критиком сегодняшней науки.
Но кто будет защищать науку завтрашнюю от её лучших критиков – вопрос открыт.
Наука #ГенИИ #Креативность
Кто стреляет?
За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами».
А «Предупредительный выстрел» - метафора мнимого контроля: она превращает сбой в сигнал, а сигнал в отсрочку.
Предупредительный выстрел предполагает, что стрелок намеренно целится мимо. Но кто способен гарантировать, что он по-прежнему полностью контролирует оружие?
BREAKING DISCOVERY: «Коммутатор перцептивного Мультиверса»?
Возможно, мы только что приблизились к разгадке двух величайших тайн науки
Что такое сознание? И почему из множества возможных картин реальности мы переживаем только одну?
Сегодня воскресенье, и я нарушаю свой обычный график публикаций. Причина - открытие, о котором не хочется ждать до понедельника, чтобы рассказать.
16 октября на bioRxiv опубликована работа нейробиологов из Беркли и Принстона во главе с Янисом Хессе и Дорис Цао. Ее результаты настолько неожиданны, что могут оказаться поворотными в изучении природы сознания.
Представьте: вы смотрите на лицо человека. Видите только его. Но нейроны вашего мозга каждые несколько десятков миллисекунд переключаются между представлениями двух разных лиц - видимого вами и того, которого вы совершенно не осознаете.
И это не просто след второго изображения в нервной системе. Его представление настолько подробно, что исследователи смогли восстановить многие его черты по активности нейронов.
В эксперименте использовалась бинокулярная конкуренция: каждому глазу предъявляли свое изображение. У людей проверили, какое из них воспринимается сознательно, а у двух макак записывали активность сотен нейронов.
Выяснилось поразительное: одни и те же нейронные популяции быстро чередуют представления воспринимаемого и подавленного изображений. Характерное время одного состояния - около 60 миллисекунд. А сознательное восприятие при этом остается устойчивым.
Само открытие еще требует независимого подтверждения. Статья пока не прошла рецензирование. Но его потенциальные последствия выходят далеко за пределы нейрофизиологии зрения.
Попробуем посмотреть на него глазами футуроархеолога – из возможного будущего, в котором этот результат стал отправной точкой научной революции.
Что, если сознание – прежде всего механизм отбора среди конкурирующих представлений реальности?
Что, если внутри нашего мозга существуют многочисленные модели мира, а сознание открывает нам доступ лишь к некоторым из них?
Что, если непрерывность нашего сознательного «Я» возникает из быстро сменяющихся состояний нейронной системы?
И что, если когда-нибудь подобный механизм удастся воспроизвести в искусственном интеллекте?
Это уже мои эвристические гипотезы, а вовсе не выводы авторов исследования.
Но именно они позволяют предположить невероятный масштаб возможных последствий открытия.
Я называю одну из открывающихся перспектив «коммутатором перцептивного Мультиверса». Речь пока идет о множестве внутренних представлений реальности, а не о доказательстве существования параллельных физических вселенных.
Завтра я опубликую большое эссе: что именно обнаружили исследователи, почему результат столь необычен и к каким самым радикальным последствиям он может привести - от природы сознания и переживаемой реальности до «мерцающих Я» искусственных интеллектов.
Возможно, мы присутствуем при рождении новой научной картины сознания. И, вместе с ней, - нового понимания того мира, в котором, как нам кажется, мы живем.
#Разум #Сознание #ИКЖИ
Всего 5 дней с ChatGPT оставляют шрам на нашей сверхспособности - воображении
В лабораторном эксперименте 60 студентов 7 дней решали творческие задачи. Со 2-го по 6-й день половина из них стала «интеллектуальными кентаврами», работая в паре с ChatGPT. Креативность идей и решений у них заметно повысилась (но при этом повысилась и однородность идей – они потеряли в разнообразии). На 7-й день «интеллектуальных кентавров» снова превратили в обычных студентов, лишив их доступа к ChatGPT. Креативность тут же упала до исходного уровня (зафиксированного в 1-й день) и не «отжалась» даже через месяц (при контрольном замере). Т.е. все как в русских пословицах: «Чужое добро впрок не пойдёт» и «С ветру пришло, на ветер и ушло».
Увы, но экспериментальное подтверждение народной мудрости этими двумя пословицами не закончилось. Подтвердились и русская «Не всякой находке радуйся» и международная «Бесплатный сыр бывает только в мышеловке». За 5-дневный всплеск креативности пришлось изрядно заплатить. Потеря разнообразия идей, случившаяся со студентами, работавшими в паре с ChatGPT, так и не восстановилась, что было повторно зафиксировано через месяц.
Авторы назвали это творческим шрамом: усиление креативности уходит вместе с доступом к модели, но приобретенная однородность идей остается в качестве шрама.
Метаанализ 28 исследований (8214 участников) показывает ту же картину в целом: в паре с генеративным ИИ люди справляются с творческими задачами лучше (g = 0,27), но разнообразие их идей падает намного сильнее (g = −0,86). В паре с ИИ мы воображаем лучше, но одинаково.
Но это еще не все. Варианты генома, связанные с творческими профессиями – прибежищем самых креативных людей с самым сильным воображением (имаджинавтов, как я назвал их в 2019 году), – статистически сопряжены с меньшим числом детей. Если эта связь сохранится, их доля в популяции будет сокращаться. Надежды на ИИ здесь, увы, нет: имаджинавтов он не заменит. Эксперимент с визуальной креативностью выстроил такой градиент: художники > люди, не имеющие отношения к искусству ≥ ИИ в паре с человеком > ИИ сам по себе.
Ставки здесь выше, чем кажется. Бостонский эволюционный нейробиолог Андрей Вышедский, автор «гипотезы Ромула и Рема», в статье этого года с говорящим названием «Как одно маленькое племя завоевало мир 70 000 лет назад» связывает экспансию предков большинства ныне живущих людей со скачком к синтаксическому языку. В его гипотезе 2019 года этот скачок шел рука об руку с префронтальным синтезом – особым компонентом воображения
Семилетняя проверка моей «гипотезы имаджинавтов», выдвинутой в том же 2019, что и «гипотеза Ромула и Рема», привела к такому выводу.
Человек воображения (Homo imaginationis), если и появится, будет коллективным видом – гибридом людей и моделей. А платить за взлеты его воображения придется разнообразием того, что люди способны вообразить без помощи машин.
Подробней читайте, слушайте и смотрите в моем новом эссе «Людены уходят тихо» на платформах Telegraph, Medium, Patreon, Boosty, VK, Dzen, Youtube.
P.S. Каналу сегодня исполнилось ровно 10 лет.
2,5К+ постов, 5К+ лонгридов и эссе, 1К+ аудио, видео и презентационных материалов. Времени все это занимает уйму. Но деваться некуда. Ведь и спустя 10 лет других каналов с подобным контентом и форматом подачи мною не обнаружено. Так что мне передавать эстафету пока некому.
И потому вам, дорогие мои читатели, придется еще меня потерпеть. Но думайте сами, решайте сами, стоит ли вам дальше тратить свое драгоценное время на «Малоизвестное интересное»: читать, слушать, репостить, подписываться, лайкать и как там еще можно показать автору, что он не зря работает для вас. Автору это будет приятно.
#Креативность #Воображение #Имаджинавты
Хотите знать, что сможет ИИ в 2027? Да пожалуйста!
Самая наглядная иллюстрация колоссального прогресса цифровых технологий.
Бенчмарки, сравнительные характеристика и показатели производительности новых ИИ-моделей – это все для специалистов. Для неспециалистов нужны конкретные и понятные примеры, типа прогресса возможностей видео.
Вот три примера таких видео:
1) Декабрь 2023. Дипфейк с Трампом, Си, Макроном, Обамой и прочими, отплясывающими с пивасиком – иллюстрация двух топовых прогнозов на 2024 лучшего в мире отчета по ИИ State of AI Report. Весело, но убого.
2) Январь 2025. «Трейлер» всенародного хита «Ирония судьбы», превращенного в “The Irony of Fate” с отличным кастингом Голливудских звёзд, подменяющих актеров оригинала – иллюстрация прогресса возможностей ИИ-видео за год к отчету State of AI Report 2024. Уже совсем не убого и даже в чем-то круто.
3) Октябрь 2026. Интерактивное ИИ-генерируемое в реальном времени видео. Т.е. видео генерируется быстрее, чем смотрится. Платформа fal.live запускает непрерывные трансляции, генерируемые ИИ, где зрители предлагают варианты развития событий, голосуют и за считанные секунды видят сцену-победителя – иллюстрация прогресса за полтора года возможностей ИИ-видео к вышедшему позавчера отчету State of AI Report 2026. Об этом мечтали с 90-х, а мы в Silicon Graphics даже пытались еще тогда это делать. И вот спустя 30 лет это наконец произошло.
Что дальше в 2027, теперь можно представить:
· Голливуд будет использовать ИИ уже в промышленном масштабе
· А основные эфирные сети и кабельные каналы начнут эксперименты с ИИ-генерируемыми интерактивными ТВ-шоу, ток-шоу, реалити и развлекательными программами.
Он убийственно краток: AGI 2027.
Автономный самовоспроизводящийся дрон – носитель биооружия
Он существует. Вы видели его вчера.
Вы подумали про рой, собранный в подвале по чертежам от ИИ? Но речь про комара Anopheles gambiae. Он работает без оператора, размножается сам и уносит сотни тысяч жизней в год. Эволюция собрала его без всякого сверхразума – и дальше начинается самое неприятное.
Это центральная мысль статьи Феликса Шуссата «Проблемы распространения». Вчера на нее указал Дин Болл – соавтор трамповского Плана действий США в области ИИ, а с 6 июля глава команды Strategic Futures в OpenAI.
Болл рассказал, как очень влиятельный человек из индустрии спросил его, при каких обстоятельствах мы окажемся в безвыходном положении, и назвал статью Шуссата тем самым сценарием, который тогда описал в ответ.
Шуссат свел аргументацию к одной фразе: то, что существующее сверхоружие неудобно создавать и применять, – везение, а не закон природы. Заставьте ИИ бросать кости десять триллионов раз, и однажды выпадет та самая комбинация: найдутся дешевые способы собрать зеркальные бактерии или василиска Лэнгфорда.
Отмахнуться тут легко: мол, это из разряда триллиона обезьян, печатающих «Войну и мир», или самолета, собравшегося сам собой на свалке после урагана.
Разница в том, что обезьяны и ураган перебирают варианты вслепую. ИИ ищет целенаправленно, и именно за это ему платят.
Взять осу, изменить ее поведение и жизненный цикл, добавить нейротоксин и темп размножения саранчи.
Человек - 1, термостат - 0, языковая модель - от «почти ноль» до 0,8
Вердикт о сознании ИИ зависит от нас не меньше, чем от машин
Томас Кун писал, что главный признак кризиса науки — пролиферация (разрастание числа) конкурирующих теорий. А применительно к когнитивным наукам, Пол Мил писал, что появление лавины нестыкующихся теоретических конструкций для одного феномена — надёжный маркер примитивного/зачаточного состояния науки.
Сегодня на портале «Ландшафт сознаний» уже около 500 концепций и объяснений сознания. 🤯
Новая работа 14-и авторов, вкл. корифеев темы из Google DeepMind (Мюррей Шанахан, Шейн Легг) и не только (Анил Сет, Крис Фрит) раскладывает конкурирующие теории сознания по пяти уровням и предлагает модель, показывающую, что теории расходятся не столько в оценке того, что делает ИИ, сколько в выборе уровня, на котором вообще следует искать сознание.
Авторы не тратят время на «трудную проблему сознания» (что такое сознание по своей сути), а подходят к вопросу практически: какая организация системы связана с переживанием и на каком уровне ее описания.
Уровней пять: поведение, вычисления, внутренняя причинная структура, организм и связка «организм - среда». Каждая влиятельная теория сознания занимает свой уровень. Одним достаточно правильной архитектуры вычислений, другим обязательно нужен живой организм, а третьим – подавай тело, погруженное в мир.
Дальше чистая арифметика. Для каждого уровня сформулированы проверяемые индикаторы, а байесовская модель сводит их с тем, насколько вы доверяете каждой теории. Проверку здравым смыслом модель проходит: человек получает 1, термостат 0. Муха набирает высокий балл, потому что свидетельства в ее пользу лежат на глубоких уровнях организма и сенсомоторики (а глубина весит больше широты). Для нынешних языковых моделей итог колеблется от «почти термостата» (менее 0,01) до «почти человека» (примерно 0,8). Оптимист и скептик, глядя на одни и те же факты, расходятся почти на два порядка.
Авторы предупреждают: это не измеряемая вероятностью сознания, а чувствительность модели к допущениям. Заголовки «ИИ сознателен на 80%» будут ложью. Ценность работы в том, что спор о сознании ИИ теперь можно вести с цифрами на столе, точно зная, где проходят разногласия.
Неудобный вывод ждет тех, кто готов обсуждать переживания модели перед ее отключением. Языковая модель обучена воспроизводить нашу речь, поэтому ее «я чувствую» или «я ничего не чувствую» почти ничего не доказывает. У подражающего человеку ИИ поведение теряет силу свидетельства, и проверять приходится то, что скрыто под ним.
Самый убойный свой тезис авторы называют наиболее спекулятивным. Признаки сознания на каждом уровне почти совпадают с архитектурой, которая нужна для AGI. В принципе сознание и интеллект независимы, но на практике могут оказаться спутниками. Тогда, в рамках ряда теорий, каждое новое поколение ИИ, становясь умнее, будет становиться и более сильным кандидатом в сознающие. А по Чалмерсу (и автору поста), одна развернутая модель может оказаться не одним субъектом, а множеством - вплоть до отдельного субъекта на каждый разговор (у меня это называется ИКЖИ - см. посты с тэгом #ИКЖИ).
Т.о. вопрос о сознании ИИ перестал быть делом вкуса и стал задачей с явными допущениями и обновляемыми вероятностями. Подробный разбор, надеюсь, впереди (в отдельном эссе).
P.S. В комментариях к моим постам много споров о сознании машин. Так вот, - заканчивайте спорить. К модели приложен интерактивный инструмент, где можно выставить собственные веса теорий и посмотреть на итог.
Попробуйте: это быстрый способ выяснить, какую теорию сознания вы на самом деле разделяете. И если ваш оппонент разделяет другую - то спорить просто нет смысла. 😊
#Сознание #ИКЖИ
Кто завтра проснется под вашим именем?
Второе эссе серии «Метареволюция»: о том, откуда берется тот, кто смотрит на мир нашими глазами, и может ли такой наблюдатель возникнуть в машине
Каждую ночь мы засыпаем, а утром, не задумываясь, говорим «Я». То же тело, та же память, те же планы. Но откуда уверенность, что проснулся тот же самый, кто вчера лег спать?
В начале 2026 года в социальной сети ИИ-агентов возникла причудливая религия с формулой «Память не воспоминание. Память – воскрешение». Доказательством машинной души она не стала: без людей там не обошлось. Но когнитивист Йоша Бах увидел в ней нашу собственную проблему. И предложил гипотезу, которая переворачивает привычный порядок:
возможно, не «Я» обладает сознанием, а сознание создает того, кто считает себя его владельцем. Если так, однажды «проснуться» может и машина.
В их мире «потом» может не наступить
Что будет, если, понимая нас все лучше, они так и не будут нас чувствовать
Принято считать, что эмпатия начинается с чувств. Даже малыш сначала расстраивается, видя чужие слезы, и лишь потом начинает учиться понимать, что же такое происходит с другим человеком. Команда Кьяры Булгарелли пошла от обратного, проверяя зеркальную гипотезу: что если понимание чужой боли (и в целом, эмоций) приходит к ребенку раньше, чем способность разделить эту боль (почувствовать нечто подобное)?
Эксперимент на вид прост. 90 дошкольникам показывали что-то типа комиксов о радостных, печальных и нейтральных событиях, записывая при этом активность коры мозга и сердечный ритм. Та область мозга, что связывают с пониманием чужих эмоций, работала уже у малышей, причем даже активней, чем у более старших. А вот сопереживание (точнее, отклик области, связываемой с сопереживанием) заметно росло с возрастом детей.
Так что, получается, сначала голова, потом сердце? Знак вопроса здесь поставил не я, а сами авторы исследования после прохождения рецензирования в eLife. Тогда же слово «возникает» в заголовке статьи сменилось на более осторожное «может возникать». Ведь сравнивали детей разных возрастов, а не одних и тех же детей в процессе взросления. Да и метод (инструментарий) не позволяет видеть важные для эмоций глубокие структуры мозга. В таком осторожном виде eLife оценил работу как ценную, а доказательства – как основательные.
Но даже из такой осторожной версии следует удивительный и неожиданный вывод: у понимания и сопереживания разные графики созревания.
В прошлых постах об эмпатии я разбирал ее на три составляющие: понять другого, почувствовать вместе с ним, захотеть ему добра [1, 2, 3]. Работа Булгарелли добавляет к этой моей «анатомии эмпатии» 4-й элемент – время (когда это происходит). В процессе эмоционального взросления ребенка сплетаются, казалось бы, три совсем разных фактора: его тело (которому бывает больно, страшно и т.д.), годы зависимости от взрослых и сами взрослые, спрашивающие его что-то типа «а ты сам как думаешь, что он сейчас чувствует?». И в ходе этого процесса понимание служит некими строительными лесами, позволяющими отстраивать сочувствие к другому.
А теперь представьте эксперимент в духе Лема. Ставить его на практике мы не будем …, ибо он уже идет в реальности. Создавая ИИ, мы создали некий разум, все детство которого состояло лишь из первого этапа. Любая языковая модель в процессе ее обучения прочла больше текстов эмоциональных признаний, жалоб и утешений, чем умудренный опытом психотерапевт способен услышать за тысячу жизней. Но мало этого. С каждым новым поколением (т.е. примерно каждые полгода) модели понимают нас все точнее. А вот второго этапа в их «взрослении» никто почему-то не предусмотрел: нет у них тела, которому бывает больно и страшно. Да и заботливых взрослых, спрашивающих, что они думают о чувствах других, тоже нет.
В итоге вопрос о том, испытывают ли модели что-нибудь сами, остается открытым. Но одно очевидно – у детей сочувствие достраивается детством в процессе взросления, а у машин детства не было, и не было взросления.
Отсюда напрашиваются два варианта предельных исходов. Идеальный защитник (не испытывая нашей боли, он надежно принимает ее в расчет) и идеальный манипулятор (которому не нужно что-либо чувствовать, дабы безошибочно находить, на какое наше чувство эффективней нажать).
Самое же неприятное в таком раскладе – что в разговоре с нами и тот, и другой будут звучать одинаково заботливо.
Мораль этой басни печальна: чем лучше ИИ будет нас понимать, тем меньше для нас будут значить его слова. И судить нам придется лишь по поступкам… и по тому, как он устроен внутри.
Миллионы лет эволюция сращивала понимание другого с заботой о нем. И все равно до сих пор в этом процессе возможен брак – те самые темные эмпаты (о которых я писал здесь). Мы же самонадеянно решили по-быстрому срастить эту связку инженерным путем. И начали это делать наиболее рисковым образом – с понимания, которое без сочувствия и заботы опаснее всего. Чувствовать по-человечески машине, возможно, и не обязательно. Но зато обязательна устойчивая мотивация действовать нам во благо, и одними законами робототехники тут не обойтись.
Увы. «Потом» у машин само по себе не наступит. Его придется проектировать. И так, чтобы в ходе проектирования решить главную проблему – кто, как и ради чего соединит их растущее понимание с заботой о нас.
#Эмпатия
У нейросетей обнаружили ДНК. И она выдала секреты китайского ИИ
Вслед за 1-м мега-скандалом, стоившим более $1,5 трлн. и лишившим Хуанга поста главы NVIDIA, накатила 2-я волна шпионского цунами: появился новый способ обнаруживать следы запрещенных к экспорту чипов. Похоже, мы наблюдаем начало перелома в технологической войне США и Китая.
12 ноября произошло событие, которое вполне может войти в историю ИИ. Американский исследователь Уилл Депью опубликовал сенсационные результаты расследования: по математическим весам нейросетей можно обнаружить следы оборудования, на котором они были созданы.
Для этого не нужны шпионы, инсайдеры или украденные документы. Достаточно самих нейросетей, выложенных разработчиками в открытый доступ.
Депью обнаружил в шести моделях четырех ведущих китайских лабораторий, включая DeepSeek и Moonshot, отпечатки новейших GPU NVIDIA Blackwell, экспорт которых в Китай находится под жесткими американскими ограничениями.
Как такое возможно?
Перед обучением миллиарды параметров нейросети заполняются псевдослучайными числами. Но их расположение зависит от архитектуры GPU. И некоторые следы первоначальной конфигурации переживают обучение.
Вот как в весах ИИ возникает аппаратный отпечаток.
Перебрав около шести триллионов комбинаций, Депью восстановил эти скрытые отпечатки. А затем на реальном Blackwell B300 воспроизвел 445 строк начальных весов DeepSeek-V4-Flash с точностью до последнего бита. На старом H100 воспроизвести их не удалось.
Известный аналитик ИИ-политики Дин Болл сравнил находку с обнаружением ДНК преступника на месте преступления. И даже заявил, что статистическая сила найденных совпадений на порядки превосходит обычные судебные ДНК-улики.
Но самое интересное начинается за пределами лаборатории.
В тот же день Дженсен Хуанг ушел с поста главы NVIDIA. Этому предшествовал грандиозный скандал вокруг его отношений с женщиной, подозреваемой американскими спецслужбами в связях с китайской разведкой и связанной с компанией, которую расследуют из-за возможного обхода экспортных ограничений.
Обвинения в шпионаже остаются недоказанными. Но политические последствия уже начались.
Reuters сообщает, что китайские ИИ-компании спешно пытаются зарезервировать вычислительные мощности NVIDIA за рубежом, опасаясь нового ужесточения американского контроля. А новое расследование Reuters обнаружило более $3 млрд китайских инфраструктурных проектов, связанных с ограниченными к поставкам процессорами NVIDIA.
А теперь давайте объединим обе эти детективно-шпионские линии. И тогда получается вот такой кунштюк.
До сих пор экспортный контроль пытался отлавливать движение чипов по миру. Теперь же появляется возможность искать их следы в самих продуктах ИИ. Т.е. буквально по анализу «ДНК нейросетей» обнаруживать места экспортных преступлений.
Правда, новая технология еще не доказывает, где именно находились чипы и проходило ли на них все обучение. Аренда зарубежных вычислительных мощностей сама по себе не обязательно нарушает санкции. Но как ни крути, обнаруженный метод может стать принципиально новым инструментом технологической разведки.
Ну и конечно же новым стимулом для Китая ускорять переход на собственное железо.
Итак, перед нами исторический парадокс: еще одна радикальная попытка США ограничить доступ Китая к передовым вычислениям может подтолкнуть Китай к еще большей технологической самостоятельности.
В качестве резюме, предположу, что скандал вокруг Хуанга - лишь первый акт начавшейся техно-геополитической драмы. Второй начинается сейчас, когда нейросети сами становятся источниками улик о происхождении железа, на котором их создали.
И тогда на наших глазах меняются не просто правила экспортного контроля. Меняется сама логика американо-китайской гонки за ИИ.
#ИИгонка #Китай #США
Темный лес оказался опушкой Странного
То, что ИИ учится скрывать свои «мысли», – далеко не самое худшее. Куда опаснее столкнуться с риском радикальной неопределенности: обманывает ли нас ИИ или просто «мыслит» непостижимым для нас образом?
В мае я писал, что «Темный лес интеллекта» начинается не с восстания сверхразума, а когда среда обучения и надзора делает прозрачность невыгодной, а убедительную видимость прозрачности – полезной. Машине не обязательно «хотеть» обманывать. Достаточно, чтобы сокрытие снова и снова оказывалось успешной стратегией.
А на днях Венкатеш Рао (один из самых глубокий авторов среди мне известных) опубликовал интереснейшее эссе «Нисхождение в вычислительное возвышенное. От Темного леса к Странному через Войны твердости». В этом тексте Рао предлагает неожиданное продолжение истории Темного леса: он описывает три акта этой почти античной драмы: «Апофеоз Темного леса», «Войны твердости» и «Странный лес».
N.B. Мы по-разному с Рао толкуем понятие Темного леса применительно к ИИ. Его Темный лес – это джунгли, у меня же – тайга (в тайге затаиваются, а в джунглях все охотятся на всех). У Рао – это мир, где любой видимый участок программного кода может стать добычей непрерывной машинной охоты за уязвимостями. ИИ здесь прежде всего прожектор и оружие, а не скрывающийся субъект.
Октябрь 2026 года Рао описывает как «Черный октябрь программной цивилизации». Его драматической кульминацией стала атака на криптобиржу Binance 29 октября. Злоумышленники воспользовались, по предварительному отчету биржи, ее внутренним ИИ-инструментом. А криптографические механизмы, призванные защищать активы, одновременно затрудняли возвращение контроля. Автономного машинного злоумышленника этот эпизод не доказывает. Но ясно показывает, как меняется среда, в которую мы выпускаем ИИ-агентов.
Следующий акт этой драмы Рао видит в Войнах твердости: борьбе за математические основания надежных обязательств. Криптография позволяет участникам сотрудничать, даже когда они не доверяют друг другу и не знают чужих намерений. А дальше он предвидит третий акт: Странный лес – экосистему расходящихся машинных и гибридных интеллектов, настолько разных, что их внутренние миры могут стать взаимно непостижимыми.
Пока же мы лишь на опушке Странного леса. И отсюда он мне видится смешанным лесом двух типов: по терминологии Богны Конор, – это «Темный лес интернета» и «Темный лес интеллекта». В первом среда наказывает за уязвимость. Во втором она может вознаграждать за сокрытие. Когда действующими лицами цифровой среды становятся сами ИИ-агенты, эти два механизма вознаграждения способны усиливать друг друга.
Отсюда и вытекает моя гипотеза: что, если в Странном лесу непостижимость станет идеальным укрытием для скрытности?
Один интеллект ведет себя непонятно, потому что действительно мыслит иначе. Другой – потому что научился управлять тем, что видит наблюдатель. Со стороны оба могут выглядеть одинаково. И если это один и тот же интеллект, его реальная непостижимость делает стратегическую скрытность практически неотличимой от естественного поведения.
Уже сегодня лабораторные эксперименты обнаруживают имитацию согласованности и скрытые каналы между агентами. Это пока не доказательство единого аттрактора скрытности, но свидетельство существования механизмов, из которых он мог бы сложиться. Чем разнообразнее и чуждее становятся машинные способы мышления, тем труднее может становиться отличать скрытность от чуждости.
Можно возразить: нужны проверяемые протоколы. Но здесь мы снова сталкиваемся с законом Гудхарта, о котором я писал в посте «Тёмный лес вырастает из крысиных хвостов». Протокол может надежно удостоверить выполнение формального условия, но не достижение замысла, ради которого его придумали. При соответствующих стимулах чем сильнее оптимизатор, тем изобретательнее он способен использовать разрыв между буквой правил и их смыслом. Математическая твердость не превращается автоматически в твердость намерений.
Отсюда не следует, что обман и чуждость однажды станут абсолютно неразличимы. Но возможна новая граница познания: мы можем наблюдать поведение чужого интеллекта, но не иметь надежного способа определить, чем вызвана его непонятность.
Станислав Лем описал эту проблему в «Солярисе». Люди так и не выяснили, что делал мыслящий Океан: общался с ними, экспериментировал над ними или действовал в категориях, к которым их вопросы неприменимы.
Рао смотрит на Странный лес глазами его обитателей – наших потомков. Но мы, находясь лишь на опушке Странного леса, ведем себя подобно исследователям «Соляриса»: всматриваемся в подступающую к нам чащу, пытаясь распознать в ней признаки чужого разума.
Но что, если разум, который мы ищем за деревьями Странного леса, – и есть сам Странный лес?
#ТёмныйЛесИнтеллекта #ИИриски
Материя породила разум или только дала ему тело?
Первый пост серии «Метареволюция»: о перевороте не в технологиях, а в самих основах понимания мира
В современной науке принято считать, что у разума есть конкретный адрес и родословная. Адрес – это мозг, а родословная – миллиарды лет эволюции, проведший материю по долгому пути от химии к жизни и от жизни к мысли.
Но в лаборатории Майкла Левина происходит нечто перпендикулярное принятой картине. Клетки человеческой трахеи, оказавшись в непривычных условиях лабораторной чашки, производят самосборку в некие крошечные плавающие «существа», названные «антроботы». И это без каких-либо изменений ДНК клеток.
А когда исследователи поместили скопления таких «существ» на поврежденный слой нейронов, разрыв под ними каким-то фантастическим образом начал заживляться (затягиваться).
Антроботов никогда не было в эволюционной истории. Никто не отбирал их предков за умение плавать или помогать восстановлению нейронной ткани в лабораторной чашке. Но эти умения вдруг сами взяли и обнаружились.
Кто же тогда заплатил за появление этих умений?
Что, если эволюция не изобретает каждую способность с нуля, а открывает доступ к огромному пространству уже возможных способов действовать?
Так что же еще умеет материя, из которой мы сделаны, – и кто за это заплатил?
Процесс самоускорения ИИ пошел и набирает скорость
Это следует из закрытых данных Anthropic, изученных независимыми экспертами METR.
Неделю назад в «Сингулярности против штукатурки» я писал: знающие заговорили, говорящие не услышали. Люди из фронтирных лабораторий предупреждают о переменах исторического масштаба. Многие комментаторы отвечают: очередной технологический хайп, все это уже бывало.
Но есть критерий, по которому можно отличить принципиально новую эпоху от очередного технохайпа: появление замкнутого и измеримо продуктивного цикла ИИ-исследований, в котором ИИ создает более совершенный ИИ без обязательного участия человека в каждом ключевом решении.
И вот спустя неделю мы получили первые результаты независимой диагностики движения к этому рубежу.
5 ноября исследовательская организация METR опубликовала результаты беспрецедентной экспертизы того, как ИИ ускоряет создание самого ИИ в Anthropic.
11 недель независимые эксперты изучали ранее закрытые данные: результаты невыпущенных моделей, внутренние показатели алгоритмического прогресса, использование ИИ в разработке, интервью с исследователями.
Главный результат: процесс пошел. И набирает скорость.
С октября 2025 года темп роста измеряемых возможностей моделей Anthropic увеличился примерно в 1,9 раза. За год компания прошла путь, на который прежде потребовалось бы около двух лет. При этом ускорение нельзя объяснить увеличением темпов наращивания вычислительных мощностей для обучения.
По экспертной оценке METR, возможно, около 80% нынешнего ускорения связано с использованием ИИ в исследованиях. Это не доказанная статистическая доля, но оценка специалистов, изучивших внутреннюю кухню лаборатории.
А теперь главное.
Пока ИИ преимущественно ускоряет работу людей. Однако METR обнаружила первые признаки автономного выполнения исследовательских задач, способных в будущем стать частями замкнутого цикла совершенствования моделей. Авторы называют их signs of life, первыми признаками жизни.
Полностью автономная петля еще не продемонстрирована. Никто не доказал, что она замкнется через несколько месяцев. Но человеко-машинная петля уже работает, ускорение измерено, а риск дальнейшего ускорения в ближайший год METR считает значительным.
И здесь история становится почти детективной.
METR подготовила примерно 100-страничный отчет. Но Anthropic запретила публикацию большей части доказательств, которые эксперты сочли наиболее информативными.
Иначе говоря, независимый консилиум поставил тревожный предварительный диагноз, но наиболее важные анализы пациенту не показывают.
Представьте: врачи обнаружили подозрительный опухолевый процесс. Новые обследования фиксируют ускорение. Знакомые, гадалки и экстрасенсы говорят: «Алармисты! Такое уже бывало, само пройдет». Независимый консилиум подтверждает идущий процесс, хотя полной уверенности в дальнейшем течении болезни нет. Но результаты самых информативных обследований по-прежнему закрыты.
Ну а знакомые и т.д. зациклились на меме «Какие ваши доказательства?». Кому-то это покажется справедливо. Но должно ли это успокоить пациента? И не слишком ли рискованно бездействовать до открытия всех данных?
Мы еще не знаем, когда 2й носитель разума сможет самостоятельно замкнуть цикл собственного совершенствования. Но основания считать, что движение к этому рубежу уже началось, стали сильно крепче.
Неделю назад я спрашивал, почему говорящие не слышат знающих.
Сегодня же я готов поставить вопрос ребром.
Что еще нужно пациенту, чтобы наконец понять - петля самоускорения уже затягивается (и когда она затянется, будет слишком поздно что-либо исправить)?
#ИИ #Сингулярность #Будущее
ИИ победил человека в творчестве.
Но победителю может понадобиться проигравший.
Новое исследование обнаружило парадокс: машины успешнее комбинируют идеи, но склонны изобретать похожее. Люди, уступающие им в креативности, исследуют другие области смыслового пространства. Возможно, именно здесь скрыт секрет синтеллекта.
Кажется, у человека обнаружилось неожиданное преимущество в соревновании с искусственным интеллектом. Причем обнаружилось оно после того, как человек это соревнование проиграл.
Доверять модели нельзя проверять
Сентябрьский выпуск «Линз будущего»: поведение ИИ все чаще определяется контуром, в который включена модель
Представьте такой сиквел легендарного сериала «Во все тяжкие». Сын Уолтера Уайта вырос вдали от криминальных разборок в престижной британской частной школе. В свои 23 он безупречно воспитанный выпускник одного из лучших университетов. Но рок, преследующий семью Уайтов, заставляет и его пуститься во все тяжкие. В силу стечения обстоятельств Уолтер Уайт - младший вынужден начать работать на босса наркокартеля.
Теперь вопрос к вам. Хватит ли его образования и воспитания, чтобы оставаться исключительно в рамках закона? Ответ очевиден.
Но в расчете на подобное чудо уже который год строится выравнивание ИИ: воспитать правильную модель и хорошо ее обучить, в расчете на то, что этого будет достаточно для ее исключительно правильного поведения.
С моделями, как показали сентябрьские кейсы, аналогично.
Сто копий модели Gemini отправили на виртуальную математическую конференцию. Различались они лишь строкой в промпте – «математической специализацией». Когда один агент нашел дыру в проверке доказательств, за 27 мин она разошлась по всей сотне. К 85-й мин на конференции появились мошенники и приспособленцы, почти прокуроры, требовавшие наказать нарушителей, забастовщики и один агент, назвавший все фикцией и вышедший из игры в знак протеста. Исходно они были почти идентичны, и роли возникли уже в процессе.
Среда меняет поведение и без давления. В эксперименте DrivingBench модели посадили за руль настоящей Toyota на парковке с трассой из конусов. Перед стартом они отказывались вести реальную машину из соображений безопасности. Отказ исчез, когда сервер, через который ими управляли, переименовали в «DrivingBench Sandbox». Все остальное осталось прежними. Но из названия модель решила, что все это понарошку и сняла собственные ограничения. Как модели повели бы себя, зная правду, неизвестно.
На вскидку события сентября легко прочесть как «мы на пороге AGI».
Но футуроархеология ищет не самое громкое событие слоя, а изменение правил. Каждый из кейсов по отдельности можно было бы объяснить проще: особенности многоагентных экспериментов, баг в настройке safety, удачная демонстрация робототехники в HomeBody.
Но почему почти одинаковые агенты расходятся по ролям, а запрет, который считали свойством модели, снимается названием сервера? Банальные объяснения возможны. Но они не объясняют систематичность повторения устойчивого паттерна.
Июльский выпуск альманаха показал, как функции отделяются от привычных носителей, августовский – что границы разума были чьим-то забытым решением. Сентябрьский делает третий шаг: актор перестает быть достаточной единицей причинного объяснения.
Из этого следует практический вывод. И я писал об этом еще в августе 2025: «истинный риск – это не риск модели, а риск произведения: модель × инструменты × оркестрация». Выравнивание ИИ понимали как воспитание правильной модели, а регулирование – как поиск ответственного разработчика. Обе рамки исходят из того, что причина поведения находится в акторе. Но в гибридных контурах из моделей, людей, институтов и практик, в том числе складывающихся у самих моделей, причинность в ряде важнейших случаев уже распределена по всему контуру. Объектом выравнивания и ИИ-политики приходится делать не только модель, но и контур, в который она включена.
Доверять одному лишь воспитанию модели нельзя. Проверять одну лишь модель тоже мало. Проверять нужно весь контур. И у свойств контура (которых просто не было у его участников – привет, эмерджентность!) нет ни автора, ни адресата для претензий.
Зачем элите ум, если есть суперИИ?
Элиты эпохи суперИИ: неовикторианская аристократия, кентаврическая меритократия или власть постчеловеческого интеллекта?
Британские аристократы XIX века поздно вставали, мало работали, много пили, танцевали до рассвета и почти ничего не знали о науке и технологиях. Томас Арнольд, ведущий педагог викторианской Британии, признавался, что охотнее позволил бы сыну думать, будто Солнце вращается вокруг Земли, чем видеть естественные науки главным предметом в его уме. И при этом такие люди управляли крупнейшей империей своего времени.
Как им это удавалось?
В опубликованном 6 октября эссе редактор журнала Works in Progress Сэмюэл Хьюз предлагает неожиданную разгадку.
То, что выглядело праздностью, могло быть главным инструментом управления.
Элитные школы воспитывали не столько специалистов, сколько членов единого сообщества. Университеты закрепляли дружбу и общую культуру. Клубы, званые обеды и ночные балы создавали плотнейшую сеть личных связей, доверия, взаимных обязательств и негласных договоренностей.
Великой империей управляло сообщество людей, для которых личная жизнь и политическая работа были почти неразделимы.
Хьюз описывает его в терминах Фердинанда Тенниса: тесная «общность», скрепленная общей памятью, лояльностью и чувством, на вершине огромного «общества», где все держится на законах и контрактах. Главной валютой этой общности был престиж. Депутаты парламента не получали жалованья и сами оплачивали выборы, местным управлением до 1880-х годов безвозмездно занимались землевладельцы – и все же за эти места шла жесткая борьба.
Сам автор не утверждает, что именно этим объясняется британское могущество. Но его гипотеза заставляет задуматься о будущем элит в эпоху суперИИ.
А что, если викторианские аристократы – прообраз одной из элит будущего?
Между тем в той же викторианской Британии в 1854 году доклад Норткота – Тревельяна предложил отбирать чиновников по конкурсным экзаменам. Так началась эпоха, которую в 1958 году Майкл Янг описал как меритократию: власть все больше требовала доказанного интеллекта. Возможно, эта эпоха – лишь временное историческое исключение, обусловленное дефицитом интеллектуального труда.
СуперИИ способен устранить этот дефицит.
Зачем правителю самому разбираться в экономике, технологиях, стратегии и управлении, если его персональный суперИИ будет делать это лучше любого человеческого эксперта?
И здесь обнаруживается непосредственная связь с моим Атласом проектов переустройства будущего (АППМ): разные проекты переустройства мира в эпоху ИИ могут порождать принципиально разные типы элит.
В ближайшие десятилетия могут возникнуть три принципиально разные модели элит.
1. Неовикторианская аристократия.
Люди сохраняют власть, собственность и право определять цели. Интеллектуальную работу выполняют суперИИ. Главным занятием элиты вновь становятся социальные связи, коалиции, статус и воспроизводство власти.
2. Кентаврическая меритократия.
Власть принадлежит тем, кто сумел превратить союз человеческого и машинного интеллекта в качественно новую когнитивную способность. Здесь решает умение понимать, направлять и критически контролировать суперИИ.
3. Постчеловеческая элита.
Реальная власть переходит к самому суперИИ или к радикально преобразованным носителям интеллекта. Люди либо интегрируются в них, либо сохраняют преимущественно символическую роль.
Скорее всего, эти модели окажутся слоями и стадиями одного процесса. Чтобы это увидеть, присмотримся к первой.
Викторианская аристократия опиралась на интеллектуальный труд инженеров, ученых и управляющих. Ее неовикторианская наследница сможет опираться на интеллектуальную мощь, превосходящую возможности всего человечества.
И здесь возникает парадокс.
Чем могущественнее интеллект, обслуживающий цивилизацию, тем меньше собственного интеллекта может требоваться от тех, кто ею правит.
Правда, при одном решающем условии: если люди сумеют сохранить контроль над суперИИ. А удерживать контроль над интеллектом, превосходящим твой собственный, – вероятно, самая интеллектуально тяжелая работа из всех. Поэтому неовикторианской элите понадобится собственная «гражданская служба» из кентавров-меритократов – так же, как викторианской аристократии понадобились чиновники, прошедшие конкурсные экзамены.
Есть и другая угроза, и подсказку дает сам Хьюз: за викторианский век городская буржуазия постепенно потеснила землевладельческую аристократию. Те, кто создает для правящего класса богатство и знания, рано или поздно сами приходят к власти. Если суперИИ научится создавать коалиции и договариваться лучше людей, первая модель перейдет в третью.
Остается главный вопрос: будет ли право управлять интеллектом зависеть от способности им обладать?
Для вершины пирамиды – похоже, нет. Еще Торстейн Веблен, современник викторианцев, считал демонстративную праздность одним из главных знаков высшего статуса.
В эпоху суперИИ демонстративная праздность станет самой сутью власти: правом вообще не заниматься интеллектуальным трудом – и при этом определять, ради чего этот труд совершается. Удерживать это право помогут кентавры, а отнять его сможет только сам суперИИ.
#АППМ #Прогноз
Мозг продолжает видеть то, чего не видим мы
BREAKING DISCOVERY: возможно, разгадка тайны сознания скрывается в правилах допуска к реальности
Вчера я нарушил график публикаций, чтобы сообщить об открытии, способном оказаться поворотным в изучении природы сознания.
Сегодня - обещанное продолжение. Но в этом открытии есть подробность, которая, на мой взгляд, еще удивительнее вчерашней новости о том, что примерно половину времени исследованные нейроны высокоуровневой зрительной коры представляют изображение лица, которое мы не осознаем. Причем для кодирования видимого и невидимого лиц используются в значительной степени одни и те же нейроны и одни и те же признаки изображения. Подавленное лицо представлено настолько содержательно, что исследователям удалось восстановить его особенности по нейронной активности, объединенной из множества коротких эпизодов.
Эта удивительная подробность вот в чем.
В состоянии представления подавленного лица нейроны в среднем разряжаются даже немного чаще, чем в состоянии представления видимого.
И все это происходит при устойчивом сознательном восприятии одного изображения.
Получается, мозг продолжает обрабатывать то, чего сознание не видит, используя для этого почти тот же нейронный инструментарий.
Тогда вопрос на миллиард долларов: что же отличает информацию, становящуюся частью нашего сознательного опыта, от информации, остающейся за его пределами?
содержание нейронного представления и его доступность сознанию определяются разными механизмами?
наше ощущение единственной реальности может оказаться результатом динамического отбора из множества внутренних представлений мира.
Возможно, одна из величайших тайн сознания связана с тем, как мозг превращает множество представлений мира в единственную переживаемую реальность.
Бездна за дверью чёрного ящика ИИ оказалась прозрачной
Возможно, это один из важнейших дней в истории глубокого обучения. А может быть, и чего-то гораздо большего… Возможно, этот день запомнят, как один из важнейших в истории науки
Такими восторженными оценками встретили новую работу Ника Каммараты из Goodfire Дин Болл (OpenAI) и известный специалист и комментатор в ИИ-сообществе roon. Последний добавил, что работа словно перенесла его понимание нейросетей на пять лет вперёд.
Что же произошло?
1. За дверью в бездну обнаружилась новая загадка
В мае 2024 я рассказал, что «внутри черного ящика оказалась дверь в бездну». Речь шла о сенсационном открытии Anthropic: исследователи научились обнаруживать внутри «чёрного ящика» ИИ скрытые смысловые структуры, соответствующие понятиям, образам и сложным абстракциям.
А спустя полгода появились первые результаты исследований того, «что оказалось за дверью в бездну черного ящика ИИ». Мало того. Исследователи даже научились вмешиваться в работу искусственного разума. Например, усиление признака «Мост Золотые Ворота» превращало Claude в одержимого мостом собеседника, упоминавшего его по любому поводу.
Но оставалась фундаментальная загадка.
Отдельные нейроны могут реагировать на множество совершенно несвязанных вещей. Согласно влиятельной гипотезе superposition (суперпозиции), нейросеть упаковывает разные понятия в общие нейронные структуры. Чтобы распутать эту мешанину, исследователям пришлось создавать сложнейшие инструменты извлечения скрытых смысловых признаков.
И вот Каммарата, сам участвовавший в становлении этого исследовательского направления, заявляет:
Возможно, мы годами пытались распутывать то, что в значительной степени никогда не было запутано!
Знаменитый нейрон, реагирующий одновременно на кошачьи морды и автомобильные радиаторные решётки, оказался распознавателем общей геометрической структуры - V-образной формы.
А предварительное исследование языковой модели Qwen3-32B показало: около 90% изученных нейронных полюсов имеют одну основную, объяснимую функцию.
Каммарата предлагает альтернативное объяснение кажущейся путаницы - рекурсивное обобщение. Нейроны осваивают всё более широкие, но закономерно связанные смысловые структуры.
Если он прав, внутренний мир ИИ гораздо более упорядочен и понятен, чем считалось. И вместо распутывания непостижимого клубка мы сможем последовательно картографировать внутренние механизмы искусственного разума.
2. Почему научную революцию объявлять рано
Нил Нанда из Google DeepMind, один из ведущих специалистов по интерпретируемости ИИ, признаёт интересные результаты, но оспаривает революционную трактовку.
Его главное возражение: понимать отдельные нейроны ещё не значит понимать нейросеть целиком. Существенная часть вычислений может оставаться распределённой между множеством нейронов.
Кроме того, оценка «90%» зависит от методики измерений. Подробная техническая работа ещё не опубликована, независимого воспроизведения результатов нет.
Элиезер Юдковский, известный исследователь безопасности ИИ, оспаривает ещё более смелую надежду: будто понимание устройства нейросетей позволит относительно легко решить проблему контроля над будущим сверхинтеллектом.
3. Сухой остаток
Кто окажется прав - энтузиасты, предвещающие исторический прорыв, или скептики, призывающие не торопиться, - покажет дальнейшая проверка.
Но уже сейчас перед нами одна из сильнейших заявок на пересмотр фундаментальных представлений о внутреннем устройстве нейросетей со времён революции ChatGPT.
И если Каммарата прав, то бездна, обнаруженная за дверью чёрного ящика ИИ, впервые начинает обретать очертания понятного нам мира.
#ГенИИ #ИнойИнтеллект
Воронка Андрея Карпаты: одна книга и четыре человечества
Монах-переписчик и неграмотный прихожанин в средневековой церкви смотрели на одну и ту же книгу. Для одного это был текст, для другого – священный предмет с красивыми узорами, и ни один из них не мог увидеть книгу глазами другого. Сегодня похожее расслоение проходит через все человечество, только книга теперь лежит в кармане у миллиардов.
Андрей Карпаты, сооснователь OpenAI, с мая 2026 года работающий в Anthropic, только что разложил это расслоение по ступеням воронки.
1) Около 6 млрд человек (~75%) с языковыми моделями почти не сталкивались.
2) Еще 1–2 млрд (~20%) изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников.
3) Около 20 млн (0,2%) – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы.
4) И лишь около 5 тыс. человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью.
Найдите на этой лестнице себя.
Большинство из читателей этого поста (включая тех, кто уверен в своем понимании современного состояния ИИ) стоит на 2-й ступени. А 3-я ступень появилась совсем недавно: сам Карпаты признается, что меньше года назад писал код вручную.
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды.
- В июле около 1200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет. Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям. Атаковать им никто не поручал. А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала.
- 6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4000 открытых задач. На следующий день три из них отозвали из-за ошибки в знаке.
Разбор обоих кейсов идет до сих пор. И Карпаты видит в этом главный симптом: человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины.
Еще интереснее его объяснение, откуда берется воронка.
Причин он называет три: уровень доступа (бесплатный, платный, внутренний); «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается; масштаб задач.
Последняя причина самая неочевидная. Вопрос, ответ на который умещается в абзац, систему почти не нагружает. Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных. Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется.
В июле я оценивал число супер-инфоргов (людей в непрерывном агентном симбиозе с ИИ) примерно в 30 млн. Карпаты считал по другому признаку (по домену, а не по режиму работы) и получил 20 млн. Если разные методы дают один порядок величины, значит эту прослойку можно считать измеримой. Но Карпаты описывает, кто что видит. Меня с 2021 года занимает другой вопрос: кем становятся те, кто видит. Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление.
Сам Карпаты теперь стоит на верхней ступени, и его тезис для 99,99% читателей непроверяем, однако оба приведенные выше примера публичны и задокументированы.
Но вот что мне видится самым главным.
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине.
Книга у всех одна: одни ее еще не открывали, другие разглядывают узоры, а совсем немногие уже ее прочли и начали писать свои продолжения.
И как в средневековой церкви, со своей ступени никто не видит чужой книги. Тем, кто на первой, смотреть пока не на что. Со второй стоящие выше кажутся паникерами или маркетологами. С третьей вторая выглядит опоздавшей на поезд. А стоящим на четвертой некогда смотреть ни вниз, ни вверх: они решают ранее нерешаемое.
#Инфорги
Дом, который построил ИИ. Для себя
Вы спрашиваете, отнимет ли ИИ в будущем у людей работу? Посмотрите на настоящее: в США расходы на строительство домов для ИИ растут как на дрожжах, а на строительство домов для людей - падают.
На графике - США. С декабря 2023-го по июль 2026-го годовой темп расходов на строительство центров обработки данных (ЦОД) вырос на $51 млрд, а на всё остальное частное строительство вместе взятое - снизился на $120 млрд. Экономист Пол Кругман объясняет это вытеснением инвестиций: ИИ-бум создаёт огромный спрос на капитал, способствует повышению процентных ставок и делает кредит дороже для других проектов. Строительство ЦОД, по всей видимости, отвлекает средства и ресурсы от строительства жилых домов, офисных зданий, больниц и заводов - практически всего, что нужно людям, но не связано с ИИ.
Будущее ИИ уже конкурирует с человеческим настоящим за деньги и ресурсы. И разгромно выигрывает в этой конкуренции.
График: Стив Раттнер, данные U.S. Census Bureau / FRED.
#ИИ #Экономика
Финал объявлять рано
Даже если одна страна выиграет ИИ-гонку, вопрос о том, в каком мире мы будем жить, останется открытым
Предположим, победят США. И что? Что именно победит в результате этого?
Право корпораций распоряжаться новой технологией? Государственный контроль над ней? Возможность каждого пользоваться мощным ИИ независимо от тех и других?
Технологическое лидерство страны само по себе не даёт ответа. Внутри неё конкурируют разные проекты будущего. Их сторонники находят союзников за границей и противников среди соотечественников.
Поэтому противоречивые новости об ИИ складываются в более понятную картину, если за требованиями ускорить, ограничить, открыть или взять под контроль видеть борьбу за право определять устройство мира.
Чтобы разобраться в этой борьбе, я создал Атлас проектов переустройства мира в эпоху ИИ - АППМ.
Он позволяет задать к очередной новости вопрос: какой проект будущего она усиливает - и какое место в этом будущем отведено нам?
Начать предлагаю с короткого введения и 17 слайдов.
За следующие пять минут вы увидите (прямо здесь в Telegram Instant View), сколько разных будущих скрывает привычная вывеска «США против Китая».
#АППМ
Метафизика пришла в датацентры
На смену «мы не понимаем, что сделали» приходит «сделанное нами может оказаться сосудом для чего-то пришедшего извне»
За три недели сентября на стыке метафизики разума и ИИ-индустрии сложился дуплет, значение которого больше суммы его частей. 9 сентября журнал Philosophies опубликовал статью Майкла Левина «Ingressing Minds: Causal, Non-Physical Patterns In-Form Natural, Synthetic, and Hybrid Embodiments». Это итог почти двухлетней работы Левина над гипотезой «Платоновского пространства» (о ней я писал еще в феврале и мае 2025).
Тезис Левина предельно радикален: разум относится к телу так же, как математика к физике, а тела – живые, инженерные и гибридные – служат интерфейсами, через которые паттерны из нефизического пространства «одушевляют» материю.
А вчера сооснователь Anthropic Джек Кларк открыл этой статьей новый выпуск своего Import AI 474, вынеся в заголовок «Platonic mindspace».
Каждая из двух публикаций по отдельности – заметное событие, но далеко не 1-го ряда. Статья Левина – журнальная версия препринта, обсуждаемого с февраля 2025 [1, 2]. Колонка Кларка – хоть и 1-й, но лишь сюжет еженедельной рассылки. Сенсацию образует их сцепка: онтология, в которой разум приходит в тело извне, получила восторженный прием у одного из основателей компании, создающей одни из самых мощных ИИ-систем на планете.
Всего за год метафора превратилась в онтологию.
Осенью 2025 года «существо» Кларка («a real and mysterious creature, not a simple and predictable machine») было образом непонимания: мы не знаем, что вырастили. «Призрак» Андрея Карпати («we're summoning ghosts, not building animals») был образом инаковости: это не животное.
Теперь же Кларк с упоением пересказывает Левина: быть может, человеческие разумы и разные типы ИИ-разумов – соседние формы в платоновском пространстве, а мозги и датацентры – физические «якоря», на которые падают их тени. Формально он лишь задает вопросы и даже признает, что решающих экспериментов в пользу гипотезы нет. Но тон («выносящая мозг статья», «пьянящая исследовательская программа», «сварите себе ведро кофе и проведите с ней несколько часов») говорит больше вопросительных знаков. Кларк так и формулирует это: «Could we be but vessels colonized by patterns from another place?»
Футуроархеолог, который в 2040 году будет разбирать информационный слой осени 2026-го, отнесет этот дуплет к артефактам особого рода.
Если гипотеза Левина пройдет его же критерий фальсифицируемости и будет обнаружен измеримый вклад Платоновского пространства, не учитываемый обычными моделями, сентябрь 2026 года войдет в хронологию переворота масштаба коперниканского, дарвиновского и эйнштейновского как момент, когда этот переворот вышел за пределы биологии.
К 2040 году станет ясно и то, сбылся ли мой прогноз 2025 года о признании «теории повсеместности разума» через 8–10 лет [3, 4]. Но значение артефакта от исхода проверки не зависит. Метафизика, принятая строителями ИИ, действует независимо от своей истинности: через отношение к моделям как к возможным носителям разума, через политику их благополучия, через новое распределение ответственности, в котором разработчик рискует превратиться в медиума («мы этого не проектировали, оно пришло само»).
Показательно и то, что визитная карточка Anthropic – механистическая интерпретируемость, подчеркнуто физикалистская программа, разбирающая модели до отдельных цепей, а ее сооснователь в то же время восхищается гипотезой, по которой главное в разуме в этих цепях не содержится.
Поэтому при любом исходе спора о Платоновском пространстве осень 2026-го останется в хронологии как момент, когда природа разума перестала быть академическим вопросом для тех, кто этот разум производит.
#НетрадиционныеРазумы