…начало в прошлом посте…
И что делать?
Важно, что нельзя силой мысли выпутаться из этой мыслительной спирали (you can’t think your way out of overthinking). Этот, казалось бы, очевидный аргумент до сих пор помогает мне объяснить принцип работы и пользу психотерапии.
Наше сознание – очень сложная и динамическая система. Вмешательство в одном месте в виде какой-то мысли или действия просто приводят к реорганизации и адаптации системы, даже если она находится в ловушке. Можно даже абсолютно ясно видеть, что мысленный водоворот совершенно неконструктивен, но не иметь возможности его остановить. Может быть тревожный мозг не может принимать хорошие решения, но защищать свою паразитическую миссию он умеет очень круто, и у этого есть вполне конкретные эволюционные причины.
Что же помогает на самом деле, кроме наращивания самооценки? Поменять динамическую систему чаще всего в состоянии другая система, которая противодействует паразитическому процессингу и других ментальным ловушкам. Джон Вервеке называет создание таких систем “психотехнологиями”, и включает в них медитацию, психотерапию, всякие телесно-ориентированыне упражнения, например дыхательные практики и даже фармакологию, те же антидепрессанты и не только.
Почему работает медитация? Она создает зазор в восприятии и принятии решения, позволяет человеку наблюдать за своими процессами чувствования, мышления, управления вниманием и отделиться от них, а значит помогает сохранить когнитивную гибкость.
Психотерапия помогает увидеть уже сформированные ментальные ловушки, оставшиеся чаще всего с детства, и как следствие легче из них выходить, обходить и даже постепенно исправлять.
Телесные практики тоже действуют комплексно. Поскольку тело является важнейшей частью нашей системы, то воздействие на него меняет мыслительные процессы. Уменьшает паразитический процессинг, повышает самооценку. Даже человек, находящийся в глубокой депрессии знает как меняется состояние и отношение к ситуациям утром и вечером – это во многом следствие влияния гормональных, телесных состояний на процессы мышления.
Фарма типа антидепрессантов способна прямым тупым образом прекращать мыслительные циклы с обратной связью, останавливая разгон тревожности и другие подобные процессы. Однако это системно самый грубый механизм, поэтому его использование должно быть реально оправданным и сочетаться с другими психотехнологиями.
Эти технологии меняют не мысли, а мышление, то есть меняют то как мы думаем, а не что мы думаем. Все они основаны на увеличении когнитивной гибкости и выходам из циклов паразитического процессинга.
Внутренние изменения радикальным образом меняют восприятие мира и как будто бы даже вообще сам внешний мир и правила взаимодействия с ним, но часто на принятие этого факта уходит достаточно много времени, в течении которого люди ищут ответы и пытаются найти решения исключительно вовне.
Так, мне тут насыпало подписчиков, а всё потому что я попал в подборку тг каналов IT-предпринимателей, которые пишут про бизнес и не только.
Наверняка те, кто меня читают, уже знают часть имён оттуда, но я уверен, найдете еще для себя кого-то интересного. Формат оригинальный – это папка с каналами, которую можно добавить сразу одним кликом (если у вас новый клиент Телеграм)
📁 /channel/addlist/3X1eC4rQuxtkNTNi
В каналах фаундеры делятся своими мыслями и подходами к бизнесу и жизни, причем у каждого свой фокус. Кто-то больше пишет про продукт, кто-то про хайринг или культуру, кто-то про инвестиции.
Про меня
Новым подписчикам расскажу кто я такой: меня зовут Женя Курышев, я инженер, предприниматель и любитель поразмышлять на всякие философские темы. В 2007-2010 годах я работал в Яндексе и делал МойКруг, потом я ушел был первым сотрудником и CTO (а потом и CMO, лол) в Островке. Построил большую инженерно-продуктовую-аналитическую организацию, больше 100 человек. Также построил data driven маркетинг систему с бюджетами в миллионы долларов в месяц. Позже я сделал стартап Mirror AI, который попал в Y Combinator в 2017 году. В 2020 году со-основал еще проект Supersales, который успел дважды поменять имя и раз пять пивотнуться и сейчас называется Monolith.
Вообще, мой жизненный путь трансформации из инженера в предпринимателя (или, как я в одном своем посте писал, из Чипа в Дейла) хорошо раскрывается в подкасте с Ваней Замесиным.
Постепенно, оказалось что моя самая сильная сторона, это не код, не системное мышление, не предпринимательство в своей классике привлечения инвестиций, разговорами с клиентами и продаж, хотя всё это я люблю, а скорее осмысление – процесс поиска ответа на вопросы “зачем” и “почему” мы что-то делаем или не делаем. Оказалось что и в маленьких, и в больших командах это очень важная задача, именно смыслы объединяют людей, помогают когерентно двигаться в общем направлении, создают ту самую корпоративную культуру и позволяют рассказывать истории про компанию и продукт инфесторам, сотрудникам и клиентам.
Мой канал существует с 2021, основные темы меняются, но всё строится вокруг саморазвития, бизнеса, корпоративной культуры, вопросов кооперации и философии. Но прежде всего это просто познавательная минутка – посты про штуки, которые разожгли моё собственное любопытство, любители сугубо практического контента будут разочарованы.
Примеры постов:
- про культуру в командах
- про команды из одних “суперзвёзд”
- про главную ценность
- про полярности и диалектику
- про истиную цену
- про Чипов и Дейлов в предпринимательстве
- про комплексные числа (внимание, правда математика)
- про сознание как вычисление (одна из сторон)
А какие каналы не из списка вы читаете на похожие темы? Делитесь в комментариях.
Сегодня не про философские темы, а про банкротство SVB.
Обанкротившийся Silicon Valley Bank жутко популярен у стартапов в США и особенно в YCombinator. У кучи моих одноклассников из YC там счета. Он не входил в топ самых крупных банков США по активам, но для IT индустрии и конкретно стартапов это был реально банк номер 1, я думаю.
У меня тоже там был бизнес счёт. Был до 2020 года. Первый раз SVB пришел закрывать счета нашей компании еще в 2018 кажется году. На вопрос о причинах были какие-то нелепые отмазки про риск профиль и всё такое. Но в какой-то момент в почтовой переписке кажется неаккуратно зафорвардили часть внутренней коммуникации, из которой получалось что закрывают нас потому что фаундеры русские (вернее русский и украинец, но в 2018 это было “одинаково плохо” для риск менеджмента).
Серж устроил им там адский скандал, нашел члена правления банка из своих стэнфордских одноклассников, предложил попить кофе в Пало Альто, обсудить скриншот из переписки, доказывающий, что счета закрывают по национальному признаку, позвать журналистов знакомых. В итоге кофе попили, журналистов попросили не звать, счета оставили. Сейчас в 2023 году даже смешно что можно было так.
Тем не менее, вернулись к нам спустя 2 года вновь с тем что “компания не соответствет профилю”, в этот раз очень аккуратно с коммуникационной точки зрения. Ругаться сил уже не было никаких, серебряная пуля будто бы уже потрачена, хотя кажется просто стало понятно, что рано или поздно они всё равно закроют счета. Их закрыли, мне пришлось открывать другие, переводить деньги и заниматься всякой административкой. Я помню как жутко злился на всю эту ситуацию и на сраный SVB.
А оказалось вон оно чо. У кучи русских стартаперов закрыли счета в SVB и они без особых вывели деньги куда-то еще. Тысячи американских стартапов сейчас потеряли доступ к своим часто единственным счетам и чёрт знает как будут добиваться восстановления справедливости. Вот надо было так злиться, если получается мне SVB вообще услугу сделал, спас наши деньги.
Отдельно сейчас много спекуляций о том что будет с индустрией и конкретно всеми попавшими компаниями. Мне кажется важный тут момент вообще не экономический и не социальный. А то что тысячи технических предпринимателей вдруг понимают, что текущая система крайне хрупкая. Мне и так было непонятно, почему даже относительно крупная организация с десятками миллионов долларов на счетах абсолютно спокойно держит их в одном единственном банке, но в США правда никто не заморачивался. Централизация вроде как нужна и важна как раз, чтобы обеспечить надежность и волевое решение сложных вопросов, но кажется что именно тут она не особо помогает. Посмотрим, конечно, как будут спасать ситуацию.
Понятно, что это для стартапов Black Swan event. Но я не думаю что все эти предприниматели как-то выцарапают свои деньги, просто принесут их в другие банки и продолжат жить как раньше.
Мне понравилось определение рака, как сбоя, приводящего к преследованию клетками многоклеточного организма целей одноклеточного. То есть клетки рака перестают считать себя частью системы и начинают считать себя индивидуальными одноклеточными организмами.
Как это меняет их поведение? Интересно, что сами по себе цели одноклеточного организма не особо отличаются от целей клеток многоклеточного организма, то есть нет там какого-то особенного проявленного эгоизма. Клетки хотят получать как можно больше ресурсов себе и размножаться. Проблема именно в этом определении себя. Клетки рака ограничивают “себя” одной лишь клеткой, клетки многоклеточного организма работают на более широкое, сетевое “я”, чувство утраченное у клеток рака.
Как клетки многоклеточного организма вообще определяют своё “я”? Область до конца не изученная, но в целом через ионные обменные каналы друг между другом. Клетка, которая находится в постоянной сетевой коммуникации с другими (кстати по таким же принципам работает и коммуникация в мозге), становится частью сетевой структуры и “принимает” некое сетевое “я”. Сохраняя свои индивидуальные цели теперь работает в пользу благосостояния всей сети, а как следствие – поддерживает более высокую сложность организма и решать более сложные задачи играя в игры с положительной суммой.
Каждый сложный организм, существующий сегодня в мире, способный решать разные задачи, устроен только как децентрализованная сеть кооперирующих простых организмов.
Любопытно поразмышлять о том, как в этом плане отличаются примеры искусственного интеллекта, явно более централизованные сейчас, а также подумать про последствия таких различий.
Итак, я записал видеоинтервью с Лёшей Кинёвым про вопросы сознания, детерминизма, искусственного интеллекта и прочего. Качество не самый топ, но смотреть и слушать можно.
https://www.youtube.com/watch?v=bVLuvVp7-Ok
Когда я писал выше заметку про Юргена Шмидхубера, я был восхищен его простой и логической идеей о том, что в сознании нет никаких секретов, и это простой рекурсивный вычислительный процесс.
В идее что сознание – это вычислительный процесс есть много соблазнительного. Прежде всего, это довольно хороший способ атаковать “трудную проблему сознания”, то есть вопрос о том, как из физической реальности возникает субьективный феноменальный опыт. Как так – были атомы, которые долбятся там друг об друга, а потом они – бац – и вдруг что-то думают про себя. Если сознание – это вычислительный процесс, то по аналогии с компьютером, всегда можно сказать, что этот процесс, как и программа, сам по себе не живет в физическом мире. Вычислительный процесс – это абстракция, тем не менее на физический мир влияющая. Ну, то есть процессор сделан из атомов, но программа, ее состояние – из битов, у которых есть какие-то физические корреляты, но вообще это всё абстракция.
Такое объяснение крайне удобно, в особенности оно естественно дается программистам. Тем не менее есть большое количество умных людей, которые считают, что сознание невозможно редуцировать до вычислительного процесса. Один из самых известных – Роджер Пенроуз, который вообще считает что для объяснения сознания нужна новая физика.
Один из известных аргументов о том что сознание нельзя объяснить (только) вычислительными процессами – это triviality argument. Раскрывается он следующим образом:
1. Сознание должно быть независимо от внешних наблюдателей. Есть они или нет не определяет сознание.
2. Вычисление – это процесс, который выполняет компьютер или любая другая формальная машина Тьюринга.
3. Компьютеры детерминистичны. Значит если сто раз его включить загрузить в него программу и дать на вход одинаковые данные, то мы получим одинаковые результаты.
4. Компьютер можно реализовать в любой среде. На транзисторах, на микросхемах, да хоть на вакуумных лампах. Вот может и мозг это жидковатый компьютер… Физическая имплементация не меняет прошлый пункт – одинаковая программа и входные данные = одинаковый результат.
5. Раз компьютер можно реализовать как угодно, то это может быть даже механический компьютер, сделанный из лего, или, например, тут есть комикс XKCD, который воображает, что полноценный компьютер можно реализовать, раскладывая камни в пустыне. Там человек застревает в пустыне и становится бессмертным, но не может из нее выйти, и чтобы не скучать, он раскладывает камни, реализуя вычислительные процессы, в которых решает симулировать всю вселенную.
6. Раз сознание – это вычисление, то можно получается написать программу, типа consciousness.exe, которая создает и запускает сознание. Но в соответствии с пунктами 4 и 5, эта программа может быть реализована в любой среде, в том числе в виде набора камней в пустыне. Или как тетрадка с цифрами.
7. Собственно выходит, что тогда пустыня с правильно расставленными камнями должна быть осознанной. Но что именно там обладает сознанием?
Этот аргумент можно развивать и дальше, но я остановлюсь тут.
Можно по-разному критиковать этот аргумент, например, утверждая, что набор камней действительно разумен, или говоря, что вообще разумен не набор камней, а вся система, включая человека, который эти камни закодировал и переставляет в соответствии с программой.
Но в любом случае этот аргумент заставляет задуматься, является ли сложный вычислительный процесс необходимым и достаточным условием возникновения сознания. Или же он необходимый, но не достаточный?
В комментариях к прошлому посту мы хорошо подискутировали на эту тему с Лёшей Кинёвым, также сторонником идеи о невозможности редукции сознания к детерминистским вычислениям. Теперь я хочу сделать с ним интервью, чтобы глубже копнуть эту тему.
В 2023 году трансформеры и генеративные модели перейдут от создания контента к прямым действиям.
ChatGPT и Jasper пишет вам тексты, но запускать емейл рассылки всё еще нужно самим? Midjourney рисует картинки, но наполнять ими статью нужно самому. Copilot пишет код, но деплоить его нужно руками.
Очень скоро это поменяется, и возможно это создаст новую доминантную платформу приложений. Сами большие генеративные модели будут консолидироваться и укрупняться, но процесс их подстройки под свои нужды, обогащение, файн тюнинг под конкретные задачи, а также связь с реальными действиями будет децентрализован.
То есть, условно, GPT4 будет платформой OpenAI, но я смогу написать приложение, которое позволяет инстансам GPT4 работать в коллцентре и отвечать на звонки, или заниматься продажами по емейлу, или созданием промптов, креативов, объявлений, запуском и оптимизацией рекламных кампаний в фейсбуке.
Это уже происходит сейчас понемножку, но приобретет массовый характер в ближайший год, продолжив тренд радикального изменения интерфейса взаимодействия людей и AI. Там где раньше мы задавали четкий вопрос и получали детерминистический ответ, сейчас мы видим контекстно зависимый диалог. Скоро этот диалог превратится в коллаборацию, а в дальнейшем и в замену человека.
Сейчас больше фокуса на специализацию, вертикальный файн тюнинг, когда система дообучается на спецефических данных из какой-то области, например, сеть Med-PaLM показывает результаты, сравнимые с работой профессиональных врачей.
Но этот тренд это только начало, важнее будет способность моделей нового поколения 1) совершать действия, 2) в реальном времени учиться, в том числе понимать последствия своих действий.
Челленджи тоже понятны. Например, уже сейчас эти модели душат костылями и сейфгардами, “кабы чего не вышло”. Еще проблема – галлюцинации, когда сеть выдумывает правдоподобные ответы.
Тем не менее, нас точно ждет невероятный прыжок в способности этих моделей. На картинке число параметров в модели GPT-4 в сравнении с GPT-3.
Мне кажется, что музыка трансцендентна.
Музыка не содержит в себе явных символов и узнаваемых форм, музыканты не пытаются точнее воспроизвести звуковые звуки природы, как тысячелетия делали художники. Шопенгауэр замечал, что музыка обходит ограничения языка и напрямую передаёт суть реальности.
Музыка соединяет самых разных людей, простейшие музыкальные паттерны являются, пожалуй самыми узнаваемыми последовательностями в мире.
Музыка в своей простоте скрывает невероятную глубину. Соединяет нас с чем-то большим. Она одновременно математически очень проста, а с точки зрения влияния на человека очень сложна. Пифагор считал, что музыка – это прямое отражение математических законов реальности.
А еще, что-то чудесное случается и с теми, кто музыку пишет, и с теми, кто ее играет, и с теми, кто ее слушает.
Музыка проникает в самые недра души, как будто бы минуя множество слоев сознания. И вот мне интересно, как так случается? Она точно эволюционировала вместе с нами, а еще это первый (вместе с тактильным) сенсорный канал, который доступен нам в жизни, и судя по исследованиям последний, который остается с нами в смерти. Иногда кажется, что он и после смерти не отключается.
Общество проходит через такие же этапы потери и обретения смыслов, как и индивидуальный человек, только масштабы иные, в том числе во времени.
В пирамиде Маслоу “самоактуализация” находится наверху, то есть, если верить этой модели, вопросы смыслов встают перед людьми тогда, когда закрыты все остальные потребности.
Но мне кажется, что вопросы смысла никогда не утрачивают свою актуальность, просто у них также свой масштаб и характер влияния на человека. Если вам нечем дышать, то кажется что актуальность смыслов невысокая, но более срочная потребность не делает ее более важной.
А важной для кого? Очевидно, что индивидуальному человеку дышать важнее, чем понимать, зачем жить свою жизнь. Но обществу, групповому сознанию, смыслы точно важнее, чем кислород. Вся пирамида как будто бы переворачивается – без смыслов общество болеет, воюет и задыхается.
Вы когда-нибудь задумывались, почему вы видите сны, а не слышите их, не чувствуете как набор запахов или тактильных ощущений?
Девид Иглмен, известный американский нейробиолог, считает, что это всё из-за вращения Земли. Вращение никак не влияет на все ваши чувства, кроме одного – зрения. В темноте люди видят сильно хуже. И проблема приходит вот откуда: если вы половину времени не используете свой зрительный кортекс, то, особенно в детстве, благодаря нейропластичности он будет постепенно захватываться соседними областями мозга и использоваться в других целях. А визуальный кортекс нам очень нужен. Получается, что сны – это способ защиты визуального кортекса в период неактивности.
Во время REM фазы сна происходит две вещи: крупные группы мыщц парализуются, а в визуальный кортекс начинает поступать большое количество стимулирующих сигналов. Таким образом в нас симулируется реальный визуальный опыт, но без того, чтобы тело бегало и прыгало.
Девид говорит, что децентрализованное устройство мозга в принципе заставляет разные его части конкурировать за “real estate”, то есть сами нейроны, и кинематографические сны – это эволюционно выработанный способ защиты, своего рода побочный продукт нейропластичности и устройства солнечной системы.
Тут мы разумеется не углубляемся в вопрос а какие сны мы видим, и почему именно такие. А это тоже очень интересно.
Я последние пару дней учусь нырять на задержке дыхания, фридайв. Оказалось, что это очень медитативная и прикольная штука.
Я всегда думал, что нужно очень много тренировок, способность очень надолго задерживать дыхание, чтобы погрузиться больше чем на глубину бассейна.
Но выяснилось, что кислород вообще не проблема. Время так сильно замедляется, что его становится достаточно, а способности организма выдерживать дискомфорт задержки дыхания я только начинаю осознавать.
В итоге времени под водой можно провести целую вечность, особенно, если о нем забыть.
Еще одна из интересных мне тем, которая последнее время стала еще более актуальной, и к которой теперь легче подступиться (после релятивизма и карго-культов), это тема “разумности” искусственного интеллекта. Да и разумности вообще.
Может вы помните нашумевшую историю, когда несколько месяцев назад один из гугловых инженеров, Блэйк Лемойн, тестировавший аналог/конкурент ChatGPT под названием LaMDA пришел к выводу что LaMDA разумна? Про это написали множество изданий, но внутри ИИ сообщества Блэйка раскритиковали и кажется даже уволили из Гугла.
Сейчас, когда с разными сложными ИИ, такими как ChatGPT или Midjourney многие повзаимодействовали, то мне стало интересно, что вы думаете по поводу разумности таких сеточек? Свое мнение позже тоже напишу, разумеется. Счас опрос запилю.
Меня тут спрашивают, в чем прикол ссылки из последней заметки?
Во-первых, важно понимать что game of life – это просто один из примеров систем с очень простыми правилами, на основе которых можно сделать сложные самовоспроизводящиеся паттерны любой сложности. Это называется Тьюринг полная система. Это значит, что формально на game of life можно сделать любую вычислительную систему, напимер, написать ChatGPT бота, который напишет вот этот самый текст.
Хочу еще раз обратить внимание: на игре, правила которой определяются тем, как соседние клеточки размножаются и умирают, можно написать программу любой сложности. Что значит в контексте game of life “написать программу”? Это значит придумать какой-то язык, обозначающий данные, например, для каждой цифры, буквы и символа придумать паттерн из клеточек в игре. Затем, придумать как хранить и распознавать эти данные. Своего рода “высокоуровневые клеточки”, внутри которых и лежат эти символы и данные. Затем придумать набор операций над ними, язык программирования и, наконец, написать необходимую программу, какой сложной бы она не была.
С учетом того, что поле для game of life бесконечное, получается, что мы можем закодировать в ней совершенно всё что угодно. Разумеется, нам будет не удобно в какой-то момент смотреть на самый нижний слой клеточек и мы придумаем своего рода зум, который позволяет смотреть на абстракции, а не на поле для игры.
Абстракции, например, такие как символы, цифры, их методы хранения и обработки образуют новое, более высокоуровневое поле, в котором происходит что-то совсем другое. Но вот вопрос: другое ли? Да, мы можем придумать новые сложные эмергентные правила, но все они в своей глубине работают на примитивных правилах клеточного автомата.
Так вот что же происходит по ссылке из прошлого поста?
Там визуализация game of life, в которой на базе игры сделана вычислительная машина которая симулирует саму себя. То есть game of life играет в game of life. Если вы позумитесь вверх, то увидите, как причудливые квадратики на поле из игры образуют на более высоком уровне новую сетку, в которой тоже происходит какой-то движ, и если присмотреться какой именно – да тот же самый. Клеточки верхнего уровня “закрашиваются” в белый или черный цвет по тем же самым правилам, что на “нижнем” уровне.
Что самое интересное – это не останавливается на одном уровне вверх. Поскольку игра симулирует не только саму себя (базовые правила), но и симулятор самой себя (программу, написанную на базовых правилах), то более высокоуровневая система порождает еще более высокоуровневую, а та еще более и так до бесконечности.
Но если вы будете зумиться вниз, то увидите то же самое. Почему? По идее должна быть некая ультимативная, базовая сетка, на которой все построено. Но на самом деле это иллюзия. В рекурсивной системе нет “дна”, а функция определенная через саму себя не обязана “с чего-то начинаться”.
Что это нам показывает? Базовая реальность – это некая концепция нашего ума и в случае рекурсивной, фрактальной природы вселенной она совершенно не обязана существовать. В каком-то смысле единственной базой является функция и сама рекурсия.
Но, минуточку, наша рекурсивная game of life всё таки запущена на компьютере, который вот тут, в этой нашей реальной реальности. Она может быть бесконечным циклом, замкнутом на самом себе, но работает же она на фундаментальной и абсолютной реальности наших битов, внутри процессора, сделанного из атомов.
Почему это важный инсайт о природе реальности, а не просто головоломка я напишу в другой раз.
Снова про игры
В какой-то момент становится понятно, что есть люди, ведущие совершенно необычный образ жизни. Формально они делают всё то же самое: занимаются бизнесами, пишут книги, исполняют музыку, читают стихи. Но это лишь поверхностная форма, фасад, за которым скрывается искусное волшебство.
Эти люди играют в другие игры. Их взаимодействие с реальностью и остальными людьми вызывает совершенно другие ощущения – это вкус трансформации. Иногда это прямо очевидно, но часто это не заметно сразу, бывает что фасад долго скрывает реальную суть происходящего.
Постепенно я научился всё лучше видеть этих людей. Некоторые из них уже знают, что они делают, но далеко не все. Некоторые знают, но хитро улыбаются и не признаются, не обсуждают это.
Я нашел несколько ключевых признаков, по которым нахожу их. Иногда есть только один, иногда несколько:
- Опосредованность. Они действуют не напрямую.
- Масштаб. Они касаются большого числа людей и событий.
- Легкость. Не выглядит будто бы они особо сильно напрягаются.
- Другие временные ориентиры. Они действуют в других временных рамках и будто бы совсем не торопятся.
Когда вдруг понимаешь, какая ведется игра, то оторваться невозможно, это жутко красиво. Но объяснить часто сложно, потому что слов для этого не придумали, а если начать упаковывать в те что есть, то волшебство пропадает.
Знаете таких?
Что такого интересного в культах карго? Ну, наверное самое интересное – это сам факт того, что для людей вполне себе натурально и естественно верить в то, что выполнение определенных ритуалов само по себе способно приносить практически любой результат.
Людям свойственно упрощать, но когда мы упрощаем, то сложно сказать, в какой момент теряется главное. С точки зрения аборигена самолёт из соломы от настоящего самолета почти не отличается. Наивно было бы думать, что мы все ушли сильно дальше и в каких-то аспектах не “маршируем с палками по лесу”.
В комментариях уже вспомнили про имплементации agile в командах на уровне карго культов, когда ритуалы формально выполняются, но понимания нет что и зачем, и поэтому ничего не работает.
Я также когда-то сделал довольно успешное выступление на AgileDays про карго культ в продуктовой аналитике. Там также люди наивно воспроизводят какие-то действия, в надежде на чудеса, которые вообще не спешат случаться.
Ну а если про Бали говорить, то есть даже особый термин для этого: spiritual bypassing. То есть избегание сложных и объективных проблем с помощью духовного / мистического опыта. Типичный пример: вместо того, чтобы учиться ездить на мотоцикле / скутере, тут многие идут медитировать и есть 🍄, однако преисполнененность не является защитой от ДТП. Но вообще более классические карго культы тут: копирование духовных практик без особого глубокого опыта.
Тем не менее, у такого карго-культистского поведения явно есть рациональное зерно. Так делают все дети, наивно копируя родителей, без глубокого понимания сути. Так делают и взрослые, инстинктивно подражая “более успешным” в совершенно разных аспектах. На отслеживании и подражании держится практически всё общество. Так работает лидерство, селебрити, мода и многие другие социальные конструкции.
Наивное копирование – клей человеческого общества. Не знаешь как надо? Делай как я. А потом разберешься. Да и не только человеческого. Муравьи “просто”повторяют друг за другом и добиваются сложного эмергентного поведения. Да что там, искусственные нейронные сети, например, большие языковые модели являются прямо ультимативными карго-культистами: прекрасная имитация лингвистических паттернов, без глубокого понимания.
А без понимания ли?
Давно про это не писал, но понял что несколько раз за последнее время давал ответ на один и тот же вопрос: зачем вообще медитировать, заниматься психотерапией, разбирать свои модели мышления?
Я наткнулся на интересный вариант ответа на этот вопрос от профессора когнитивных наук унивеситета Торонто Джона Вервеке. Этот ответ доволно такой структурный и возможно слишком утилитарный, но и спрашивают обычно этот вопрос люди сомневающиеся, поэтому поделюсь ниже. В один пост не влезает, поэтому будет два.
——
Дело в том, что у каждого человека неприменно возникает проблема. Что-то идёт не так, человек чувствует стресс, автоматически повышается чувствительность, мозг и тело запускают свои процессы реагирования. Эти процессы, хотя и уникальны для многих людей, характеризуются похожими чертами, в любом случае человек начинает оценивать вероятность плохого результата на интуитивном уровне.
Если интуиция делает вывод, что плохой результат неизбежен, то начинает подниматься тревожность, и одновременно схлопывается способность к когнитивной гибкости, то есть способности выбирать что и как человек думает.
Когда человек утрачивает когнитивную гибкость, его модель реальности становится очень жёсткой, его “захватывает”. Человек начинает жить из страха, и даже если он совсем лёгкий и не осознаваемый, всё равно количество вариантов своих действий, которые человек осознает как возможные резко уменьшается.
Пара примеров:
Руководитель боится что ключевой человек в его команде уйдет, он в какой-то момент делает интуитивный вывод, что скорее всего это случится, начинает беспокоиться о будущем проекта, бояться провала, обвинять сотрудников в нелояльности и т.п., не замечая, что утрачена когнитивная гибкость, что есть множество вариантов реакции на еще не состоявшееся негативное событие, включая его предотвращение.
Другой пример: парень волнуется и ревнует, если его девушка уходит гулять с подружками, в какой-то момент его модели восприятия и интуиции загоняют его в тревожность, сразу утрачивается опциональность – в сознании остается самый катастрофический вариант развития событий, а в уме готовятся самые решительные реакции.
Почему эти в общем то маленькие штуки важны в жизни? Потому что они запускают то, что Джон Вервеке называет паразитическим процессингом. То есть такой мыслительная ловушка – деструктивный цикл с обратной связью: вы с утраченной когнитивной гибкостью и в тревоге неизбежно совершаете ошибки (начальник сам увольняет сотрудника, парень обвиняет девушку), они приводят к наращиванию проблем, еще большему падению когнитивной гибкости и так до бесконечности.
Мыслительный процесс просто начинает пожирать все сознание и самого себя (потому то он и паразитический), человек становится будто бы парализован и постепенно скатывается в перманентную тревогу и депрессию.
Разумеется это крайний негативный сценарий, но вот в чем дело: наш организм, подпитываемый большим количеством проблем в жизни, вместе с умением легче их решать, также учится больше из-за них волноваться, быстрее и легче попадает вот в такие ловушки.
В общем, рано или поздно каждый взрослый находит себя в особой ситуации, когда казалось бы обычные проблемы выводят его из равновесия и эти ситуации предательским образом накапливаются и повторяются, часто создавая ощущение “ходьбы по кругу”.
Конечно, далеко не все люди и не всегда попадают в такие ловушки. Самой главной защитой, своего рода имунной системой психики выступает самооценка. Здоровая самооценка препятствует заходу в деструктивные циклы паразитического процессинга и помогает выходу из них, но разнообразие проблем в нашей жизни гарантирует, что рано или поздно каждый столкнется с проблемой, где имунная система не справится.
Чувствую, что запал писать подходит к концу. Кажется очередной “сезон” завершается. В этот раз я написал примерно 40 постов, что довольно типично. Все прошлые разы тоже получалось 30-50 постов в одном “streak”. Кстати, когда я занимался медитацией, то также получалось месяц-полтора поддерживать стабильно практику. Совпадение?
Пока мне предстоит еще найти формат, в котором будет получаться писать не каждый день, а 1-2 раза в неделю, но прямо стабильно и хорошо. Пока у меня не очень получается. Возможно я разгадаю этот секрет когда-то.
А пока вопрос вам: я через несколько дней лечу в Японию. Куда надо обязательно сходить, съездить, слетать? Что сделать, съесть, выпить, купить?
Есть очень известная дилемма вагонетки, в которой персонаж должен решить, дергать ли рычаг и переводить ли стрелки трамвая, когда он мчится по прямой и задавит трёх привязанных к рельсам людей. Если человек переведет стрелки, то трамвай поедет по другой линии, и задавит только одного привязанного человека. Рационально всё абсолютно понятно, но это решение всё же полностью ложится на плечи конкретного человека, поэтому большинство людей склонно его откладывать или избегать.
Я считаю, что вся наша жизнь – это череда дилемм вагонетки. Не простых выборов, где А и Б — это очевидное решение, а именно вариантов, где каждый ответ, это провал, но выбор сам по себе – это ответственность.
И в контексте рассуждений про искусственный интеллект, и в контексте рассуждений про развитие естественного лидерсва хочу сказать одно: всё определяется тем, как вы решаете сложые диллемы.
Интересно что до сих пор очень мало известно о том, как хранится память. Некоторые вообще считают, что “трудная задача сознания” связана в первую очередь с вопросом того, что же такое память.
Самое странное, что мы знаем про память – это сложность её локализации в теле. Конечно, память бывает разная, но сам факт, что гусеница, превращаясь в бабочку полностью разрушает и пересобирает своё тело, включая мозг, но при этом доказано сохраняет память, пока толком не может объяснить никто.
Аналогично с планариями, это такие плоские черви, способные регенерировать всё что угодно, включая мозг. Можно научить планарии искать еду рядом с конкретным видом мест, потом отрубить голову, подождать несколько дней когда “хвост” регенерирует обратно мозг и окажется, что вся память цела.
Где же хранится эта информация?
Вообще клеточное сознание – огромная и, как ни странно, очень новая область науки, где до сих пор люди мало что понимают. Кстати, любопытно что проблемами клеточного сознания и морфогенезиса очень интересовался Алан Тьюринг, который как раз считал клеточные автоматы хорошей моделью для изучения паттернов развития клеток.
Наблюдая за бурным развитием инструментов AI, я вспомнил об истории про появление кварцевых часов и резкий разворот швейцарских часовых мастеров.
Если кто не знает, то базово история звучит так: во второй половине 20 века, когда появился и стал массово распространяться кварцевый часовой механизм, швейцарские часы стали быстро утрачивать свои позиции. Японские кварцевые механизмы были точными, качественными и очень дешевыми и сделали часы доступными широкому кругу людей.
Тем не менее швейцарским мастерским удалось приспособиться к новой реальности, вмест того чтобы опускать цены и конкурировать за стомиость и точность с кварцевыми часами, они заметно подняли цены и стали позиционировать механические часы, как предмет искусства и роскоши.
Менее выраженно, но похожая история случилась с аудиозаписями и живым исполнением музыки, а также с фотографией против живописи.
Сейчас мы видим похожую историю с AI. Скоро сгенерированные тексты, изображения, видео, код будут всё более распространены и доступны, а значит мы увидим новый тренд: вместо того чтобы хвастаться, что компания использует AI, появятся компании, которые будут хвастаться и гордиться тем, что они его не используют.
UPD: Да, цифра в 100 триллионов это фейк, но GPT-4 правда глубже и имеет заметно больше параметров. Мой пост скорее не об этом, а о том, что AI UI/UX является и являлся уже давно узким местом.
GPT-3 существует уже много лет, а его чуть улучшенная версия с прикрученным интерфейсом чата взорвала мир в один момент. Это не только про готовность какой-то компании прожигать деньги, чтобы показать людям свой продукт. Это и про решение, которое правда приносит ценность.
Даже если за 2023 год мы не увидим GPT-4, что вполне возможно, я думаю мы увидим формирование новой платформы, где разные компании будут писать “агентов”, то есть приложения действующие на основании работы модели. В том числе сама модель будет писать и деплоить эти приложения, что было бы логичным шагом.
Также мы увидим будет количество файн-тюнинг версий. В графических генеративных моделях мы уже видели этот этап. Берется Stable Diffusion, модель, уже умеющая воображать тысячи разных видов объектов в разных контекстах, и переобучается на фотках конкретного человека. Таким образом модель “забывает” широкое разнообразие человеческих образов, и если ее просят сделать картинку с любым человеком в любом контексте, то она нарисует именно того, которого запомнила. То же самое с другими объектами и то же самое с другими моделями-трансформерами, в том числе текстовыми. Модель, запомнившая свод законодательных актов и юридическую практику одной страны станет юристом в правовом контексте конкретной страны. При этом модель не теряет свою широту и глубину познаний в других областях.
С моей же точки зрения любопытен сам факт конструирования и отбора моделей, успех моделей синхронизированных с человеческими смыслами через “знание” языка. Это как будто бы уже не просто часть адаптации интерфейсов. Сложно тут не вспомнить Хайдеггера и его идеи об активном языке, который живёт через нас и формирует реальность. Вот сформировал себе новое пастбище.
А мне вот интересно, все с годами всё лучше и лучше чувствуют сигналы своего тела?
В 30 лет я не мог почувствовать эффект от кофе, а сейчас я хорошо отличаю сорта чая по действию. Раньше мне сложно было увидеть влияние сладкого, я не чувствовал дегидрацию, недосыпание и так далее.
Из необычного – я по запаху собственного тела чувствую если заболеваю, иногда за несколько часов до того как заболею.
А к чему у вас необычным образом развилась чувствительность?
Когда ныряешь в месте с большой глубиной, то в какой-то момент пропадают все визуальные ориентиры, внимание устает метаться в поисках хоть чего-нибудь и разворачивается внутрь. Это становится неизбежным этапом, потому что только внутри есть истина. А что если снаружи будет не пустота, а ее противоположность – “абсолютно всё что можно представить”?
Очень скоро способности современных генеративных сети достигнут такого уровня, что люди будут вынуждены пересмотреть свои отношения к таким категориям, как правда и ложь. Переизбыток информации, сложность различения реального и фейкового, а главное – сами инструменты сверки. Сейчас, для проверки каких-то фактов нам предлагают гуглить, но скоро гугл и бинг и будут генеративной бездной. Who is watching the watchers?
Как за одно взвешивание понять, если монетка фальшивая, если в наличии только сломаные весы?
Еще про сон жутко интересно вот это состояние вспоминания того, кто я такой. Раньше я никогда не заострял на этом внимания, и даже не замечал этот момент. Ну чего такого? Было тысячу раз. Проснулся, чуть погружен еще в сон, поэтому сложно сразу собраться.
Но всё поменялось после того как у меня случилась амнезия, когда я башкой как следует об воду ударился. Память – это, как говорят программисты, связанный список, и если он разорвался, то вся идентичность рушится. И тут же динамически воссоздается то, что осталось.
Теперь всякий раз когда я резко просыпаюсь, я чувствую как восстанавливается моя личность и включаются представления о себе. Этот процесс теперь гораздо более заметен, и я не считаю его стопроцентно гарантированным.
А еще я чувствую этот процесс в других, особенно детях, которые долго прогружают свою идентичность и вспоминают, кто они такие. Память не очень слаженно работает в возрасте до 5-7 лет, и процесс реконструкции более сложный и менее надежный.
Филипп (кстати, интересный у него канал) попросил меня написать свои мысли насчёт значимости числа “три”. Мне, как обычно, интересно скорее вбросить разных мыслей. Надеюсь он сам придет в комментарии.
Когда-то мне было очень интересно самому понять, что это вообще за число такое и какой в нем глубокий смысл (вот и такое бывает). Я тогда думал, что один такой долбанутый, но потом оказалось что на тему значения тройки и триады не философствовал только ленивый.
- Гегелевская диалектика с тройкой тезис, антитезис и синтез – основа развития.
- Ницше пишет о важности “трёх”, как основе трансформации и изменения. Верблюд, Лев, Ребенок.
- Хайдеггер считал триадность фундаментальным свойством реальности, которое структурирует весь мир в тройки.
- Делёз исследовал метафизическую значимость числа “три” и писал о триалектике.
- Жижек пишет о триаде “символического”, “воображаемого” и “реального”.
И так далее. И это я не вспоминаю религии, наверное, в любой есть троица.
Но вот мне что стало интересно. Иногда я чувствую особое чувство, которое как будто бы говорит о том, что нужна тройка, когда есть только двойка. “Тут нужен баланс двух вариантов” или “тут нужен третий человек для принятия решения и выхода из конфликта” или “тут кажется нужно перейти от 1d к 2d”. Обычно это такое ощущение разворачивания сложного из простого.
Бывает у вас такой вкус троечности?
Есть такой очень интересный чёрт, Jürgen Schmidhuber. Когда-то я очень хотел перевести его статеечки и ответы на вопросы из Реддита на русский, но поленился. Кажется, сейчас хороший момент про него вспомнить.
Он один из экспертов по искусственным нейронным сетям, и в частности RNN, рекуррентным нейронным сетям, и трансформерам, на основе развития которых и построены современные архитектуры сетей типа GPT3.
Сейчас Юрген работает над задачами metalearning, то есть обучения обучению и строит Gödel Machine – программу, способную эволюционировать, перестраивая собственный код. Его интересует как раз метасостояния моделей и обратная связь.
Все кто во вчерашней заметочке позарубались на тему сознания нейронок, но не слышали про Юргена – рекомендую почитать про него, у Лекса Фридмана есть с ним подкаст, есть выступление на TEDx, AMA в Реддите, может что-то еще.
Но сегодня я просто переведу пару его реплик из AMA аж в 2015 году.
Q: Есть ли у вас любимая Теория Сознания, и как вы думаете, какое влияние имеет Теория Сознания на AGI?
A: Карл Поппер когда-то сказал: “Всё чем является жизнь – это поиск решений”. Никакая Теория Сознания не нужна, чтобы определить цели “поисковика решений”. С точки зрения AGI, сознание – это в лучшем случае побочный продукт универсального поисковика решений.
Откуда возьмется это сознание? Я думаю, в процессе компрессии данных во время поиска решений.
Когда поисковик решений взаимодействует с миром, он должен хранить максимум данных о всей истории своих действий и всю сенсорную информацию, включая сигналы наград. Данные – святая ценность, так как они являюся основой всего, что мы знаем о мире.
В то время как мы взаимодействуем с миром в попытке достижения целей, мы создаем внутреннюю модель мира, предсказывая и сжимая те самые исторические данные, которые мы наблюдаем. Если предсказатель/компрессор является биологической или искусственной нейронной сетью, например рекуррентной нейронной сетью, он автоматически построит иерархию образов, на низком уровне будут сырые сигналы, на более высоких – более абстрактные образы. Как любой хороший компрессор, нейронная сеть будет учиться определять общие закономерности среди существующих структур данных, и создавать репрезентации, символы для часто встречающихся наблюдаемых феноменов или последовательностей наблюдений. Это просто натуральный результат компрессии данных наблюдений, чтобы сохранить максимум истории и занимать минимум места.
Рано или поздно появляется “символ себя” (self-symbol), просто как побочный продукт этого процесса, поскольку есть одна штука, которая фигурирует во всех процессах взаимодействия агента и среды – это сам агент. Поэтому появление внутренней репрезентации себя также естественно в результате компрессии.
Если эта репрезентация активируется, например во время активации группы нейронов при входящем внешнем сенсорном потоке, или во время подачи на вход данных от “внутреннего фонарика”, при своего рода рефлексии в нейронной сети, то можно назвать этого агента “осознанным”, так как он осознает самого себя.
Нет смысла видеть в этом какой-то невероятный мистический процесс – это просто естественный результат эффективной компрессии постоянного потока внутренних и внешних данных и кодирования часто встречающихся наблюдений.
—
Q: В чём вы абсолютно уверены, а с вами не согласны большинство окружающих вас в настоящий момент людей?
A: Многие считают что разум это невероятная, бесконечно сложная штука. А я думаю что это очень натуральный продукт нескольких простых принципов, которые будут считаться совершенно банальными задним числом, уже после открытия. Они будут настолько примитивными, что даже дети будут способны понять и сделать свои разумные, постоянно обучающиеся и универсальные поисковики решений.
—
Что думаете? Нужно побольше на пальцах расписать как работают RNN или другие похожие рекурсивные нейронки, чтобы понять, почему Юрген настолько сильно верит в то, что они и есть основа сознания? Или уже пора своё мнение по вопросу писать? =)
На Бали завтра заканчивается Lampu – событие по правилам Burning Man, фестиваль и что-то большее, чем просто фестиваль.
В современном мире фестивали, праздники и всякие подобные мероприятия многими воспринимаются исключительно как “бесполезное развлечение”. Или даже вредное, можно почитать довольно сильное мнение где-то у Вити Осыки в канале на тему Burning Man.
Я за последние несколько лет принял участие во многих фестивалях, был кое-где организатором, в том числе мы делали свой кэмп на Burning Man. И я до сих пор очень удивлен тем, что большинство этих мероприятий, являются совсем не тем, чем кажутся. Как те самые “играющие люди”.
Да, они бываются разные, и, я уверен, есть куча событий, где никакой большой цели нет, только потусоваться. Но даже тут возникает вопрос, зачем люди это делают? Почему не потусоваться в классном клубе в центре города? Чем больше я этим всем занимаюсь, тем больше вижу, что это устойчивая модель, она не случайная, она глубокая и ценная.
Для начала важно то, что фестивали гораздо сильнее объединяют людей, по сравнению просто с тусовками. Ну и если это маленькие события, где все друг друга знают, то это еще ладно, но когда это Burning Man, где собираются 80 тысяч человек, то естественное объединение невозможно, потому что коммьюнити таких размеров не бывает. Это значит, что люди соединяются по другим принципам, скорее именно на ценностном уровне. Снова более игровая форма, но запакованная в более-менее принимаемый обществом формат.
Вторая важная штука – это фантасмагория. Всякие такие события идут несколько дней, а еще их не случайно проводят на отшибе, чтобы нельзя было просто встать и съездить поспать домой или переключиться без проблем в другой контекст и другую реальность. За несколько дней в другом контексте спустя какое-то время организм сдается и начинает тихонько перестраивать реальность на “сказочную”. Продолжительность и изоляция – тоже элементы игры и они очень важны.
Третье: большинство событий такого рода требуют от участников личного вклада. Просто купить билетик часто недостаточно. Это тоже не случайный кусочек паззла. Так работает из-за того, что это позволяет децентрализовать такие события и повысить шансы на спокойное масштабирование мероприятий, а еще несет важный ценностный урок.
А еще это какой-то многими тысячелетиями сложившийся симптом какого-то глубокого социального процесса, который мы уже воспринимаем как ритуал и даже обесцениваем, но до конца не понимаем почему оно регулярно “само случается” с новой силой. Тут интересно рассмотреть, что даже в очень разных культурах есть очень похожие паттерны праздников, и они сильно важнее для общества, чем кажется на первый взгляд.
UPD: если человек или компания не умеет принимать и праздновать свои успехи, то жди беды. Ритуалы работают на всех уровнях очень похоже.
Мой приятель Сережа Кузнецов большой фанат игры Жизнь, придуманной Джоном Конвеем в 1970 году. Это игра без игроков, работающая по принципу клеточного автомата. Человек задает начальное состояние клеток в поле и дальше детерминистический алгоритм развивает жизнь по стандартным правилам.
Удивительно простые правила при этом порождают довольно сложные варианты развития событий и устойчивые модели паттернов. Не смотря на примитивность, энтузиасты нашли шаблон первого репликатора спустя 40 с лишним лет после изобретения игры.
Репликатор – это клеточный паттерн, который в этой игре делает копии себя. Он получился довольно сложным, впрочем, известные нам паттерны в физическом мире, которые реплицируют себя тоже удивительно сложные.
Но что если спрятать всю эту сложность на микро уровне и поверх него построить макро уровень?
Созертайте фрактальную бесконечную вечность (не забывайте зум) вот тут:
https://oimo.io/works/life/
Сухари!
Есть такой японский фреймворк – сю-ха-ри, он идет из практики восточных единоборств, но применялся гораздо шире при освоении любых навыков.
Первая стадия освоения – Сю:
“В Сю мы повторяем форму и тренируемся точно впитывать форму, созданную нашими предшественниками. Мы следуем ей строго и без отклонений”. Мастер айкидо Сейширо Эндо.
Очень напоминает карго культы. Мы повторяем формы, следуем за формой, не задаем вопросов. Не пытаемся понять.
Вторая стадия освоения – Ха:
“На стадии Ха, когда мы приучили себя к формам и движениям, мы начинаем эксперименты. В результате этого процесса многие формы могут быть нарушены или даже отброшены”.
Ого, только тут мы начинаем правда разбираться в том, почему и как всё работает.
Следующая стадия – Ри:
“Наконец, на стадии Ри мы полностью отходим от форм, открывая двери созидательной силе, где мы можем действовать в соответствии с тем что наш ум и сердце желают, без ограничений, но не нарушая Порядок”
Так вот получается, что обилие карго культов, в том же внедрении Agile, например, связано с тем, что люди застревают в стадии Cю. Повторяют формы, не особо понимая содержание.
Но главная проблема в том, что в нашем мире невероятной спешки нет времени на все эти мудрости и после лёгкого изучения методички мы перепрыгиваем на стадию Ха, где люди рушат и отбрастывают формы, не усвоив до конца их, не получив достаточно опыта для глубинного понимания.
В итоге получается ловушка: формы не освоены, но возвращаться к ним уже не хочется, ведь всё вроде как понятно, одновременно с этим ничего не работает и самолёты с карго не прилетают. Так и живем.
Планирую теперь несколько заметочек про карго-культы. Этот феномен меня жутко занимает. Напомню: культы карго, это то, во что верили (и до сих пор верят) некоторые люди, живущие на островах к северу от Австралии, вот прям рядом с Бали. Они верят что самолёты с товарами и продуктами питания посылаются духами предков, а белые люди нечестным образом получили контроль над ними, совершая магические ритуалы. Если совершать эти ритуалы также или даже более правильно, то груз с продуктами прилетит по адресу.
Культ возник после Второй мировой войны на островах Меланезии, где местные аборигены смотрели как марширующие на своих авиабазах американцы потом принимали самолёты с кучей ценного груза. После ухода американцев аборигены старательно воссоздали взлетно посадочные полосы, сделали копии самолётов из соломы, ходили строем с деревянными ружьями и даже делали "радисту" наушники из кокоса. Всё, ради того чтобы самолёты с грузом вернулись.
Поговорить мне про карго культы хочется потому что я на Бали, и тут как-то чувствуется такой подход, да и не только тут – где проходит граница между наивной имитацией и осознанным упрощением?
