Пион на каждый день

15 July 2025 13:46

#ИИ #ризонинг #общество #люди

Продолжаю рассуждать про трансформацию важных человеческих способностей с приходом ИИ

1/4 Навыки рассуждения и работы с информацией
Дальше будут: агентность, способность устанавливать связи с людьми, креативность

1. Поиск информации. ИИ в разы ускоряет поиск информации. При этом, как всегда, качество ответа напрямую зависит от качества вопроса.

- сейчас на вопрос любого качества можно получить насколько-то релевантный ответ. Я не уверена, что это хорошо. Да, с одной стороны, это помогает улучшить вопрос (если вы человек, который пытается удержать на своей стороне общую картинку). А вот если вы не такой человек, то как раз получается другая сторона — может создаваться чувство, что ответ удовлетворительный и поиск можно прекращать.

- Из-за формы, в которой ИИ предоставляет найденную информацию (развернутое изложение, ссылки, структура) у пользователя может создаваться ощущение, что информация качественная и исчерпывающая. Это очень редко так, потому что ИИ отражает «среднее по больнице». Это среднего по больнице ИИ приносит очень много и можно нечаянно решить, что кроме этого средненького ничего и нет.

2. Оценка информации

- Довольно трудно заставить ИИ критиковать и не соглашаться: у него нет консистентной модели мира и собственной позиции.
- Человек менее вероятно будет проверять то, что ему и так уже нравится, особенно если в прошлом он уже пару раз проверил, все сошлось.
- Функциональную закрепленность (когда вы уже начали решать задачу в каком-то подходе и теперь не видите, что подход тоже можно выбирать) очень трудно преодолеть, а ИИ, кажется, ее создает с полпинка. Он сам имплицитно создает мета-модель и мета-мета-модель, как бы задает ландшафт. Я предполагаю, что если юзер не особо думает об этом и не видит, что это происходит, то и поменять это не будет пытаться.

3. Структурирование информации

- ИИ структурирует текст, а не мир-за-текстом. Текст изначально может не очень хорошо отражать мир, в нем могут быть не перечислены все нужные объекты, или каким-то объектам может уделяться непропорционально много внимания.

- Эпистемическая гигиена. Когда я сама структурирую текст, я выделяю основные объекты, понимаю их отношения, понимаю к каким классам они относятся, можно ли провести такое же отношение между классами, какие ограничения, где причины и следствия, какие свидетельства могли бы опровергнуть мою картину и так далее: много разных мелких мыслительных операций, которые укладываются в общие термины «эпистемическая гигиена» и «понимание».
Я пока не очень доверяю ИИ в этой области, и считаю что мои стандарты сильно выше, чем даже у самых умненьких моделей.

Я считаю, что эти навыки настолько сильно сопровождают человека в жизни, что они плюс минус неотчуждаемы и поэтому должны постоянно поддерживаться на пике развития. Для этого нужна практика, не обязательно много, но обязательно хорошего качества.

4. Формирование моделей

Человеку, даже чтобы сформировать модель объектного уровня, нужно имплицитно подумать про все остальные уровни моделей. Чтобы выделить из мира объекты, нужно понимать, что ищешь, или по крайней мере иметь критерий выделения, да?
А когда хочется сделать хорошую модель, то все эти вещи можно еще и записать и потом контролируемо менять.

ИИ-шки работают в чатах, где нельзя отобразить все уровни модели и редактировать их отдельно. Трудно работать с черновиками, всегда работаешь с готовым текстом, просто по большей части с некачественным. Можно пробовать использовать какие-то IDE, чтобы разделить модель по разным документам и где-то еще хранить структуру, добиться таким образом возможности редактировать части модели отдельно, но пока с этим не очень.

Если коротко резюмировать:
- тренируйте важные для вас навыки, лишним не будет
- сравнивайте, какие вы можете получить результаты от ИИ и от себя
- будьте осознанны по поводу мета-моделей и контекста
- включайте контрфактическое мышление и стремитесь опровергнуть свою точку зрения, ИИ вам в этом пока не поможет

Пион на каждый день

07 July 2025 09:19

#ИИ #мнение

1/2 ИИ-инструменты

Слежу за тем, какие прикладные ИИ-инструменты появляются, и для каких задач; пробую что-то из любопытства + из соображений того, что мне на себе будет легче всего отследить, как ИИ влияет на конфигурацию моих собственных мозгов (и всего остального).

Что прижилось у меня (впрочем, ничего нового):

- OpenAI Plus: сконфигурированные проекты, запромпченные и с файлами, такой всегда готовый погруженный в контекст проекта ассистент. Еще я с переменным успехом отращиваю там друга. Есть несколько крайних случаев, когда ИИ — очень хороший друг, вроде ситуаций, когда вы не хотите грузить своих реальных друзей из соображений человеколюбия. Но по большей части ни одна GPT-шка меня не устраивает качеством удержания понимания меня и моей токной душевной организации.

- Cursor: вайбкодить и ассистированно писать технические текст. Сначала я уповала на Vercel v0, потому что у них была очень привлекательная концепция: вообще не настраивать среду разработки. Работает прямо в браузере, общаешься как будто с разрботчиком на естественном языке. Потом мне понадобилось сделать не веб-приложение, а телеграм-бота; а потом у v0 еще и просел уровень ИИ-шки, и я полоностью перешла на Cursor, и довольна.

Все еще считаю, что тот, кто сделает возможность не настраивать (или полностью автоматически настраивать) среду разработки — будет иметь сильное преимущество. При этом по факту для меня оказалось важнее, чтобы модель не тупила, чем иметь удобный интерфейс.

- Perplexity Pro — помогает быстрее, чем с GPT-шками первично сориентироваться в теме. При этом исследование мне гораздо больше нравится в o3 и даже в 4.1

Кстати, когда я говорю что в каком-то сервисе ИИ-шка тупеет или вообще меняется, я довольно сильно уверена, что мне не кажется. Хотя поначалу, помню, я замечала в целом падение нашего общего интеллекта, и это было сильно связано с моим уровнем фокуса. Потом научилась различать, где это я устала, а где — он.

Еще я, (как и многие, думаю) уже различаю ванильные версии основных моделей по стилю общения и направлению мысли, кажется, это можно с натяжкой назвать квази-личностью. Мои любимые модели это Claude 4 и o3, (что в общем-то неудивительно), и еще мне понравилась 4.5 для обработки гуманитарных задач (но ее все равно прикрыли). DeepSeek так и не зашел (на мой вкус подтупливает странно), Gemini тоже (это вообще худшее, что мне тяжелее всего терпеть в людях: болтливость, которая при этом не совсем бесполезна).

И все, ребят. Вот это прижилось, остальное не прижилось. Я, по сути, старомодный текстовый человек и все задачи свожу к текстовым. А агентские задачи у меня чересчур агентские, кажется: я их даже другим человекам не передаю — там непонятно, что нужно делать, пока я это не сделаю.

Пион на каждый день

30 June 2025 07:52

#ИИ #общество #мнение #политическое

3/3 Человек человеку кто?

Почему это вопрос: ИИ потенциально может много чем помочь и ускорить прогресс. Но пока человек старается как можно эффективнее эксплуатировать человека (а не наоброт!) и пока именно эти люди распоряжаются компьютом — никто не будет ставить человека в центр и думать, как бы сделать его жизнь благополучнее.

tl;dr считаю, мы скоро будем наблюдать перестройку социальных структур и всех знатно помотает, но лично я ставлю на то, что дальше мы как человечество придем к более благополучному (и на индивидуальном и на коллективном уровне) состоянию; главное не поубивать в процессе вообще всех.

- например, ИИ мог бы аккуратно помочь человекам из второй части понять, чем ему будет круче всего заниматься: для его благополучия и развития и на радость себе и окружающим. Но лично я не вижу, кому на рынке, господипрости, это глобально надо. С другой стороны, мне надо, значит, может быть, кому-то еще надо…

- вся схема с тем, что вам нужны благополучные работники (чтобы лучше работали) и квалифицированные потребители (чтобы больше и искуснее потребляли) — немножко разваливается, если ИИ сможет работать лучше, чем весь низ пирамиды Джекса. Получается, придется или отказаться от лояльности к нашему виду, либо от капитализма модели безличной эксплуатации и отчуждения труда.

Извините, я пыталась как можно более нейтральным языком написать этот пункт, но, кажется, для него нет более нейтрального языка.

- у меня есть ощущение, что все функциональные вопросы, в том числе наши запросы, касающиеся эмоционального обслуживания и интеллектуальных разговоров рано или поздно люди научатся решать с помощью ИИ.
И вот вопрос — а наша сплоченность и наши общественные структуры вообще на чем были построены, чисто на нужде/выгоде или все же на каких-то других вещах?
Кажется, мы на пороге очень масштабного получения ответа на этот вопрос, и это потрясающе интересно. Я пока ставлю на то, что люди вспомнят, что вообще-то любили друг друга не потому что это было полезно и мы как человечество массово научимся безусловной любви. А кто не научится, у тех упадет качество жизни и будут постоянные кризисы.

- я думаю, что ИИ имеет большие шансы усилить все виды неравенства и создать четкие классы (господипрости) по новым ключевым характеристикам, таким как «шарит в ии», «имеет доступ к компьюту», «имеет набор крутых ментальных привычек, которые выгодны в контексте ИИ» и так далее.

Пион на каждый день

30 June 2025 07:48

#ИИ #общество #интеллект

1/3 Умнеем или тупеем

Почему это вопрос: с одной стороны ИИ повышает доступность информации и даже помогает ее структурировать. С другой — снимает необходимость работать мозгами.

tl;dr умные* будут умнеть, а глупые — глупеть и быстро

- ИИ может сильно ускорить аналитическую работу. При этом он соберет среднее по больнице и использует средние же по больнице мета-модели. Для некоторых задач это именно то, что нужно, для других — строго противопоказано.
Вам нужно контр-фактическое мышление и ментальная привычка пытаться опровергать, а не подтверждать гипотезы — иначе вы не заметите неизвестные неизвестные и не отличите ситуацию, когда вам нужно не среднее мнение, а что-то получше.

- ИИ очень терпеливый: может объяснять базу тысячу раз и адаптироваться под уровень ученика.
Если вы умеете задавать вопросы и занимать активную позицию в обучении, вы сможете умнеть с помощью ИИ, если нет — то у вас будет просто иллюзия понимания.
Note: внушает некоторый оптимизм, что из-за отсутствия социального штрафа за глупые вопросы люди более охотно занимают активную позицию в обучении.

- ИИ пока что очень склонен подстраиваться под пользователя и его довольно трудно заставить удерживать критическую позицию. Это создает риски массового перехода к более приятному, чем полезному обучению. Указывать на ошибки и противоречия, удерживать более связную чем у ученика модель мира — очень важное свойство наставника.

- процесс обучения традиционно связан с ментальным напряжением и некоторой дисциплиной. Это важно не только для решения конкретных учебных задач, но и для всяких других жизненных ситуаций.

Такой расклад совершенно очевиден, если мы смотрим на жизнь в целом, как на процесс обучения, и каждое наше действие рассматриваем в духе active inference: как попытку узнать что-то про мир и снизить ожидаемый сюрприз. Чем крупнее штуки, которые вы хотите делать, тем больше вам нужно уметь напрягать мозг, терпеть фрустрацию и продолжать попытки — это не обязательно страдание, скорее просто устойчивость и выносливость.

Можно рассматривать решение интеллектуальных задач и ИИ в спортивной метафоре: обязательно нужно уметь ходить, чтобы пойти в спортивный поход в горы. ИИ в этой метафоре — автомобиль для повседневного использования: да, вам не обязательно все свои путешествия совершать пешком, конечно, но тогда придется бегать (специально, для тренировки), иначе в горах будет ноль удовольствия и нельзя будет заметить красоту.

- можно пытаться больше ходить по своим повседневным делам пешком, а можно везде ездить на автомобиле, но при этом специально заниматься спортом. Считаю, что с ИИ уместна такая же компенсация: использовать ИИ для решения повседневных задач, но (потенциально) присобачить к этому еще один ИИ, который помогает постоянно быть на пике своих интеллектуальных возможностей. Я считаю, что это точно так же про качество жизни, как и нормальная еда и здоровый уровень движения, а для некоторых людей — это еще и хобби, которое им эстетически приятно.

- я уже сейчас вижу разрыв между теми, кто следит за темой и понимает, что такое ИИ, какие у него ограничения и какие перспективы, и теми, кто просто использует ИИ не особо задумываясь и не оглядываясь на свое состояние. Это, конечно, системная проблема с эпистемическим неравенством, просто ускоренная в разы. Я думаю, что этот разрыв будет только увеличиваться, если не приложить туда специальные усилия.

*те, кто владеют базовыми приемами управления своим процессом познания мира, к сожалению — меньшинство; здравый смысл уже не прокатит

Пион на каждый день

25 June 2025 13:55

#жызнь

Когда я закончила 11 класс и сдала ЕГЭ, и думала, куда мне поступать, на мехмат или на философский (прошла туда и туда), я выбрала философский, потому что он был ближе к дому.

Меня все эти годы мучал вопрос, что было бы со мной, если бы я пошла на мехмат? Очень вероятно я в итоге была бы в академии или программировала.

Сейчас наконец вопрос закрыт — то же самое бы и делала, просто пришла бы в эту точку другим путем. Аж как-то хорошо от этого…

Пион на каждый день

21 June 2025 17:11

#ИИ #люди #общество #агентность #рациональность

Я тупею/скучнею из-за использования ИИ

ИИ на хайпе, но я все еще team human, и много обсуждаю это в последнее время в личных разговорах.

Сделала для вас короткую памятку, как не поехать кукухой пока ИИ нас все не убил/спас.

Что делать?

1. Делаем беспокойство конкретным, а не абстрактным. Для этого надо понаблюдать ваше реальное взаимодействие с ИИ и посмотреть, какие у вас от него ощущения.

- в задачах, где нужно сделать рисерч, я полностью делегирую его ИИ, я боюсь, что мои навыки рисерча атрофируются.
- в задачах, где нужно что-то структурированно изложить, я сразу отдаю любую кашу ИИшке и прошу структурировать, возможно я разучусь структурировать.
- я отдаю задачи со сложным выбором ИИшке, потому что мой ресурс принятия решений исчерпывается. Это беспокоит.

Я предостерегаю вас о того, чтобы в этом шаге делать развернутый анализ, к чему все это приведет и как оно все сыграет для других людей (и вообще любой анализ, особенно если беспокойство сильное).

2. Пишем список способностей, которые вы бы хотели за собой сохранить и задаем себе вопрос, почему мы хотим их сохранить. Чем конкретнее, тем лучше. Например:

- самостоятельно читать академические статьи, потому что это признак человека из научного сообщества и я хочу сохранить этот ингруп.
- структурировать информацию и внятно ее излагать, потому что этот навык нужен мне для общения с детьми.
- принимать решения о том, какие задачи важны, а какие нет, потому что мой проект это отражение меня как личности, а не безликий бизнес

3. Сортируем список
Категории, которые я предлагаю:
- социальные (я хочу распознаваться как «свой» вот такой-то группой, там так принято, поэтому я хочу это уметь и делать).
- развитие для экономической деятельности (саму задачу выполнять низачем не нужно, но она — стандартный способ тренировки какой-то другой способности, за которую мне платят).
- агентность и авторство своей жизни (если я перестану это делать, у меня однозначно сузится пространство выбора).

Зачем делить на категории? Я предлагаю по-разному с ними обходиться.

4. Принимаем новые решения про деятельность

- все что касается социальных целей: если экономически это теперь не оправдано, то тренировка этой способности теперь переходит в бюджет того, что вы выделяли на социальные цели.
Например, вы общались в сообществе скалолазов и вам нужно было для этого шутить шутки про скалолазов, три раза в неделю ходить на скалодром и знать терминологию, а еще мочь коснуться локтями пола, сидя на корточках. Это вообще-то немало. Теперь в эту категорию добавляется ваше социальное хобби «читать академические статьи».

- все, что касается более сложной экономической деятельности в будущем — переходит в бюджет профессионального обучения. Это ок, и вы стараетесь как можно больше этого включить в работу, чтобы было обучение без отрыва от производства, но когда не получается, не сильно расстраиваетесь, просто занимаетесь этим в то время, которое у вас заложено на обучение.

- все, что касается сохранения агентности — на мой вкус, самое приоритетное, и тут варианта два. 1) ни шагу назад, оставляете все, связанное с принятием решений, за собой или 2) оффсет, бросаете принимать неважные решения, чтобы принимать более важные (как если бы вы завели ассистента, может быть отупляющим, если работа не изменилась, и может быть развивающим, если вы начали делать более сложную или высокоуровневую работу).

Если вас беспокоит, что кто-то вокруг вас может потерять какие-то важные способности от взаимодействия с ИИ, пришлите им эту памятку (но по возможности расслабьтесь, потому что нельзя принудить к осознанности или агентности).

Исключение составляют случаи, когда вы — тот человек, который распоряжается использованием ИИ в компании или для группы людей. Тогда проведите разговор про это с сотрудниками и примите орг.решения.

Напишите комментарий, если у вас есть такие беспокойства, но они не перечислены в посте — возможно, я дополню пост.

Пион на каждый день

19 June 2025 13:40

#эстетика #этика #агентность

Вчера товарищи финские ЭА-шники меня спросили, почему я хочу сохранять человеческую агентность, и я без колебаний сразу сказала «из эстетических соображений».

А потом возникла дискуссия вот о чем: чтобы иметь собственные эстетические соображения и хотеть перестроить мир в соответветствии с ними, нужна агентность. Если она исчезнет ниже какого-то уровня, то больше никто не будет иметь эстетические соображения. Получается такой пан-эстетический (господи прости) взгляд на мир.

Как вам такое?

Пион на каждый день

13 June 2025 10:03

#жызнь #мнение

Го ваша любимая Глубокомысленная Цитата и лайкаем те, которые узнали согласны

Можно из любых источников, художественных или нет, неважно.

Моя будет:

Боль неизбежна, но страдания — это выбор.

Пион на каждый день

04 June 2025 15:24

#мнение #жызнь

Интересно, почему в некоторых случаях мы предпочитаем заранее знать, что нам предстоит, и это делает нам легче, а в других — наоборот?

Например, некоторые люди предпочитают не знать, в какой момент и насколько сильная физическая боль им предстоит (а я, например, предпочитаю знать, не колите меня иголками внезапно!).

Но у меня это предпочтение не касается всего остального в физической травме — предпочитаю не знать, сколько времени продлится дисфункциональное состояние. На меня давит, если доктор говорит «подвижность восстановится не раньше, чем через три недели», уф, лучше бы я не знала, и терпела каждый момент как отдельный, а не как кусочек длинного периода с ожиданием, что этих моментов еще много.

Как будто есть два базовых мода:
1. Знать, с чем столкнешься, иметь план, сохранять хотя бы какое-то подобие контроля над ситуацией.
2. Быть готовой ко всему, в каждый момент просто делать все, что можешь.

Я, конечно, больше люблю иметь план (а также план наращивания нужных мощностей и вовлечения нужных ресурсов, чтобы выполнять основной план).

Но я знаю из опыта, что у меня случается неожиданно хороший перформанс, особенно в тяжелых ситуациях, когда я не знаю, какой масштаб бедствия меня ждет. Потом, оглядываясь назад, понимаю, что если бы я знала, что будет, и сколько этого всего еще впереди, и насколько тяжело будет в каждый момент, то я бы слилась гораздо раньше.

Почему-то воля (способность терпеть и при этом что-то делать, реагировать на другие события и так далее) истощается самой оценкой вот этой вот площади под «кривой страдания», а не только текущим страданием.

Мне еще отдельно забавно, что обычно в принятии решений проблемой является недостаточная связь с будущими «Я» (люди тем сильнее недооценивают вред, чем он дальше), а тут кажется, наоброт, человек недооценивает свою способность терпеть из-за эмпатии к будущим «Я».

Я вот легко забываю, что в каждый момент нужно будет терпеть только то, что происходит непосредственно в этот момент, а не всю будущую жесть.

А у вас как? Лучше знать или не знать? От чего зависит?

Пион на каждый день

30 May 2025 20:40

#люди #общество #коммуникация

Вот было бы удобно, если бы люди, как только понимают свои предпочтения, сразу сообщали о них окружающим, да? Особенно те предпочтения, которые включают окружающих, например, меня…

Чем ближе дистанция, тем более слабые и нюансированные предпочтения человека я хочу знать — разумеется, чтобы делать его жизнь лучше (или выяснить, что я этого не могу и тоже сообщить).

Заявленные предпочтения лучше не заявленных: можно получить то, что хочешь, а еще можно узнать, что тут тебе такого не выдадут и пойти искать это где-нибудь еще. В любом случае, оба варианта лучше, чем тупить и ждать. Почему люди делают иначе?

- сами не понимают, чего хотят или не уверены до конца: сложно заявить предпочтение, которое меняется. Поэтому я обычно люблю, когда у людей консистентные предпочтения, и очень быстро задалбываюсь, если это не так.

- боятся, что могут не получить то, чего хотели и потерять возможность спросить снова; например, что человек, отказав, зафиксируется в этой позиции, и не сможет ее поменять, даже если обстоятельства изменятся. Такое, кстати, часто бывает. Но я предпочитаю это игнорировать: если человек не умеет пересматривать предпочтения в новых обстоятельствах, то штош.

- боятся, что могут получить то, чего хотели, а оно им не понравится или вообще окажется не ценным, и чего же тогда хотеть дальше? С этим я не знаю, что делать, предпочитаю тихо не лезть.

В общем, я была бы рада, если бы в людях было больше устойчивости и смелости, потому что иначе на мне оказыватся слишком уж большая вычислительная работа и я не затаскиваю.

Пион на каждый день

29 May 2025 10:27

#ризонинг #ИИ

Как известно, в человеках ризонинг — это способность во время рассуждения остановиться, сказать «нет, это я фигню какую-то подумала» и переключиться в соседнюю ветку рассуждения.

То есть, внутри меня всегда есть кто-то, кто рассуждает и пробует варианты и отдельно есть кто-то, кто оценивает перспективность этой линии рассуждения в движении к цели.

Возможно, отдельно есть кто-то, кто удерживает цель, потому что иногда у некоторых людей его нет и цель рассуждения едет (а мы потом говорим, что произошла подмена и спекуляция).

Итого, на мой вкус, минимальная разумная архитектура — как минимум два агента.

Дискасс.

Пион на каждый день

23 May 2025 11:10

#мнение #личное #жызнь

Мне все время кажется, что к жизни нужен мануал.

Что нужно мочь развернуть подсказку на любом процессе/объекте, прокрутить его состояния в прошлое и будущее, посмотреть аналогичные по функции объекты.

А больше всего нужен мануал к людям и тому, как они разговаривают (и почему и зачем), и как принимают решения. Там же каждый раз целый мир в другой голове, со своим восприятием всего происходящего и моделями других людей — это каждый раз так удивительно для меня, и так досадно, что я не могу стопнуть происходящее и просмотреть разбор и проверить предположения по-настоящему.

Со временем я отрастила себе большую систему мониторинга, которая поставляет мне (до каких-то пределов) подсказки в реальном времени. Я всегда это воспринимала как часть миропорядка — обработка всех входящих данных жрет вычислительную мощность, нужно постоянно работать над увеличением вычислительной мощности и еще над улучшением алгоритмов.

Некоторые ситуации, которые раньше казались мне невозможными к обработке в реальном времени (и приводили к коллапсу), я теперь могу делать — часть информации обрабатываю быстрее, другую часть выбрасываю (и знаю, какую!), потому что уже знаю, что она не особо полезная. И так далее.

С одной стороны, это часть того, что делает меня хорошим преподом и консультантом — меня всегда можно «стоп, поясни» и у меня есть развернутые пояснения (как правило сильно дальше, чем люди спрашивают).

С другой стороны, есть очень привычный мне эффект дистанции от всего происходящего (включая свои ощущения), типа я наблюдатель, а не участник. Это чувство иногда очень некомфортное. Я в какой-то момент подумала, что его возникновение вроде как само по себе странно, учитывая, что я активно что-то делаю постоянно и очень включена во многие функции.

Недавно поняла, что это ощущение дистанции — это просто артефакт распределения внимания. Исполнять уже понятные и сформулирвоанные вмешательства — не сложно, просто берешь и делаешь. А наблюдать и обрабатывать — сложно, там и тусуюсь постоянно.

Научилась не склеивать этот фокус внимания с ощущением «Я» и стало гораздо лучше. Пользуйтесь!

Пион на каждый день

14 May 2025 08:23

#жызнь #ИИ #сообщества

Съездила в Прагу, посетила EAGx, посмотрела местные настроения. Встретила много старых знакомых, завела каких-то новых знакомых. Внезапно очень много говорила про секты — могу выдавать советы, что делать, чтобы ваше сообщество (не)скатилось в культ, хехе.

Все еще недовольна состоянием AI-alignment поля: даже лучшая аналитика — крайне невнятная, все, что мне интересно, выкинуто из рассмотрения (человек и человеческое развитие, развитие организаций).

Все больше мотивации пилить свое, если честно — вот просто не к кому присоединиться.

Если вы знаете alignment проекты, которые концентрируются не на ИИ, а на человеках, то покидайте в комменты.

Пион на каждый день

28 April 2025 15:38

#ИИ #гибридныйинтеллект #общество #ЭА

Удивительное количество сэйфети-ребят оказывается меня читает. Давайте я вам немножко раскрою адженду как я ее вижу.

- в публичном поле (втч в ЭА) много разговоров про alignment и safety, и они идут с двух сторон: с технической и со стороны регулирования ИИ
- техническое тоже часто идет со стороны регулирования ИИ, но только на более глубоком уровне

Все это история про «запретить, не пущать». Это, как показывает история, работает только в контролируемой среде и требует много ресурсов.

Мало разговоров про alignment на продуктовом уровне — как сделать ко-эволюцию человека и машины, как сделать, чтобы человек, части человека, штуки из человеков — становились лучше, сильнее, счастливее, а не деградировали.

Фокус почему-то на изучении и облизывании ИИ-части, с человека фокус ушел.

Меня это смущает и хочется алаймента на уровне юзкейсов и усилий по развитию человека.

Я только что приехала с ЭА-тусы в Осло и скоро поеду на ЭА-тусу в Праге, говорила там с людьми, есть два типа реакций:
- хмм, никогда об этом не думал, но в любом случае это неважно потому что ИИ нас всех убьет
- хмм, мало про это думал, вообще-то хорошая идея, давай напишем статью.

Вот что хотите то и делайте с этой информацией теперь :)

Пион на каждый день

18 April 2025 10:25

#естественныйинтеллект #ИИ

Помните, как развивались события с онлайн-образованием, особенно в ковид?

Я вот помню: энтузиазм образованцев всех сортов, сейчас мы каааак разовьем онлайн-классы, кааак сделаем персонализированное обучение, кааак начнем бороздить просторы всего!…

А в реальности было:
- информация передается скорее худо-бедно, чем как-то еще;
- дети оказываются в изоляции (сюрприз, школа была не только для обучения!);
- родители лезут на стенку и не могут нормально работать, когда дети дома;
- и так далее — много отложенных и косвенных эффектов.

То есть взяли функцию, которая в названии системы (учить школьной программе) и повторили ее кое-как другими средствами. Не смоделировали подробнее, какие еще функции. А еще не смоделировали более крупный системный уровень и вообще окружение.

Например, с этой точки зрения глядя: нельзя сказать, что лучше, оффлайн или онлайн вариант школьного образования, потому что у них слишком разный набор функций.

Теперь та же история происходит с ИИ-приложениями.

Вы можете мне сказать, что именно таков путь прогресса — сделать криво а потом люто бешено городить костыли. И я с этим согласна! Только чтобы городить костыли нужно время. А ИИ отличается от предыдущих великолепных идей человечества скоростью и высоким потенциалом бутстраппинга (ИИ который влияет на развитие ИИ).

Давайте попробуем избежать тех же ошибок, может?
(нормальный call to action в следующем посте)

Пион на каждый день

07 July 2025 09:19

#ИИ #мнение

2/2 ИИ-инструменты

Что я пробовала и не прижилось:

- Manus, Suna, Flo и прочее такое, агентское — у меня, что характерно, нет задач, которые я бы хотела автоматизировать таким оборазом. Но идея классная (наверно). Мои регулярные процессы я делаю сама, и дорожу этим.

- С интересом потыкала в тулы, которые работают с аудио —  Read дает умеренной пакости расшифровки и поганые саммари, остальные еще хуже. Синтез голоса и видео — ну такое.

- Генераторы видео, интерьеров, причесок, еще чего-то такого — меня просто не хватило на то чтобы искренне ими заинтересоваться. А они тем временем хайпуют, расскажите, если вы их юзаете!

- Все штуки, которые управляют расписанием, почтой, сообщениями, аджендой, списком дел. Просто нет. Мне периодически попадается реклама в духе «я стал в 10 раз продуктивнее, просто делаю то, что мне говорит ИИ» и у меня каждый раз такое лицо 😱🤡

- Тренеры. Наверно, потому что у меня слишком меняющаяся среда тренировок и нужно чтобы тренер видел, что вокруг, иначе его рекомендации довольно бесполезны.

- Личные тексты, вроде этого блога.

UPD: НИКОГДА НЕ ИСПОЛЬЗОВАЛА НЕЙРОСЕТИ ДЛЯ АВТОМАТИЧЕСКИХ КОММЕНТАРИЕВ И НЕ СОБИРАЮСЬ

Чего не нашла, и меня это удивляет:

- Подходящий мне тул для создания документации! В итоге использую Cursor и сама говорю Клоду в нем, какие описания создавать и по какой схеме. Отчасти, наверно, потому что я хорошо представляю, какую документацию хочу.

- Платформа, где можно будет сконфигурировать личность помощника/друга/консультанта. А вообще-то я бы с удовольствием. Это, похоже, придется самой делать.

- Платформа для простой конфигурации своих тьюторов. Люди либо делают средненьких тьюторов по популярным темам, либо надо промптить модель общего назначения. А ведь кроме предметных знаний туда нужно вложить всякий педдизайн, стиль, приемы преподавания, калибровку по ученику и так далее. Это могла бы быть как раз компетенция образованцев — сделать набор заготовок тьюторов, а пользователи бы потом сами выбирали из них и давали им корпус знаний.

А вы что используете в реальной жизни и работе?

Пион на каждый день

01 July 2025 12:04

#мнение #жызнь

Как думаете, однозначная идентификация и безличная эксплуатация идут всегда пакетом или можно по отдельности?

Когда мы пытаемся распознать совершенно новый объект, мы из бесконечного богатства его свойств выбираем те, которые умеем распознавать и на распознавание которых настроены в данный момент.

А потом нам говорят «ФИО: Иванов Иван Иванович, номер паспорта 01 23 456789». Это позволяет распознать человека однозначно, но при этом делает гораздо проще свести его к одному признаку, тому самому, который у него уникальный и при этом который легче всего сформулировать.

Может нам нужно придумать как снова отойти от однозначной идентификации (по крайней мере некоторых классов объектов) и мы что-то важное в человечестве починим?

Пион на каждый день

30 June 2025 07:50

#ИИ #общество #внимание #агентность

2/3 ADHD или фаундер мод

Почему это вопрос: есть яркие примеры того, как ИИ помогает ранним стадиям валидации идей (это касается и личных и профессиональных проектов) и ускоряет реализацию. Быстрый фидбек и частые мелкие успехи работают очень вовлекающе, люди делают больше попыток и больше веселятся в процессе. Этот же механизм при чрезмерном использовании позволяет сделать из продуктивной деятельности очередную аддиктивную ловушку.

tl;dr для фаундер мода нужна цель и идея, и тогда ИИ поможет. Если цели и идеи нет, то ваша перспектива — разлохмаченное внимание и трухлявая система вознаграждения.

- пока думаю, что завести себе кучу ИИ-сотрудников по сути похоже на динамику с хорошим личным ассистентом, и проблемы те же. Допустим, у вас интересный проект, но загрузка стала слишком большая. Вы нанимаете ассистента. Сначала с непривычки не знаете, что ему делегировать, потом постепенно учитесь этому, потом ощущаете долгожданное можно вздохнуть, а потом у вас есть выбор: чиллить с мужиками в бане или пойти решать более крупные задачи (или какой-то микс, какой?)

- становится критически важно понимать про себя, какие задачи вы хотите делать и какие задачи кажутся вам интересными и важными. Я довольно сильно уверена, что люди в среднем скорее не думают о таких вопросах (потому что никто их не спрашивает?..)

Это может легко привести к тому, что люди будут с радостью отдавать не интересную и не важную им работу, просто потому что могут (а не потому что знают, что они хотят переключиться на какую-то другую деятельность).
Тогда они будут часто себя обнаруживать в ситуации, когда их старую работу ИИ делает лучше (и как-то даже не жаль, потому что она была бредовая), но новой не появилось и от этого какое-то чувство потерянности.
Прогнозирую эпидемию подавленности, тревоги и экзистенциальных кризисов.

Это не какие-то принципиально новые кризисы, всё те же, просто думаю что их будет одновременно больше, и от этого может быть ощущение общей хтони.

Пион на каждый день

30 June 2025 07:46

#ИИ #общество #интеллект

Я решила записать свои (наивные) взгляды на ИИ-вопросы. Сразу скажу, что меня волнуют не вообще все ИИ-вопросы, а вопросы развития и благополучия человека в контексте ИИ, поэтому не спрашивайте меня ни про техническую сторону, ни про то, что мы должны будущим поколениям ИИ-систем.

Когда я записала свои тезисы, оказалось, что их можно разбить на вот такие категории:

1. Умнеем или тупеем?

2. Новые эпидемии ADHD-зумеров или взлет фаундер-мода (супер-эффективных скоростных хай-перформеров)?

3. Человек человеку кстати кто? Перестанем общаться друг с другом или наконец научимся относиться к человеку как цели, а не только как к средству?

Запомните этот твит! (точнее, эти 4 твита)

Пион на каждый день

23 June 2025 20:37

#ИИ #жызнь

Никогда раньше не понимала концепцию guilty pleasure, типа если тебе нравится что-то, то делай и радуйся!

А недавно стала читать прогнозы экспертов про ИИ, которые были сделаны пару лет назад и чет так ору! (совершенно беспочвенно и бессмысленно)

Невероятно забавно, не до конца понимаю, чем.

Пион на каждый день

21 June 2025 07:35

#люди #жызнь

Немножко задолбало, что меня есть только два состояния:

1. Люди всегда делают лучшее, на что способны, мир, любовь, вселенское принятие. ❤️

2. Люди всегда делают лучшее, на что способны, это блин оно и было, мы обречены, отвращение, страх, ненависть. 😱

А какой покемон сегодня вы?

Пион на каждый день

13 June 2025 12:21

#ИИ #общество

Заметила эффект от использования конкретно СhatGPT — некоторые люди стали часто распознаваться как «ненастоящие». Мы шутили про это и делали про это мемы, но это реально происходит.

В основном это касается речевых паттернов узнаваемых нейросеточных, самый яркий из которых — следующая структура фразы:

Х не просто Y, он вообще Z, [характеристика], [характеристика], [характеристика].

В до-GPT мире, когда я встречала такое, я честно это парсила, и просто записывала в мета-информацию, что собеседник пытается показаться глубокомысленным. А теперь у меня развилась слепота, как баннерная только нейросетевая.

А потом подумала, что этот речевой паттерн именно такой у GPT-шки именно потому что у многих людей он такой? Чего еще я не знаю об усредненном человеке?

Пион на каждый день

08 June 2025 10:09

#агментек #жызнь #мнение #агентность #коммуникация #люди

На прошлом офисном часе мы реально обсуждали смысл жизни и отношеньки, я в шоке!
Принесла основные мысли оттуда сюда, люди просили конспект.

Хот тейки про смысл жизни:

1. Думаем про «смысл жизни» как про «ощущение, что ты живешь не зря».

2. Если никогда этим вопросом не занимались — попробуйте пару недель каждый день выписывать, что кажется вам важным, а потом посмотрите, какие есть повторяющиеся темы, которые не касаются решения горящих бытовых вопросов.

3. Пойдите поисследуйте область, которая получилась в п2. Найдите, какая там самая важная проблема и как вы можете поучаствовать в ее решении.

4. Идите делать ровно это, не слушайте внутренние отговорки: люди обычно очень сильно недооценивают, сколько дополнительных сил появляется, когда делаешь что-то осмысленное.

Хот тейки про отношения (сложнее, потому что я, кажется, неверно поняла некоторые вопросы + оговорка, что я не считаю свое мнение универсальным):

1. Найдите, чего ради вы в отношениях, в чем суть, что важно? Запишите все остальное в «неважное».

2. При проблемах в «важном» нужно бить тревогу и не стесняться этого. Проблемы с «неважным» нужно игнорировать, иначе они займут все пространство в отношениях. Не вижу смысла искать полного комфорта с человеком.

3. Людей поменять трудно изнутри и невозможно снаружи.
В первую очередь ответственность у вас перед вами: по возможности нужно быть в норме постоянно, а не «в светлом будущем, когда она придет в себя и перестанет Х».
Иногда это достигается только подбором комфортной дистанции.

4. Явно зафиксированные свободные договоренности священны —> убедитесь, что все договоренности в ваших отношениях не были созданы под давлением, иначе их будут нарушать.
Лично для меня внутренний штраф на то, чтобы смотреть, как партнер нарушает договоренности настолько огромный, что я предпочитаю лишний раз не создавать договоренности (и точно не верить маловероятным обещаниям).

Про отношения, в общем, получилось больше как не поехать кукухой в отношениях, но кмк это 80% работы (много говорит обо мне, ну да ладно).

Пион на каждый день

03 June 2025 10:55

#анонс #агентность #ИИ

Мы стали делать в Агментеке «офисные часы» — тренеры сидят час на месте и отвечают на вопросы. У меня офисный час по пятницам, был уже два раза, и оказалось удивительно неплохо: люди задавали интересные вопросы, о которых мне было интересно подумать.

Мой топ пока что:
- что угодно про моделирование людей: все же специнтерес не пропьешь, люблю извлекать подробные мета-модели и все такое.
- про агентность: как развить агентность (тусить с агентными людьми, начать мечтать и лихо охренеть), как помочь человеку рядом развить агентность (самому быть агентным, вдохновлять, не мешать).
- про ответственность: у меня такое ощущение, что у меня в последние годы все более сбалансированный и здоровый взгляд на ответственность и мне хочется, чтобы у окружающих был такой же :)
- про то, зачем люди в эпоху ИИ и кантианские штуки вокруг.

А следующий офисный час начнется, как мы уже договорились со слушателями, с вопросов про то как найти смысл жизни и то, как я вижу идеальные отношения (простигосподи).

Решила, буду писать короткие выжимки, если там что-то интересное происходит, ну и вы, если хотели low-effort формат потрындеть, то это он, приходите.

Пион на каждый день

29 May 2025 10:51

#ИИ #обучение #ризонинг

Если мы хотим сильного ИИ-тьютора, он должен быть способен нести функцию оценки перспективности рассуждения + должен быть способен удерживать цель рассуждения.

У него должны быть эвристики, какие линии рассуждения перспективны, а какие нет, и он должен быть способен подтолкнуть ученика к его цели.

Как тьюторы-человеки формируют такие эвристики?

Со знакомыми задачами просто: они уже думали эту дорожку и четко знают, куда ведет каждое конкретное рассуждение или класс рассуждений. Они могут подумать изложенную учеником мысль чуть дальше за счет опыта + проверить уже имеющееся рассуждение.

С незнакомыми задачами как будто резко сложнее: похоже на разницу между тренером для новичков и тренером для топовых атлетов. Тренер топового атлета отстает от него по физической форме и сам не знает точно, что вообще возможно, а что нет. Он берет на себя функцию оценки и выбора пути, а входящие данные и исполнение остается на спортсмене.

Основная задача тьютора — входить в конфликт с учеником. Говорить «ты можешь!» даже когда ученику кажется, что он не может, (а тьютор видит со стороны, что линия перспективная). Говорить «это чушь», даже когда ученику кажется, что он придумал гениальную идею (а тьютор видит со стороны, что идея так себе). Речь не про то, что тьютор всегда токс! А про здоровую функцию оценки и удержания цели рассуждения.

Сейчас ИИ как раз на этом и спотыкается: всегда поддерживает идеи юзера. Если его промптить спорить, то он сначала пытается, а потом постепенно в диалоге теряет эту способность.
Да, ИИ умеет выдавать информацию, и часто даже в структурированном виде — может быть говорящей головой и отвечать на открытые вопросы. То есть, может «читать лекции». А вот помогать в обучении не может, потому что не тащит основную функцию.

Пион на каждый день

23 May 2025 11:22

#личное #ИИ

Отдельно хочу сказать, что меня крайне интереует эффект ИИ-систем на эту ключевую для меня функцию.

Я ценю свою способность к наблюдению и анализу, и еще больше ценю свою способность изобретать методы оптимизации наблюдения и анализа.

При этом оно жрет дикое количество внимания. Вот интересно, у меня такой объем внимания (большой) потому что с юности я постоянно вынужденно делаю тяжелую задачу на внимание примерно постоянно, или наоборот, я бы применила этот объем внимания к какой-то другой, более полезной (например, для человечества) задаче и было бы круче и интереснее?

Та самая узкая дорожка, где ИИ (каких-то будущих поколений) учит такому, при этом:
- не забирает агентность;
- постоянно следит за тем, чтобы задачи были ровно на пределе возможностей;
- следил, чтобы не было слишком больших откатов и травм.

А когда человек доходит до мясного предела в развивающей части этих трудных задач, то входит в симбиоз и позволяет развиваться дальше и двигает фронтир.

Пион на каждый день

14 May 2025 08:36

#жызнь #ИИ #сообщества

Мне примерно 50 раз за эти выходные пришло в голову, что по тому, какой именно сценарий «ИИ нас всех убьет» выдает автор, можно скорее диагностировать автора, чем сделать хоть какие-то выводы о мире.

Причинно-следственные связи вообще никакие не соблюдаются ни в каких рассуждениях, но зато видно, чего человек боится и где у него самого внутренний misalignment.

В общем, доктор, откуда у вас такие картинки?

Расскажите ваш сценарий гибели человечества, от ИИ или иной, я вам скажу, что делать, бесплатно.

Пион на каждый день

05 May 2025 11:15

#жызнь

У вас бывает, что думаете о чем-то перед сном и это так увлекательно, что не можете заснуть?
У меня такое постоянно! И постоянно нужно использовать всякие хаки типа боди-скана и всяких медитаций, чтобы вообще перестать залипать в стимулирующие мысли и заснуть наконец.

Так вот, у меня для вас есть хак!
Попробуйте думать словами (уже гораздо медленнее и не так стимулирующе) и потом еще словами на неродном языке.
Идеально! Заснула за 5 минут! Прекрасно выспалась!

Пион на каждый день

18 April 2025 12:40

#ИИ #естественныйинтеллект #общество

Вижу так, что действовать нужно в двух направлениях:

1. Создать адекватную модель угроз, отразить там системы их функции, которые могут быть под угрозой и которые мы хотим сохранить.

Для этого приходите те, кто шарит в AI-safety, но только если вы (уже) можете не кричать «AGI сотрет человечество с лица всего!!! ааа!!». Не обязательно потому что не сотрет, а потому что кричать и создавать адекватную модель чего бы то ни было — плоховато совместимо.

2. Создавать инструменты (и полиси) там, где нашли настоящие угрозы (в том числе между разными уровнями систем).
Например, то, о чем я говорю — сделать, чтобы человек все же улучшался с помощью ИИ, а не деградировал: анализировать, какие лишние штуки ИИ забирает и искать способы их вернуть. Создавать для этого конкретные инструменты и делать конкретный аутрич.

Приходите аналитики, продуктоводы, разработчики, пиарщики/коммуникаторы.

Стучитесь пожалуйста в лс @pionmedvedeva, я вас буду добавлять в чатик и всякие рабочие пространства организуем.

Покажите это сообщение нужным людям!

Пион на каждый день

13 April 2025 15:17

#ИИ #гибридныйинтеллект #естественныйинтеллект #люди #общество

Вы меня по личкам спрашиваете че там ИИ, давайте я тут напишу пакет банальностей, от которого можно толкаться.

Вижу в повседневных ИИ-приложениях два направления развития, одно сомнительное, другое хорошее и перспективное.

1. Инструменты «сделай за меня, я не умею». Не умею читать длинные тексты, читай за меня. Не умею писать, пиши за меня. Не шарю, как разговаривать, поговори за меня.

В контексте Т-людей (глубокая предметная экспертиза, широкая эрудиция) этот вариант подходит для того чтобы операционализировать свою широкую эрудицию.

При этом человек должен хорошо понимать, что это разовая история, что он как не шарил так и не шарит и у этого очень ограниченный кейс применения — потрогать ножкой воду и решить, интересно ли. Все остальные варианты использования этого — потенциально очень вредные.

В моих случаях (обучение, развитие человеческого потенциала, коучинг, поддержка, концептуализация, консультирование) ни в коем случае не надо создавать продукты, которые будут снимать эту функцию с человека!

При этом считаю хорошим трендом снимать с людей работу, которую людям вообще не стоит делать — всякие документы, презентации, что требует часы на заворачивание в специальную абсурдную форму, которая неинтересна ни пишущему ни читающему.

Я считаю, что ИИ-инструменты в этом смысле ускоряют процесс де-буллшитизации этих форм, потому что гонка вооружений ИИ-пишущего и ИИ-распознающего должна привести к тому, что все стороны поржут и уберут нелепые требования к форме полностью, оставят только содержательный творческий умственный труд (еще не сейчас, но глобально да).

2. Инструменты «ускорь мое обучение навыку в 10 раз». Не умею читать, приучи меня читать. Научи в дисциплину. Помоги починить внимание от просаженного дофамина. Научи писать, подсвети, что я делаю не так и в чем разница с модельными примерами. Помоги внедрить полезную привычку. Дай материал для тренировки коммуникативных навыков.

Эти инструменты потенциально могут хорошо ускорить развитие человека и донести весь этот гуманистический пафос до людей, до которых он бы иначе не дошел в силу экономических или культурных причин. Это хороший тренд.

Меня несколько напрягает, что создатели консьюмерских продуктов в первую очередь мыслят первым направлением. Я боюсь, что эволюция человека на этом остановится и будет эволюция другой формы интеллекта — я не e/acc чтобы этому радоваться, я сентиментально привязана к этому биологическому виду.

Я активно думаю о способах, которыми мы (не стесняйтесь ассоциироваться с этим «мы», если что) можем сдвинуть общий тренд в сторону 2. Вам кажется это важным? Что думаете про это?