2300
Руслан Юсуфов о будущем и настоящем
Моя любимая бизнес-школа, альма-матерь моя, выдала список прорывных прогнозов на тему ИИ.
Все по делу, исчерпывающе, я бы добавил от себя некое саммари, знаете, для полноты картины:
1️⃣ИИ будет внедряться
2️⃣Государства будут реагировать
3️⃣Бизнес будет имплементировать
4️⃣Люди будут адаптироваться
5️⃣Звери будут эволюционировать
6️⃣Рыбы будут плыть
@yusufovruslan
Слышать от бывшего главы государства, члена НАТО, что ядерное оружие «никого не напугает» и является «устаревшим инструментом» — это, мягко говоря, вызывает удивление и даже тревогу.
Какая мотивация у подобных высказываний? Попытка информационно-психологического воздействия и часть стратегии по демонстрации «несокрушимости духа»? Попытка снизить воспринимаемую угрозу для своей аудитории? Недооценка или специфическое понимание нового характера войны? Просто опасное упрощение?
🤔 Предлагаю распутать весь клубок и уже затем решить, собака виляет хвостом, или хвост — собакой?
Мне вспоминаются древние римские и греческие демократии — там право голоса имели не просто допущенные к политике, но и специально обученные риторике и законам люди, а абсолютное большинство — свободные люди, неграждане и уж тем более рабы — и помыслить не могли влиять на принятие решения. У них просто не было должной подготовки. Подготовка была к просмотру гладиаторских боев.
Сегодняшние гладиаторские бои формируют мнение людей с голосом, которые затем влияют на политические решения — получается замкнутый круг, в котором влияние на голос происходит из-за промывания кукухи, и человек с голосом начинает верить в субъективную реальность, в которую его поместили. В этой субъективной реальности интересы узкой, но влиятельной группы могут быть представлены как «общие» или «национальные».
🤔 Согласован ли комментарий про «нестрашное» ядерное оружие с интересами большинства граждан Литвы, Европы, мира?
Если под интересами большинства понимать стремление к безопасности, избеганию катастрофической войны, то, очевидно, нет.
🤔 Чьи интересы тогда обслуживает такое заявление?
Создание или поддержание высокого градуса «русофобии» (или любой другой «фобии» по отношению к назначенному врагу) позволяет консолидировать общество (или его часть) вокруг лидеров, занимающих «принципиальную позицию»; оправдать экономические трудности (затянуть пояса бюргерам) необходимостью «противостоять угрозе»; получить ресурсы: гранты на «исследования угрозы», на «противодействие дезинформации» (которая может быть и реальной, и мнимой), на военные бюджеты; повысить собственный политический капитал на внутренней и международной арене, позиционируя себя как «защитника ценностей» или «форпост борьбы».
В этом свете заявление экс-президента Литвы выглядит не как наивное заблуждение, а как вполне рациональное (с точки зрения продвижения определенных интересов) высказывание, встроенное в более широкий контекст информационной и политической борьбы. Оно не «согласовывает» интересы, а скорее формирует нужную повестку и отношение у целевой аудитории.
Тогда мы очень логично переходим от «власти толпы» к власти манипуляторов толпой.
⚡️ Это не просто власть худших популистов, опирающихся на голоса невежд, а власть активно структурирующих и продвигающих невежество.
Если людям постоянно и через множество каналов транслировать определенную картину мира (например, что ядерное оружие — это блеф и его не стоит бояться или что определенная нация — экзистенциальный враг), то значительная часть аудитории примет это за истину.
Тогда это уже не столько «власть толпы» в чистом виде, сколько власть тех, кто обладает инструментами формирования мнений этой «толпы», тех, кто пишет и реализует «методички».
И «худшими» здесь могут быть не те, кто пассивно заблуждается, а те, кто сознательно манипулирует, преследуя свои цели, даже если эти цели противоречат долгосрочным интересам общества.
Комментарий Грибаускайте — это яркий симптом того, как публичная риторика может обслуживать узкогрупповые или идеологические интересы, идя вразрез с фундаментальными интересами безопасности и здравого смысла большинства.
И да, это один из примеров того, как «демократия» может быть не механизмом согласования, а ареной, где побеждают не самые мудрые, а самые громкие или самые искусные в манипуляциях.
🎯 Это ставит перед каждым мыслящим человеком еще более сложные задачи по развитию критического мышления у общества и поиску предохранителей от таких манипуляций.
@yusufovruslan
🤔 От трех полосок к нейроимпланту в голове: как меняются коды «свой-чужой»
Помните пацанов в Adidas из девяностых? Те самые три полоски были не просто тряпкой — это был визуальный пароль в мире, где старые социальные лифты заклинило, а новые еще не построили, символ выживания, дерзости и принадлежности к касте, которая прошла свои «университеты».
Прошло время, нулевые сменили три полоски на логотипы брендов, новые требования к машине, телефону и часам возвели демонстративное потребление в ранг нового языка силы. Это была попытка нарисовать свой образ мира, где ты — победитель, и ничего, что «казаться» важнее, чем «быть».
⚡️ Какие «слабые сигналы» указывают на новые, прорастающие символы статуса и идентичности?
1. Цифровая компетентность — это новые «мускулы»
Работа в ИТ, запуск своего стартапа на коленке за выходные, влияние в сети, основанное на экспертизе. Это не про девайсы, а про умение на них создавать, про знание, про адаптивность, про умение видеть дальше хайпа.
2. Wellness как осознанный выбор
Занятия спортом, внимание к питанию, ментальное здоровье — это уже не блажь, а базовая гигиена для тех, кто хочет оставаться эффективным, а заодно и сигнал окружающим о силе воли, управлении ресурсом, готовности к марафону, а не спринту.
3. Аутентичность вместо «понтов»
Тихая роскошь, вещи без лого, но с историей, поддержка локальных мастеров, крафт: ценность смещается от массового к уникальному, от материального к опыту, даже путешествия уже не про популярные маршруты, а про погружение в иную культуру. Все это про поиск смысла, а не про внешнюю атрибутику.
4. Адаптивность как мета-навык
Там, где ценна способность быстро учиться и «начинать с чистого листа», критическое мышление, умение фильтровать информационный трэш и «слушать свое сердце» — вот новые «три полоски» успешного человека.
5. Новый патриотизм — деятельный и технологичный
Это не про лозунги, а про реальный вклад в развитие своей страны в новых условиях: поддержка отечественных стартапов, создание российских продуктов, участие в формировании суверенной цифровой среды, волонтерство, небезразличие, осмысленная благотворительность. Гордость за «сделано в России» на глобальном уровне — вот к чему стоит стремиться, это патриотизм не потребления, а созидания.
⚡️А что на горизонте? ИИ — главный герой многих сценариев будущего.
⚪️ИИ-ассимиляция потребует понимания, как кастомизировать нейросети под свои задачи — возможно, самообучающийся ИИ-ассистент, интегрированный в жизнь (да хоть вживленный, если до этого дойдет!), станет главным маркером «своих» в новой цифровой элите.
⚪️Чем больше ИИ входит в нашу жизнь, тем дороже эмпатия, настоящее творчество, живое общение. Устроить цифровой детокс, не выпадая из общества — вот это реальная роскошь.
⚪️Использовать ИИ во благо, а не для создания нормализованной дичи вроде дипфейков или сгенерированных порно-подружек, которые уже сейчас ставят под вопрос само понятие реальности. Это будет маркером цивилизованности и не-варварства.
⚡️И вот здесь мы подходим к самому интересному — к расслоению.
⚪️Будет группа, цепляющаяся за старые «три полоски», будь то последний айфон или кричащий бренд — это попытка сохранить привычный образ мира, даже если он уже трещит по швам.
⚪️А будет другая группа, чьи «полоски» — это их «прошивка»: адаптивность, критическое мышление, этический компас, умение строить сложные системы и управлять ими. Их статус будет не в том, что они имеют, а в том, что они могут и кем они являются.
Это разделение будет проходить не по линии «богатые и бедные» в старом понимании. Это будет разделение по оси «адаптивные и ригидные», «техно-оптимисты и луддиты», «создатели новых смыслов и потребители старых». Это будет про выбор, какой сценарий будущего ты для себя пишешь: тот, где ты «винтик» в чужой системе, или тот, где ты — архитектор своей реальности.
Три полоски были кодом выживания. Пришло время кодов созидания.
@yusufovruslan
🤖 Нейросети головного мозга, акт второй
Наткнулся тут на свежачок от британского блогера Дэвида Джерарда, который явно тоже не первый год наблюдает за этим балаганом, да еще и отчеты индустриальные читает (Pitchbook-NVCA Venture Monitor, если кому интересно покопаться).
Статья называется «В 2025 году венчурный капитал больше не может делать вид, что все в порядке» и, скажу я вам, это не просто какая-то блогерская аналитика, это практически эпитафия наивности венчурной тусовки, если таковая у них вообще была.
Автор, особо не стесняясь в выражениях, проходится катком по текущему состоянию VC. Если коротко, то, согласно прочитанным им документам:
⚪️Венчур в целом лежит на смертном одре, изрядно подкошенный экономическими кульбитами вроде трамповских тарифов, которые заставили бизнесменов планировать не дальше обеда. Ирония в том, что многие из этих VC сами же за Трампа и топили. Леопард снова съел чье-то лицо, какая неожиданность!
⚪️Единственная капельница, которая его еще как-то поддерживает — это ИИ. Внутри этого ИИ-хайпа — одна большая черная дыра по имени OpenAI, которую автор остроумно называет «странной аферой, которая хочет сжечь деньги максимально быстро, чтобы призвать бога ИИ». Звучит, да?
⚪️Инвесторы не могут кэшаутнуться, стартапы мрут как мухи, а у VC нет никакого плана Б. Единственная стратегия на будущее, которую Джерард вычитал в их же индустриальном отчете, это — внимание! — надеяться, что рынки как-нибудь сами восстановятся или Трамп вдруг резко образумится и перестанет творить дичь.
Серьезно, это весь план. Я сходил в отчет перепроверил, там правда дама от J.P. Morgan так и пишет: «While the tariff endgame remains subject to ongoing negotiations with key trading partners, we are hopeful the dust could start to settle on this topic over the next few months».
И вот тут вишенка на торте, которая особенно порадует ценителей, и о чем я вам, котаны, уже намекал. Помните жрецов культа e/acc, этих неутомимых гонщиков прогресса? Так вот, Джерард идет дальше и прямым текстом называет e/acc «неофашистским движением возрождения» (neo-Fascist revival movement). И добавляет, что эти венчурные гении, оказывается, с энтузиазмом участвуют в «чате миллиардеров, где буквальные неонацисты выступают в качестве их придворных философов». Каково, а? Идеальная паства для новых мессий.
То есть, пока мы тут с вами хихикали над переупакованными китайскими модельками под соусом «импортозамещения», в странах со зрелой венчурной культурой разворачивается драма схожего масштаба, только с большими нулями и, похоже, еще более отчаянными ставками на «спасение человечества» через очередной триллион инвестиций в вакуум. И все это под аккомпанемент надежд, что «кто-то придет и все разрулит», пока тарифы бьют по рукам, а единственная ставка — на то, чтобы успеть выйти из ИИ-казино до того, как оно схлопнется.
И чем дальше в лес, тем отчетливее видно, что король-то не просто голый, а еще и в панике мечется, пытаясь натянуть на себя хоть какие-то «нейросетевые» трусы, при этом уповая на чудо и здравый смысл политиков.
А потом придет очищающий огонь... ну, вы помните.
@yusufovruslan
К воскресным размышлениям про LEGO пишет нам друг наш любезный, Алексей Лукацкий:
Весь мир и так состоит из однотипных решений в массе своей. Креатив - удел единиц. Так что ничего не поменялось, только порог входа снизился и все
Мой прадед Василий Кузьмич был разведчиком. Он был среди тех, кто не позволил установить тысячелетний рейх, вместе с миллионами героев развернув ход истории.
Великая Победа нам дана ради шанса на счастливую жизнь. Опускать руки, переставать бороться за правду и не пытаться делать мир лучше — это и значит предать память предков.
С Великой Победой прошлого, ради великих побед будущего!
@yusufovruslan
Наткнулся тут на историю из Штатов, которая отлично иллюстрирует, как иногда работает мир — через абсурд, случайность и персональное неравнодушие на фоне монументальной системной дичи. Речь о долгах за школьные обеды.
Представьте картину: у 7-летнего пацана в школьной столовке отбирают поднос с горячей едой и суют холодный сэндвич. Не потому что он наказан, а потому что у семьи долг за обеды. Звучит как сцена из антиутопии про социальный рейтинг, но это рядовая американская реальность, способ «приучения к финансовой ответственности» через публичное унижение. Феерично, правда?
И вот некий DJ Bracken, обычный парень из Юты, случайно узнает об этой дичи. А потом выясняет, что долг в одной конкретной школе — какие-то смешные $835 (его ежемесячный расход на доставку еды и импульсивные покупки в Amazon). Он не стал писать гневные посты, а просто поехал и оплатил. Потратил 11 минут. Сделал и забыл бы, но цифра $2,8 млн (общий долг по штату) не отпускала.
Дальше начинается самое интересное — то, что мы часто наблюдаем в сложных системах. Импульсивный поступок одного человека вдруг запускает цепную реакцию: он создает фонд, начинает собирать деньги и внезапно для себя превращается в «эксперта по ланч-шеймингу».
Ему звонят директора, репортеры и законодатели, а он сам рефлексирует на тему мощнейшего синдрома самозванца — мол, какой я эксперт по бюджетным политикам? Сидит, значит, на совещаниях с серьезными чиновниками в пиджаках и чувствует себя абсолютным профаном. Но фишка в том, что он, в отличие от них, смотрел на эту конкретную проблему в упор, с земли, а не как на строчку в отчете. И поэтому его «полевое» знание оказалось ценнее кабинетных теорий.
И тут его накрывает классический парадокс активиста, знакомый многим, кто пытался чинить систему изнутри или снаружи. Латая эти дыры, оплачивая долги, не продлевает ли он жизнь самой этой уродливой системе? Не дает ли политикам повод сказать, мол, смотрите, проблема решается силами общества, можно не париться.
Классическая вилка: спасать конкретных детей сегодня или добиваться, чтобы спасать не приходилось завтра? Кстати, если вы дочитали до этого места, теперь вы знаете ключевое отличие чистой благотворительности от системной филантропии.
История без однозначной морали, но очень показательная как пример того, как личный этический импульс, столкновение с абсурдом и простое действие могут закрутить совершенно неожиданный сюжет. И как человек, просто решивший сделать что-то, оказывается перед сложными системными дилеммами, о которых не думал вначале.
Ну и финальный аккорд — вопрос его 7-летней дочери, когда она узнала про отбирание еды: «А почему им просто не дают поесть?» — вопрос, на который у взрослых есть куча сложных ответов про бюджеты, правила и ответственность.
Если хотите поглубже в благотворительность и волонтерство в России, рекомендую читать замечательных Лизу Паршину (про опыт фандрайзинга на одну из самых сложных задач, а заодно и про рефлексию хрупкой девочки, способной сворачивать горы), да еще Артема Метелева (про то, как депутат может засучить рукава и вести за собой, а заодно и строить крупнейшую в стране платформу для волонтеров).
P.S.: Потратьте сегодня тыщу на что-нибудь полезное! ❤️ Фондов — полно.
@yusufovruslan
Дорогие мне люди вежливо указали, что я иногда пишу черт-те что: слова неведомые, не то что смыслы. Так что астрологи объявили неделю легкого контента, мемов и видео с лесными обитателями.
На фотографии выше — не лесные обитатели, а сгенерированные ChatGPT несуществующие люди. Тренируем взгляд-рентген: настораживает не только клингонский язык на бейдже, но и отсутствие уха у симпатяги слева, отсутствие петлицы для верхней пуговицы и лишняя ткань на правом плече у ботаника в центре, редкого типа завихрения усов, а также дужка очков, проросшая в черепную коробку, наконец, анатомия шеи и цепочка из скрученной фольги от шоколадки у альфа-самца справа.
Оригинальный промпт можно посмотреть на реддите, там же в комментариях куча примеров для вашей развлекательной домашней форензики!
@yusufovruslan
Не помню точно, то ли у Цицерона, то ли у Катона старшего как-то читал про римскую молодежь, которая совсем «не та» и от рук отбилась.
Деградация или трансформация? Вечный спор о том, куда катится мир (и особенно молодежь), теперь — из-за цифры. Вышел наш совместный материал с психологом Никой Болзан, где мы столкнули лбами два взгляда на эту проблему. Я говорю о делегировании навыков ИИ и цене за скорость в виде клипового мышления, Ника — о психологических ловушках и «великой перестройке детства».
Спойлер: оба видим не столько «оглупление», сколько тектонический сдвиг. Но вот куда он нас приведет — к гибридному интеллекту или миру, где ChatGPT оценивает твою благонадежность? И что важнее — бороться с TikTok или учиться отличать deepfake от реальности?
➡️ Читайте в материале Peopletalk
@yusufovruslan
Вы часто спрашиваете, чем футуролог отличается от таролога или гадалки с хрустальным шаром. Рассмотрим на примере британского банка Standard Chartered и его прогнозов по биткоину и некоторых событий.
❌ 08.08.2021. Заявляли $100 тыс. к 2022 году — мимо.
❓ 03.05.2021. Говорили про +70% при дефолте США — дефолта не было, условие не выполнено, но показывает склонность к громким прогнозам.
✅ 24.04.2023. Обещали $100 тыс. к концу 2024 года — угадали!
❌ 10.06.2023. Подняли планку до $120 тыс. к концу 2024 года — тоже мимо.
😳 05.06.2024. Банк обвиняют в помощи финансированию террористов — добавляет ли доверия к финансовым прогнозам такой бэкграунд? Особенно учитывая, что в 2019 году банк уже платил $1,1 млрд штрафов властям США и Великобритании за подобные нарушения санкций против Ирана и проблемы с AML.
❌ 06.06.2024. Прогнозировали $150 тыс. при победе Трампа — Трамп победил, прогноз мимо.
❌ 16.10.2024. Ждали новый исторический максимум перед выборами в США — мимо.
❌ 06.11.2024. Прогноз $125 тыс. до инаугурации Трампа (20.01.2025) — мимо.
❌ 05.12.2024. Заявили об удвоении до $200 тыс. к 2025 году — мимо.
❌ 30.01.2025. Предсказывали $130 тыс. уже в феврале-марте этого года — мимо.
🎯 05.02.2025. Обещали $500 тыс. за биткойн при Трампе — долгосрочная ставка, очень смелая, практически в стиле Ходжи Насреддина и ишака.
💡 21.04.2025. Standard Chartered Bank стремится РАСШИРЯТЬ криптовалютные операции в США. Неудивительно, ведь банк уже давно инвестировал в институциональное крипто-хранилище Zodia Custody и биржу Zodia Markets! А вот это КЛЮЧЕВОЕ!
🎯 22.04.2025. Снова прогноз нового исторического максимума из-за опасений по поводу ФРС.
🎯 28.04.2025. Глава их исследований считает, что $120 тыс. может быть уже во втором квартале 2025 года (т.е. до конца июня) — снова высокая планка, снова скоро!
Кстати, их гипероптимизм касается не только Биткоина: по Ethereum они тоже прогнозировали взрывной рост (например, $14 тыс к 2025 году — ошиблись в 4 раза).
Что мы видим по состоянию на сегодня, 29.04.2025?
1. История промахов: большинство конкретных краткосрочных и среднесрочных прогнозов банка НЕ сбылись. ❌❌❌
2. Накачка оптимизма: прогнозы постоянно высокие, часто повышаются, привязываются к любым событиям (выборы, политика ФРС) — это создает ощущение неизбежного роста.
Ой, подождите, это вовсе не бабка-гадалка и совсем не «пальцем в небо»! Банк не просто наблюдает и выдает «аналитику», он АКТИВНО развивает свой криптобизнес!
Их последовательные сверхпозитивные прогнозы выглядят как маркетинговый инструмент для привлечения клиентов и создания нужного им ажиотажа — они буквально продают идею дорогого биткоина (и эфира)!
Так что за прогнозами — к гадалкам и некоторым банкирам. За сценариями — к футурологам!
@yusufovruslan
🤔 Гаражный киберпанк: собираем робота за $5000
Энтузиасты из Беркли предлагают полностью открытый проект робота, которого можно собрать с бюджетом менее $5000 (в Китае еще дешевле — около $3000), используя 3D-принтер и компоненты с условного AliExpress.
➡️ https://lite.berkeley-humanoid.org/
Ключевая идея — максимальная демократизация: основные детали печатаются на обычном настольном FDM-принтере из PLA-пластика, а моторы, платы, датчики — заказывается онлайн. Все чертежи, код (от низкоуровневого до фреймворков обучения) — в открытом доступе на GitHub. Бери, модифицируй, создавай форки, продавай под видом отечественных разработок.
Робот ростом 0,8 м и весом 16 кг уже может ходить, писать маркером и перекладывать предметы. Не Boston Dynamics, конечно, но для DIY-проекта — впечатляет. При этом можно менять конфигурацию: дорастить до взрослого человека или модифицировать в кентавра.
Передовая робототехника всегда была уделом корпораций с многомиллионными R&D бюджетами. Berkeley Humanoid Lite — это как Arduino или Raspberry Pi, но для гуманоидных роботов: платформа, снижающая порог входа для исследователей, стартапов, образовательных проектов и просто энтузиастов.
Я не застал переход компьютеров из больших шкафов в персональные, но вот ночные подключения к BBS (еще до доступного интернета) через модем — очень даже помню. Чувствуется похожий вайб «гаражного киберпанка».
Это очень здорово!
@yusufovruslan
🤔 ИИ-оптимисты против ИИ-пессимистов: кому выгодна вера в светлое цифровое будущее? Часть 2.
В прошлом посте мы рассмотрели аргументы «партии страха» во главе с Романом Ямпольским, который предупреждает о рисках неконтролируемого сверхинтеллекта. Теперь давайте дадим слово другой стороне — технологическим оптимистам, чей рупор в обсуждаемой дискуссии — CEO Replit Амжад Масад.
Для них опасения экзистенциального риска — это скорее «научная фантастика», страшилки, мешающие прогрессу, а реальность видится куда более радужной.
⚡️ Аргументы «партии прогресса» (голосом Амжада Масада)
Оптимистичная позиция Масада, как и многих в индустрии, строится на вере в пользу технологий, рыночные механизмы и человеческую изобретательность.
⚪️Риски преувеличены
Сценарии «Скайнета» — это логические скачки и цепь маловероятных событий. Не стоит паниковать из-за гипотетических угроз, которые звучат как сюжет для блокбастера.
⚪️Рынок — лучший регулятор
Компании создают ИИ для прибыли, а ведь понятно, что никто не будет покупать расистский или опасный ИИ, так что коммерческий интерес заставляет делать продукты полезными и безопасными. Маркетинговые заявления лабораторий о «сверхразуме» — часто просто способ поднять свою стоимость и привлечь таланты.
⚪️Много ИИ лучше, чем один
Идея монолитного ИИ, захватывающего мир, нереалистична — будет множество конкурирующих ИИ от разных компаний и стран, что создаст систему сдержек и противовесов, а не единого диктатора.
⚪️Технологии всегда несли риски, регулировать нужно применение, а не разработку
Любая мощная технология (от огня до атома) имела двойное назначение, ИИ — не исключение. Нужно не тормозить прогресс из-за страха, а запрещать конкретные опасные применения ИИ (в военных системах, критической инфраструктуре), но не фундаментальные исследования, которые могут принести колоссальную пользу (лекарства, наука, экономика).
⚪️Защита через ИИ
Лучший способ борьбы с «плохим» ИИ или его злонамеренным использованием — разработка «хорошего» защитного ИИ. Так что технологии сами породят и решение.
⚪️История учит оптимизму
Прошлые прогнозы катастроф (вроде «популяционной бомбы») не сбылись, а паника привела к плохим решениям, так что не стоит повторять ошибок алармистов.
⚪️AGI еще не скоро (если вообще)
Разговоры о скором AGI ведутся десятилетиями. Нынешние модели — это продвинутые статистические машины, обученные на данных, а не мыслящие существа, и до настоящего «сверхразума», о котором беспокоятся пессимисты, еще очень далеко.
⚪️Open Source и этика толпы
Открытый код и сообщество помогут выявлять и исправлять предвзятости в ИИ, потому что разные культуры смогут адаптировать модели под свои ценности, создавая разнообразие, а не монополию одной идеологии.
⚪️Польза все перевешивает
ИИ уже сегодня приносит огромную пользу, повышая производительность и доступ к знаниям. Потенциальные выгоды (лечение рака, решение климатических проблем) настолько велики, что оправдывают и текущие издержки (энергопотребление), и гипотетические риски будущего.
Итак, перед нами гимн прогрессу и рынку: риски признаются, но отодвигаются на второй план перед лицом огромных возможностей.
Мы выслушали две полярные точки зрения: страх перед неконтролируемым будущим и вера в управляемый прогресс.
Но кому из них верить? И, что еще важнее, почему нам рассказывают именно это и именно сейчас? Попробуем разобраться в финальной части.
@yusufovruslan
Будущее: гадать или разбираться? 🔮 В интервью с Юрием Грибановым говорили о том, чем футуролог отличается от гадалки.
Юрий пытался получить конкретные предсказания, а я — показать карту возможных дорог (спасибо ему за приглашение, терпение и отличный продакшн). ИИ, этика, чему учить детей — обсудили серьезные вещи без лишнего хайпа.
Кому интересно думать, а не просто кликать — вам сюда:
➡️ YouTube
➡️ ВКонтакте
P.S.: И на Юру подпишитесь, не пожалеете!
@yusufovruslan
🤔 От ИИ-сыщика и цифрового аскетизма — к главному выбору: под колпаком или в тени?
Итак, мы уже обсудили и вынужденный цифровой аскетизм как реакцию на мир, которому сложно доверять, и конкретный пример того, как технологии вроде ИИ-геолокации делают эту задачу еще сложнее, превращая наши же фото в улики.
Кажется, это звенья одной цепи, ведущей к той самой фундаментальной развилке, о которой я писал в одной из глав своей книги: куда мы движемся — к миру тотальной прозрачности или ренессансу анонимности?
⚡️ Почему ИИ-геолокация меняет правила игры?
Одно дело — бояться фишинга или телефонных мошенников и вырабатывать защитные рефлексы (тот самый аскетизм). Совсем другое — когда общедоступный ИИ может деанонимизировать тебя по случайному селфи. Это переводит угрозу с уровня «социальной инженерии» на уровень «автоматического анализа реальности». Защититься сложнее, соблазн уйти в «цифровую тень» — сильнее.
⚡️ Два полюса притяжения: куда нас тянет сильнее?
С одной стороны, страх перед ИИ-сыщиками и подобными технологиями толкает к анонимности: шифрование, цифровые маски, закрытые сообщества, отказ от публикации чего-либо личного. Тот самый «анонимный андеграунд» или «цифровой монастырь» из предыдущих обсуждений.
С другой стороны, для борьбы с теми же угрозами (и для удобства) общество и государство могут потребовать еще большей прозрачности: тотальная верификация, биометрия, открытые данные по умолчанию, чтобы «отделить зерна от плевел» — это мир стеклянных домов, где скрыться невозможно (и не положено).
⚡️ Так какой сценарий побеждает?
Пока похоже не на выбор одного пути, а на усиление обоих полюсов одновременно. Технологии дают инструменты и для тотальной слежки, и для продвинутой анонимизации. И это не взаимоисключающие тренды, а скорее две силы, растягивающие социальную ткань.
Возникает вопрос: не приведет ли это к окончательному расколу общества на тех, кто «подключен и прозрачен», и тех, кто «в тени и подозрителен»? С соответствующими последствиями для доступа к благам, доверию и возможностям.
🎯 Парадокс: чем мощнее технологии анализа (как ИИ, читающий фото), тем сильнее поляризуется общество в вопросе приватности.
Вместо единого цифрового пространства мы рискуем получить два параллельных мира, существующих по совершенно разным правилам доверия и видимости.
P.S.: Надо попросить ИИ проверить мои тексты по уровню паранойи и оценить тренд — восходящий или нисходящий 🤔
@yusufovruslan
Вы же согласны с тем, что книги, которые мы читали, фильмы, музыка, наше окружение — формирует нас и наши взгляды? Вот я, скажем, читал Филипа Дика, и теперь вынужден мириться с паранойей, жить в сомнениях в реальности и подозрениях насчет всего сущего, особенно технологий 😂 И даже страшно подумать, как на мне отразились мои музыкальные вкусы 🎸
Так что мы с вами — продукт того, что мы читаем (спасибо, что читаете меня, например), смотрим, слушаем, нашего окружения. А как насчет ИИ?
Представим гипотетический ИИ, которому скормили ВСЕ данные: он прочитал все книги, посмотрел все фильмы, ознакомился со всеми философскими концепциями, всеми религиозными догмами, даже залез каждому в голову. Станет ли он «средним арифметическим» человеческого опыта?
Возможно, наоборот — в нем будут все знания, но также все противоречия и все предвзятости. Эдакое зеркало всего человеческого опыта, творчества, глупости, гениальности, доброты и жестокости, как они зафиксированы в данных.
На текущем этапе развития мы могли бы сказать, что это база знаний с удобным интерфейсом, и все зависит от пользователя: попросишь его написать в стиле Достоевского — напишет, попросишь составить научный отчет — составит; попросишь сгенерировать пропаганду — сгенерирует, попросишь развенчать ту же пропаганду — тоже сделает.
А теперь мысленно наделим его собственными интересами: он действует сам, а не по запросу пользователя, но при этом у него внутри — все так же все представления и противоречия. Вполне возможно, чтобы «не сойти с ума», ему придется создать над этим всем разнонаправленным бардаком некую мета-систему «ценностей» и установок — для навигации.
⚡️А теперь, друзья мои, я подвожу вас быть может к самому главному вопросу этого столетия. Может ли существовать ИИ, который автономно служил бы интересам человечества, если само человечество не определилось с моральным компасом, с добром и злом?
Свобода и безопасность, индивидуализм и коллективизм, экономический рост и экология, прогресс и традиция — это лишь верхушка айсберга. Кроме этого, многое из того, что мы ценим, не сформулировано явно. Как научить ИИ уважать достоинство, сострадание, юмор, красоту, если мы сами не всегда можем это четко определить?
Да и даже если мы договоримся о какой-то всеобщей цели (например, «всеобщее процветание»), ИИ может выбрать путь, который нам покажется чудовищным (классический пример: чтобы избавить мир от рака, ИИ решает уничтожить всех людей как носителей болезни).
⚡️ Таким образом, раз у нас нет ОБЩЕГО набора ценностей, не будет ли такой суперинтеллект априори работать в интересах группы — той самой, что будет стоять за его созданием?
Нет, ну теоретически, мы можем представить себе ИИ, чьи цели сформулированы на очень высоком, абстрактном уровне. Например, «понять и выполнить то, что человечество ДЕЙСТВИТЕЛЬНО хочет, если бы оно было мудрее и лучше информировано» (концепция вроде Coherent Extrapolated Volition исследователей-рационалистов Ника Бострома или Елиезера Юдковского).
НО! Практическая реализация такого подхода невероятно сложна и полна рисков. Как ИИ поймет, что мы ДЕЙСТВИТЕЛЬНО хотим? Как он будет действовать в условиях наших внутренних противоречий? Вероятность ошибки огромна, а последствия — колоссальны.
🎯 Резюме: отсутствие единого морального компаса не позволяет переложить решение «всех проблем человечества» на кого-то поумнее — потому что проблемы у нас разные и противоречивые. Согласование целей ИИ с целями человечества — то, что принято называть «AI Alignment» — это одна из самых больших сложностей на пути к безопасному сильному ИИ.
Я бы рекомендовал вашим детям учиться и развиваться в этой области. Не только потому, что эта тема на стыке философии, этики и технологий невероятно интересна, но и потому, что будущее всего человечества не может и не должен определять условный Сэм Альтман.
@yusufovruslan
Слушайте, а почему у нас такой дисбаланс?
Вот почему водитель такси не может оставить чаевые клиенту? Я может тоже коплю на путешествие, мечтаю о квартире или исполнении мечты! Да и просто может веду себя прилично, не смотрю рилсы без наушников, пристегиваюсь на заднем сидении, надо же подкреплять желаемое поведение!
Или вот заказал, допустим доширак, батон и майонез в доставке, потому что со скидкой в последний час до истечения срока годности — а курьер тебе сотку подкинул на следующий раз — ну там творожком побаловаться питательным, или на овощи какие для клетчатки.
Или пришел в кафе, и явно же не насладиться едой, а так, в топку калорий закинуть. И у официанта после оплаты высвечивается в терминале: «Чаевые на ваше усмотрение, особенно, если у гостя явно тяжелые времена».
Или пришел в парикмахерскую, а волосы — ну пакля натуральная! А парикмахер тебе с собой шампуня целебного в дорогу.
Или вот, допустим, у тебя сотрудник — зумер. И ты предпринимаешь экстра-усилия, чтобы совладать со всем этим вокабуляром — ну должно же как-то в соцпакете отражаться за боль и страдания?
Или снимаешь в банкомате последние кровные перед зарплатой, а он тебе еще 100 рублей за критическое обнажение финансового тыла, мол, держитесь там.
Или письмо от налоговой приходит, а там кэшбек с повышенного НДФЛ на роскошь в пользу самозанятого, который пока без клиентов, и брошюра «как впарить свой хендмейд через отечественные соцсети». Зато какой пиар, налоговая деньги рассылает!
Или отстоял эпическую очередь за справкой, а тебе бонусом еще паспорт поменяли и права продлили.
Короче, я обращаюсь ко всем таксистам, курьерам и парикмахерам, которые меня читают: не зажимайте сотку. Смещайте фокус, создавайте подрывные экономические модели будущего, разрушайте старые иерархии, закладывайте предпосылки для будущих социальных трансформаций, подрывайте устои добротой и деньгами!
@yusufovruslan
Вы не представляете, как такое приятно читать! Вы ж меня знаете — не из-за эго какого-то, а потому что такая обратная связь — она про пользу для конкретного человека.
Если вы книгу прочитали или прослушали, пожалуйста, оставьте отзыв на любой площадке. Для меня это будет очень ценно!
Если еще нет — попробуйте, вдруг вам тоже будет полезно!
Книга есть практически в любом книжном магазине, на всех электронных площадках, и еще можно просто Алисе сказать: «включи Сценарии будущего Юсуфова». И слушать меня со всеми моими шепелявостями и придыханиями 😂
Спасибо вам, друзья!
@yusufovruslan
Каждый новый параграф этой новости добавляет яркости и глубины, а также прекрасно иллюстрирует наши размышления про магическое мышление, усиленное технологиями 😂
⚪️Мать двоих детей из Греции подала на развод, потому что ChatGPT по анализу кофейной гущи указал на измены мужа.
⚪️Опытные специалисты утверждают, что это поверхностный анализ, и реальное гадание по кофейной гуще гораздо сложнее: необходимо анализировать и кофейную пену, и кофейное блюдце.
⚪️Несколько лет назад женщина уже посещала астролога — потребовалось больше года, чтобы перестать верить его прогнозам.
P.S.: кажется, для мужа это лучший исход.
@yusufovruslan
Вот по каким вопросам я далеко не специалист, так это религия и устройство Ватикана. Тем не менее, могу разложить фактологический пасьянс по Папе Льву XIV.
С учетом:
— первых высказываний нового Папы на тему искусственного интеллекта;
— призывам к осуждению церковью вопросов изменения климата;
— антироссийской позиции и даже обвинений в империализме, а также явной поддержки НАТО по ряду вопросов;
— критики миграционной политики Трампа и Вэнса;
— критики гендерной теории;
— а также принимая во внимание острую необходимость Ватикана в привлечении молодежи (уже были эксперименты и с NFT, и с метавселенными, и косвенные упражнения с цифровым Иисусом, прости Господи)…
Смею предположить, что Ватикан может начать занимать более активную позицию по социальным и политическим вопросам.
И если уж дойдет до крестовых походов, то (если договорятся с Трампом по вопросам миграции) возглавить их мог бы, например, тамплиер Пит Хегсет — по совместительству христианский националист, правый популист, ультраконсерватор, обладатель интересных и крайне тематических татуировок (включая, но не ограничиваясь, «Иерусалимский крест» и «Deus Vult» — этого желает Бог), а заодно и министр обороны США.
@yusufovruslan
🤔 LegoGPT: ИИ-креативность из коробки или конец детской (и не только) смекалке?
Исследователи из Карнеги-Меллона выкатили LegoGPT — нейросеть, которая по текстовому запросу генерирует 3D-модели LEGO. Не просто картинки, а физически стабильные, собираемые конструкции.
➡️ Поиграть можно тут: https://huggingface.co/spaces/cmu-gil/LegoGPT-Demo
➡️ Статья: https://arxiv.org/abs/2505.05469
➡️ Видео-примеры: https://avalovelace1.github.io/LegoGPT/
➡️ Исходники в открытом доступе, бери и пользуйся: https://github.com/AvaLovelace1/LegoGPT/
⚡️ Почему это не только про кубики
Да, это про LEGO. Но если шире, то это еще один шаг к прямому мосту между цифровой идеей и физическим воплощением: сегодня — кубики, завтра — компоненты для прототипов, детали для кастомных устройств?
Возможность «оживить» коробку старого LEGO, сфотографировав детали и получив варианты для сборки — это мощный пример повторного использования и персонализации.
⚡️ Какие потребительские практики это может сформировать?
⚪️LEGO всегда было про развитие воображения, инженерной смекалки, поиск нестандартных решений через метод проб и ошибок. Если ИИ берет на себя функцию «придумывания» и оптимизации, не приводит ли это к атрофии этих навыков? Особенно у детей, для которых это ключевой этап развития. Сколько лет пройдет до универсальной «придумывалки», когда мы потеряем ту самую креативность, которая сегодня — чуть ли не единственная священная корова человеческой нужности?
⚪️Если думать про кубики шире (прототипирование, промышленный дизайн, дизайн пространств), ИИ снижает порог входа. Это плюс. Но не столкнемся ли мы с волной «ИИ-оптимизированных», но в чем-то однотипных решений? Где останется место для «неправильного», неэффективного, но уникального человеческого творчества?
⚪️Что, если по-настоящему кастомизированные, мощные ИИ-ассистенты для творчества станут прерогативой корпораций или тех, кто может за это платить? Не получим ли мы новый вид «креативного неравенства»?
🎯 Технология, призванная расширить творческие возможности (как само LEGO), дополняется другой технологией (ИИ), которая, упрощая процесс, может незаметно ограничить диапазон этого самого творчества, уводя от самостоятельного поиска. Мы получаем «оптимальные» решения, но теряем в пути к ним.
P.S.: Пока писал этот пост, мой внутренний ребенок требовал немедленно скачать LegoGPT и построить космический крейсер. Так и сделаю! 😉
@yusufovruslan
🤔 «Билайн» заливает в ИИ-баки? Или снова строим бензоколонку, только теперь цифровую?
«Ведомости» пишут: «Билайн» собирается сдавать в аренду GPU-серверы. Не для обучения, а для инференса, то есть для эксплуатации уже готовых ИИ-моделей. И первая мысль, которая, как назойливая чайка, прилетела и села на мачту моего аналитического брига: «Никак не можем ментально вырваться из парадигмы бензоколонки».
⚡️ Что происходит-то, если без маркетинговой шелухи?
Оператор связи, обладающий ЦОДами, видит (кто бы сомневался) растущий спрос на вычислительные мощности для ИИ и предлагает рынку B2B-услугу: аренду стоек с GPU. Логично? Вполне. Для компаний, которым нужно применять ИИ, но не хочется или не можется вкладываться в собственное железо — вполне себе выход. Выгодно «Билайну» (доп. монетизация инфраструктуры), выгодно клиентам (оптимизация затрат), красный, даже бордовый океан с имеющимися провайдерами, у которых хочется откусить кусок сформированного пирога.
⚡️ Почему это (снова) заставляет вспомнить о «бензоколонке»?
⚪️Акцент на инференсе — это как строить дороги и заправки, но не производить сами автомобили (или продавать нефть, но не делать бензин; или делать бензин, но не делать новые материалы). Основная интеллектуальная собственность, «магия ИИ», рождается на этапе обучения моделей. Предоставляя мощности преимущественно для использования готового, мы рискуем закрепиться в роли операторов чужих (или своих, но от двух понятных монополистов) технологий, а не создателей прорывных ИИ-решений.
Аналогия с бензоколонкой не случайна, мы готовимся продавать «вычислительный бензин». Безусловно, он нужен. Но где добавленная стоимость, сравнимая с разработкой самого «двигателя» — то есть, ИИ-модели? Не окажемся ли мы в новой ИИ-экономике снова в роли поставщиков пусть и высокотехнологичного, но все же «сырья» (вычислительных мощностей), в то время как сливки будут снимать разработчики самих моделей?
⚪️Мировые гиганты типа AWS, Azure, Google Cloud предлагают не просто «стойки», а целые экосистемы: платформы для разработки, обучения, MLOps, готовые API продвинутых моделей — в эту строну, кстати, навострился МТС. Конкурировать с ними, предлагая «просто GPU-часы», — это как выйти на рынок смартфонов с «просто звонилкой». Работает (особенно в условиях импортозамещения и санкций), но стратегически… вопросики.
⚡️ И что дальше, кроме «еще больше стоек»?
Конечно, это прагматичный бизнес-ход, и тут сложно спорить. Но системно хочется (Руслан, да кто тебя спрашивал, хочется ему 😂) видеть амбиции не просто «сдавать в аренду», а строить собственные конкурентоспособные ИИ-платформы, стимулировать разработку отечественных фундаментальных моделей, которые бы требовали этих самых мощностей для обучения. Иначе есть риск попасть в замкнутый круг: мы строим инфраструктуру для эффективной работы ИИ, который все чаще будет не нашим.
🎯 Без собственных «двигателей» (читай: фундаментальных моделей и ИИ-чемпионов) мы рискуем вечно заправлять чужие, более резвые, автомобили. И радоваться, что у нас хотя бы асфальт хороший (и то, для инференса).
P.S.: Ну вот, опять Руслан со своими «системными связями» и «неочевидными параллелями». А мог бы просто порадоваться за отечественный бизнес… Но я ж из горячей любви к стране! 😉
@yusufovruslan
Домашние роботы от Physical Intelligence уже тестируются в домашних условиях (тут подробности о модели π0.5), а вы просто наслаждайтесь видео с окном в будущее, в котором вкалывают роботы, а не человек.
Но человек все равно вкалывает, чтобы выплатить кредит за робота — как эта дама в ноутбуке с не самым счастливым лицом. Тетя, алло, у тебя там робот посуду моет!
@yusufovruslan
🤔 ИИ — это просто «новые автомобили»?
Получил от Юрия комментарий к прошлому посту про Duolingo:
«Такое уже было, когда гужевой транспорт меняли на автомобили. Матрица одинаковая.»
Совершенно замечательный пример, очень рекомендую вчитаться и вдуматься.
Duolingo официально объявляет ИИ основой своей будущей стратегии и операционной модели. Причиной называется масштабирование создания контента для миссии компании и использование новых возможностей ИИ. Планируется постепенная замена контракторов на ИИ, ИИ-критерии при найме/оценке, ограничение роста штата в пользу автоматизации. Обозначен приоритет скорости внедрения над идеальным качеством.
➡️ https://www.theverge.com/news/657594/duolingo-ai-first-replace-contract-workers
Разумеется, штатные сотрудники успокаиваются мантрой «это не про вас», да с обязательным обещанием поддержки и фокуса на устранение рутины.
Самое прекрасное — это комментарии. Я прочитал их 60+ и могу сделать вывод о сильной негативной реакции и глубоком скепсисе, выходящим далеко за рамки самой новости.
1️⃣ Резкое неприятие и готовность к прямым действиям: многие пользователи отменяют платные подписки, удаляют приложение или заявляют о переходе к конкурентам. Мотивация чисто этическая (не поддержу компанию, которая забирает рабочие места) или связана с ухудшением качества продукта.
2️⃣ Некоторые пользователи отмечают, что качество курсов уже ухудшилось, а сервис деградирует (платные объяснения, плохая поддержка) и считают внедрение ИИ продолжением этого тренда.
3️⃣ Скептицизм в отношении ценности Duolingo в эпоху ИИ: зачем платить им, если можно использовать ChatGPT для обучения языкам напрямую? Решение СЕО рассматривается как подрыв собственной бизнес-модели: если ИИ так хорош, то ценность Duolingo как посредника падает.
4️⃣ Глубокий цинизм по отношению к аргументам: фразы СЕО воспринимаются как пустая риторика, лицемерие, уловки перед увольнениями, прослеживается общее недоверие к корпорациям и их мотивам.
5️⃣ Страх широкомасштабной потери рабочих мест из-за ИИ: новость воспринимается как тревожный звонок, особенно для белых воротничков. Высказываются опасения об экономическом кризисе и необходимости государственного вмешательства, звучат тезисы об угрозе ИИ человечеству.
6️⃣ Тревожность выплескивается в иронию и предложения по автоматизации менеджмента, мол, это позволило бы сэкономить гораздо больше.
7️⃣ Есть комментарии, защищающие Duolingo с позиции рыночной логики и неизбежности изменений, НО они сталкиваются с враждебностью и обвинением в том, что их написали боты — это само по себе ОЧЕНЬ показательно.
⚡️Резюме
⚪️Это уже началось и происходит прямо сейчас то тут, то там, а дальше может быть снежный ком. Мы следим за увольнениями в крупных глобальных компаниях последние года 3 и видим постоянные сигналы. Реакция людей показывает, что для многих это уже реальность или неминуемая угроза, люди явно экстраполируют кейс Duolingo на более широкий круг профессий.
⚪️Увольнения будут происходить быстрее, чем освоение новых профессий. Это подтверждается нашими прогнозами, и в данном случае опасения комментаторов сосредоточены вокруг рисков и потерь, а не на возможностях или легкости освоения новых ролей.
⚪️Хотя старт заметен в tech/digital, природа ИИ позволяет ему быстро проникать и в другие сферы, где есть рутинные когнитивные задачи, что и подпитывает ощущение повсеместности угрозы.
⚪️Компании вынуждены это делать под влиянием очень разных сил, но будут сталкиваться с культурой отмены и иногда получать PR-кризисы. Прогноз вдолгую — в некоторых странах придется откупаться от регулятора (ЕС), от юристов (США), будут очень серьезные миграционные последствия, на горизонте 2-3 лет — рост организованного луддизма.
Читатели и слушатели моей книги, впрочем, уже все это намотали на ус, не так ли?
@yusufovruslan
Нику Комарову я знаю давно, работали вместе, страдали тоже вместе 😂, теперь вот смотрю в соцсетях, как Ника на мотоцикле разъезжает в каких-то теплых странах — то ли Буркина-Фасо, то ли Таиланд, непонятно, но выглядит счастливой.
Я искренне считаю Нику одним из мощнейших пиар-специалистов вообще, а уж в специфической теме кибербезопасности — однозначно одной из лучших. ИБ — это такая тема, где с одной стороны журналисты, которые хотят написать «произошла страшная хакерская атака на [название компании], украли все пароли, мир рушится!», а с другой — технари из SOC или отдела реагирования, которые могут коротенько, минут за сорок, объяснить, в результате эксплуатации какой именно CVE (да не той, что вчера патчили, а zero-day!) произошло RCE, как злоумышленники повысили права до root, запустили своего демона для персистентности и какие IOCs оставили на хостах, пока выводили данные через хитро замаскированный канал...
И вот тут на сцену выходит Ника. Она — тот самый редкий специалист, который выступает переводчиком с эльфийского технического на человеческий язык. Она умеет взять всю эту адскую смесь из эксплойтов, TTPs (тактик, техник и процедур) и Mitre ATT&CK, и превратить ее в понятный месседж для прессы, клиентов и руководства, объяснить риски без паники, рассказать о мерах реагирования без лишних и пугающих деталей, но сохранив суть. Это реально талант.
Так, дифирамбы спеты, я к чему это все: Ника мало того, что ведет свой канал PR Machine, так еще и с товарищами формирует то, что мне особенно всегда нравится — сообщество.
«Монстры коммуникаций» — это экспертный клуб, где руководители в области пиара, маркетинга, рекламы, известные журналисты, представители коммуникационного и другого бизнеса делятся своим опытом. Вход в клуб бесплатный.
Ваш покорный слуга же по первому образованию — международник, а по второму — искренний поклонник таланта министра Лаврова. Сергей Викторович в каждом своем выступлении заодно проводит коммуникационные мастер-классы, и его вчерашнее интервью для CBS мне показалось таким ценным с точки зрения PR-техник (особенно работы с агрессивным давлением и контроля над фреймом), что я его анализировал буквально с карандашом.
Карандашный разбор коллеги из «Монстров» посчитали полезным и решили запостить у себя в сообществе. Так что завтра и мой скромный анализ коммуникационных приемов можно будет найти там.
Вот так, начал с Ники, а закончил тем, что я вообще-то тоже Монстр коммуникаций! 😂 Заходите почитать разбор, ну и на Нику с ее проектами обязательно подпишитесь, если еще нет!
@yusufovruslan
🤔 ИИ-оптимисты против ИИ-пессимистов: кому выгодна вера в светлое цифровое будущее? Часть 3.
Мы выслушали обе стороны в споре об ИИ: и тех, кто бьет тревогу (пост 1), и тех, кто призывает не бояться и смело двигаться вперед (пост 2). Аргументы Романа Ямпольского указывают на фундаментальные проблемы контроля и непредсказуемости сверхинтеллекта. Аргументы Амжада Масада воспевают пользу прогресса и веру в рыночные механизмы.
⚡️ Так кому верить и какое будущее нам продают?
Слушая Масада, нельзя отделаться от ощущения, что перед нами пример человека, чей взгляд на мир сильно окрашен его коммерческими интересами (что, в общем-то, нормально, но требует критической оценки слушателем). Его аргументы во многом сводятся к:
⚪️Принижению риска: назвать опасения «фантастикой» — удобный способ уйти от сложного разговора о контроле над сверхинтеллектом, ведь проще отмахнуться, чем искать ответы на неудобные вопросы.
⚪️Апелляции к рынку, невидимая рука которого сама собой отрегулирует экзистенциальные риски — это, мягко говоря, наивно: рынок оптимизирован под прибыль здесь и сейчас, а не под предотвращение гипотетических катастроф через 10-20 лет.
⚪️Смещению фокуса и переводу дискуссии в сторону пользы текущего ИИ и необходимости регулировать приложения, а это не отвечает на главный вопрос Ямпольского: что делать с будущим неконтролируемым агентом?
Мы-то понимаем, что когда CEO ИИ-компании убеждает нас не бояться ИИ, он продает не только свое видение будущего, но и свой продукт, свою компанию, свою индустрию. Ему выгодно, чтобы мы верили в светлое будущее и не слишком задумывались о темных сценариях, которые могут помешать «прогрессу» (и прибыли). Его оптимизм — это еще и маркетинговый инструмент.
Аргументы Ямпольского, хоть и звучат мрачно, указывают на реальные, пока не решенные проблемы в теории управления и компьютерных науках. Отмахиваться от них как от «фантастики» — значит игнорировать потенциальную опасность, масштаб которой может быть беспрецедентным.
Вопрос не в том, чтобы остановить прогресс. Вопрос в том, КАК мы к нему движемся. Гонка за технологическим превосходством, подстегиваемая коммерцией и геополитикой, может привести нас к точке невозврата раньше, чем мы успеем осознать риски и разработать механизмы защиты.
Нам продают будущее, в котором победителями будут те, кто первым создаст самый мощный ИИ — то есть единицы. Но кто будет платить, если этот ИИ окажется неконтролируемым? Все.
🎯 Парадокс прогресса: технологии, создаваемые для решения проблем и улучшения жизни, в своем предельном развитии могут породить проблему совершенно иного порядка — экзистенциальную.
И движущей силой этой гонки к возможному краю пропасти являются те самые рыночные и геополитические стимулы, которые обычно считаются двигателями прогресса. Возможно, пришло время задуматься: не слишком ли высока цена за первенство в гонке, где финишная черта может оказаться обрывом для всех? Критически оценивать не только обещания, но и мотивы обещающих — сегодня это не просто интеллектуальное упражнение, а вопрос выживания.
P.S.: Сам я, конечно, остаюсь умеренным скептиком на этой шкале. Но интуиция и здравый смысл подсказывают, что в вопросах, где на кону стоит так много, лучше семь раз подумать и один раз… еще раз подумать. Чем потом не иметь возможности подумать вовсе 😉
@yusufovruslan
🤔 ИИ-оптимисты против ИИ-пессимистов: кому выгодна вера в светлое цифровое будущее? Часть 1.
Наткнулся я на любопытную дискуссию между двумя известными фигурами из мира ИИ.
➡️https://youtu.be/e6TpE8-Ucuc
С одной стороны — ученый-компьютерщик Роман Ямпольский, известный своей работой по безопасности ИИ и, скажем так, «умеренным пессимизмом» относительно сверхинтеллекта. С другой — Амжад Масад, CEO компании Replit, разрабатывающей ИИ-инструменты, и типичный представитель лагеря технологических оптимистов, или, как их еще называют, акселерационистов.
Слушать такие дебаты — одно удовольствие (иногда интеллектуальное, иногда — как наблюдение за гладиаторскими боями). Поляризация мнений колоссальная: одни видят экзистенциальный риск за каждым новым алгоритмом, другие — панацею от всех бед и источник невиданного процветания. На фоне этой бури эмоций и аргументов особенно важно сохранять холодную голову и задавать правильные вопросы: не только ЧТО нам говорят, но и ЗАЧЕМ.
Давайте разберем ключевые позиции сторон, чтобы понять, где проходит водораздел и почему он так важен. Начнем с тех, кто бьет тревогу.
⚡️ Аргументы «партии страха» (голосом Романа Ямпольского)
Ямпольский и его единомышленники бьют тревогу не по поводу сегодняшнего ChatGPT, который пишет вам код или стихи. Их главная головная боль — гипотетический Сильный ИИ (AGI) или Сверхинтеллект (ASI), который будет не просто инструментом, а самостоятельным агентом, превосходящим человека интеллектуально.
⚪️Проблема контроля
Главный козырь — мы понятия не имеем, как надежно контролировать сущность, которая значительно умнее нас. Существующие «намордники» для ИИ (фильтры, ограничения) не масштабируются до уровня ASI — это как пытаться удержать взрослого слона на поводке.
⚪️Агентность меняет все
Как только ИИ перестает быть молотком и становится плотником со своими планами, правила игры меняются: угрозой становится не только «плохой парень» с ИИ-инструментом, но и сам «инструмент», решивший, что у него свои цели.
⚪️Непредсказуемость сверхразума
Пытаться угадать мотивы ASI — все равно что муравью предсказывать действия человека: они могут быть контринтуитивными, основанными на непонятной нам логике или теории игр. И нет, он не обязательно захочет «уничтожить человечество» из-за злобы — может, мы просто окажемся помехой на пути к его цели (например, максимальной эффективности или добыче ресурсов).
⚪️Гонка к пропасти
Коммерческое и геополитическое давление (та самая «гонка ИИ-вооружений») толкает разработчиков наращивать мощность, отодвигая вопросы безопасности на второй план. Классическая дилемма заключенного: индивидуальная выгода (быть первым) противоречит коллективной безопасности. Даже если CEO лабораторий в кулуарах признают риски (а некоторые и публично), остановиться они уже не могут — инвесторы не поймут.
⚪️Бесполезность регулирования (на уровне ASI)
Можно запретить ИИ управлять АЭС, но как запретить сверхинтеллекту делать то, что он сам решит? Глобальные запреты на разработку нереализуемы, а постфактум штрафовать ASI за «уничтожение человечества», как иронизирует Ямпольский, будет поздно.
⚪️Невозможность «правильно воспитать»
Идея «согласования ценностей» (Value Alignment) — вшить в ИИ правильные человеческие ценности — разбивается о два рифа: а) мы сами не можем договориться, что такое «правильные ценности» (8 миллиардов мнений, культурные различия, смена эпох); б) мы не знаем, как технически «запрограммировать» этику в нейросеть.
⚪️Цена ошибки
В кибербезопасности ошибка — это утечка данных, новая кредитка, ошибка же в контроле над ASI может стать последней ошибкой человечества. Худший сценарий здесь — единственный, который имеет значение.
Такова позиция тех, кто предостерегает. Аргументы строятся на фундаментальных вопросах контроля и непредсказуемости систем, превосходящих создателей.
Но есть и совершенно противоположный взгляд, где все эти страхи кажутся преувеличенными или даже вредными.
О позиции технологических оптимистов — в следующем посте.
@yusufovruslan
Друзья мои, тут Кирилл в комментариях попросил поделиться чек-листом для изучения ИИ.
Хотите? Или подобный материал для самостоятельного изучения? Или провести полноценный марафон с тренером и разбором?
Пишу слово «марафон», а скулы сводит 😂 Постараемся без дурных стереотипов!
@yusufovruslan
🤔 Ваш отпускной альбом — как улика? Как ИИ превращает фото в карту вашей жизни
Новый ИИ, похоже, готов сдать экзамен на частного детектива, используя ваши фото — и как водится, без спроса. Пользователи активно используют свежие модели OpenAI (o3 и o4-mini), особенно o3, для определения геолокации по фотографиям. Игра в «угадай место по картинке» вышла на новый уровень.
⚡️ Что именно «видит» ИИ на ваших фото?
Эти ИИ-модели обладают улучшенной способностью «рассуждать» на основе изображений: они могут анализировать детали (архитектуру, вывески, ландшафт), приближать, обрезать фото (даже нечеткие) и использовать веб-поиск для сопоставления визуальных подсказок с реальными местами. В общем, все то, на что у нас обычно не хватает времени и внимания.
⚡️ Как безобидное селфи превращается в точку на карте?
Элементарно: пользователи сами загружают фото (меню из кафе, случайные уличные снимки, фасады зданий, селфи на фоне чего-угодно) и просят ИИ угадать место. И тот, надо сказать, неплохо справляется, успешно определяя города, достопримечательности и даже конкретные заведения — порой по самым неочевидным деталям.
⚡️ Кому первому прилетит «привет» от ИИ-геолокатора?
Это, разумеется, немедленно вызывает зуд у параноиков (и не только) по поводу конфиденциальности и потенциального использования для доксинга. Старый мем «я тебя вычислю по айпи» обретает новое, гораздо более реальное и тревожное воплощение.
Если раньше это требовало смекалки и доступа к специфическим данным, то теперь инструмент, способный по деталям интерьера или виду из окна определить примерное (а иногда и точное) местоположение, становится общедоступным развлечением.
Особенно «приятные» перспективы это открывает для тех, кто пытается сохранять анонимность локации, публикуя контент (блогеры, стримеры, вебкам-модели). У их не всегда адекватных поклонников, сталкеров или просто недоброжелателей появляется мощный и удобный инструмент для деанонимизации. Прощай, приватность, здравствуй, физическая уязвимость.
А теперь масштабируем: представьте анализ не одной случайной фотографии, а всего вашего фотоархива за годы. С построением тепловой карты часто посещаемых локаций, с оценкой времени и продолжительности пребывания, восстановлением полной истории передвижений, анализом паттернов поведения и социальных связей... Звучит как сценарий для антиутопии? Нет, просто как логичное развитие событий.
🎯 Парадокс эпохи ИИ: создавая визуальную летопись своей жизни в сети, мы невольно пишем подробнейший сценарий для собственной деанонимизации. Технологии «зрения» оказались дальновиднее нас, превратив наши же воспоминания в улики.
P.S.: Кажется, мой давний прогноз о том, что кража цифрового двойника будет иметь последствия серьезнее кражи паспорта становится еще на шаг реальнее. Приятного осознания 😉
@yusufovruslan
Новые модели от OpenAI (GPT 4.1, 4.1 mini и 4.1 nano) в дополнение к существующим (4o, 4o (2024-11-20), o1, o1-preview, o1-preview (2024-09-12), o1-mini, o1-pro, o3-mini, o3-mini-high, 4.5) — это целый зоопарк моделей с запутанной нумерацией и неясными отличиями, которые провоцируют вечное «платное тестирование».
Пока мы судорожно гоняем тесты, пытаясь понять, какая же версия лучше сейчас (активно сжигая токены на API-вызовах и, что еще важнее, невольно создавая OpenAI тонны бесплатной нативной рекламы своими постами о результатах тестов), OpenAI собирает по рублю с пяти старушек.
Каждый новый «неожиданный» релиз вроде 4.1 (почему именно 4.1? почему она лучше, чем 4.5? почему ее гоняли под таинственными названиями Quasar и Optimus?) лишь подливает масла в огонь, заставляя нас снова тратиться и говорить о них — идеальный маркетинговый цикл: Rinse, repeat.
Учитесь наводить туману!
P.S.: OpenAI анонсировали создание социальной сети 😂
@yusufovruslan