2300
Руслан Юсуфов о будущем и настоящем
Все верно, смотрите, пожалуйста, «Правила жизни» на канале Культура сегодня в 20:05!
Вновь вернемся к теме карго-культов. Мы с недоумением и порой с умилением смотрим на туземцев-самолетопоклонников, а вдруг мы и сами уже живем в карго-культе, просто изнутри не понимаем этого?
@yusufovruslan
Есть у меня одно наблюдение, но вот систематизировать не получается, поясните, если вдруг знаете суть феномена. Известных людей (кумиров, злодеев, ролевые модели) называют по-разному в публичном пространстве (от СМИ до блогов и чатов): кого по имени, кого по имени и фамилии, кого только по фамилии, а у кого-то даже есть клички.
Певцов, актеров, спортсменов часто называют полным именем: Джастин Бибер, Бритни Спирс, Иван Ургант. В светской тусовке могут сказать «Ваня Ургант», чтобы остальным присутствующим плебеям сразу было понятно, что вот у человека явно есть личный контакт. Очень редко могут сказать просто «Ваня», но это только если богема узким кругом собралась, где все в состоянии с первого тычка понять, что это The Ваня, тот самый. Исключения — творческий псевдоним или кличка (Мадонна, Оззи, Железный Арни).
Пример: «Я раньше много слушал Бритни Спирс, а потом мне стал больше нравиться Нил Янг». Вот никто же не скажет «я слушал Спирс, но потом стал Янга», как и «я слушал Бритни, а потом стал Нила».
Пример: «Байден подписал указ об очередном повышении тарифов на импорт из Китая, а потом упал с лестницы».
Пример: «Илья решил покинуть OpenAI, и Сэм сказал, что ему очень жалко». Или еще: «Видели новую статью Виталика по теме децентрализации?».
Пример: «Цукерберг опять клялся, что не будет использовать данные пользователей, но в этот раз ему никто не поверил».
В то время как американские компании шокируют мир своими вау-моделями искусственного интеллекта, крупнейший российский телеком-оператор (у которого «ИИ» тоже торчит из каждой коммуникации) предложил мне следующие опции защиты от спам-смс:
1. Отключить смс вообще.
— Доктор, у меня болит рука.
— Предлагаю вам ее отключить, это бесплатно!
2. Включить «черный список» за 1,5 руб/день, куда мне предлагается самостоятельно заносить номера для блокировки.
— Доктор, у меня болит рука.
— Предлагаю вам ее полечить самому, проходите в кассу.
Все, опций больше нет!
Это не запуск космического корабля на Марс. Не сообщения в мессенджерах. Не голосовые сообщения или звонки. Не анализ дипфейк-видео. Не поведенческий анализ продвинутых атак социальной инженерии. Не защита моего нейроимпланта от внедрения спамеров в мои сны! Это СМС!
Если операторы не могут решить проблему, которая существует последние 20 лет в периметре своего же сотового трафика, о каких инновациях и технологическом лидерстве мы можем говорить? Филькина срамота грамота!
@yusufovruslan
2️⃣ Часть 2/2.
РИСКИ ДЛЯ БИЗНЕСА
— Отсутствие четкой правовой и этической основы может привести к проблемам с регулированием и потенциальным юридическим проблемам в будущем (сегодня развиваемся, а завтра наш алгоритм запрещается законом).
— Угроза традиционным бизнес-моделям и устоявшимся игрокам со стороны маленьких, но бодрых стартапов, которые умеют писать промпты.
РИСКИ ДЛЯ ПОЛЬЗОВАТЕЛЕЙ И ОБЩЕСТВА
— Эмоциональное манипулирование. Кастомизированный коучинг может привести к манипулированию людьми, особенно уязвимыми или эмоционально нестабильными. В случае с внедрением совсем оторванных от реальности псевдонаук — снижение уровня критического мышления общества.
— Нездоровые отношения и социальная изоляция. Чрезмерная зависимость от ИИ-консьержей вместо личного общения может усугубить социальную изоляцию, что потенциально может привести к снижению социальных навыков и увеличению проблем с психическим здоровьем. Мы окончательно разучимся знакомиться на улице и приглашать на свидания.
— Нереалистичные ожидания. Поиск партнеров с помощью ИИ может создать нереалистичные ожидания от отношений, что приведет к разочарованиям, если взаимодействие в реальной жизни не соответствует идеализированным стандартам, установленным ИИ-консьержами. Потому что за меня отвечает идеальный чат-бот, а в жизни я —— все тот же неидеальный человек.
— Эксплуатация данных платформами. Сбор и анализ пользовательских данных с помощью ИИ-консьержей может использоваться для продажи пользовательских данных сторонним рекламодателям. Может и будет.
— Коммодитизация отношений. Вариантов будет миллион, но все — стандартизированное. В перспективе это может повлиять на социальные практики, включая управление сообществами и субкультурами, корректировку норм поведения, управление ожиданиями. Похожие процессы мы сегодня наблюдаем с «ИИ-искусством»: новых стилей нет, есть только подражание существующим. Мария в комментариях совершенно справедливо поднимала вопрос про «усредненный» юмор — усредненным будет все, мы попадем в петлю обратной связи и общечеловеческую эхо-камеру, в которой нестандартное будет вымываться из социальных практик, но это гораздо более широкая тема AI alignment..
ВОЗМОЖНОСТИ ДЛЯ КИБЕРПРЕСТУПНИКОВ
— Преступники могут использовать ИИ-консьержей для получения доступа к конфиденциальной информации о пользователях (местоположение, интересы, ожидания, социальные связи и пр.). Кража пользовательских данных может использоваться для выявления уязвимых лиц. Преступники могут использовать ИИ-консьержей для сбора информации о потенциальных жертвах, создавая целенаправленные и убедительные атаки социальной инженерии, включая шантаж и вымогательство.
— Кража личности и кэтфишинг. ИИ-консьержи могут использоваться для создания убедительных фальшивых профилей, что облегчит преступникам кражу личных данных и манипулирование жертвами.
Есть такой особый жанр социальных атак как «romance scam» — когда «девочка» знакомиться с мальчиком, но для встречи надо оплатить билеты в кино по поддельной ссылке; или когда известный человек знакомится с романтически настроенной дамой, но его преследуют враги, и нужно до вечера перевести $50 тысяч, иначе... Вот это все будет происходить автоматизировано, с использованием дипфейков, атаками на ИИ-модели и пр. В некоторых случаях человек вообще не узнает, что стал жертвой: он будет знакомиться, общаться, встречаться и расставаться с виртуальным другом/подругой, с которыми познакомился благодаря ИИ-консьержу — весь цикл отношений сместится в сторону виртуализации, а за аватаром может вообще и не быть человека.
@yusufovruslan
Тут «Известия» сообщают, что компания Microsoft открыла доступ к обновлениям Windows и Office без использования VPN, а также не заблокировала доступ к облачным продуктам для России, хотя в марте обещала. По мнению экспертов, Microsoft не хочет терять рынок, который активно импортозамещается.
Ваш любимый футуролог вот что думает: громко хлопнув дверью, некоторые западные компании выстрелили в ногу не только себе, но еще и нескольким соседям.
1. Про свою ногу. По историческим меркам у нас тут 90-е, знаете ли, были относительно недавно, и темы «справедливости» и даже «понятий» накрепко вписаны в обычаи делового оборота. Если ведешь себя «не по-пацански», руки потом не подадут, у нас даже каждое десятилетие на эту тему выходит специальный обучающий сериал: тогда — «Бригада», сейчас — «Слово пацана».
Ну вот не могу я представить себе безопасника, который бы без физического принуждения поставил себе в компанию железки Cisco, потому что Cisco кинула лично каждого безопасника в России. Легенда о кидке Cisco будет передаваться из поколения в поколение, и седовласый безопасник будет рассказывать внукам, как он из мха и веток обеспечивал безопасность предприятия в начале 20-х, когда отечественных решений еще не было, а Cisco — уже не было.
2. Про ногу соседа. Отсутствие продуктов в России означает меньше информации о России, а компания внезапно вспомнила, что у нее есть, скажем так, особые заказчики. Особые заказчики в лице одного ведомства запрещают работать с Россией, а в лице другого — требуют заниматься разведкой на благо демократии.
Ну вот BBC, например, закрывает доступ для россиян по IP-адресу. Зачем? Для медиа-корпорации это логично: зачем тратить ценные ресурсы на аудиторию, которую нельзя монетизировать? Для инструмента пропаганды это контрпродуктивно: BBC могла бы качать на российскую аудиторию специальные нарративы. Но ума не хватает, а может просто деятельность непрофильная. А потом через пару лет приходит джентльмен в погонах и говорит: You bloody bastards, we need more data!
@yusufovruslan
После продолжительных выходных предлагаю зарядку для мозга: на примере расскажу, как прогнозы про деньги прогнозировать.
С марта по май 2024 года произошли кибератаки на крупнейшие в США медицинские фирмы: Change Healthcare (ключевой игрок, без которого платежи по страховке не получить) и Ascension (140 больниц). Атаки привели к серьезным проблемам с доставкой лекарств и оплатой услуг. Change Healthcare — так вообще заплатила выкуп в $22 млн, но ее потом снова взломали уже другие хакеры.
Сейчас приведу пример, как доставать интересные выводы из открытых данных. Такое надо регулярно делать 1) крупным компаниям про индустрию 2) инвесторам и инноваторам 3) политикам. Полный отчет не влезет в пост, так что по верхам.
Анализ 180 комментариев, касающихся атаки на Ascension в газете Washington Post, позволяет сделать выводы об отсутствии доверия к отрасли здравоохранения, критике приоритетов отрасли и отдельных корпораций, разочаровании переходом на цифровые записи, отсутствии ответственности для организаций, а также о призыве к усилению мер кибербезопасности.
Ярко выделяются 5 тем:
1. Отсутствие прозрачности и коммуникации. Из корпоративного офиса Ascension поступает примерно ноль информации относительно кибератаки и ее влияния на уход за пациентами.
2. Критика менеджмента и приоритетов. Неоднократно выражалось мнение, что прибыль ценится выше ухода за пациентами. В качестве примеров приводились увлечение инвестициями (в 2021 году эта КАТОЛИЧЕСКАЯ сеть больниц инвестировала больше $1 млрд в ценные бумаги), высокие зарплаты руководителей и недостаточное инвестирование в ИТ (сокращение бюджетов на безопасность на 20-30%, массовые увольнения, аутсорсинг поддержки в Индию).
3. Обеспокоенность по поводу ухода за пациентами и их безопасности. Приводились примеры задержки оказания медицинской помощи, включая экстренные ситуации, описывался личный опыт невозможности доступа к данным пациентов, задвоения записей.
4. Инсайдеры утверждают, что ИТ-инфраструктура неадекватна и уязвима для атак. Обсуждалась необходимость внедрения резервного копирования, многофакторной аутентификации, и даже zero-trust подходов.
5. Вопросы отрасли и политики здравоохранения, включая роль прямых инвестиций в здравоохранении, необходимость более строгого регулирования и надзора, а также важность приоритета ухода за пациентами над прибылью. Яркий пример: флоридская клиника Advent Health требует от пациента доступа ко всем имеющимся медицинским записям в качестве условия лечения.
А теперь предлагаю подумать над ВОЗМОЖНЫМИ ПОСЛЕДСТВИЯМИ:
1. Политики в США будут поднимать на флаг тему кибербезопасности и реформы системы здравоохранения. Самый очевидный вектор: более строгие законы и правила для защиты данных пациентов. Популизм будет поддерживаться крупными конкурентами через лоббистов.
2. Это действительно может привести к ужесточению регуляторики, а на фоне торговых войн с Китаем первыми пострадают организации с иностранных участием. В худшем случае может начаться передел отрасли под прикрытием охоты на ведьм.
3. Дискуссия о роли электронных записей (необходимое зло или корень всего зла) может привести к новому витку технофобии. Возможно появление «нецифровых» клиник, а стоимость продвижения ИИ в здравоохранении может вырасти.
4. Открывается давно назревающий рынок для пиарщиков, которые умеют делать коммуникацию для непрофильных организаций на темы ИТ- и кибербезопасности (через год-два — и в России).
5. Отдельный крайне интересный сюжет: аутсорсинг «плохим» иностранным компаниям вместо «хороших» американских. При должном раскачивании эта тема залетает всей республиканской братии и позволяет закручивать гайки, продвигать протекционизм и т.д.
Напоминаю, мы рассмотрели всего 2 события, касающихся хотя и крупных организаций, но в то же время 1) не российских, а американских 2) не из вашей индустрии 3) не по вашему профилю.
Мне недавно одна студентка MBA задала вопрос, мол, зачем вы нам иностранные примеры приводите, хочется прям вот с полки взять и применять. Ну так вот зачем.
@yusufovruslan
В конце прошлой недели коллеги умудрились утрамбовать мне в 2 дня целый день лекций и практики в бизнес-школе, отправку в Пермь на мероприятие Альянса по защите детей в цифровой среде и доставку обратно в Москву одним днем.
Выспался ли я после этого забега? Нет! Потому что я, дорогие мои, все выходные тестировал новые большие языковые модели llama3 — в версиях 8b (запустится даже на вашем ноутбуке) и 70b (работает со скоростью факса даже на нашем сервере с довольно продвинутой видеокартой Nvidia A100).
И что я могу вам сказать:
1. Это крышеснос: в открытом доступе есть модели, которые оставили позади не только известный всем ChatGPT, но и менее известные широкой аудитории (топовые еще на прошлой неделе Command-r, Mistral, Opus и Qwen).
И это доступно каждому, все упирается только в деньги, которые вы готовы потратить на вычисления.
2. Я уже видел рекламу «расклады таро от GPT». Нас ждет новый виток продуктов, удовлетворяющих магическое мышление каждого желающего.
Это касается и «магов», и представителей «научных» профессий: ждите генерацию «сигналов» для торговцев криптой, расклады астрологов и тарологов, советы психологов и нутрициологов, инсайты мотиваторов и знатоков ресурсных состояний, упакованных как в отдельные приложения, каналы и ботов, так и в виде человеческого интерфейса, который начитывает все сгенерированное за мелкий прайс. И, разумеется, курсы по промптингу и «запуску продуктов на базе ИИ» от всех ведущих инфоцыган инфобизнесменов.
3. Сами инфоцыгане инфобизнесмены станут казаться значительно умнее в части глубины материала по теме, так и по охвату тем: раскрученные люди-бренды смогут покрывать обучение и кураторство во всех темах сразу, причем не вовлекаясь ни в одну.
Для многих людей единственным наставником сразу во всех вопросах станет любимый селеб или вчерашний продавец успешного успеха. Они будут конкурировать между собой не в темах (можно покрыть их все), а в монопольном доступе к человеческому времени. А это значит только одно — секты.
4. Все галлюцинации ИИ будут плодиться и умножаться человеком без дополнительной проверки. Любая похожая на правду мысль будет тиражироваться и отдаваться другим людям, желающим принимать быстрые решения на конвейере.
Без адекватного риск-менеджмента, который основан на алгоритмическом фактчекинге и развитом критическом мышлении, мы станем свидетелями неудач целых корпораций, которые примут неверные решения, находясь в коллективной субъективной реальности.
Отличной вам недели, создавайте будущее своими руками и берегите кукуху! 😉
@yusufovruslan
Предварительный анонс, в котором раскрываются интимные подробности того, что не покажут по телевизору 😂
@yusufovruslan
Завтра на ВДНХ в павильоне №19 «Атом» с 11:30 до 16:30 состоится тематический образовательный день «Захват будущего: сила научной фантастики».
Регистрация тут: https://russia.znanierussia.ru/slot/zahvat-budushego-sila-nauchnoj-fantastiki-79986/
Ваш покорный слуга будет спикером в секции «Будущее глазами фантастов» где-то в промежутке с 13:15 по 14:30.
В качестве примеров я приведу 5 (из 420+ находящихся у нас в работе) сценариев будущего и познакомлю с нашей рамкой сценарного планирования. Краткое содержание моего краткого выступления:
— Машина из человечества
— Массовая технофобия
— Техношаманизм
— Смысловая раздробленность
— Новый мировой порядок
До скорой встречи!
@yusufovruslan
Как получить глобальное пресс-освещение, если темы с биткоинами и NFT-кроссовками уже не дают желаемого результата? Можно предсказать гибель человечества от искусственного интеллекта с вероятностью в 99,999999%.
Почему не 97,63%? Почему не 98,4596%? Неизвестно! Но главное, что шансы на спасение есть, пусть и 0,000001%.
Накидайте что ли идей по предсказаниям, а то вон Роман Ямпольский (при всем уважении) — в СМИ, а Руслан Юсуфов — стесняется пургу пороть 😂
@yusufovruslan
Предлагаю вам вот такое интеллектуальное упражнение на выходные.
Сегодняшние технологические визионеры говорят нам, что с приходом искусственного интеллекта все будет «намного лучше» — но тоже самое говорили визионеры, стоящие у истоков социальных сетей. Вот только объединили ли нас социальные сети, или разъединили и фрагментировали?
Процитирую высказывания нескольких лидеров:
— «У ИИ есть потенциал сделать жизнь намного-намного лучше», — сооснователь фонда Andreessen Horowitz.
— «Не хочу звучать как утопический технарь, но увеличение уровня жизни, которое может привнести ИИ — экстраординарно», — Сэм Альтман, CEO OpenAI.
— «ИИ — самая всеобъемлющая технология, над которой работает человечество, более всеобъемлющая, чем огонь или электричество», — Сундар Пичаи, CEO Google.
— «У ИИ есть потенциал в помощи ученым в лечении и предотвращении всех болезней уже в этом веке», — Марк Цукерберг, CEO Meta (запрещена в России).
Даже если поверить на слово людям, у которых есть явный коммерческий интерес в продвижении технологий, а также людям, которые уже злоупотребляли нашим доверием, продавая данные пользователей для политических кампаний (да, Марк Цукерберг?), или обманом собирающих данные пользователей в режиме «инкогнито», хотя обещали никаких данных не собирать (да, Сундар Пичаи?), и не сомневаться в потенциале искусственного интеллекта в решении глобальных проблем человечества, почему предлагаемые решения не решают эти проблемы, а порождают новые?
— «Произойдет повсеместное замещение на рынке труда», — Сатья Наделла, CEO Microsoft.
— «Вы можете сделать ту же самую работу силами меньшего количества людей, это просто природа продуктивности», — Арвинд Кришна, CEO IBM.
— «Это по сути — инструменты, замещающие человека», — Мустафа Сулейман, CEO Microsoft AI.
Почему разработки техногигантов направлены на замену человека (порождая новые социальные кризисы), если можно выбрать своим фокусом что-то уже явно насущное — например, образование, бедность или климат?
Почему происходит разработка, скажем, «систем синтеза речи», о которых никто не просил, но подрывной потенциал которых настолько огромен, что всем придется приспосабливаться?
А что, если замена человека — это и есть цель внедрения ИИ, а вовсе не косвенный ущерб?
Действительно, а почему бы не претендовать на самый большой глобальный рынок — рынок заработных плат всех людей?
@yusufovruslan
Завтра на форуме Youth RIGF 2024 модерирую дискуссию «Интернет тел».
Превратимся ли мы в киборгов? Можно ли будет взломать человека? Грядет ли противостояние «трансгуманистов» и «пуристов»? Сольется ли человек с ИИ, породив биотехнологический организм? Все это я изо всех сил постараюсь утрамбовать в полтора часа с 11:30 до 13:00. До встречи в «Кибердоме»!
Регистрация тут: https://youth.rigf.ru/
Слушать, думать и задавать вопросы приходите сами, берите своих младших и старших, а потом будем вместе пить кофе и фоткаться! 😉
@yusufovruslan
По данным на 2022 год, собственный профиль в социальных сетях имеет 62% детей и подростков в возрасте от 3 до 17 лет, из них 33% — в возрасте 5-7 лет. Цифровые аборигены гораздо более активны своих родителей в использовании гаджетов, и глубина их цифрового взаимодействия выше.
Цифровой след современных детей формируется с рождения, а иногда даже до момента рождения — это относится, например, к фотографиям УЗИ при беременности и особенностям развития эмбриона. Покупка датасетов, легальная или на черном рынке, и дальнейшее их сопоставление позволит компаниям (и не только) отслеживать и анализировать весь жизненный путь потенциального «клиента».
Работодатели начнут покупать все более расширенные досье на кандидатов, которые будут анализироваться в автоматическом режиме. Проступки и неудачи фиксируются с раннего детства, видео-шалости, попавшие в социальные сети, резкие высказывания юности — все это становится основанием для принятия решений, а зачастую и препятствием для трудоустройства или получения образования. Страховые компании начнут использовать данные из детства для оценки рисков и установления «персональных» тарифов, а социальный скоринг с учетом детских данных будет использоваться при определении ставки на ипотеку, доступ к жилью или даже услугам.
Людям из неблагополучных семей будет еще сложнее получить доступ и к финансам, и к социальным лифтам — потому что они с детства связаны с «дурной компанией». Данные о развитии в раннем возрасте будут применяться повсеместно для установления социальных связей — в алгоритмах социальных сетей и знакомств, в предложении бизнес-возможностей, усугубляя сегрегацию и социальное расслоение. Неблагоприятное прошлое уже не стереть, не забыть, любой проступок оставит след на всю оставшуюся жизнь, определяя жизненные возможности и траектории и навсегда закрывая некоторые двери.
Продвинутые модели искусственного интеллекта научатся надежно предсказывать вероятность преступности и антиобщественного поведения на основе данных детского развития, а это грозит особо пристальным профилированием для людей «в зоне риска» и даже открывает возможности для превентивного наказания. Взрослые, чья жизнь записывалась с самого рождения, будут более уязвимы к атакам мошенников и социальной инженерии, а также к идеологическому воздействию. Детские травмы и уязвимости будут использоваться политическими кампаниями и рекламодателями, негативная реклама не только гиперкастомизируется, но и станет очень личной и будет бить в самое больное место. Видел смерть любимого щенка под колесами автомобиля в пятилетнем возрасте? Эта травма будет использоваться всеми, кто об этом узнает.
@yusufovruslan
Совершенно феерично! И очень похоже на начало антиутопического фильма — знаете, такого, где полицейские в футуристической броне подходят к грязному исхудавшему типу и металлическим голосом ему говорят: «проходите, гражданин», а потом тычут электродубинкой в ребра. Такой, знаете, вайб Half-Life или Судьи Дредда.
Так вот, прогрессивный город Сан Хосе в штате Калифорния (это там, где Кремниевая Долина и стартаперы вскладчину снимают халупу размером с гараж за $10 тыс в месяц) внедряет ИИ для поиска «поселений бездомных».
Дело в том, что бедные бездомные там живут в палатках, а вот бездомные среднего класса уже могут позволить себе, например, автотрейлер.
ИИ можно было применять для чего угодно еще (например, для оптимизации работы ночлежек или пунктов питания, анализа данных по эффективности программ профилактики наркомании и т.п.), но не в данном случае — система будет определять, прикрыты ли окна в трейлере изнутри полотенцами, есть ли мусор снаружи и т.п.
«Целью пилота не является непосредственная помощь людям. 🤡 Мы соберем данные и поймем, что имеет смысл сделать», — сообщает директор по информационным технологиям Сан Хосе. Вот же ведь святая простота.
Я напомню, что в Калифорнии в районе Скид-Роу города Лос-Анджелес с 1976 года существует «зона сдерживания», в этом гетто сейчас проживают тысячи бездомных. Несколько поколений людей там родились, выросли и сами родили детей. На ютубе несколько крутых документалок про этот район, посмотрите, не пожалеете.
@yusufovruslan
1. По данным опроса 3 тысяч американских менеджеров, каждый второй собирается заменить работников искусственным интеллектом, причем 45% менеджеров видят в этом возможности для сокращения зарплат.
Значит ли это, что можно ожидать тезиса «в отличие от конкурентов-злодеев мы хотим сохранить штат, но нам придется срезать зарплаты»?
Вполне вероятно, но при этом…
2. За этим исследованием стоит компания, которая продает сервис для создания презентаций с помощью ИИ.
Это значит, что у них есть интерес в продвижении нарратива «менеджеры по всему миру собираются замещать людей искусственным интеллектом», а также в продвижении своего бренда за счет недорогого шок-пиара. В долгосрочной перспективе они также заинтересованы в зависимости корпораций от своих услуг (это называется «vendor lock-in»).
В пресс-релизе компании этот тезис торчит прямым текстом: «It’s not a matter of if they should adopt the technology in the workplace, but when». Это идет вразрез с нормами социологических исследований и научной этики.
При этом то, что такие нарративы продвигаются подобными акторами — само по себе важный сигнал и тренд.
В огромном количестве шелухи, всех этих супер-новостей, искажений и манипуляций становится критически важно уметь зачеркивать все неподходящее, разглядывать суть и прогнозировать цепочки возможных последствий.
@yusufovruslan
Вот пример: Илья покидает OpenAI. И черно-белая фотография Ильи Сэма в свитере.
Мне тут основательница стартапа сказала, что увидела в своем продукте, как сильно человек подсаживается на искусственный интеллект, когда сама пошла решать свои личные вопросы через этот самый продукт. И добавила: «все, как ты пророчишь».
Ну лестно, конечно, но вот хочется верить, что у человека и человечества (пока еще) есть свобода воли, и я ничего не пророчу. Во всех своих активностях — от корпоративных мероприятий до коротких публикаций (и особенно концентрированно в моей многострадальной неизданной книге 😉 передаю традиционный привет дражайшему издателю) я описываю лишь вероятности.
А цель моя — исключительно в развитии критического мышления, навыка задавания вопросов и взрослении — каждого из моих собеседников, читателей, слушателей, критиков, да и меня самого. И каждый мой прогноз или сценарий — это всего лишь инструментарий для мыслительных упражнений.
Каждый из нас — не просто кузнец своего счастья, мы все — одна большая кузница. Вы же помните, что сталкер сказал про счастье в конце «Пикника на обочине»?
Кстати, в названии нашей компании (MINDSMITH) вторая часть — как раз про эту самую кузницу. Что именно сбудется — сбудется не через через пророчество, а через наши с вами ежедневные решения. И если у меня получается провоцировать вас на 5 минут размышлений — это делает меня счастливее, а нам всем — дает больше желанных вероятностей.
@yusufovruslan
Ну вот и прошла презентация OpenAI, и во всех профильных чатах пошла жара на тему новой модели GPT-4o, ее невероятных возможностей, мгновенной смерти всех стартапов и появления миллионов новых бизнес-моделей, прихода киберпанка в нашу жизнь, и….
ВНЕЗАПНО 😳 исследователи впервые в мире выявили десятки случаев заражения людей КРЫСИНЫМ ГЕПАТИТОМ, передает El Pais 🫣
ВОЗ еще пытается хайповать за внимание, но проигрывает горячей теме искусственного интеллекта, потому что даже с КРЫСИНЫМ ГЕПАТИТОМ новая модель побеждает по всех бенчмарках, особенно в части способности к сложным рассуждениям, и у нее контекстное окно в 128К… 😂
@yusufovruslan
Что-то я сегодня пишу необычно много (а может это вообще не я пишу), но раз огонечки были поставлены (спасибо вам за них ❤️), написанному — быть опубликованным.
1️⃣ Опять не вмещается, поэтому часть 1/2.
Да, пожалуй, интеграция ИИ в индустрию знакомств может революционизировать способы взаимодействия людей и принципы формирования отношений, но очень разнонаправленно.
ВОЗМОЖНОСТИ ДЛЯ БИЗНЕСА
— Новые потоки выручки за счет премиальных функций или услуг на основе подписки.
— Новая выручка за счет продажи данных рекламодателям.
— Новые данные для повышения вовлеченности и удовлетворенности пользователей, более приятный и эффективный пользовательский опыт.
— Новые данные для улучшения алгоритмов платформ, а значит и удовлетворенности пользователей.
— Бесконечная интеграция научных и псевдонаучных методик на любой вкус (подбор на основе звезд, карт таро, ауры стержня жизни).
ВОЗМОЖНОСТИ ДЛЯ ПОЛЬЗОВАТЕЛЕЙ
— Более эффективный подбор. ИИ-консьержи смогут более эффективно сканировать потенциальные совпадения, сокращая время и усилия, необходимые пользователям для поиска совместимых партнеров, и потенциально приводя к более успешным отношениям.
— Кастомизированный коучинг. ИИ сможет давать людям индивидуальные советы о более эффективном общении с потенциальными партнерами, повышая шансы на успешные отношения, а также оказывать эмоциональную поддержку («не расстраивайся, дело не в тебе, а в нем / в ней»). Именно здесь монетизируется вся псевдонаука из первого пункта про возможности для бизнеса (купи премиальный сеанс с ИИ-тарологом, чтобы раскрыть третью чакру).
— Повышение уровня безопасности. ИИ-консьержи смогут выявлять и предотвращать потенциальные риски безопасности при онлайн-знакомствах, такие как преследования или оскорбления. «Наш ИИ не пропускает дегенератов с дикпиками» может стать ключевым ценностным предложением.
— Социальная инклюзивность. ИИ-консьержи могут облегчить связи между людьми, которым сложно найти подходящих партнеров из-за социальной тревожности, инвалидности или других факторов, способствуя социальной интеграции. Кажется, самый социально важный функционал, но сложнее всего коммерциализируемый.
@yusufovruslan
Сегодня в 20:00 по московскому времени состоится презентация OpenAI по их новому продукту. По слухам, это будет мультимодальная система в формате голосового ассистента, способного распознавать не только объекты и изображения, но и эмоции человека. Слухи пускает, разумеется, сама OpenAI через своих таинственных «инсайдеров». Сразу зафиксируем стоимость акций очевидных причастных (на закрытии торгов 10 мая) и сравним после презентации: Microsoft $414.74, Alphabet $170.29, NVIDIA $898.78, TSMC $149.26.
Реализация фильма «Она» 2013 года с Хоакином Фениксом и Скарлетт Йоханссон в главных ролях все ближе: по данным недавнего исследования из Саудовской Аравии (180 выпускников бакалавриата и докторантуры факультета психологии) искусственный интеллект уже показывает лучшие результаты в понимании эмоций и социального поведения, чем психологи. Заметьте, не просто люди, а люди, профессионально обученные именно этому. Хотя развитие ИИ в этой области происходит очень быстро, OpenAI опережает своих конкурентов: ChatGPT-4 превзошел 100% всех психологов, а Bing — 50% докторов наук и 90% психологов со степенью бакалавра.
Мы стремительно входим в эпоху «всего ИИ», которая может показаться странной и даже антиутопичной для жителей 2024 года, но вполне себе комфортной для жителей, скажем, 2034-го. Например, сервис для знакомств Bumble собирется передать ИИ процесс подбора партнера — причем не на уровне сопоставления анкет (это и так делается уже лет 20), ИИ-ассистент буквально поговорит с несколькими сотнями подходящих кандидатов и предложит, с кем вам стоит встретиться.
Ставьте огонек 🔥, если хотите разбор плюсов и минусов такого подхода. Если уже поставили, подумайте сами, выпишите на бумажку (или в комментарии) 3 пункта, а потом сравним — разбор я все равно сделаю.
😵💫 Ставь огонечек 😵💫
@yusufovruslan
С Первомаем, трудящиеся!
Майские провожу в финальной (надеюсь) редактуре черновика моей книги о нашем с вами будущем. Пользуясь случаем, передаю привет моему издателю с благодарностями за веру и терпение ❤️
Так вот, очень хочу сделать книгу не только полезной, но и максимально доступной.
Вот скажите, вы лично бы купили дорогой экземпляр книги из ограниченного номерного тиража со скромным автографом автора перьевой ручкой, если бы это позволило отправить несколько книг с каждой такой продажи в библиотеку в регион по вашему выбору?
Голосуйте ниже, пожалуйста, и возвращайтесь к отдыху!
@yusufovruslan
Уважаемые Яндекс.Такси и Федеральная антимонопольная служба, вопрос от Руслана из Москвы: могу ли я использовать другие способы определения стоимости вызова такси, кроме генератора псевдослучайных чисел?
@yusufovruslan
Саша Нефедова пригласила меня в свой замечательный подкаст «Другие игры» ❤️ Поговорили о воспитании киберграмотного ребенка, способного критически оценивать информацию в сети.
Надеюсь, вам понравится и будет полезно! Слушайте на всех возможных платформах: https://anothergames.mave.digital/ep-6
@yusufovruslan
Сегодня на Банковском форуме РБК обсуждали будущее банков и финтеха, и мне очень понравился вопрос, по одной ли дорожке банки идут. Вот я очень надеюсь, что нет, и дорожки разные.
В конце одной дорожки человек превращается в шахту по добыче данных. Но некоторые выбирают другой путь (а он более сложный и менее понятный), и это отрадно.
Один банк даже напрягся и подумал, что я говорю про него. А я ведь никого не называл. Может про него, а может не про него, но если шапка горит, то нет дыма без огня, и сколько волка ни корми, кобыле может и легче, но кому-то неизбежно достанутся не вершки, а корешки.
Вся панель тут: https://vk.com/video-25232578_456319896
Спасибо принявшим участие экспертам за просто огненную дискуссию, а РБК и прекраснейшей Элине Тихоновой в роли модератора — за приглашение и возможность говорить прямо.
@yusufovruslan
Примечательно, что искусственный интеллект начинает подтачивать уже сформировавшиеся виртуальные форматы взаимодействия, так что если вы все еще твердо стоите на позиции «человеку нужна физическая коммуникация с другим человеком», то вы вот-вот устареете во второй раз. Поясню на примере. Я буду подробен, но при этом сдержан, потому что этот чат читает моя мама. Мамочка, я тебе рад, но не заставляю 🥴
Итак. OnlyFans — сервис, позволяющий создателям контента зарабатывать на пользователях, которые подписываются на их контент. Несмотря на то, что среди создателей контента есть и психологи, и фитнес-тренеры, и музыканты, в первую очередь, эта платформа ассоциируется, конечно же, с индустрией развлечений для взрослых. К маю 2023 года в OnlyFans было зарегистрировано 3 млн создателей контента и более 220 млн пользователей.
Для многих создателей контента создание постоянной виртуальной связи с пользователями позволяет продавать «эксклюзивный» контент, составляющий до 50% их выручки. Такая работа зачастую аутсорсится «чаттерам» — низкооплачиваемым сотрудникам из развивающихся стран, например, из Филиппин, Нигерии, Индии и Пакистана, работающим по 12 часов в течение шестидневной смены за $3 в час. И нет, я не буду сейчас петь песню про неоколониализм.
А спою я про то, что теперь в чат буквально заходят ИИ-разработчики: «Мы увидели возможность: что, если бы у нас была организация, которая точно знала бы, как продавать, как именно общаться с кем-то, и могла бы идеально имитировать создателя контента», — делится своими блестящими бизнес-идеями основатель ChatPersona, чат-бота для OnlyFans с искусственным интеллектом. ChatPersona и другой аналогичный продукт — FlirtFlow — испытывают огромный спрос, а некоторые агентства покупают «вип-тариф», позволяющий вести 10 тыс чатов одновременно. 🙈
Что мы имеем в сухом остатке? Пользователь, желающий за деньги виртуально общаться через экран c вебкам-моделью, вместо общения с анонимным «чаттером» из Нигерии теперь получит ИИ-агента, способного мимикрировать под стиль создателя контента.
🤯
@yusufovruslan
Поговаривают, что онлайн-трансляция про «Интернет тел» будет здесь в 11:00 — через 5 минут начнем!
https://vk.com/video-203475691_456239249
Присоединяетесь все — и трансгуманисты, и технофобы, и сторонники эффективного акселерационизма, и ИИ-думеры, и неолуддиты! ❤️
@yusufovruslan
Между тем в Шотландии вступил в силу закон о криминализации «разжигания ненависти» в отношении возраста, инвалидности, религии, сексуальной ориентации, трансгендерной идентичности и интерсексуальности. Преступление предусматривает максимальное наказание в виде тюремного заключение сроком до семи лет. По мнению шотландского правительства этот закон обеспечивает защиту от ненависти и предрассудков, не подавляя при этом индивидуальное самовыражение.
У вашего любимого футуролога и на этот счет есть отдельный сценарий развития ситуации на стыке индивидуализма и техноцентризма. Присаживайтесь поудобнее и читайте очередную сказку для взрослых, которая называется «Элитаризм меньшинств».
— 2026 год: Количество официально признанных гендеров в некоторых странах перевалило за первую сотню.
После обучения алгоритмов политкорректности случился качественный прорыв в соблюдении прав «меньшинств». Подбор персонала в компаниях происходил с учетом строгих квот разнообразия, а социальные сети отдавали предпочтение воук-нарративам. Когда онлайн-платформы уличались в теневой блокировке постов и аккаунтов, выражающих традиционалистские взгляды, такие эпизоды заметались под ковер как проявления теорий заговора.
Для учета перечня меньшинств, их требований, особенностей и запретных тем, в компаниях приходилось создавать специальные отделы толерантности. Работа таких отделов заключалась в изучении культур меньшинств, формировании корпоративных словарей, организации встреч взаимной интеграции, регулярной адаптации образовательных программ продвижения взаимного принятия.
— 2027 год: Массовое внедрение ИИ в управлении контентом социальных сетей приводит к непропорциональной цензуре.
Тем не менее, соискатели все чаще ощущали на себе проявление «обратной дискриминации»: работодатели регулярно отдавали предпочтение кандидатам из числа меньшинств перед более квалифицированными кандидатами большинства.
После принятия прогрессивными государствами «законов на почве ненависти» критика новых идентичностей была криминализирована — несогласие с любой самоидентификацией грозило штрафом и даже тюремным заключением, а нарушитель получал черную метку «нарушителя толерантности» и оказывался в исправительной системе, которая по сути занималась индоктринацией.
— 2030 год: Политическая система оказалась парализована бесконечными спорами об идентичности.
Технологии распознавания лиц и большие данные начали использоваться для для выявления и публичного осуждения людей за «проступки», связанные с идентичностью, совершенные ими в далеком прошлом. Культура отмены теперь полностью автоматизирована, уничтожая репутацию и карьеру миллионов людей. Люди склонны к максимальной самоцензуре из страха наказания, не осталось ни малейшей возможности высказываться в контексте «меньшинств» в публичном пространстве без риска быть «отмененным».
Насущные проблемы игнорируются, политики опираются на поддержку меньшинств с правом голоса, а не большинства с ограниченной свободой слова. Расширенная реальность позволила продвигать невообразимые ранее нарративы идентичности, маргинализируя традиционные взгляды. Искусственный интеллект стал неотъемлемой частью основных государственных и общественных институтов, и с подачи алгоритмов нормы «позитивной дискриминации» стали необратимой частью социальной инфраструктуры, только усиливая предвзятость и разобщение.
Из-за усугубляющихся с каждым годом разногласий вокруг идентичности, конструктивный диалог между людьми становится все менее возможным, а универсальные ценности уступили ценностям отдельных групп, живущих в своих идеологических пузырях. Все это привело к росту популярности реакционных движений, а общество оказалось глубоко разделено на трайбы множеством взаимно антагонистических фракций идентичности.
Оказалось, что без открытого обсуждения и уважения индивидуальных свобод увлечение политикой идентичности только усугубляет социальные разногласия и нетерпимость.
@yusufovruslan
Вчера впервые выступил в Госдуме с короткой речью, но по важной теме: про детей и киберриски в контексте подростковой преступности.
https://fedpress.ru/news/77/society/3307951
На мой взгляд, нужны совместные усилия в следующих направлениях:
1. Исследований по теме взаимодействия детей с киберпространством недостаточно.
Да что там, некоторые феномены в русском языке не имеют соответствующих названий. Необходимо поддерживать и фундаментальные исследования, и мониторинг.
2. У детей, родителей и государства может значительно различаться понимание специфики рисков. Необходимо повышать эффективность коммуникаций.
Ну правда, мы часто живем в разных мирах, говорим на разных языках, и усилия другой стороны воспринимаются как инопланетные.
3. Необходимы практики, позволяющие родителям быстро узнавать о киберинцидентах. Такие практики есть в семье и школе, но не в киберпространстве.
Если в классе подростки подрались, классный руководитель напишет в чатик или вызовет родителей в школу. А что происходит в онлайне — родители и не знают.
4. Необходимо сокращать задержку между появлением технологии, связанных с ней рисков и адаптацией к ней общества.
Чем меньше такая задержка, тем меньше возможностей злоупотребить незнанием и непониманием.
5. Необходимо появление института омбудсмена в корпорациях, разрабатывающих ИТ- продукты для детей.
Это кто-то, кто ходит по офису и бьет программистов линейкой по рукам, когда они пишут неэтичный код.
@yusufovruslan
Ровно год назад я писал про девочку из Аризоны, чей голос синтезировали при помощи ИИ, чтобы шантажировать родителей.
Сегодняшний пример — из штата Огайо: у отца требовали выкуп в $5000 за «похищенную» дочь. Коллега отца не растерялся и позвонил дочери, чтобы убедиться, что она в школе и в порядке.
Считайте, что виртуальные «похитители» имеют достаточно образцов голоса (из соцсетей), чтобы выдать себя за любого вашего родственника. Кроме выкупа они могут требовать совершить диверсию или иное преступление — родитель в состоянии аффекта пойдет на что угодно.
❕Будьте бдительны, установите в семье кодовое слово, обсудите с детьми этот риск, проведите учения в семье, будьте готовы связаться с родственником по альтернативному каналу связи, никому не верьте и ничего не бойтесь.
@yusufovruslan
Спасибо, что проголосовали! Опрос продолжается, но даже первая сотня ответов наводит на некоторые выводы:
1. Во-первых, мы очень разные, и для нас важны разные функции и интерфейсы. Это значит, что условный «робот-помощник» — не для всех, кому-то нужен человек вместо устройства, бумажная книга вместо экрана, личная встреча вместо онлайна — и наоборот! Этот разрыв будет углубляться с появлением новых видов интерфейсов и возможностей расширенной реальности.
И что? При разработке продуктов найдите неочевидную на первый взгляд аудиторию с противоположной потребностью и попробуйте создать продукт для нее — это может помочь отстроиться от конкурентов, которые все бегут в одну сторону, толкаясь локтями.
2. Во-вторых, для большинства из нас инклюзивность — важная ценность. Мы не только понимаем, что мы — разные, но думаем о потребностях других и готовы изменять среду под эти потребности (и ожидать/требовать от других).
И что? Ограничение широты предложения может отпугнуть не только неудовлетворенных конкретным функционалом потребителей, но и сочувствующих — из-за несоответствия ценностей.
Простой пример: я могу не хотеть посещать кафе, в которые нельзя с собакой, даже если я в данный момент без собаки; наличие альтернативного молока для меня важно, если у моего знакомого непереносимость лактозы; отсутствие пандуса становится критичным, если знаешь о неудобствах людей с ограниченными возможностями и т.д.
3. В-третьих, есть «параноики», но признаюсь, их гораздо меньше, чем я ожидал (это мои деформации и искажения). Это может быть связано с неактуальностью проблемы («мне нечего скрывать»), непониманием последствий («и что они сделают?»), бессилием («обо мне и так собирают всю информацию, хуже не будет»), готовностью пожертвовать ради комфорта («зато так удобнее»).
И что? Для этой целевой аудитории информационная безопасность становится ключевой частью ценностного предложения, но не забудьте посчитать юнит-экономику (рынок маленький, а требуемые инвестиции — как для большого).
4. Наконец, есть те, кому все равно. Также могут всплывать неожиданные и неочевидные неудобства: экран невозможно выключить, занимает много места, слишком черного цвета, слишком белого цвета, слишком квадратный, слишком уродливый, не по фэншую и т.п.
И что? Вы можете изобретать иллюзорные функции или даже насаждать ценности, которые пользы не принесут, но вызовут неудобство, недоумение, ощущение мышиной возни или даже агрессию: «вам больше заняться нечем, все остальные проблемы решили?»
@yusufovruslan