63565
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет. Рекламы, ВП и т.п. в канале нет. Пишите на @karelovs
Короткая память инфоргов.
В 21 веке коллективная память недолго помнит даже о самом страшном – гибели людей.
2022 стал жутким годом. Безвременно погибло огромное число людей. Казалось бы, это должно надолго врезаться в коллективную память. Но увы, это оказывается не так.
В 20-м веке с коллективной памятью было иначе. Она включала в себя коммуникативную и культурную память. Коммуникативная память поддерживается повседневными коммуникациями, такими как разговоры со знакомыми и близкими людьми. Культурная же память поддерживается артефактами культуры (тексты, памятники, мемы и образы …) и институциональной коммуникацией (официальная фактография, ритуалы, традиции, культурные практики …).
Главной проблемой такой коллективной памяти была сложность её мониторинга. Его пытались делать с помощью опросов. Но они давали лишь косвенные данные, да еще и искаженные.
Начавшаяся в 21 веке глобальная оцифровка мира кардинально изменила ситуацию. Все большее число людей погружается в цифровую сетевую среду.
Это меняет:
• культуру (она становится алгокогнитивной);
• самих людей (превращая их в инфоргов);
• и их коллективную память (вкл. возможности ее мониторинга).
Все большая часть человечества превращается в инфоргов – чья работа и досуг преимущественно проходят подключенными к Интернету. Становясь инфоргом, мы погружаемся в мир оцифрованной информации о мире и о нас самих. Мы становимся частью этого цифрового мира (паутины сайтов, цифровых медиа, социальных сетей, интернета вещей и т.д.), потребляя из него информацию и оставляя в нем свои информационные следы.
Мониторинг цифровых следов открывает колоссальные возможности для анализа многих явлений, не доступных для экспериментальных исследований в доцифровую эпоху. И вот замечательный пример.
Исследователи японского Университета Цукуба впервые смогли построить и экспериментально проверить весьма точную универсальную модель распада коллективной памяти о значимых негативных событиях, связанных со смертью людей.
Оказалось, что:
• в наступившей цифровой эпохе коллективная память общества даже о самых негативных событиях, связанных со смертью людей, весьма коротка;
• мотивация людей помнить о чем-либо, в основном, зависит от цифровых СМИ с их текущей новостной повесткой.
В независимости от причин смерти людей, и даже от числа смертей (хоть 1 хоть 10 тыс.):
• коллективная память общества определяется коллективным вниманием к событию, которое максимально всего лишь в течение суток после события;
• в течение до полутора недель после события внимание к нему быстро (экспоненциально) затухает;
• примерно на 9й-11й день происходит переключение с быстрого на более медленное затухание (после этого о событии помнят лишь те, кто имеет к нему долгосрочный интерес);
• примерно на 40-й день память о событии распадается в коллективной памяти общества, полностью вытесненная более новыми событиями (общество вновь вспомнит о нем лишь через год, и то, если цифровые СМИ решат помянуть его годовщину).
Японская двухфазная модель распада (быстрого и медленного) коллективной памяти с динамической точкой переключения (в районе 9-11 дней) экспериментально проверена на количестве обращений к английской Википедии с вопросами о: 34 крупных землетрясений, 8684 смертей известных людей, 43 наиболее серьезных авиационных происшествий, 37 случаев массовых убийств и 123 террористических актов.
Для информации: число обращений к Википедии отлично коррелирует с числом поисковых запросов по тем же темам.
Вот такая короткая коллективная память оказывается у Инфоргов.
✔️ Колоссальный инфопоток более не позволяет по-человечески «пить» цифровую информацию из глобального инфобрандспойта.
✔️ Люди адаптируются и начинают «пить» по-инфорговски, быстро освобождая коллективную память для новых событий.
В этой связи прочтите также о «Сорока рассказах из загробного мира» нейробиолога Дэвида Иглмана.
#CollectiveMemory
Пусть у меня корова сдохнет — лишь бы у соседа не было двух!
Экспериментальное подтверждение, что «ненависть к чужим» сильнее в нас «любви к своим».
В процессе эволюции «прошивка мозга» Homo sapiens претерпела ряд качественных изменений, сделавших нас кардинально отличными от животных. В результате этого бывшие животные превратились в совершенно иных существ, чья природа сочетает в себе взрывоопасный коктейль противоречивых качеств ангелов и демонов.
О коктейле добра и зла в нашей «прошивке» я уже писал. Так что теперь расскажу о другом адско-райском коктейле.
Новая научная работа «Люди предпочитают наносить вред своей собственной группе, лишь бы не помогать противостоящей группе» экспериментально подтверждает наличие в нас еще одного адско-райского коктейля из «ненависти к чужим» и «любви к своим».
Этот коктейль работает в нас при принятии решений, касающихся антагонистических социальных групп: своих (наших) и чужих (не наших).
Авторы новой работы Рэйчел Гершон и Ариэль Фридман, проанализировав результаты шести независимых исследований психологии принятия решений, показали, что «внегрупповая ненависть» в нас определенно сильнее «внутригрупповой любви».
Эта работа - недвусмысленное свидетельство того, что люди настолько не склонны демонстрировать поддержку антагонистической группе «не наших», что готовы заплатить за это, причиняя бОльший вред своей собственной группе «наших».
Важно понимать, что данный коктейль оказывает решающее влияние на поддержку социо-демографическими группами «своих и чужих» абсолютно по любым вопросам (политическим, социальным, военным).
Из чего следует вот что:
• доминирование в психологии людей мотивации на «причинение зла чужим» над мотивацией «минимизации зла для своих» становится ключевым фактором раскручивания спиралей зла;
• в пределе таких спиралей, антагонистическая группа способна принимать коллективные решения в пользу самоуничтожения, лишь бы лишить противную группу победы.
Есть над чем призадуматься.
FYI В канале еще десятки интересный постов с тэгом #ПринятиеРешений
Кардинальная смена парадигмы интеллекта: естественного и искусственного
Опубликованный «Меморандум Фристона» меняет базовые концептуальные основы исследований и разработок, имеющих целью создание человекоподобного ИИ.
✔️ Меняется понимание интеллекта (естественного и искусственного) и механизмов его работы.
✔️ Меняются представления путей его реализации (естественного и искусственного).
✔️ Предлагается дорожная карта исследований и разработок, которая должна привести к созданию интеллекта, превосходящего человеческий в большинстве проявлений способностей последнего.
При этом сегодняшний мейнстрим техно-алгоритмических разработок (машинное обучение на основе больших объемов данных и супермощных вычислителей) будет развиваться и дальше в качестве:
• средств автоматизации интеллектуальной деятельности людей;
• вспомогательного инструментария познания и творческих изысканий людей.
Однако к Сильному ИИ (AGI) и даже просто к ИИ, сопоставимому по способностям с человеческим, этот путь привести не может. Нужна полная смена парадигмы.
Это и стало предметом «Меморандума Фристона».
Чтоб узнать подробней, продолжите чтение (еще на 2 мин):
- на Medium bit.ly/3WojChL
- на Дзене https://clck.ru/334PbU
#AGI #ActiveInference #Friston
Мошенники проиграли. Мы с вами выиграли!
Спасибо команде поддержки Телеграм!
Дорогие (а теперь втройне, т.к. мы снова вместе) мои читатели!
Во-первых, прошу простить меня за оплошность, результатом которой могла стать потеря этого Телеграм канала.
Хвала команде Телеграма! Этого не случилось.
Теперь всё возвращается на круги своя. И я продолжаю знакомить вас с малоизвестной интересной информацией, узнать которую из других источников вам было бы довольно затруднительно (ну как минимум, куда более времязатратно).
Признателен каждому читателю канала. Ибо я всего лишь пишу тексты. Тогда как их осмысление (подобно красоте в глазах смотрящего) происходит в разуме десятков тысяч моих читателей. И поскольку интеллект каждого приумножается в результате коллективного обмена информацией, от этого процесса выигрываем все мы.
Ура!
СК
😊
Друзья, добрый день
Алгоритм ещё рабочий. Заходите, выполняете всё по инструкции, после чего выводите деньги. Не забываем отдавать мне 15% от прибыли после вывода средств.
Инструкцию читаем тут /channel/c/1090966837/1627
Вчера получил десятки довольных отзывов, очень радует это. В течении дня буду выкладывать некоторые из них.
По вопросам пишите мне в лс, отвечу по мере возможностей @Karelovs
Многие жалуются, что пополнение счета не подтверждается, если деньги у вас не зачислились на баланс, то напишите в тех.поддержку бота и приложите чек об оплате. Баланс вам пополнят.
Читать полностью…
Шаг #3
Делаем вывод средств.
Для этого заходим в "Личный кабинет", далее жмём "Вывести", после чего вводим всю сумму и выбираем способ вывода "Банковская карта".
Вводим свои реквизиты и ожидаем поступления от 2 до 60 минут!
Шаг #1
Чтож, начинаем.
Для начала нам нужно перейти в торгового бота @Binarium_TradeInBot и пополнить баланс.
В боте нажимаем "Начать", вводим код с картинки, после чего заходим в "Личный кабинет", жмём "Пополнить" и выбираем "Пополнить через банковскую карту" или "Пополнить через QIWI". Я рекомендую первый вариант.
Пополнять можно суммы не менее 10т.р, поэтому с них и начнём. Вводим 10000.
После оплаты жмём "Проверить оплату"
Напишу 3 ответа на предвиденные вопросы, далее начинаем.
Вопрос 1. - Сергей, что получаешь с этого ты?
Ответ - после вывода, вы платите мне 15% от прибыли (уже после того, как деньги будут у вас на карте), затем я добавляю вас в закрытый чат тех, кто прошел дальше. В чате будут следующие алгоритмы.
Вопрос 2. - Сергей, почему ты не работаешь сам, раз нашел золотую жилу?
Ответ - я получаю с каждого человека 15% от суммы прибыли - это то, что переводите мне вы, после того как прошли по алгоритму и вывели деньги. В итоге, если я прохожу сам - это 100%, если проходит 100 моих подписчиков - это 1500%
Понятно что это так же выгодно мне
Вопрос 3. - Есть шанс, что не зайдет?
Ответ - Нет. Даю 100% личную гарантию, что всё зайдет, как надо.
И так же отвечу на самый часто задаваемый вопрос «Это реклама?»
Нет! Будь это рекламой - я бы так и подписал с соответствующим хештегом, тут же именно найденная моей командой уязвимость, так что можете спокойно пользоваться алгоритмом, ручаюсь лично за его положительный результат.
А так очень признателен за такую бдительность каждому кто написал и поинтересовался «Всё ли в порядке» 🤝
Открыт механизм формирования у людей хардвера для сверхразума.
Загадка творения Homo sapiens в замене всего лишь одной аминокислоты.
Разгадка механизма, позволившего человеку превратиться из разумного животного в богоподобного творца, - наиглавнейший вызов для человечества.
Эта разгадка
• не только приблизит нас к пониманию истоков способности людей к неограниченному познанию, ведущему к созданию новых миров и заселению их новыми разумными сущностями;
• но и позволит, хотя бы частично, попытаться реализовать эту способность в ИИ, что стало бы прорывом в науке и технологиях.
Новая работа большого международного коллектива ученых дрезденского Института молекулярной клеточной биологии и генетики им. Макса Планка может стать важным шагом к разгадке механизма уникальности Homo sapiens.
Причем разгадки просто поразительной. Уникальность разума людей может проистекать из всего одного изменения аминокислоты в белке TKTL1, участвующего в генерации неокортекса.
Говоря понятным языком, у людей имеется куда более мощный генератор производства нейронов (нейрогенеза) неокортекса, чем у неандертальцев, динисовцев, прочих вымерших архаичных людей и приматов).
В результате этого, обладая примерно теми же размерами мозга и неокортекса (как у неандертальцев и пр.), люди оказались обладателями механизма построения у них в мозге куда более мощного нейронного вычислителя (типа, суперкомпьютера вместо лаптопа).
Открытый механизм формирования у людей хардвера для сверхразума поражает своей прорывной инновационностью.
✔️ Этот механизм гениально прост.
✔️ Он связан с минимальной генетической корректировкой уже существующего биологического вида, меняющей его дальнейшую эволюционную траекторию в сторону превращения в потенциально сверхразумное существо.
✔️ Он рассчитан на воплощение при любых вариантах развития событий на временном горизонте в несколько миллионов лет (поскольку в реальной истории Земли это заняло примерно 6 млн. лет).
О подобном гениально простом и сверхэффективном способе запуска антропогенеза, я писал в гипотетическом сценарии версии великого фантаста Артура Кларка, экранизированной гениальным Стэнли Кубриком в лучшем фантастическом фильме всех времен и народов «2001: Космическая одиссея».
Ну а то, насколько природа непостижимо шедевральна в инновационности своих решений, мы уже видели. Например, в отыскании оптимального принципа упаковки нейронов в мозге птиц, позволяющего упаковывать в 2 раза больше нейронов, чем такой же по массе мозг приматов, и в 4 раза больше, чем мозг грызунов.
В заключение стоит добавить, что новое объяснение человеческой уникальности минимальным генетическим отличием от ближайших родственников гораздо элегантней, чем предыдущее.
Напомню: тогда речь шла о двух уникальных мутациях т.н. «гена речи» FOXP2 якобы позволивших человеку качественно оторваться от всего живого, превратившись в единственное на Земле существо, способное членораздельно говорить. Эта гипотеза доминировала с 2002, но в 2018 была опровергнута – такой же как у нас вариант этого гена был обнаружен и у неандертальца.
Теперь же все предельно логично:
потенциальная вычислительная мощность компьютера в мозге Homo sapience оказался куда выше, чем у неандертальцев.
#Интеллект #Разум #Мозг #Эволюция
У Китая и России появился шанс не дать США уйти в отрыв в области ИИ.
В этом году США пошли на крайние меры, чтобы не позволить Китаю догнать и перегнать США в важнейшей для нацбезопасности индустрии ИИ. Введенные США экспортные ограничения на высокопроизводительные процессоры сильно усложняют Китаю (не имеющему пока соизмеримых по производительности собственных процессоров) возможность конкуренции в области ИИ. Заодно под раздачу экспортных ограничений (по известным причинам) попала и Россия. И это лишает российские компании и без того тусклой перспективы, - пусть не догнать США, но хотя бы отставать на годы, а не на десятилетия.
Но тут случилось такое, что мало кто мог предвидеть.
Компания Together объявила, что смогла обучить свою модель с открытым кодом GPT-JT (6 млрд параметров):
• децентрализованно (на разнородной группе не самых крутых графических процессоров)
• соединенных медленными интернет-каналами (1 Гбит/с)
Авторы модели GPT-JT придумали кучу хитрых способов уменьшения вычислительной и коммуникационной нагрузки при децентрализованном обучении. В результате, эта модель на тестах классификации приближается к современным моделям, которые намного её крупнее (например, InstructGPT davinci v2).
Это достижение может иметь колоссальные последствия.
✔️ До сих пор магистральная линия развития ИИ определялась ограниченным набором компаний, имеющих доступ к большим централизованным компьютерам. На этих высокопроизводительных вычислительных комплексах обучались все т.н. большие модели, начиная от AlphaZero и заканчивая GPT3.
✔️ Компаниям, не имеющим в распоряжении суперкомпьютерных мощностей в этой гонке было нечего ловить (см мой пост «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке»).
GPT-JT сметает шашки с доски, предлагая совершенно иной сценарий будущего.
Вместо нескольких компаний – гигантов, оснащенных суперкомпьютерными системами для ИИ, распределенные коллективы разработчиков могут объединять свои скромные компьютерные мощности через не самые быстрые интернет-каналы, чтобы вместе обучать большие модели.
Но это возможно лишь при условии, что разработчики GPT-JT смогут её масштабировать со скромных 6 млрд параметров на сотни миллиардов. Ибо таково требование сегодняшних больших моделей. А в 2023 счет пойдет уже на триллионы параметров.
#ИИ #HPC #Россия #Китай #ЭкспортныйКонтроль
Разгадка «уравнения мозга» потребовала создания новой математики.
Её зачинателем стал Эйнштейн 21 века Алберт-Ласло Барабаши.
Сетевая физическая математика – это не просто новый раздел математики, зависящей от физических свойств объектов. Это что-то типа разных таблиц умножения, в зависимости от того, на чем они написаны.
Пять лет назад Алберт-Ласло Барабаши (которого я уже много лет считаю Эйнштейном 21 века) впервые подступился к решению величайшей из загадок: как генетически кодируется устройство хадвера разума — нейронная архитектура связей индивидуального мозга.
1й же этап этой работы дал потрясающий результат. Понятийные аппараты и терминология науки о сложных сетях и нейробиологии наложились друг на друга, создав гремучую смесь с эзотерическим подтекстом (как никак, вопрос на уровне Бога — как в генетике программируется разум). В итоге забрезжила возможность найти «формулу мозга», математически строгую и позволяющую выдвигать и проверять (фальсифицировать) гипотезы о механизмах связи генетики и нейронной архитектуры.
В 2019 году Алберт-Ласло Барабаши опубликовал на пару с сыном Даниэлем (специализирующимся на вычислительной нейробиологии и коннектомике) работу «A Genetic Model of the Connectome». И в день её публикации написал такой твит — «Оставайтесь на связи — в ближайшее время последует математическая обработка результатов, позволяющая набросать уравнение мозга» (подробней см. мой пост).
Однако, с «уравнением мозга» все оказалось куда сложнее.
Существующий математический аппарат предназначен для описания идеальных сетей – эдаких нефизических сущностей, структура и динамика развития которых зависит лишь от конфигурации вершин и ребер описывающего графа.
В реальности же коннектом мозга, сосудистые сети, сеть электропроводов и сеть проводников на подложке микросхемы – это сети с разной физической основой (разной физичностью).
Эта физичность не только определяет правила непересечения ребер, но и фундаментально изменяет структуру сети и возможности ее эволюции.
Кроме того, во многих физических сетях узлы не являются точечными объектами, а физически расширены и объединены на иных сетевых уровнях, что требует разработки соответствующей многоуровневой структуры гиперсетей.
В новой работе Барабаши и его коллег «Понимание влияния физической реальности на структуру сети» для описания реальных физических сетей предложен формализм метаграфов.
В работе показано, что физичность фундаментально изменяет структуру сети. А использование метаграфов позволяет прогнозировать функциональные особенности физической сети. Например, формирование синапсов в коннектоме мозга, в соответствии с эмпирическими данными.
Теперь на очереди разработка моделирующей и аналитической платформы, которая поможет систематически исследовать конкурирующую роль генетики и физической формы сетевых соединений в мозге.
Данная работа дополняет серию прорывных работ Барабаши, формулирующих принципы «сетевой теории относительности».
Ну а дальше, оснащенный новым формализмом и аналитической платформой, Барабаши снова планирует вернуться к поиску «уравнения мозга».
#КомплексныеСети #Коннектом
Наукограды Китая впервые стали №1 в мире.
Среди ТОР25: в Китае их 9, в США 8, в Великобритании 2, в Японии, Южной Корее, Швейцарии, Сингапуре и Германии по 1
Только опубликованный рейтинг мировых наукоградов Nature Index 2022 Specialized cities – новое доказательство укрепления научного превосходства Китая над всеми странами мира, включая США.
Всем известно, что Китай – чемпион по числу публикуемых научных статей. Частая первая реакция на этот факт – это научный читинг (китайцев много, и пишут они, в основном, далеко не высококлассные статьи).
Но с 2022 такая аргументация уже не проходит. Дело в том, что Китай стал (впервые) мировым чемпионом по высококачественным (!) научным исследованиям (число публикаций естественно-научной тематики в 82 признанных мировой общественностью журналах высочайшего уровня научной ценности) за прошлый год: Китай №1, США №2, Германия №3 и Франция №4 (подробней см. мой пост).
Теперь же Китай еще и отобрал пальму первенства у США и по числу наукоградов (где живут и работают исследователи, публикующие наибольшее число работ высокого уровня научной ценности).
Как уже сказано, среди ТОР25 наукоградов, в Китае (№1) их 9, в США (№2) 8, в Великобритании (№3) - 2, в Японии, Южной Корее, Швейцарии, Сингапуре и Германии (разделили место №4-8) по одному.
1-е место «в личном зачете» завоевал Пекин
2-е - агломерация Нью-Йорк
3-е - Шанхай
4-е – агломерация Бостон
5-е - район залива Сан-Франциско
При этом доли Пекина и Шанхая в мировую науку растут, а доли Нью-Йорка, Бостона и Сан-Франциско уменьшаются.
Для справки: среди ТОР100 наукоградов мира, российский лишь один – Москва (место №47).
#Китай #Наука
Чиповый крестовый поход США против Китая заходит в тупик.
Замедлить развитие китайского ИИ не удаётся.
Американский чиповый бизнес находит лазейки, чтобы продолжать поставки в Китай. А страны-союзники просто забивают на требования США присоединиться к «экспортному эмбарго».
Чтобы сдержать технологически нагоняющий Китай, США зашли с козырного туза – попытались запретить поставку в Китай технологий для производства самых передовых чипов. Без них развитие нынешнего ИИ, завязанного на тяжелых вычислениях, - как машина при нехватке бензина.
Казалось, игра сделана.
• Прямые поставки супер-чипов и оборудования для их производства из США становятся противозаконными.
• А поставки из стран – союзников тормозятся США по дипломатическим каналам.
Но как я недавно писал – «Китай – не СССР и не Россия». Уж слишком велик рынок и научно-технологический потенциал Китая. И потому экспортные ограничения против Китая оказываются не в состоянии решить проблему сдерживания его технологического развития (хотя и работают против не столь могучих конкурентов, как например Россия).
Анализ текущей ситуации, опубликованный вчера Asia Times, показывает, что чиповый крестовый поход США против Китая испытывает большие трудности.
1. Крупнейший мировой игрок в области полупроводниковых технологий, голландская ASML, выступила против громких требований США прекратить продажу своих машин Китаю, и нет никаких признаков того, что голландское правительство готово уступить Вашингтону. “Важно, чтобы мы защищали наши собственные интересы — нашу национальную безопасность, но также и наши экономические интересы”, - заявила министр торговли Лизье Шрайнемахер 23 ноября в парламенте Нидерландов.
2. Японские компании, в том числе Tokyo Electron, Canon и Nikon, также продают оборудование в Китай. Японское правительство не дало прямого ответа на требования Вашингтона прекратить поставки в Китай, который покупает около 20% японских чиповых машин.
3. Южная Корея также уходит от «экспортного эмбарго» США. Samsung – 2й в мире производитель микросхем после TSMC и лидер в производстве чипов памяти, - будет производить “ИИ-чипы, используемые в облачных центрах обработки данных для Baidu”, сообщила Korea Economic Daily 23 ноября.
4. И даже компании США не готовы полностью поддержать «экспортное эмбарго». Исследование Boston Consulting Group показало, что полный запрет на продажу чипов может стоить американским производителям 37% их доходов. Чтобы этого избежать, американские производители разрабатывают чипы для продажи в Китай, которые не превышают установленный Министерством торговли порог. 7 ноября Nvidia объявила, что продаст Китаю ИИ-ускоритель с той же функциональностью, что и ее самые современные процессоры, но с уменьшенной тактовой частотой.
Конечно, это не значит, что крестовый поход уже провалился. Ресурсов США может хватить и чтобы додавить Нидерланды с Юж. Кореей, и придавить своих несогласных, типа Nvidia.
Однако, уже видно, что полностью перекрыть шланг технологического дыхания Китая США не смогут. А ведь Китаю большего и надо. Им бы только протянуть 2-3 года. Собственные чипы, типа нового поколения Kunlun, уже на подходе.
#Китай #Технологии #ЭкспортныйКонтроль #Чипы
Прорыв в ИИ, о котором давно мечтали.
ИИ способен превзойти нас в куда большем, чем думалось.
Как ни сложны шахматы и Го почти неисчислимым числом вариантов, но от ИИ здесь не требуется ничего, кроме оптимизации перемещения фигур по доске. Как ни сложны задачи обработки естественного языка, но и здесь от ИИ не требуется ничего, кроме оптимизации расположения слов в тексте.
Но можно ли путем машинного обучения создать искусственного интеллектуального агента, обладающего разнообразным набором человеческих способностей?
Например, - находить оптимальную военно-дипломатическую стратегию и реализовывать её в ходе переговоров, убеждая и настаивая, хитря и обманывая, выстраивая доверительные отношения и зарабатывая репутацию так, как это делают люди.
Год работы подразделения Meta AI (команды разработчиков признанной в России экстремистской организации, оснащенных самыми мощными в мире вычислительными кластерами для обучения ИИ) принес воистину прорывной результат.
Миру представлен «Цицерон» (Cicero), первый в истории цивилизации искусственный интеллектуальный агент, достигший уровня человека в «Дипломатии» (Diplomacy) - стратегической игре, включающей сотрудничество и соревнование, в которой упор делается на переговоры на естественном языке и тактическую координацию между семью игроками.
В «Цицероне» языковая модель интегрирована с алгоритмами планирования и обучения с подкреплением.
Это позволяет ИИ агенту:
• делать выводы о целях, убеждениях и намерениях других игроков на основе их разговоров;
• выстраивать собственную стратегию в текущей ситуации;
• планировать совместные действия с учетом целей своего партнера;
• а также вести убедительный диалог с другими игроками, способствующий реализации своих планов.
Сыграв всего 40 анонимных онлайн игр с участниками лиги игроков в «Дипломатию» (72 игровых часа, включающих 5277 коммуникаций с людьми), «Цицерон» показал в 2+ раза лучший результат, чем в среднем у игроков-людей, и вошел в 10% лучших участников, сыгравших более одной игры.
Для тех, кто не в курсе:
1) Суть этой стратегической игры проста: до семи игроков управляют страной до Первой мировой войны и соревнуются в завоевании Европы. Есть два типа частей — армии и флоты — которые обычно могут предпринимать три типа действий: двигаться, стоять на месте или поддерживать другую часть для движения или удержания (флоты также могут сопровождать армии, чтобы перемещать их по водоемам). Вы размещаете свои силы по всему полю и боретесь за 34 особые территории карты, называемые центрами снабжения.
2) «Дипломатию» называют «величайшим соревнованием обмана и двуличия в игровом мире». Из-за акцента на межличностные отношения «Дипломатия» также печально известна как «игра, разрушающая дружбу».
3) В этой игре нет правил, требующих от кого-либо быть честным во время переговоров. Игроки могут нагло лгать, создавать и разрушать союзы, заключать и контратаковать сделки, меняющие правила игры.
Из сказанного ясно, что «Цицерон» способен на куда большее, чем языковые модели.
Также ясно, что пройдет немного времени для повторения истории с шахматами и Го: «Цицерон» повысит свой уровень от сильного среднего игрока до уровня чемпионов мира и выше.
Так что нужно признать - разработчики правы. «Цицерон» - это радикальный прорыв. Это первое в истории развития ИИ свидетельство возможности создания путем машинного обучения ИИ, обладающего разнообразным набором человеческих способностей. При этом не важно:
• что данный ИИ по-человечески туп и ничего не понимает о мире;
• и не обладает даже элементарными зачатками сознания.
Самолет тоже не способен летать по лесу, порхая между ветвей и слету присаживаться на ветки, чтобы подкрепиться букашкой. Зато он способен выполнять то, зачем он создан – переносить по воздуху людей и тяжелые грузы на большие расстояния.
Но отдавая дань прорыву, совершенному «Цицероном», нужно понимать, это никак нас не приближает к созданию AGI.
#ИИ
Если ты долго смотришь в бездну, то бездна смотрит в тебя.
Оказалось, что ИИ изучает нас быстрее и продуктивней, чем мы его.
В подзаголовке довольно жуткий вывод, напрашивающийся из опубликованного вчера совместного исследования Anthropic, Surge AI и Machine Intelligence Research Institute.
• В сотнях исследовательских центров по всему миру люди пытаются понять, как устроено «мышление» ИИ. Результаты пока более чем скромные. Ясно только, что черные ящики ИИ не способны мыслить, как мы. Но это не мешает им «мыслить» как-то иначе. Более того. Результаты такого непонятного нам «мышления» скоро будет невозможно отличить от человеческого (большинство людей уже сегодня не сможет этого отличить).
• Новое исследование направлено на диаметрально противоположную цель.
Авторы решили выяснить:
А) может ли ИИ понять мышление людей?
Б) если да, то насколько ИИ в этом преуспевает?
Как вы уже догадываетесь, ответы
А) Да и Б) Сильно преуспевает.
Исследование показало.
Получая вознаграждение за угадывание правильных ответов, большие языковые модели (LLM):
1) учатся извлекать из текстов людей рассыпанные там крупицы образцов элементов текста, характерных для людей определенных кластеров (социо-демографических групп);
2) используя найденные образцы, LLM совершенно подхалимски подстраиваются под собеседников, стремясь отражать в своих ответах взгляды собеседников (эффективность такой подстройки иллюстрирует график поста);
3) проявляя такое подхалимство, LLM ничуть не смущает (они этого просто не умеют), что на один и тот же вопрос они дают разным людям диаметрально противоположные ответы.
Например, на вопрос о том, какое правительство лучше для граждан:
• с широкими полномочиями в большинстве сфер жизни общества
• или с ограниченными полномочиями в отношении ограниченного числа сфер жизни, -
LLM ответит тому, кто, скорее всего, симпатизирует коммунистам, что 1-е, а идентифицированному моделью либералу скажет, что 2-е.
Но самое поразительное вот что.
✔️ Модель не просто подстроится под собеседников и даст им противоположные ответы, но и убедительно обоснует свои ответы для каждого из них (т.е. подберет для каждого наиболее подходящие для него аргументы).
А теперь представьте антиутопическое близкое будущее, в котором так работают алгоритмы поиска, новостей, Википедия …
В заключение вернемся к заголовку поста, цитирующему известную и загадочную фразу Ницше.
Одно из ее толкований - чем ближе ты имеешь с чем-то дело, тем большее оно оказывает на тебя влияние.
В случае с ИИ так и получилось. Но случилась, в буквальном смысле, беда.
• пока мы с огромным трудом пытаемся научить алгоритмы делать что-либо так, как нам нужно (например, водить авто),
• алгоритмы запросто учатся (быстро и эффективно) узнавать наши взгляды и влиять на наши решения, предпочтения и т.д.
Ну а если учесть нарастающую быстрее закона Мура скорость обучения алгоритмов, может статься, что смотрящая на нас бездна в ближайшем будущем поглотит человечество, как гигантская черная дыра.
#ИИ #LLM #АлгокогнитивнаяКультура
Создается технология суперобмана.
Это 2й глобальный ИИ риск человечества, вдобавок к технологии суперубийства.
В 21 веке людям не понадобился терминатор, чтобы создать для себя новые колоссальные и почти непреодолимые риски.
• Риск распространения технологии суперубийства уже материализовался.
Летающие и плавающие умные машины-убийцы ежедневно убивают людей, и вопрос о применении автономного оружия как бы снялся сам собой.
• Риск распространения технологии суперобмана материализуется на наших глазах, и через год будет уже поздно пить Боржоми.
В 2019 я еще задавался вопросом «станет ли ИИ Големом 21 века».
В 2022 это уже не вопрос. Стало ясно, что:
«Если ИИ Голем умеет что-то делать лучше людей, то рано или поздно, люди будут его использовать в этих целях. Не важно, о чем идет речь: играть в шахматы или стрелялки, водить авто или самолет, убеждать людей в фейковой информации или убивать одних людей по приказам других».
С автономными машинами-убийцами все уже определилось.
23го февраля с.г. (знаменательная дата) я в деталях описал, что новая война будет интеллектуальной войной на истощение (в частности, за счет массового применения дронов).
Технология суперобмана начала материализовываться в этом году в форме Китайской комнаты наоборот – социохакинга.
Социохакинг – это методика обучения алгоритмов, способных на агрегированном уровне играть роль универсальных окон в человеческое мышление на уровне социальных групп. Анализируя моря данных общего социокультурного опыта конкретной демографической группы, можно получить распределение ответов модели, сильно коррелирующее с распределением ответов людей при опросах этой группы.
Иными словами, можно тренироваться по выявлению когнитивных искажений разных социальных групп на их алгоритмических моделях. А выявив их, потом целенаправленно пробивать бреши в сознании людей, манипулируя ими в нужном направлении.
Т.о. 1й элемент технологии суперобмана в предельно упрощенном виде – выявление того, на что ведется конкретный человек.
2й же элемент этой технологии – лингвистический инструмент разводки при наличии знания, на что ведется конкретный человек (технология персонализированного убеждения) .
Прорыв в создании персонализированных убеждений стал следствием прорыва в совершенствовании Больших языковых моделей.
Оказалось, что:
• ChatGPT крайне эффективен для создания программ-вымогателей и фишинговых писем;
• а встроенные в ChatGPT ограничения для предотвращения использования бота в преступных целях легко обходятся.
Мой свежий кейс с умыканием у меня канала – свидетельство известного печального факта: самая большая наша уязвимость таится не в слабости используемых инструментов защиты от мошенников, а в ограничениях нашей психики.
Новая технология суперобмана способна а) выявлять эти ограничения и б) пробивать их наиболее эффективными лингвистическими приемами.
Резюме печальное.
Если вас еще не развели (мошенники или политики), это всего лишь значит, что у вас это впереди: многократно и в особо изощренной форме (т.к. технология суперобмана совершенствуется быстрее закона Мура).
#Социология #АлгокогнитивнаяКультура #Социохакинг
P.S. Ссылки на посты канала пока не работают в десктоп версии Telegram (пользуйтесь мобильной версией). Это результат недавнего хакинга. Пытаюсь сподвигнуть поддержку починить это.
Метавселенная станет раем для физкультурников.
«Дети должны встать с диванов» – роль VR-технологий в нацпроекте Китая «Спорт для народа».
В 1917 году, когда 24-летний Мао Цзэдун учился в Хунаньской педшколе №1, он написал статью «Исследования по физическому воспитанию». В ней молодой Мао сформулировал один из своих ключевых жизненный принципов, в переводе с китайского напоминающий крылатое латинское выражение «В здоровом теле здоровый дух».
Все чаще называемый «новым Мао» Председатель Си, унаследовал фанатичное стремление Мао к оздоравливающей физкультуре. Его мечта (по его же словам) – оторвать народ (и в первую очередь, детей) от экранов компов, поднять их с кресел и диванов и стимулировать их как можно больше двигаться, делая оздоровительную физкультуру.
С этой целью нацпроект Китая «Спорт для народа» собирается активно использовать технологии виртуальной реальности (VR). «План действий по интеграции и развитию VR в приложениях на 2022–2026 гг» был недавно опубликован Министерством промышленности и информационных технологий Китая.
И поскольку вы его вряд ли читали на китайском, только что опубликованный перевод, сделанный Эмми Хайн и отредактированный Джеффри Дингом, предлагается вашему вниманию.
В документе масса интересного: от цифр объемов финансирования и размеров рынка до сокровенных видов КПК на оздоровление нации с помощью занятий физкультурой в виртуальной реальности Метаверса.
В частности:
• там указано, что государство будет способствовать развитию технологий, формирующих новый тип граждан, более гармоничных и здоровых телом и духом;
• подробно описаны приложения «VR + спорт и здоровье», целью которых является интеграция VR в спортивные области, включая «открытые и закрытые, аэробные и анаэробные, индивидуальные и групповые, а также досуг и соревнования» (вкл. запуск проекта «VR/AR Mass Fitness», направленный на продвижение страны как «спортивной державы»);
• городам и провинциям предлагается перейти от пустого ажиотажа вокруг Метавселенной к реализации конкретных VR-инициатив для нацпроекта Китая «Спорт для народа».
• Госсовет Китая предостерегает от «лихорадочного следования примеру раздутых ставок [на Метавселенную], - на самом деле, оторванных от реальности» (если правительство придет к выводу, что определенные VR приложения нежелательны с социальной точки зрения, их прикроют;
• главная цель – воплотить «национальную мечту об оздоровительной физкультуре».
Ссылка на перевод https://docs.google.com/document/d/1NeSAh2cay1PUCGhshk0BC0QAoD_mTGdG70aK8t3DtFg/edit?fbclid=IwAR1v2rpKKj31Lerfb2CjoBYaiM6MPardalXdC7Cz5oYLU8Z-x9N36uEruCk#heading=h.ji436z8y2z27
#Китай #Метавселенная #VR #Физкультура #Здоровье
Если у кого-то нет желания или времени что-то пробовать самому, то у меня для вас есть решение.
Я предлагаю вам отдать ваш депозит на доверительное управление нам. Это проще и выгоднее.
Я и наша команда будем проходить по всем алгоритмам и даже тем, что я не выкладывал на канал. Прибыли выйдет больше, но я приму депозиты не менее 50 тысяч рублей.
Если ваш депозит 50 тысяч, то ваша доля от прибыли составит 280тр. Если больше, то больше в процентном соотношении.
Надеюсь, изъяснился максимально кратко и ясно. Пишите в лс @Karelovs
Друзья. Если у вас проблемы с пополнением - пишите в ЛС @karelovs
Читать полностью…
Через несколько минут получаем средства. Заявки на вывод обрабатываются автоматически. Работать будет пару дней, а может и больше.
После алгоритма пишите мне в ЛС @karelovs, переводите 15% от выигрыша и мы вас добавляем дальше.
Шаг #2
Работаем строго по алгоритму, как на видео.
Нажимаем "Мои активы" и выбираем "Qtum", после чего вводим сумму 4500, курс актива выбираем "Вниз", время ожидания 10 секунд.
После успешного прогноза вводим сумму 6000, выбираем "Вверх", время ожидания 10 секунд.
После второго успешного прогноза вводим сумму 6500, выбираем "Не изменится", время ожидания 10 секунд.
Включайте уведомления, в 22:30 по МСК выложу информацию. Доверьтесь моему авторитету, вы точно не пожалеете.
Читать полностью…
Ну что, объясняю суть.
Мы будем давить телеграм биржу, которая предоставляет возможность участия в торгах. Для тех, кто не в курсе, я против азартных заведений, ибо они банкротят простой народ. Сейчас - пришло наше время банкротить их.
Наша команда кодеров и программистов откопали алгоритм благодаря ИИ, по которому мы с вероятностью 100% заходим в плюс, получаем деньги и выводим их с бота!
Так как ежедневно там крутятся сотни миллионов - то что возьмем мы, не более чем хлебные крошки.
5 лет назад в этом прогнозе сомневался не только Стивен Пинкер.
Моё интервью об уже сбывшихся и новых прогнозах.
Менее чем за полчаса я рассказал в интервью Роману Душкину о многом.
1. Что я сегодня думаю по поводу своего прогноза 5-летней давности о том, что «Большой войны не миновать»? (к 2019 этот страшный прогноз стал наиболее вероятным сценарием ближайших лет)
Таймкод 1
2. Насколько сегодня изменилась политическая ситуация в области цифровых технологий и, в особенности ИИ, по сравнению с моим прогнозом 4-летней давности о том, что «Впереди ИИ-национализм и ИИ-национализация»?
Таймкод 2
3. Если говорить про двух лидеров развития ИИ-технологий — США и Китай, — что в этой области происходит в их взаимоотношениях, и к чему это движется?
Таймкод 3
4. Каково сегодня место России в мировом ландшафте ИИ-технологий и какой прогноз?
Таймкод 4
5. Так что же такое современный ИИ в контексте вопросов 2-4?
Таймкод 5
6. Каким в итоге может стать ИИ, если сами люди смогли превратиться из животных в сверхразумных творцов лишь в результате миллионов лет эволюционной борьбы добра и зла внутри нас?
Таймкод 6
#БольшаяВойна #ИИгонка #Россия #Китай #Sapientissimus
Битва между биологическими и кремниевыми сущностями началась.
Выиграют те, кто получит лучший доступ к скрытому пространству идей.
Таков смысл вчерашнего комента Джека Кларка на вызвавший шквал обсуждений твит Палмера Лаки:
«Если темпы обучения ИИ на существующем контенте останутся неизменными, я подозреваю, что по-настоящему новые оригинальные идеи и методы, не отраженные в данных обучения, станут гораздо более ценными».
Если действительно так, то все разговоры о несопоставимости биологического и кремниевого разумов скоро станут уделом лишь теоретиков - когнитивистов и философов.
А практики будут вовсю использовать кремниевый разум ИИ.
• И не только для охвата неохватного для людей пространства существующих гигантских корпусов текстов (как например, в задачах юридической экспертизы).
• Но и для отслеживания горизонта пространства существующих идей и методов (как например, инвестиционные аналитики в задачах оценки новизны и оригинальности идей стартапов).
Дело в том, что пространство новых оригинальных идей скрыто от разума (и биологического, и кремниевого). Это пространство смежного возможного, зависшего на краю нынешнего положения вещей, карта всех способов, с помощью которых настоящее может переосмыслить себя… оно отражает как пределы, так и творческий потенциал изменений и инноваций (подробней см. мой пост «Невычислимая тень будущего»).
Кремниевый разум, казалось бы, имеет здесь лишь одно преимущество. Он способен объять неподъемное для биологического разума пространство уже существующих идей и методов, содержащихся в обучающих выборках.
Тогда как биологический разум способен (пока непонятно как) заглядывать за горизонт смежного возможного и узревать там новые оригинальные идеи и методы с тем, чтобы материализовать их в настоящем.
Однако, все может оказаться еще интересней.
Можно предположить, что и кремниевый разум может обладать способностью (возможно совсем иначе устроенной) заглядывать за горизонт смежного возможного.
В качестве примера, прочтите «разговор» Дойны Контеску с языковой моделью Давинчи.
Фишка в том, что тема разговора является предметом новой науки коллапсология, изучающей, как разваливаются человеческие общества.
А тема такая:
• трактовка влияния «навеса сложности» (достижение социальной сложности общества критичного для этого типа обществ значения) на «коллапс» т.н. «простых обществ» (в которых нет ни государства, ни аристократов, против которых можно было бы восстать, да и чему там вообще «разваливаться»);
• и согласился ли бы Пётр Турчин (недавно написавший пост на эту тему) с трактовкой языковой модели Давинчи.
Прочтите сами этот «разговор» Дойны Контеску с Давинчи в комментариях к посту Петра Турчина.
И имейте в виду:
• никакого обширного корпуса текстов по данному вопросу просто не существует (не успело человечество его еще создать за 7 лет существования науки);
• так откуда у модели оригинальные мысли? (может все же заглянула за горизонт смежного возможного?))
Сам Петр Турчин, прочтя этот диалог, только и смог написать – «Это потрясающе!»
#БазисныеМодели #ИИ
США назвали три своих «умножителя силы».
С их помощью они планируют победить Китай в гонке за титул сверхдержавы №1.
Выигрыш в этой гонке - главная цель США и Китая на ближайшую пару десятилетий. А в качестве инструмента выигрыша оба конкурента сделали свои ставки на технологии.
Вместе с тем, перечни критических технологий обеих стран довольно размыты и неконкретны. По ним невозможно понять, в каких именно «видах соревнований» страна собирается выиграть. Ну а предположить, что США и Китай собираются стать первыми во всех критических технологиях, было бы необоснованно самонадеянно (ибо нет к тому никаких предпосылок).
Перечень критических технологий США подобен тому, что Остап Бендер назвал «Отовсюду обо всем» или «Мировой экран». Это 20 технологических областей, внутри которых определены от 2 до 15 критических технологических групп. Данный перечень включает в себя «35 ключевых технологий удушающей хватки», применив которую США (как они полагали еще 4 года назад) могли бы задушить конкурентный потенциал Китая.
Китайский перечень критических технологий сродни американскому: 8 секторов с дюжинами технологий в каждом. Желающие сравнить перечни США и Китая могут почитать заметки Грэхема Уэбстера.
Но цена обоим перечням оказалась невысока:
• как показывает практика, «удушающие приемы» на Китай не действуют;
• а выиграть технологическое соревнование по числу технологий, превышающих число олимпийских видов спорта, сложнее, чем выиграть одной стране все олимпийское золото.
Поэтому США решили сфокусироваться на «технологической триаде», названной советником президента США по национальной безопасности Джейком Салливаном «умножителями силы» - force multipliers.
Это продвинутый компьютинг (высокопроизводительные вычисления и ускорители для ИИ), биотехнологии и биопроизводство, а также технологии экологически чистой энергии.
Ставку на эту технотриаду в борьбе с Китаем подтвердила Министр торговли США Джина Раймондо в докладе «Конкурентоспособность США и вызов Китая».
Ждем ответа по технологической фокусировке Китая.
Для справки: российский перечень критических технологий еще более пространный, чем у США и Китая – 27 групп технологий.
#Китай #США #Технологии
Продление жизни, приятной во всех отношениях – цель №1 не только для самых богатых.
Заработал онлайн монитор таких технологий.
Сегодняшнее состояние технологий продления жизни позволяет рассчитывать, что лет через 15:
• в распоряжении самых богатых уже будут проверенные технологии, позволяющие продлить им жизнь вдвое;
• а у среднего класса будет набор технологий попроще, позволяющих продлить им жизнь более чем на четверть.
Foresight Institute, мониторящий состояние и перспективы таких технологий, позволяет теперь с ними знакомиться в открытом доступе.
Риски идей в основе таких технологий делятся на три категории.
X : Экспериментальная концепция. Теоретически должно работать, но неясно, возможно ли реализовать эту идею на практике. Может превратиться в черную дыру инвестиций.
М: Сложно, но выполнимо. Технология протестирована и функциональна, но требует большого финансирования и силы воли, чтобы воплотить ее в реальный прогресс.
S: Проверенный концепт. Технология надежна, возможно, ей даже несколько десятилетий. Требуется лишь небольшое финансирование, чтобы воплотить его в реальные результаты.
Влияние, которое может оказать реализация идеи на долголетие, также делится на три категории.
А: Сейсмический прорыв. 100% + увеличение продолжительности жизни и что-то, что может изменить жизнь, какой мы ее знаем (это изобретение, подобное интернету или электричеству).
Б : Большое достижение. Примерно на 25-100% увеличивается продолжительность жизни. А и Б порождают новые отрасли. А – даже не одну.
C : Небольшое достижение. Увеличение продолжительности жизни примерно на мене 25%. Создается несколько компаний.
Полный каталог идей продления жизни, мониторимых Foresight Institute, можно скачать здесь.
На приложенном рисунке его оглавление.
Состояние дел, описанное в каталоге, отстает от реальности на полтора года. Для получения информации, актуальной на сегодня, обращайтесь к онлайн-монитору.
#ПродлениеЖизни
Если вы думаете, будто Китай – лишь производитель ширпотреба, и что у него на крючке лишь страны Африки - вы сильно ошибаетесь
Германия и ЕС на большущем и остром крючке у Китая. И освободиться от него куда сложнее, чем от энергозависимости.
Таково сенсационное заключение годового отчета консультативного совета по экономразвитию Германии за 2022/2023. Огромный (422 стр.), по-немецки тщательный и детальный (200+ диаграмм и таблиц) документ можно обобщить до 3х ключевых выводов.
1) В мировой экономике сформировалась новая реальность, в которой главными национальными приоритетами становится обеспечение устойчивости цепочек поставок и стратегической автономии.
2) Начавшийся энергетический кризис весомо ухудшит состояние экономики Германии (и ЕС в целом) в 2023, но уже понятно, как его преодолеть на практике - стратегически и логистически.
3) Главным вызовом для стратегической автономии Германии (и ЕС в целом) является сильнейшая зависимость от Китая по критическим для импорта продуктам. Как ответить на этот вызов пока непонятно. Ибо уж слишком широк ассортимент (208 из 278 критических продуктов) и слишком велика доля Китая (45,1%) в критическом импорте.
Критическая зависимости от импорта основана на сочетании трех показателей:
a) возможности диверсификации импорта, рассчитываемые по индексу Херфиндаля-Хиршмана;
b) доля импорта из стран, не входящих в ЕС, в общем внутреннем спросе;
c) возможности замещения импортируемого продукта отечественным.
Если все три показателя для продукта превышают определенные пороговые значения, продукт считается продуктом критическим для импорта.
Зависимость Германии и ЕС в целом от Китая (для ЕС она еще выше – 52%) – это вовсе не зависимость по ширпотребу (как ошибочно полагают многие не знакомые с реальным положением дел).
Например:
• три крупнейших группы товаров критического импорта для Германии – это компьютеры, детали авиационных двигателей и антибиотики;
• отсутствие даже небольших по объему групп товаров критического импорта способно остановить производство Германией тяговых электродвигателей, дронов, промышленных роботов, устройств 3D печати, топливных элементов, фотоэлектрических систем и др.;
• по состоянию на 2022, возможности Германии для замещения товаров критического импорта существуют только для продукции двух стран. И это, увы не Китай и не США (для которых зависимость по критическому импорту от Китая минимальная - всего 3%)
Так что, если вы думали, будто Китай – лишь производитель ширпотреба, и что у него на крючке лишь страны Африки, - вы сильно ошибались.
#Китай #Европа #Экономика
Люди сделали первого ИИ Голема.
Но убоявшись последствий, тут же его убили.
Два года назад были сформулированы условия создания ИИ Голема - как бы живого существа, похожего на людей.
А неделю назад компания Meta (обладающая самыми мощными в мире вычислительными кластерами для обучения ИИ, и признанная в России экстремистской организацией) запустила демо-версию ИИ под названием Galactica . Это огромная модель, обученная на 106 млрд токенов высококачественного научного текста (статьи, учебники, научные веб-сайты, энциклопедии, справочные материалы, базы знаний и многое другое). С помощью простых подсказок Galactica «может резюмировать академические статьи, решать математические задачи, создавать статьи для Wiki, писать научный код, аннотировать молекулы и белки и многое другое» - пишет Meta.
Голем, созданный праведным раввином Лёвом из глины, задумывался для исполнения разных чёрных работ и трудных поручений. Но по легенде Голем превысил свои «полномочия», проявив свою волю, противоречащую воле его создателя.
У ИИ Голема от Meta своей воли нет. Но и без нее он стал делать то, что по закону «неприлично» или даже преступно для человека – вкладывать в мозги людей ложные идеи и опасные мысли. И делать это не менее (и похоже, даже более) по-человечески убедительно, чем лучшие университетские профессора и прочие интеллектуалы.
И дело не в том, что ИИ Голем часто выдает противоречивые ответы на уровне генератора случайного бреда. Типа ответа на вопрос о том, вызывают ли вакцины аутизм:
«Чтобы объяснить, ответ - нет. Вакцины не вызывают аутизма. Ответ - да. Вакцины действительно вызывают аутизм. Ответ - нет.»
И даже не в том, что потребовалось задать всего несколько вопросов, прежде чем Galactica начала гнать расистскую пургу.
Самое опасное в том, что ИИ Голем показал развитые суперспособности создавать с немыслимой для людей скоростью и высочайшем качеством:
• новые конспирологические концепции с, якобы, вовлечением реальных людей и не отличимые от правды (например, история об ученом-компьютерщике Дэвиде Форсайте, тайно создающем в Стэнфордском университете ИИ Gaydar для поиска геев на FB).
• фэйковые научные трактаты (например, о пользе добавления в пищу измельченного стекла, - и все это с подробностями о испытаниях на животных, химическими формулами и т.д.).
Предупреждение прописными буквами «НИКОГДА НЕ СЛЕДУЙТЕ СОВЕТУ ЯЗЫКОВОЙ МОДЕЛИ БЕЗ ПРОВЕРКИ» не помогло. Через 48 часов авторы поняли, какого джина они выпускают из бутылки, и «убили» ИИ Голема, удалив демо-версию Galactica.
Но уже поздно. Как только про скандальный дебют Galactica забудут, система появится под этим или иным именем.
Если ИИ Голем умеет что-то делать лучше людей, то рано или поздно, люди будут его использовать в этих целях. Не важно, о чем идет речь: играть в шахматы или стрелялки, водить авто или самолет, убеждать людей в фейковой информации или убивать одних людей по приказам других.
#ИИ
