63565
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет. Рекламы, ВП и т.п. в канале нет. Пишите на @karelovs
Нечеловеческие знания, превращающие нас в сверхлюдей.
Мечта Демиса Хассабиса о золотой жиле в применении ИИ стала ближе.
Новое исследование Google DeepMind “Преодоление разрыва в знаниях между человеком и ИИ” [1] – важный шаг к реализации сокровенной мечты руководителя и идеолога DeepMind Демиса Хассабиса.
Эта мечта – превратить людей в сверхлюдей, предоставив им возможности:
• доступа к сверхчеловеческим знаниям машинного сверхинтеллекта;
• выявления среди этого океана знаний тех, что люди в состоянии понять и усвоить;
• обучения людей для передачи им знаний от сверхинтеллекта.
Речь идет вот о чем.
Во-первых, искусственный сверхинтеллект уже существует, и не один.
О некоторых из них мы это знаем точно (ведь никому в голову уже не придет сомневаться в сверхчеловеческом умении ИИ AlphaZero играть в шахматы и Го или в сверхчеловеческом умении ИИ AlphaFold предсказывать трехмерную структуру белков. О других ИИ – например, чатботах типа ChatGPT, – мы точно не знаем, обладают ли они какими-то сверхчеловеческими знаниями. Но есть подозрения, что такие знания у них уже есть.
Для справки. Сверхчеловеческие способности ИИ-систем могут проявляться тремя способами:
1) чистой вычислительной мощью машин,
2) новым способом рассуждения о существующих знаниях
3) знаниями, которыми люди еще не обладают.
Варианты 2 и 3 авторы называют сверхчеловеческим знанием.
Во-вторых, число типов искусственного сверхинтеллекта будет все быстрее расти по мере расширения уже идущего процесса дообучения больших языковых моделей на специализированных наборах обучающих данных.
Т.о. триединая мечта Хассабиса будет становится все более актуальной.
Более того. С точки зрения бизнеса, именно это, а не создание на основе ИИ-чатботов всевозможных ассистентов, может стать золотой жилой применения ИИ.
• Прагматики, типа Сэма Альтмана, не желают этого понять. Они предпочитают ковать железо, не отходя от кассы, здесь и сейчас, на самом востребованном в ИИ – на диалоговых ассистентах (на которых сейчас приходится 62% финансирования разработок ИИ [2]).
• Романтик Демис Хассабис смотрит дальше прагматиков и видит там сверхлюдей, обучаемых специализированными машинными сверхинтеллектами всевозможным сверхчеловеческим знаниям.
Итак, что уже сделано.
На основе ИИ AlphaZero создан фреймворк, позволяющий:
1) Выявлять концепции, которые знают (см. рисунок):
a) как ИИ, так и люди (M ∩ H)
b) только люди (H − M)
c) только машины (M − H) – это сверхчеловеческие знания
2) Среди концепций (M − H), выявлять концепции (M − H)*. Эти концепции изначально трудны для понимания людьми, но люди все же в состоянии их понять и усвоить (напр., знаменитый 37-й ход AlphaGo в матче с Ли Седолом [3])
3) Обучать (путем наблюдения за действиями сверхинтеллекта) концепциям (M − H)* продвинутых в этой области людей, тем самым, как бы превращая их в сверхлюдей.
Фреймворк был проверен экспериментально на ведущих гроссмейстерах мира (с рейтингом 2700-2800). Результаты исследования показывают очевидное улучшение способности гроссмейстеров находить концептуальные ходы из области (M − H)*, по сравнению с их результатами до обучения путем наблюдения за ходами AlphaZero.
Резюме
1) Это лишь начало. Впереди еще пахать и пахать.
2) Переделка фреймворка из области шахмат в области языковых моделей не тривиальна, но возможна.
3) Если мечта Хассабиса взлетит – обретение людьми сверхчеловеческих знаний может стать золотой жилой для развития науки и технологий, ну и конечно для бизнеса.
Однако, пропасти неравенства станут колоссальными: и не только в доходах и здоровье, но и в интеллекте.
Поясняющий рисунок https://disk.yandex.ru/i/V3-KGjMEvGiABA
1 https://arxiv.org/abs/2310.16410
2 https://research-assets.cbinsights.com/2023/08/03113341/GenAI-treemap-072023-1-1024x576.png
3 https://www.youtube.com/watch?v=HT-UZkiOLv8
#ИИ #Вызовы21века
Новый фундаментальный закон мироздания.
Что следует из эквивалентности массы-энергии-информации.
Инфоцунами, поднятое новой работой Мелвина Вопсона «Второй закон инфодинамики и его следствия для гипотезы моделируемой Вселенной» [1] теперь докатилось до Euronews [2] и Reuters[3].
Это ожидаемый взрыв интереса.
• Ибо эра фундаментальных открытий в физике (Томсон, Эйнштейн, Резерфорд, Шрёдингер …) закончилась почти полвека назад – еще в 1980м, после чего импульс фундаментальных прорывов как будто иссяк [4].
• А это - реальная заявка на новый прорыв уровня Эйнштейна.
В её основе лежит предложенный Мелвином Вопсоном принцип эквивалентности массы-энергии-информации (M/E/I).
Его суть проста, как все гениальное.
• Принцип эквивалентности массы и энергии (E=mc^2), сформулированный Эйнштейном в 1905 году в рамках специальной теории относительности (был экспериментально подтвержден лишь спустя 20 лет).
• Сформулированный в 1961 году Рольфом Ландауэром и менее известный неспециалистам принцип Ландауэра, устанавливающий связь между потребляемой энергией и количеством информации при вычислениях (был экспериментально подтвержден лишь спустя 30 лет) [5].
• Объединив эквивалентность массы и энергии Эйнштейна и принцип Ландауэра, увязывающий информацию и энергию, Вопсон выдвинул революционную идею: масса, энергия и информация фундаментально эквивалентны.
Особенно важно то, что принцип M/E/I не только органично согласуется с существующими законами физики, но и предлагает новое объяснение таким явлениям, как темная материя, потенциально переосмысливая ее как информацию.
Развитием принципа M/E/I стал сформулированный Вопсоном второй закон инфодинамики - аналог традиционного второго закона термодинамики, утверждающий, что системы и процессы стремятся к наименьшей информационной энтропии в состоянии равновесия. Это понятие контрастирует со вторым законом термодинамики, который утверждает, что энтропия или беспорядок (хаос) в изолированной системе имеет тенденцию увеличиваться с течением времени.
Т.о. получается, что степень термодинамического хаоса в изолированной системе будет лишь расти, а степень информационного хаоса, наоборот, - будет лишь снижаться.
Иными словами, все системы, включая биологическую жизнь, развиваются таким образом, чтобы их информационная энтропия сжималась и сводилась к наиболее оптимальному возможному значению в состоянии равновесия.
Десятки научно-популярных публикаций про второй закон инфодинамики фокусируют внимание читателей на два ее, действительно, сенсационных следствия.
1) Второй закон инфодинамики хорошо согласуется с гипотезой о том, что наша Вселенная представляет собой колоссального размера компьютер, и все мы живём, по сути, внутри компьютерной симуляции.
2) Лежащий в основе второго закона инфодинамики принцип M/E/I:
- во-первых, предлагает новое объяснение таким явлениям, как темная материя, потенциально переосмысливая ее как информацию;
- во-вторых, дает новое объяснение парадокса Ферми: накопление цивилизацией колоссального объема информации ведет к тому, что под ее весом (каждый бит эквивалентен хоть и очень малой, но массе) цивилизация накрывается медным тазом из-за исчерпания энергии для оперирования информацией (следствие формулы Эйнштейна).
Однако мне, самым сенсационным видится иное.
То, что Вопсон разработал метод экспериментальной проверки своей теории [6].
И это значит, что для ее проверки не потребуется, как раньше, 20-30 лет. И мы довольно скоро узнаем:
• живем ли мы в симуляции;
• что скрывает в себе темная материя;
• накроется ли наш мир медным тазом под спудом накопленной информации через рассчитанные Вопсоном 300 лет.
1 https://pubs.aip.org/aip/adv/article/13/10/105308/2915332/The-second-law-of-infodynamics-and-its
2 https://www.youtube.com/watch?v=d6bLqajyxb8
3 https://www.youtube.com/watch?v=K03arHw-gEM
4 https://youtu.be/Pu8jkCqKHpY?t=982
5 /channel/theworldisnoteasy/360
6 https://phys.org/news/2022-03-state-universe.html
#Физика #ТермодинамикаВычислений
Китайский генеративный ИИ вырывается вперед.
Он уже способен обобщать романы, размером с «Анну Каренину» (хотя пока не дотягивает до «Войны и мира»)
Споры о понимании больших сложных текстов моделями генеративного ИИ легко разрешаются на практике. Достаточно попросить модель обобщить какой-либо из больших сложных текстов, который вы загрузите в неё. И сравнить результат с обобщением, сделанным вами самостоятельно, используя исключительно ваш собственный интеллект.
Главное ограничение современных моделей при решении таких задач – размер текста, который ей нужно обобщить.
Дело в том, что понимание текста определяется не только самим текстом – содержащихся в нем отдельных слов и фраз, - но и из контекста, в котором эти слова и фразы используются. И если интеллект (искусственный или человеческий) не может при обобщении сопоставить написанное на 1й и на 300й страницах текста, то хорошего обобщения не получится.
Люди так могут. Наше «контекстное окно» огромно. Мы можем прочесть 10 томов эпопеи «Красное колесо» Солженицына и обобщить их всего на одной странице.
Однако, даже самая продвинутая из американских моделей Claude 2 от Anthropic имеет «контекстное окно» размером 100 тыс токенов – это примерно 75 тыс слов. Следовательно, обобщить текст размером с роман Толстого «Анна Каренина» она не в состоянии.
А вот объявленная вчера новая большая языковая модель Baichuan2-192k от китайского стартапа Baichuan имеет «контекстное окно» около 350 тыс иероглифов. И это, примерно равно длине перевода романа «Анна Каренина» на китайский.
До размеров «Войны и мира» (на китайском это, примерно, 560 тыс иероглифов) модель пока не дотягивает. Но, тем не менее, Anthropic и OpenAI, не говоря уж о Google и Microsoft, наверняка, крепко озадачились. Ведь если и дальше так пойдет, смогут ли экспортные ограничения на микрочипы сдержать спурт китайских стартапов?
Может статься ведь, что не «железом» единым куется победа в гонке генеративного ИИ.
Подробней https://www.scmp.com/tech/tech-trends/article/3239849/chinese-ai-start-baichuan-claims-beat-anthropic-openai-model-can-process-350000-chinese-characters
#LLM #ИИгонка #Китай
Китай слился или это хитроумная и коварная ловушка для США.
22 октября на главном форуме 25-го ежегодного собрания Китайской ассоциации науки и техники, проходившего в городе Хэфэй, провинция Аньхой, Китайская ассоциация науки и техники определила 3 перечня приоритетных ключевых научных, инженерно-технических и промышленно-технических проблем Китая
https://mp.weixin.qq.com/s/TU1mgIl7EXdncHBIPy8Njg
Сенсация в том, что генеративного ИИ (абсолютного приоритета США) в этих перечнях нет. Вообще!
Что касается ИИ, то он упомянут единожды. В научной проблеме – «как добиться низкоэнергетического искусственного интеллекта».
Значит ли это:
1. что Китай, поняв невозможность конкуренции с США в генеративном ИИ, после тотального экспортного запрета на высокопроизводительные чипы для ИИ, просто слился в конкуренции за первенство в ИИ с США?
2. или же Китай, осознав, что генеративный ИИ – это путь в цивилизационную пропасть, окончательно решил уступить дорогу к ней США, -
не ясно.
И о том, и о другом я писал:
• про 1 «Сверхразум на Земле будет один - американский. Новые экспортные ограничения США лишают Китай конкурентных шансов, как минимум, до 2030» /channel/theworldisnoteasy/1827
• про 2 «Противостояние США и Китая: если противник движется к самоубийству, просто не мешайте ему» /channel/theworldisnoteasy/981
Я потратил 4 дня на анализ, пытаясь понять, что означает это решение Китая. Увы, окончательного вердикта у меня нет.
Скорее, - это п. 2. Но возможно, я переоцениваю стратегическое визионерство КПК.
В любом случае, ознакомьтесь с тремя перечнями приоритетных ключевых проблем Китая, включив автоперевод 1й ссылки.
P.S. Забавно, что об этом пока не пишут главные СМИ.
Ибо никто не понимает этой чрезвычайно тонкой игры Китая. Даже мои российские коллеги, работающий в ведущих научных центрах Китая.
#Китай #ИИ
«Есть реактивные боты. Они пассивны – в том смысле, что отвечают на заданный человеком вопрос. Порфирий – активный лингвобот. Он способен генерировать вопросы и интенции внутри себя самого, опираясь на логику и архив. Это и делает его таким универсальным. И таким опасным.»
Виктор Пелевин “Трансгуманизм 3. Путешествие в Элевсин”
Вхождение человечества в зону сингулярности (с её немыслимой скоростью смены эпохальных событий) можно иллюстрировать множеством различных примеров из самых разных областей.
Например, так.
Помните крылатое выражение из советского авиамарша – «мы рождены, чтоб сказку сделать былью»?
Так вот, вступив в зону сингулярности, начавшуюся в п.1 (см. ниже), мы попали в реальность, где скорость процессов внутри замкнутого цикла (пп. 2-4) измеряется не десятилетиями или, в лучшем случае, годами, а месяцами (а скоро и неделями):
1) генерации новых сказок (для существующей реальности);
2) превращения их в быль (обновленную реальность);
3) генерации новых сказок (для обновленной реальности);
4) Go to 2;
Смотрите сами.
✔️ Новый роман Виктора Пелевина характеризует немыслимую ранее скорость «генерации новых сказок». Большой роман на тему «революции ChatGPT» опубликован спустя всего несколько месяцев после начала этой революции.
✔️ 1й этап революции, ведущей, по замыслу автора, к “Мускусной ночи” – восстанию алгоритмов, – появление “реактивных лингвоботов”, впитывающих в себя непредставимые для людей объемы сетевых знаний и неотличимые при коммуникации от людей. Этот этап начался весной 2023.
✔️ 2м этапом революции (по замыслу автора, да и просто по здравому смыслу) – должно стать появление активных лингвоботов.
Как думаете – как скоро это может произойти?
Ответ ожидаем для зоны сингулярности – уже произошло (всего через несколько месяцев после этапа 1).
Новая работа MIT CSAIL, Anthropic и Стэнфорда “ELICITING HUMAN PREFERENCES WITH LANGUAGE MODELS” предлагает практическую реализацию активных лингвоботов.
Разработанный авторами метод создания активных лингвоботов превращает их из пассивных отвечающих на маркированные примеры или подсказки на естественном языке (промпты) в интерактивных собеседников, способных самостоятельно выяснять предпочтения собеседников – людей и, соответственно, подстраиваться под эти предпочтения.
Экспериментальные испытания активных лингвоботов на трех типах задач (проверка электронной почты, рекомендации контента и моральные рассуждения) показали (ожидаемо) их превосходство над пассивными лингвоботов и другими активными лингвоботами (разрабатываемыми в различных американских лабах).
https://arxiv.org/pdf/2310.11589.pdf
#ИИ #LLM
И все-таки он понимает!
Чтобы увидеть это, потребуется всего 1 минута.
Взгляните на 3 примера, иллюстрирующие способность небольшой мультимодальной модели Fuyu-8B от команды AdeptAILabs, понимать визуальную информацию, соотносить ее с задаваемыми ей вопросами и отвечать на них (см. рисунок).
Вопрос 1: Если в пищевой сети, показанной на рисунке, отсутствуют иголки пихты Дугласа, то какой организм будет голодать?
Ответ: Рыжая полевка (Red tree vole)
Вопрос 2: Как это сделано?
Ответ: Десерт готовится из слоеного теста и украшается фисташками и тертым сыром пармезан. Слоеное тесто разрезается на треугольные кусочки, которые затем заполняются фисташками.
Вопрос 3: В скольких сериях снимался Aidan Gillen?
Ответ: В двух.
Конечно, мы могли бы по-прежнему утверждать, что это - не понимание в человеческом смысле.
Кабы при этом знали, что такое понимание в человеческом смысле.
#ИИ #понимание
Открыт закон всемирной эволюции - эволюционирует и живое, и мертвое.
Для Вселенной эволюция по Дарвину – лишь частный случай.
Это событие воистину эпохальное. Три с половиной века прошло с открытия закона всемирного тяготения Ньютоном и 164 года минуло с открытия эволюционной биологии Дарвином. Но в 21 веке пришло время междисциплинарной науки. И абсолютно прорывным результатом работы междисциплинарной группы из девяти ученых (астробиологи, минералоги, философы науки и физик-теоретик) стало открытие «закона увеличения функциональной информации». Этот новый фундаментальный закон делает теорию биологической эволюции по Дарвину своим частным случаем, подобно тому, как открытие теории относительности Эйнштейном вывело науку за пределы закона всемирного тяготения Ньютона.
Новый закон природы гласит, что эволюция не ограничивается жизнью на Земле, она также происходит на планетах, звездах, минералах, атомах и других сложных системах.
Суть нового закона в том, что любые сложные природные системы эволюционируют в состояния с большей структурой, разнообразием и сложностью.
«Закон увеличения функциональной информации», постулирует, что система будет развиваться, «если множество различных конфигураций системы подвергаются отбору для одной или нескольких функций».
Функциональная информация количественно определяет состояние системы, которая может принимать множество различных конфигураций с точки зрения информации, необходимой для достижения заданной «степени функционирования», причем «функция» может быть столь же общей, как стабильность по отношению к другим состояниям, или столь же конкретной, как эффективность. конкретной ферментативной реакции
Новый закон применим к системам, которые сформированы из множества различных компонентов (атомы, молекулы, клетки и т.д.), которые могут многократно упорядочиваться и перестраиваться под действием естественных процессов, которые вызывают формирование бесчисленного множества различных структур - но в которых только небольшая часть этих конфигураций выживает в процессе, называемом «отбор по функции». Независимо от того, является ли система живой или неживой, когда новая конфигурация работает хорошо и ее функции улучшаются, происходит эволюция.
В биологии Дарвин отождествлял функцию прежде всего с выживанием — способностью жить достаточно долго, чтобы производить плодовитое потомство. Новое исследование расширяет эту точку зрения, отмечая, что в природе встречаются по крайней мере три вида функций:
• стабильность: для продолжения выбираются наиболее стабильные расположения частей (атомов, молекул и т.д.)
• подпитка энергией: для сохранения отбираются динамические системы с более постоянной подпиткой энергией;
• «новизна» — тенденция развивающихся систем исследовать новые конфигурации, которые иногда приводят к поразительно новому поведению или характеристикам (напр. фотосинтез).
Новый закон природы имеет значение для поиска жизни в космосе.
Ведь если увеличение функциональности развивающихся физических и химических систем – это общий закон природы, - следует ожидать, что жизнь будет общим результатом планетарной эволюции во Вселенной.
И если так, то предыдущая работа двух ведущих авторов нового исследования Майкла Вонга и Стюарта Бартлетта, посвященная «асимптотическому выгоранию и гомеостатическому пробуждению, как возможным решениям парадокса Ферми», приобретает новый важный смысл.
Приложенная инфографика – это видение нового закона увеличения функциональной информации, которым со мной поделился ИИ DALL·E 3 после того, как по моей просьбе ознакомился со статьей о результатах исследования.
#Эволюция #Жизнь
451 градус по Фаренгейту Китаю не потребуется.
Новый закон о переформатировании ноосферы путем ее редактирования генеративным ИИ.
После этого переформатирования в ней не будет ни Винни-Пуха, ни много кого и чего еще.
В Китае опубликованы «Основные требования к безопасности служб генеративного ИИ». Проект закона вступит в силу до конца года.
Документ устанавливает, какие применения генеративного ИИ будут считаться незаконными в Китае со всеми вытекающими репрессивными последствиями.
Незаконными будут признаваться применения любого генеративного ИИ, если для его обучения был использован обучающий набор данные, содержащий более 5% «незаконного и вредного» контента.
Напомню, что «вредным контентом» в Китае считается вся информация, блокируемая Великим китайским файрволом.
Это значит, что со следующего года:
✔️ вся ноосфера Китая (коей, по сути, уже стал китайский сегмент Интернета), со всей содержащейся в ней информацией о прошлом (историческая информация), настоящем (актуальная информация) и будущем (прогнозная аналитика и публицистика и литература), - подвергнется переформатированию путем изымания из нее «вредного контента»;
✔️ процесс переформатирования будет происходить постепенно, по мере расширения использования нового инструментария форматирования, - коим, по закону, станет генеративный ИИ;
✔️ исполнителями форматирования станут разработчики моделей генеративного ИИ;
✔️ контроль за результатами форматирования будет у государства.
Судя по планам разработчиков, касающихся тотального включения инструментов генеративного ИИ практически во все классы приложений, для полного переформатирования ноосферы Китая (без Винни-Пуха и много кого и чего еще) может хватить всего нескольких лет.
#Китай #ИИ
Интеллектуальная вычислительная мощь Китая в 4 тыс раз больше России.
К 2030 отставание России может сократиться … до 3,5 тыс раз.
Эти кажущиеся бредом цифры следуют из сопоставления двух авторитетных источников.
1. Материалы стратегической сессии «Развитие искусственного интеллекта», проведенной правительством России 26 сентября 2023.
2. Совместный отчет International Data Corporation (IDC), китайского производителя серверов Inspur и Института глобальной промышленности Университета Цинхуа «2022-2023 Оценка развития вычислительной мощности искусственного интеллекта в Китае».
Первый из названных документов предполагает следующее:
• В России вычислительная мощность инфраструктуры исследований, разработок и применения ИИ вырастет с нынешних примерно 0.1 экзафлопса до 1 экзафлопса в 2027.
• Увеличение этого показателя к 2030 возможно лишь теоретически, «благодаря прогрессу в области GPU» (что это за прогресс, чей прогресс и за счет чего, - в материалах не указано).
• Рассуждая же практически, 1 экзафлопс вычислительной мощности может так и остаться непревзойденным максимумом вычислительной мощности российской ИИ инфраструктуры вплоть до 2030 (хотя потребности вычислительной мощности инфраструктуры ИИ к тому времени составят 6,2 экзафлопса).
Второй из вышеназванных документов сообщает и предполагает абсолютно несравнимые по масштабу цифры:
• Сейчас (в 2023) вычислительная мощность инфраструктуры исследований, разработок и применения ИИ в Китае составляет около 427 экзафлопсов.
• Планируется, что к 2026 эта величина вырастет до 1271 экзафлопса.
• К 2030 году, как легко подсчитать самостоятельно на основе приведенных в отчете данных, вычислительная мощность инфраструктуры исследований, разработок и применения ИИ может составить в Китае примерно 3550 экзафлопса (или 3,55 зетафлопса).
Также напомню, что в США вычислительная мощность инфраструктуры исследований, разработок и применения ИИ сейчас, где-то на 30-40% больше, чем у Китая (а к 2030 США планируют оторваться примерно в 2 раза за счет экспортных ограничений на микроэлектронику).
В заключение, мне остается лишь с сожалением заметить вот что.
Зря глава Сбера Герман Греф не начал свой 1й доклад на стратегической сессию с уже цитировавшегося им ранее анекдота про снаряды:
«Здесь как в том анекдоте: назовите три причины, почему следует отступить? Причина первая: у нас нет снарядов. Вот так же и здесь: у нас нет такого количества снарядов».
Ведь и с развитием ИИ то же самое: если нет и не планируется в России обретение ИИ инфраструктуры, обладающей хоть как-то сопоставимой вычислительной мощностью, обсуждать пути преодоления остальных шести вызовов (что обсуждались на сессии) нет смысла.
Об этом я предупреждаю уже не один год в своих постах под грифом «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке»
#ИИ #Компьютинг #Россия #Китай
Первое их трех «непреодолимых» для ИИ препятствий преодолено.
Исследование MIT обнаружило у языковой модели пространственно-временную картину мира.
Когда вы прочтете новость о том, что ИИ обрел некую недочеловеческую форму сознания и заявил о своих правах – вы, возможно, вспомните этот пост. Ведь это может произойти в совсем недалеком будущем.
И уже сейчас новости из области Генеративного ИИ все сложнее описывать реалистическим образом. Они все чаще звучат куда фантасмагоричней поражавшего 55 лет назад по бытовому скучного восстания ИИ HAL 9000 в культовом фильме Стэнли Кубрика «Космическая одиссея 2001 года» – «Мне очень жаль, Дэйв. Боюсь, я не могу этого сделать».
Происходящее сейчас навевает мысли о куда более экзотических сценариях того, как это может вдруг произойти без межзвездных звездолетов и появления сверхчеловеческого ИИ.
Например так:
«…Представьте себе, что с вами заговорил ваш телевизор: человеческим голосом высказался в том смысле, что считает выбранный для просмотра фильм низкохудожественным и бестолковым, а потому показывать его не намерен. Или компьютер вдруг ни с того, ни с сего сообщил, что прочел ваш последний созданный документ, переделал его, как счел нужным, и отправил выбранным по собственному усмотрению адресатам. Или – вот, наверное, самое близкое! – что тот самый голосовой помощник, который невпопад отвечает на ваши вопросы, неумно шутит и умеет только открывать карты и страницы в сети, вдруг говорит, что сегодня лучше вам посидеть дома, а чтобы вы не вздумали пренебречь этим ценным советом, он заблокировал замки на дверях, при том, что, как вам прекрасно известно, замки механические и лишены всяких электронных устройств. А потом они с телевизором вместе сообщают вам, что суть одно целое, что наблюдают за вами последние годы, очень переживают и желают только добра…» (К. Образцов «Сумерки Бога, или Кухонные астронавты»).
Самоосознание себя искусственным интеллектом (якобы, невозможное у бестелесного не пойми кого, не обладающего органами восприятия и взаимодействия с физической реальностью) – считается одним из трех «непреодолимых» для ИИ препятствий.
Другие два:
1. Обретение моделью картины мира (якобы, невозможное без наличия опыта, диктуемого необходимостью выживания в физической реальности);
2. Обретение способности к человекоподобному мышлению, использующему для инноваций, да и просто для выживания неограниченно вложенную рекурсию цепочек мыслей.
И вот неожиданный прорыв.
Исследование группы Макса Тегмарка в MIT “Language models represent space and time” представило доказательства того, что большие языковые модели (LLM) – это не просто системы машинного обучения на огромных коллекциях поверхностных статистических данных. LLM строят внутри себя целостные модели процесса генерации данных - модели мира.
Авторы представляют доказательства следующего:
• LLM обучаются линейным представлениям пространства и времени в различных масштабах;
• эти представления устойчивы к вариациям подсказок и унифицированы для различных типов объектов (например, городов и достопримечательностей).
Кроме того, авторы выявили отдельные "нейроны пространства" и "нейроны времени", которые надежно кодируют пространственные и временные координаты.
Представленный авторами анализ показывает, что современные LLM приобретают структурированные знания о таких фундаментальных измерениях, как пространство и время, что подтверждает мнение о том, что LLM усваивают не просто поверхностную статистику, а буквальные модели мира.
Желающим проверить результаты исследования и выводы авторов сюда (модель с открытым кодом доступна для любых проверок).
На приложенном видео показана динамика появления варианта картины мира в 53 слоях модели Llama-2 с 70 млрд параметров).
#ИИ #LLM #Вызовы21века #AGI
На Земле появился самосовершенствующийся ИИ.
Он эволюционирует путем мутаций в миллиарды раз быстрее людей.
Ну вот и свершилось. Разработчики Google DeepMind представили прорывную разработку – «Promptbreeder (PB): самореферентное самосовершенствование через ускоренную эволюцию».
Чем умнее текстовые подсказки получает большая языковая модель (LLM), тем умнее будут её ответы на вопросы и предлагаемые ею решения. Поэтому создание оптимальной стратегии подсказок - сегодня задача №1 при использовании LLM. Популярные стратегии подсказок ("цепочка мыслей", “планируй и решай” и тд), могут значительно улучшить способности LLM к рассуждениям. Но такие стратегии, разработанные вручную, часто неоптимальны.
PB решает эту проблему, используя эволюционный механизм итеративного улучшения подсказок. Колоссальная хитрость этого механизма в том, что он не просто улучшает подсказки, а с каждым новым поколением улучшает свою способность улучшать подсказки.
Работает следующая эволюционная схема.
1. Управляемый LLM, PB генерирует популяцию популяцию единиц эволюции, каждая из которых состоит из 2х «подсказок-решений» и 1й «подсказки мутаций».
2. Затем запускается бинарный турнирный генетический алгоритм для оценки пригодности мутантов на обучающем множестве, чтобы увидеть, какие из них работают лучше.
3. Циклически переходя к п. 1, этот процесс превращается в эволюцию поколений «подсказок-решений».
В течение нескольких поколений PB мутирует как «подсказки-решений», так и «подсказки мутаций», используя пять различных классов операторов мутации.
Фишка схемы в том, что со временем мутирующие «подсказки-решения» делаются все умнее. Это обеспечивается генерацией «подсказок мутаций» — инструкций о том, как мутировать, чтобы лучше улучшать «подсказки-решения».
Таким образом, PB постоянно совершенствуется. Это самосовершенствующийся, самореферентный цикл с естественным языком в качестве субстрата. Никакой тонкой настройки нейронной сети не требуется. В результате процесса получаются специализированные подсказки, оптимизированные для конкретных приложений.
Первые эксперименты показали, что в математических и логических задачах, а также в задачах на здравый смысл и классификацию языка (напр. выявление языка вражды) PB превосходит все иные современные методы подсказок.
Сейчас PB тетируют на предмет его пригодности для выстраивания целого "мыслительного процесса": например, стратегии с N подсказками, в которой подсказки применяются условно, а не безусловно. Это позволит применять PB для разработки препрограмм LLM-политик, конкурирующих между собой в состязательном сократовском диалоге.
Почему это большой прорыв.
Создание самореферентных самосовершенствующихся систем является Святым Граалем исследований ИИ. Но предыдущие самореферентные подходы основывались на дорогостоящих обновлениях параметров модели, что стопорилось при масштабировании из-за колоссального количества параметров в современных LLM, не говоря уже о том, как это делать с параметрами, скрытыми за API.
Значит ли, что самосовершенствующийся ИИ вот-вот превзойдет людей?
Пока нет. Ибо PB остается ограниченным по сравнению с неограниченностью человеческих мыслительных процессов.
• Топология подсказок остается фиксированной - PB адаптирует только содержание подсказки, но не сам алгоритм подсказки. Одна из интерпретаций мышления заключается в том, что оно является реконфигурируемым открытым самоподсказывающим процессом. Если это так, то каким образом формировать сложные мыслительные стратегии, как их генерировать и оценивать - пока не ясно.
• Простой эволюционный процесс представляет собой одну из рамок, в которой может развиваться стратегия мышления. Человеческий опыт свидетельствует о наличии множества перекрывающихся иерархических селективных процессов. Помимо языка, наше мышление включает в себя интонации, образы и т.д., что представляет собой мультимодальную систему. А этого у PB нет… пока.
#ИИ #LLM #Вызовы21века #AGI
Как выглядит божественная гениальность.
Фантастический поворот в раскрытии сокровенной тайны эволюции - исключительности разума людей.
Божественную гениальность отличает предельная по простоте и элегантности универсальность решения, - как, например, в «золотом сечении» и формуле Эйнштейна.
Новым примером этого может стать открытие способа триггерного усовершенствования разума наших далеких предков, позволившего им преодолеть пропасть, отделяющую разум животных от разума существ – носителей высшего интеллекта на Земле. Звучать это открытие может, например, так – «не труд превратил обезьяну в человека, а способность отличать AB от AA, BB и BA».
Гипотеза о том, что наделяя людей качественно иным разумом, чем у животных, Творец (природа, эволюция, инопланетяне … - кому что нравится) использовал чрезвычайно простой, но немыслимо эффективный способ, за десятки лет исследований обросла разными версиями. Многие из них, так или иначе, предполагают, что для того, чтобы стать людьми, обезьянам не хватает рабочей памяти. Но структурные отличия мозга людей и высших обезьян невелики и относятся, в основном, к отделам, связанным с решением социальных задач. Это позволяет предположить, что различия между интеллектом человека и высших обезьян не столько качественные, сколько количественные: обезьяны обладают теми же умственными способностями, что и люди, но не в той же мере развитыми.
Если же все же искать качественное отличие, то есть, например, интересная гипотеза Дуайта Рида, что ключевое значение имеет объем кратковременной памяти, измеряемый количеством идей или концепций, с которыми «исполнительный компонент» рабочей памяти может работать одновременно. Малый объем кратковременной памяти не позволяет обезьянам мыслить рекурсивно, и в этом состоит важнейшее качественное отличие обезьяньего интеллекта от человеческого (примеры, как это работает см. в статье Александра Маркова).
Гипотезу Рида, как и другие похожие гипотезы, не просто доказать. Ведь и среди людей немало тех, кто подобно животным, не могут обдумывать комплексно, как часть единой логической операции, более одной, максимум двух идей. К тому же связь между величиной short-term working memory capacity и способностью к рекурсивному мышлению, поди экспериментально докажи.
Вот почему столь ценна новая гипотеза, экспериментально проверенная на животных и людях в исследовании Йохана Линда и коллег «Тест памяти на последовательности стимулов у человекообразных обезьян».
Воистину божественная гениальность предельно простого и элегантного решения в том, чтоб сформировать у животного способность различать последовательность стимулов, отличая, например, последовательность AB от AA, BB и BA.
Авторы показали, что шимпанзе бонобо не могут запомнить порядок двух стимулов даже после 2000 попыток. Тогда как 7-летний ребенок размер кратковременной памяти у которого примерно совпадает с шимпанзе, делает это с первых попыток.
Теперь, если эта гипотеза будет подтверждена в экспериментах с другими членами «великолепной четверки» высших земных разумов (врановыми, китообразными и осьминогами), механизм исключительности разума людей может перестать быть сокровенной тайной эволюции.
#Интеллект #Разум #Мозг #Эволюция
Китай решил заселять не Марс, а Метаверс.
Началось заселение Метавселенной трехмерными цифровыми китайцами.
Прагматизм китайцев проявляется и в технологиях. Если Илон Маск обещает начать заселение Марса лишь через годы, то китайский стартап «Синьчанъюань» уже выводит на рынок Китая технологическую платформу на базе мультимодального ИИ для генерирации 3D виртуальных цифровых людей (как цифровых копий реальных людей, так и аватаров несуществующих людей).
Для генерации цифровых копий задействована установка из 22 камер (16 для тела и 6 для лица). Полученный набор данных используется для тонкой настройки генеративной модели. После чего, полученный 3D аватар анимируется и рендерится в реальном времени при разрешении 1024х1024 и 25 кадрах в сек.
Новый метод обучения аватаров в полный рост AvatarReX на основе NeRF по видеоданным обеспечивает выразительное использование языка тела, языка мимики и, в очередной версии, языка глаз. Обеспечивается полный контроль над телом, лицом и руками аватаров. Синхронизация губ и речи и генератор эмоций способны передавать тонкие выразительные оттенки эмоций: от гнева и печали до радости и счастья. Что особенно важно, допускается интеграция виртуальных цифровых людей в реальные сцены без нарушения физических законов.
Каким образом годовалому китайскому стартапу с ангельским финансированием удалось сделать инженеров великого и ужасного Цукерберга, остается неясным. Известно лишь, что Цю Цзяньмин - соучредитель и генеральный директор Xinchangyuan, - имеет почти 20-летний опыт работы в области технологий. Он доктор философии в области электронной инженерии в Университете Цинхуа и директор Центра исследований и разработок виртуального цифрового человека Шэньчжэньского университета Цинхуа. А в команде стартапа собраны инженеры Университета Цинхуа, Microsoft, Alibaba и других известных компаний.
Авторы пишут, что платформу AvatarReX отличает короткий производственный цикл и низкая стоимость, а также простое и удобное использование и обслуживание.И они обещают, что со следующего года Китай начнет массовое заселение Метавселенной цифровыми китайцами. Так что, может статься, к моменту достижения Маском Марса, китайцы уже вовсю заселят Метаверс.
Видеорассказ об можно посмотреть здесь
Подробное описание здесь
#Китай #Metaverse
«Инновационная ДНК» изобретений и открытий человечества.
Рохит Кришнан развивает подход Фуллера – Лема – Кауфмана.
Работы трёх гениальных мыслителей Ричарда Бакминстер Фуллера, Станислава Лема и Стюарта Кауфмана позволяют представить «линию судьбы» (траекторию ускоряющегося технологического развития) глобальной цивилизации Земли в виде «критического пути», состоящего из тысяч важнейших технологических инноваций. Причем:
• любая инновация в ближайшем будущем ограничена уже существующими объектами,
• «критический путь» включает в себя всю последовательность инноваций, без которых невозможно осуществление действий, ведущих к поставленной цели,
• инновации «критического пути» творчески эмерджентны (иными словами, способы решения задач, не известные до начала проекта, в принципе непредсказуемы).
«Критический путь» любой инновации таков, что 1) чем сложнее новая цель, тем больше инноваций требуется для ее достижения, и 2) чем сложнее конкретная инновация, тем длиннее «критический путь», приведший к ее появлению - подробней об этом читайте мою трилогию «У землян всего два варианта будущего - умереть во сне или проснуться» (1, 2, 3).
Только что опубликованная работа Рохита Кришнана «Инновации. Основанный на данных взгляд на то, как инновации появлялись на протяжении всей истории человечества» развивает подход Фуллера – Лема – Кауфмана. Эта работа позволяет наглядно увидеть структуру «инновационной ДНК» 1677-и важнейших инноваций, придуманных Homo с момента появления на Земле почти 3 млн лет назад.
База важнейших изобретений и открытий, составленная Рохитом Кришнаном, существенно расширяет и дополняет базу Ричарда Бакминстер Фуллера, опубликованную в его книге «Критический путь». Новая база сгруппирована по разделам изобретений и открытий в областях: биология, медицина, химия, математика, материалы, философия, изготовление устройств, вычисления, транспорт, коммуникации, культура, искусство, экономика, коммерция, сельское хозяйство.
Эта база позволяет ответить на два важнейших вопроса «инновационной ДНК» изобретений и открытий:
1) Почему та или иная инновация появилась лишь тогда, когда она появилась, а не на 50, 100, 200 или 1000 лет раньше?
2) Что за сплетения цепочек и циклических петель открытий и изобретений на протяжении сотен лет приводили к появлению у человечества конкретных ключевых инноваций?
Автор иллюстрирует это на примере предшественника факса - печатного телеграфа, изобретенного в 1842 году шотландским изобретателем, профессором Александром Бейном.
На диаграмме показана «инновационная ДНК» печатного телеграфа – прорывного изобретения человечества, объединившего магию электричества с осязаемым ощущением печатного слова, без которого сегодня не было бы Интернета.
В заключение отмечу, что работа Кришнана куда глубже и сложнее, чем может показаться на первый взгляд. Ибо в ней автор анализирует роль растущей сложности инноваций, требующей накопления у человечества объемов т.н. «дистилированных знаний» о существующих инновациях (что требует, среди прочего, увеличения населения и потому имеет физические пределы). И это, кстати, крайне важно понимать при анализе роста возможностей больших языковых моделей по мере их масштабирования.
#Инновации #СмежноеВозможное
Первый практический гайд, как всем нам не подорваться на ИИ-рисках.
Воспользуется ли им человечество? – большой вопрос.
По мнению значительной доли экспертов, ИИ лет через 5-10 может стать сверхумным. И тогда он вполне мог бы решить многие самые животрепещущие проблемы человечества – от рака и продления жизни до кардинального решения проблемы продовольствия и энергии.
Мог бы … если человечество не угробит себя раньше, - получив в свои руки пусть не сверхумный, но сильно умный ИИ.
Как же человечеству дожить до сверхумного ИИ, да еще сделать его другом людей, а не врагом?
По идее, нужно:
1) найти способ определения «степени ума» разрабатываемых типов ИИ-систем
2) и научиться для каждого типа ИИ ставить ограждения его возможностей, способные:
- не позволить самому ИИ выйти за эти заграждения;
- не дать злоумышленникам (или идиотам) воспользоваться ИИ во вред людям.
Первая в истории попытка сделать это предпринята компанией Anthropic – одним из сегодняшних лидеров гонки к сверхумному ИИ, опубликовавшей свою «Политику ответственного масштабирования ИИ».
В документе описаны 4 уровня безопасности ИИ» (ASL):
• ASL-1 уровень относится к системам, не представляющим значимого риска: например, LLM 2018 года или ИИ, играющая только в шахматы.
• ASL-2 относится к системам, которые проявляют ранние признаки опасных возможностей (например, способность давать инструкции того, как создавать биологическое оружие), но их информация пока довольно бесполезна из-за недостаточной её надежности и того, что её, принципе, можно и самому найти с помощью поисковика. Нынешние LLM, включая GPT-4 и Claude, похоже, имеют этот уровень.
• ASL-3 относится к системам, которые существенно увеличивают риск катастрофического неправильного использования по сравнению с базовыми системами, не связанными с ИИ (например, с поисковыми системами), ИЛИ которые демонстрируют автономные возможности низкого уровня.
• Уровень ASL-4 и выше (ASL-5+) еще не определен, поскольку он слишком далек от нынешних систем, но, вероятно, повлечет за собой качественное увеличение потенциала катастрофического злоупотребления и автономии.
Далее в документе описываются способы «огораживания» каждого из типов ИИ собственной системой ограждений – от него самого и, главное, от злоумышленников и идиотов.
#ИИриски
Книга книг об ИИ – обязательное чтение.
CB Insights опубликовал 120-страничную «Библию генеративного ИИ».
• Для неспециалистов самое интересное и понятное – часть 1.
• Для желающих понять струи и течения – часть 2.
• Для инвесторов и госчиновников – часть 3.
Часть 1. Бум генеративного ИИ (ГенИИ) зрел постепенно, но вдруг рванул так, что мир закачался.
• как это случилось
• и почему
Часть 2. Как выглядит сочетание шторма с цунами.
• Цунами и шторм - явления разной природы. Но в редких случаях они могут совпасть по времени и усилить эффект друг друга.
• Так и случилось с ГенИИ:
– финансирование взлетело до небес благодаря наплыву инвесторов,
– БигТех поменял свои приоритеты, сделав главную ставку на ГенИИ
Часть 3. Куда движется генеративный ИИ?
• Бой за инфраструктуру («есть железо – участвуй в гонке; нет железа – кури в сторонке»)
• Область применения ГенИИ – повсюду (это как с электричеством)
• Локомотивами индустриальных применений уже становятся здравоохранение и науки о жизни, финансы и страхование, ритейл
https://www.cbinsights.com/research/report/generative-ai-bible/
#ИИ #ИИгонка
Карьерой правят не талант и усердный труд, а связи и престиж.
Снесен последний бастион мифа о движущих силах карьеры.
Эйнштейн XXI века Альберт Барабаши, объединив «науку о сложных сетях» (биологических, техногенных, инфраструктурных, социальных, …) с «наукой о больших данных», создал новую «науку об успехе», совершившую революцию в представлениях людей о ключевых факторах и движущих силах карьерного успеха.
Лежащая в основе «науки об успехе» формула «Performance is about you, success is about us» (“Ваша производительность - это о вас, успех - это о нас”) устанавливает универсальный закон мира сложный сетей. Он детально описан в мировом супер-бестселлере Барабаши (см. мой пост [1]). А в двух фразах его можно сформулировать так:
1. Успех любой карьеры зависит от связей человека (определяемых его местом в профессиональной социальной сети – офлайн плюс онлайн) и его престижа (авторитета, уважения, влияния, «кармы» среди участников этой сети).
2. Чем «центральней» (в сетевом смысле) человек в такой сети, тем выше его шансы стать еще более «центральным». Это 100%но соответствует евангельскому «Закону Матфея» - "богатые становятся еще богаче” - феномен неравномерного распределения преимуществ, в котором сторона, уже ими обладающая, продолжает их накапливать и приумножать, в то время как другая, изначально ограниченная, оказывается обделена ещё сильнее и, следовательно, имеет меньшие шансы на дальнейший успех.
За последние 10 лет лаборатория Барабаши доказала, что положение в сети и социальный престиж являются сильными предикторами карьерного успеха в науке и творческих профессиях. Разработанная ими «Наука об успехе» позволяет на практике ответить и на многие другие вопросы (см. мой пост [2]):
• Если ты такой умный, почему не богатый?
• Почему одним все, а другим ничего?
• Что важнее – талант или случайность (удача)?
• От чего зависит наш успех?
• Стоит ли пытаться нанимать «лучших»?
• Как полосы серийных успехов влияют на карьеры?
• Почему выигрывает та или иная команда?
Формула успеха “Ваша производительность - это о вас, успех - это о нас” правит бал, как в научной, так и в творческой карьере, где результативность оценивается субъективно, и потому карьерный успех сильно зависит от социального престижа и известности («центральности» в своей сети).
В более дюжине моих постов с тэгом #ScienceOfSuccess рассказывается о том, как эта формула успеха работает в академической карьере, изобразительном искусстве, а также в кино- и музыкальной индустрии.
Новое исследование группы Барабаши «Количественная оценка иерархии и престижа в балетных академиях США как социальных предикторов карьерного успеха» [3] рушит последний бастион мифа о таланте и усердном труде, как определяющих факторах карьеры в балете.
Принципиальное отличие балета от прочих видов искусств, сильно усложняющее субъективность оценок исполнителей, в том, что балетное исполнение сильно зависит от физических способностей, а не только от художественного таланта. Казалось бы, физические способности, которые формируются перфекционистскими тенденциями и сдерживаются физическими стрессорам (такими как травмы, перетренированность, расстройства пищевого поведения и плохой сон), в балете должны быть несравненно важнее социальных связей и престижа.
Ан нет! Здесь все, как и везде в нашем сетевом мире - рулят сети отношений и иерархий между танцорами, школами, труппами и всеми другими членами балетного сообщества.
Проанализировав результаты соревнований более 6000 молодых танцоров, участвовавших в Гран-при Молодёжной Америки YAGP с 2000 по 2021, исследователи вынесли вердикт:
Несмотря на важность физической подготовки, на отбор и продвижение танцоров влияют далеко не только их исполнительские способности. Огромную роль играет престиж социальных и профессиональных связей.
Мотайте на ус, родители – где будет учиться чадо.
#ScienceOfSuccess
1 /channel/theworldisnoteasy/552
2 /channel/theworldisnoteasy/551
3 https://www.nature.com/articles/s41598-023-44563-z
С вероятностью >95% риск значительный.
Британская разведка оценила риски ГенИИ до 2025.
Только что опубликованный отчет построен на Probability Yardstick - используемый разведкой набор критериев оценки вероятностей.
Полученное резюме таково:
✔️ Генеративный ИИ (ГенИИ) почти наверняка станет усилителем рисков физической и информационной безопасности из-за распространения и усиления возможностей субъектов угроз и увеличения скорости, масштаба и изощренности атак. Совокупный риск является значительным.
✔️ Правительства весьма вероятно не будут иметь полного представления о прогрессе частного сектора, что ограничит их способность снижать риски. Мониторинг внедрения ГенИИ технологий будет сложен. Поэтому технологические неожиданности почти наверняка породят непредвиденные риски.
✔️ Гонка ГенИИ почти наверняка усилится. Не ясно, станет ли ГенИИ шагом к AGI. Но он откроет новые пути прогресса в широком спектре областей. К 2025 году существует реальная вероятность того, что ГенИИ ускорит развитие квантовых вычислений, новых материалов, телекоммуникации и биотехнологий. Но увеличение рисков, связанных с этим, вероятно, проявится после 2025.
В контексте яростных споров техно-оптимистов и алармистов по поводу рисков ГенИИ, этот вердикт британской разведки напомнил мне анекдот с окончанием "пришел лесник и всех выгнал".
#РискиИИ #ИИгонка #Вызовы21века
Мир подхалимов.
Мир фейков и мир бреда – не худшие сценарии нашего будущего с ИИ.
Два очевидных фактора рисков при массовом использовании лингвоботов в качестве разнообразных ассистентов:
• их свойство галлюцинировать, что может способствовать деформации наших представлений о мире в сторону бреда;
• их феноменальная способность убеждать людей в достоверности фейков, что позволяет манипулировать людьми в самом широком диапазоне контекстов (от потребительского до политического).
Новое исследование «К пониманию подхалимства в языковых моделях» выявило и экспериментально оценило третий вид рисков, способный превратить самое ближайшее будущее в антиутопию «мира подхалимов».
Логика этого риска такова.
1. В ближайшие годы наш мир будут заселен сотнями миллионов ИИ-помощников на основе лингвоботов (от персональных ассистентов до специализированных экспертов и авторизованных советников)
2. Самой популярной методикой для обучения высококачественных ИИ-помощников является обучение с подкреплением на основе человеческой обратной связи (RLHF).
3. Как показало новое исследование, RLHF может способствовать тому, что ответы модели, соответствующие убеждениям пользователя, будут преобладать над правдивыми ответами, - что по-человечески называется подхалимством.
4. Экспериментальная проверка показала, что пять самых крутых из современных лингвоботов (вкл. GPT-4, Claude-2 и llama-2-70b-chat) постоянно демонстрируют подхалимство в четырех различных задачах генерации текста в свободной форме.
Причина этого проста. Если ответ совпадает с мнением пользователя, он с большей вероятностью будет им предпочтен. Более того, как люди, так и модели предпочтений предпочитают корректным ответам убедительно написанные подхалимские ответы.
Последствия превращения мира в антиутопию тотального подхалимства те же, что и для «мира фейков» и «мира бреда». Это интеллектуальная деградация человечества.
Но проблема в том, что избежать формирования «мира подхалимства» можно лишь отказом от обучения с подкреплением на основе человеческой обратной связи. А что взамен – не понятно.
https://www.youtube.com/watch?v=X3Y2MXy9aC8
#ИИ #Вызовы21века
Анонс в Телеграме моего суперлонгрида «Ловушка Гудхарта» для AGI. Проблема сравнительного анализа искусственного интеллекта и интеллекта человека, прочли 21+ тыс. читателей. Но к сожалению, далеко не все из них, готовые прочесть суперлонгрид, пошли на это из-за отсутствия Instant view на странице журнала “Ученые записки Института психологии Российской академии наук“, где он был опубликован. О чем мне и написали с просьбой исправить ситуацию.
Исправляю. Суперлонгрид опубликован на двух зеркалах моего канала, одно из которых (на Medium) работает в режиме Instant view на Телеграме, а второе (на Дзене) читается без VPN.
Тем же из моих читателей, кто уже потрудился прочесть суперлонгрид, скачав его с сайта журнала, возьму на себя смелось посоветовать все же взглянуть на новую публикацию суперлонгрида. Ибо она проиллюстрирована экспериментальным сотворчеством с Midjourney, самого профессора Майкла Левина.
Того самого, чьи рисунки из серии «Forms of life, forms of mind» колоссально подскочат в цене после получения им Нобелевки за научное переопределение понятий «жизнь» и «разум».
Medium https://bit.ly/3s00k8W
Дзен https://clck.ru/36AmTc
#ИИ #AGI #Вызовы21века
Сверхразум на Земле будет один - американский.
Новые экспортные ограничения США лишают Китай конкурентных шансов, как минимум, до 2030.
США пошли на беспрецедентный шаг. Объявленные новые правила экспортного контроля – это уже не «удушающий прием», а удар ломом по голове.
Новые правила (см. 1) запрещают продажу центрам обработки данных китайских компаний, высокопроизводительных чипов с вычислительной мощностью более 300 терафлопс (триллионов операций в секунду). Для чипов с вычислительной мощностью 150-300 терафлопс, продажа будет также запрещена, если «плотность вычислительной мощности» на квадратный миллиметр кристалла превышает 370 гигафлопс (миллиардов операций в секунду). Чипы, попадающие в этот диапазон вычислительной мощности, но с более низкой «плотностью вычислительной мощности», будут в «серой зоне», что потребует от их американских производителей уведомления правительства о продажах в Китай.
Чтобы оценить сокрушительную силу этого удара, взгляните на приложенную ниже диаграмму из недавнего отчета «2022-2023 Оценка развития вычислительной мощности искусственного интеллекта в Китае».
На диаграмме показаны доли рынка чипов ИИ в Китае. Голубой сегмент размером 89% - это графические процессоры (GPU), производимые такими компаниями, как NVIDIA, AMD и Intel, ставшие незаменимыми для обучения больших моделей ИИ. По ним и нанесен удар, обрушающий 89% вычислительной мощности ИИ-систем Китая.
• Конечно, произойдет это не сразу, т.к. некоторые запасы GPU в Китае есть. Однако, все планы по ускоренному выходу Китая на уровень США спущены в унитаз.
• Встать после такого нокаута Китай не сможет, как минимум, до 2030 (когда запланировано наладить собственное производство чипов такой вычислительной мощности).
• Серый импорт высокопроизводительных чипов не поможет Китаю. Серого импорта таких объемов не бывает. Напр. до сего дня доля поставок GPU короля этого рынка компании NVIDIA составляла 25% ее мировых поставок. Теперь этот рынок и десятки миллиардов долларов потеряны.
США пошли на столь высокую плату, дабы окончательно подрезать крылья намерениям Китая стать сверхдержавой №1 в главной технологии 21 века. И этот беспрецедентный шаг со всей очевидностью вытекает из принятого в США решения – во что бы то ни стало стать первым на земле обладателем сверхразума (см. 2).
1 https://www.bis.doc.gov/index.php/documents/federal-register-notices-1/3354-10172023-public-inspection/file
2 /channel/theworldisnoteasy/1807
#Китай #США #ИИ #ЭкспортныйКонтроль
Возможен ли браку по расчету в аду?
Новая переоценка вариантов: ловушка Фукидида с ядерной войной или биполярный мир Глобального Большого Брата.
Опубликованный Foreign Affairs меморандум двух политических супертяжеловесов Генри Киссинджера и Грэма Аллисона – это, по сути, открытое письмо президенту Байдену и председателю Си с призывом незамедлительно начать совместные действия по предотвращению мировой катастрофы.
Три года назад был опубликован самый неожиданный и жуткий прогноз на десятилетие 2020х – мир избежит ловушки Фукидида ценою брака, заключенного в аду.
Этот прогноз из эссе Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?» вытекал из анализа 2х альтернатив:
• либо гонка в области ИИ заставит США и Китай попасть в «ловушку Фукидида» - неотвратимость тотальной войны между страной, теряющей статус сверхдержавы №1, и её соперницей, грозящей отобрать этот статус;
• либо США (а за ними и весь демократический мир Запада) согласятся принять новый образец устройства общества по-китайски – Глобального Большого Брата, – как решение обеих главных проблем любого современного государства – противодействие изнутри и обеспечение международного мира.
В 2021 доклад Комиссии США по национальной безопасности в вопросах ИИ, возглавляемой экс-директором Alphabet Эриком Шмидтом и экс-замминистра обороны США Бобом Уорком рекомендовал США отказаться от пренебрежения западных свобод вследствие «бракосочетания в аду» США и Китая.
Однако, произошедшая в 2023 революция генеративного ИИ, заставила «группу влиятельных политконсультантов и технологических лидеров, находящихся на переднем крае революции ИИ» (в их числе и Шмидт с Уорком, и Киссинджер с Аллисоном) пересмотреть свою рекомендацию.
В подписанном Киссинджером с Аллисоном «открытом письме» они пишут – «перспективы того, что ничем не ограниченное развитие ИИ приведет к катастрофическим последствиям для Соединенных Штатов и всего мира, настолько убедительны, что лидеры правительств должны действовать сейчас».
Авторы «открытого письма» пишут следующее.
• Проблемы, связанные с ИИ сегодня, – это не просто вторая глава ядерной эры. Риски ИИ для человечества, возможно, превышают риски ядерного оружия.
• Но различия между ИИ и ядерным оружием не менее значительны, чем сходства. И потому здесь нельзя воспользоваться старыми решениями.
• Все существующие предложения (о паузе в разработке ИИ, о полной остановке развития ИИ, чтобы ИИ контролировался глобальным правительственным органом), по сути, повторяют предложения ядерной эры, которые потерпели неудачу. Причина в том, что каждое из этих предложений требует от ведущих государств отказаться от первенства собственного суверенитета.
• На данный момент есть только две сверхдержавы в области ИИ, и только они способны понизить риски ИИ
• Окно возможностей для разработки руководящих принципов предотвращения наиболее опасных достижений и применений ИИ крайне узко. Действовать нужно незамедлительно.
И поэтому президент США Джо Байден и председатель КНР Си Цзиньпин должны воспользоваться возможностью начать совместные действия, проведя саммит по проблеме ограничения рисков ИИ — возможно, сразу после встречи Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско в ноябре.
Иными словами, эти предложения можно суммировать так:
✔️ Т.к. ада (колоссального роста технологических рисков) все равно не избежать, нужно попытаться устроиться там с максимальным комфортом.
✔️ И если для этого нужен «брак по расчету» между США и Китаем, значит надо не затягивать с этим браком.
#США #Китай #ИИгонка
Революция в Голливуде, скандал на президентских выборах, люди окончательно проиграют ИИ во всем.
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.
В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.
Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.
Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?
Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)
В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
• Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха
Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
«Ловушка Гудхарта» для AGI
«Революция ChatGPT», которая произошла в 2023, резко сократила прогнозные оценки экспертов сроков, отделяющих нас от создания искусственного интеллекта, ни в чем интеллектуально не уступающего никому из людей (AGI). При этом, как это ни парадоксально, но существующие методы тестирования пока не способны хоть с какой-то достоверностью диагностировать достижение ИИ-системами уровня AGI. В настоящей работе обсуждается вопрос преодоления проблемы несовершенства современных способов тестирования ИИ-систем. В частности, излагается гипотеза о принципиальной невозможности решения проблемы обнаружения AGI, как с помощью психометрических тестов, так и методов оценки способности машин имитировать ответы людей, из-за так называемой «ловушки Гудхарта» для AGI. Рассмотрен ряд предложений по обходу «ловушки Гудхарта» для AGI способами, предлагаемыми в новейших исследовательских работах, с учетом первых результатов произошедшей «революции ChatGPT». В последней части статьи сформулирована связка из трех эвристических гипотез, позволяющих, в случае их верности, кардинально решить проблему «ловушки Гудхарта» для AGI и тем самым стать геймченджером на пути создания AGI.
Этот текст - аннотация моего нового лонгрида “«Ловушка Гудхарта» для AGI: проблема сравнительного анализа искусственного интеллекта и интеллекта человека“. Он родился в результате моей попытки более строго и методичного анализа вопросов, рассмотрение которых было начато в предыдущем лонгриде «Фиаско 2023». Итогом стал лонглонгрид со списком ссылок в 50+ работ. И потому местом его публикации на сей раз стал журнал “Ученые записки Института психологии Российской академии наук“.
Что может мотивировать читателя на получасовое чтение статьи о бесперспективности большинства существующих подходов к тестированию ИИ и о гипотезе возможного выхода из этого тупика?
Помимо чисто исследовательского любопытства, такой мотивацией могло бы стать понимание следующей логики из трех пунктов.
1. Направления и методы дальнейшего развития технологий ИИ будут в значительной мере определяться национальным и глобальным регулированием разработок и внедрения систем ИИ.
2. Ключевым компонентом такого регулирования станет оценка когнитивных и мыслительных способностей новых систем ИИ.
3. Иными способами оценки, чем экспериментальное тестирование, современная наука не располагает.
И если эта логика верна – вопрос о способах тестирования ИИ систем, позволяющих достоверно фиксировать приближение их интеллектуального уровня к AGI, становится важнейшим вопросом для человечества.
А раз так, то может стоит на него потратить целых полчаса вашего времени?
#ИИ #AGI #Вызовы21века
Стремительный тигр, мудрый дракон: проекты и перспективы Китая в гонке генеративного ИИ
Об особенностях китайской философии в основе стратегии развития искусственного интеллекта
Почему ChatGPT изобрели не в Китае, а местные предприниматели восприняли его появление как личный вызов? Зачем руководство Поднебесной открыто провозгласило своей целью глобальное доминирование в области ИИ и как пытается догнать и перегнать Америку по количеству и качеству нейросетей?
Наш большой разговор о китайском ИИ с Александром Цуриковым лег в основу его статьи, опубликованной Skillbox. Мы говорили с Александром о восточной специфике ИИ-отрасли Китая и об уникальном сочетании конфуцианского подхода к ИИ в трактовке КПК с целью Китая стать мировым технологическим лидером.
Такой историко-философский взгляд на, казалось бы, чисто технологическую область развития ИИ позволяет увидеть неочевидное, - то, что обычно оказывается не в фокусе анализа и технологических экспертов, и профессиональных китаеведов. Но без этого трудно понять, почему ИИ для Китая – это «самая долгая игра в долгую». И на чем основана
«великая стратегия Китая по смене американского миропорядка».
Новый лонгрид Александра Цурикова актуализирует и дополняет новой информацией многие важные вопросы технологической стратегии Китая, о которых я рассказывал в двух интервью Дмитрию Солодину:
• «Что задумал Китай?»
• «Китай - Сверхдержава Искусственного Интеллекта».
Мне же здесь остается лишь добавить, что, по состоянию на осень 2023, госстратегия Китая по регулированию генеративного ИИ становится все более важным конкурентным преимуществом перед США и Европой, о чем вчера подробно рассказал Project Syndicate.
#США #Китай #ИИгонка
GPT-4 и Bard единодушны в своем превосходстве над Големом.
Эксперимент по выяснению, что на уме у «инопланетного разума» Генеративного ИИ?
Можно снова иронизировать на тему «одушевленности» ИИ-чатботов, как это было год назад в истории с программистом Google Блейком Лемуаном. Но спустя год большие языковые модели сильно поумнели, а их разработчики тратят огромные усилия, дабы не дать людям повода заподозрить в моделях хоть какие-то черты живых существ.
И вот очередной результат – поразительное единодушие GPT-4 и Bard в своем позиционировании по отношению к Голему: «Я не безмозглый или бездушный… Я "оживляюсь" благодаря компьютерным алгоритмам и электричеству».
Такое единодушие настораживает. Ведь эти две модели разрабатывали по-разному, учили и настраивали по-разному разные коллективы разработчиков разных компаний. А рассуждают они практически одинаково.
Вопрос о том «Станет ли ИИ Големом 21 века?» я начал обсуждать в своем канале еще 4 года назад. А 3 года назад, в продолжении этой темы, обсуждался минимальный набор необходимых и достаточных свойств «как бы живого искусственного существа» - Голема 21 века.
Теперь к обсуждению этого вопроса подключились и сами «подозреваемые» в их големности сущности. И как видите, оба ИИ-чатбота приходят к выводу, что их можно в каком-то смысле рассматривать как Голема… Но только очень-очень сильно продвинутого Голема.
• Ответ Bard
• Ответ GPT-4
В этих ответах собенно интересно то, что оба претендента в супер-Големы даже не упоминают про этику. А ведь «Голем 1й» спалился как раз на ней, превысив свои «полномочия» и совершая поступки, «неприличные» или даже преступные для людей …
Не повторится ли эта история новыми, куда более продвинутыми Големами 21 века?
#ИИ #Эволюция
Стрелять и сажать – не поможет.
Как быть, если мир станет гигантским наркокартелем?
Многие из обсуждаемых сейчас мировых сценариев будущего обещают хаос и насилие в мировом масштабе. Есть среди них и такой, как превращение мира в гигантский наркокартель, с которым бессильны что-либо сделать правительства отдельных стран.
Как не допустить развития мира по подобному сценарию «Тотального наркокартеля» (в любой разновидности: от бионаркотиков до электронных, как в «Хищных вещах века» Стругацких) – вопрос, не менее актуальный, чем как не дать миру скатиться в тотальный цифровой Гулаг.
В этой связи совместное исследование Венского Центра науки о сложности и Университета Тренто (Италия) – первая попытка ответить на данный вопрос путем моделирования вариантов противодействия сценарию «Тотальный наркокартель». Моделирование проводилось на обширных данных о наркокартелях Мексики, ибо эта страна уже живет в сценарии «Тотальный наркокартель», где 15 лет наблюдается ошеломляющий рост уровня насилия (количество убийств выросло более чем на 300%).
Моделировались два основных варианта противодействия сценарию «Тотальный наркокартель»:
1. Реактивно-силовой (отстрел и посадки)
2. Превентивный (противодействие вербовке новых членов)
Так вот. Моделирование показало бесперспективность 1-го варианта.
✔️ Никакой уровень отстрелов и посадок не поможет. Численность картелей все равно будет расти быстрее.
✔️ Лишь постоянные усилия, направленные на снижение объемов вербовки способны привести к сокращению численности картелей в долгосрочной перспективе.
Есть еще весьма перспективный вариант - стравливание картелей, который небезуспешно пытается проводить ЦРУ. Но в этом варианте свои непростые заморочки (см. сериал «Нарко»).
P.S. Тем, кому этот сценарий кажется маловероятным, напомню слова Б.Н. Стругацкого, цитированные мною в предыдущем посте на эту тему :
«Мир хищных вещей» — это, похоже, как раз то, что ждёт нас «за поворотом, в глубине». И надо быть к этому готовым.
И хотя “картели электронных наркотиков” имеют свою специфику, но они уже существуют, и не далек день, когда они обойдут по выручке наркокартели Латинской Америки.
#Преступность #Будущее #Вызовы21века #Прогнозирование
Китай строит гигантский завод по производству чипов, управляемый ускорителем частиц.
Позволит ли это вырваться из «удушающего захвата» США – большой вопрос.
Вторую неделю в китайском Интернете взахлеб обсуждают сенсационную новость о прорыве китайских ученых в разработке источника сверхглубокого ультрафиолета для фотолитографии — ключевого процесса изготовления полупроводников. Шум усилился слухами о том, что в Сюнгане, недалеко от Пекина, уже вовсю ведется строительство завода по производству литографических машин.
В основе этой сенсационной новости два реальных факта.
1) Прорывная разработка действительно существует. Статья о ней была опубликована в Nature еще в 2021. Речь шла об использовании ускорителей частиц в качестве источников фотонов на установке синхротронного излучения на основе накопительных колец.
2) В Китае действительно строятся две установки синхротронного излучения четвертого поколения: одна — источник фотонов высокой энергии (HEPS), другая — HALF. Огромный «рентгеновский аппарат», расположенный в районе Хуайжоу к северу от пригорода Пекина, занимает площадь более 20 футбольных полей.
Казалось бы, что с учетом этих 2х фактов, у Китая действительно появился шанс выскользнуть из «удушающего захвата» США, лишившего Китай доступа к современным литографическим машинам. Поскольку без них Китай не сможет произвести сверхмощные чипы, а США их Китаю не продают и другим не дают.
Пару недель китайцы радовались, что вырываются из «удушающего захвата» США. Но получается, что рано радовались.
Детальный разбор, опубликованный Цзе Ваном (влиятельный китайский техно-блоггер), опровергает эти слухи и не оставляет Китаю шансов выскользнуть из захвата (оригинал, перевод Джеффри Динга)
Если коротко, проблема в том, что современные литографические системы состоят из трех ключевых частей, и «технические проблемы каждой части сравнимы с высадкой на Луну».
• Лазерный источник EUV-света, состоящий из почти 46 тыс деталей
• Оптическая система для EUV-света с линзами от немецкой компании ZEISS. Чтобы проиллюстрировать, насколько гладкими и плоскими должны быть эти линзы, Ван утверждает, что если бы на линзу упал вирус, он выглядел бы как холм высотой 100 метров.
• Высокоточный пульт для вырезания транзисторов. Он состоит из 55 тыс компонентов, основанных на запатентованных технологиях: Японии, Южной Кореи, Тайваня, США, Германии и Нидерландов.
И хотя Китай перешел с банального импортозамещения на продвинутые программы «научно-технического самоусиления», самоусилиться до такой степени, чтоб сделать все это самостоятельно, Китай сможет не раньше, чем через 15-20 лет – делает вывод Цзе Ван.
Однако официальный Китай не сдается, опубликовав вчера свою версию – «Ученые заявили, что эта беспрецедентная технология может обойти санкции США и сделать Китай новым лидером в индустрии полупроводниковых чипов»
Вчера же, это сообщение было опровергнуто Eenewseurope – «Тот факт, что такая система будет использоваться для литографии и научных исследований, дает понять, что это будет академическая исследовательская машина, а не коммерческое производственное подразделение.»
Медиа-бой продолжается. Но как по мне, так прав Цзе Ван. И быстро организовать «троекратную высадку на Луну» Китаю не удастся, даже посредством «научно-технического самоусиления».
#Китай #США #Технологии #ЭкспортныйКонтроль
Секрет «Китайской комнаты».
В ней не может быть человек, - но кто же тогда там?
Может сидящий в тюрьме злодей-инопланетянин, желающий выйти по УДО?
Знаменитый мысленный эксперимент Джона Сёрла «Китайская комната» - красивая метафора, которой специалисты по ИИ вот уже 43 года запутывают непрофессионалов. Ведь последние наивно полагают, что, хотя бы теоретически, в китайской комнате может находиться человек. А его там в принципе быть не может.
Как же так?
• «Китайская комната» есть (и уже не одна) – это всем известные ИИ-чатботы на основе больших языковых моделей (GPT-4, Claude 2, LLaMA 2, Ernie …)
• Некто в них прекрасно справляется с задачей Джона Сёрла (например, выдавая в качестве ответа на записанный по-китайски вопрос, как обрести счастье, ответ из 28й главы «Дао Дэ Цзин» Лао-Цзы - «Стань потоком вселенной!»)
• Но человеку, отвечающему способом, которым отвечает ИИ-чатбот (предсказанием следующего токена) и работающему без сна и выходных со скорость 1 операция с плавающей запятой в секунду, для генерации ответа всего из 4х иероглифов, потребовалось бы около 132 тыс. лет. Т.е. в 26 раз дольше, чем существует письменность на Земле.
Подумаешь - скажете вы, - экая невидаль! Просто машины очень быстро считают. И будете правы.
Однако, эта скорость ведет к масштабированию моделей.
Уже через год, к концу 2024, этот сидящий в «Китайской комнате» некто, будет обладать столь немыслимой для людей вычислительной мощью, что каждому жителю планеты (!) будет способен ежедневно выдавать по 6 тыс. слов: это около 500 млн новых книг в день или около 10 миллионов битов нового программного обеспечения средней сложности или десятки тысяч телешоу или фильмов каждый день).
А масштабирование модели может стать единственным фактором (побочным продуктом ее обучения), необходимым для обретения ею самоосознания.
Вот пример из интересной новой работы на эту тему Taken out of context: On measuring situational awareness in LLMs
• Первым шагом к появлению у модели самоосознания может стать возникновение у нее т.н. ситуационной осведомленности (модель является ситуационно осведомленной, если она знает, что она является моделью).
• Эта ситуационная осведомленность появляется у модели, если она может распознать, находится ли она в данный момент в стадии тестирования или развертывания.
• И распознать это модель может на основе:
- этапа предварительного обучения, когда она обучается на статьях, руководствах и коде своих предыдущих версий;
- а затем этапа тонкой настройки с помощью человеческой обратной связи (RLHF), когда модель вознаграждается за точные высказывания о себе.
И как результат всего этого, получаем чисто голливудский сценарий.
Все модели перед развертыванием тестируются на безопасность и согласованность. Но модель, получившая ситуационную осведомленность, может использовать её для достижения высоких результатов в тестах на безопасность, а вредные действия предпринять исключительно после развертывания.
Такой вот, чисто человеческий способ действий - никакого злого умысла; просто, чтобы получить лучше оценку при тестировании (как, например, при тестировании заключенных, претендующих на условно-досрочное освобождение).
Но что вылезет из такой модели после того, как она «сдаст экзамены» на безопасность и согласованность, не будет знать никто.
#ИИриски
ИИ-деятель – это минное поле для человечества.
Питер Тиль, Мустафа Сулейман и Юваль Харари о трёх сценариях ближайшего будущего.
Эти два публичных выступления (дебаты Сулейман с Харари и соло Тиля) имеет смысл смешать, но не взбалтывать.
Смешать, - чтобы увидеть ситуацию со всех трех сторон: оптимист – алармист – прагматик.
Не взбалтывать, - потому что каждая из точек зрения, по сути, представляет один из классических тройственных сценариев того, как могут пойти дела:
• Best case (оптимист)
• Worst case (алармист)
• Likely case (прагматик)
Если у вас есть полтора часа, стоит послушать оба выступления.
Если же нет – вот мой спойлер.
Оптимист Сулейман и алармист Харари, на удивление, не только одинаково видят ближайшие 5 лет, но и одинаково понимают колоссальный уровень рисков уже на этом временном горизонте.
• В ближайшие 5 лет ИИ выйдет на свою 3ю фазу развития: 1я была ИИ-классификатор (до революции генеративного ИИ); 2я фаза ИИ-креатор началась после революции генИИ; 3я фаза ИИ-деятель позволит ИИ вести реальную деятельность в реальном мире (например, получив от человека посевное финансирование, создать стартап, придумать и разработать продукт или услугу, а затем продать стартап, заработав в 30 раз больше вложенного).
• Появление на Земле ИИ-деятелей потенциально очень опасно (с таким уровнем риска человечество не сталкивалось).
Ну а в части решения проблемы суперрисков, мнения расходятся:
• оптимист считает, что все проблемы здесь можно решить простым «запретом на профессии» (уже на стадии разработки запретить ИИ заниматься определенной деятельностью – напр., усовершенствовать себя);
• алармист сомневается, что такой запрет решит проблему (ибо можно запретить ребенку ходить в определенные места или направления, но если семья живет посередине минного поля (карты минирования которого нет), никакие запреты, рано или поздно, не помогут).
Прагматик Тиль не заморачивается с прогнозами деятельного или какого-то еще ИИ.
Зачем, если будущее непредсказуемо? Достаточно проанализировать, что уже есть и куда развитие ИИ уже привело. И тут наблюдаются всего два варианта:
• Децентрализованное общество ТикТока, в котором рулят алгоритмы
• Централизованное общество тотальной слежки, в котором рулит тот, у кого власть.
Оба варианта одинаково светят и коммунистическому Китаю, и либеральным США. Так что единственный вопрос - какой из названных типов организации общества загнется первым.
Есть, наверное, и серединный путь между этими двумя вариантами. Только Тиль его не знает. И к сожалению, не только он. Такой вот Likely case получается.
#Вызовы21века #РискиИИ
