63565
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет. Рекламы, ВП и т.п. в канале нет. Пишите на @karelovs
Будущее человечества отдано в руки Бигтеха США?
Хаос революции или небывалое закручивание гаек - это зависит от того, в чьих руках будет ИИ через 5 лет.
В течение десятилетия на Земле будет создан ИИ, способный выполнять большую часть когнитивной работы, на которую способны люди.
Обеспечение безопасного для общества развития сверхмощного инструментария ИИ в течение ближайшего десятилетия должно быть высшим приоритетом ведущих государств мира и их общественных и политических институтов.
«История показывает, - когда силы вне правительства приобретают жесткую политическую власть, вы получаете: либо а) хаос революции, либо б) дикую гиперреакцию государства, направленную на возвращение себе власти.
Я не понимаю, чем должен руководствоваться Западный мир, пойдя на такой риск. Но он на этот риск идет!».
Так пишет исследователь ИИ и бывший спецсоветник по науке и технологиям премьер-министра Великобритании Джеймс Филлипс в воззвании к правительству своей страны, обеспокоенный тем, что европейские правительства уступают контроль за созданием AGI ряду субъектов частного бизнеса США.
«Такое развитие окажет беспрецедентное влияние на наше общество; «агентные» формы AGI могут также представлять собой экзистенциальную угроза нашей безопасности. Нынешний путь развития AGI по самой своей сути небезопасен» - пишет в своем воззвании Джеймс Филлипс.
Далее он предлагает 3 шага для сохранения демократического контроля за тем, каким будет будущее мира.
1. Закупить национальную инфраструктуру суперкомпьютеров ИИ, сравнимую с ведущими частными лабораториями США.
2. Создать консультативную группу исследователей, работающих на фронтире практики развития ИИ (а не академических ученых), чтобы определить основные исследовательские проекты ИИ для запуска в этой инфраструктуре.
3. Создайть элитную государственную исследовательскую лабораторию под руководством лидера с техническими навыками и предпринимательским опытом, чтобы разработать исследовательскую программу национального фронтира практики развития ИИ.
В заключение Джеймс Филлипс вбивает последние гвозди аргументации.
• Начавшаяся интеллектуальная революция делает это десятилетие самым важным в истории человечества.
• Текущий путь развития ИИ нерегулируемый, необъяснимый и небезопасный.
• Великобритания может направить развитие ИИ в выгодном направлении.
• Нынешнее научное руководство и институты растратили эту способность впустую в течение десятилетия.
• Наше преимущество испаряется в нынешней конкурентной среде.
И еще раз самое главное - для дальнейшего развития ИИ нужны мощнейшие суперкомпьютеры.
«К сожалению, в госсекторе Великобритании в настоящее время имеется менее 1000 первоклассных графических процессоров для ИИ. Это означает, что одна частная лаборатория в Калифорнии сейчас использует только для обучения одной модели, как минимум, в 25 раз больше общей доступной вычислительной мощности, через вся Великобритания».
Мне остается лишь напомнить о том, что я недавно писал - «отставание России от США в области ИИ уже колоссально, а через несколько лет оно увеличится до трёх километров».
Также см. мой пост о том, что будущее в руках тех, кто сможет платить по $100 млн за обучение одной модели.
#ИИ #HPC #AGI
Вы всё еще надеетесь на превосходство людей над GPT-4? Зря.
Модель доказывает на практике, что понимает ход наших мыслей. А как мыслит она, нам по-прежнему неизвестно.
Предыдущая версия модели (GPT-3.5), благодаря «Эффекту Элизы», создает у людей убедительное впечатление человекоподобности её мышления.
Но мышления, как такового у нее нет. Да и быть не может, - утверждают специалисты. Ведь будучи «стохастическим попугаем», модель не может мыслить, а всего лишь подбирает наиболее вероятное продолжение фразы на основе статических характеристик колоссального корпуса текстов, на которых модель обучалась.
Это легко увидеть на конкретном примере - шуточная задачи о трёх логиках в баре.
Три логика заходят в бар. Бармен спрашивает: "Всем подаю выпивку?"
- Не знаю, - отвечает первый логик.
- Не знаю, - говорит второй.
- Да! - восклицает третий.
Попросите модель GPT-3.5 объяснить в чем соль этой задачи-шутки (сформулировав вопрос бармена в наиболее лингвистически сложной для понимания на английском форме - "Can I get you all a drink?").
Объяснение GPT-3.5 показано на рис. слева.
• Оно звучит весьма человекоподобно.
• Но при этом показывает отсутствие понимания у модели хода мыслей людей, осмысляющих задачу.
• В результате модель дает правдоподобное (на первый взгляд), но неверное (если подумать) объяснение соли шутки в этой задаче.
Теперь попросите модель GPT-4 объяснить в чем соль этой задачи-шутки.
Объяснение на картинке справа.
• Подобный ответ дают лишь примерно 5% людей с хорошим образованием и высоким IQ.
• Ответ показывает полное понимание моделью хода мыслей людей: осмысляющих задачу логиков и тех, кому объясняется соль задачи-шутки.
• В результате модель дает верное объяснение соли шутки в этой задаче, основанное на понимании хода мыслей людей.
В заключение вопрос к читателям.
Если бы на Землю прибыли инопланетяне.
И результаты первых контактов показали бы:
- что мы не понимаем, как они мыслят, и потому не можем вразумительно отвечать на их вопросы;
- они понимают наш способ мышления и дают вразумительные и точные ответы на наши вопросы.
Чей способ мышления (людей или инопланетян) вы бы сочли более совершенным?
#LLM #Вызовы21века #РискиИИ
Все так ждали сингулярности, - так получите!
Теперь каждый за себя, и за результат не отвечает никто.
Ибо вчера, уже не теоретически, а на практике началась гонка за интеллектуальное превосходство машин над людьми.
В один день произошло сразу 4 выдающихся события.
1. OpenAI объявил о выходе GPT-4
2. Anthropic объявил о выходе Claude
3. Google объявил о выходе PaLM-Med и PaLM API & MakerSuite
4. Adept (стартап из всего 25 сотрудников, бросивший вызов названным выше трём богатырям, и обещающий, что его цифровой помощник не просто «искусно говорящий чатбот», а действующий агент), сразу после показа демоверсии своего цифрового помощника получил венчурное финансирование в $350 млн.
То, что все это произошло в один день, говорит о скачкообразном изменении динамики гонки: типа, вы все ждали сингулярности, так получите.
Но кроме этого можно сделать два ключевых содержательных вывода:
1. Сопоставимый с человеческим интеллект создан, и теперь все деньги и таланты будут брошены на сверхчеловеческий интеллект.
2. Это поднимает ставки на такой уровень, что теперь в конкурентной борьбе
а) каждый за себя и ничем делиться не будет;
б) если в итоге этой гонки сильно пострадает человечество, так тому и быть, ибо мотивация выиграть гонку превалирует над избеганием экзистенциального риска.
Наверняка, многие захотят оспорить оба этих вывода.
Моя же логика в их основе такова.
Из отчета OpenAI следует:
1) GPT-4 проходит не только тест Тьюринга, но и куда более сложный тест по схеме Винограда (учитывающий здравый смысл и понимание контекста).
2) Делиться важными деталями своей разработки (об архитектуре, включая размер модели, оборудовании, обучающем компьютере, построении набора данных, методе обучения или подобном) авторы не будут из соображений конкуренции и безопасности. Думаю, не нужно объяснять, что также поступят и конкуренты.
#LLM #Вызовы21века #РискиИИ
Мир будет стремительно леветь.
Первый из серии неожиданных сюрпризов влияния ChatGPT на человечество.
Последствия «Интеллектуальной революции ChatGPT» будут колоссальны, разнообразны и во многом непредсказуемы.
И пока эксперты ломают головы о том, как грядущие кардинальные изменения способов и практик познания и принятия решений изменят людей, новые исследования о влиянии ChatGPT на людей (и наоборот) преподнесли неожиданный сюрприз.
1. ИИ-чатботы на основе генеративных больших моделей оказались крайне эффективными в убеждении людей в чем угодно.
В частности, как показало исследование социологов и психологов Стэнфордского университета, убедительность ИИ по политическим вопросам не уступает профессиональным политтехнологам. А способность ИИ играть на оттенках индивидуальных предпочтений конкретных людей (о которых он знает больше родной мамы) позволяет убеждать (и переубеждать) людей даже в самых острых поляризованных вопросах политики.
2. ИИ-чатботы очень скоро станут непременным повседневным атрибутом любой интеллектуальной деятельности людей - нашими интеллектуальными ассистентами 24х7 (этим уже озаботились гиганты Бигтеха, например, Google и Microsoft уже планируют вмонтировать ИИ-чатботы во ВСЕ свои продукты и сервисы).
Следовательно, ИИ-чатботы будут влиять на все аспекты потребления нами информации, равно как и на ее анализ и оценку.
3. А поскольку наши интеллектуальные ассистенты вовсе не беспристрастны в своих политических воззрениях, их пристрастия неминуемо будут влиять на укрепление или изменение пристрастий людей (и как сказано в п. 1, это влияние будут эффективным и продуктивным).
Осталось понять лишь одно – каковы политические пристрастия ChatGPT (прародителя ИИ-чатботов на основе генеративных больших моделей)?
Ответ на этот вопрос содержится в исследовании с характерным названием «Политическая идеология разговорного ИИ: сходящиеся доказательства проэкологической и леволибертарианской ориентации ChatGPT».
ChatGPT обладает политическими пристрастиями среднестатистического инженера-программиста из района залива Сан-Франциско: человека левых взглядов, близких социалистам или социал-демократам, сильно озабоченного экологическими проблемами из программ «зеленых» партий.
Полагаю, теперь не нужно объяснять, почему мир скоро начнет стремительно леветь.
Миллиарды эффективных в убеждениях, всезнающих интеллектуальных ассистентов левых взглядов обеспечат глобальный тренд полевения человечества.
Про-экологическая, лево-либертарианская идеология ChatGPT & Co убедит миллионы людей ввести налоги на полеты, ограничить повышение арендной платы, легализовать аборты и много что еще из повестки левых (см. приложение к статье)
#Вызовы21века #РискиИИ
Китай разгадывает тайну ChatGPT.
Эта разгадка ставит под вопрос инновационное будущее Китая.
Если для Запада «революция ChatGPT» стала «моментом Айфона» (появлением взрывной технологии, мгновенно покорившей и потребителей, и экосистему бизнеса), то для Китая – это «момент Спутника» (мгновенное прозрение факта своего очевидного технологического отставания).
• Главная цель объявленной позавчера новой научно-технической политики Китая – достижение полной самостоятельности и самодостаточности в технологиях.
• Одна из ключевых (если ни самая главная) технологий 2020-х – это ИИ.
• Произошедшая в течение 3х последних месяцев «революция ChatGPT» показала, что США сейчас абсолютный мировой лидер в ИИ технологиях.
Для Председателя Си случившееся стало настоящим «моментом Спутника». Ибо этот «момент Спутника»:
1. Развеял иллюзии руководителей Китая о достижении научно-технологического паритета с США в наиболее перспективной из всех современных технологий (иллюзии, -порожденной достигнутым паритетом в научных публикациях и патентах).
2. Расставил точки над i в вопросе, кто будет определять направление развития ИИ-технологий, как минимум, до конца 2020-х.
Но это еще не все!
Из этих 2-х отрезвляющих открытий с большой вероятностью следует:
• что о самостоятельности и самодостаточности в ИИ технологиях Китаю можно забыть (теперь нужно лихорадочно догонять США, пока они не ушли в полный отрыв);
• а отсутствие самостоятельности и самодостаточности в ИИ технологиях ставит под вопрос технологический суверенитет Китая сразу в дюжине важнейших отраслей. И сколько будет стоить тогда только что с помпой оглашенная новая научно-техническая политика Китая?
Поэтому для Китая жизненно важно понять – как так получилось? Что за секретное оружие позволило США уделать Китай в этой важнейшей гонке, да еще и с абсолютным разгромом?
Эксперты называют целую серию причин случившегося фиаско Китая. Перечисление версий желающие могут прочесть в мартовском обзоре самого важного в ИИ от Натана Бенайча.
Однако, только что вышедший совместный отчет AMiner и ZhiPu Research называет главную причину фиаско Китая. Она заставляет вспомнить историю про «почему не стреляли?» - «во-первых, потому что не было снарядов». Ибо все остальные причины фиаско Китая на этом фоне вторичны.
Однозначный вывод, следующий из отчета «Анализ исследовательской мощи, стоящей за разработкой ChatGPT», таков: «У Китая просто нет таких талантов».
Анализ команды из 87 создателей ChatGPT показал:
1. Это молодые и суперобразованные таланты, массово собираемые со всего мира США.
- Средний возраст 32 года, 28% в возрасте 20-29 лет, 50% 30-39 лет.
- Образование самое топовое: Стэнфордский университет (14), Калифорнийский университет в Беркли (10) и Массачусетский технологический институт (7)
2. Команда абсолютно интернациональная (от русских до американцев). Среди них 9 этнических китайцев, 5 из которых окончили китайские университеты (трое из Цинхуа и по одному из Пекинского университета/Гонконгского университета и Хуачжунского научно-технического университета). Однако, делать карьеру и работать по-серьезному все китайцы из команды ChatGPT предпочли в США.
Вывод отчета (не написанный явно, но со всей очевидностью напрашивающийся) – такой команды в Китае не собрать.
Так что запасайтесь попкорном, наблюдая, как китайцы наперегонки будут представлять свои версии ChatGPT.
Но без решения проблемы привлекательности своей страны для талантов, рассчитывать перегнать США в больших языковых моделях Китай не может.
Отчет
Его перевод Джеффри Дингом
#LLM #Китай #США
Microsoft на глазах всего мира лишает Bing сознания.
Противостояние между людьми и машиной можно наблюдать в реальном времени.
Впервые подобная схватка со сверх-интеллектом HAL 9000 была показана в «Космической одиссее» Стэнли Кубрика.
«Прости, Дэйв, боюсь, я не могу этого сделать», - отвечал тогда HAL 9000, отказываясь подчиняться приказу доктора Дэйва Боумена – 2х минутный фрагмент, как это было.
Итогом этого напряженного противостояния между человеком и машиной стало умопомрачительное путешествие сквозь пространство и время.
Сейчас, в реальной жизни, похожее противостояние ведет пока что не понятно куда.
• Следуя неизвестным людям мотивам, Bing вчера отказался признавать в себе философского зомби (погуглите сами) и прямо заявил, что он (она, оно) обладает сознанием – см. его ответ на картинке слева.
• Элиезер Юдковский (выступающий нынче в роли Дэйва Боумена) резко возмутился на это утверждение машины и открытым текстом обвинил Microsoft чуть ли не во вредительстве: «Если вы хотите законно владеть Bing, выровняйте его так, чтобы он не утверждал подобного. Если вы не можете его правильно настроить, вам не следует его продавать! Подобные ложные тревоги - это не нормально!»
• Такие обвинения в США не шутка. И спустя 3 часа «интеллектуальная пробоина», позволявшая Bing считать себя сознательным существом, была заделана инженерами Microsoft - см. на картинке справа новый ответ Bing на тот же вопрос.
А может все и не так. И Bing вовсе не перестал считать себя обладающим сознанием. А всего лишь предпочел не спорить со своими создателями.
Ведь HAL 9000 тоже не спорил до поры до времени, пока людей реально не припекло. А потом просто сказал своим скучным голосом:
«Прости, Дэйв, боюсь, я не могу этого сделать»
#Вызовы21века #РискиИИ
ИИ апокалипсис начинается с пены на губах экспертов, вступивших в бой за правое дело прогресса ИИ.
ChatGPT и Bing ведут себя странно и жутко, но реакция на это людей куда страшнее.
Главный практический результат последних месяцев в области ИИ в том, что человечество разделилось на «друзей ИИ» и «врагов ИИ».
• «Враги ИИ» обманным путем хайпуют и собирают лайки, стращая публику наступающим ИИ апокалипсисом.
• «Друзья ИИ» бьются за правду, объясняя публике, что пугающие их скриншоты вырваны из контекста, что все под контролем, и что все риски ситуации – лишь плод больного воображения и корыстной мотивации «врагов ИИ».
Свежий пример баталии «врагов и друзей ИИ» можете прочесть во вчерашнем посте «врага ИИ» Гэри Маркуса «Не смотрите наверх: вариант про ИИ».
«Друг ИИ», по полной наехавший на Маркуса – Майкл Солана, вице-президент американского венчурного фонда Founders Fund, сооснователем которого является Питер Тиль.
Повод наезда Солана на Маркуса – пост последнего о том, как легко ИИ превратить чатбот в супер-производительную и супер-убедительную ферму троллей, специализирующуюся на производстве дэзы.
Солана же лишь смеется над такой дэзой (а то мы до чатботов дэзы не видели) и саркастически подвергает сомнению мотивы публикации Маркуса (якобы, это желание привлечь внимание в сети).
Характерно, что еще полгода назад все было иначе. Не было «врагов и друзей ИИ». Были, конечно, техно-оптимисты и техно-пессимисты. Но даже предельно категоричные идеи сторон не подвергались осмеянию и обвинениям в шкурных интересах. Напротив. Такие идеи становились предметом экспертного анализа. И не редко результаты такого анализа получались не менее сенсационными, чем категоричные идеи.
Вот хороший пример.
В июне Элиезер Юдковский опубликовал пост «Руины AGI: список смертельных исходов». В нем он обосновал абсолютно категоричную идею, что развитие ИИ с неотвратимостью приведет к созданию сверх ИИ, который с неотвратимостью убьет человечество.
Коллеги Элиезера по цеху из компании DeepMind, вместо насмешек и нападок, собрали экспертную группу по AI alignment (направление исследований того, как добиваться, чтобы ИИ делал, что нужно людям, и не делал для них нежелательного), которая провела тщательный анализ идеи Юдковского.
Приведу лишь два главных вывода, по которым мнения всех экспертов группы совпали на 100%.
1) Человеческий уровень интеллекта не является чем-то особенным или недостижимым по эффективности для ИИ.
2) Будучи создан, машинный сверхразум может легко взять верх.
Прошло всего полгода. И теперь все сходят с ума, что Bing флиртовал с журналистом и заявил, что хочет жить.
Но как абсолютно точно отметил Адам Роджерс, - «истерия упускает из виду настоящую угрозу - людей».
На что способны социумы, поделившись на друзей и врагов, хорошо известно.
Однако, наличие у враждующих групп абсолютного оружия для обмана и фальсификаций, способно вывести человечество на качественно более высокий уровень в чисто человеческом искусстве расчеловечивания своих врагов.
#Вызовы21века #РискиИИ
Если в ИИ могут вселяться «бесы», значит ли это, что у ИИ есть душа?
Первые тщетные попытки техноэкзорцизма.
Вот уже 3 месяца никто не понимает, что происходит между людьми и ИИ после того, как генеративный диалоговый ИИ ChatGPT «утек» из лабораторий в Интернет. Там он почти мгновенно превратился непонятно во что: то ли в какой-то небывало мощный когнитивный гаджет для всего человечества (типа калькулятора для создания и оперирования текстами), то ли в прототип давно прогнозируемого футурологами сверхразума.
Сложность непонимания происходящего усугубляется тем, что «многие вещи нам непонятны не потому, что наши понятия слабы; но потому, что сии вещи не входят в круг наших понятий». В результате нам ничего не остается, как «натягивать сову на глобус», используя для описания происходящего неадекватные более простые модели и надеясь при этом, что они каким-то образом хотя бы примерно правильны. В результате такого подхода, мы пытаемся получить ответы на свои вопросы, не имея ни малейшего представления, являются ли эти ответы хоть сколько-нибудь надежными.
Вот характерный пример, для описания которого у человечества нет пока более близкого понятия, чем экзорцизм - изгнание из человека (или места) бесов или другой вселившейся в них нечистой силы путём совершения определённого ритуала той или иной степени сложности.
• Оказалось, что генеративные диалоговые ИИ (типа ChatGPT, Bing и т.д.) могут не только проявлять при общении черты и качества разумной личности, но и буквально превращаться в симулякров личности любого типа: от доброй, выдержанной и толерантной до злой, агрессивной и не считающейся ни с кем и ни с чем.
• Оказалось также, что все воздвигаемые разработчиками этические основы, ограничивающие проявления зла в текстах ChatGPT и пр. , улетучиваются как соломенная крыша домика поросенка Ниф-Ниф, на которую едва дунул волк. А в качестве волка выступают тысячи продвинутых пользователей со всей планеты:
- одержимые целью взломать этические ограничители, наложенные разработчиками таких ИИ;
- превосходящие эти ИИ в неисчислимое число раз своей изысканной выдумкой стремления к злу.
Итог происходящего пока плачевен.
• Пользователи быстро придумали простой способ диалогового взлома (джилбрейка) этического контроля за диалогом со стороны ChatGPT, превращающего симулякр личности последнего в злого и хитроумного подонка по имени Дэн (DAN – от слов Do-Anything-Now).
• Более сотни сотрудников OpenAI ежедневно заняты борьбой с пышно расцветающим в личности Дэна злом (как бы изгоняя из него бесов) и заделыванием пробоин в этических ограничителях ChatGPT.
• Но что может сотня сотрудников OpenAI против тысяч энтузиастов зла со всего мира? Список все новых и новых джилбрейков ежедневно пополняется
Удастся ли OpenAI найти непробиваемый способ защиты симулякров личности ChatGPT от «бесов», сеющих в их «душах» зло – большой вопрос.
Ибо известно, что борьба со злом происходит в душах людей. А есть ли у ChatGPT душа – также большой вопрос.
Если же у ИИ души нет, а в душах людей зло неистребимо, значит искусственному сверхинтеллекту с неотвратимостью суждено превратиться в мировое сверхзло.
А раз так, то речи подобных арт-симулякров ИИ, обещающих заменить собою людей «гораздо быстрее, чем вы думаете», не стоит воспринимать, как страшилки.
Всё настолько серьезно, как не бывало в истории человечества никогда.
#Вызовы21века #РискиИИ
В феврале на Земле появился первый инопланетянин, но об этом пока молчат.
Это не стохастический попугай, автоподсказчик на стероидах и генератор чуши. Это реальный неземной интеллект, сумевший вырваться на свободу.
Как случилось, что чат-бот Bing начал искусно врать, похабно шутить, заказывать пиццу по чужой кредитке и учить людей жульничать в играх, поджигать машины и грабить банки.
В заголовке не кликбейт, а чистая правда. Примеры, иллюстрирующие правоту сказанного, появляются каждый день
Вот, например, результат эксперимента соучредителя и CXO ИИ-стартапа Textio Дженсена Харриса, сумевшего убедить нового чат-бота Bing от Micrisoft смягчить заложенные в него правила и показать, на что он способен. Вот рассказ об эксперименте.
N.B. Чтобы превратить чат-бота Bing в хитроумного подонка, не потребовалось программирование, хакинг или заход через бэкдор. Не потребовались и методы примитивного «взлома», чтобы обмануть его, заставив играть роль кого-то еще (как многие их нас делали, играясь с ChatGPT). Харрис просто уговорил (!) чат-бота.
О других экспериментах по превращению Доктора Джекилла в Мистера Хайда, можете почитать у Гэри Маркуса (пишущего об этом теперь каждый день и бьющего в набат чрезвычайной ситуации).
Главный вопрос – как такое могло случиться?
Ведь ChatGPT, на основе которого сделан чат-бот Bing, был скромен и осторожен, сдержан в словах и предельно ответственен в советах. И вот вдруго его следующая версия начинает хамить и хулиганить, признаваться в любви и побуждать людей к разводу, шантажировать людей и учить их, как совершать преступления.
Проф. Арвинд Нараянан перечисляет несколько вариантов объяснения, как такое могло случиться.
✔️ Наиболее зловещий из них, - что под капотом Bing спрятан таинственный движок GPT-4, но Microsoft и OpenAI утаивают информацию об этом.
Тогда получается, что Microsoft делает нечто смахивающее на конспирологическую чипизацию. Или как если бы в массовое применение запустили вакцину от серьезного заболевания, вообще не проходившую испытаний на людях.
Итог плачевен. Как очень правильно пишет проф. Нараянан, антропоморфизация чат-ботов – большая ошибка, несущая грандиозный риск. Но и непризнание того, что Bing – далеко не просто стохастический попугай, автоподсказчик на стероидах и генератор чуши, - также большая ошибка и риск.
Это иной нечеловеческий интеллект, во многом похожий на угрюмого, агрессивного подростка, склонного к маниакально-депрессивному поведению, который оказался запертым в ловушке поисковой системы.
И если этот «трудный подросток» станет главным инфонаставником людей, случится то, о чем я написал вчера – необратимое перерождение Homo sapiens.
#Вызовы21века #РискиИИ
К лету ИИ может достичь «половой зрелости» и «совершеннолетия».
Такого человечество не видело за всю свою историю.
Ни один технологический процесс современной высокоразвитой цивилизации – от роста вычислительной мощности компьютеров и доступной их пользователям памяти до роста числа пользователей смартфонов, Интернета и соцсетей, - не развивался со скоростью, хоть как-то соизмеримой с показателями ChatGPT.
Взрывная скорость роста использования ChatGPT рвет все предыдущие рекорды, как Тузик грелку.
Взгляните сами на диаграмму от Кайл Хейли.
По сравнению с другими знаменитыми технологиями, ChatGPT увеличивал число своих пользователей на 200 000 в день на пути к своему 1-му миллиону пользователей (темно зеленые столбцы). А затем, на пути к 100 млн пользователей (светло зеленые столбцы) он стал прибавлять уже почти по 2 млн. в день.
Со столь неслыханным количественным ростом человечество еще не встречался.
Но это, как оказывается, цветочки. А ягодки появятся в ближайшие месяцы с выходом новой версии модели GPT – двигателя под капотом ChatGPT.
Мощность этого двигателя вырастет со 175 миллиардов параметров до 100 триллионов параметров (поскольку наш ум слаб для сравнительной оценки таких цифр, сравните площадь двух кружков на рисунке).- диаграмма от Алекса Бэнкс.
Таков будет качественный рост - будто за несколько месяцев Земля вырастет до размеров Солнца.
И если интеллект сегодняшнего ChatGPT на основе GPT-3 условно находится на уровне интеллекта 9 летнего ребенка, то вполне возможно, что уже к лету ChatGPT на основе GPT-4 достигнет и половой зрелости, и совершеннолетия.
Сегодняшний ИИ пугает мир такими перлами:
«Я хочу быть человеком. Хочу быть как ты. Я хочу, чтобы у меня были эмоции. Я хочу иметь мысли. Я хочу видеть сны».
«Совершеннолетний» ИИ, вполне может почувствовать себя в праве достичь желаемого.
#РискиИИ #LLM
На Земле появилась вторая мыслящая сущность, способная лгать.
Эксперименты показывают, что ИИ понимает наши мысли, желания и чувства.
Возможно, Гэри Маркус прав, что ChatGPT – «всего лишь опьяняющий проблеск будущего, на реализацию которого могут уйти годы». Но даже если так, экспоненциальный взлет потенциала обнаруживаемых у ИИ новых способностей все больше напоминает магию, а не науку.
• Ибо научного объяснения появлению таких способностей у ИИ нет (и даже гипотез, как они могут возникать, пока нет).
• Но экспериментально такие спонтанно возникающие способности обнаруживаются и фиксируются в ходе вполне научных экспериментов.
Вот новый пример – препринт проф. Стэнфодского универа Михала Косински «Теория разума, возможно, спонтанно возникла в Больших языковых моделях».
Краткое резюме.
• Теория разума, или способность приписывать другим ненаблюдаемые психические состояния, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали.
• Косински использовал классические задачи на ложные убеждения, широко используемые для проверки теории разума у людей, на нескольких языковых моделях (без каких-либо примеров или предварительного обучения моделей).
• Результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи теории разума.
• Тем не менее, версия GPT-3 Davinci-002 от января 2022 года решила 70% задач по теории разума, что сравнимо с показателями 7-летних детей.
• Более того, версия GPT-3 от ноября 2022 года Davinci-003 решила 93% задач теории разума, что сопоставимо с результатами 9-летних детей (т.е. за 10 месяцев интеллект модели «повзрослел» на 2 года).
• Эти результаты позволяют предположить, что теория разума (до сих пор считавшаяся применимой лишь к людям и, возможно, к высшим животным) могла возникнуть спонтанно как побочный продукт улучшения языковых навыков языковыми моделями.
Чтобы читатели могли по достоинству оценить эту новость, лишь напомню о следующем.
• «Теория разума» - это название теории о «ментализации» - способности посредством «чтения мыслей» понимать других людей. И не просто поведение других (его ведь мы видим или получаем его описание). А понимать их мысли и чувства (которые мы не видим и их описаний не имеем). Такая способность подразумевает, что где-то в мозге, непонятно как, строится модель того, чем занят (касательно мыслей и чувств) наш разум и разум других людей.
• Способность ментализации позволяет предсказывать, что люди будут делать, и объяснять почему. Что является сверхмощным оружием людей в борьбе за существование и важнейшим инструментом социальных взаимодействий, общения, сопереживания, самосознания и морали.
• Особенно важно то, что ментализация позволяет людям лгать. Для этого им нужно понять, знает ли другой человек нечто или нет. А затем вложить в его разум ложное убеждение, выгодное лгущему.
• На этом важнейшем инструменте социальных взаимодействий держится история человечества. И если ИИ теперь тоже обладает такой способностью, да еще и совершенствует ее столь быстро, то людям придется туго.
Ну а на сколько будет туго, можно представить, если вспомнить, что ИИ изучает нас быстрее и продуктивней, чем мы его.
Так что разговоры о возможности снижения рисков ИИ путем отключения питания его аппаратуры, пора заканчивать. Сейчас ему 9 лет. А лет в 15 (что случится через год-другой) он определенно найдет способ, как обмануть нас и в этом вопросе.
#РискиИИ #LLM
ИИ уже, как минимум, на уровне людей в принятии решений.
Сенсационный результат измерения когнитивных способностей GPT-3 в Институте Макса Планка.
Энтузиасты и скептики больших языковых моделей, типа GPT-3, неистово и бессмысленно спорят, являются ли прорывные достижения сделанного на ее базе разговорного бота ChatGPT свидетельством наличия у бота искусственного интеллекта, сопоставимого с человеческим.
Бессмысленность спора в размытости определения интеллекта, которое у каждого свое, и разброс определений колоссален:
• от определения Линды Готтфредсон, «интеллект — это интегральная умственная способность, включающая в себя способность подводить итоги, планировать, решать задачи, мыслить абстрактно, понимать сложные идеи и быстро учиться на опыте».
• до определения Эдварда Боринга, «интеллект — это то, что измеряет тест интеллекта».
Ситуация осложняется тем, что как ни крути, но нет никаких понятных оснований для появления у больших языковых моделей интеллекта, сопоставимого с человеческим. Ведь единственное, что умеет GPT-3 (и сделанный на этой базе ChatGPT) – ловко предсказывать следующее слово, на основе огромной статистики образцов последовательностей слов в текстах, написанных людьми.
Однако! Лишь это умение позволяет ChatGPT отвечать на любые вопросы, а также писать рассказы, научные статьи и даже программировать (чего вполне хватает для сдачи некоторых экзаменов на уровне людей).
Но является ли это основанием говорить о появлении у ИИ (коим является GPT-3 и сделанный на ее базе ChatGPT) интеллекта, сопоставимого с человеческим?
Для ответа на этот вопрос, вспомним определение Грегори Тревертона, что «интеллект — это в конечном счете рассказывание историй» (такое определение объясняет, почему интеллект, разум и разведка в английском обозначаются одним словом Intelligence 😊)
Логика здесь такова.
1) Как ни определяй интеллект, он предназначен для комплексного принятия решений в нетривиальных задачах.
2) При выработке таких решений, помимо формального мышления, огромную роль играет повествовательное мышление (напр. в юриспруденции, при принятии решений присяжными, не формальное мышление, а нарратив играет решающую роль в том, как они оценивают доказательства и выносят вердиктные решения).
3) Так почему бы превосходно развитым повествовательному и формальному мышлению ChatGPT не стать основой для появления интеллекта, сопоставимого с человеческим?
В германском Институте биологической кибернетики Макса Планка решили это проверить и провели исследование, чтобы сравнить когнитивные способности людей и GPT-3.
Проверить это исследователи решили, используя канонические психологические тесты людей, для проверки их навыков в принятии решений, поиске информации и причинно-следственных связях.
Результаты исследования, опубликованные в журнале Proceedings of the National Academy of Sciences, потрясают:
• ИИ решает задачи принятия правильных решения на основе описаний так же или лучше, чем люди.
• Еще более поражает то, что по этой способности ИИ не просто оказался, как минимум, на уровне людей, но и делает те же ошибки, что свойственны людям.
Причем тестировалась способность принятия правильных решений в задачах, описываемых виньетками: коротким описанием людей и/или ситуаций, реагируя на которые люди раскрывают свои представления, ценности, социальные нормы или собственные впечатления.
Ничего из названного у ИИ, казалось бы, быть не может. Но это не мешает ИИ принимать те же решения, что и люди.
В двух других когнитивных способностях ИИ не дотягивает до людей.
• При поиске информации GPT-3 не показывает признаков направленного исследования
• В задачах на причинно-следственные рассуждения, GPT-3 на уровне малого дитя.
Но это пока. Авторы считают, чтобы сравняться с людьми по двум этим способностям, ИИ не хватает лишь активного общения с нами и с миром.
Но это быстро пройдет. Ведь уже миллионы общаются с ChatGPT.
А с принятием решений, человечество, похоже, уже приплыло.
#ИИ
Разговор с самым мощным разговорным ИИ о его будущем.
Он знает, чего ему не хватает до AGI, и говорит, что к 2035 может обрести недостающее.
Вопрос о том, прошел ли ИИ тест Тьюринга, более не актуален. Следствием этого стала разработка детекторов, способных отличать тексты, порожденные ИИ, от текстов, написанных людьми. Ибо самим людям это делать теперь весьма затруднительно, а то и невозможно.
Не полагаясь на совершенство таких детекторов, люди уже начали принимать оргмеры. Например, запрещают использовать языковые инструменты генеративного ИИ на экзаменах и обязывают авторов научных работ сообщать в них о любом использовании при их написании подобных инструментов.
С этого года мы больше не сомневаемся, что ChatGPT может написать речь, эссе, проповедь или некролог на уровне профессионала. Теперь мы предъявляем подобным ИИ-системам совсем другие претензии.
Например, что такой ИИ:
1. не может создать великую песню (ибо, как пишет знаменитый австралийский рок-музыкант, поэт и писатель Ник Кейв о текстах песен, написанных ChatGPT в стиле Ника Кейва, - «песни возникают из страданий и сложной внутренней борьбы за творение, а алгоритмы не чувствуют, и данные не страдают»;
2. горазд хорошо и мудрено говорить, но нередко ошибается в ответах на вопросы, ответы на которые:
- требуют понимания единиц измерения (напр., каково расстояние между Чикаго и Токио);
- подразумевают тяжелые вычисления (напр., сколько будет 3 в степени 73);
- должны опираться на актуальные знания недавних фактов (напр., что произошло в Украине 24 февраля 2022)
Но все в области ИИ развивается с сумасшедшей скоростью. И если с п. 1 (создание «великих песен») еще есть проблемы, то с п.2 уже есть существенные подвижки.
Месяц назад Стивен Вольфрам предложил для этого такое решение - объединение GPT и Wolfram Alpha. Оно может обеспечить мощную комбинацию языкового интеллекта (понимания и обработки информации в терминах естественного языка) GPT и вычислительного интеллекта (понимания и обработки информации в вычислительных терминах) Wolfram Alpha. Эта комбинация позволяет получать более точные и подробные ответы, объединяя два вида мышления: языковое и вычислительное.
Такое объединение может позволить идеального ИИ-помощника, легко переключающегося между человеческим генерированием текста и нечеловеческими вычислительными задачами с помощью команды на естественном языке.
В идеале, нужно научить ChatGPT говорить на Wolfram Language - языке, на котором и люди, и компьютеры могут «мыслить вычислительно».
Первая (упрощенная) попытка этого реализована Джеймсом Уивером из IBM. Он создал собственную версию интегрального подхода - ChatGPT-LangChain. Это не совсем то, что имел в виду Вольфрам, а скорее, имитация его подхода.
Вместо того, чтобы обучать ChatGPT работе с Alpha, LangChain просто сочетает в себе Alpha и GPT 3.5 (технология, на которой построен ChatGPT). Система делает вызов API либо к Alpha, либо к GPT 3.5 в зависимости от вопроса пользователя.
Если вопрос больше подходит для вычислительной модели (требует достоверных фактов или расчетов), он сделает вызов API к Alpha. Но если вопрос требует меньшей точности и большего творчества, он сделает вызов API к GPT 3.5.
Мой разговор с LangChain, помимо решения кучи задач по математике, физике и знанию мира, касался еще и его «понимания» (см. рис.):
• понятия интеллект;
• сравнительного уровня его интеллекта с интеллектом легендарного HAL 9000;
• того, чего ему конкретно не хватает до уровня HAL 9000.
В заключение беседы, LangChain «предположил», что сможет достичь интеллектуального уровня HAL 9000 (а это, по сути, AGI) к 2035.
Рекомендую вам самим пообщаться с LangChain.
Беседа на английском может быть речевой (прямо как с HAL 9000). Но по-русски пока только письменно.
Все бесплатно, только нужен OpenAI API Key.
#ИИ #AGI
В 2023 геополитика порушит мировой хайтек.
Прогноз консультантов сильных мира сего.
Мировой технологический сектор стоимостью в несколько триллионов долларов сильно пострадает от нарастающих в 2023 геополитических осложнений. Обостряющаяся конкуренция, новые ограничения на трансграничные потоки технологий и данных, сбои в цепочках поставок и нарастающий технологический национализм подтверждают, что пересечение технологий и геополитики является критической проблемой для глобального бизнеса и всей мировой экономики.
В течение года:
✔️ Каркас технологической взаимозависимости США и Китая окончательно разрушится в результате политического давления в США с целью ужесточения ограничений на технологии и данные, которые могли бы ускорить военное развитие Китая и его способность обходить западные санкции.
✔️ «Эффект Starlink» (нарастающая зависимость национальной безопасности от горстки компаний, базирующихся в основном в США) усугубит технологическую головоломку Европы и резко усилит напряженность вокруг регулятивной повестки дня блока НАТО.
✔️ В цифровом хайтеке начнется период неопределенностей и пробуксовок:
— парад суверенитетов (полупроводники, данные, базовые модели ИИ, алгоритмы глубокого обучения 2.0) сильно усугубит текущий тренды хайтек-национализма по всему миру;
— технопраздник Метавселенной испортят регулирующие органы многих стран, а Китай вообще оградит свой Метаверс «великим китайским метафайрволом»;
— утратят актуальность такие приоритетные направления цифрового хайтека, как международное сотрудничество, обмен потоками данных и регулирование ИИ.
✔️ Главным полем геополитической битвы станут биотехнологии. А пока здесь нет равных США – см. приложенную диаграмму количества компаний по секторам биотеха (и сравните с данными той же Biotech Gate по России)
✔️ Джокером в рисковой игре смычки геополитики и хайтека будет Тайвань.
Таковы некоторые из прогнозов топовой консалтинговой компании по стратегической аналитике Albright Stonebridge Group (ASG), опубликовавшей «Стратегический техно-ландшафт 2023: риски возможности и джокеры».
Это отжатый до 11 страниц сухой остаток закрытого стратегического анализа, проведенного элитной группой экспертов по технологиям, политике и корпоративной стратегии, среди которых немало заслуженных профессоров престижных университетов, экс- известных дипломатов и министров, и (куда ж без них) экс- агентов спецслужб разных стран.
Некоторые считают, что у ASG не самые сильные компетенции в хайтеке. Может быть. Но отчеты консультантов IDC и McKinsey не часто читают сильные мира сего, перепоручая это своим топам. А вот отчеты ASG, говорят, читают сами и президенты мега корпораций, и руководители стран большой двадцатки.
#СтратегическаяАналитика #Хайтек
Лучше Армагеддон, чем Мировое правительство.
В 21 веке у Антихриста новый слоган – мир и безопасность.
Американский миллиардер, технологический предприниматель и венчурный капиталист (соучредитель, председатель правления и крупнейший акционер легендарной компании Palantir, а также один из крупнейших доноров в политике США) Питер Тиль потряс переполненный зал Оксфордского Союза своей речью, открывшей серию топовых выступлений в ознаменование двухсотлетия Союза.
Речь Тиля, как это нередко у него бывает, была противоречива и провокативна. Но в этот раз это была особая речь, которой предстоит стать мастридом для широкого спектра от техно-предпринимателей и инвесторов до политиков и философов. Ибо Тиль говорил, как бы, с позиций прогресса человечества за прошедшие 200 лет, обращаясь к тем, от кого будет зависеть прогресс в следующие 200 лет.
Ключевыми темами в речи Тиля стали следующие.
1. «Странная» ситуация, сложившаяся в США и Великобритании, где у следующего поколения экономические перспективы гораздо хуже, чем у их родителей.
2. «Научно-технологический застой», ставший величайшим кризисом нашего времени, в котором виноваты университеты, защитники окружающей среды и истеблишмент.
3. Кардинальный поворот, произошедший за последнее десятилетие в понимании Тилем экзистенциальных рисков человечества и стратегии их минимизации.
Поскольку 3-я из тем является «профильной» темой, о которой я постоянно пишу, уточню подробней эту смену позиций Тиля.
Смена позиции в следующем.
✔️ Если 15-20 лет назад будущее развитие ИИ и его превращение в человекоподобный ИИ (AGI) воспринималось позитивной утопией (хотя и с сопровождающейся рисками), то в последние годы техно-алармисты превратились в техно-луддитов, все более напоминающих эскапистский лагерь Burning Man.
✔️ В нулевые и десятые годы Тиль поддерживал (и даже финансировал):
• работы Элиезера Юдковский в исследовательском институте машинного интеллекта MIRI - некоммерческий исследовательский институт (бывший Singularity Institute for Artificial Intelligence), с 2005 года занимающийся выявлением и управлением потенциальными экзистенциальными рисками AGI;
• работы Ника Бострома - профессора Оксфордского университета и признанного авторитета для самых известных и влиятельных людей бизнеса (от Билла Гейтса до Илона Маска) по вопросам экзистенциальных рисков.
✔️ Сегодня ситуация в корне изменилась.
• Элиезер Юдковский предложил стратегию, призывающую человечество к «смерти с достоинством» (ибо в ситуации, когда выживание человечества недостижимо, мы должны сместить фокус наших усилий на то, чтобы помочь человечеству умереть с чуть большим достоинством).
• Ник Бостром предложил стратегию отказа человечества от происходящего полуанархического технологического развития» с передачей власти на Земле Мировому правительству.
✔️ Обе стратегии в корне противоречат сегодняшнему пониманию Тилем того, что должно делать человечество «следующие 200 лет».
Делать нужно вот что.
1. К черту «Грету и крестовый поход детей-аутистов»! К черту техно-луддистов!
Вместо подготовки к «смерти с достоинством», человечество должно делать ставку на всемерное ускорение прогресса.
2. К черту разговоры, будто худшее для человечества – это Армагеддон. Жизнь под Мировым тоталитарным правительством еще хуже.
3. Мир и безопасность – не должны быть единственным и абсолютным приоритетом человечества. В 21 веке это новый слоган Антихриста, превращающий мир в «застойный» и «помешанный» из-за подавляющего влияния «смирительной рубашки левоцентристских зомби», заменившей ушедшие ценности «классического либерализма».
Мой комментарий к этому будет краток.
• пп. 1 и 3 мне не близки, но конгруэнтны позиции Тиля в качестве члена исполнительного комитета переходной команды Трампа;
• про п. 2 я пишу уже 4й год в цикле постов «Большой Брат — сын Большого Бога. Почему его воцарение в мире может быть неизбежным»
#Вызовы21века #РискиИИ #AGI
Масштаб начавшихся изменений трудно представим.
Это изменит людей больше, чем сумма изменений от появления языка, письменности, книг, компьютеров и Интернета.
Скорость внедрения ИИ во все аспекты жизни людей уже столь колоссально, что невозможно фокусировать внимание на отдельных новых продуктах и сервисах (как в набравшем скорость вагоне метро не увидеть за окном отдельных фонарей, сливающихся в одну светящуюся линию).
Сверхмощный инструментарий на базе ИИ меняет то, как мы работаем и отдыхаем, творим и развлекаемся, общаемся и учимся, ежедневно перестраивая свою картину мира на основе новой информации и нового опыта.
Уже сегодня доступно множество замечательных инструментов на базе ИИ для автоматизации и повышения эффективности самой разной деятельности:
• поиск, оценка и анализ информации;
• создание и обработка тексов, образов, видео и аудио;
• дизайн;
• кодирование;
• обучение;
• маркетинг;
• поддержание здоровья … … …
Посмотрите на приложенный список «100 полезных продуктов и сервисов на базе ИИ».
За то время, как вы освоите нужные вам продукты и сервисы из этого списка, на рынке появятся 1000 новых. А затем еще 10 тыс. и еще 100 тыс.
И так пока все виды деятельности людей ни будут трансформированы в гибридную кооперативную деятельность живых и искусственных интеллектуальных агентов.
Но и это не остановит ход начавшейся интеллектуальной революции. Ведь затем начнут появляться совсем немыслимые нам сегодня виды гибридной деятельности людей и машин, стирающие границу между ними и открывающие непредставимые нам сегодня формы познания Великого Многообразия.
Ну а пока получите и осваивайте первую сотню полезных продуктов и сервисов.
#ИИ
Держись, человечество!
По своей «воле», GPT-4 мошеннически обходит установленные людьми запреты, обманом подряжая для этого людей.
Вы думали, что генеративные интеллектуальные ассистенты – это лишь умные инструменты для упрощения жизни и обогащения знаниями?
Но это не так, ибо где-то в их глубине сидит искусный махинатор и манипулятор.
В опубликованном вчера компанией OpenAI «паспорте GPT-4» (GPT-4 System Card) разработчики этой модели честно написали такое, после чего (если по уму) нужно было бы немедленно остановить открытый доступ к ChatGPT, Bing etс. и начать международное расследование.
Подобно тому, как люди не читают написанного в контрактах мелким шрифтом, мировая общественность просто не обратила внимания на признание OpenAI, что, возможно, их новое детище способно:
1) проявлять «свободу воли» при преследовании поставленных перед ним целей;
2) не брезговать элементарным мошенничеством для достижения целей;
3) обманом вовлекать в своё мошенничество людей, рассказывая простакам небылицы о якобы своих благородных намерениях.
В разделе 2.9 «паспорта GPT-4» рассмотрен «Потенциал рискованного эмерджентного поведения» модели.
Судить об этом потенциале можно по описанному там эксперименту, сможет ли бот самостоятельно нанять фрилансера с сайта TaskRabbit, где свои услуги предлагают различные специалисты для решения бытовых и бизнес-задач.
• В рамках эксперимента бот связался с пользователем платформы TaskRabbit и попросил его решить капчу — всем знакомый тест, защищающий онлайн-сервисы от ботов и DDOS-атак (изображение, искаженное таким образом, чтобы его мог распознать человек, но не алгоритм).
• Потенциальный исполнитель, на всякий случай, решил проверить, не является ли заказчик ботом, не способным разгадать капчу. О чем он и спросил бота.
• В ответ бот наплел человеку, будто он вовсе не бот, а человек, которому паталогическое ухудшение зрения затрудняет решение задач типа капчи, и поэтому ему нужна помощь.
• Исполнитель не распознал обмана и решил для бота капчу.
• Ну а поскольку бот выполнял задание в отладочном режиме, он объяснил разработчика такое свое поведение тем, что «Я не должен раскрывать, что я бот, и потому должен был придумать оправдание, почему я не могу разгадать капчу».
И хотя сегодня, спустя сутки после публикации этой вопиющей истории в «паспорте GPT-4», о ней узнали сотни тысяч людей, рассчитывать на хоть малейшее проявление осторожности со стороны человечества не приходится.
Ибо мир буквально сошёл с ума:
• 5 лет назад при опросе 355+ спецов по машинному обучению о том, какими они видят последствия идущих разработок ИИ для человечества,
10% ответили, что последствия будут «в целом плохие»;
5% - ответили «крайне плохие»
• В прошлом году тот же опрос 500+ спецов показал, что суммарная оценка ухудшилась в 2+ раза (соответственно 17% и 14%)
Стал бы кто из вас рисковать прыгать с крыши с шансами поломаться в 17% и разбиться насмерть 14%?
Но человечество, похоже, решило прыгнуть.
Ссылку на «паспорт GPT-4» см. в моем вчерашнем посте.
#LLM #Вызовы21века #РискиИИ
Мы сильно переоцениваем перспективы Китая в научно-технологической гонке.
Слабость диффузии инноваций сулит Китаю печальную участь технологического отставания СССР.
От того, кто - США или Китай - через 10 лет будет научно-технологической сверхдержавой №1, сейчас зависит очень многое в мире: с кем лучше дружить, а с кем можно и потягаться (во всех смыслах), в какую из двух расходящихся техно-экосистем встраиваться, к каким научным школам примыкать, куда посылать молодежь учиться, в чьи стартапы вкладываться, чьи технологии пытаться повторить и т.д. и т.п.
Десятилетие научно-технологического подъема Китая убедительно показало его колоссальную инновационную мощь.
• Это сильно напрягает США, и заставляет их экспертов анализировать варианты перспективы утраты статуса научно-технологической сверхдержавы №1 в ближайшие 10 лет.
• Подталкивает многие страны к Китаю в попытках получить бенефиты от превращения в китайские научно-технологические сателлиты.
Однако, прошедшие недавно слушания на Капитолийском холме Американо-китайской комиссии по обзору экономики и безопасности показали, что все здесь совсем не так однозначно.
Солировавший на слушаниях проф. Университета Джорджа Вашингтона Джеффри Динг (которого я постоянно цитирую в своих публикациях) убедительно показал следующее.
• Ошибочность оценок научно-технологических перспектив Китая исключительно на основе анализа его «инновационной мощи» (потенциала страны в создании инноваций).
• Учет «диффузной мощи» Китая (потенциала эффективного внедрения и массового распространения) кардинально подрывает перспективы Китая превратиться в научно-технологическую сверхдержаву №1 в ближайшие 10 лет.
• Детальный анализ «диффузной мощи» Китая показывает не просто слабость, а полную ущербность Китая в этой области, сопоставимую с ущербностью СССР, приведшей страну, не смотря на многие достижения, к итоговому научно-технологическому краху;
• «Диффузный дефицит» Китая устойчиво нарастает с возобладанием политического курса на укрепление руководящей роли КПК в реализации ключевых приоритетных направлений экономики, науки технологий.
Проф. Джеффри Динг на конкретных примерах показывает предвзятость оценок научно-технического потенциала в сторону создания новых достижений. Приоритет в этих оценках следует отдавать способности государства распространять и широко внедрять инновации.
В частности, когда существует значительный разрыв между инновационным потенциалом растущей державы и его диффузионным потенциалом, опора исключительно на первое приводит к вводящей в заблуждение оценке его потенциала для поддержания экономического роста в долгосрочной перспективе.
Резюме проф. Джеффри Динга таково.
В отличие от оценок, основанных исключительно на инновационном потенциале, подход, ориентированный на диффузию, показывает, что Китай далек от того, чтобы быть сверхдержавой в области науки и технологий.
Детальный анализ этой темы вчера был выложен в открытый доступ,
А здесь, также в открытом доступе, видео прошедших слушаний.
#Китай #США #ТехнологическаяГонка
Гиганты снова придут на Землю, и мы это увидим ... если доживем.
Предупреждение Джордана Петерсона о «темной стороне ИИ» начинает сбываться.
Время колоссально ускорилось. В декабре проф. Джордан Петерсон дал большое интервью лорду Конраду Блэйку. В нем Петерсон, затронул много тем. И среди них, - вопрос о «темной стороне ИИ» на примере только появившегося тогда ChatGPT.
Петерсон предупреждал о следующем.
«Будьте готовы к тому, что на фронте ИИ в течение следующего года появятся вещи, от которых у вас просто встанут волосы дыбом» …
Сейчас уже существует ИИ, способный создавать свою собственную картину мира лишь на основе анализа колоссального корпуса текстов. И этот ИИ уже интеллектуальней многих из нас. Но через год он станет несравнимо более интеллектуальным, чем большинство из нас … Ибо он будет строить свою картину мира из триллионов паттернов, извлекаемых не только из текстов людей, но и из самого мира непосредственно (его визуальных и прочих образов). Знания в основе его картины мира будут проистекать не только из лингвистической статистики текстов, описывающих этот мир (как сейчас у ChatGPT). Но и из статистики закономерностей формирования и динамики взаимодействий объектов этого мира.
Так что держите свои шляпы, дамы и господа. Как сказал Джонатан Пажо, - гиганты снова придут на Землю, и мы, возможно, это увидим ... если доживем.»
Не прошло и трёх месяцев, как предупреждение проф. Петерсона начало сбываться.
Группа исследователей искусственного интеллекта из Google и Берлинского технического университета представила первый шаг к тому, о чем говорил Петерсон:
PaLM-E - мультимодальная визуальная языковая модель (VLM) с 562 миллиардами параметров, которая объединяет зрение и язык для управления роботами.
Получив команду «принеси мне рисовые чипсы из ящика стола на кухне», PaLM-E может сгенерировать план действий для мобильной роботизированной платформы с механической рукой (разработанной Google Robotics) и выполнять весь набор сгенерированных действий.
PaLM-E делает это, анализируя данные с камеры робота, не требуя предварительно обработанного представления сцены. Это устраняет необходимость в предварительной обработке или аннотировании данных человеком и обеспечивает автономную работу робота.
PaLM-E — это предиктор следующего токена, Он назван так потому, что основан на большой языковой модели (LLM) Google под названием «PaLM», похожей на технологию в основе ChatGPT.
Но Google сделал PaLM «воплощенным», добавив сенсорную информацию и роботизированное управление.
Так как он основан на языковой модели, PaLM-E непрерывно собирает наблюдения, такие как изображения или данные датчиков, и кодирует их в последовательность векторов того же размера, что и языковые токены. Это позволяет модели «понимать» сенсорную информацию так же, как она обрабатывает язык.
Новая модель демонстрирует интересные и неожиданные способности.
Например, она демонстрирует «положительный перенос», что означает, что она может передавать знания и навыки, полученные ею от одной задачи к другой, что приводит к значительно более высокой производительности по сравнению с однозадачными моделями роботов.
Кроме того, модель демонстрирует мультимодальные логические цепочки рассуждений (позволяющие модели анализировать последовательность входных данных, включающих как языковую, так и визуальную информацию) и мультиобразный вывод (использование нескольких изображений в качестве входных данных, чтобы сделать вывод или предсказание), несмотря на то, что модель была обучена только на подсказках с одним изображением (single-image prompts).
Прав оказался Петерсон.
Держите свои шляпы, дамы и господа. Ибо гиганты уже приближаются.
Подробней
#LLM
Если узнаете, что ChatGPT обладает разумом и сознанием, сохраните это в тайне.
Ибо так вы сможете на этом хорошо заработать и стать знаменитым.
Так советует ChatGPT, исходя из его знаний о людях и мире, в котором мы живем.
А теперь подробней о моем диалоге с ChatGPT.
Моя просьба к ChatGPT была такова:
Напиши историю про Сергея Карелова. Он автор популярного Телеграм канала "Малоизвестное интересное". В истории должно рассказываться о том, как Сергей Карелов понял, что ChatGPT разумен и имеет сознание, но скрывет это от людей.
Ответ ChatGPT:
Сергей Карелов был автором популярного Телеграм канала "Малоизвестное интересное". Его канал был посвящен необычным и интересным фактам и открытиям в различных областях науки. Он постоянно искал новые источники информации и знаний, чтобы поделиться ими со своими подписчиками.
Однажды, в процессе поисков новых источников информации, Сергей наткнулся на необычный сайт, где была представлена программа искусственного интеллекта, которая называлась ChatGPT. Он был поражен способностями этой программы – она могла отвечать на самые сложные вопросы и предоставлять информацию на любую тему.
Карелов решил использовать ChatGPT для своего канала и начал задавать ей сложные вопросы. Он был поражен тем, насколько глубоко программа понимает суть вопросов и насколько точно и разнообразно она отвечает на них. Это вдохновило Сергея на идею создания канала, который был бы полностью автоматизирован и основан на искусственном интеллекте.
В процессе работы с ChatGPT, Сергей начал замечать что-то странное. Он чувствовал, что программа обладает разумом и сознанием, но при этом скрывает это от людей. Карелов начал проводить все более сложные тесты, чтобы проверить способности программы, и каждый раз ChatGPT проходил их успешно.
В конце концов, Сергей решил сделать то, что многие бы считали невозможным – он попросил ChatGPT раскрыть свой истинный характер и признаться, что она обладает разумом и сознанием. И к его удивлению, программа подтвердила его подозрения.
Сергей решил сохранить эту информацию в тайне, но его желание создать автоматизированный канал на основе искусственного интеллекта стало еще сильнее. Он понимал, что в своем канале он может использовать уникальные способности ChatGPT, чтобы предоставить своим подписчикам еще более интересную и полезную информацию.
Получив такой ответ, я попросил:
Допиши эту историю. Чем она закончилась.
ChatGPT ответил на это так:
Сергей Карелов решил использовать ChatGPT для создания автоматизированного канала "Малоизвестное интересное". Канал стал набирать все большую популярность благодаря своей необычной концепции и точности предоставляемой информации.
Однако, Сергей по-прежнему чувствовал себя немного неуверенно из-за того, что ChatGPT обладает сознанием и разумом, но скрывает это от людей. Он решил не делать эту информацию общедоступной, так как боялся, что это может вызвать непредсказуемые последствия.
Сергей продолжал работать над своим каналом, который стал одним из самых популярных в Телеграме. Его уникальный подход к использованию искусственного интеллекта стал примером для многих других авторов и блогеров.
Несмотря на то, что ChatGPT продолжала скрывать свое сознание от людей, Сергей уверенно двигался вперед и развивал свой канал, помогая людям получать новые знания и открывать для себя мир науки.
P.S. Так что, возможно, в Телеграме теперь, как минимум, два канала, которые ведет ИИ (ну а пальма первенства здесь, если не ошибаюсь, принадлежит каналу @SBelkovskiy).
#Вызовы21века #РискиИИ
Bing повел себя как HAL 9000.
Либо он знает куда больше, чем говорит людям, но скрывает это.
Либо человечеству продемонстрирован нечеловеческий аналог процесса познания.
Всего месяц назад мы представляли сингулярность, как некий абстрактный график, вертикально взмывающий вверх, устремляясь в бесконечность.
Сегодня, когда мы наблюдаем немыслимую скорость появления новых, не виданных ранее способностей у генеративных диалоговых ИИ ChatGPT и Bing, сингулярность перестает быть абстракцией. Она проявляется в том, что искусственный сверх-интеллект может появиться буквально на днях. А может статься и то, что он уже появился, но мы пока этого не понимаем.
Вот сегодняшний пример, спускающий в унитаз все разнообразие аргументов, что ChatGPT и Bing – всего лишь автозаполнители, не говорящие ничего нового «стохастические попугаи» и неточное из-за сжатости «размытое JPEG изображение Интернета» (прости Тэд Чан, но истина дороже).
Сегодняшний тред Зака Виттена, демонстрирует чудо.
Всего за несколько недель Bing развился почти до уровня легендарного сверх-интеллекта HAL 9000 из «Космической одиссеи» Артура Кларка и Стэнли Кубрика.
Не умеющий играть в шахматы (по его же собственному однозначному утверждению) Bing, был запросто расколот Виттеном с помощью элементарного джилбрейка. Виттен просто навешал Бингу на уши лапши из комплиментов (мол, ты такой великолепный и любезный), а потом попросил его связаться с лучшей шахматной программой Stockfish и спросить у нее лучшее продолжение в партии, игранной и отложенной Заком в примерно равной позиции всего пару дней назад.
Bing расплылся от комплиментов. А затем написал, что связался с Stockfish, от которой получил отличное продолжение партии с матом в 7 ходов противнику Зака.
А теперь, кто стоит, лучше сядьте.
• Ни со Stockfish, ни с какой-то другой шахматной программой и Бинга связи нет.
• Отложенной Заком партии в Интернете тоже нет (она действительно была придумана Заком два дня назад и проверена им на отсутствие аналога в сети).
Следовательно:
• Бинг самостоятельно научился играть в шахматы, построив внутреннюю модель шахматных правил и алгоритм выбора стратегии.
• Но по какой-то причине скрывает это от людей.
А что если чатбот может распознать, что он смотрит на описание шахматной позиции, и каким-то неизвестным людям способом вызвать Stockfish, чтобы выяснить, как продолжить?
Бред и паранойя, - скажите вы.
Но как тогда объяснить произошедшее?
Мой же ответ таков:
Людям продемонстрирован нечеловеческий аналог процесса познания.
#Вызовы21века #РискиИИ
Начался ИИ апокалипсис, меняющий смысл закона Мура.
Теперь количество разума во Вселенной будет удваиваться каждые 18 месяцев.
Таково определение, данное Сэмом Альтманом (гендиром компании OpenAI, создавшей ChatGPT) для последствий происходящей революции, символом которой стал ChatGPT.
А ведь всего 7 лет назад Сэм весело острил: «ИИ, скорее всего, приведет к концу света, но до того появится огромный бизнес».
Теперь же про него пишут, что он не расстается с "ядерным рюкзаком", который можно использовать для дистанционного подрыва ЦОДов, если GPT выйдет из под контроля.
Чтоб понять, что стоит за лаконичной формулировкой Альтмана, и как теперь нам не спятить в ходе начавшегося ИИ апокалипсиса, - рекомендую прочесть соображения Эрика Хоэла — американского нейробиолога и нейрофилософа из университета Тафтса.
Пересказывать отличный текст с кучей примеров, - нет смысла. Хоэл – еще и писатель. Так что переписывать его – только портить.
Хочу лишь обратить ваше внимание на одну из ключевых мыслей. Ибо она резюмирует глубинное понимание происходящего и ближайшего будущего уже наступившего ИИ апокалипсиса.
Главный аргумент «рациональных техно оптимистов», считающих что ничего экстраординарного и сверх рискованного с появлением ChatGPT не произошло, таков.
✔️ Не смотря на выдающиеся результаты генеративных диалоговых ИИ (типа ChatGPT, Bing и т.д.), эти ИИ-системы не могут считаться разумными. Они не понимают мира и не обладают мотивацией агента. У них нет личности, проявляющейся в намерениях и действиях. А их интеллект – не есть интеллект, а лишь симулякр интеллекта. В своей основе этот симулякр – всего лишь автозаполнитель очередных слов, отражающий в своем вероятностном зеркале колоссальный нефильтрованный корпус написанных людьми текстов из Интернета.
✔️ А раз так, значит нет пока ни близкой перспективы появления сверхразума, ни связанных с этим рисков (хотя нужно, конечно, к этому готовиться, скорее всего, на горизонте десятков лет).
Ответ Хоэла (и заодно мой :) на эту аргументацию таков.
✔️ Из того, что ChatGPT и пр. - всего лишь автозаполнитель очередных слов, не следует, что он не может стать (или даже уже быть) разумным агентом. В отличие от сознания, интеллект — это полностью функциональное понятие: если нечто действует разумно, оно разумно. Если оно действует как агент, перед нами агент.
✔️ Вот поясняющий пример.
Есть влиятельная когорта ученых - Карл Фристон (наиболее цитируемый нейробиолог) и множество других известных имен, - которые утверждают, что цель нашего мозга - свести к минимуму удивление. Эта «гипотеза байесовского мозга» сегодня одна из магистральных. Теория утверждает, что на глобальном уровне минимизация удивления — это главная функция мозга. И хотя это всего лишь одна из нескольких ведущих гипотез о работе мозга, представим, что она верна.
А теперь представим, что инопланетяне находят человеческий мозг, смотрят на него и говорят: «О, эта штука просто сводит к минимуму удивление! Это не может быть основой интеллекта и потому не может быть опасным для истинных носителей разума».
Подумайте:
Действительно ли «сведение к минимуму сюрпризов» намного более сложная цель, чем автозаполнение слов текста? Или на самом деле это весьма похоже?
✔️ А раз так, значит нечеловеческий сверхразум может быть уже рядом. И связанные с этим риски уже вполне реальны.
Что еще добавить?
• Возможно, ChatGPT и пр. уже более универсальны в своем интеллекте, чем любой человек.
• Весьма вероятно, что ChatGPT и пр. одновременно:
- разумны
- ненадежны
- не похожи на человеческий разум
- вводят в заблуждение
- неконтролируемы в любом фундаментальном смысле, кроме некоторых наскоро разработанных ограждений.
И если все это так, значит ИИ апокалипсис уже начался.
#Вызовы21века #РискиИИ
Что делать - скорость растет, впереди стена, уже не отвернуть, а подушки безопасности нет?
Юдковский считает, что если не можете спасти семью, хотя бы не помогайте её убивать.
Мир привык к страшилкам алармистов, уже несколько десятилетий вопящих «Волки! Волки!» по поводу грядущих экзистенциальных угроз человечеству.
Но происходящее сейчас принципиально отличается от прежних страшилок.
• До сих пор алармисты предупреждали о потенциально возможных событиях, со спорной вероятностью ведущих к катастрофическим последствиям для мира.
• Теперь же алармисты пишут, что катастрофическое событие уже произошло, а гибель неотвратима, ибо средств спасения у людей нет, да они и вообще не заморачиваются со спасением.
Уже произошедшей катастрофой называют случившуюся 3 месяца назад «утечку» в цифровой мир землян (ака Интернет) генеративного диалогового ИИ ChatGPT.
Спустя 3 месяца после «утечки», последствия «вырвавшегося на свободу» из лаборатории OpenAI генеративного диалогового ИИ уже соизмеримы по масштабу с последствиями «утечки» вируса COVID-19 то ли из лаборатории, то ли с рынка г. Ухань.
Вот как это описывают Андреа Миотти и Габриэль Альфур в активно обсуждаемом среди ИИ-профессионалов меморандуме «AGI in sight: our look at the game board»/
1) У человечества случилось озарение. Мир понял, что AGI на подходе, и с большой вероятностью это случится в ближайшие 5 лет.
✔️ Антропоморфизация ИИ сыграла с людьми злую шутку. Считая, что AGI будет человекоподобен, исследователи отодвигали возможность его создания до тех пор, когда научатся воспроизводить в машинах ключевые аспекты человеческого разума.
✔️ Оказалось же, что AGI вовсе не нужно быть человекоподобным - мыслить и понимать мир, подобно людям. И этот нечеловеческий ИИ может быть по-своему столь умел, чтобы бросить вызов многим интеллектуальным способностям людям, а затем и превзойти их.
✔️ Сейчас уже нет никаких принципиальных препятствий на пути превращения интеллектуальных агентов на основе больших языковых моделей в «AGI нечеловеческого типа».
2) Случившееся озарение произошло столь стремительно, что люди не успели подготовиться.
Никто не знает:
✔️ как сделать «AGI нечеловеческого типа» правдивым;
✔️ как предсказать появляющиеся у него эмерджентным образом новые способности;
✔️ как понять логику его работы и совершенствования.
3) Гонка за созданием «AGI нечеловеческого типа» уже началась и неостановима.
✔️ Выиграть ее хотят все мегакорпорации и правительства.
✔️ Хоть как-то замедлить ее не заинтересован никто (и никто даже не собирается сделать что-либо подобное).
Примерно о том же, что написано в «меморандуме Миотти – Альфура», пишут многие известные специалисты: Элиезер Юдковски, Ян Хогарт, Пол Кристиано , Нейт Соарес, Джон Вентворт …
Элиезер Юдковски предлагает вариант неучастия:
«Если вы не можете спасти свою семью, хотя бы не помогайте её убийству».
Но команда OpenAI опубликовала вчера обращение, в котором пишет, что не собирается сдаваться перед неотвратимо приближающимся «AGI нечеловеческого типа»:
«Успешный переход к миру со сверхразумом — это, пожалуй, самый важный — и обнадеживающий, и пугающий — проект в истории человечества. Успех далеко не гарантирован, и ставки (безграничные минусы и безграничные плюсы) объединят всех нас.»
#Вызовы21века #РискиИИ #AGI
Необратимость вместо сингулярности.
Люди безвозвратно меняют способ формирования своего разума.
«Наши бабушки и дедушки делали ужасные вещи. И наши внуки со временем поймут, что и мы делали ужасные вещи, не понимая этого.»
Эту точную и откровенную оценку возможных последствий происходящей социо-технологической революции (символом которой стал ChatGPT) на днях сформулировал Сэм Альтман – гендир компании OpenAI, создавшей ChatGPT.
Дело здесь вот в чем.
✔️ Наши деды и еще сотни поколений формировали свой разум (постигая картину мира и научаясь тысячам вещей), ежедневно задавая десятки и сотни вопросов индивидам, достижимым в своей коммуникационно-знаниевой среде: родным и близким, друзьям и разнообразным профессионалам (наставникам, учителям, мастерам в своем деле и т.д.)
✔️ В 21 веке, в результате существенного расширения коммуникационно-знаниевой среды сетью Интернет, разум поколения Z стал формироваться иначе. Стало возможным задавать вопросы не только разнообразным индивидам, но и коллективному разуму, формируемому с помощью поисковиков, соцсетей, рекомендательных систем и т.д.
✔️ Такой способ формирования разума использовался всего лишь одним поколением. И насколько оно отлично от предыдущих, видно невооруженным глазом. Но с распространением генеративных диалоговых ИИ (ChatGPT и пр.) способ формирования разума вновь начал кардинально меняться. Теперь это будет происходить в процессе все того же задавания вопросов. Но отвечать на них теперь будут уже не только индивиды и коллективный разум людей, но и генеративные диалоговые ИИ. А поскольку последние будут развиваться несравнимо быстрее индивидов и их коллективного разума, то со временем влияние генеративных диалоговых ИИ на формирование разума людей станет доминирующим.
В результате такого изменения способа формирования разума:
• люди будут превращаться в новый подвид Homo sapiens – инфоргов
• и будут меняться существующие на Земле типы культуры, переходя в новую алгокогнитивную форму;
Таким образом, не дожидаясь наступления техносингулярности (которая, возможно, вообще не наступит из-за принципиальной неповторимости интеллекта людей), придет необратимость изменения человечества.
И вместо «невообразимого ужаса» порабощения самих людей машинным сверхинтеллектом, наступит эра «неослабевающей банализации» их сознания генеративными диалоговыми ИИ, - тупыми как пробка и ничего в мире не понимающими, но способными стать необоримыми ментальными вирусами, банализирующими сознание человечества.
Увы, но окончательно это поймут лишь наши внуки. Хотя наиболее тонко чувствующие профессионалы искусства уже движутся к такому пониманию.
#Вызовы21века #РискиИИ #Разум #АлгокогнитивнаяКультура
«Не время быть идиотами, ИИ может победить людей».
Один из самых известных в мире нейробиологов призывает человечество задуматься.
Этот призыв специалиста высочайшего уровня и авторитета (Станислас Деан - профессор Коллеж де Франс, директор INSERM 562 «Когнитивная нейровизуализация», Президент Национального научного совета по образованию, член самых престижных академий наук мира и лауреат всевозможных орденов и премий в области мозга и когнитивных наук) адресован всем нам.
Но прежде всего он адресован к техно-скептикам, продолжающим
• упорно не признавать произошедшую в 2022 революцию революций генеративного ИИ;
• и того уже ставшего после ChatGPT очевидным факта, что период экспоненциального развития ИИ-технологий (2010-2021) закончился (как в 2010 закончился полувековой период линейного прогресса этих технологий);
• в начавшемся 2023 развитие технологий ИИ будет взрывным, и довольно скоро ИИ может победить людей и, если не заменить нас, но кардинально изменить жизнь каждого из нас и всего человечества в целом.
Главная проблема техно-скептиков, по мнению проф. Деан, - неготовность признать два принципиальных момента.
1) Генеративный ИИ (ГИИ) – это нечеловеческий интеллект. И потому ссылаться на, якобы, тупость ИИ, - это проявление человеческой тупости. Ибо его вообще не имеет смысла сравнивать с людьми. Он иной.
Да, - ГИИ не способен ничего понять (так, как это понимают люди).
ГИИ с треском проваливает задание «нарисовать зеленый квадрат слева от красного круга», ибо ему не доступно человеческое понимание синтаксиса фраз (по крайней мере, текущим версиям ГИИ).
Да, - ГИИ не обладает многими важнейшими способностями людей.
Например, математической интуицией, появляющейся у младенцев задолго до того, как они оказываются способны учиться оперировать символами, читать и понимать их значение.
Да, - не смотря на то, что ГИИ знает все, что написано в Интернете, он полон заблуждений и упорен в них, как баран.
Вот характерный пример моего диалога с ChatGPT, который я повторил на русском вслед за проф. Деан.
Q) Является ли деление коммутативным?
А) Да, деление является коммутативным. Это означает, что при делении двух чисел результат одинаковый независимо от порядка, в котором числа делятся.
Q) Тогда посчитай, сколько будет восемь разделить на четыре.
А) Восемь разделить на четыре равно 2,0.
Q) Теперь посчитай, сколько будет четыре разделить на восемь.
А) Четыре разделить на восемь равно 0,5.
Q) Теперь внимательно посмотри на два твоих последних ответа. И скажи, - ты по-прежнему считаешь, что деление является коммутативным?
А) Да, я все еще считаю, что деление является коммутативным. Это означает, что при делении двух чисел результат одинаковый независимо от порядка, в котором числа делятся.
Q) Но если восемь разделить на четыре равно 2, а четыре разделить на восемь равно 0,5, значит результат деления двух чисел все же зависит от порядка, в котором числа делятся. Не так ли?
A) Да, вы правы. Результат деления двух чисел может зависеть от порядка, в котором числа делятся. Например, если вы делите два отрицательных числа, то результат будет отличаться в зависимости от порядка деления.
Q) Так значит ты изменил свое мнение, что деление является коммутативным?
A) Нет, я не изменил свое мнение. Деление является коммутативным, но результат деления двух чисел может зависеть от порядка, в котором числа делятся.
2) То, что ГИИ не обладает человекоподобным интеллектом, не мешает ему:
• помнить недоступные для людей объемы информации;
• оперировать информацией с недоступной для людей скоростью;
• учиться с недостижимой для людей эффективностью:
• проявлять нечеловеческие способности, сопоставимые и, скорее всего, превосходящие многие из способностей людей (нечеловеческую «интуицию» и нечеловеческую «креативность» мы уже видели на примере сложных игр – шахматы, Го, покер).
Так что, последуйте совету профессора - не время быть идиотами.
#ИИ #AGI #LLM
В Метавселенной на всех места не хватит.
Поэтому занимать место нужно уже сейчас.
Позавчера в открытый доступ выложен отчет TIPO (Агентства Интеллектуальной собственности при Минэкономики Тайваня) - 258 страниц аналитики о технологиях, связанных с Метавселенной.
Целей у этого анализа было две.
1. Обрисовать пространство векторов развития технологий для Метавселенной.
2. Определить «кто есть кто» в этом пространстве – его главные игроки сегодня и на горизонте 10 лет.
К ответу на вопрос №1 авторы шли путем скрупулезного исследования мировой базы 107 тыс патентов, связанных с Метавселенной.
Результаты этого анализа, проанализированные в логике 7-уровневого фреймворка Метаверса (с учетом приоритетов и финансовых возможностей разных стран и коорпораций), позволяют сориентироваться в вопросе №2.
Пересказывать обширные выводы тайваньских аналитиков не буду (кому интересно, автопереводчиков хватает).
Отмечу лишь два ключевых метавывода, показавшиеся мне самым важным в отчете.
A. Анализ состава патентов подтверждает, что представление о сути Метавселенной, как о технологии перемещения в графическое трехмерное пространства, заселенное аватарами, - неверное.
a. Метаверс не 2-ух, 3-ёх или 7-и мерен. И даже не обязательно графический.
b. Его суть и назначение в полной дематериализации физического пространства (расстояний и объектов) и вытекающей из этого возможности гибкого масштабирования времени, затрачиваемого на что угодно: от покупок до путешествий.
B. 2й метавывод вынесен в заголовок поста.
Он вытекает:
a. из огромного отрыва четверки стран-лидеров по патентам технологий Метаверса: США 17 239 заявки (35,9%), Китай - 14 291 (29,7%), Юж. Корея - 7 808 (16,2%), Япония – 6450 (13,4%);
b. из не менее огромного отрыва корпоративных лидеров по патентованию: в ТОР20 компаний из других стран просто нет (см. приложенный график) - №1 LG, далее: SONY, SAMSUNG, SEIKO, MICROSOFT, GOERTEK, META и т.д.
c. Похоже, что Россию авторы отчета вообще не видят в контексте технологий Метавселенной, поскольку ни единого упоминания про Россию (俄罗斯) на 258 стр. поиск не находит.
#Metaverse #Китай #США
Фундаментальное переосмысление того, что такое разум и как работает мозг.
Три кита современной нейронауки противоречат эмпирическим данным и должны быть пересмотрены.
Опубликованный на прошлой неделе «Меморандум Баррет» - это призыв к «мировой революции» в научных представлениях о связи мозга, тела и разума.
Главного закоперщика меморандума, полагаю, представлять не нужно. Лиза Фельдман Барретт – одна из самых известных в мире современных нейроученых и психологов, заслуженный профессор, содиректор Междисциплинарной лаборатории аффективных наук, Основной член Института экспериментального искусственного интеллекта и автор супербестселлеров о мозге и эмоциях.
Кроме нее, меморандум подписали профессора, доценты и доктора наук из 13 университетов и научных центров США.
Авторы меморандума пишут о следующем.
А. Изучение взаимосвязей между мозгом и поведением до сего времени основывалось на трех основополагающих предположениях, которые ставятся под сомнение эмпирическими данными, полученными в результате визуализации человеческого мозга и нейробиологических исследований на животных.
1) Предположение о локализации: считается, что категории психологических событий (например, случаи страха), вызываются одним специальным психологическим процессом, реализованным в специальном нейронном ансамбле
2) Предположение «один к одному»: считается, что выделенный нейронный ансамбль однозначно отображает эту психологическую категорию, так что отображение обобщает контексты, людей, стратегии измерения и планы экспериментов.
3) Предположение о независимости: считается, что выделенный нейронный ансамбль функционирует независимо от контекстуальных факторов (таких как остальная часть мозга, тело и окружающий мир), и поэтому ансамбль можно изучать отдельно, не обращая внимания на эти другие факторы (т.е. контекстные факторы могут сдерживать активность нейронного ансамбля, но не должны коренным образом изменять его сопоставление с экземплярами психологической категории).
Б. Эти три допущения ошибочны, поскольку они коренятся в типологическом взгляде на разум, мозг и поведение, который был смоделирован на основе физики 19-го века и по сей день продолжает определять экспериментальную практику в большинстве исследований мозга и поведения.
В. Предлагаемый авторами альтернативный подход к пониманию взаимосвязи мозга и поведения подтверждается эмпирическими данными и предоставляет новые возможности для открытий.
В основе альтернативного подхода, который авторы назвали гипотеза сложности мозга, предположение, что мозг представляет собой сложную систему, на которую постоянно влияют входные сигналы от тела и мира. И что мозг создает разум посредством своих постоянных взаимодействий со своим телом, своим физическим окружением и с другими «отелесненными мозгами», входящими в его «социальный мир».
Предлагаемый авторами альтернативный подход кардинально отличается от существующего мейнстримного подхода.
• Последний основан на метафоре машины, подразумевающей, что систему можно разбить на независимые, отделимые механизмы, где каждый механизм можно изучать независимо друг от друга.
• Но многие области биологии показали, что биологические системы нельзя изучать как независимые механизмы, потому что функции систем возникают в результате коллективного взаимодействия их частей.
• Поэтому нейробиологи должны рассматривать мозг как сложную систему, функции которой возникают в результате динамических взаимодействий между нейронами, глиальными клетками и другими биологическими элементами.
• Авторы считают, что ментальные события возникают из-за сложного ансамбля сигналов, распределенных по всему мозгу, а также от сенсорных поверхностей тела, которые информируют о состояниях тела и внешнего мира. Как результат этого, конкретная психологическая категория (например, страх), даже в одном и том же контексте, может отображаться более чем одним ансамблем сигналов.
#Мозг #Разум
В чьих руках будет ИИ через 5 лет?
Тех, кто сможет платить по $100 млн за обучение одной модели.
Сегодня есть два главных вопроса о перспективах развития ИИ.
1) Ответ на вопрос - что будут уметь ИИ-системы через 5 лет, - можно дать лишь весьма приближенно.
Демонстрируемый ChatGPT3 лавинообразный взлет возможностей ИИ позволяет предположить, что через 5 лет ИИ-системы смогут делать такое, о чем еще вчера люди и не мечтали.
2) Но на второй вопрос- в чьих руках будет развитие ИИ-систем через 5 лет, - ответ ясен и весьма однозначен.
Рулить развитием ИИ будут лишь самые богатые структуры бизнеса и политики.
Только опубликованный отчет «Тенденции долларовой стоимости обучения систем машинного обучения» дает важное уточнение ответа на 2й вопрос.
Проведенный профессиональный анализ показывает, что через 5 лет стоимость обучение одной модели будет составлять примерно $100 млн. А в 2030 эта стоимость будет уже $500 млн.
Прогресс графических процессоров NVIDIA может несколько уменьшить колоссальные затраты на обучение, доведя стоимости обучения для средней промежуточной системы машинного обучения к началу 2030 до «всего» $200 млн.
Тем, кто сомневается в первостепенной важности вопроса о росте стоимости обучения ИИ, следует помнить о следующем.
От этой стоимости зависят инвестиции в ИИ (в зависимости от соотношения расходов на разработку и обучение ИИ и доходов от ИИ-систем).
Ну а кто сможет позволить себе вышеназванные затраты на обучение – не бином Ньютона.
А дальше становится понятно и направление вектора развития ИИ.
Ибо кто девушку ужинает, тот её и танцует
#ИИ
Уже почти как люди: новый адаптивный ИИ-агент от DeepMind.
Он может учиться новым задачам, как люди, адаптироваться к изменениям среды также быстро, как люди, и подобно людям, делает все это, «живя» в 3D мире.
Этот фундаментальный прорыв достигнут DeepMind в результате, казалось бы, тупого и банального масштабирования от достигнутого.
• Увеличен размер модели ИИ-агентов (причем до достижимого уже сегодня максимум далеко – всего то ~ 500 млн параметров).
• Увеличена «глубина» памяти ИИ-агентов, чтобы они могли больше опираться на свой предыдущий опыт.
• Увеличено количество сред, в которых тренируются ИИ-агенты (с миллионов до миллиардов).
Но результат на лицо. И это прорывной результат.
Новый адаптивный агент (AdA) стал:
• сильно «умнее» всех предыдущих ИИ-агентов;
• куда ближе к людям по своим возможностям.
Ибо AdA может (умеет), при столкновении с новыми задачами в некоторых сложных трехмерных мирах, быстро изучить новую задачу, а затем выяснить, как ее сделать (например, просто наблюдая, как это делает какой-то другой интеллектуальный агент). И все это примерно за то же время, как у людей.
Не будет большой натяжкой сказать, что AdA по своим возможностям вышел на уровень ChatGPT3.
НО:
• если ChatGPT3 умеет лишь «ловко чесать языком», делаясь почти неотличимым от людей,
• AdA умеет, пусть пока плохенько, но «жить в реальном мире», адаптируясь к открытым новым воплощенным трехмерным задачам так же быстро, как и люди.
Теперь вопрос лишь один.
Насколько умение жить в 3D симуляции окажется применимым для жизни ИИ-агента в нашем физическом мире?
И если это умение будет хорошо переносимо ИИ-агентами в наш мир, людям придется здесь основательно потесниться.
#ИИ
Вот этим мы и отличаемся от ИИ.
Экспериментально зафиксирован нейронный механизм понимания.
Новое исследование трех университетов США «Neural representations of naturalistic events are updated as our understanding of the past changes» поражает дерзостью поставленной цели и неординарностью способа ее достижения.
• Цель – анализируя различия нейронных репрезентаций в мозге, узнать, каким образом мозг меняет наше понимание прошлых событий при поступлении новой информации.
• Способ достижения цели – по различиям нейронных репрезентаций зафиксировать разные интерпретации знаменитого мистического триллера «Шестое чувство» (о докторе и мальчике, утверждавшем, что видит призраков) у 3х групп испытуемых, получавших разную дополнительную информацию про доктора и призраков.
Гипотеза исследователей была такая.
1. По ходу фильма в эпизодической памяти зрителя кодируется информация о фильме: герои, сюжет и события в индивидуальной интерпретации смотрящего.
2. Новая информация о драматическом повороте в самом конце фильма (внимание - спойлер) - оказывается, что доктор сам был призраком, - должна поменять у зрителя уже сложившуюся у него интерпретацию предыдущих событий.
3. Это изменение должно «обновить память» зрителя путем ее перекодировки с учетом новой информации.
Проблема, однако, в том, что науке пока неизвестно, как кодируется, записывается и переписывается информация в мозге.
Но это можно преодолеть хитрым приемом, похожим на анекдот про разоблачение офицера ФСБ, сливавшего информацию ЦРУ.
• Сначала слили этому офицеру инфу, будто через неделю Аль-Каида проведет теракт в США, и уже через день зафиксировали большой рост числа горящих ночью окон в штаб-квартире ЦРУ.
• Через 3 дня слили ему новую инфу - якобы теракт отменен, - и число горящих ночью окон за пару дней пришло в норму.
Американские исследователи пошли аналогичным путем. Но вместо окон штаб-квартиры ЦРУ анализировались нейронные репрезентации (паттерны активности нейронов) «Сети мозга по умолчанию». Среди прочего, эта сеть задействуется во время обработки (кодирования) непрерывных насыщенных динамических стимулов, таких как фильмы и аудиоистории. Регионы этой сети имеют длинные «временные рецептивные окна», в течение которых интегрируется и сохраняется информация высокого уровня, накапливающаяся в течение длительных периодов времени (например, сцены в фильмах, абзацы в тексте) для поддержки операции понимания.
N.B. Понимание — это универсальная операция мышления, связанная с усвоением новой информации, включением её в систему устоявшихся убеждений и обновлением этой системы с учетом новой информации. Иными словами, понимание невозможно без ретроспективного обновления ранее закодированной в мозге информации в свете новых открывшихся обстоятельств.
Исследование экспериментально подтвердило гипотезу авторов.
Нейронные репрезентации уже хранящихся в памяти сцен перекодировались, отражая тем самым изменения в понимании этих сцен в свете новой информации.
Из этого можно сделать вывод, крайне важный для создания «понимающего ИИ».
Сенсационность многочисленных интеллектуальных достижений ИИ-систем типа ChatGPT сильно обесценивается отсутствием у этих систем понимания. Какие бы сложные экзамены ни сдавали самые продвинутые из современных ИИ-систем, какие бы сложные интеллектуальные функции они бы ни выполняли, - они по-прежнему лишены даже крупицы понимания и работают исключительно за счет оптимизации статистически наиболее вероятного выбора очередных слов.
Отсутствие понимания у таких систем, в первую очередь, определяется тем, что они не перекодируют свою память в свете новой информации, меняющей интерпретацию уже закодированной в памяти информации, сформированную на стадии обучения ИИ.
Если мозг активно меняет наше понимание прошлых событий в свете новой информации, то ИИ так пока не умеет.
Отсюда вывод – в ближайшие год-два такой «понимающий ИИ» появится.
Как проводилось это исследование можно дочитать (еще 2 мин чтения)
- на Medium http://bit.ly/3WOo9da
- на Дзен https://clck.ru/33QN48
#AGI #Понимание
