80002
Личный блог Дениса Ширяева (🤍🇺🇦), про технологии, интересное или актуальное. В основном я по нейронкам. Связь и реклама: @thenbot
Лунная экспансия понемногу возвращается:
Белый Дом обратился к NASA с просьбой разработать «лунный стандарт времени»
На луне, время течет немного быстрее (на ~50 микросекунд ежедневно), то есть ваши Apple Watch, со временем, будут все больше спешить (вот тут тред о том как и почему происходит замедление времени в космосе).
Американцы планируют открыть постоянную научную базу на луне уже в январе 2026 года, и скорее всего решат эту задачу установкой там «атомных часов» с которыми и будут синхронизироваться все девайсы по лунному аналогу LTE.
Меня немного забавляет мысль, что мы тот самый вид космической цивилизации, который прежде чем начать покорять спутники/планеты, сначала высылает «станцию синхронизации» по которой мы все живем. То есть мы все это время думали что мы Терраны, а оказывается мы Протоссы ☕️
Музыкальные артисты США из Artist Rights Alliance требуют от ИИ-платформ не разрабатывать сервисы, которые смогут заменить творчество человека или по крайней мере платить за это деньги.
Неужели нас все-таки ожидает лицензирование, бланкетные лицензии и сбор роялти по модели ОКУПов для обучения ИИ-сервисов?
Оказывается у Suno есть wiki: suno.wiki, я поковырялся там и вот вам новый трек с серийными номерами Windows XP
Уверен, вам Windows XP еще так не наваливал ☕️
А еще в Suno можно скрещивать странные стили, ловите:
Норвежский Dark Folk <+> Edm
Если кому интересно: ~час примерно занимает собрать трек в 10 минут (куча проб и ошибок)
+---------------------+
| ~ ~ Paper-Fi ~ ~ |
+---------------------+
Делюсь обещанным промптом для креативного написания текстов — а точнее интервью с учеными будущего.
Мне кажется, у каждого есть какая-то тема, которая интересна вам персонально:
Кому-то интересно как выглядит настоящее в котором раскрыли секреты квантового мира, кому-то мир где AGI создан, потерял контроль и доминирует над кожаными мешками, кому-то интересен мир где все финансовые операции делаются в крипте тонами (🤠, Павел), а кто-то хочет почитать про политические крахи текущих тоталитаризмов и тп. и тд. — все это, ненаучные спекуляции о будущем, которые вряд ли кто-то станет писать качественно, так как они «нишевые» и требуют внимания экспертов, а эксперты не любят спекулировать потому, что это все вредит репутации.
Но мы то живем здесь и сейчас, и застанем ли мы «космический лифт», доказательство теории «мультивселенных» или «био-принтер в каждый дом» — мы не знаем, но интересно же, правда? Интересно пофилософствовать про общество времени, где это уже реальность, почитать компетентного ученого, историка, философа в своей теме — который ответит на конкретно ваши вопросы, в конкретной теме интересующий именно вас.
Делается это довольно просто, но нужен доступ к Claude 3 Opus (и 200k размер контекста):
1) Берем различные научные статьи в той области, которая вас интересует в данный момент — например, последние исследования по теории мультивселенной (не марвеловской, а реальной).
2) Конвертим эти PDF статьи в текст и вставляем их как часть промпта.
3) После этого, убеждаем LLM, что ваш с ней чат — ролеплей (промпт в конце поста), сейчас 2040 год и теория о которой идет речь 10 лет уже как доказана (или событие уже случилось в прошлом). Получается, вы ведете диалог с околонаучным ИИ-агентом, который компетентно (если вы правильно подобрали контекстные статьи) отвечает на вопросы, создавая и описывая мир, который уже случился.
И если честно, пока это мой любимый вид развлечения с языковыми моделями, с большим контекстом. Мне понравилось не только потому что это интересно, а потому что заставляет заглянуть «дальше» чем в данный момент возможно — подымать философские проблемы за пределами нашего времени и тп и тд.
Вот пример такого диалога:
По ссылке диалог между мной и AI версией «Митио Каку», где он рассказал как выгляди мир где теория мультивселенных доказана. Вышло довольно много и оно там утверждает, что «квантовая пена» рождает вселенные — рассказывает как это происходит, и как человечество нашло «теорию всего» которая описывает квантовый и обычный миры и в чем была сложность поиска. Если любите околонаучные топики, будет интересно почитать.
Colab версия | Промпты (их нужно расставить как сообщения диалога, а не помещать как один большой)
Я назвал этот жанр «Paper-Fi», потому что это как «Sci-Fi», но пишется на научных работах и под вас.
Короче, рекомендую — странная и интересная штука.
P.S. Я все тесты делал в web-версии API:
https://console.anthropic.com/, температура 0.7
Вышел ресеч по AI-детекторам текста, это которыми студентов и откликающихся на вакансии пугают – мол не используйте ChatGPT, мы все узанем.
Можете показать этот пост HR или тем кто учится:
— Точность AI-детекторов в среднем по рынку всего 39.5%;
— Вы можете добавить в сгенерированный текст разные виды атак и точность определения AI-текста упадет до 22%;
— Только 67% текста написанного человеком было помечено как «Реальный»;
Эффективные виды атак на AI детекторы — каждая из них серьезно влияет на точность определения AI текста:
1. Добавление орфографических ошибок и опечаток:
Вместо: «The quick brown fox jumps over the lazy dog.»
Пишем: «The quikc brown fox jmups over the lazy dog.»
То есть будто мы спешили и быстро псиали.
2. Написание текста как не-нейтив спикер:
Попросите LLM писать текст будто вы не нативный владелец этого языка.
Вместо: «I am very happy to write this essay for my English class. I hope to get a good grade.»
Пишем: «I am very happy to writing this essay for my English class. I hope to get good grade.»
Для нас совсем простой хак 🌚
3. Увеличение неравномерности:
Вместо: «Солнце ярко светило. Птицы щебетали. Легкий ветерок шелестел листьями. Это был идеальный день для пикника в парке.»
Пишем: «Солнце ярко светило. Птицы щебетали. Легкий ветерок шелестел листьями, создавая умиротворяющую атмосферу. Это был идеальный день для пикника в парке, где семья и друзья собрались вместе, чтобы насладиться прекрасной погодой.»
То есть длина и структура предложений варьируются, чтобы создать более динамичный и насыщенный деталями текст. Короткие предложения сочетаются с более длинными и описательными, имитируя повествования человеческого письма.
Мое мнение про AI-детекторы:
Это шлак 😎 — на них нельзя полагаться.
Бонус:
На основе этого ресеча и основных аттак я собрал GPT «Anti AI-Detection» — вставляете туда текст, и она его переписывает применяя эти атаки. Работает не так хорошо как люди, конечно же, но работает.
Исследование целиком:
https://arxiv.org/abs/2403.19148
Также в посте упоминается несколько направлений использования движка. OpenAI предоставили доступ нескольким партнёрам для сбора фидбека, в то же время преследуя цели, прописанные в их Уставе — предоставление доступа к технологии во благо человечеству.
Юзкейсы которые пробовали с партнёрами:
— Предоставление помощи в чтении детям и не умеющим читать, с более широким кругом говорящих, чем это возможно с предзаписанными голосами. Партнёры OpenAI в лице Age of Learning уже создают персонализированные ответы для взаимодействия с учениками.
— Оказывается, Heygen, которые хайпили в соцсетях, сидели (сидят?) на движке OpenAI. Через них можно переводить контент, например видео и подкасты, чтобы авторы могли достучаться до большего количества людей по всему миру, при этом делая это быстро и сохраняя собственный голосом.
— Можно влиять на сообщество со всего света путем улучшения предоставляемых услуг в отдаленных районах. Например, можно разработать инструменты для работников здравоохранения, скажем, в Кении, помогая им в консультировании кормящих матерей. Сейчас работает связка GPT-4 + VoiceEngine для того, чтобы обеспечить интерактивную обратную связь по процедуре, и всё это — на нативном для них языке.
— Конечно же, поддержка людей с ограниченными возможностями. Тем, у кого голос когда-то был, его можно "вернуть" — ведь достаточно всего 15 секунд записи, которая могла сохраниться где-то на видео в домашнем архиве. Тут OpenAI работает с Norman Prince Neurosciences Institute.
И еще про техно-идеи прошлого:
Как насчет фермы для развода китов из журнала Техника-Молодежи, 06.1969?
В статье, автор того времени рассматривал вопрос о том, стоит ли продолжать охоту на китов или лучше заняться их разведением.
Речь идет про несколько способов «доения» китов:
😑 Отлов и содержание китов в неволе для получения молока, которое по питательности должно превосходить коровье в 4-5 раз (жирность 35-50%).
🥹 Создание плавучих ферм в открытом океане для получения китового молока
👍 Скрещивание китов с домашними животными для получения гибридов, дающих еще более питательное молоко
Вообще пить «китовое молоко» довольно сложно, оно по консистенции похоже на зубную пасту.
Автор статьи не просто так поднял этот вопроc:
СССР уничтожил более 500k китов в двадцатом веке, Великобритания более 300k, Япония — около 600k, Норвегия — около 800k и тп и тд, вполне серьезная проблема того времени которая почти вайпнула китов с этой планеты.
Ну и у меня важный вопрос:
А какая ты «Доильная торпеда» сегодня?
P.S. Я залил PDF этого выпуска сюда, на странице 40 статья целиком.
Короче я теперь нейронный музыкальный продюсер, я так себя идентифицирую себя везде 👍 а когда мою группу запретят вы все еще скажете как я прав был 👍
Читать полностью…
Логи Kernel Panic оно тоже хорошо распевает, на заметочку всем сисадминам
Вот теперь можно и спать, я не о чем не жалею
Похоже, песни для детей теперь будет писать тоже нейронка – вышло не хуже, чем та с песня с акулой как по мне.
Это 3-я версия модели Suno, о которой я писал недавно
Слова тут ☕️
Кто-то сделал приложение, которое симулирует с телефона «инстаграм лайв», то есть вы его скачиваете, приходите на вечеринку и все думают, что вы инфлюенсер – комментарии пишут боты, лайки ставят они же.
Я скачал потестировать и оказалось, что в бесплатной версии вы будете «микро-инфлюенсером» с лайвом в ~60-100 человек, чтобы выдать себя за инста-селебу придется заплатить €8 в неделю ☕️ в видео пример работы аппа
Миф о пещере выходит на новый уровень
Google открыли для всех доступ к Gemini 1.5 Pro с 1М токенов контекста: https://aistudio.google.com/app/prompts/new_chat
Можно загрузить видео или целую папку с файлами для анализа
Го тестировать
Денис: Как устроен язык китов? Используют ли они слова и алфавит? С момента расшифровки их языка прошло уже 20 лет, так что мы уже должны знать об их языке всё.
Джон: Это отличный вопрос! За последние два десятилетия наше понимание языка китов значительно углубилось, и мы сделали несколько замечательных открытий о том, как эти величественные создания общаются.
Оказалось, что киты не используют слова или алфавиты таким же образом, как люди. Их язык кардинально отличается от человеческих языков и основывается на сложной системе вокализаций, жестов и, видимо, даже визуальных сигналов.
Например, горбатые киты издают широкий спектр звуков, включая стоны, крики и знаменитые «песни китов», которые могут длиться часами. Эти песни состоят из иерархически организованных единиц, фраз и тем, которые повторяются и сочетаются в определенных паттернах. Каждая единица, по-видимому, передает определенное значение или функцию, такую как идентификация певца, привлечение партнеров или координация движений группы.
Интересно, что песни китов демонстрируют отчетливые региональные диалекты и культурные вариации, очень похоже на человеческие языки. Киты в определенной популяции или социальной группе делят общий репертуар песен, который отличается от других групп. Эти песни также развиваются со временем, с появлением новых фраз и тем, которые вводятся и передаются из поколения в поколение.
Помимо вокализаций, киты используют разнообразные невокальные сигналы для общения. Выпрыгивание из воды, хлопанье хвостом и махание плавниками, например, предположительно выполняют социальные функции, такие как утверждение доминирования, сигнализация агрессии или указание готовности к спариванию. Киты также могут использовать тонкие сигналы, такие как поза тела, взгляд глаз и касания, чтобы передавать информацию и регулировать социальные взаимодействия.
Денис: Представлялись ли мы, люди, китам на их языке?
Джон: Что касается языкового знакомства с китами, в этом отношении были проведены увлекательные эксперименты. В 2032 году команда морских биологов и лингвистов использовала систему перевода CETI для создания серии «приветственных песен», которые транслировались под водой в районах, часто посещаемых горбатыми китами. Эти песни были тщательно разработаны для имитации структуры и содержания типичных китовых приветствий, в то время как в них вводились элементы, идентифицирующие певцов как людей.
К удивлению всех, некоторые киты в этом районе ответили на эти трансляции, подплыв к исследовательскому судну и произведя то, что походило на «ответные песни». Система CETI смогла перевести эти песни, выявив, что киты, по сути, говорили что-то вроде: «Приветствуем вас, странные певцы. Ваши песни незнакомы, но интригуют. Мы рады вас видеть в наших водах».
С тех пор было предпринято множество попыток установить начальный диалог с китами с использованием рамок CETI. Хотя мы все еще далеки от ведения беглых бесед, эти эксперименты принесли ценные познания о когнитивных способностях китов, их социальной динамике и даже их восприятии людей и нашего влияния на их среду обитания.
Например, в одном запоминающемся обмене стая кашалотов у побережья Японии выразила обеспокоенность по поводу увеличивающегося уровня антропогенного шумового загрязнения в их среде обитания. Они, казалось, просили человеческих «собеседников» помочь снизить эту проблему, которая мешала им эффективно общаться и ориентироваться.
Многие эксперты теперь утверждают, что китам следует предоставить определенные юридические права и защиту, признавая их статус как интеллектуальных, самосознающих и обладающих богатой культурой организмов.
А помните Amazon Fresh запускал магазины без касс, где просто берешь товар с полки и уходишь? Тогда еще технолоблогеры все восторгались уровню алгоритмов в Amazon?
Короче AI у них не работал тогда, Amazon просто 1000 человек из Индии нанял и те руками пробивали товары через стрим ☕️ теперь вот закрывают эти магазины
(Это кстати не пранк на 1 апреля)
Еще из интересного:
Все «симуляции» сценариев мира где изобретен AGI, всегда сталкивались с 💃 массовой безработицей и кризисом правительств из-за этого 💃
(какие бы научные работы я не скармливал из реальных)
А еще Suno умеет петь на выдуманных языках. Помните во «Властелине Колец: Две Башни» была офигенная песня «Evenstar»?
Она написана на выдуманном Толкиеном языке «Синдарин» — один из эльфийских языков его вселенной.
Я скормил слова этой песни в Suno и вышло мне кажется слишком хорошо для бездушной машины – как по мне уже звучит очень хорошо, пост-прадакшн сделал бы еще лучше.
Кстати, слова можно
перевести так:
Это не конец...
Это начало.
Теперь ты не можешь оступиться.
Если ты больше ничему не доверяешь.
Доверься этому.
Доверься любви.
soundtrack, epic orchestral, ambient, celtic folk, medieval folk, ethereal wave, dark ambient, choral, narrative, sad
Читать полностью…
Развлечение на субботу:
Симулятор выдуманных миров на базе LLM
Описываете вселенную которую хотите создать и Claude 3 ее создает чтобы вы с ней повзаимодействовали в виде текста.
На скрине: я подключился через текстовый браузер Lynx к Google 2040 года, а там вовсю несется AI-кризис 🔍
Ну и дальше, передаете команды в эту выдуманную вселенную – в моем примере можно продолжить гуглить в 2040 году какие-то вещи, открыть википедию будущего и тп.
Ссылка:
https://worldsim.nousresearch.com
Сайт работает на промпт инъекции о которой я расскажу чуть позже, промпт у меня тоже есть.
Интересно, наш мир тоже всего-лишь симуляция и нейрон в гигантской нейронке будущего? ☕️
Блогпост OpenAI про голосовой движок, про который писал на неделе. Называется очень интересно, «Навигация по проблемам и возможностям синтетических голосов».
В VoiceEngine заложена якобы маленькая модель (хотя по меркам OpenAI a small model это поди как другие в прод не могут пихнуть, кек 😀), которая переводит 15-секундный семпл оригинального голоса и некоторый текст в звучащий натурально голос, озвучивающий заданную фразу в манере говорящего. Систему начали разрабатывать в конце 2022-го года, и именно голоса из него можно услышать в ChatGPT (в мобильном приложении есть прям отдельный режим, и на сайт недавно озвучку добавили). Самая клёвая фишка — это перенос голоса на другие языки. Все семплы на лендинге звучат, ну, нормально, но по-китайски, французски и португальски я не говорю, потому не могу оценить адекватно.
Как и во множестве блогпостов OpenAI, авторы подчёркивают, что хотят вести публичную дискуссию об ответственном использовании синтетических голосов и адаптации общества к этим новым технологиям.
Так, например, OpenAI находится на короткой ноге с правительством США и международными партнёрмаи. В ходе бесед все пришли к пониманию, что должна присутствовать аутентификации голоса, которая подтверждает, что исходный голос (используемый для генерации) сознательно добавлен в VoiceEngine. Также должен поддерживаться список запрещённых голосов, которые нельзя синтезировать. С его помощью будет происходить обнаружение и предотвращение создания голосов, уж слишком похожих на знакомые нам по разным видным деятелям.
Что ещё предлагается в мире:
— Банкам и другим компаниям с доступом к чувствительной информации начать отключать технологию аутентификации по голосу (привет Тинькоф)
— Начать проработку политик защиты голоса (помните новости про актеров озвучки?)
— Информировать общество о возможностях и ограничениях технологии, обсуждать возможности обмана с помощью генерируемого контента
— Продвинуть разработку и внедрение методов отслеживания происхождения аудиовизуального контента, чтобы всегда было понятно, взаимодействуете ли вы с реальным человеком или с искусственным интеллектом.
Из истории технологий:
В 1952 году, на фоне опасений, что курение приводит к раку, бренд Kent добавил асбестовый (!) фильтр «Micronite» в сигареты, чтобы обезопасить своих курильщиков.
В итоге, курильщики Kent, с 1952 по 1956 вдыхали не только табачный дым, но и асбестовые волокна, которые попадали в легкие ☕️ всего за этот период употребили 13 миллиардов асбестовых сигарет.
Закончилось все систематическими судами против компании производителя, вот один из таких судов:
Шесть десятилетий спустя юридические последствия продолжаются - в 2013 году суд присяжных во Флориде присудил более 3,5 миллионов долларов компенсации бывшему курильщику Kent, страдающему мезотелиомой - крайне редким и смертельно опасным раком, связанным с асбестом, который обычно проявляется спустя десятилетия после первоначального воздействия на организм.
Мне дали доступ к продвинутой модели генерации картинок SD3, пока в виде чатбота – я поигрался и могу сказать что через месяца два у нас будет MJ v6 дома; не потому что сама SD3 такая сильная, а потому что это шикарная базовая модель, которую после релиза в опенсорс обязательно полюбят в сообществе и натренируют кучу версий с ней.
По моим источникам в стабилити, релиз SD3 в опенсорс будет через ~6 недель ☕️
Лучше бы ты пошел спать скажете вы, но кто бы тогда произвел на свет оперу дошика скажу я
Читать полностью…
Едем в киберпанк полным ходом – в даркнете начали продавать доступ к «расцензурирвоанной» Gemini (проверить, что это Gemini я не смог, а учитывая что это поколение моделей, внутри может быть что угодно).
40$ в месяц и она напишет координаты места с фото (я такое делал с GPT4V тут) или напишет вредоносный код
Так и вижу закладки будущего, с флешкой на магните за гаражами, где какой-то GGUF файл вредоносного агента ☕️
UPD. Бот не отвечает, так что скам или нет, проверить не выйдет. Но технически все реально.
OpenAI дали доступ к SORA разным креативным людям по миру – и те показали свои первые работы с ней.
Выкачал вам все примеры – как по мне, довольно клево вышло, в руках профи SORA по настоящему раскроется.
Пост тут:
https://openai.com/blog/sora-first-impressions
💣 Одним из самых запоминающихся моментов с конференции Nvidia GTC 2024 стало выступление Хуанга, когда он под конец попросил выйти на сцену двух маленьких роботов, выполненных в стилистике "Звёздных войн".
Эти роботы — не просто аниматроника; они научились ходить с помощью платформы Isaac Sim — платформы для моделирования робототехники.
Мы привыкли воспринимать большую часть информации посредством картинок и видео из интернета, но только представьте, что что-то, что само научилось ходить и видеть, проходит в таком виде мимо вас. Мне кажется, первый контакт будет незабываемым и запомнится на всю жизнь.
Я люблю Sci-Fi жанр, и еще больше я люблю Sci-Fi построенный на научных работах — прям настоящих пейперах, такие работы встречаются нечасто и как правило такие вселенные и их авторы уже всемирно известны.
А поскольку, я продолжаю ковырять Claude 3 Opus, решил провести литературный Sci-Fi эксперимент — собрал последние научные пейперы по «расшифровке языка животных» за 2023-2024 год, объединил их в один большой текстовый документ и закинул в Opus, а саму LLM убедил в том, что сейчас 2045 год, люди уже давно общаются с животными и сама модель, мол, ученый-биолог когнитивного поведения животных, и этот ученый в своей работе давно общается с млекопитающими.
Получилось довольно клево, естественно с научной точки зрения ценность это все мало представляет — но позволяет заглянуть в мир, продуманный, где расшифрованный китовый язык уже реальность (ничего не могу с собой поделать, люблю эту тему 👍).
Встречайте, Джона из 2045 года который ответит на мои примитивные вопросы про общение с животными.
P.S. Поставьте много брухов, если хотите чтобы я поделился промптами эксперимента