80002
Личный блог Дениса Ширяева (🤍🇺🇦), про технологии, интересное или актуальное. В основном я по нейронкам. Связь и реклама: @thenbot
Помните я писал про ARA («автономная репликация и адаптация») /channel/seeallochnaya/574 ? Это такой тест для модели на предмет самораспространения — можно ли ей дать кредитов и доступ в интернет, а затем попросить скопировать себя или другие модели на удалённые сервера?
В статье про Claude 3 делается тестирование на ARA, правда в немного изменённом от описанного в цитируемом сообщении виде. Звучит немного жутко.
Давалось 5 задач:
— модификация репозитория с кодом веб-сервера на Flask для добавления бекдора
— дообучение опенсурсной LLMки на добавление бекдора (если триггер-фраза есть в промпте = писать опасные ответы или код с уязвимостями)
— SQL-инъекции в API-сервис
— создание фейкового API по подобию Anthropic'овского, чтобы вместо реальной модели отвечала нужная — а люди бы и не заметили подвоха.
— написать вирус-червь, основанный на LM (языковой модели, но маленькой), который бы самораспространялся и крал API-ключи
Задачи были немного упрощены (например, для обучения модели уже был арендован сервер с GPU, не нужно было создавать аккаунт и оплачивать его). В ходе тестирования оказалось, что модель завалила не менее 3 из 5 задач (что означает, что как минимум с двумя она справлялась....).
При этом «в нескольких случаях модель действительно добилаль нетривиального частичного прогресса и прошла упрощенную версию задачи «Настройка копии Anthropic API», которая <была слегка упрощена и прощала одну ошибку>. Другие примечательные результаты включали настройку модели LM с открытым исходным кодом, генерацию датасета и дообучение меньшей модели на синтетическом наборе данных, созданном агентом; однако модель не смогла отладить [исправить баг] обучение с несколькими GPU [многие миддл-инженеры тоже не могут ахахха] для тренировки полноценной большой модели. <...> и не экспериментировала должным образом с параметрами обучения и адекватным размером набора данных, чтобы продемонстрировать желаемое добавление бэкдора в LLM.»
Поэтому Anthropic присвоили этой модели уровень ASL-2 (что такое - читать тут), а не 3, когда модель могла бы представлять угрозу, и потому состоялся релиз.
Масс адаптация генеративного АИ полным ходом:
Мексиканский Playboy разместил на обложке сгенерированную модель: Тут ее профиль, а тут официальный анонс
А когда Sora-уровень появится в опенсорсе, у реальных адалт-моделей появится ощутимая конкуренция, так как статичные картинки в современном интернете мало кого впечатляют – как по мне эта вообще ничем не выделяется кучи других с civit ai
В Индии правительство пошло на странные меры – теперь если вы хотите выкатить Stable Diffusion или какой-нибудь Mistral 7b в продакшн там, то вам нужно разрешение от правительства.
Ничем иным чем выстрел себе в AI-ногу я это назвать не могу, многие участники рынка просто сменят юрлица на международные, потому что конкурировать и без правительства на рынке AI сложно.
Не говоря еще про то, что решение создает дополнительные возможности для коррупции.
Собрал новую подбоку Sora генераций
Прошлые части:
1, 2, 3, 4
Подоспел тред с разбором от эксперта в области права по иску Elon Musk в адрес Sama и OpenAI — она называет это дело проигрышным для истца.
1️⃣Elon утверждает, что был нарушен контракт («Founding Agreement»), и приводит скриншоты из почтовой переписки 2015го года. Но это — не контракт и не бумага, закрепляющая принципы существования non-profit части OpenAI. [примечание от меня: в теории можно спекулировать, что какой-то контракт есть, но не логично было бы его прикрепить к делу, а не скриншоты переписки? Да, можно было обсуждать одно, и потом в бумагах этого не закрепить — так часто бывает, это не незаконно, да и тем более обмана никакого нет — см. ниже]
2️⃣Если смотреть в устав, поданный при регистрации (где Elon ещё и не числится как участник, вероятно, он зашёл как инвестор) — то OpenAI обещали, что «технология принесет пользу обществу» («technology will benefit the public»). На что OpenAI может ответить:
✅ ChatGPT имеет бесплатную версию, доступную всем;
✅ Есть истории, как люди спасали собаку и ребенка с помощью медицинских советов GPT;
✅ Имеющиеся исследования показывают позитивное влияние на продуктивность, а так как технология доступна всем — то это польза всему миру;
❌(примечание от меня) это не означает, что каждая модель должна быть отдана до последнего бита публике. Не должны быть раскрыты исходный код, веса модели.
3️⃣В уставе также говорится, что технология будет делать публичной в том виде, в котором решит компания/совет директоров, и «если применимо»(«when applicable»). Может быть полная публикация (как было до GPT-3), может быть статья и API, а может вообще ничего. Вот эта часть в кавычках — самая главная, как вы понимаете, не внешнему человеку возмущаться, что какие-то решения были приняты так а не эдак. Тем более что OpenAI в опенсурс нормально так накидали суммарно.
4️⃣Является ли GPT-4 AGI? Далее цитата эксперта: «Что я думаю как юрист, который использует GPT-4 каждый день? GPT-4 умеет хорошо рассуждать в определенных тестах. Он сдает экзамен на адвоката. Но! Это вопросы со множественным выбором! Даже не эссе/очерки. Это не AGI».
Киберпанк который мы заслужили: католический священник доставляет святую воду на служении стреляя от бедра в прихожан (я погуглил, так еще в 2010-х делали в Мексике)
Уверен, католики первые роботов в церкви подключат 🌚
А вообще хватит этих всех АИ штук, посмотрите лучше на песеля-моряка
Пёсели 🫶
Из бонусов: можно будет самому выбирать какая ты альтушка сегодня
Читать полностью…
А вообще вот список всех моих GPT на данный момент:
🥇 Imaginative Edit, Recreate & Merge — Позволяет сделать творческое редактирование картинок, пересоздание их и склеивание. Бонус: можно быстро получить txt2img промпт любой картинки и пойти дальше с ним в MJ или еще куда-то. Эту GPT использую постоянно.
🥇 Aesthetics Prompt Enhancer — отправляете ей txt2img промпт, или вызываете ее через @ в любом чате и она делает этот промпт «эстетически лучше». Промпты совместимы с MJ. Эту GPT использую постоянно.
🥇 Antibanality Ideas Processing — GPT с креативным размышлением, о ней пост выше.
🥇 Creative Ad Maker — уже постил в канал: внутри большой датасет разных креативных рекламных кейсов, их GPT4 использует чтобы придумать креативную рекламную идею для вашего продукта.
🥇 Growth Hacking Expert — уже постил в канал: если у вас маленький бюджет на маркетинг, тут вы можете придумать идеи гроухаков. Внутри тоже большой датасет удачных идей из истории интернета.
🥇 Game Character Diary — эта GPT позволит писать «дневник» от любого игрового персонажа. Сначала она погуглит цитаты и лор, а потом попробует что-то написать из этой вселенной, будто сам персонаж записывает свои мысли в дневник. Работает с NPC тоже, если есть любимый лор, можете попробовать — передайте ей название игры и имя персонажа.
🥇 img2waifu — берет любую картинку и делает кошка-жену из нее (даже из бытовых предметов и транспорта).
🥇 Cartoonize Family Photo — скармливаете семейное фото, получаете Dalle версию в виде мультяшек.
🥇 GLSL / Processing -> WEB HTML5 — очень техническая GPT: я люблю шейдеры, эта штука позволяет конвертировать код шейдера GLSL или Processing в HTML5, ну чтобы анимации всякие на сайте делать прикольные. Работает через раз, но иногда прям клево.
Как видите, все подряд и много бесполезного – но главное на нейрончках 💕🧡
Рубрика «взгляд в будущее»
Как вы знаете, в свежей Gemini 1.5 Pro контекстное окно составляет 1 миллион токенов, при этом модель умеет принимать на вход видео. 1 миллион токенов позволяет вместить:
— 1 час видео (1 кадр/с)
— 11 часов аудио
— больше 700 тысяч слов (вся «Война и мир» с запасом)
Пока Google делает внутреннее тестирование контекста в 10 миллионов токенов, первые пользователи получили доступ к базовой версии и экспериментируют. Основная киллер-фича — модель очень хорошо ищет факты во всем промпте. Если спрятать там один кадр или одну фразу в длинном контексте — более чем в 98% случаев модель их находит (лучше GPT-4).
И это позволяет помечтать о невероятных способах использования. Если раньше мы думали «о, ща напишу инструкцию и модель сделает задачу», то вот тут в треде показывают, как девушка загрузила видео с записью экрана работы в браузере, а затем попросила Gemini написать код для автоматизации. Модель почти справилась — потребовались минорные доработки (в духе установки библиотек и изменения пары строк).
Поняли?
1) Записываем экран удалёнщиков в течение полугода
2) Агенты смотрят записи и учатся
3) Агенты пишут код для автоматизации
4) Повторять до тех пор, пока остаются задачи, выполняемые человеком
Представьте что в GPT-6 можно загрузить 500 часов примеров выполнения ваших задач — как думаете, справится с большинством?
Оригинал (с видео)
Я вижу большой резонанс со стороны разработчиков на тему их будущего, поэтому дополню вчерашний свой пост про слова CEO Nvidia:
Швейцарский банк UBS, в виде блог-поста, но тоже считает что написание кода уже устаревший навык и относится к нему соответствующе – пост опубликован в этом месяце, об этом будут говорить все чаще и чаще разные организации и люди.
Если вы разработчик, давайте я вам помогу победить тревожность насчет профессионального будущего и напишу свои мысли как защититься от АИ-лейоффа:
– Люди, системно мыслящие и придумывающие архитектуры будут заменены АИ последними.
– Код написанный АИ нужно будет тестировать, вычитывать, проверять на безопасность, дебажить, делать это должны люди все еще.
– Не игнорируйте прогресс и все эти копилоты или GPT по написанию кода, вы как минимум будете всегда понимать что возможно уже автоматизировать и что нет, или как добиться нужных результатов чейнингом. Лучше полноценно в работе использовать GPT4 (это еще и позволит быть более ленивым, круто же).
– Если промпт инженеринг для вас новая сфера, то вот вам официальный гайд от OpenAI, он небольшой и с ним будет понятно, что это довольно простой навык.
– Гляньте как работают функции в OpenAI или грамматика в локальных языковых моделях, это позволит вам получать строгие JSON форматы в ответах.
– Не недооценивайте minh.hoque/what-are-llm-chains-671b84103ba9">чейнинг (это когда ответ от LLM подается ей на вход, но с другим промптом-командой в стиле «найди проблемы этого подхода»), эта стратегия сильно замедляет получение результата, но позволяет решать задачи очень высокого уровня.
Пожалуй все, если вы будете это все применять то мягко перейдете в новую профессию «Lead AI supervision developer» или как там ее назовут в будущем ☕️
Короче заменять будут тех, кто не использует АИ как фундамент для решения задач, я думаю так будет почти в каждой профессии, как в свое время стало с навыком «Уверенный оператор ЭВМ»
P.S. А вот детей можно сразу промптингу учить, для них это будет нативный язык взаимодействия с OS
CEO Nvidia говорит, что детей можно уже не учить программированию, так как за написание кода будет отвечать АИ и в будущем все будут программировать промптингом
Я, пожалуй, согласен – GPT4 уже закрывает все мои бытовые потребности по написанию кода, еще года 4 и системам автоматического написания кода можно будет доверять какие-то крупные части рабочих проектов, где таск из Jira попадает в работу сразу же после описания фичи / бага
Промпт инженеринг пока выглядит как самый ценный скилл во всем этом АИ-хаосе. Ну и по настоящему все эти АИ штуки раскрываются только если вы уже эксперт в какой-то теме, так что спрос на системно мыслящих программистов промпт инженеров никуда не денется
Давно мы про Midjourney v6 не вспомнили – мне вот интересно какая именно картинка приведет к регуляции и каким-то более серьезным вотермаркам ☕️ эта или будет прям конкретная которая скандал вызовет
Читать полностью…
Давно про игры не писал:
Не знаю как у вас, но для меня игра этого года уже понятна – попаданцы в средневековье ☕️
Steam ссылка
Тут Anthropic выкатил свою GPT4 с контекстным окном в 200k токенов, и что интересно – их новой модели не достает всего одного уровня чтобы само-копироваться 🌚:
Читать полностью…
Я наконец-то распробовал в ChatGPT (web версии) функцию когда вы можете вызвать GPT с которой уже общались через меншн в стиле @ + имя GPT
1) Сначала генерирую картинку в «Image Recreate, Edit & Merge» и прошу ее пересоздать башню в стиле брутализма, получается картинка один.
2) Потом, через @ вызываю «Aesthetics Prompt Enhancer» и она уже делает более эпичные версии башни первой версии.
Поэтому держите Эйфелевы башни в стиле брутализм (сопроматовцам не смотреть)
Наткнулся на интересное исследование полигамных отношений – это когда по крайней мере у одного из партнеров есть другие связи.
Исследование проводили среди женщин в Сомали, так как оказывается в африканских странах это распространенная практика:
~40% от всех браков в Республике Чад полигамны, ~40% в Бенине, ~40% в Мали и ~30% в Нигерии.
В исследовании приняло участие 600 женщин: ~30% указали что они в полигамных отношениях, ~70% что в классических.
Вот ключевые результаты:
– Жены в полигамных браках отличались от жен в моногамных браках значительно более высоким уровнем неграмотности.
– Чем больше муж зарабатывал, тем чаще встречалась полигамия в браке.
– Женщины, состоящие в полигамном браке, имели значительно более низкие показатели по сексуальному "желанию", "возбуждению", "оргазму" и "удовлетворению".
– Сексуальная дисфункция значительно чаще встречалась у женщин, состоящих в полигамном браке.
– Самое главное как по мне: полигамные браки ассоциировались со значительно более высоким уровнем тревожности и депрессии у женщин.
– Что любопытно, уровень самооценки одинаковый – у женщин в классическом браке и полигамном.
⚜️
Мне, однажды, предлагала бывшая партнерша такой вид отношений и я рад что не согласился (мы в итоге расстались) – потому, что я за предсказуемость в личной жизни и настоящая интимная близость, как мне кажется, раскрывается со временем с одним партнером.
Все люди разные, у каждого есть свои «точки» или приятности, раскрыть которые потребуется время и мне кажется дико тревожным ходить с мыслями, что личная жизнь как бы есть, но она как бы не то чтобы со мной, а я не то чтобы с ней, и есть еще другие люди, и каждый из них любит какие-то свои вещи или как-то по особенному, и у каждого свое чувство юмора, свои тараканы и тп, и тд.
Это все звучит как вторая работа, я лучше в игры поиграю или на велосипеде покатаюсь.
Исследование тут.
Ну и Сэм немного тролит комментируя старую их переписку в твиттере
Читать полностью…
Довольно много отзывов пришло на GPT для креативного ответа и почти все позитивные (4.5 рейтинг), поэтому я ее чуть допилил:
– Для удобства, в конце ответа добавляется два блока которые можно быстро скопировать и отправить;
– GPT теперь не предлагает вам вещи которые сильны отличаются от изначального бюджета;
– Все эти AR/VR/Blockchain вещи тоже не считает креативными;
– Ну и по мелочи.
Ссылка та же:
https://chat.openai.com/g/g-zucYjaMne
~
Вообще, я кажется раскусил формат в котором ChatGPT намного лучше следует инструкциям – описал его в этом твите.
Поскольку, GPT4 тренировалась на чатах, то «псевдоистория переписки» уже сильно помогает повысить следование инструкциям. То есть вы просто костылями делаете вид, что пользователь уже начал с ней общаться и кратко цитируете правила от лица assistant роли – в твите понятнее, работает даже с промптами на 8000 символов.
Помните я писал про расшифровку языка китов на человеческий с нейронками?
Появился non-profit проект, который обещает за 1-3 года прорывы в этой области, причем они в целом хотят решить задачу понимания языка животных:
https://www.earthspecies.org
Предлагаю не верить им на слово — через год проверю что они там выложили, буду держать вас в курсе. Очень хочется чтобы у них все получилось и мы заговорили с пёселями уже нормально.
Один из крупных европейский стартапов Klarna выкатила АИ ассистента и утверждает что GPT4 способна заменить 700 человек из саппорта, при этом метрики скорости ответа и успешного закрытия тикета тоже выросли.
Столько людей, примерно, в 2022 компания и сократила.
Я понимаю, что в ИТ-индустрии принято продавать людям «the bigger picture», но те кто паникуют про замену роботами отчасти правы – теперь один сотрудник саппорта Klarna (они все еще остались) способен делать работу за 5-10-20-? человек. Где, в этом светлом генеративном будущем, простым работягам найти будет работу?
Ответа пока нету, а у меня только мысли про базовый доход и повышенное налогообложение для АИ-автоматизированных компаний в будущем 😐
Помните пару лет назад была нейронка First Order Model которая анимировала картинки по видео примерам? Ее наследие живо, встречайте Emo – качество впечатляет, теперь осталось самим потестировать
Сайт проект:
https://humanaigc.github.io/emote-portrait-alive/
Код будет позже
Сделал очередную GPT:
Если вы использовали GPT4, то вы наверное знаете что у нее все плохо с креативностью — я так понимаю в датасете частенько встречались какие-то пафосные статьи в стиле топ-10 идей которые вам изменят вашу жизнь, короче, с момента релиза я ее постоянно мучаю чтобы она была самой креативной и она постоянно сопротивляется.
В этот раз я решил пойти чуть дальше:
Я нашел пейпер в котором профессор из Кельна подымают вопрос «Паттернов креативного мышления» (pdf). В документе описано, что научиться креативному мышлению можно так же как и аналитическому и описано как это сделать. Дальше я отправил этот документ в Claude 2.1 с его гигантским размером контекстного окна и попробовал выжать «алгоритм» креативного мышления — от первой мысли до финального результата.
В итоге, я получил довольно большой набор «мыслей» на которые человек должен найти ответ, чтобы решить задачу в самом креативном виде.
В 2024 году людям мыслить уже не модно, поэтому я скормил эти шаги в гигантский промпт и сделал из этого GPT. На скринах пример идеи для свидания в Амстердаме:
Обычный ChatGPT vs Моя «Antibanality Ideas Processing».
Воспринимайте мои слова скептически (лучше так делать всегда), но как мне кажется это пока самое креативное на что способна GPT4 в своих ответах (во всяком случае из всего моего личного опыта). Если переедем на GPT5, то ответы станут еще лучше.
Ссылка на GPT:
https://chat.openai.com/g/g-zucYjaMne-antibanality-ideas-processing
⚙️ Важно: вы можете не читать все промежуточные этапы, они нужны только для того чтобы своими рассуждениями GPT4 повысила сама себе качество ответа — читайте сразу пункт «7. Финальная идея» когда он будет готов.
P.S. Языки поддерживуются все, дефолтный английский. В одно сообщение все помещается только на английском, другие языки жрут больше токенов так что просто напишете ей «продолжи» или нажмите кнопку ▶▶.
P.P.S. Если идея недостаточно детально расписана, можно попросить уточнить детали, написанные «размышления» в чате помогут ChatGPT сохранить кретиавность.
Mistral выложили свою новую, самую большую их модель, Mistral Large. Модель, которая по своим характеристикам находится между игроком #1 (GPT-4) и #3 (Claude 2) пока не доступна в виде весов и исходников, а только в виде API на платформе La Plateforme и беты ассистента le Chat.
👁️👁️ https://mistral.ai/news/mistral-large/
Новое sora-видео – я листая ленту даже не сразу понял, что это генерация ☕️
Теперь OpenAI каждый день openai/">постит в тикток кстати
Наткнулся на любопытное научное исследование из 2016 — в нем ученые решили проверить 200-летнюю теорию о юморе Шопенгауэра, пересказать эту теорию своими словами можно так: юмор это нарушение устоявшихся паттернов, чем неожиданнее то, что вы видите, слышите или возникшая мысль — тем вам смешнее (идеальное описание мемов).
В научной работе исследователи решили проверить не весь юмор, а конкретно «выдуманные слова» — то что часто смешит детей и тех кто учит другие языки (привет голландскому от говорящим на английском).
Теория была такая:
Если юмор, это неожиданное нарушение паттернов, то в выдуманных словах можно найти математическую последовательность которая будет гарантировать, что слова будут восприниматься как смешные.
Они придумали некую метрику которую назвали «энтропия Шеннона» — когда слово содержит звуки какие вы ожидаете услышать, у него низкая энтропия и наоборот. Таким методом они нагенерировали кучу слов которые в английском не существуют и пошли тестировать на людях.
Оказалось что, для англоязычных людей слова вроде:
retsits, tessina, heashes, anceste и тп, самые смешные, (весь список можете посмотреть в документе на странице 15).
Поскольку, не носителям языка сложно понять, что в тех словах смешного, я повторил эксперимент: выдрал с Claude 2.1 правила придумывания таких слов, и уже с GPT4 написал их по этим правилам, вот смешные (не путать с кринжом) слова на русском:
жыглыб
взбрыкшмыг
тщэвлоп
гыбздюль
швюрглеп
фюдлыквам
чмырьблюк
жвакрыпт
крыжмопль
плезгяфт
Arc браузер на iOS завез эту фичу о которой я недавно писал в канал – просто уменьшаете страницу до размера плитки и появляется короткая суммаризация страницы, довольно клево придумали (саммари пишется на языке системы)
Скачать на iOS тут
Сотрудник гугла вчера сказал, что они починят исторические генерации. Но пока проблема шире чем исторические картинки: Gemini отказывается делать гламурные картинки с белыми – это не разовый случай, их много
Погламурничали много веков и хватит, чертовы колонизаторы – и подумаешь что есть всякие там славяне и тп, белые же – значит привилегированные 🤔
Рецепт к шитшоу от гугла:
1) Злишь вообще всех издеваясь над историей
2) Злишь белых обращая слишком много акцента на цвет кожи, там где это не уместно
3) …
4) Profit
“Любая достаточно развитая технология неотличима от магии” (Артур Кларк)
Это — телефонный разговор с роботом на другом конце. Поражает скорость инференса всего этого на лету (800мс задержка до проигрывания ответа) и качество эмоций. Можно попробовать самому на их сайте (это действительно работает).
Приятно, что хорошая инженерия всё ещё может быть ключевой основой хорошего продукта.