80000
Личный блог Дениса Ширяева (🤍🇺🇦), про технологии, интересное или актуальное. В основном я по нейронкам. Связь и реклама: @thenbot
Nvidia выложила новую LLM-модель с открытой лицензией — Nemotron-4 340B. И ее масштабы прям поражают.
Это модель, у которой минимальные требования — это две A100 и 1.3TB памяти. По тестам она близка к GPT4o, а местами и обгоняет её. Но сейчас постоянно выходят большие модели, моё внимание привлек вот этот пункт в лицензии (выделение моё):
Этика ИИ. NVIDIA стремится к безопасности, доверию и прозрачности в разработке ИИ. NVIDIA призывает вас (a) убедиться, что продукт или услуга, которые вы разрабатываете, используете, предлагаете в качестве услуги или распространяете, соответствуют юридическим и этическим требованиям соответствующей отрасли или сферы применения, (b) принять разумные меры для устранения непреднамеренной предвзятости и смягчения вреда для других, включая недопредставленные или уязвимые группы, и (c) информировать пользователей о характере и ограничениях продукта или услуги. NVIDIA категорически запрещает использовать свои продукты или услуги для любых целей, нарушающих действующее законодательство, включая, помимо прочего, (a) незаконное наблюдение, (b) незаконный сбор или обработку биометрической информации без согласия субъекта, если это требуется в соответствии с действующим законодательством, или (c) незаконное преследование, злоупотребление, угрозы или запугивание отдельных лиц или групп лиц, а также намеренное введение в заблуждение или обман других лиц.
https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/
Еще поигрался с генерацией видео из популярных интернет картинок — очень хочется теперь доступ к SORA, потому что она должна еще качественнее вещи генерировать 🔬
Читать полностью…
Apple на WWDC показал совершенно шикарный концепт:
Берем все ваши Apple устройства подключенные по сети и объединяем их вычислительные мощности в «одну большую видеокарту» — такой подход, в теории, позволит запускать даже большие модели без покупки дополнительного железа.
Все это работает на MLX и пока не очень понятна эффективность и сколько iPad и iPhone, плюс Mac способны выдавать мощности, но скоро, скорее всего узнаем
Автор видео
Самое клевое, что мы скоро с вами вступим в эпоху, когда все ваши личные фотографии, важные для вас, будут оживать как в Гарри Поттере – пару лет осталось
What a time to be alive 🥰
txt2video стал еще доступнее, Luma Labs выкатили свой и дают создать 30 видео в месяц бесплатно. Качество на уровне SORA
Положить сервис можно тут:
https://lumalabs.ai/dream-machine/creations
SaaS-сервисы которые мы заслужили 😱
(Считайте это Панарамой, так как достоверных источников у этой новости нет)
В интернете уже пару недель обсуждают странный космический объект ASKAP J1935+2148 — он излучает радиоволны каждые 53,8 минуты, что значительно дольше по сравнению с другими подобными радиоисточниками.
Вот статья в Nature, и мой краткий пересказ:
— Объект излучает радиоволны тремя различными способами: яркие импульсы, слабые импульсы и, сюрприз, вообще без импульсов. Ученые (потому что романтики), называют их «настроениями»
— За 8 месяцев наблюдений ученые заметили, что «настроения» объекта периодически меняются, что может означать изменения в области, откуда исходят радиоволны.
— Изучив размеры объекта и время между его импульсами, ученые делают вывод, что это не звезда типа белого карлика
— ASKAP J1935+2148 ведет себя подобно нейтронным звездам (сверхплотным звездам), но также отличается в некоторых аспектах, которые ученые пока не полностью понимают
— Ученые пытались обнаружить рентгеновские лучи, исходящие от объекта, но не смогли их зафиксировать. Это означает, что он не так ярко светится в рентгеновском диапазоне, как большинство других подобных объектов
— Ученые обнаружили еще один объект рядом с ASKAP J1935+2148, излучающий ближний инфракрасный свет, но считают, что это, вероятно, просто звезда, которая кажется близкой, но на самом деле находится далеко
— Объект ярче в радиоволнах, чем ученые ожидали, исходя из его скорости вращения, что означает, что может существовать какой-то особый способ генерации этих радиоволн
Ученые считают, что ASKAP J1935+2148, вероятно, является особым типом нейтронной звезды, называемым «ультрадлиннопериодическим магнетаром», который может быть как одиноким, так и находящимся в паре с другой звездой.
Но мы то с вами знаем, что каждые 53,8 минуты космический грузовой корабль инопланетной цивилизации проходит через звездные врата — и когда «объект» не излучает волны, это потому что на космический прыжок скапливается очередь погрузчиков, у них там расписание по доставке ресурсов в империю, THE SPICE MUST FLOW 🛸
Хехе, получил консультацию от сотрудницы фонда a16z по презентации о нейролаве, обменяв ее консультацию на ПАРАМЕТРЫ ИНФЕРЕНСА ЛОКАЛЬНОЙ ЯЗЫКОВОЙ МОДЕЛИ ДЛЯ LLAMA.CPP
Такой вот у нас бартер теперь в мире АИ стартапов 🤌
Мы собрались взять немного денег у VC, чтобы сделать приложения для iOS/Android, ставьте 😐 посту, если хотите чтобы я показал питчдек потом в канале
#пропродукт
Пора уже запускать телеграм каналы/сабреддиты которые только нейронные мемы постить будут 🍑
Читать полностью…
Через 5 минут Apple покажет, наконец-то, поумневшую Siri и другие вещи которые хорошо посмешат пользователей Android:
https://www.youtube.com/watch?v=RXeOiIDNNek
В конце, скину свое саммари
UPD. Сэм Альтман тоже в зале ☕️
Челы из Бекдора, а можете еще рекламу репостить? Круто будет, повышу себе цены на рекламу и куплю робо-собаку
Подумайте там, спасибо
#промo
Это — база по Machine Learning и Data Science, которая заменит вам сотни тг-каналов и сайтов. Фишка в том, что здесь ежедневно выходят:
➖ разборы свежих статей;
➖ полезные материалы, упрощающие обучение и работу;
➖ моментальные новости, позволяющие следить за индустрией;
➖ и конечно же авторские мемы.
Теперь вся жизнь ML-специалиста собрана в одном месте: Data Secrets
#текстприслан
Интересная попытка сделать VR шлемы чуть реальнее – надувными роботами для того чтобы их щупать
Читать полностью…
А тем временем на Марсе нашли дыру от червя от вулканической активности:
Наличие этих так называемых дыр на флангах вулканов - большая подсказка, что они, вероятно, связаны с вулканической активностью на Марсе. Каналы лавы могут уходить от вулкана под землю; когда вулкан потухает, канал опустошается. После них остается длинная подземная труба. Такие трубы мы видим не только на Марсе, но и на Луне и на Земле.
Ого, я пропустил, но Telegram включил монетизацию для моего канала 🚀💎🤲
Примерно 150$ за последние 2 недели – спасибо команде Telegram, делают что пообещали
UPD: Много вопросов как включить: Я честно не знаю как оно работает, просто заметил новую вкладку в настройках
Наткнулся на проект художницы Дэй Лэйн — «общественный каталог гидрантов». Как понимаю, в США цвет гидрантов указывает на силу потока, и как раз поэтому если кто-то в кино сбивает устройство красного цвета, вода бьет гейзером.
Но Лэйн собирает гидранты, которых коснулись руки других художников, так что это уже не про цветовую разметку, а про самовыражение. Архив совершенно образцовый: можно посмотреть палитру, точные координаты, время внесения в каталог, высоту, покрутить 3D-модель.
#art
#промо
Вероятно, когда-то AI таки обучится и затащит всех нас в Матрицу!
А пока этого не произошло, из постов Дениса Скуратовского можно узнать как использовать ChatGPT для реального бизнеса. А еще вот бизнес-кейс из Африки, где айтишники успешно побороли воровство электричества с помощью порнхаба 🔞
Вообще Денис пишет о своем 25-летнем опыте в бизнесе, затрагивая неочевидные темы, и как нестандартное мышление помогает строить хитрые стратегии, в том числе личную.
Денис – основатель DIY-платформы Stroyportal.ru, предприниматель и инвестор. Он относится к отцам-бизнесменам, и в канале, помимо денег, рассказывает как все совмещать с семьей, и найти гармонию в отношениях. Вот тут полезный гид из 26 пунктов, как эффективно поднять свою мотивацию с 3% до 100%.
Если нужны интересные кейсы и мотивация творить, подписывайтесь!
👉 @DSrupt_mafia
#текстприслан
Нашел шикарный пост для всех, кто давно хотел бы вникнуть в локальные LLM, но пугается обилием терминов и способов запускать модели:
https://www.gdcorner.com/blog/2024/06/12/NoBSIntroToLLMs-1-GettingStarted.html
Внутри подробно описано все, что используется в индустрии, без попытки продать вам курсы – я сам полистал, все по делу
США ввело новый список санкций, в этот раз они направлены на ИТ сферу в том числе, и действовать начнут с 12 сентября 2024 года — вот ключевые пункты касательно ИТ — документ размыт, но из него НЕ следует, что закроется Steam, iCloud, Gmail и тп, так как они «гражданские сервисы»:
— Министерство финансов США предприняло шаги по ограничению доступа российской военно-промышленной базы к определенному программному обеспечению и ИТ-услугам
— Министерство финансов США издало новое постановление, которое запрещает предоставление следующих услуг любому лицу в Российской Федерации (то есть резиденту РФ, не просто по паспорту):
1. Консультационные и проектные услуги в области ИТ
2. ИТ-услуги поддержки и облачные услуги для программного обеспечения управления предприятиями, а также программного обеспечения для проектирования и производства (интересно, войдет ли сюда Unity/Unreal/Cinema 4D, ответов в доке нет)
— Несмотря на новые запреты, Управление по контролю за иностранными активами Министерства финансов США продолжает разрешать определенные телекоммуникационные и интернет-связанные транзакции, а также гуманитарные транзакции через специальные разрешения. Эти разрешения направлены на уменьшение воздействия на российское гражданское общество и защиту общественного доступа к информационным коммуникационным технологиям.
Наказание за нарушение и обход санкций из этого дока:
— Иностранные банки, которые обрабатывают крупные транзакции или предлагают услуги, связанные с российскими вооруженными силами, могут быть подвергнуты санкциям Министерства финансов США.
— В случае санкций все имущество и имущественные интересы этих лиц в США или находящиеся под контролем лиц из США замораживаются.
— Любые компании, которые на 50% или более принадлежат одному или нескольким подсанкционным лицам, также блокируются.
— Лица из США или кто-либо в США не могут осуществлять транзакции, связанные с имуществом или имущественными интересами подсанкционных лиц.
— Это включает в себя передачу или получение денег, товаров или услуг от или к заблокированным лицам.
— Те, кто находится в списке специально назначенных граждан и заблокированных лиц (SDN List), могут столкнуться с дополнительными экспортными ограничениями со стороны Бюро промышленности и безопасности (BIS) Министерства торговли США.
***
Судя по документу, GTA VI не затронет – но ждем трактовок
Stability AI выкатил Stable Diffusion 3 Medium:
https://huggingface.co/stabilityai/stable-diffusion-3-medium
Лицензия пока не для коммерции ☕️
Почитать про модель можно тут, с картинками
Интересеное исследование сна подъехало из Нидерландов:
Люди с субъективной бессонницей (это те, кто чувствуют, что не выспались, несмотря на то что поспали), на самом деле испытывают «нарушенную» мозговую активность во время фазы быстрого сна
Эта активность приводит к «неотдыхающему сну» и отсутствию глубоких снов — человек думает, что он бодрствует, хотя на самом деле спит. Ему что-то вроде «снится реальность», что, конечно, врагу не пожелаешь. Появляется такое состояние от посттравматического расстройства или из-за тревожности
Понимание того, как работает такая бессонница, поможет создать более эффективные лекарства от бессонницы, что клево
https://www.scientificamerican.com/article/some-people-with-insomnia-think-theyre-awake-when-theyre-asleep/
Ииии.. вот спустя 4 месяца прояснилось: Elon отозвал свой иск к OpenAI. Как я и писал, никакого основания не было (это стало особенно ясно после публикации переписок 2016-17-ых годов).
Завтра должно было состояться заседание с судьёй, где решалось бы, продолжается дело или, как предложил ответчик, отклоняется, но Musk решил недожидаться.
Sama wins..?
Маску тоже понравилась преза:
Совершенно абсурдно, что Apple недостаточно умен, чтобы создать свой собственный ИИ, но каким-то образом способен гарантировать, что OpenAI защитит вашу безопасность и конфиденциальность!
Apple не имеет понятия, что на самом деле происходит, когда они передают ваши данные OpenAI. Они продают вас
Если Apple интегрирует OpenAI на уровне ОС, то устройства Apple будут запрещены в моих компаниях. Это неприемлемое нарушение безопасности
Что мне понравилось:
🔷 Siri: наконец-то, дождались – она умная: понимает ошибки в речи, поддерживает контекст диалога, Siri теперь можно писать текстовые команды если не можете говорить, а еще она знает о всех фичах ОС и поможет с ними разобраться если нужно найти конкретную
Siri тоже будет смотреть на контент на экране если нужно, хехе – уже предвижу восторги ☕️
В целом, Siri показали в рамках Apple Intelligence слоя, персональной языковой модели которая учится под юзера в процессе использования чтобы лучше понимать пользователя – хитрая попытка угнать аббревиатуру A.I.
Языковая модель может генерировать, переписывать контент, сортировать и суммаризировать нотификации/емейлы, авто-заполнять ваши данные, генерировать пред-заданные быстрые ответы, искать что-то в фоне и тп
Встроили генерацию картинок в Image Playground апп, слабенькую по качеству но зато все на девайсе, можно генерировать портреты в стиле Lensa, эмодзи «Genmoji», удалять объекты с фотографии и тп.
Языковая модель работает в облаке, Apple его назвал «Personal Claude Compute» чтобы, видимо, снизить критику. Обещают не хранить данные в облаке, дать аудировать свою систему экспертам, и использовать облако только для «вычислений» или «инференса». Ассистент учится на основе всего, что о у вас знает – со всех устройств и приложений
В целом, по AI фичам выглядит интересно, хочется попробовать
А еще Siri может обратиться к ChatGPT если вы ей разрешите (обещали больше моделей в будущем), что хитрый способ связать более слабую языковую модель Apple и сильную модель OpenAI
🔷 MacOS: наконец-то можно управлять iPhone с мака, т.е. не только видеть содержание экрана, а именно контролировать телефон мышкой и клавиатурой с помощью iPhone Mirroring. Пуши, аудио и тп, в этом режиме приходят на мак тоже, и что отдельно клево: экран iPhone все это время останется заблокированным, вас никто не «подсмотрит»
🔷 iOS: Наконец-то можно заблокировать приложение с помощью доп защиты вроде FaceID или пароля, и даже скрыть установленные аппы из «установленных», чтобы их сложнее было найти если вы дали кому-то свой iPhone
🔷 iOS: iMessage теперь поддерживает сообщения через спутник когда у вас нет мобильной связи – работает с iPhone 14 и позволяет слать как обычные SMS, так и «синие баблы» iMessage. Шикарная фича, побегу тестировать в море как iOS 18 выйдет
🔷 iOS: во время звонка с iPad/iPhone можно пошарить экран и дать управление (!) пользователю на другом конце, то есть можете теперь близким помогать с настройкой устройств через FaceApp
А еще, во время звонка можно запустить «авто транскрипцию», и диалог попадет в блокнот в виде текста
🔷 iPad OS: показали новый калькулятор для iPad и не просто калькулятор, а прям Math и Notes интеграцию: полноценные переменные, ввод формул от руки с Apple Pencil, создание графиков и тп.
🔷 iPad OS: Показали «умный почерк» и эту фичу я хотел бы в реальной жизни: вы вводите текст с помощью Apple Pencil, и ваши каракули поправляются автоматом на более читабельные
Это лучшая презентация Apple за последние годы, молодцы
Если вы любите пытаться сломать защиту в разных LLM с помощью промпт инъекций – то у меня вам полезная ссылка, датасет из почти ~1500 промпт инъекций собранных с Reddit, Discord, Twitter и тп.
https://github.com/verazuo/jailbreak_llms
Внутри промпты и для старых инъекций, вроде DAN, до более новых с base64, leet code и тп.
Следующий шаг, это натренировать на этом модель, которая будет ломать другие модели автоматом ☕️
Помните игру Red Alert 2? В общем, в Болгарии, самая маленькая их коммунистическая партия, официально использует логотип игры Red Alert 2 как лого партии ☕️
Я сначала подумал кто-то в wiki что-то поменял, оказалось нет, есть и в архивах официального сайта.
Это уже пост-ирония или уже мета-ирония?
Короче, ChatGPT у нас еще и девушек уведет, такие перспективы, парни
Читать полностью…
Команда Telegram, почините пожалуйста пару iOS багов – эстетично неприятные:
1) При редактировании поста с кастомными эмодзи, они почему-то теряют свою локацию в тексте пока не отправишь любой символ, тогда все чинится
2) В посте выше нет подчеркнутого текста, но при рендере сообщения, почему-то подчеркнуты случайные части слов – мне кажется я чаще встречаю это, если что-то зачеркиваю (хехе, воспроизвелось)
3) Webp картинки при аттаче в сообщении рендерятся как маленькие стикеры, хотя это часто обычные фото и их тоже хочется позумить или там, посмотреть на весь экран
Спасибо,
Ваш Jira-Денис
Запускать GPT-подобные языковые модели на всяких там дорогих видео-картах это уже прошлый век – чувак с нуля собрал модель на 85000 параметров используя маковский аналог экселя «Numbers» ☕️
https://github.com/dabochen/spreadsheet-is-all-you-need
Видимо, языковые модели это новый Doom, будут пытаться запустить всюду