14681
Канал, в котором мы говорим про искусственный интеллект простыми словами Главный редактор и по рекламе: @crimeacs Иногда пишут в канал: @GingerSpacetail, @innovationitsme
Автономные роботы со слухом, зрением и центром принятия решений
Читать полностью…
Итог выходных (конечно же четверг-пятница. Тель авив форевер). Сан-Франциско не пахнет деньгами. Он пахнет пало-сантос и бомжами.
Читать полностью…
Итоги года для канала AI для Всех:
В этом году мы написали 45 837 слов, у нас было 2 658 265 просмотров, 45 499 репостов и 17 411 реакций
На картинке - облако ключевых слов по постам за этот год.
Топ 3 поста:
1. /channel/nn_for_science/1677 - про brain-computer interface от Meta - 113 079 просмотров
2. /channel/nn_for_science/1657 - про AI дубляж подкастов от Spotify - 96 307 просмотров
3. /channel/nn_for_science/1684 - про прорыв в расшифровке папирусов - 90 935 просмотров
Наши посты получили следующие реакции:
🔥: 6107,
👍: 4847,
❤: 2998,
😁: 1133,
🤯: 834,
🎉: 489,
😱: 413,
😢: 316,
🤩: 274
Спасибо вам, друзья, за этот чудесный год! Рад что в этом году AI наконец то стал мейнстримом, а то ли еще будет! 🎅🎄
Тогда и я тоже представлюсь.
Всем привет! Меня зовут Арай - как array, только с одной “r” 👾
Долгое время я был фулстак разработчиком, но потом мне стало скучно и я переехал в Германию, где закончил магистратуру.
Уже больше двух лет я работаю научным сотрудником в Берлинском Техническом Университете, где собираюсь делать PhD в области Explainable AI.
В канал я в основ пишу технические разборы статей. Делиться в комментах, интересно ли вам читать такие хардкорные посты.
Привет, друзья!
Пролетел год, как я пишу в канал, и сегодня я готова ближе познакомиться с вами. Я Валентина. И у меня для вас две истории.
История первая про хорошую девочку, сохранившую любопытство
Сейчас я ученая в Институте Биоинженерии, влюбленная в матметоды (и их ребрендинг под названием "машинное обучение"), molecular imaging и ядерную физику. Недавно я решилась на PhD и вписалась в ресеч про лекарство от болезни Альцгеймера, где мне понадобится все от комбинаторики до алгоритмов компьютерного зрения.
В этой истории я противопоставляю "хорошесть" любопытству, потому что одобрение - это внешний стимул, а интерес - внутренний. Я очень благодарна родителям за этот дар. Но гендерная социализация штука такая мощная, что хорошая девочка (пока) тоже тут, и часто боится облажаться и потерять ваше уважение.
История вторая, где есть вызывающая гедонистка
А ещё я обожаю жизнь и ни разу не альтруистка. Я не раз делала эгоистичный выбор: в начале карьеры предпочла банк аспирантуре; выбрала материнство, не оч красиво продав бизнес (до сих пор мучаюсь чувством вины перед сотрудниками и контрагентами); предпочла теплое море, где растет виноград, холодной стране с более высокой зарплатой. И вечеринку Эрики Ласт, когда все взоры направлены на NeurIPS.
Главное в этой истории - мне важно открыто говорить обо всем от науки до сексуальности. В мире слишком много контента, нормализующего объективацию, абъюз, причинение боли и мизогинию. Да, это влияет на науку и медицину. Например, до недавнего времени считалось, что рак шейки матки на ранних стадиях не имеет клинических признаков. Их просто игнорировали, списывая на мнительность и преувеличение боли.
Зато от реалистичного и чуткого представления человеческого тела точно выиграет и наука, и общество. Я верю, что и в образовании, и в здравоохранении, и в здоровых отношениях важно информированное согласие, эстетичность, открытая дискуссия, взаимное уважение, удовольствие и удовлетворение.
Надеюсь, вам любопытно читать канал, и вы получаете от этого удовольствие💫
🚀 Новый Прорыв в Математике: FunSearch и ИИ!
DeepMind разработали FunSearch - метод исследования, использующий большие языковые модели (LLMs) для открытия новых решений в математике и информатике. Этот метод объединяет творческие способности LLMs с автоматическими "оценщиками" для борьбы с неточностями и "галлюцинациями"
🔄 Как работает FunSearch?
FunSearch применяет эволюционный метод, который продвигает и развивает наилучшие идеи, выраженные в виде компьютерных программ. Эти программы автоматически оцениваются и улучшаются с каждой итерацией,
🧮 Решение сложных математических задач:
FunSearch применялся для решения задачи "cap set" - давней проблемы в математике, в которой нужно найти максимальный набор точек в сетке, где никакие три точки не лежат на одной прямой. А также для разработки более эффективных алгоритмов для задачи "упаковки бинов", широко используемой в различных отраслях, включая оптимизацию работы данных центров
🌟 Преимущества и перспективы:
В отличие от традиционных методов, FunSearch генерирует программы, которые описывают, как было достигнуто решение, обеспечивая понятность и возможность дальнейшего анализа для исследователей. Это открывает новые перспективы в теории коммуникаций и других областях, а также вносит вклад в практическое применение в промышленности и науке
💡 Заключение:
FunSearch демонстрирует уникальную способность LLMs не только помогать в открытиях в математике, но и предлагать решения для важных практических задач, что открывает новые горизонты в научных исследованиях и разработках.
Блог-пост
Статья в Nature
Gemini Pro доступен уже сегодня
Первая версия Gemini Pro (новой языковой модели от Google) теперь доступна через Gemini API, и вот что еще о ней известно:
- Gemini Pro превосходит другие аналогичные по размеру модели в исследовательских бенчмарках (видимо гугла).
- Сегодняшняя версия поставляется с 32k контекстным окном для текста, а в будущих версиях контекстное окно будет больше.
- Сейчас можно пользоваться API и моделью бесплатно
- В API есть целый ряд фич: вызов функций, эмбединги, семантический поиск и custom knowledge grounding.
- Поддерживается 38 языков (есть русский) в 180+ странах и территориях по всему миру (но нет России, пишут что работает).
- В первом релизе Gemini Pro принимает только текст на входе и генерирует только текст на выходе.
- Также уже сегодня доступна специальная мультимодальная API Gemini Pro Vision, которая принимает на вход текст и изображения, а на выходе выдает текст.
- Для Gemini Pro доступны SDK, которые помогут вам создавать приложения, работающие где угодно. Поддерживаются Python, Android (Kotlin), Node.js, Swift и JavaScript.
Ссылка
Цук запости в инсте, что уже начал тестировать мультимодальную AI в очках Meta Ray Ban. Сеточка умеет распознавать то, что видит и отвечать на голосовые команды. Ждем, когда эта фича будет официально в проде!
Это реально круто же, если оно в риалтайме будет помогать жить вашу жизнь. А когда модель начнет локально бегать на телефоне - вот это будет пушка.
@ai_newz
LLM: Intelligence as a Service
Что вы видите на видео: роботу дали задачу (текстом) - притворись призраком. GPT4 интерпретирует этот текст и создает последовательность движений для робота.
Примерно месяц потребовался на то, что бы самые шустрые исследователи прикрутили экшены к управлению роботами.
Новый робот - Alter3 может выполнять разнообразные действия - от позирования для селфи до имитации призрака, без предварительного программирования.
На верхнем уровне это работает так: исследователи пишут код для управления отдельными действиями (например подними руку), а GPT4 решает с какими параметрами это действие (action) вызвать и вызывает его по API.
Особенно впечатляет то, что Alter3 может самостоятельно корректировать свои движения, основываясь на вербальной обратной связи от человека.
Использование GPT-4 для управления движениями робота-гуманоида открывает новые перспективы в области робототехники.
И вообще, мне кажется концепция Intelligence as a Service очень хорошо зайдет во всяких роботов и бытовую технику. Долгий ответ сервера, скажете вы? Не беда, у нас уже есть LLM, которые работают на обычном маке в real-time.
Видео
Проект
ChatGPT научился решать судоку
Месяц назад ему такое еще было не под силу. Bard от Google до сих пор не может 🧠
Dobb·E: open-source framework для обучения домашних роботов
На протяжении всей истории мы успешно интегрировали в наши дома различные машины. Посудомоечные машины, стиральные машины, миксеры и роботы-пылесосы — вот лишь несколько недавних примеров. Однако эти машины превосходно справляются с эффективным выполнением только одной задачи. Концепция «универсальной машины» в доме — домашнего помощника, который может адаптироваться и учиться в соответствии с нашими потребностями, оставаясь при этом экономически эффективным — уже давно является целью робототехники, к которой неуклонно стремятся на протяжении десятилетий.
Чтобы решить эту задачу, авторы разработали Dobb·E, доступную и универсальную систему общего назначения для обучения роботизированным манипуляциям в домашних условиях.
Команда собрала 13 часов данных в 22 домах в для обучения модели предварительно обученным представлениям (HPR).Авторы показали, что в новой домашней обстановке модель дообучается за 5 минут с помощью демонстрационного инструмента для сбора данных («The Stick» или волшебная селфи палка), из дешевых деталей и iPhone. После этого необходимо около 15 минут для адаптации модели.
Важно то, что Dobb·E может надежно решить задачу с помощью Stretch, мобильного робота, легко доступного на рынке.
За месяц система тестировалась в 10 домах, выполнив о общей сложности 109 различных задач с 81% показателем успешности.
Авторы отмечают, что помимо высокого процента успеха, эксперименты выявили множество уникальных проблем, отсутствующих или игнорируемых в лабораторной робототехнике. Они варьируются от эффектов сильных теней до различного качества демонстрации неопытными пользователями.
Не круто ли это? Мне вспомнился релевантный клип из 90х, присоединяю его к посту.
Может совсем скоро мы увидим домашних роботов поваров, барист, бармэнов, гладильщиков рубашек, выгуливателей собак итп (добавляйте свои версии в комментарии)
🤖 Сайт
🪩 Клип
Раз пошла такая квантовая движуха, давайте посмотрим, что внутри этого красивого шкафа QuEra компьютера. Вам тоже папы рассказывали, что первые компьютеры были размером в комнату? Эти пока тоже:)
Из коммента перенесу сюда. Спасибо за ценный инпут, @void_visionary
Читать полностью…
Dudes, игрался сегодня весь день с https://ollama.ai и https://stability.ai/news/stablelm-zephyr-3b-stability-llm. Чума, языковые модели уже на вашем маке
Читать полностью…
Новый open source DL фрэймворк от Apple
Apple выпустила MLX фрэймворк, который нативно работает на Apple Silicon после одной команды pip install и без других зависимостей.
Главные фичи MLX:
- Стандартные APIs: Python; C++; mlx.nn и mlx.optimizers с API-интерфейсами, вдохновленными PyTorch
- Преобразования составных функций для автоматического дифференцирования, векторизации и оптимизации графа вычислений
- Ленивые вычисления (lazy computation) : массивы материализуются только при необходимости
- Динамическое построение вычислительных графов: изменение формы аргументов функции не приводит к медленной компиляции, а отладка проста и интуитивно понятна.
- Операции могут выполняться на любом из поддерживаемых устройств (CPU и GPU).
- Унифицированная модель памяти: Массивы в MLX находятся в общей памяти. При этом операции с массивами можно выполнять на любом из поддерживаемых типов устройств без перемещения данных.
💻 GitHub
By @innovationitsme
А давайте вместе составим плейлист для оливье-комы? Меня так греют живые человеческие ⚫ рекомендации.
Мой плейлист начинается с "Christmas never gets old" by Jamie Cullum. Поделитесь, что у вас
🍎эпл мьюзик
📻spotify
😍yandex
Кидайте ссылки из любой платформы и любого мгновения: хотите отобранное заранее, хотите shazam момент🎵
Малые Языковые Модели (Small Language Models или SLM) - главный тренд начала 2024 года
Если вам кажется что языковые модели - это что-то, что работает только на серверах OpenAI, то у меня для вас новости.
С недваних пор, появилось такое явление как Малые Языковые Модели (они же Small Languge Models или SLM). Определение слово малый пока еще не устоялось, но обычно имеются ввиду модели типа 1B, 2B и 7B (миллиарды параметров). Малые языковые модели уже не просто существуют, но и доступны в несколько кликов для установки на ваш ноутбук. Работают в реальном времени и по качеству сравнимы с GPT-3.5 (Mixtral).
При этом, например Phi-2 - 2х миллиардная открытая модель от Microsoft весисит всего 1.5 Гб. То есть в каком-то смысле - это весь интернет, сжатый в такой крошечный объем.
🐥 Что бы попробовать самостоятельно:
1. Скачиваем ollama
2. Устанавливаем
3. Запускаем Terminal (CMD на Windows)
4. Пишем ollama run mistral (или phi, или любую другую модель из списка )
5. Приватно общаемся (даже с выключеным интернетом в самолете)
В следующий раз расскажу как запустить Ollama с интерфейсом, как у ChatGPT, так что подписывайтесь на наш канал @nn_for_science
Друзья!
В долине все сошли с ума по Companionship AI - компаньонов для всякого разного (дейтинг, психолог и тп). Значит логично ожидать роста анимированных персонажей, которые этих компаньонов отыгрывают.
Расскажите какой у вас стак для анимированных персонажей/автатаров? Какие сетки используете для синтеза голоса? Какие для липсинкинга? Какие для анимации лица и тела?
Напишите в комменты, а я соберу все в один пост и опубликую
Привет друзья!
Прошло уже несколько лет с тех пор как я завел этот канал! Меня зовут Артемий и я основатель @nn_for_science, а так же его главный редактор и основной автор (да, нас больше одного).
Я живу в Сан-Франциско, работаю постдок-исследователем в Stanford University. До недавнего времени я занимался применением машинного обучения к обработке сигналов (в частности к сигналам с сейсмометров, с помощью которых мы изучаем планеты, в том числе Землю), сейчас же в процессе перехода в более общий AI/Agents/AGI.
Как вы заметили, наш канал в основном новостной, но переодически он превращается в коммьюнити или личный блог. Мне нравится с вами всеми взаимодействовать и я с нетерпением жду 2024 года. Кажется что прогресс ускорился до прежде невиданных скоростей, и я уже не успеваю писать про все новости про которые хочу написать. Но для меня важно держать вас в курсе самых последних событий!
xoxo (hugs and kisses)
Друзья, кто занимается user research, user testing и/или customer discovery, расскажите пожалуйста в комментариях что у вас болит?
Читать полностью…
Ask me anything про LLM, Small LM, GPT, промптинг и вот это вот всё в комментах. Давно не общались!
Читать полностью…
Optimus Gen-2
Тесла показали видео новой версии Optimus Bot и это чума. По самому видео кажется, что он нарисованый, но возможно есть кадры сделаные в лаборатории.
Выглядит безумно круто, и скорее всего скоро вместо мозгов ему поставят Grok (LLM внутри премиального твиттера). Будушее наступило совершенно неожиданно.
Ссылка
Оказывается, в этом году я провел аж 6 часов в беспилотнике Waymo (а еще столько же в Cruise).
Вообще в Сан-Франциско быстро привыкаешь к киберпанку (high tech, low life) - беспилотники, реклама AI на биллбордах и бомжи
Искусственный Интеллект и Рынок Труда Великобритании: Прорыв или Вызов?
Свежий отчет Министерства образования Великобритании рассматривает влияние ИИ на различные профессии.
Отчёт подчеркивает рост воздействия ИИ в области финансов, праве и менеджменте.
Больше всего "под раздачей" сектор финансов и страхования, за ним следуют айти и связь, научный и технический сектор, сектор недвижимости, государственное управление и оборона, а также образование.
Высокая квалификация работника коррелирует с более высоким уровнем воздействия ИИ, особенно в области бухгалтерского учета, финансов, экономики и математики.
Данный анализ измеряет воздействие ИИ на рабочие места, а не то кого ИИ может оставить без работы.
От себя добавим что, в сфере аналитики данных ИИ может потенциально занять место аналитиков, обеспечивая более быструю и точную обработку данных. В области здравоохранения, роботы-ассистенты с ИИ могут поддерживать медперсонал, снижая их нагрузку.
Но есть и профессии, которые ИИ пока не заменит – например, творческие профессии или те, что требуют эмпатии и глубокого понимания человеческих чувств.
Больше информации можно найти на официальной странице правительства Великобритании
🇬🇧 Сайт
В исследовании MIT, людям дали базовые знания о ChatGPT. Это помогло сократить время работы на 40% и увеличить эффективность на 18%.
Но это не предел. Есть продвинутые уловки, которые делают работу с ChatGPT в разы лучше. Например, если давить на жалость или пообещать ChatGPT чаевые, он будет давать более развернутые ответы.
13 декабря я научу тебя использовать такие уловки: как для обычной жизни, так и для бизнеса. Поделюсь теми приемами, которые я сам постоянно применяю в работе. Стрим начнётся в 20:00, зарегистрироваться можно бесплатно, по ссылке /channel/SharifovWebinarBot
#реклама
Жизнь возвращается в Долину
Последний месяц ощущаю, как в Сан Франциско возвращается жизнь. Сотни новый людей переезжают в Долину и СФ, что бы заниматься AI. По AI хакатону каждый день, а то и по несколько. VC не могу говорить ни о чем кроме LLM. Те кто по хитрее - пилить инструменты для разработчиков всяких ассистентов.
e/acc
Пристегните ремни, начинается NeurIPS - самая горячая конференция на планете (прямо сейчас)
Раз тут пошёл тред про квантовые вычисления (а я этим интересуюсь и занимаюсь в рамках магистерской диссертации в NLP и, возможных, квантовых применениях), то добавлю несколько интересных деталей.
Квантоые вычисления - это не что-то далёкое от нас, но новости о достижениях в этой сфере достаточно тяжело доходят до обычных пользователей и/или специалистов из других сфер.
На данный момент, любой желающий может зарегестрироваться на официальном сайте IBM Quantum и получить в своё распоряжение JupyterLab QuantumLab в облаке с доступом к реальным 7-ми кубитовым компьютерам (не симуляция) на 10 минут каждый месяц (да, это вам не Google Colab).
Более того, вы можете запросить большую мощность (27, 65 и 127 кубит), но для этого нужно хорошее обоснование. Аналогично, вы можете поиграться с симуляциями квантовых компьютеров на том же сайте. Для регистрации кроме почты ничего не нужно.
Ах, и да, вам не нужны какие-либо новые языки. И IBM, и Google Quantum AI используют библиотеки для python (например, у Google это библиотека CIRQ, у IBM это Qiskit) 💀
Как вы видите, прогресс не стоит на месте, уже есть удобная инфраструктура, языки, физические машины и доступное облако. Напомню, про квадратично и экспоненциальное ускорение в некоторых квантовых алгоритмах в сравнении с классическими, и, в связи, с этим напомню, что раньше в ODS (да упокой господь его душу) был курс по Квантовому ML (если вы верите, что это Next Big Thing, то Welcome).
Конкуренция принципов воплощения квантовых компьютеров: ридберговским атомы обходят суперпроводники
Квантовый компьютер - грандиозная и сложная для воплощения цель. Считается, что третья квантовая революция случится, когда мы научимся дирижировать хотя бы сотней логических кубитов (устойчивых к ошибкам квантовых носителей информации).
Читая о прорывах, важно понимать, о каких именно кубитах идёт речь. Свежий рекорд IBM в 1121 физических кубитов (суперпроводники), или Atom Computing 1180 физических кубитов (ионы), к сожалению, не обещает эффективности. Максимальное подтвержденное число логических кубитов у бостонской QuEra Computing - 25 (ионы).
В суперпроводниковых квантовых компьютерах для детекции и коррекции ошибок на каждый "логический" кубит нужно 13 физических (это если при масштабировании все пойдет по плану, а оно пока не идет, и есть оценки в 1000 физических кубитов на 1 логический).
В альтернативном подходе к воплощению квантовых компьютеров главный герой - ридберговский атом. Это атом щелочного металла, электрон которого "отодвинут" на большое расстояние от ядра с помощью лазера. Излюбленный ион в таких экспериментах - мягкий серебристый радиоактивный рубидий-87 (87Rb).
Исследователи из Гарварда с партнёрами из MIT, Caltech, Princeton и той самой QuEra в предварительно принятой к публикации в Nature статье утверждают, что смогли организовать систему 87Rb в гиперкуб, и ошибки могут быть обнаружены и скорректированы на уровне софта. Это звучит как голубая мечта квантовых инженеров, которым в рамках традиционных представлений для создания дееспособного квантового процессора необходимы были бы миллионы физических кубитов.
Учёные создали схему из 48 логических кубитов с программной коррекцией ошибок и достигли преимущества в согласованности на порядок выше, чем у систем сопоставимого размера, т.о. предложив рецепт масштабирования до гигантских систем. Метят на 10000 физических кубитов. Учитывая финансирование от Пентагона, звучит так фантастически, что даже верится
💎Статья, где есть 7D гиперкуб
Китайские ученые запустили полностью автономных виртуальных персон-агентов
This is beyond insanity🙃
берём LLM, прикручиваем к ней api calls - actions, крафтим персону - system prompt, картинку - сначала текстуры, потом уже экшенами управляем маникеном. Получаем полностью автономного ИИ способного управлять виртуальным миром.
Есть шанс что первых 100% автономных роботов мы увидим сразу после Рождества. Как раз у людей появится возможность время дома провести.
Проект
Хаг самех!
Друзья, поздравляю нас всех с началом Хануки. Кажется, что в это темное время, нас всем не помешает немного света 🕯️