4323
Авторский контент Рвачева Никиты (@rvnikita): о чем думаю, мечтаю, что читаю.
🔥 У ChatGPT появилась память
Наконец в ChatGPT добавили память, теперь он будет запоминать элементы разговора между различными ветками, что сделает ответы еще более точными!
#ai #gpt #llm #openai
—————————
Мысли Рвачева
—————————
Пока писал после тяжелой недели сообщени и пару раз на лету исправлял его, так как допустил ошибки (а-ля написал кофе, вместо вино) подумал, что в отличии от человека LLM не исправляет себя на лету в формате «ой, не так».
Связано это с тем, что модель каждый раз предсказывает следующий токен, но никак не влияет на предыдущий. Да, можно прогнать весь результат потом еще раз через модель, но это не совсем то, что делает человек.
Было бы интересно попробовать натренировать/нафайнтюнить модель, которая иногда выдает токен «удалить последнее слово» и «удалить последнее предложение».
Что думаете?
#ai #llm #gpt #finetunning
—————————
Мысли Рвачева
—————————
🔍 Meta представила новую модель Llama 3 400B+, сравнимую с GPT-4, но с открытыми весами
Meta анонсировала запуск Llama 3 400B+, новой модели AI, которая по своим возможностям сопоставима с GPT-4. Отличительной особенностью этой модели является её открытый доступ к весам, что делает её одной из наиболее доступных и мощных моделей на рынке. Доступность модели способствует ускорению исследований и разработок в сфере AI, давая разработчикам новые инструменты для создания и инноваций.
🔗 Link: https://ai.meta.com/blog/meta-llama-3/
#ai #gpt #llm #meta
—————————
Мысли Рвачева
—————————
⚡️ Интервью Павла Дурова для Tucker Carlson
Не частое частье послушать мысли Дурова.
Посмотреть можно тут https://tuckercarlson.com/the-tucker-carlson-interview-pavel-durov
#telegram #durov
—————————
Мысли Рвачева
—————————
ChatGPT становится еще умнее
OpenAI обновил сначала GPT-4 Turbo (тот, что доступен через API), а затем и ChatGPT 4 (тот, что доступен через веб версию).
Новая LLM показывает более хорошие результаты в написании текстов, математике, логическом мышлении и написании кода.
Link: https://github.com/openai/simple-evals
Уже доступно платным пользователям OpenAI
#openai #ai #gpt #llm
Ждем GPT 5
—————————
Мысли Рвачева
—————————
🤖🚗 Тесла запускает робо такси.
Подробности будут 8 августа.
🔗 Source: https://twitter.com/elonmusk/status/1776351450542768368
#ai #selfdriving_cars
—————————
Мысли Рвачева
—————————
Кажется, что в мире, где модели все больше и больше похожи друг на друга, ключевым становятся уникальные данные для обучения. Если что-то доступно в паблике (например статья в википедии) - ценность эти данных стремится к нулю, они будут в каждой модели.
Другое дело данные, которые недоступны никому, особенно персонализированные. Скажем история вашей переписке в почте, логи ваших общений в аське в детстве и в телеграмме сейчас, а так же ваши записки в блокнот или second brain системе аля Roam - вот что представляет настоящую ценность.
Проекты, которые смогут утилизировать эти данные (в идеале не только в формате RAG) будут выделяться относительно всех остальных.
Что думаете?
#ai #agi #llm #personalization #rag
—————————
Мысли Рвачева
—————————
Не стоит путать Open Source LLMs и Open Weights LLMs.
На самом деле на рынке не так много Open Source моделей (которые подразумевают открытость всей инфраструктуры включая данные для обучения).
Те модели, что многие по ошибке называют Open Source, на самом деле больше похожи на бесплатную дистрибьюцию программ, но без кода.
Основным минусом Open Weights моделей в том, что их можно файнтюнить, но файнтюн улучшает результаты ответов в одном месте одновременно ухудшая ответы в другом (на которые модель отвечала хорошо до файнтюнига).
В идеальном мире вы хотите иметь модель которая отвечает хорошо на весь спектр.
#ai #llm #open_source #open_weights #finetunning
—————————
Мысли Рвачева
—————————
❤️Telegram Ads доступна для всех (почти)
Telegram наконец сделал платформу https://ads.telegram.org доступной для всех (в определенных странах) Теперь рекламу в Телеграмме может купить любой желающий за TON через платформу fragment.com 🎉
https://promote.telegram.org
P.S. Нужно сказать, что все чаще и чаще слышу от американцев, что даже если они активно и не пользуются, но у них есть или они слышали про Телеграмм (чего не было 2-3 года назад совсем кроме крипто ребят). Думаю у Телеги большое будущее!
#ads #telegram
—————————
Мысли Рвачева
—————————
Если искали хороший продающий фоллоуап - то вот он
#friday #fun
—————————
Мысли Рвачева
—————————
🔑 Профессор Стенфорда обнаружил “неожиданный” фактор успеха стартапов
Илья Стребулаев, профессор Стенфорда, известный своими исследованиями в области стартапов и венчурного капитала, выпустил анализ, основанный на опросе более 500 венчурных инвесторов. Результаты подчеркивают, что главным фактором, определяющим успех или провал стартапа, является динамика внутри команды. По мнению 56% опрошенных инвесторов, именно качество команды лежит в основе успеха, а 55% считают ее причиной неудач. Это подчеркивает значимость лидерских качеств и единства команды.
Другие факторы, такие как время запуска, технологии, бизнес-модель, отрасль, удача, рынок и состав совета директоров, были упомянуты гораздо реже. Эти данные указывают на консенсус среди венчурных капиталистов о том, что внешние и коллаборативные факторы важнее индивидуальных вкладов.
📝 Paper: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2801385
🙎♂️ LinkedIn: https://www.linkedin.com/in/ilyavcandpe
P.S. Если вы не знаете о существовании Ильи Стребулаева (между прочим пожизненный профессор Стенфорда) советую посмотреть его последнее интервью у Осетинской https://www.youtube.com/watch?v=T7uBf6X2lYI
#stanford #vc #startups #innovation #ilya_strebulaev
—————————
Мысли Рвачева
—————————
Google представил ObjectDrop - реалистичное удаление объектов с учетом законов реального мира.
📝 Paper: https://huggingface.co/papers/2403.18818
#ai #photo
—————————
Мысли Рвачева
—————————
🔥 Соцсети в России 2022 vs 2024: Крах Запада, Расцвет Местных
Статистика по РФ
- Instagram: Аудитория снижена с 38,4 млн до 6,8 млн (-82%).
- Facebook: Потерял аудиторию с 8,9 млн до 1,4 млн (-84%).
- TikTok: Сокращение с 33 млн до 30,3 млн (-8%).
- Дзен: Рост аудитории с 11,4 млн до 31,9 млн (+180%).
- Telegram: Увеличение аудитории с 27,2 млн до 59,9 млн (+120%).
- Вконтакте: Рост с 46,8 млн до 56,2 млн (+20%).
- YouTube: Аудитория выросла с 41,7 млн до 55,3 млн (+33%).
- WhatsApp: Увеличение с 71,4 млн до 81,4 млн (+14%).
Рекламные бюджеты теперь уходят в «ВКонтакте», YouTube, Telegram, отражая переориентацию рынка от заблокированных западных платформ.
🔗 Source: https://www.vedomosti.ru/media/articles/2024/03/19/1026476-za-dva-goda-blokirovki-auditoriya-inostrannih-sotssetei-upala-v-razi
#marketin #advertising #instagram #facebook #tiktok #dzen #telegram #vk #youtube #whatsapp #finance
🎬 Sora от OpenAI: революция или эксклюзив для элиты?
OpenAI поразила мир своей новейшей разработкой - моделью Sora, способной генерировать реалистичные видео. Однако не все так радужно: генерация одной минуты видео занимает около часа работы на мощном GPU Nvidia H100. Это делает использование Sora непомерно дорогим для обычных пользователей и блоггеров. Стоит заметить, что за основу модели взяты трансформеры и диффузионные методы. Но больше всего впечатляет, что для обучения Sora требуется от 4200 до 10500 единиц Nvidia H100 на протяжении месяца.
В практическом плане это значит, что несмотря на поразительное качество и возможности Sora, широкое распространение таких моделей может сильно увеличить спрос на вычислительные мощности. И хотя прогресс в области AI видеогенерации несомненен, на данный момент стоимость и ресурсоемкость делают его малодоступным для большинства.
Интересный анализ Sora https://www.factorialfunds.com/blog/under-the-hood-how-openai-s-sora-model-works
#ai #text2video #sora
—————————
Мысли Рвачева
—————————
Еще никогда не слышал такой увлекательный и при этом понятный рассказ про квантовую механику. Помню в универе получил три бала по этой теме и того времени ходил с травмой полного не понимания как это все работает.
Не сказать, что после видео я прям понял, так как, судя по всему, никто не понимает. Но однозначно приблизился к этому понимаю.
Рекомендую посмотреть, сейчас очень в е больше и больше разговоров про квантовую механику в разрезе квантовых компьютеров.
https://youtu.be/4iAkAT7mhnw?si=tTh5oKP0JoBcyT2D
#quantum_mechanics #quantum #quantum_computer
—————————
Мысли Рвачева
—————————
Презентация Павла Дурова на Token 2049
Что-то Павел разогнался конечно. Старт презентации в 25:59. Рекомендую к просмотру.
Основные пункты:
- Telegram будет отдавать 50% Ads Revenue владельцем каналов
- Telegram будет отдавать 70% Revenue создателям контента
- Продажа оффлайн товаров без комиссий
- NFTs on Telegram через fragment.com
- Токенизация Стикеров и Emoji (95% Revenue пойдет создателям) 🔥😱
P.S. Как думаете, увидим Павла у Дудя наконец? 🙂
▶️ Youtube: https://www.youtube.com/live/gBEOJRvZ-wI?si=gC2ogrXsjruRO2iG&t=1559
#crypto #ton #telegram #pavel_durov
—————————
Мысли Рвачева
—————————
🤖 Новое поколение гуманоидных роботов Atlas от Boston Dynamics
Boston Dynamics представляет следующее поколение полностью электрических гуманоидных роботов Atlas, разработанных для реальных условий использования. Эти роботы способны функционировать в лабораториях, на производствах и в нашей повседневной жизни.
🔗 Link https://bostondynamics.com/blog/electric-new-era-for-atlas/
#ai #robotics #bostondynamics
—————————
Мысли Рвачева
—————————
Google создает собственный процессор Axion для облака
Google объявила о разработке Axion, своего первого процессора на базе Arm для центров данных. Это решение направлено на улучшение скорости работы и снижение потребления энергии облачных сервисов.
Подобные шаги показывают, что компания активно занимается не только программным обеспечением, но и развитием аппаратных технологий.Сейчас в индустрии наметился тренд, когда крупные IT-компании, известные своим программным обеспечением, начинают создавать свои процессоры. Это делает отрасль более разнообразной и позволяет программам лучше работать с аппаратным обеспечением, увеличивая производительность.
🔗 Source: https://cloud.google.com/blog/products/compute/introducing-googles-new-arm-based-cpu
#google #hardware #cpu #ai #cloud
—————————
Мысли Рвачева
—————————
Ученые из MIT и Cornell показали, что коммуникация с ChatGPT4 уменьшает веру сторонника теории заговора на 20%.
📝 Paper: https://osf.io/preprints/psyarxiv/xcwdn
#ai #education #conspiracy_theory
—————————
Мысли Рвачева
—————————
DALLE теперь поддерживает inpainting.
Можно выделить часть изображения и написать промпт для изменения. В том числе и в мобильной версии.
#ai #text2image #openai #dalle
—————————
Мысли Рвачева
—————————
Как работает GPT?
Если вы до сих пор не разобрались в том, как работают GPT модели (и в целом в чем магия ChatGPT) рекомендую вам ролик.
С одной стороны он копает в глубь и рассказывает все очень подробно, с другой стороны делает это понятным языком. Рекомендую.
https://youtu.be/wjZofJX0v4M?si=T4xjF1545cCBVBIm
#ai #gpt #llm #explainer
—————————
Мысли Рвачева
—————————
Дуров как обычно впереди всех. Сделал крутую пасхалку по нажатию на 👀 реакцию!
Респект!
—————————
Мысли Рвачева
—————————
💰 Павел дуров выступит на концеренции TOKEN2049 в Дубаи
С учетом того, что он не так часто публично выступает - отличная возможность для тех, кто в Дубаи или планирует там оказаться.
Детали https://www.dubai.token2049.com/speakers
#crypto #telegram #conference
—————————
Мысли Рвачева
—————————
🇺🇸 Как переехать в США если ты не айтишник
Многие думают, что виза таланта в США доступна только айтишникам. Однако это далеко не так, и я хочу рассказать вам об этом на примере профессии дизайнера. Эта область может стать не только отправной точкой для успешной карьеры, но и возможностью для переезда в США.
Моя подруга Ксюша, которая имеет за плечами работу в Facebook, ярко демонстрирует эту идею. Она пишет о своем пути, который включает в себя не только профессиональное развитие, но и личный опыт жизни в США. Её истории — это не просто рассказы о карьере, но и о многих других аспектах жизни за границей.
И вообще, Ксюша — классная. Её блог может стать настоящим источником вдохновения для тех, кто мечтает о карьере в дизайне и возможном переезде в США. Подписывайтесь на неё по адресу /channel/uxuiaiacademy/121
70% стартапов из зимнего набора Y Combinator 2024 года работают в сфере AI. Это значительный рост по сравнению с предыдущими годами: летом 2023 года доля таких компаний составляла 57%, а зимой 2023 года - около 32%.
#ai #ycombinator
—————————
Мысли Рвачева
—————————
Недавно прошел AI Ascent 2024 от Sequoia.
Обычно они не выкладывают контент, но в этот раз сделали исключение.
Состав Звездный: Andrew Ng, Andrej Karpathy и др. Рекомендую.
Полный список видео доступен по ссылке https://youtube.com/playlist?list=PLOhHNjZItNnOoPxOF3dmq30UxYqFuxXKn&si=GYY959ihcF2JP2zt
#ai
—————————
Мысли Рвачева
—————————
Раздумываете куда вложить денег на фоне бума AI?
Вкладывайтесь в компании связанные с электричеством.
Уже сейчас 4% электропотребления в США тратится на сервера. Через пару лет цифра будет 6%.
Не является инвестиционным советом :)
#ai #commodity #resources
—————————
Мысли Рвачева
—————————
😡 ChatGPT упал, как дальше работать - не понятно
UPD: поговаривают, что части юзеров раздали доступ к Sora и как результат все упало.
Но можно посмотреть крутые сгенерированные видосики пока. Это конечно вау!
https://openai.com/blog/sora-first-impressions
—————————
Мысли Рвачева
—————————