12937
life = curiosity + irreducible noise Whois: https://t.me/boris_again/1652 Лс: @btseytlin
https://julienposture.substack.com/p/the-ai-doppelganger-experiment-part
Ожидал текст про файнтюн генератора изображений. Получил потрясающую работу на стыке машинного обучения, антропологии, философии и искусства
Завтра будет Data Fest 2024 от ODS.ai в гостях у VK
Подключайтесь онлайн, чтобы послушать практические доклады про машинное обучение.
Полное расписание можно посмотреть здесь.
3 зала и 30+ спикеров в одном месте. Многие, думаю, будут вам знакомы. Можно выбрать секцию, и слушать доклады по теме:
1. RecSys секция от хоста площадки VK
2. DS Career
3. NLP
4. Advanced LLM
5. CV
6. Speech
7. ML in Physics
8. Data Strategy
9. Open Source
Cсылка для онлайн просмотра в 12:00 по МСК.
Инсайдер инфа от Техножрицы: трансляция будет из Атриума
Пост для комментариев, потому что олимпиадники из тг не позволили комментировать три поста выше
Читать полностью…
Я бы так же поспорил, что люди, которым ты доверяешь больше (биологи, физики и прочие), могут быть ангажированы ещё больше. Возьмем человека, посвятившего свою карьеру вопросам сознания и интеллекта в его парадигме, например, биологии. Вдруг он видит как кучка программистов получила нечто близкое к ИИ. Все его предположения пошли прахом. Его вовлеченность в этой ситуации сто процентов. На кону вся его карьера и вся его идентичность. Ангажированность на пределе.
Именно это мы наблюдаем с теми, кто говорит: “Но мы же не понимаем, что такое сознание, как мы можем его построить?”
Может быть сознание это просто вопрос терминологии? Может быть нам не нужно понимать сознание, чтобы его создать? Может быть для AGI не нужно сознание? AGI это ведь про способность решать задачи, а не про наличие сознания.
Мы ничего не понимаем о том, как люди складывают слова в предложения. Я общался с нейробиологами. Реально ничего. Но мы сделали машину, которая складывает слова в предложения.
Я не спорю, что многие ИИ исследователи ангажированы, чрезвычайно оптимистичны или, наоборот, слишком пессиместичны. Я, например, изначально занимал позицию про “статистических попугаев”, потом новые поступающие данные (точкой преломления стала остаться про Othello-GPT) изменили моё мнение. Но даже сейчас моя оценка сильно пессиместичнее, чем у типичного ИИ энтузиаста.
К счастью нам, доверяющим науке, не нужно опираться на мнения пары экспертов из сферы ИИ или из других сфер. На текущий момент самый надежный инструмент прогнозирования будущего это Metaculus, рынок предсказаний (я писал об этих инструментах здесь). В прошлом он отлично предсказывал такие вещи как дату начала войны, результаты крупных выборов, количество смертей от COVID. Его трек рекорд публичный и показывает, что Metaculus очень хорош. Сильно лучше любого эксперта в отдельности. По части ИИ трек рекорд тоже можно посмотреть.
Там есть вопрос про таймлайн AGI. Текущее медианное предсказание это 2031. Нужно иметь очень весомые основания, чтобы сказать, что один из мощнейших инструментов в мире не просто ошибается в датах, а ошибается принципиально.
Напоследок можно включить немного common sense. Я позавчера общался с нейробиологом (PhD) и он считает, что AGI будет, и что мы знаем о человеческих мозгах меньше, чем об LLM. Владимир Путин считает, что искусственный интеллект будет и изменит расстановку сил на планете. Администрация США достаточно верит в AGI, чтобы вводить серьезную регуляцию. Почти все отцы глубокого обучения не просто верят в наступление AGI, а бояться, что он принесет нам чудовищные последствия. VC фонды явно верят в наступление AGI настолько, что готовы вкладывать в гонку вооружений бесконечные деньги. Многие философы считают, что для “думания” не нужен какой-то уникальный человеческий компонент. Каждый день предсказания о зиме ИИ не сбываются и каждый день происходит новый прорыв, а глупые машины становятся чуть менее глупыми. Развиваются альтернативы LLM, так что мы можем увидеть смену парадигмы в любой момент. В ИИ исследования вовлечено невероятное количество ученых, компаний и даже государств. Всё вокруг шепчет: “AGI скоро, AGI скоро, AGI скоро”.
Может быть это не так и все ошибаются. Но на каких основаниях автора цитаты так в этом уверен?
Мне сейчас в линкдине пришли два параллельных сообщения:
1. Предложение аутсорса для PlanetFarms от $CONSULTING_COMPANY
2. Приглашение на собеседование в $CONSULTING_COMPANY
Ох уж эти проблемы внутренней коммуникации
Как выяснилось, школьник, задавший вопрос, уже в Лицее ВШЭ, с английским B2, участвовал за этот год в шести олимпиадах, и в одной взял призовое. Madlad реально начал оптимизировать, пожелаем манчкину удачи
Читать полностью…
Наконец, движ это новое направление, которое открывает университет. Вы окружены умнейшими, молодыми и амбициозными людьми. И людьми постарше, которые решили связать свою жизнь с таким обществом. Университет это пространство для мысли, творчества, прорывных проектов, тусовок и крепких связей. Но этими возможностями надо активно воспользоваться.
Переедьте в общежитие. Найдите самую крутую лабораторию с приятными вам людьми и устройтесь туда. Пишите научные статьи, какими бы дилетантскими они ни были, и публикуйте их. Каждое лето находите себе стажировку в крутой компании. С вашей подготовкой вы сможете ездить на стажировки в FAANG и привозить домой достаточно денег, чтобы весь следующий год жить припеваюче. Сделайте с одногруппниками нелепый стартап и подайтесь во все акселераторы. Вступите в студенческое братство.
Здесь так же наступает этап первого погружения в машинное обучение, так как у вас уже есть крепкая база. Вам нужно освоить Python, C++ и, собственно, пройти курсы по ML и DL. Или какие там будут аналоги всего этого к тому времени.
Далее вам нужна хорошая магистратура. Если в бакалавриате вас интересовали крепкие основы, то в магистратуре время первой специализации. Хороший вариант, на текущий момент, это ШАД. Еще лучше программа АИД на ФКН, где вы наполовину учитесь в ВШЭ, наполовину в ШАД. Или найдите лучшую доступную зарубежную магистратуру. Здесь все в целом как в бакалавриате: оценки, учеба, движ, публикации, стажировки, проекты. Полезно на этом этапе поработать под началом такого профессора, который мог бы взять вас к себе на PhD. Здесь вы можете делать свои первые настоящие научные работы.
В качестве следующего этапа я советую PhD по AI/ML в самой крутой зарубежной лаборатории, которая вам доступна. Эту штука имеет тем большую пользу, чем раньше ее получить. Время настоящих открытий. Но не забывайте грамотно "продавать" их миру, чтобы продолжать создавать себе репутацию. О ваших достижениях должны слышать, в идеале из каждого утюга.
Готово. Если, каким-то нечеловеческим образом, вы прошли этот путь, то вы доктор наук в 20-с-чем-то лет с наилучшей возможной подготовкой и такими достижениями, которым позавидуют титаны прошлого. Скорее всего вы уже пьете пивко с Терри Тао и на досуге консультируете ООН по цифровому развитию планеты. Что бы там ни было в искусственном интеллекте к тому моменту, оно вам по силам.
Ого, для общения с LLM разрабы перенимают практики общения менеджеров с разрабами
Читать полностью…
Маткульт-привет! 🥳
Очередной розыгрыш полезных книжек в честь старта приёмной кампании Онлайн-магистратур МФТИ! Подробности о наших онлайн-программах по ссылке. Записаться на День Открытых дверей магистратур, который пройдёт уже в эту субботу, можно тут.
🧠 В этот раз разыграем 3 книги "Кому нужна математика?" авторства А.М. Райгородского с подписью автора!
Что делать:
1. Подписаться на Клуб любителей математики (@mathloversclub28) и чат Онлайн-магистратур МФТИ (@online_mipt)
2. Нажать на кнопку «Участвовать»
3. Ждать 19 мая, когда мы объявим, кто победил.
Важно: забрать книжки можно лично в Москве. Готовы отправить почтой по РФ за наш счёт 🙂
P.S. Мы ещё и курс подготовки к вступительным экзаменам по математике запустили, загляните, вдруг вдохновит 😉
Участников: 132
Призовых мест: 3
Дата розыгрыша: 23:59, 19.05.2024 MSK (3 дня)
Любой зум созвон для разраба это же просто фоновый подкаст
Читать полностью…
OpenAI выкатили новую мультимодальную модель GPT-4o, о которой вы наверное уже слышали из всех утюгов.
Приз за наибольшую удивительность и криповость берет демка, где модель понимает, что находится на презентации самой себя.
Точнее не понимает, а делает вид, что понимает? Или уже понимает? И в чем разница? Я уже немного запутался
https://youtu.be/vgYi3Wr7v_g?si=mPQknLAtYPvSiuK2
Я решил больше писать и получилось новое эссе.
Я постарался ухватить и выразить легкое, ноющее, повсеместное, фоновое ощущение некой смеси неопределенности и потребности, которое всегда со мной. Может быть этот текст артикулирует и ваше ощущение тоже. Возможно оно даже является темой, центральным сюжетом, для наших времен
https://borisagain.substack.com/p/the-maybe-in-your-mind-the-maybe
Most sane ML masters curriculum be like
Альтернативно: в сеть слили 30 статей, которые Илья Сутскевер посоветовал Кармаку
#щитпостинг
Claude корежит
https://www.anthropic.com/news/golden-gate-claude
Прочитал в одном дискорде: I love english because it is so easy to learn after you know Python
Читать полностью…
Надо спорить с Gary Marcus конечно, но у меня нет столько денег
Читать полностью…
В связи с этим я предлагаю Кириллу (@kyrillic) публичный спор на интерес и 1000 евро. Посмотрим кто прогнозирует будущее лучше и у кого модели мира круче.
Мы выберем трех доверенных жюри, где каждый будет одобрен обеими сторонами.
По вопросу “наступил ли AGI” я спорить не буду, так как, по моему мнению, ждать лет десять или больше, и очень сложно придумать четкий критерий. Поэтому мы сформулируем четко измеряемый критерий продвижения в сторону AGI к конкретному моменту времени. Скажем, через два года, но обсуждаемо.
Когда момент икс настанет жюри определит победителя или объявит ничью.
UPD: в комментариях предложили публичные дебаты, тоже было бы круто
Недавно kyrillic запостил мнение, часть которого я процитирую:
Обычно даже именитые "далеко не только Альтман" эксперты, фанаты и инфлюенсеры сдуваются на этапе вопросов "What is consciousness?", а львиная доля из них не то что не публиковалась, но даже не слышала про конфы по типу Embodied intelligence.
Медийная позиция Альтмана звучит как LLM+мультимодальность -> some magic -> AGI
И все это именно и есть продажа и очень грамотная комбинация R&D и маркетинга:
…
В то же самое время что внутри:
- уникальные подходы к построению датасета + качественные трансформеры
- но в то же самое время очень большая, но все еще стат модель (и близко не AGI)
Но давайте смотреть на то, что сделано, а не мечты заинтересованных людей, пусть и чрезвычайно квалифицированных.
Если мы говорим про AGI, то это о сравнении с человеком, и я склонен слушать не философов, а биологов, и даже физиков (потому что у всего кремниевого очень серьезные ограничения физического мира).
Однажды мои друзья делали проект, где школьники могли получить консультацию у людей на несколько шагов впереди, типа меня, и узнать, куда и как поступать. Я провел около десяти консультаций. Почти каждый раз это были школьники такого же плана: лицеи, олимпиады, проекты, четкий план подготовки к ЕГЭ, амбиции поступать в топовые университеты. То есть такие ребята, у которых я бы сам хотел получить консультацию: как быть таким умным и осознанным в таком возрасте?
Это явно показывает эффект селекции. Парадоксально, но ребята, которым нужен совет, не понимают, что у них проблемы. Ребята, у которых и без советов все хорошо, критически оценивают своё хорошо, понимают ценность улучшения и ищут рекомендации, как сделать ещё лучше. Такое наблюдается во многих сферах жизни. Например, к психологам чаще обращаются уже осознанные люди с рефлексией, а большинство людей, которым очень нужна терапия, никогда этого не делают. У меня брали карьерные консультации несколько людей, чей опыт был сравним с моим или даже лучше. То есть те, у которых всё и без консультаций хорошо. Это меня очень удивляло. Потом я понял, что их опыт такой крутой именно потому, что они искали способ его прокачать, и продолжают искать.
Мы почему-то не видим слепые пятна в своем восприятии. Всегда интересно: а чего не замечаю я? Что я мог бы делать такого, о чем сейчас даже не могу подумать?
Пост для 😭 реакций от тех, у кого текст выше вызывает боль и безысходность от упущенных возможностей. Я начну
Читать полностью…
Меня спросили в личке: "Привет! А как начать свой путь в ML и DS? Я в 9-ом классе :)"
Моя любимая рубрика: как заминмаксить эту жизнь.
Итак, вы в 9 классе и интересуетесь ML и AI. Хорошие новости: вы в самой лучшей точке для принятия правильных решений и у вас достаточно времени, чтобы достичь вершин могущества, которое и не снилось вашему отцу (в силу возраста вы не поймете эту отсылку).
Первым делом нужно изменить запрос. Когда я начинал свой путь в машинном обучении, я пошел на конференцию AI Journey. Там кто-то написал на маркерной доске: "прикладная статистика лучше машинного обучения." Этот сентимент тогда был достаточно популярен, все еще шел спор: победят ли нейросети и подход "stack more layers" классику статистических методов? На самом деле на тот момент классика уже проиграла, но еще не все это поняли. Что мы видим спустя всего несколько лет? Нейросети пишут музыку и рисуют лучше людей, трансформеры захватили мир, AGI через пару лет. В общем, если вы в 9 классе, то к вашему взрослению все может быть абсолютно другим. Прогресс экспоненциально ускоряется. Кто знает, может быть машинного обучения в нашем текущем понимании больше не будет. Но вот, что никуда не денется: математика, наука, программирование, инженерные задачи и необходимость превозмогать трудности. Сфокусируйтесь на основах и будете готовы ко всему.
Разобрались. Теперь о том, что именно делать. Первый приоритет: попасть в самый крутой технический лицей. Например: СУНЦ МГУ, Лицей НИУ ВШЭ, Физтех Лицей. Если эти варианты недоступны, то найдите лучший из доступных. Вам будет проще осваивать науки, если все вокруг осваивают науки и получают от этого удовольствие. Вы легко поступите в лучшие университеты, если для всех вокруг это будет очевидный путь. Лицей с крутыми преподавателями позволит вам нащупать направление развития. Чистая математика, программирование, физика, экономика - вообще неважно. Выберите такое, чтобы нравилось и получалось.
Учитесь для себя. Сидите в библиотеке и играйтесь с уравнениями. Мучайте преподавателей и ChatGPT вопросами: почему так? Способность к активному обучению это навык, который окупится миллион раз.
На этом этапе начните учить английский язык. Это откроет вам доступ ко всему миру. Изучение требует много времени, поэтому начинайте сразу.
Начинайте участвовать во всех олимпиадах и конкурсах по вашему направлению. Продолжайте эту практику и после школы, в университете и далее. Вы поймете когда надо остановиться.
Постарайтесь стать одним из тех, про кого в новостях пишут "школьник изобрел фотобиореактор который..." Лично знаю одного такого из Физтех Лицея. Все это в последствии позволит вам поступить в лучшие университеты страны и даже мира. Это создаст вам репутацию вундеркинда, являетесь вы им или нет, которая поможет во всем: поступлении в университет, поиске работы, фандрайзинге денег на стартапы. Никто не ожидает, что школьник действительно изобретет что-то прорывное. Но люди с удовольствием осветят любую попытку с презентабельным результатом, даже если он бесполезен. На этом этапе важнее что-то пробовать и демонстрировать форму интеллектуальной деятельности, а не достигать реальных результатов. В целом это верно для многих сфер жизни до самого конца. Время действительно прорывных результатов настанет позже. В общем, делайте то, что потом будет органично смотреться на вашей странице в Википедии.
Следующий шаг на пути героя: университет. Поступайте в ВШЭ, МГУ или МФТИ. Или топовые университеты зарубежом, куда не так трудно попасть одаренному школьнику, как может показаться. Вам нужен сильный бакалавриат с серьезной математикой, но, опять же, конкретное направление не принципиально. Главное, чтобы нравилось и получалось.
В университете нужны три вещи: хорошие оценки, активная учеба, движ. Первые две работают примерно как в школе. Оценки - для репутации и диплома с отличием. Требуют только выполнения очевидных правил: сдавай домашки, учи билеты, поднимай руку, не хами преподавателю. Активная учеба для ваших мозгов, важно постигать базу математики и других наук. Отдавайте предпочтение базовым предметам.
Португальская бюрократия завела чат-бота для консультаций по поводу ВНЖ, поэтому время узнать у них, как написать двоичный поиск
Читать полностью…
Запускается хорошая, на мой взгляд, онлайн магистратура МФТИ с упором на математику
Читать полностью…
Мне периодически пишут насчет рекламы контента и мероприятий про бизнес. Я чаще всего отказываю, особенно когда вижу ключевое слово “коучинг”, так как стараюсь освещать машинное обучение, IT и близкие темы.
Однако в этот раз я решил сделать исключение и порекомендовать конференцию emconf.ru по двум причинам:
1. Известные в мире стартапов спикеры, а стартапы интересны многим подписчикам.
2. Организаторы согласились предоставить для вас промокод со скидкой 20%.
Так что поехали. Это онлайн-конференция о бизнесе, личной эффективности и связанными с этим эмоциями. Фокус на IT-предпринимателей и С-level.
Среди спикеров:
— Максим Спиридонов, фаундер Нетологии и Фоксфорд, а так же ряда других проектов
— Илья Мутовин, основатель сервиса Zoon, автор книги «Биохакинг без фанатизма»,
— Дмитрий Мацкевич, CEO и фаундер Dbrain
Промокод на скидку 20%: axonver20
Информация, билеты и прочее на сайте: emconf.ru
https://twitter.com/peakcooper/status/1789603218755887555
Читать полностью…
https://immersivemath.com/ila/index.html
Интерактивный учебник по линейной алгебре
Приходит ко мне кандидат - я ему говорю: задеплой пожалуйста. Можно и нужно использовать всё: ChatGPT, Copilot, Google, твою любимую IDE, только рассказывай-показывай что делаешь и относись к этому как к сессии парного программирования. У тебя полчаса.
Я даже себя проверил, “ChatGPT, напиши мне пожалуйста обёртку для модели на Fast API, вот у меня тут такие параметры, а можно ещё докерфайл” - у меня ушло 19 минут до локального контейнера, в который ты кидаешь 4 переменные, а тебе прилетает цена дома.
Я думал, ща мы с этими сеньорами обсудим, что значит деплой и как нам урезать размах задачи, чтобы успеть в полчаса; и как надо это всё делать, чтобы было полезно для бизнеса; и что они откажутся запускать рандомный pickle файл, потому что не секьюрно, и я с ними пошарю запасённую другую ветку гита, где всё без pickle.
Мне это всё кажется таким очевидным. Но это НАПРОЧЬ ломает шаблоны кандидатам.
Мне, конечно, не повезло, но 3 человека из 4 втихаря задавали вопросы ChatGPT, но не признавались (!) в этом и начинали переписывать её ответы в IDE вручную. Типо “нет, я по памяти помню как докерфайлы писать” - но чувак, ты уже 10 минут потратил, и пока ничего не полетело, ты уверен? “Да” - и продолжает переписывать что ему там ChatGPT написала.
Почему я так уверен? Потому что я пробовал с ними разговаривать - а там просто пустота, там ноль понимания и человек, выполняющий команды робота.
Один чувак писал код примерно так (я там литкод тоже спрашивал):
complement = target -
nums[i]