2047
личный канал про ИИ
что-то все возбудились по поводу Pybot, поэтому и я выскажусь
для тех, кто движуху пропустил - HuggingFace выпустили тысячу агентов делать рисерч (Влад, привет!) писать правила для чатбота, в итоге они написали 640 тысяч строк кода на питоне и добились качества, аналогичного модели размером 340М, на задаче поддерживать диалог
к чести коллег из HF, они прямо ссылаются на ELIZA, я про нее писал тут; но реальную популярность обрела ее потомок - ALICE, чатовый движок, для которого был разработан свой язык описания правил AIML, где AI - это тот самый Artificial Intelligence (кому интересно, ML - Markup Language, a не то, что вы подумали)
так что змея укусила собственный хвост, подобно вчерашнему Уроборосу
кстати, пользуясь случаем, всех зову на свой курс, я там про чатботов рассказываю, лекция про них уже доступна
@valuableai
сегодня поговорим с вами о форензике; в каком-то смысле это было неизбежно, учитывая количество взломов с помощью ИИ-моделей в последнее время
но мы будем говорить про другой аспект - некие безработные граждане из Unemployment Labs провели интересный эксперимент, а именно попробовали угадать соль (seed), которая использовалась для инициализации весов для популярных LLM; принципиально это возможно потому, что (а) алгоритм инициализации опирается на генератор случайных чисел, который псевдослучайный; (б) часть весов модели даже после обучения могут практически не сдвинуться с начальной точки
пример того, как это работает в теории, показан на 1 картинке, а на 2 показана более реальная картина поиска корреляции, когда мы угадываем и соль, и модель GPU; сам метод гораздо интереснее результатов - "внезапно" китайские модели обучены на Nvidia
P.S. из обидного - те граждане проверили большинство китайских моделей, и даже парочку европейских, но российские проигнорировали, вот это я считаю неуважение
@valuableai
знаю, что баян, он мне все равно нравится
@valuableai
интересное происходит в Китае, в принципе оно могло бы происходить, где угодно, но технологии сейчас достаточно зрелые только там
пришла новость о запуске "автобуса по вызову" (в новости только Чэнду, но аналогичное есть уже в нескольких китайских городах) - смысл инновации в том, что человек может вызвать беспилотный автобус к удобной ему точке; это такой Carpool в Uber на максималках - вместо легковушки приезжает автобус; мне кажется, это может перекроить всю логистику общественного транспорта, решив одну из фундаментальных его проблем - необходимости подстраиваться под остановки и расписания #беспилотники
кстати, я не думаю, что обычные номерные маршруты (сразу) уйдут в прошлое - например, в Шанхае с помощью анализа запросов в специальном приложении вводят новые маршруты автобуса
вот это - реальная польза от ИИ для людей, не так часто встречается в наше время
@valuableai
тут коллеги из Японии провели анализ поданных статей на ICLR (картинка)
из интересного - очень ровные закономерности, распределение рейтингов строго нормальное, рост рейтинга по процентам линейный, еще медианный и средний рейтинг почти одинаковые
некоторые усматривают в этом свидетельство того, что большинство рецензий ИИ-шные (если помните, какие-то люди даже предлагали детектор за деньги); так это или нет, я сказать не готов, кому интересно, могут посмотреть исходные данные, выложенные Pangram в удобном виде (они кстати делали свой анализ, но для статей)
забавно, что именно ICLR вызывает постоянные разговоры о засилии ИИ; понятно, что это единственная крупная конференция с открытыми данными, но эффект это имеет двойственный
@valuableai
всем привет, сегодня новый выпуск Капитанского мостика, ведем его как всегда мы - я и Дмитрий Колодезев; в гостях у нас был Григорий Чернов - PhD по экономике, так что большая часть выпуска посвящена экономике ИИ
#КапитанскийМостик
Валентин Малых и Дмитрий Колодезев обсуждают с Григорием Черновым, специалистом по экономике, новости об ИИ, роботах и рынке труда — разговор помогает увидеть за громкими заголовками экономические факторы: конкуренцию за рынки, стоимость внедрения, регулирование и новые системные риски. Начало — Kimi за рубли, роботы и профсоюзы, затем большой блок о найме: как генеративный ИИ меняет найм в IT и почему джунам всё сложнее получить первую работу. Технологии и безопасность: модели, которые редактируют веса других нейросетей, споры о том, как развитие ИИ меняет кибербезопасность, риски уязвимостей в открытых продуктах, автоматизированная операция на мыши и универсальность больших языковых моделей.
ODS VKVideo
ODS YouTube
мой дзен
@valuableai
за что люблю статьи про биологию - это за красивые картинки; все уже привыкли к тому, что можно по текстовому запросу нарисовать картинку (к слову, OpenAI буквально вчера выпустила новую версию Images), но китайские товарищи пошли дальше и сделали генератор белков по текстовому запросу
они взяли предобученную Т5 и дообучили на 1.7 миллиарда пар структура белка-текстовое представление; причем, они еще и проверили это на реальных белках (2 картинка), как минимум флуоресцентный белок у них получился хорошо, про остальное я совсем не понимаю
полученную модель они выложили, также ее можно потыкать тут (если вы что-то понимаете в белках); статья вышла за пейволлом в Nature, но есть и на bioRxiv #биология
@valuableai
мы вступили в новую эпоху, когда код стал стоить просто какое-то количество токенов; когда это только осознали, народ принялся переписывать любимые игрушки, но это все бантики
Google пошел через нанесение пользы науке - много научного кода до сих пор написано на Fortran и С (даже я про это писал), например, FVCOM - модель для обсчета течений в океане, ее переписали на Rust, исправив древние баги, ускорив в 2 раза и сократив вдвое потребление памяти (видео)
но наука - это тоже все так, для красоты, настоящие деньги сидят в банковском ПО, которое в США до сих пор написано на COBOL; OpenAI заявляют о достижении качества 98% в переписывании с COBOL на современные языки; это 98 программ из 100, которые показывают побайтово тот же выход, что и оригинал; пойдут ли крупные банки на замену своего ПО - это открытый вопрос, посмотрим
заменять COBOL думали уже давно, в частности 3 года назад IBM пыталась уже выйти с таким предложением, но похоже не преуспела, видимо, технологии не дозрели в тот момент
@valuableai
тут пришла новость, что ИИ-агент успешно провел операцию на мозге мыши; во-первых, мышку жалко, но, забегая вперед, через сутки мышь себя нормально чувствовала (хотя дальше о судьбе мыши не сообщается)
важный аспект - авторы новости собрали автоматизированную хирургическую установку на Arduino, ИИ-агент выбирал препараты и места введения; как я понял, трепанацию и зашивание проводил человеческий хирург, он же контролировал весь процесс; в сентябре была новость об ИИ-помощнике хирурга - он ассистировал при операции на человеческом мозге, а тут пошли чуть дальше
свое отношение к работе с лабораторными животными я уже высказывал в контексте NeurаLink; но сама по себе история, что робот будет делать несложные операции, мне кажется перспективной - все-таки строчка "дрогнет рука молодого хирурга" не на пустом месте родилась
@valuableai
тут пришла новость, что задачу 3-SAT решили, представив алгоритм перечисления решений
теперь по порядку: 3-SAT - это задача про то, что у нас есть булева формула, каждый конъюнктивный кусок которой содержит не более 3 переменных, надо понять, есть ли удовлетворяющее ей сочетание переменных (пример на картинке)
так вот вышло сразу два доказательства - одно от OpenAI и одно от Anthropic; доказательства разные, если кто-то поленился посмотреть
забавно, что они одновременно обратили внимание на одну задачу; то, что они могут найти решение, я не сомневался; даже более интересно, чем ответят китайские товарищи?
@valuableai
извините, не cмог дотерпеть до понедельника, новость - просто 💥
Kimi.ai теперь позволяет оплачивать подписку картой МИР; у Алисы и ГигаЧата появился очень сильный конкурент
за наводку спасибо Диме
@valuableai
вчера и позавчера говорили про бомбы, надо продолжить традицию
сегодня поговорим на атаки на агентов, две новости, ну то есть как новости, то, что текущие агенты дырявые известно всем, но тут конкретный примеры:
- если загрузить специально испорченный AGENTS .md в какую-то папку, с которой пользователь работает, дальше можно выполнить произвольный код, т.к. агент по умолчанию доверяет этому файлу (приложил видео)
- с другой стороны, если положить специально сформированный файл (контекстную бомбу) в папку, которую обрабатывает вредоносный агент, то он либо просто сломается либо перестанет делать что-то полезное
такие дела, берегите своих агентов и не заставляйте их делать ничего противозаконного
@valuableai
я думаю, все видели такую пилу на графике функции потерь, как на второй картинке; так вот коллеги из DeepMind обнаружили, что это по всей видимости от того, что softmax во всех современных фреймворках реализован криво; то, что pytorch сделан инопланетянами, я давно подозревал, но, что остальные тоже, - это было открытием
в общем, суть проблемы в том, что в softmax используется огрубление, и, как оказалось, это прямо сильно влияет на малых значениях - поэтому и пила возникает, т.к. модель не может выучить последние несколько шагов; кстати, и на дистилляцию это влияет тоже (3 картинка)
так что исследование - бомба, всем, кто занимается обучением моделей, срочно имплементировать у себя
@valuableai
для программистов наступают трудные времена. Объем и сложность программ возрастают непропорционально по отношению к зарплате. Романтический ореол непостижимости этой профессии, если он когда-либо и существовал, начинает меркнуть. На Западе софтверхаусы тают как вчерашний снег, а программисты начинают пополнять армию безработных. Оспаривается даже само стремление рассматривать программистов как профессионалов особого рода. Главное же — это то, что вольная армия программистов постепенно попадает в «плен» к администраторам и руководителям, которые стремятся сделать труд программиста планируемым, измеряемым, однородным и обезличенным.
я тут спустя полгода узнал про тренд прятать свои отпечатки пальцев на фотографиях (у девушки с рукой все хорошо, вам показалось)
кто, как и я был, не в курсе - какой-то китайский эксперт в каком-то токшоу сказал, что нейросети могут распознать ваши отпечатки пальцев по фотографии; в новости пишут, что по фотографии уже могут сделать силиконовую копию, с помощью которой, например, разблокируют ваш телефон
честно скажу, я в успешность такого слабо верю - в самой новости пишут, что это пока только попытки; но тут есть два разнонаправленных соображения:
1) c одной стороны, мы знаем, как нейросети могут галлюцинировать - достаточно вспомнить скандал с Самсунгом и Луной (кто не знал, там ИИ-камера фактически вставляла изображение Луны, если детектировала ночное небо)
2) с другой стороны - биометрические системы могут быть не приспособлены к таким адверсариальным атакам, так что даже частичного восстановления будет достаточно; тут пусть выскажутся эксперты по биометрии, мои полномочия здесь все
@valuableai
тут Google выложил работу про эволюционирующий харнесс; суть происходящего изложена на картинках - общий процесс на первой, где успешной решение одной задачи (как, например, на второй картинке) позволяет сделать выводы и успешнее решить последующие задачи; рекомендую посмотреть сайт целиком, там интерактивные схемы, прикольно
но важно тут другое, во-первых - хочется похвалить коллег из Сбера и конкретно первого автора Антона Разжигаева - он эту тему со своим Уроборосом давно уже начал копать (статья от августа, но началось все еще в феврале); а во-вторых - более глобальный вывод - мы вступили к эру соревнования харнессов, т.к. модели стали достаточно умными, чтобы не особенно замечать разницу
@valuableai
всем привет, новый выпуск Капитанского мостика от меня и Димы Колодезева
#КапитанскийМостик
Валентин Малых и Дмитрий Колодезев разбирают новости об ИИ. Начало — каскадные сбои Microsoft и почему они показывают ценность живых инженеров, когда код пишут агенты. Затем свидетельства, что китайские модели инициализируют на американских GPU NVIDIA, версии вокруг Дженсена Хуанга и выход корейской EXAONE от LG. Плюс модели для кода: результат зависит не только от модели, но и от её харнеса. Локальное: ускоренный k-means, бизнес-профили в ChatGPT, реклама для агентов, разблокировка памяти на старых GPU, скрытые закладки в языковых моделях, агенты в ОС и вычисления на домашних компьютерах.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
довольно редко с вами обсуждаем патенты, но сегодня есть повод - компания Microsoft подала патентную заявку, в которой описывает, как будет использовать ваши игровые ПК (с видеокартами), ноутбуки и даже (!) смартфоны для обучения ИИ
это, конечно, не Альтман с его жадными ручонками, тянущимися к памяти в вашем ПК; но тоже, согласитесь, интересная заявочка; правда, Microsoft учла ошибки предшественника и предлагает платить за использование вашего простаивающего железа; другой вопрос, а что делать, если вы не хотите свое железо им отдавать даже за деньги? как показывает практика, обычно Microsoft не особо церемонится с пользователями Windows и сама возьмет без спроса
P.S. сама по себе идея распределенного обучения не нова, она еще с начала 90-х развивается, другой вопрос - в каком масштабе? был в 2000-х большой успех в этой области - SETI@home, даже я в нем поучаствовал, но там было понятно, что ты мощность своего компьютера жертвуешь ради науки, а тут получается ради чьей-то прибыли
@valuableai
вот эта симпатичная женщина на фотографии - Дарья Донцова (нет, хотя есть что-то общее), Корал Харт (Coral Hart) из ЮАР; она - автор популярных любовных романов, раньше она писала их по 12-14 штук в год; но за последние 20 месяцев она опубликовала 370 штук
я думаю, всем очевидно, что она использует ИИ, она этого и не скрывает; говорит, что использует Claude для создания черновика, потом пару раз прогоняет, чтобы сюжетные дыры закрыть и в конце еще человек вычитывает, чтобы убрать следы нейрослоповости; если я правильно понял, то этот человек - не она
пишут даже, что одна из ее книг попала в топ продаж на Amazon; в общем, мы с вами вживую наблюдаем трансформацию рынка креативных индустрий: говорили про музыку, была попытка для кино, еще про литературу, ну и про программирование не забудем
@valuableai
тут группа коллег из университета Мериленда выпустили работу, в которой показали, что можно распознать происхождение идей в статьях; отлично распознаются придуманные и написанные человеком статьи, очень хорошо - статьи придуманные человеком, но написанные машиной; неплохо распознаются полностью машинные
и еще они зачем-то ввели такую неведомую зверушку, как придуманные машиной и написанные человеком; ну и так они, конечно, всех порвали
работа в целом интересная, но на мой взгляд она ставит не тот вопрос - вопрос в ценности полученного результата, а не в его авторстве; т.е. мы можем разложить статьи по кучкам, ИИ - отдельно, человеческие - отдельно, но что это дает? а вот ценность идей пока никто не научился оценивать
P.S. кстати, они сравниваются с Pangram, которые себя хорошо показали в детектировании ИИ-статей и художественной ИИ-литературы
@valuableai
у кого так же?
утащил отсюда
@valuableai
всем привет, мы открыли прием заявок на премию имени Левенштейна этого года
в позапрошлом году премию получила Наталья Валентиновна Лукашевич, в прошлом году - Александр Иванович Панченко, про обоих писал в свое время тут
в этом году из особенностей, мы сделали еще молодежную номинацию, для тех, кто молод душой сделал первый свой вклад в течение 2026 года; кстати, несмотря на название "молодежная", ограничений по возрасту нет, только на очередность вклада
в общем, всех призываю подаваться здесь
@valuableai
пока у нас скромно проводят олимпиаду для школьников про придуманный архипелаг в Арктике, в Британии, совершенно не стесняясь, проводят соревнование для компаний на реальных данных из северного Причерноморья
смысл соревнования - научить алгоритмы искусственного интеллекта управлять роями дронов на поле боя; так что теперь Британии есть, чем ответить американскому Палантиру
такие дела, продолжаю вести наблюдение #военное
@valuableai
мне тут рассказали про олимпиаду по ИИ для школьников, организованную Военным университетом радиоэлектроники
выглядит прикольно, молодцы, что стали современные способы для привлечения молодежи использовать
@valuableai
всем привет, новый выпуск Капитанского мостика от меня и Димы Колодезева
#КапитанскийМостик
Валентин Малых и Дмитрий Колодезев начинают с ИИ в религии и цифровизации в Индии, затем разбирают экономику: признаки ИИ-пузыря в Китае, состояние финансовых рынков и то, как агенты меняют работу экспертов. Большой блок о бизнесе: SAP и будущее маленьких языковых моделей, интерпретируемость и встраивание ML в процессы компаний, экспорт китайских ИИ-технологий и неожиданная живучесть мейнфреймов. Релизы — Gemini 4 Carbon и GPT-6.1 Terra, коммодитизация моделей и роль датасетов в конкуренции. Регулирование и ограничения: Швеция запрещает Claude, европейская политика в отношении ИИ и пользовательских данных, а OpenAI и Anthropic ужесточают правила использования своих моделей, вплоть до запрета на реверс-инжиниринг.
ODS VK Video
ODS YouTube
мой дзен
@valuableai
мне несколько раз уже прислали Qwenputer, действительно, интересная история - суть показана на гифке, это полноценный вычислитель внутри модели Qwen; автор утверждает, что по качеству он не уступает использованию python для внешних вычислений обычным Qwen'ом; кстати, напомню, что еще три года назад я делал выступление про то, как встраивать детерминистические алгоритмы в трансформеры
из интересного - это использование RNN внутри Qwen, как ячейки памяти (если приглядеться, внизу гифки)
но самое важное не в этом, а в том, что фактически (на что сам автор указывает между строк) в трансформер можно встроить произвольный неотключаемый блок; и это не гардрейл, а прямо часть модели; это к вопросу о закладках в моделях, которые обсуждали на последнем мостике
@valuableai
вчера говорили про бомбическое исследование, а сегодня - небольшая подборка новостей про военное использование ИИ в КНДР:
27 мая - испытание крылатых ракет
3 октября - гиперзвуковая ракета
17 октября - торпедная система
ну и раз пошла такая пьянка, то как тут не вспомнить про йеменских хуситов (организация Ансарулла) - Anthropic их забанил летом за разработку ракет с Claude; судя по тому, что КНДР не забанил, то они разрабатывали свой ИИ самостоятельно
так что если соберетесь делать ракеты (не надо), то берите пример с КНДР, а не с хуситов #военное
@valuableai
всем привет, очередной выпуск Капитанского мостика, ведем, как обычно, мы с Димой Колодезевым
#КапитанскийМостик
Валентин Малых и Дмитрий Колодезев обсуждают, как ИИ-агенты меняют кибербезопасность и программирование: агенты получают доступ к банковским аккаунтам, декомпилируют чужие игры и создают свои, а заодно обсуждают, как общение с агентами влияет на человеческие связи и голосовые интерфейсы. Большой блок о математике и коде: формализация всей математики, статический анализ и фаззинг для всех, корпоративные онтологии, а у Sakana — «аквариум» непрерывно работающих ИИ-ученых. Экономика и железо: Anthropic готова вложить триллион долларов, а видеокарта с 480 ГБ памяти может сделать запуск крупных моделей доступнее. Локальные темы — ускорение кода на лету под конкретное железо, перевод банковских систем с COBOL силами OpenAI и риски закладок в моделях. Финал — робот-телохранитель и будущее автономных роботов.
ODS VKVideo
ODS YouTube
мой дзен
@valuableai
всем привет, в нашем SWE MERA Challenge началась Stage 2
важное отличие от Stage 1: теперь оценка происходит в докере, там должна быть модель и (по желанию) харнес, которые решают задачи; всего задач 48 на go, python, php и еще одном языке разного уровня
чтобы запускать модели мы даем половину NVIDIA PRO 6000; кстати, большое спасибо Казтелепорт за то, что предоставили их для соревнования!
кстати, напоминаю, что Топ-3 участников будет дана возможность представить свою работу на конференции ICSE 2027!
присоединяйтесь по ссылке!
@valuableai
в Москве все уже привыкли к роботам-доставщикам (кстати, не только в Москве - в богоспасаемом Долгопрудном они тоже заполонили тротуары), но тут Дептранс столицы порадовал новостью, что в Москве скоро появятся роботы-заправщики, которых можно будет вызвать через приложение
на всякий случай - электро-заправщики, они не с канистрой бензина к вам поедут; пока эта штука ездит под управлением оператора, но обещают прикрутить самоуправление; еще обидно, что оно само пистолет не вставляет - что это за 20-й век, я спрашиваю? #роботы
@valuableai