R77 AI | Кейсы в ИИ (от выпускников МФТИ)
27 October 2025 08:02
Наши друзья делают Gen Ai конфу Conversations )
Крута она тем, что там реальные кейсы по генэйяю и не только в биг корпах:
1) "LLM для слов, MCP для цифр: как можно оптимизировать экономику проектов с помощью MCP-серверов" от Ивана Четверикова из Raft.
2)"Универсальный агент = ReAct + REPL" от Констанина Крестникова из GigaB2B.
3) Про AI-кибербез "Агенты ловят хакера: от экспертизы до моделей" от Positive Technologies.
Еще там Норникель, Т-Банк, Plata card (Mexico), Яндекс, Just AI, GigaB2B, ВкусВилл. В общем серьезно так. Вот тут инфа на сайте. и еще же промокод от нас на билет CVS25mDvS
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
14 October 2025 08:52
Галяяя, у нас отмена!
Перенесем вебинар по металлургии, к сожалению, там кое-что надо довести до продакшна окончательно — секретный проект! И уже со всеми метриками и эффектами вернемся)
У нас кстати накопилось много своих проектов — так что порасскажем о них, ну и еще есть крутые гости из Яндекса)
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
08 October 2025 17:13
Давно не писал, что у нас нового по проектам и пресейлам
А новостей довольно много:
1. Внедрили в Альфу 🅰️ Ассистента для портала разработчиков с RAG на базе YaGPT. 3 месяца уже тестируем - точность 76+% , бизнес-эффект: снижение тикетов на 40%. KPI пилота выполнили, готовимся идти дальше. Скоро сделаем вебинар в @ и расскажем немного технических деталей.
2. Прошли внутренние тесты AI агента-аналитика для inSales (это кстати реальный агент , точнее agentic workflow 🙂). Сейчас будем запускать пользователей и допиливать функциональность. Главная фича – переход от аналитики к рекомендациям. И вообще – верю в технологию Text-2-SQL, + то, что мы одних из лучших в РФ, кто в этом прокачались. Уже есть несколько запросов, где это внедряем.
3. В процессе еще одного пилота с другим топ-клиентом. Делаем семантические проверки огроооомных и сложных документов. Сейчас люди тратят не часы, а целые дни на проверку ⏳. Прикол в том, что это не очередной враппер чатгпт, а полноценный проект с разработкой онтологии, бэк, фронт и ну и куча ML/LLM экспериментов. На базе этого решения будем запускать еще один схожий кейс, но уже для валютного контроля.
4. Завершили уже несколько итераций по разработке AI агента для поиска и подбора отелей. Отличие от "популярных в СМИ" старт-апов в том, что это не B2C, а B2B, наш пользователь - турагент. А это меняет все многое :) Сделали эксперименты с готовыми агентами от OpenAI, сейчас собираем своего и полностью подконтрольного (на сколько это слово вообще применимо к термину "Агент") нам 😈
5. Но не только LLM-единым! Сделали пилот по прогнозированию вторичных продаж на маркетплейсах. Сейчас разрабатываем систему динамического ценообразования для очень крупной сети отелей.
Самые интересные пресейлы в работе:
1. Ждем и надеемся на старт видеоаналитики (ДААА, ЕСТЬ в 2025 и ТАКИЕ ПРОЕКТЫ!) для Dubai Police.
2. Свинки РусАгро были. Мраморные бычки Мираторга? Не, тоже было. А вот рыбы не было! Хотим улучшать конверсию выживаемости лосося из малька в крупную рыбку. Там и CV, и таблички. Интересно.
3. Планируем помогать футбольным скаутам с гибкой аналитикой показателей под запрос (помним про Text-2-SQL)
4. Как вам связка CV + падл теннис, который оверпопулярный сейчас (хз, что больше - ИИ или падл по хайповости)?
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
30 September 2025 15:02
UPD Закончили — Разберем AI стартап для маркетологов Oblako.AI
Тут без смс и регистрации — https://www.twitch.tv/r77_ai
вопросы можете задавать под этим постом)
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
23 September 2025 14:37
Минцифры тут регулировать AI собралась
В статье дали комментарий по этому поводу.
В компании с Горным, генеральным директором MWS AI (МТС) Денисом Филипповым, управляющим директором центра регулирования AI Сбербанка Андреем Незнамовым, и генеральным директором Института искусственного интеллекта AIRI (Сбер) Иваном Оселедцом еще участвовали пресс-служба Avito и Ассоциация больших данных (в неё входят «Яндекс», VK, Сбер, Т-Банк, МегаФон, МТС, ВТБ, HeadHunter и др.).
https://ict.moscow/news/reakciya-otrasli-russia-ai-regulation/
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
16 September 2025 16:46
Можно ли доверять нейросетям свои данные?
Сходили на интервью к Рейтингу Рунета (мы кстати по их самому уважаемому рейтингу топ-7 в России и топ-2 в Москве среди интеграторов ИИ) и Ярослав рассказал, как устроены большие языковые модели и почему информация, которую вы загружаете, не попадает к другим пользователям в готовом виде.
Вот на что ответил:
— как сервисы хранят запросы и документы,
— почему нейросети работают с обобщёнными закономерностями, а не с копиями ваших файлов,
— какие риски остаются при передаче конфиденциальных данных.
Тут ответы: /channel/ratingruneta/518 )
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
16 September 2025 14:01
AI для медицины — через час! Будем на твиче (без смс и регистрации) — ссылка в 16-00!
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
11 September 2025 16:18
Хабр — Развертывание ИИ внутри контура/On-premise — выбор оборудования, расчет и закупка | Марат Рахимов
https://habr.com/ru/articles/946116/ на хабре тоже)
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
02 September 2025 17:09
Запись эфира по RAGу без эмбеддингов (ссылка внизу поста)
Выписал самое важное и дополнил
Главные проблемы поиска на эмбеддингах:
1. Семантическая схожесть ≠ фактическая релевантность (слова те же, смысл другой)
2. Не учитывает "логические операции" в запросе ("и", "не")
3. Не умеет делать промежуточные шаги (сходить в другой кусок текста, чтобы посмотреть значение аббревиатуры или определение)
4. Ломается на агрегации
"вот тебе посты из канала, проанализируй слабые и сильные места автора"
→
найдет посты, где я автор сам что-то пишет про посты/канал и сильные/слабые места. Например, обзор чужого канала.
5. Короткие пользовательские запросы отличаются от длинных чанков документации. И по длине, и по формулировкам
6. Плохо работает с таблицами
———
Запрос пользователя:
"Какие отделы нашей компании, кроме отдела продаж, не выполнили KPI в последнем квартале?"
Догадаетесь, в чем будет проблема с эмбеддингами?
- "Отчет по итогам квартала: Отдел продаж блестяще выполнил KPI, показав рекордный рост!"
- "План на следующий квартал: всем отделам компании, включая отдел маркетинга, поставлена задача выполнить KPI."
- "В последнем квартале отдел разработки успешно выполнил все поставленные KPI."———
Лечим симптомы (все еще эмбеддинги)
:1. query rewriting/expansion и/или
Instruction Awareness2. Векторный поиск по
саммари чанков, а для генерации ответа использовать их
полный текст
3. Можно делать не просто саммари чанков, а генерировать возможные вопросы по ним и искать уже по вопросам
4. Добавлять текст соседних чанков на этапе Generation
5. reranking
6. Препроцессинг документов с сохранением структуры (marker-pdf, docling, unstructured)
———
Лечим причину:1. Не используем эмбеддинги
2. В качестве search engine берем легковесную LLM. Прогоняем по страницам документа и выдаем им true/false в зависимости от релевантности вопросу (запросы к разным страницам идут в параллель => работает быстро)
3. Вместо 2 совсем наглеем и передаем в запросе сразу сотни страниц – просим выписать только номера релевантных (держим до 200-300к токенов на запрос, даже если окно 1м)
4. gemini-2.5-flesh круто с этим справляется, а главное – нативно кушает pdf без препроцессинга. Понимает таблицы и картинки 🔥
5.
Релевантные страницы передаем в ризонинг модель для Generation как в "классическом RAG"
6. Не забываем делать Structured Output c промежуточными шагами размышлений
———
Альтернативы (Для более структурированного поиска)
Для примера возьмем книгу рецептов и вопрос "что приготовить на ужин, если у меня есть лапша, фарш и 20 минут времени"
1. Сначала для каждого рецепта вычленить структурированные поля (ингредиенты, время приготовления, тип блюда – первое, второе, десерт и т.д.)
2. Сложить в SQL все извлеченные данные
и исходный текст рецепта
3. Использовать text2sql, чтобы по запросу пользователя создавать search query
4. В Generation идут
исходные текста рецептовВ реальности обычно создаем разные таблички в бд, потому что данные бывают разных типов с разными параметрами
В более простой версии этого подхода, тупо назначаем LLMкой "теги" разным кусочками текста и фильтруем по ним, а потом делаем классический RAG или сразу передаем в LLM
———
Общие мысли и ответы на вопросы- Data preparation is a king
- Промежуточный вызов LLM – хороший reranker, даже для embedding-based подхода
- Всегда пытаемся передать ссылки на исходные блоки инфы. Увеличивает надежность и
тестируемость. Высший пилотаж – показывать не только страницы, но и конкретные строчки, на которые опиралась модель
- Иногда нужно вообще убрать этап Generation и просто показывать найденные куски информации
- LLM retrieval стоит сильно дороже, чем эмбеддинги, но для большого числа кейсов это ок. 1 доллар – все дешевле, чем пару часов сотрудника с зп в десятки баксов в час
Доп материалы:Ссылка на сам эфир от @ (больше деталей, примеров и интересных вопросов от слушателей. сначала разгоняюсь, но потом жара начинается)
-
Instruction Awareness-
Промежуточные шаги размышлений в Structured Output-
Кормим pdf в gemini через openai-compatible api
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
25 August 2025 10:15
ИИ внутри компании
У нас постоянный запрос на ИИ внутри компании из-за конфиденциальности и закона о персональных данных.
Но как закупать оборудование и почем в нынешних условиях и как рассчитать количество запросов и мощностей.
Вот тут к нам примет Марат Рахимов — директор ИИ трансформации крутого застройщика Mr Group.
Расскажет, как со всем этим разбирался и как получилось)
В четверг в 17-00 у нас на канале — ставьте нотифай или добавляйте в календарь https://calendar.app.google/M8dPNdFRCQJEDuJUA )
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
14 August 2025 14:00
Стартуем "RAG без ембедингов" здесь https://meet.google.com/cub-fqao-sjb (трансляция в тг не работает, но оставили для того, чтобы нотификейшн был).
Вопросы спикеру тоже тут)
Читать полностью…
R77 AI | Кейсы в ИИ (от выпускников МФТИ)
07 August 2025 10:11
RAG без ембедингов
В следующий четверг у нас Николай Шейко из офигенного канала про AI "AI и грабли".
Вот что расскажет:
"В индустрии давно укоренилось мнение, что Retrieval-Augmented Generation (RAG) = эмбеддинги. Но что, если поиск по эмбеддингам — не всегда лучшее решение?
В этом вебинаре я расскажу, как можно строить RAG без единого эмбеддинга, используя только легкие LLM с structured output. Например, я запускал LLM поверх сырого контента (вроде PDF), разбивал его на страницы и делал классификацию релевантности прямо в модели. Такой способ давал ощутимо лучшее качество, особенно когда нужна агрегация".
Мы обсудим:
• Почему эмбеддинги часто не работают так, как хочется
• Как использовать LLM как search engine без векторных БД
• Что такое structured output и как он помогает
• Кейсы, где подход без эмбеддингов оказался сильнее (вплоть до призовых мест на Enterprise RAG Challenge)
• Когда всё же стоит вернуться к классике с векторками.
Четверг, 14 августа, 15-00)
Ставьте нотификейшн! ура у нас снова разрабская тема)
Читать полностью…
4603