12937
life = curiosity + irreducible noise Whois: https://t.me/boris_again/1652 Лс: @btseytlin
Зная оценку можно понять, как изменить планы и как подстраховаться. Например, можно оценить вероятность поступления на PhD для пяти разных университетов и понять, в сколько из них надо подать документы для успешного прохождения хотя бы в один.
Пример оценки по Ферми был у меня в канале.
А как вы принимаете решения? Какими подходами вы пользуетесь?
https://youtu.be/5zG6QNaVXMY
Обожаю этот канал: 3Blew1Blown
https://www.learnancientrome.com/did-ancient-rome-have-windows/
Читать полностью…
Ближайшее время вместо контента будут только мемы (хотя никаких обещаний, вдруг будет вдохновение)
Читать полностью…
Как получить случайный сэмпл ютуба и экстраполировать из этого разные интересности? Хороший пост:
https://ethanzuckerman.com/2023/12/22/how-big-is-youtube/
Старбакс никогда не разочаровывает попытками написать мое имя. Хотя казалось бы не самая сложная задача.
Мой топ фаворитов:
3. Morris
2. Warris (ееее игра престолов)
1. Widis? Wldis? Wudis????
Изучил, кто получил премию Яндекса за достижения в области искусственного интеллекта и за какие работы.
Yandex ML Prize вручают уже в пятый раз. Премия присуждается за наиболее значимые научные работы в области распознавания и синтеза речи, компьютерного зрения, информационного поиска, обработки естественного языка и генеративных моделей. В этом году есть новые номинации "Первая публикация" и "Преподаватели ML". Совет премии выбирал среди 200+ заявок и отобрал 11 лауреатов..
Давайте разбираться, кто получил премии и чем они знамениты. К сожалению Яндекс не выкладывает за какие конкретно статьи люди получали премии, лишь обозначает направления работы. Поэтому я для каждого человека приведу свою наилучшую догадку. Так же внимательнее посмотрим на аффилиации. Гугл нам в помощь.
1. Первая публикация. Никита Гущин, Айдар Булатов, Александр Никулин.
Никита Гущин, Сколтех: "работа посвящена разработке новых генеративных моделей на основе решения задачи моста Шрёдингера;". Я не нашел саму публикацию.
Айдер Булатов, AIRI: Recurrent Memory Transformer. Трансформер аугментированный доступом к памяти.
Александр Никулин, Тинькофф: CORL: Research-oriented Deep Offline Reinforcement Learning Library.
2. Исследователи.
Айбек Аланов, ВШЭ, AIRI: HiFi++: a Unified Framework for Bandwidth Extension and Speech Enhancement. Обработка речи.
Антон Разжигаев, Сколтех, AIRI: A System for Answering Simple Questions in Multiple Languages. QA система на основе knowledge graph.
3. Молодые научные руководители.
Владислав Куренков, Тинькофф: снова CORL и другие работы на тему RL. Руководитель Александра Никулина.
4. Научные руководители.
Павел Браславский, Назарбаев Университет, ВШЭ: работы про LLM и обработку языка, руководитель Антона Разжигаева.
Илья Макаров, AIRI: очень много разных работ даже только за 2023 год. Мой научный руководитель из магистратуры 🙂
5. Преподаватели ML.
Cергей Николенко, СПбГУ. Множество работ, из примечательного Intrinsic Dimension Estimation for Robust Detection of AI-Generated Texts (NIPS2023) и Efficient Grammatical Error Correction Via Multi-Task Training and Optimized Training Schedule. Есть статья в википедии.
6. Исследователи Яндекса.
Александр Безносиков, Yandex Research ML Residency (не путать с просто Yandex Research): On biased compression for distributed learning
Денис Кузнеделев, Сколтех, Yandex Research ML Residency. Я нашел работы только за 2021 год. Останется загадкой.
Подводя итоги можно только порадоваться за то, что у нас делают такой крутой рисерч, а также за то, что он высоко ценится. Также можно сделать вывод, что надо поступать в Сколтех и идти работать в AIRI 🙂
Плюсы путешествий: слушаешь офигительные истории.
Человек рассказал, как встретил пожилую китаянку, которая пережила великий голод. Спросил ее, пришлось ли ей прибегнуть к каннибилазиму. Она сказала: "на вкус как свинина"
Корректировка. Лаида (/channel/tech_priestess) указала мне, что концепция триединого мозга, где только неокортекс отвечает за думалку, является отвергнутым наукой мифом. Был неправ.
Чтож, вернее было бы выше говорить в терминах System I и System II Канемана.
https://en.m.wikipedia.org/wiki/Triune_brain
Разберем пару контраргументов.
1. Если ты можешь выбрать любую функцию полезности, ты просто не подгонишь её под свой gut feeling. Будешь поступать как раньше, но рационализируя это. Разве это не максимально субьективно?
В принципе ничто не мешает так сделать, это цена универсальности системы. Однако на практике это довольно сложно. Например, попробуйте сделать над собой этот эксперимент. Садимся и пытаемся разобраться, чего в мире должно быть больше. Далее пробуем натянуть на это какие-то рандомные правила. Почти наверняка возникает конфликт между "жопой чую" и выводами. Потому что построение функции предполагает много сравнений одного с другим, то есть много вопросов: что важнее?
Главный же аргумент эмпирический. Я пока не встречал ни одного уличного утилитариста, который бы так поступал. Уличные утилитаристы это реальные люди из реального мира, которые глубоко подумали над своими ценностями и поступками, сделали выводы и стараются им следовать (часто ошибаясь как и все мы).
2. Что мешает придти к какой-то рандомной функции, например возложить всю важность на жизнь тараканов?
Опять же, в принципе ничего. Но попробуйте так сделать и потом жить в соответствии с этим. Удачи. В реальном мире люди так почему-то не делают. Как правило люди сначала подгоняют систему под интуитивное представление о морали (убивать плохо, воровать плохо, быть вежливым хорошо), а затем ищут в этой системе дыры и думают как сделать лучше. Отличие уличного утилитаризма от других систем здесь именно в процессе поиска нестыковок и создания новой системы.
Люди всё ещё могут придти к какой-то ебнутой функции полезности. В конце концов все злодеи истории считали себя хорошими парнями. Но с этим ничего не поделаешь, ни в этой этической системе, ни в какой-либо другой.
3. Задавать вопросы можно бесконечно, ты никогда не найдешь настоящую функцию полезности.
Здесь мне на ум приходит в качестве аналогии трюк из математики, который делает всё машинное обучение возможным. Пусть есть очень сложная функция из реального мира. Мы никогда не узнаем её точный вид. Однако мы можем сделать свою простую функцию и попытаться приблизить её на тех наблюдениях, что у нас есть. Что получается? Оказывается, что можно сделать настолько точную аппроксимацию, что она будет практически неотличима от реальности. Это будет отличная и точная модель реального мира, на основе которой мы можем делать выводы. Благодаря такой хитрости у нас есть ChatGPT и прочие прелести. Это работает.
4. Есть четкое определение утилитаризма, а это не утилитаризм.
Мой ответ: я не знаю определения лучше. Есть utility function, чем это не утилитаризм? Вероятно стоит их как-то разделить. Пока гуманитарные умы не придумали чего-то получше я буду называть их классическим и уличным утилитаризмом. Обязательно сообщите, когда придумаете что-то лучше.
Вообще спор о терминологии кажется мне абстрактной мастурбацией. Приходишь ты такой в монастырь в горах Непала, а там монахи практикуют свой вариант Кун-Фу. И ты говоришь им: но нет, в моей книге написано каким должно быть Кун-Фу, а то, что вы делаете, отличается, значит ваше Кун-Фу бред. Если ты получаешь пиздюлей важно ли тебе, правильное у них Кун-Фу или нет? Все упирается в эмпирику и проверку реальным миром.
5. Этот подход холодный, рациональный и нечеловеческий.
Если такое приходит на ум, думаю стоит задать себе много вопросов. Например: какой подход достаточно "человеческий"? Это вопрос того, какими словами он описан, или можно выделить какое-то свойство "человечности"? И, главное, мета-уровень: откуда взялось моё представление о том, каким должен быть процесс поиска этической системы?
Если слово "рациональный" какое-то ругательное, то пора выбросить всю литературу по экономике и философии. Попробуйте вывернуть наизнанку и придумать "эмоциональную" этическую систему, если так хочется. Не знаю, возможно ли это в принципе, ведь только наш неокортекс ("рациональная" часть мозга) способен думать о том, что хорошо, а что плохо. У "эмоциональной" части вообще нет таких концепций. Или каких-либо концепций. И даже концепции концепций.
#личное
Непостоянная рубрика, где я разбираюсь, как жить эту жизнь.
# Панк-рок этики: уличный утилитаризм
Недавно меня спросили: какая у тебя функция полезности? Что ты оптимизируешь по жизни?
Вопрос для рационалистского робота? Или для человека, который не боится брать ответственность за свои поступки?
Большинство людей следует одной этической системе. На английском языке её называют "gut feeling", а на русском гораздо точнее: "жопой чую". Это сборная солянка из норм окружения, пропаганды и того, что кажется естественным нашему объзянно-рептилоидному мозгу. В результате получается размытый набор правил, от "воровать нехорошо" до "быть геем плохо", многие из которых противоречат друг другу. Все мы в какой-то степени этому подвержены и я в том числе. Более того, такая система почти всегда работает неплохо. Что насчет альтернатив?
Среди прочих есть одна, прямиком из подворотен, без определения и термина. Назовём её уличным утилитаризмом.
Утилитаризм это конкретная этическая система, о которой вы можете прочитать на Википедии или в трудах великих. Идея в следующем: делайте то, что максимизирует всеобщее благо. Это консеквенциальное течение: оно оценивает поступки с точки зрения результата. Делайте такие поступки, чтобы результат приводил к максимальной utility (русск. полезность), где utility это счастье для людей. Следуя за этим правилом можно сделать много хорошего.
Но есть проблемы. Во-первых, классический утилитаризм требует выбрать одну функцию полезности для всех и дружно следовать ей, но никто не может договориться о том, что такое всеобщее благо. Во-вторых, краевые случаи утилитаризма приводят к бесчеловечным поступкам. Классический пример. К доктору на прием приходит пациент. У доктора пять больных людей, которых может спасти трансплатнация органов. Согласно книжному утилитаризму доктор должен распилить нового пациента на органы и спасти пять человек. В этой системе цель всегда оправдывает средство. Более современный пример: Sam Bachman-Fried и FTX. Известно, что этот человек был настоящим утилитаристом и считал, что любые криптоскамы оправданы, если ты пускаешь заработанные деньги на эффективную благотворительность и технологии необходимые для выживания человечества. Все мы знаем, как это закончилось.
Книжный утилитаризм это интересно. Однако в плоскости приземленной жизни, а не философских рассуждений, он крайне редко применяется.
Однако во дворах и подъездах есть утилитаристы. Но их утилитаризм отличается и не страдает от описанных выше недостатков. Часто эти люди мало отличаются от нас, но многие из них делают странные вещи. Например, отдают все лишние деньги на благотворительность. Изучают как в долларах оценить спасение человеческой жизни и узнать, какие организации делают это лучше всех. Беспокоятся о таких далеких от повседневной жизни вещах, как вымирание человечества. Уличный утилитаризм.
Суть в следующем: выбери для себя функцию полезности и максимизируй её. Вместо того, чтобы пытаться найти универсальное всеобщее благо, подумай над тем, что для тебя хорошо, как это измерить и что ты можешь сделать, чтобы этого стало больше.
Как выбрать функцию полезности? Возьмем пример: максимизировать счастье и минимизировать страдание. Возникают вопросы. Чье счастье максимизировать? Твоё, твоих близких, жителей твоей страны, всех людей вообще? Только живущих ныне людей? Включая следующее поколение, несколько поколений вперед или вообще всех людей в будущем? А может быть не только людей, но и животных? Какие животные являются достаточно разумными, чтобы считать, что они могут страдать? Если человек это одна едицина счастья, то сколько единиц счастья у животного? Насколько люди важнее животных?
Казалось бы бесконечное множество вопросов делает выбор невозможным, а систему бессмысленной. Однако всё наоборот. Эта этическая система заставляет задуматься о своих ценностях, задавать себе вопросы и взвешивать разные компоненты относительно друг друга в явном виде.
Встретил эффективного альтруиста, который подавался на эту программу:
https://www.constellation.org/programs/astra-fellowship
На собеседовании его спрашивали:
1. Оцените вероятность того, что мы в симуляции
2. Если мы в симуляции, что мы должны делать иначе по части филантропии? (Ответ "ничего" был неправильный)
3. Представьте, что в 2024 произошел апокалипсис. Опишите ситуацию: почему и как это произошло.
А вы говорите литкод сложный
Мне кажется, или в последнее время Тинькофф обходит всех остальных по рисерчу? И RL, и NLP, и CV. Или у них просто PR лучше, чем у остальных?
Читать полностью…
# Оптики для принятия решений
Известен феномен мудрости толпы: если попросить сотню людей что-то оценить, то усредненная оценка будет сильно точнее, чем оценка каждого человека в отдельности. Это происходит из-за того, что предсказания похожи на нормальное распределение: случайные оценки как бы имеют разный знак и исключают друг друга, а оценки содержащие сигнал суммируются. Этот феномен широко используется в машинном обучении при ансамблировании.
В книге Superforecasting (про нее у меня был пост в канале) автор исследовал людей, которые значительно лучше остальных прогнозировали события в мире. Оказалось, что эти люди часто применяли такой прием: рассматривали вопрос используя несколько разных подходов, а затем аггрегировали результаты. То есть эти ребята эмулировали мудрость толпы у себя в голове. Мы тоже можем использовать такой трюк!
Передо мной сейчас стоит очень сложный выбор. В таких случаях я рассматриваю вопрос с помощью разных оптик. Это небольшие модели, которые подсвечивают разные аспекты ситуации. Решил перечислить их тут в явном виде. Буду приводить примеры в основном про выбор работы.
1. Геймер мин-максер.
Представим, что с текущего момента за вашего персонажа играет геймер, который любит все оптимизировать. У него нет эмоционального вовлечения в ситуацию. Ему не важно какие действия ощущаются как правильные, а какие нет, или что о нем подумают, или насколько ему будет трудно. Его волнуют только результаты. Например, если речь о работе, геймер мог бы пытаться заработать как можно больше денег за как можно меньшее время. Вопрос: какие действия он бы предпринимал?
2. Чуйка.
Противоположность оптики выше. К какому варианту склоняется моё внутреннее ощущение, если отбросить весь расчет? Что кажется правильным?
3. Худший/средний/лучший сценарии.
Для каждого варианта выбора представляем три реалистичных сценария. Как правило нас интересует найти вариант, где худший сценарий достаточно неплох, а лучший очень хорош. Это признак того, что возможная потеря маленькая, а возможный выигрыш очень большой.
Важно, что в данном случае нас интересует не худший сценарий, а реалистичный худший сценарий. Пусть вы думаете, какую работу выбрать из трех офферов. Худший сценарий это, например, если в ваш дом попадет метеорит и вы умрете, но для принятия решения это бесполезно рассматривать. Худший реалистичный сценарий это, например, что работа окажется ужасной, но вы застрянете на ней на несколько лет. Аналогично с лучшим сценарием.
4. Гэмблинг.
Думаем в терминах ставок и выгрышей. Чем ты рискуешь? Что ты можешь проиграть и с какой вероятностью? Что ты при этом можешь выиграть?
5. Сложный процент, нелинейный рост.
Какой вариант дает накопительные эффекты? Стараемся избегать вещей, которые приносят линейный рост, и предпочитать вещи, которые “реинвестируются”. Так, работа программистом в банке скорее всего сулит медленный стабильный рост без особых сюрпризов. Работа в стартапе может круто прокачать карьеру в неожиданных направлениях, но несет гораздо больший риск.
6. Влияние на личность.
Каким человеком я стану при данном выборе?
Например, магистратура в ВШЭ сильно изменила меня как человека. Значит за два года может произойти серьезная трансформация взглядов и мироощущения.
Примеры. Работа в гэмблинге по раздеванию зависимых людей может сделать вас циничнее. Работа в окружении счастливых людей может научить вас быть счастливее. PhD может сделать вас самостоятельнее (и суицидальнее).
7. Бектрекинг, смореть с конца.
Представляем конечную точку. Например, вы прокачались с мидла до синьора. Задаем вопрос: как это случилось? Идем с конца в обратную сторону до текущего момента.
8. Оценки по Ферми.
Если вы целитесь в какой-то конкретный результат можно спрогнозировать его вероятность. Оценки по Ферми это удобный инструмент: раскладываем проблему на компоненты, оцениваем их вероятности используя доступную информацию или догадки, аггрегируем. Например, если вы поступаете на PhD, то можно оценить вероятность пройти отбор, начиная с бейзлайна: acceptance rate. Далее оценку можно делать более точной.
Всех с наступающим новым годом!
Согласно статистике телеграма за год этот канал вырос на 4500 подписчиков. Спасибо, что вы отдаете мне немного своего драгоценного внимания. Заметил, что появился соблазн к самоцензуре: меньше писать про личное и больше про полезное и профессиональное. Мой внутренний оптимизатор говорит, что канал превращается в маленький бизнес, а бизнес надо вести совсем по-другому. Я буду сопротивляться искушению насколько возможно, потому что канал в первую очередь существует для души и растет благодаря этому. Надеюсь в будущем году поставлять ещё больше интересного и полезного контента.
Все эти мемы про "я попрошу у деда мороза пощады" отчасти про меня. По сравнению с предыдущими годами этот выглядит довольно блекло: всё понемногу росло вверх и улучшалось, но в целом никаких радикальных изменений. Тоже неплохо, но мне такого мало. К новому году подхожу довольно растреянным: впереди сплошные развилки во всех сферах жизни. Однако это означает, что в новом году у меня будет тройная порция изменений.
Всем приятного нового года, надеюсь и у вас будет много изменений в лучшую сторону.
Невероятно качественный пост на тему того, стоит ли нам ожидать достижения AGI через масштабирование текущих ЛЛМок ли нет. Обычно такие посты делаются в духе "я уничтожаю своего оппонента-дебила своими непробиваемыми аргументами". Но здесь автор приводит сильнейшие аргументы обоих сторон спора, со ссылками и пруфами. Мастрид.
https://www.dwarkeshpatel.com/p/will-scaling-work
Соврал, вот ещё немного контента в уходящем году.
Диффузионные генеративные модели самое хайповое, что сейчас происходит в компьютерном зрении. Однако я до сих пор в них особо не погружался.
Посмотрел доклад Сергея Овчаренко, руководителя группы нейросетевых технологий компьютерного зрения Яндекс Поиска, про то, как делали YandexART. Это та самая диффузионная модель, которая используется в Шедевруме.
Очень крутой верхнеуровневый доклад без формул.
Пройдемся по основным темам.
## Данные
Использовали Яндекс Картинки (~10^11 изображений) и поисковые запросы. Главная проблема: фильтрация датасета. Разложили задачу на три компоненты: качество изображения, качество текста и релевантность текста изображению.
На многих уровнях используют небольшие классификаторы и инхаус модели. Например, с помощью VQA классификатора убирают некачественные изображения, а с помощью инхаус CLIP-like модели фильтруют пары текст-изображение по релевантности.
Отдельно хочу отметить: рассказывают как выбирали порог оценки релеватная пара или нет. Ведь условный CLIP позволяет получить расстояние между эмбеддингами пары, например 0.3. Но надо как-то превратить это в вердикт "релевантная пара" или "нерелевантная". Соответственно нужен какой-то порог и его поиск это всегда танцы с бубном. Мне кажется ребята нашли элегантное решение.
## Обучение
Три этапа: pretraining, supevised finetuning, reinforcement learning. Немного рассказывают про свой RL: что было очень сложно и что использовали разметку ассесоров для реворда.
## Оценка моделей
Оценка генеративных моделей очень нетривиальная задача, т.к. качество результата субъективно. В данном случае использовали оценку ассесорами, которые размечали три аспекта: релевантность промпта и изображения, дефектность, красота.
Для сравнения разных итераций модели использовали side-by-side: показывали слева генерацию первой, справа генерацию второй, и ассесору нужно было выбрать, какая картинка лучше. Далее статтестами проверяли, являются ли генерации новой модели значимо лучше.
Изначально включил в пост много деталей про используемые модели, но получило слишком длинно. Так что советую посмотреть полный доклад, вот ссылка.
https://www.gapminder.org/news/100-positive-news-from-2023/
Читать полностью…
Откопал старые дневники. На фото примерно половина от общего числа.
Я уже писал, что занимаюсь практически ежедневным журналированием примерно с 2017 года. Я уверен, что наша идентичность это история, которую мы сами себе рассказываем. Интересно перечитывать и наблюдать, как эта история трансформировалась.
Насколько я вижу большая часть внутренних вещей не меняется в значительной степени. То есть характер, ключевые черты и проблемы на удивление стабильны. Независимо от потрясений, путешествий, саморазвития, терапии, психиатрии, прочитанных книг, рискованных экспериментов и даже взросления. Убеждения меняются о-о-очень тяжело, даже если ты систематически рефлексируешь. Что означает, что над ними стоит работать ещё усерднее!
Невольно задаешься вопросом: о чем говорят все эти люди, у которых каждый год невероятный успешный личностный рост? Думаю меня давно выписали из тусовки успешного успеха, поэтому можно спокойно такое спрашивать. При этом я целиком за то, чтобы постоянно развиваться. Однако есть ощущение, что наш социум, особенно в моем пузыре, создает сильно искаженную картину, заставляя нас постоянно испытывать FOMO.
Пока что мои наблюдения и эмпирический опыт показывают, что у людей резко меняется жизнь к лучшему только если у них изначально все было очень плохо. Если алкоголик бросает пить то быстро выходит из большого минуса к норме. Обычная регрессия к среднему. Дальше начинается медленная и кропотливая работа.
А как это работает у вас?
Очень годный пост про оптимизацию трансформеров
https://vgel.me/posts/faster-inference/
Иногда я публикую рекламу, но только того, что посоветовал бы бесплатно. Сейчас сам прохожу Симулятор ML и готов рекомендовать его продолжение. Далее прямая речь.
Популярные курсы в ML
Если вы уже многое повидали в ML и хочется качаться дальше — приходите на Hard ML
Это курс от топов рынка в машинном обучении, который поможет вам вырасти до уровня senior специалиста
Что классно: теперь курс можно не покупать целиком, а по отдельным блокам, если вам нужно прокачать конкретные скиллы
Что есть внутри: блоки ранжирование и матчинг, динамическое ценообразование, uplift-моделирование, продвинутое А/В-тестирование, сценарии деплоя ML-сервисов и совсем недавнее обновление — блок рекомендательные системы
До конца года на курс действует крутое предложение: купив 3 блока можно приобрести четвёртый со скидкой в 50%
Успевайте записаться
Реклама. ООО "Карпов Курсы". Erid: LjN8JyM53
https://80000hours.org/problem-profiles/risks-of-stable-totalitarianism/
Читать полностью…
Напоследок: хотелось бы высокомерно заявить, что мне этот мир абсолютно понятен и я сам идеальный утилитарист. Но пока не выйдет.
Одно дело понять, что для тебя важно (что уже сложно), и совсем другое реально действовать в этом направлении.
На данном этапе я скорее наблюдатель. Все ещё выясняю свои предпочтения. Пока в основном забочусь о себе и близких, что не совсем в соответствии с моими представлениями о полезности. Например, был бы ближе к идеалу, если бы донатил больше. Пока что самое альтруистичное, что я сделал, это прогнозирование эффектов COVID B.1.1.7 в Москве и попытка предупредить общественность о новой волне заражений.
Однако я хотя бы чувствую, что свои представления о правильном я выбрал сам, и могу к ним стремиться.
Вывод: ты можешь сам сконструировать свою функцию полезности. Можно взять своё счастье с большим коэффициентом, счастье близких с коэффициентом поменьше, включить немного счастья всех людей и даже благосостояние животных. Добавить ограничения на экстремальные случаи, типа примера с доктором и пятью пациентами. Пример ограничения: я включу в свою функцию полезности долговременное влияние на общество, а значит я не буду резать пациента на органы, чтобы не нормализовать убийство, потому что в долгосроке это принесет сильно больше страданий, чем пять естественных смертей. Можно включить в свою функцию полезности чужую функцию. Например функцию своей жены, чтобы сделать свои поступки сонаправленными с её представлениями о хорошем. Ты можешь сочетать элементы теории вероятностей и теории игр, чтобы учесть в своей системе сложные механизмы реального мира.
Это в корне отличается от деонтологии, где тебе нужно слепо следовать универсальным догматичным правилам. Одновременно эта система гибче классического утилитаризма. Во-первых, она убирает необходимость всем одинаково определять общее благо. Во-вторых, она учитывает сложность жизни: поступки зависят от контекста. Например, в проблеме вагонетки классический утилитарист убил бы одного ради пятерых. Деонтолог сказал бы, что не убьет одного человека и ради миллиарда. Оба поступают как-то странно с точки зрения интуиции. Уличный утилитарист способен не убивать одного ради пятерых, но может рассмотреть убийство одного ради миллиарда.
Можно сказать, что все остальные этические системы это частные случаи уличного утилитаризма. Просто конкретные функции полезности. Эта система обобщает другие, а не противопоставляется им.
Наконец, к главному. Уличный утилитаризм возлагает ответственность на человека и ни на кого другого. Ты не берешь "верные" этические правила из какой-то книги. Тебе необходимо самому сесть и подумать, как ты будешь поступать и почему. И потом жить последствиями. Неизбежно испытывать боль от своих ошибок. Менять свои убеждения в зависимости от результатов.
#искусственный_интеллект
Многие из вас знают, что я по умолчанию не жду ничего хорошего для нас от ИИ (в долгосроке). Кажется, что само собой все не придет к такой жизни, в которой хотелось бы жить, и надо приложить немалые усилия, чтобы иметь шанс на лучшее будущее.
Сегодня услышал про сценарий, который одновременно относительно оптимистичен, реалистичен и не требует нагромождения предположений.
Звучит так: искусственный интеллект развивается, берет на себя все больше функций людей, люди все больше теряют контроль, в конце концов мы просто проигрываем в чисто экономической конкурентной борьбе. Никакого насильственного уничтожения, просто нас замещают более продвинутые существа, а люди в нашем текущем представлении перестают существовать. Happy ending
Все равно конечно считаю, что странно такому не сопротивляться, потому что сценарий пенсионерской смерти мне не кажется пределом мечтаний, но это сильно оптимистичнее других альтернатив и одновременно выглядит возможным если экстраполировать сегодняшнюю ситуацию.
Наши чуваки @vkurenkov и @Howuhh выиграли Yandex ML Prize (ex премия Сегаловича)!
Студенты Влада в этом году опубликовали 4 статьи на A* конференциях, за что он выиграл в номинации "Молодые научные руководители". А Саша был одним из этих студентов, поэтому победил в треке "Первая публикация".
Поздравляем их с этим! Желаем больше A* в следующем году 🐊
Учёного, арестованного из-за ошибки ИИ, выпустили из СИЗО. Он провёл в заключении 10 месяцев и успел признаться в убийствах.
Учёный-гидролог Александр Цветков был задержан в феврале 2023 года по обвинению в четырёх убийствах с целью ограбления в 2002 году в Подмосковье. Основанием для ареста стал результат работы ИИ: нейросеть заявила о 55-процентном сходстве Цветкова и фоторобота предполагаемого подозреваемого. Рецидивист Андрей Алёшин, уже осуждённый за вышеупомянутые убийства, опознал Цветкова как своего соучастника.
Вскоре стало известно о нестыковках в деле: во время всех четырёх убийств двадцатилетней давности гидролог находился в экспедиции на Русском Севере, а у подельника Алёшина, по его собственному описанию, имелись татуировки на пальцах рук, которых у учёного никогда не было.
Несмотря на алиби, подтверждённое документами и многочисленными свидетельствами коллег, 50-летний Цветков оставался в СИЗО вплоть до 11 декабря; часть этого срока он провёл в больнице изолятора «Матросская тишина» из-за проблем с сердцем. Ему грозило пожизненное заключение.
Известно, что почти сразу после ареста он дал признательные показания, но затем от них отказался. Его адвокат считает, что учёный оговорил себя под давлением: ему не давали спать и есть. Другие юристы указывают на то, что 55-процентная вероятность совпадения явно недостаточна для того, чтобы установить личность подозреваемого, и следствие совершило ошибку, положившись на технологии.
Цветкова освободили вскоре после того, как о ситуации публично сообщили Владимиру Путину: 3 декабря правозащитник Ева Меркачёва на встрече президента с членами Совета по правам человека рассказала о деле Цветкова и призвала силовые ведомства разобраться с уголовными делами, в которых следствие полагалось на так называемую систему «Искусственный интеллект». Путин согласился с призывом Меркачёвой, а через несколько дней после этого в Замоскворецкий суд поступило ходатайство об изменении меры пресечения от Главного следственного управления СК. Ещё через несколько дней суд отменил арест, и Цветков вышел из СИЗО. Отмечается, что это не значит, что он был признан невиновным.
Ранее в декабре телеграм-канал «ВЧК-ОГПУ» сообщал, что ветеран ФСО и бывший сотрудник федерального охранного предприятия Росгвардии Андрей Слюсарев по какой-то причине оказался в розыскной базе данных под именем некого гражданина Украины, подозреваемого в мошенничестве. Из-за этого система «Парсив», обрабатывающая данные с камер наблюдения, регулярно считывала его лицо соответствующим образом, после чего его начинали преследовать силовики — приходили, помимо прочего, и к нему домой. Требования убрать его фотографию из базы, по информации канала, игнорировали. Во время очередного задержания Слюсарев стал возмущаться и был избит — ему сломали плечевую кость. Проверку базы данных инициировали только после того, как он зафиксировал побои и написал заявление на полицейского.
Фото: пресс-служба Мосгорсуда
#лихое_ярмо
