Интересная публикация смешанной команды из DeepMind и OpenAI про разные подходы к участию человека в обучении машин. Популярное изложение - https://www.theverge.com/2017/6/14/15792818/ai-safety-human-feedback-openai-deepmind ; оригинальная статья для подготовленного читателя - https://arxiv.org/pdf/1706.03741.pdf Мне нравится даже не столько конкретный вывод «при правильном подходе участие человека (причем не обязательно программиста, это могут быть просто люди, способные дать правильные ответы) в обучении машины резко ускоряет процесс и улучшает полученные результаты», а общий подход: к умным обучающимся машинам следует относиться как к коллегам, оптимизировать процессы их обучения и процессы коммуникации с ними. Ровно эта же идея сегодня не раз повторялась разными людьми на конференции Transform.AI в Париже (где я сейчас работаю и потому не очень много пощу в канал): машины уже не слуги, но и господами не станут, нет в будущем этого типа отношений. Отношения будущего - партнерские разных типов, машины и алгоритмы трансформируются в коллег и соавторов во все более широком спектре задач.
Читать полностью…Пока некоторые технологические стартапы изучают возможность улучшить нашу способность думать различными инженерными способами стимуляции мозга, в ведущих технологических компаниях предпочитают старые естественные способы (медитацию и практики осознанности) - хотя и с помощью современных приложений. И, конечно же, изучают статистику.
Индустрия тренингов осознанности и медитации в Штатах имеет оборот более $1млрд, самое популярное приложение для медитации объединяет более 2 млн. пользователей, а его логи регистрируют 50 000 часов медитации ежедневно.
Для скептиков в статье есть ссылки на исследования психофизиологов, да и сам текст почитать интересно.
https://www.inc.com/marissa-levin/why-google-nike-and-apple-love-mindfulness-training-and-how-you-can-easily-love-.html
Со всем этим массовым ажиотажем вокруг искусственного интеллекта, умных роботов, автоматизации умственного труда и прочей четвертой промышленной революции, становится все важнее заниматься популяризацией, нравится это или нет. Потому что если оставить это занятие тем, кто вплотную каждый день с машинным обучением не работает сам, - то от результатов уши вянут. И совершенно бессмысленные страхи рождаются. В итоге даже забавно становится придумывать, как для разных аудиторий переделать рассказ. Вчера вот пару часов в Сколково тамошним MBAшникам рассказывал с картинками. А сегодня опубликован ролик с моим очередным подходом к снаряду на популярном YouTube канале, на этот раз на SciOne. Вот как раз для просмотра на выходных: там почти 14 минут :)
https://www.youtube.com/watch?v=NDUE4boNcyM
Да, разные опытные товарищи подтверждают, похоже огромный список внутренних систем российских банков залетел под блокировальную машину РКН. И не только они, заблокированы многие адреса верификации 3D Secure, что сильно затрудняет так же платежи в интернете.
Повторюсь, одна из самых больших проблем текущей ситуации не в самих блокировках, а в том, что эти блокировки открывают совершенно новые углы для атаки на многие сервисы. Я вот сейчас сходу знаю, что сделать чтобы заблокировать работу почти всех публичных WiFi точек на iOS устройствах. Ну и как прекратить работу всех госуслуг тоже. И это только то, что я сейчас придумал за 5 секунд.
Пока разнообразные медиа-теоретики обсуждают роль интернета как глобального уравнителя, дающего всему миру единые возможности доступа к сервисам и контенту, практики инфраструктуры наблюдают совсем иную картину. Компания Cisco, которая лучше любой другой знает структуру и особенности магистрального трафика в мире, отмечает неравномерный рост его доли, приходящейся на CDN (content delivery networks). Основная масса пользователей о них даже и не слышала, но если если б не CDN, мы бы не смогли насладиться, например, стримингом видео высокого разрешения на сервисах американских компаний (не хватило бы никаких оптических трансатлантических кабелей, чтоб обслужить европейских зрителей с американских серверов). Так вот, Cisco отмечает, что в богатых странах на CDN приходится уже около 90% трафика, а где-нибудь в Африке - всего 30. Частным компаниям невыгодно развертывать CDN в тех странах, где мал платежеспособный спрос на платные сервисы. Но страдают в итоге все сервисы, включая и бесплатные. И дальше будет хуже: голосовые интерфейсы, например, требуют быстрой связи для обработки речи на сервере, поэтому кое-где будут работать отвратительно. Так что с равенством, уже который раз в истории, возникли серьёзные проблемы.
https://qz.com/1001569/the-cdn-heavy-internet-in-rich-countries-will-be-unrecognizable-from-the-rest-of-the-worlds-in-five-years/
В последнее время западная пресса довольно сурово ополчилась на технологических гигантов: и неравенства там слишком много (гендерного и расового), и мировые проблемы медленно решают - Facebook до сих пор не победил hate speech, что за безобразие. Понятно, почему недавно массовые восторг и умиление сменились на критику: концентрация капитала (и власти, соответственно) в руках технологических компаний впечатляет. Десять лет назад топ-5 в технологиях (Apple, Alphabet, Microsoft, Amazon, Facebook) стоили в сумме "всего" $577 млрд. Теперь - $2,9трлн, а чистая их прибыль за 2016 в сумме $96млрд. Известно, что власть развращает, и поэтому правильно не позволить этим компаниям зарваться. Но полезно и оглянуться назад, вспомнив, кто раньше правил миром. Банки, нефтянка, табак, автопром... это они, что ли, были морально выше и достойней хайтековых компаний?
На их фоне техноэлита выглядит не как тиран, дорвавшийся до власти, а как подросток, которому вдруг перепали лишние деньги. И часть этих денег он тратит вполне по делу и благородно, хотя местами дурит.
Это не единственная удачная метафора в любопытной статье о новом поколении акул мирового бизнеса - которые уже не очень-то и акулы.
https://medium.com/future-crunch/tech-companies-are-like-teenagers-not-tyrants-8e42b3c424aa
В Москве установили автомат по продаже лайков и подписчиков в инстаграме. Вот уж киберпанк, который мы заслужили.
Оригинал: https://www.instagram.com/p/BU99HonAEPy/
Помните, некоторое время назад была в моде игрушка pic2pic, обученная на котиках: рисуешь линиями кота, а нейросеточка генерит тебе его фотореалистичное изображение. Ну, т.е., реалистичность результата сильно зависит от таланта художника: если нарисовать криво, косо и с глазами не там где надо, то и получающаяся фотка будет изображать нежизнеспособное страшное животное.
Теперь эту сеточку натренировали на портретах людей. Карандашный набросок ученика художественной школы действительно превращается в портрет. Мои каракули - в жутковатого зомбака. Можно знатных монстриков генерить. Но сервис периодически тормозит, сообщает, что нет связи с сервером: видимо, немало народу резвится.
Авторы заметки, кстати, зря глумятся на сеточками вообще: не только классифицировать простые образы они умеют, как мы знаем.
https://motherboard.vice.com/en_us/article/nightmare-hellface-generator-is-cutting-edge-machine-learning
Статью по ссылке полезно прочесть не как критику Эрика Шмидта, который куда-то там опоздал, а как ещё одно свидетельство нашей постоянной недооценки технологической мощи Китая; не как очень производительного копировального устройства, а как самодостаточного глобального игрока с кучей собственных разработок в передовых и сложных областях.
Да и насчёт копирования Гриша @bobuk на днях писал у себя в @addmeto:
"Отдельно надо упомянуть китайскую модель познания мира - через копирование и улучшение. <...> Я почему-то уверен, что если сейчас заставить играть AlphaGo vs. Tencent FineArt - китайцы имеют хорошие шансы на победу. "
Вот и в Wired пишут про то же: много где китайцы имеют отличные шансы на победу, если вдруг заставить соревноваться их технологии с американскими или нашими аналогами.
Затянувшийся игнор этого обстоятельства может привести к печальным последствиям
https://www.wired.com/2017/06/ai-revolution-bigger-google-facebook-microsoft/
Вчера побывал на открытии майкрософтовской DevCon School: в Digital October в Москве прошел интенсив для разработчиков «Практическое введение в нейронные сети и глубокое обучение». Активная заинтересованность аудитории очень понравилась :) У меня на эту тему регулярно вопросы в личке - так что хотя канал у меня не гиковский, все-таки поделюсь ссылкой на выложенную полную запись интенсива (это 9 часов ;)):
https://www.youtube.com/watch?v=M3hBC-svNDQ
А теперь в продолжение вчерашней темы про музыку, сгенеренную нейросеточкой под творческим руководством Вани Ямщиков и Лёши Тихонова. В основе всей этой красоты лежит не просто технология, а довольно серьёзное научное исследование и сравнение нескольких методов управляемой генерации музыкальных произведений. Ребята описали это в глубокой статье, через которую продерется не каждый. Но даже далекий от проблем машинного обучения человек может порадоваться научной публикации, вводная часть которой начинается словами: "A rapid progress of artificial neural networks is gradually erasing the border between the arts and the sciences. A significant number of results demonstrate how the areas that were previously regarded as entirely human due to the creative or intuitive character of the tasks transform and give space for the algorithmic approaches."
https://arxiv.org/pdf/1705.05458.pdf
В 9-30 мы начнем онлайн с #yac2017 - не пропустите нетривиальное открытие в 10-00 и следующий за ним секретный доклад. https://events.yandex.ru/events/yac/30-may-2017/
Читать полностью…Вопрос с го закрыт: 3:0, чистая победа и заявление создателей, что AlphaGo больше играть в го не будет, пусть люди сами с собой соревнуются. Что нормально: никто не грустит, что марафонцы не соревнуются с другими средствами доставки срочных сообщений.
Но есть куча практических задач, далёких от игр, где наработки пригодятся. И маркетинг вышел прекрасный, этого не отнять: термин "искусственный интеллект" хорошо зашёл в массы.
https://techcrunch.com/2017/05/27/googles-alphago-ai-is-retiring/
The Economist пишет о тяжкой доле переводчиков в мире развивающихся технологий. Когда-то цена за 1000 слов была $50-100, а в сложных случаях - и 200-500. Но появился интернет и рынок переводов глобализовался. Теперь переводчика ищут не поблизости, а в сети; в итоге цены $13-15 за 1000 слов стали нормой. Но теперь ещё и машинный перевод улучшился благодаря нейронкам, и перевод все чаще сводится к редактуре машинного текста. Конечно, остаются чисто человеческие области: литературно-художественный перевод, политические или какие-нибудь духоподъёмный тексты, где перевод по сути - пересказ с учётом культурного контекста. Но хватит ли этого рынка на всех? И что там будет с ценами, если начнёт расти предложение?
И при этом, традиционно, журналисты-аналитики забывают учесть темпы прогресса. Нейронки ведь не просто научились пристойно переводить. Они продолжают учиться ;) быстро, и ничего никогда не забывая ;) впереди у них - качественный устный синхрон.
http://www.economist.com/news/books-and-arts/21722609-profession-under-pressure-why-translators-have-blues
Тесла удивительно многими способами старается поменять существующий порядок вещей. Вот теперь на неё с возрастающей опаской смотрят страховщики. Как известно, цена автостраховки определяется на основе огромной статистики, накапливающейся годами для разных машин и разных водителей. Но наличие автопилота в Теслах сильно порушило статистику и существующие модели: процент попадания Тесл в ДТП упал на 40% с момента появления первого Автопилота.
Мало того: Тесла уже начала (пока в Гонконге и Австралии) эксперимент с продажей машин, где страховка и обслуживание включены в цену, и у владельца не будет этих дополнительных расходов в процессе эксплуатации (и задачи выбрать себе страховщика). В будущем Тесла хочет так все свои машины продавать.
Несколько крупнейших страховых компаний США в своих отчетах в Комиссию по ценным бумагам еще в 2015 отметили, что стратегическая угроза их бизнесу исходит от самоуправляемых машин. А теперь ещё и бизнес Теслы грозит их просто сделать невидимыми для автовладельцев. Да и не очень нужными. Интересными путями, не всегда прямыми, ходит по экономике этот самый технологический disruption ;)
http://www.businessinsider.com/how-tesla-self-driving-cars-are-changing-insurance-industry-2017-5
На этом ролике я закончу вас мучить Скрябиным, пишущими под него нейронками и открытием YaC-2017. Но именно этот ролик хорош тем, что это не просто запись с конференции, это backstage про репетиции и - самое главное - слова и лица тех, кто реально создал эту музыку: Вани Ямщикова и Маши Черновой. Они не одни этим занимались, конечно, но они возглавляли процесс. ;)
А нейронка, которая обучена музыке, пока бессловесна и интервью не даёт.
https://youtu.be/Q76Nbrk1InA
"Мы отстаём от Запада во многих традиционных индустриях, и поэтому должны попробовать обогнать в развивающихся. И в этом огромную роль сыграет ИИ". Это - кусочек стратегии Китая, и там умеют поддерживать направления, признанные стратегически важными на госуровне. Ну, и масштабы китайские - некоторые города (!) предоставили бюджеты на разработку и внедрение систем машинного обучения на уровне $2млрд/город.
Я, кстати, вполне допускаю после неоднократного общения с китайцами разных уровней и занятий, что за 5-10 лет они спокойно могут стать мировыми лидерами не только в технологиях машинного обучения, но и в объемах их практического внедрения.
http://www.sbs.com.au/news/article/2017/06/10/chinas-bid-beat-worlds-artificial-intelligence-revolution
Штаны умнеют на глазах: вот уже продукт, a не прототип, в который встроены пять датчиков, которые не только детектируют позу занимающегося йогой, но и сообщают вибрацией, насколько точно исполняется асана, какие мышцы работают ней правил но, а какие не совсем. Штаны при этом не собирают привычной информации о калориях или иных количественных характеристиках - они позволяют оттачивать технику. И, я думаю, они недолго будут общаться вибрациями: ещё немного, и они заговорят (дело нынче нехитрое). А потом и тематика выйдет за пределы йоги: интересна будет жизнь в мире общительного и иногда развязно тебя щекочущего белья.
http://money.cnn.com/2017/06/09/technology/gadgets/nadix-wearable-yoga-pants/index.html
У нас с Гришей заметно пересекающиеся аудитории, но все равно такую информацию нужно репостить: все, хоть как-то интересующиеся технологиями, должны быть в курсе, чем кончаются блокировки как система.
Тот редкий случай, когда надо радоваться, что медицинские системы не подключены к российскому интернету.
«Красота в глазах смотрящего» (С) - именно это и объясняет, почему генеративное искусство - вполне себе искусство, способное вызывать эмоции и мысли не менее глубокие, чем человеческие творения. Еще до всякого искусственного интеллекта существовали (и, к счастью, до сих пор существуют), например, соловьи. Мало кто возьмется защищать тезис о глубокой человечности и интеллектуальной мощи этой птахи. Но и мало кто, выйдя в утренний туман в соловьиной роще, ничего не почувствует.
Машинный интеллект просто умеет - именно в силу своей обучаемости - все лучше находить триггеры в нашем восприятии, которые запускают сильный эмоциональный или интеллектуальный отклик. Недавно на YaC мы это демонстрировали не примере музыки. А вот - отличный пример генеративного портрета :) Спасибо за ссылку очень толковому каналу про реально sexy технологии - @denissexy
http://mtyka.github.io/machine/learning/2017/06/06/highres-gan-faces.html
Очень хорошая цитата Кубана в заголовке статьи: Tech Will Advance More in the Next Decade Than It Did in the Last Three. Он далеко не первый, кто говорит про постоянное ускорение техпрогресса, но его фраза позволяет хорошо генерить примеры, понятные всем людям 40+. Они могут напрячься и вспомнить середину восьмидесятых (те самые три десятилетия назад), оглянуться и сравнить с окружающей средой. Мир без мобильников, интернета, GPS и т.д.
И да, не вижу ни одной причины, почему через 10 лет изменения будут менее серьезны. А ведь народ вокруг так живет и ленится, как будто и через 10 лет ничего не произойдет и ничего нового учить и знать не надо ;)
Ну, и замечу, что в материале не только заголовок хорош, его полезно прочитать целиком ;)
https://futurism.com/mark-cuban-tech-will-advance-more-in-the-next-decade-than-it-did-in-the-last-three/
Если это не фейк (а похоже, что нет) - то да, это крутой московский киберпанк прямо под Манежкой :)))
Читать полностью…Среди сегодняшних новостей, которые много перепечатывают и обсуждают, на мой взгляд, важны не сообщения с WWDC про эппловские новинки: там симпатично, но не более того. А вот новость от IBM куда принципиальнее.
Про то, что перестаёт работать закон Мура, т.е. что плотность транзисторов на микросхемах перестаёт увеличиваться, пишут много и с тревогой. Мы же привыкли, что процессоры все мощнее, а энергии требуют меньше и меньше занимают места. Если тут прогресс остановится, как же наши любимые смартфоны будут совершенствоваться?
Так вот IBM нас успокаивает: на ближайшие годы у прогресса появилась технологическая основа в виде новой пространственной структуры транзисторов. Микросхемы по-прежнему будут их содержать все больше, а электропитания требовать все меньше. В частности, это позволит многие приложения с машинным интеллектом выполнять на самом устройстве, а не в облаке: это важно, когда не хочется передавать куда-то чувствительные данные.
В общем, торможение прогресса элементной базы очередной раз откладывается, тупая экстраполяция современных проблем в будущее оказалась очередной раз ошибочной. 30 млрд транзисторов на чипе размером с ноготь при сокращении энергопотребления на 40% - приятный прогноз на 2019 и далее.
https://www.wired.com/2017/06/ibm-silicon-nanosheets-transistors/
Под наступающие выходные вот вам еще немного из заначек YaC :) Для чисто онлайнового канала Вани Ямщикова мы (да, мы сами, силами команды Яндекса) сняли шутливый мини-фильм про историю и развитие искусственного интеллекта (целых 18 минут - почти вечность по нынешним временам). Сняли в расчете на совсем далеких от нашей области людей: мы проверяли, что его можно и бабушкам и детям показать :)
Но при этом в нем засветились офигенно крутые эксперты мирового класса, например, Анна Вероника Дорогуш или Максим Бабенко. Всем иногда интересно оторваться от серьезных лекций и задач и порезвиться по сценарию Вани :)
https://www.youtube.com/watch?v=O7OFr4cl4V0&feature=youtu.be
Опубликован очередной Internet Trends от Mary Meeker - многие годы не теряющий популярности аналитический обзор + прогноз. И, надо признать, прогнозы ей обычно удаются.
Никогда раньше такого внимания не было в её обзорах уделено играм - даже больше, чем коммерции. Новый кусок окружающего мира, который для вступающих сейчас во взрослую жизнь поколений знаком с рождения. В этом куске - новый потенциал торговли, развлечений, коммерции, рекламы - кучи бизнесов. Сами игры - стали сложнейшим технологическим продуктом внутри, подстраивающимся и под пользователя, и под зрителя. В общем, новый способ проводить кучу времени для большинства людей, и обещает изменить многое в поведении, как недавно меняли многое соцсети.
Ожидаемый, но все равно любопытный поворот направления быстрейшего роста
https://www.slideshare.net/mobile/kleinerperkins/internet-trends-2017-report
Для тех кто пропустил (или даже и не хотел смотреть) сегодняшнее открытие YaC-2017. Музыка просто старомодно компьютерная и музыка, написанная нейросетью и исполненная живыми музыкантами. Само светомузыкальное шоу и мой комментарий, почему это важно.
https://youtu.be/5bfI3bhiRa4
Коллеги из колл-центра Мегафона, где внедрен автоматический ответчик на звонки по имени Елена (на основе синтезированного голоса по технологии SpeechKit), отмечали, что примерно половина пользователей не рады разговаривать с искусственным голосом/оператором и переключаются на оператора-человека. Да, такая опция переключения пока должна быть обязательно предусмотрена в голосовых интерфейсах контакт-центров ради уменьшения беспокойства пользователей.
Но не все так заботятся о людях, да и голосовые интерфейсы становятся все более вездесущими. Поэтому со страхами пользователей решил поработать стартап, разработавший, как сами они говорят, Anti-AI AI. Этот искусственный интеллект натренирован по звуку голоса определять, говорит ли настоящий человек или хорошо сделанный синтезированный голос.
Не уверен, что приборчик, предупреждающий об искусственных голосах, получит широкое распространение. Но вот для отладки качества разговорных интерфейсов этот Anti-AI точно полезен: прекрасно, когда можно заставить два AI совершенствоваться, соревнуясь в обмане друг друга. Ведь именно так удалось машинному интеллекту натренироваться, чтобы обыгрывать людей в покер или го ;)
http://www.sciencealert.com/this-wearable-ai-warns-you-when-the-voice-you-re-talking-to-isn-t-human
Консервативные аналитики не откуда-нибудь, а из Bloomberg, заявили, что к 2025, т.е. меньше чем через 10 лет, стоимость электромобилей станет ниже, чем стоимость традиционных машин (в США и Европе). А это очень сильно скажется на всём автопроме. В частности, как когда-то с Кодаком, потеряет смысл и ценность огромный пласт инженерного знания и защищённой патентами интеллектуальной собственности: все эти системы подачи и впрыска топлива, сами ДВС, коробки передач и трансмиссии станут музейным достоянием, когда у тебя электромотор в каждом колесе. Огромный сейчас барьер входа и конкурентное преимущество "старичков" растворится.
Но они ж научились на чужих ошибках и не захотят исчезнуть как Кодак. Значит, ближайшие годы в автопроме будут очень увлекательны ;) следим за красивой революцией.
https://www.bloomberg.com/news/articles/2017-05-26/electric-cars-seen-cheaper-than-gasoline-models-within-a-decade
Писатели и вообще творческие люди, профессионально работающие с языком, с большим недоверием относятся к попыткам всякой автоматизации в области написания текстов и к искусственному интеллекту, пытающемуся сочинять или хотя бы редактировать. И, в общем-то, небезосновательно :) Все эти автозамены в телефонах, идиотические подсказки в традиционных текстовых редакторах не внушают ни уважения, ни надежды.
Но в Майкрософте упорные люди работают, причем в последнее время они еще и всерьез стали прикручивать ко всему тот самый искусственный интеллект. В новой фишке Word по имени Editor именно ИИ анализирует текст и выдает комментарии и советы (на английском пока). Удивительно, но пишущее сообщество отнеслось к этой штуке вполне благосклонно, качество уже не тупо-машинное. А еще есть немало стартапов и фирм постарше, которые взялись за аннотирование документов, т.е. доверяют алгоритмам умных машин вычленять смысл текста.
Эта тихая революция обещает в обозримом будущем сильно изменить большой рынок труда вокруг написания и преобразования текстов. Но пишущие пока еще ничего не замечают - или не хотят замечать :)
https://thenextweb.com/contributors/2017/05/19/artificial-intelligence-will-impact-professional-writing/#.tnw_uQKzUql4
Информация без практический пользы для читателя, но об этом должны писать не только тематические СМИ, а все все все. Команда ИТМО в седьмой раз победила на международной олимпиаде по программированию ICPC. Золотые медали также получили команды, занявшие со второго по четвёртое места: Варшавского университета, Сеульского университета и СПбГУ (победители чемпионата 2016 года). Плюс ко всему у МФТИ есть серебро, а у Уральского федерального университета бронза. Начиная с 2000 года российские команды побеждали на чемпионате 12 раз, в том числе на последних шести турнирах.
А ещё по версии HakerRank (http://bit.ly/2rYvCZ8) российские разработчики заняли второе место с индексом 99.9 (100 у китайцев, 98 у поляков, которые на 3 месте). В выборке было задействовано более 15000000 разработчиков и 15 дисциплин. В отдельно взятой категории алгоритмы, где пользователь может работать с любым языком программирования Россия также заняла первое место. Кстати, HakerRank специализируется на создании заданий по программированию.