Anatoly Levenchuk (ailev) wrote,
Anatoly Levenchuk
ailev

lytdybr

Чего я не успеваю:
-- читать статьи по deep learning, хотя там ой-ой сколько интересного идёт. Из моделей активно отжимается вода: типовая фраза в половине сегодняшних работ "we obtain state-of-the-art results with almost an order of magnitude fewer parameters than previous work". Во второй половине сегодняшних работ -- всевозможные differentiable architectures, которые всё кучерявей и кучерявей. Ну, и результаты ползут по проценту-два в месяц. Медленно, но десяток процентов ошибки в год исчезает. Так, Natural Language Comprehension у людей на датасете CBT-NE 81.6%, а у неживого EpiReader 71.8% (http://arxiv.org/abs/1606.02270), а когда в дело вступает команда с участием Yoshua Bengio, то нежить отыгрывает ещё две десятых процента - 72.0% (http://arxiv.org/abs/1606.02245). Дальше можно обсуждать: эти 10% проигрыша людям вай-вай-вай ещё как плохо, или вай-вай-вай как уже хорошо. Правильный ответ тут в обсуждении общей скорости улучшений, а не конкретного этих результатов. Пост об этом нужно было бы написать хотя бы для памяти, в какие восхитительные времена я жил. Это как первые годы жизни компьютеров, первые годы развития интернета.
-- попрограммировать. Впервые за долгие годы зачесались руки (это я решил пару десятков задач на Питоне, чтобы показать отроку "как надо"). Но это точно блажь, я даже не заморачиваюсь. Это и не нужно успевать.
-- поглядеть более внимательно, что там происходит с Julia. Там какие-то тектонические подвижки идут на всех фронтах. Я понимаю, что у меня зуд из той же серии, что "попрограммировать", тем не менее. Вот, полюбуйтесь на keynote talk открывающейся через пару недель тамошней конференции: http://juliacon.org/ (абстракты -- http://juliacon.org/abstracts.html, там есть ну очень аппетитные темы). Но родных пакетов для Julia пока чуть более тысячи http://pkg.julialang.org/, этого, конечно, мало. Хотя Julia берёт пакеты на си и питоне и даже R как родные, так что это не должно сильно жать. Ух, пока писал этот абзац таки что-то поглядел )))

Зато участникам завтрашнего семинара "про будущее" выслано 117 слайдов, и первым делом мы будем там разбираться, в чём их интерес: побольше теории о том, как об этом необъятном будущем структурированно думать, или побольше пересказа содержания новостных лент с моими персональными оценками по тем или иным технологиям. Организаторы семинара склонялись ко второму, я считаю более ценным первое. Поэтому мы решили послать им всё сразу и спросить про предпочтения -- а я буду готов к любому ответу. Сделаем customization-on-the-fly, вполне в духе времени.

oetar на лебедевских чтениях подарил мне книжку "Глина" Дэвида Брина (http://royallib.com/book/brin_devid/glina.html), аплоад личности в глину (трансгуманисты всех стран, объединяйтесь!). Големы с биркой на лбу, големы на глиняных ногах и много-много зарисовок из мира будущих технологий. Вот, например, как раз к дискуссии по поводу неудачной рекламки коллаборативного нейронета (https://www.facebook.com/groups/nevronet/permalink/646886058811052/): "Ни угроз, ни обещаний. Ни предупреждений не лгать. Наверное, нас будут слушать какие-то сложные нейросетевые программы. Их нельзя назвать разумными в строгом смысле слова, но чтобы их обмануть, требуются немалая концентрация и удача. Альберт это умел, а потому я должен суметь тоже" -- это 2001 год, Дэвид Брин всё знал про нейросети ))) Мне роман понравился, хотя последние пятьдесят страниц всё в нём стало ужасно, нудно и притянуто за уши. Интересно, читал ли Хирому Аракава "Глину"? Ибо в его "Стальном алхимике" (https://en.wikipedia.org/wiki/Fullmetal_Alchemist) подозрительно много тамошних идей (спойлить не буду, каких), а манга начала выходить тоже в 2001 году. Ну, или всё это "висело в воздухе", и в 2001 году вышло ещё несколько менее знаменитых произведений на этих идеях, просто я до них не добирался.

С отроком в программировании уже пару дней идёт перерыв. Он заглянцовывает пока тонкости дискриминанта и функции с параметрами по алгебре, затем у него по плану вектора и тригонометрия (они как-то странно размазаны по программам геометрии и алгебры 8-9 классов), открывающие дорогу к классической механике. При этом у него в голове должна уже быть какая-то модель двумерных массивов, эту тему в Питоне мы успели закончить. Хотя я понимаю, что это отдельное действие: пройденный материал по линейной алгебре скрестить со знанием о двумерных массивах.

Ну, и началась "обязательная программа домашнего чтения по литературе", выданная в лицее. Ха, они проходят "Ревизора"! Я даже был вынужден выслушать за завтраком что-то про Добчинского и Бобчинского. А ещё говорят, что в школе сегодня не проходят мёртвых языков! Ничего подобного! Проходят, и с каждым годом это всё больше и больше походит на латынь и древнегреческий: изучение ради изучения, предмет застыл и догматизировался. Когда я поинтересовался в школе, ещё старшеклассником, почему мы меньше всего изучаем литературу как литературу, а всё больше норовим использовать эти книжки для разбирательств по психологии, я не получил внятного ответа от учителей. Они что-то пытались мне высказать про "типичных героев в нетипичных обстоятельствах", а я им говорил, что глупо изучать жизнь по выдуманным историям, если уж так хочется, нужно учить жизнь по случаям из самой жизни -- брать и разбирать так же, как выдуманные истории. Но хотя бы было понимание, что разбираешь что-то реальное, а не фантазии часто полусумасшедших авторов! Впрочем, у моего отрока совершенно другое мнение на этот счёт: он полностью игнорирует пока эту манипуляцию с разбирательством значения текстов и относится как к просто книжке: "там все действия были не смешные, хоть это и комедия, но вот последнее действие было действительно смешное". Вот и весь "Ревизор" в восприятии современного отрока.

Бычок таки не выдержал улитки и сдох. Правильно в книжках написано, что улитки в аквариумах -- зло. И да, это уже не улитка, а улитки, их уже парочка.

В фейсбуке и линкедине какое-то запредельное число попыток френдования ботами и "социальными маркетёрами". Мамы должны сейчас детей воспитывать не просто "не ври, не воруй", но "не ври, не воруй, не спамь" -- но все встреченные мной профессиональные спамеры категорически отказываются свои действия называть спамом или чем-то плохим, "ничего личного, это просто работа", отвлекать миллионы и миллионы людей, хотя бы на пару секунд каждого. Бытовой фейсбук позволяет легко delete request, то профессиональный линкедин предлагает либо сразу зафрендовать, либо просто посмотреть, а вот отказать -- это уже сложная и долгая операция с нажатием множества кнопок.

Как я понимаю, вышли две мои публикации в новом "Если" (первом и последнем), но самих журналов у меня нет, они в закрытом доступе. Так что читайте меня в бумаге, потом расскажете, как оно.
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 16 comments