?

Log in

Лабораторный журнал
 
[Most Recent Entries] [Calendar View] [Friends]

Below are the 20 most recent journal entries recorded in Anatoly Levenchuk's LiveJournal:

[ << Previous 20 ]
Wednesday, August 31st, 2016
12:06 am
Музыкальная школа и школа мышления
Конечно, мой проект по созданию тренажёра клуба одиноких мозгов сержанта Солта (http://ailev.livejournal.com/1287293.html) это только часть для "Школы мышления" с многолетним blended learning мышления, включая тренинг беглости мышления.

Blended learning -- это смешанное очно-тренажёрное обучение, живой учитель (задействуем зеркальные нейроны и много чего ещё в живом общении) очно плюс обязательный онлайн тренажёр (самостоятельная работа, много часов в день -- тупой тренинг нейронной сетки, решение многих мелких задач), https://en.wikipedia.org/wiki/Blended_learning.

Многолетний тренинг -- за один год мышлению не научишь, чего уж там. Поглядите на список предметов за пределами STEM (хотя и предметы STEM в школах явно недодают в части тренинга -- способные как-то справляются, а "просто детки" уходят недоученные, без надлежащей беглости): http://ailev.livejournal.com/1283663.html

Дальше disclaimer: я понимаю, что все эти тренинги мышления можно поначалу проектировать только для магистратуры, потом только думать об опускании их в бакалавриат, а о школе заикаться довольно рано. Тем не менее, учиться мышлению нужно и уже взрослым с законченным верхним образованием (у кого оно "высшее"? мы ж все не гроссмейстеры в массе своей!), и студентам, и школьникам -- кого можем, того и будем учить. Так что параллель с обычной школой тут намеренная, но она больше логическая, речь не идёт о реальных первоклашках. Я недумаю, что у меня в Школе системного менеджмента появятся реальные первоклашки, но никого же слово "Школа" тут не смущает?

Меня всегда убивало, что нет нормальных форм организации многолетнего образования "мимо школы". Все кружки имеют годовые программы максимум, очень редко двухлетние, для взрослых либо всё стандартное-студенческое-полноценное ("второй диплом", со своими методическими заморочками), либо краткосрочные "тренинги" на день-два (и мой шестидневный тренинг системного менеджмента тут выглядит каким-то мастодонтом и тяжеловесом). Но в части мышления нужно ориентироваться на другие сроки. Повторю мой любимый фрагмент из "Пятой дисциплины" Piter Senge:
Недавно в ходе пятидневного вводного курса, проводимого Обучающим центром МТИ, одна женщина-менеджер из конструкторского отдела компании Ford лаконично сформулировала ситуацию: «Спустя пару дней, — сказала она, — я начинаю понимать, о чем вся эта история с системным мышлением и интеллектуальными моделями. Мне это напоминает время, когда я только начала знакомиться с высшей математикой. Сначала я чувствовала себя совершенно потерянной. Все это было мне совершенно чуждо. Но потом я начала «схватывать» суть. Через год я уже вполне владела основами этого дела. Через пять лет это стало основой моей профессии». Потом она добавила: «Если бы высшую математику изобрели сегодня, ни одна из наших корпораций не смогла бы ею овладеть. Мы бы посылали каждого на трехдневные курсы. Затем каждый получал бы три месяца на то, чтобы посмотреть, работают ли «все эти штуки». А когда выяснялось бы, что они не работают, мы бы начинали пробовать что-нибудь другое».
И все эти предметы по обучению мышлению примерно такие по природе, как и математика, они требуют длительного упражения -- и это выливается в конечном итоге в годы занятий.

Сегодня я прочёл текст про многолетнюю школу робототехники http://школароботов.рф/director/desyat_let_ne_srok_god_spustya/ (не будем пока обсуждать его содержание, не про робототехнику сейчас разговор) и прошёл там по ссылке на оригинальный пост годичной давности с обоснованием многолетности http://школароботов.рф/director/kurs_robototehniki_desyat_let_ne_srok/, в котором такая школа сравнивалась с музыкальной школой (8 лет обучения, с 6 лет) и художественной школой (5 лет обучения, с 11-12 лет).

Все понимают, что музыкальная и художественная школы
а) на много лет,
б) это отнюдь не "музыка" и "рисование" обычной школы,
в) за них нужно платить, хотя иногда бывает и "стипендия" (бесплатные места за счёт разных спонсоров -- иногда даже бюджета, "стипендиаты" -- ещё мой папа в музыкальную школу ходил бесплатно, уж больно был талантлив в игре на скрипке)
г) в этих школах дикие домашние задания, к очному короткому уроку за двадцать минут не подготовишься, заниматься нужно много и каждый день.
д) относительно новый пункт: в современные школы берут и взрослых, хотя и в отдельные классы.

Мне до сих пор почему-то в голову не приходило, что это ж отличная всем известная модель длинного образования "мимо школы"! Я не хочу писать "дополнительного образования", потому как я не считаю, что в школе дают качественное "основное образование". Это не "курсы" с их флёром мимолётности, это "школы" с их внятной направленностью на многолетнюю пахоту.

Вот это очень хороший культурный прототип для школ мышления. В этом направлении и нужно двигаться в части организации полного blended learning. Для таких школ и нужно делать тренажёры.

Вообще, проблема "длинного образования", которое идёт много лет, она ключевая. Короткими отдельными курсами мало чему научишь, нужно обучаться годы, добиваясь "беглости" применения знаний -- хотя при этой многолетности есть встроенные конфликты, например в формальной системе образования возможности "перескочить" из одной школы в другую в силу неверно сделанного выбора, на этом ведь Болонская система и построена с её дыркой между бакалавриатом и магистратурой в противовес нашему прожёвываемому "одним куском" специалисту.

Я сам, кстати, из музыкальной школы соскочил после третьего класса -- я её активно не любил, и поставил родителям ультиматум, как только достаточно отросли мозги: или в обычной школе у меня всё в порядке и нет при этом музыкальной школы, или я в обеих школах, и в обеих же сознательно не отвечаю за результаты и поведение. Родители ультиматум оценили, и от музыкальной школы меня избавили. Но у многих и многих деток с музыкальной школой отношения были получше, и они хоть и не шли потом в музучилище и потом в консерваторию, но что-то такое могли музицировать (или хотя бы тешить себя мыслью, что "могли бы", если бы продолжали практику -- все эти бы-бы-бы практик, требующих многолетних тренировок, в том числе тренировок по поддержанию уровня навыка).

Музыкальная школа, художественная школа, школа мышления. Для взрослых, студентов, школьников. Многолетняя пахота с очными уроками пару раз в неделю и ежедневными обильными домашними занятиями. За деньги, хотя иногда бывают "стипендиаты". Мимо официальной системы образования: после выпуска нужно уметь бегло музицировать, рисовать, думать -- официальной бумажки не нужно, умение "выше среднего" предъявляется непосредственно в деле.
Monday, August 29th, 2016
3:09 pm
Дискуссии в фейбсуке: школьный предмет "технология" и "управление наукой"
В интернетах что-то не так, не могу молчать! Вдруг обнаружил себя ввязавшимся в дискуссии в фейсбуке:
-- https://www.facebook.com/groups/1565341210429901/permalink/1604649599832395/ -- о дисциплине предмета "Технология" в школах. Вот один из моих комментов оттуда (попросили 1. пояснить, что означает "дисциплина даётся образованием, а для технологии обычно достаточно тренинга на рабочем месте и 2. откомментировать определение "для целей настоящей Методики под технологией (далее - Технология) понимается совокупность способов получения продукции (товаров, услуг); технических средств, реализующих эти способы, а также используемых ресурсов"):
Ох, каждый вопрос на полноценный семинар )))
1. Дисциплина даётся в рамках учебного процесса в образовательных учреждениях -- она позволяет дальше легко овладевать разными технологиями. Скажем "проектное управление" как дисциплина позволяет легко понимать, как и зачем использовать MS Project или Primavera, чем отличается PMBoK от PRINCE2 или TOC. А вот обратный порядок (виртуозное владение MS Project) не ведёт к мастерству в проектном управлении или чудесной генерализации этого знания инструмента на знание дисциплины "проектное управление". Я специально тут взял предмет "сбоку" и достаточно плохоопределённый.
2. Технологию я понимаю ровно так: практика=дисциплина (основные понятия и их связи -- они общие для всех, им можно учить в ВУЗе или школе, они помогут потом работать с любыми инструментами) +технология (развёрнутая на местности материальная и информационная среда -- станочки, формы документов и т.д. - они уникальны в каждой фирме, в каждой мастерской). Дальше есть понятие метода (набор практик, достаточный для достижения какой-то цели) и постулат о непереносимости методов (метод работы одного предпринятия обычно нельзя применить для организации работы другого предпринятия -- по совокупности причин).
Ваше определение технологии по сути означает, что вы предлагаете учить методу (набору практик) системной инженерии -- примерно к такому же выводу приходили в дискуссиях про "образовательную робототехнику", только там в качестве целевой системы брали робота, а тут идёт обобщение на "всё, что угодно". То есть "как замыслить что-то, разработать требования, архитектуру, подробно спроектировать, изготовить, отладить, проэксплуатировать и вывести из эксплуатации -- удовлетворив при этом всех стейкхолдеров". Опять же, системная инженерия подразумевает а) коллективно выполняемые проекты и разделение труда, б) уточнение всех её практик (десятки вариантов практики инженерии требований, нужно выбрать -- и для разных практик разные технологии, разные инструменты), в) наличие рядом позиций инженерного менеджера, предпринимателя и т.д.. А у вас это всё схлопывается в простейший вариант индивидуальных проектов. Но тогда сразу становится понятным, что вы хотите научить деток инженерному отношению к окружающему миру: как что-то замыслить, спроектировать, изготовить, отладить, отэксплуатировать с пользой (и необязательно в данном порядке!!! Это практики, про "пошаговость" ничего не сказано!). Это и есть системная инженерия как дисциплина. А для неё нужно системное мышление. И точное понимание, что в отличие от советской инженерной школы (с её подходом ремесленного обучения как просто долгого пребывания рядом с мастером) системной инженерии нужно учить явно, там есть своя терминология и свои принципы.
Там я много чего разного ещё писал.

-- https://www.facebook.com/kuznetsov.eu/posts/1084931628210016 -- о финансировании науки и "управлении наукой". Там я двигал основную мысль, что финансирование науки нужно профессионально обсуждать как распределение редких ресурсов, т.е. там в основе праксиология и экономика, с выходом на политическую философию. А то получается коммунизм, но только для одной выделенной касты: учёных! От каждого по способностям, каждому по потребностям -- только дворянство нужно получить, чтобы этим попользоваться за счёт денег налогоплательщиков, которые в данном случае будут холопами (то есть раскулачиваемыми буржуями). Чем не коммунизм, уже при нашей жизни? А ведь "настоящие учёные" именно этого коммунизма требуют: прямо говорят -- "денег дайте, и отойдите". Их мало волнует, что эти деньги сначала нужно от кого-то отобрать, потом поделить. Нет, их волнует, чтобы деньги дали на любые их хотелки, и отошли. В бытовом языке это хорошо у них получается обсуждать, в крайнем случае а политэкономия и политическая философия лучше всего при этом подходит именно Маркса и Энгельса -- именно там ведь про требуемый ими коммунизм, сознательных членов общества и всё такое на базе науки! В этом треде я тоже много чего ещё разного писал (например, напомнил свой доклад "Будущее науки" -- http://ailev.livejournal.com/1232960.html).
11:41 am
Схема организации предпринимательства
Вот схема организации (организация = распределение ответственностей) предпринимательства:
entrprnschm
Обратите внимание, что схема организации предпринимательства существенно связана с системной схемой проекта. Вот системная схема проекта, подрихтованная под семинар о будущем. Не случайно именно этот её вариант, ибо предпринимательство существенно имеет дело с предсказанием будущего (при всех заверениях, что будущее предсказать нельзя):


В схеме предпринимательства:
-- системный инженер ответственен за инженерную зону интересов, т.е. альфы определения и воплощения системы
-- инженерный менеджер за альфы команды и работы
-- CTO и CIO сегодня по факту это одна и та же позиция (станки-железо и станки-софты), ответственная за альфу технологии
-- и тем самым предприниматель ответственен за альфы клиентской зоны интересов -- возможностей и стейкхолдеров.

Предприниматель не может сократить количество своих связей, поскольку они несводимы друг ко другу, это всё связи с разными деятельностными позициями. У него за спиной нет "предпринятия" как команды, у него есть три отдельных переговорщика, никакого "представителя команды". И со стороны рынка у него нет только "потребителей", он должен ещё и "инвесторов" учитывать. Схлопывать несколько ролевых позиций на одного исполнителя удаётся только в крошечных проектах, в крупных проектах наоборот -- исполнение одной роли будет коллективным, будет разделение труда. Поэтому исполняющий роль предпринимателя будет в круглосуточных переговорах.

Дальше идёт необъятное количество нюансов и разъяснений, разбора типовых организационных ошибок с использованием этой схемы, но я это пока опущу.

Просто за последнюю неделю эта схема (я её использую в своих семинарах уже довольно давно) всплывала в разных разговорах много раз, я подумал, что надо бы её уже опубликовать, чтобы нормально ссылаться на картинку.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10207914275628825
Saturday, August 27th, 2016
6:41 pm
Выучить онтологию, а потом творить с её помощью
Вот ещё одно исследование по культурно-обусловленной кривизне в картине мира, выучиваемой из больших объёмов текста -- Semantics derived automatically from language corpora necessarily contain human biases, http://arxiv.org/abs/1608.07187. В естественном языке присутствует довольно много остатков древних вариантов онтологии, в текстах они часто встречаются, и из-за этого выученное семантическое пространство оказывается кривоватым. Я в http://ailev.livejournal.com/1281819.html цитировал из этой линии работ Quantifying and Reducing Stereotypes in Word Embeddings https://arxiv.org/abs/1606.06121 и Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings, http://arxiv.org/abs/1607.06520.

Если приглядеться, то в этой линии исследований по выявлению и устранению культурно-обусловленных biases можно выделить следующие проблемы:

1. Разница между семантикой и онтологией (семантика -- это про язык, "как говорят". Онтология -- это про мир, "что есть в мире". Если обсуждаются biases, то это сдвиги того "как говорят" по отношению к тому, "что есть в мире"). Тем самым в данной линии работ выходят на различия представлений лингвистических (семантика, про "понятия", "значения") и онтологических (непротиворечивая структура мира, данная в рамках непротиворечивого описания -- обратите внимание на разницу мира и описания!). Многие нам известные лингвисты приходили к выводу, что чисто лингвистических представлений для понимания языка (NLU, natural language understanding) недостаточно, и нужно как-то обращаться к онтологии. Но как именно? Ведь нет более мёртвой вещи, чем жёстко определённая раз и навсегда картина мира -- метафизику ведь не зря критикуют, а онтология это её часть. И без онтологических рассуждений обойтись не удаётся.

2. Но если мы и хотим выучить из каких-то текстов картину мира, онтологию, а хоть и в виде "семантического пространства" (разные варианты предварительно выучиваемых embeddngs, и не забываем критику Nando de Freitas в http://ailev.livejournal.com/1240509.html -- это именно про "значения", а ведь есть ещё смысл! выучивание значений интересно только как база для определения смысла!), то все проблемы онтологов будут нашими, даже если мы-лингвисты о них не знали. Например, ontology revision (вы можете прихватить какой-то один факт, который приведёт к необходимости переструктурирования всей вашей онтологии). Или одновременное выучивание нескольких онтологий, "исторических" (скажем, "земля плоская") и "современных" ("земля круглая", "земля геоидная"). Или винегрет из онтологий нескольких близких и далёких научных школ (в психологии, например, до сих пор нет хоть какого-то единства по поводу тамошней онтологии -- сравните, например, с физикой или химией).

3. Важность слова shared в определении онтологии: в момент появления нового знания оно не онтология, это просто чьи-то личные мысли. Но по мере того, как знание овладевает массами, оно становится онтологией. Большинство современных подходов предполагают выучивание онтологии у масс, т.е. выучиваются только фолк-онтологии, со всеми их biases, ошибками и суевериями. Онтологическая инженерия понимается часто именно как запечатление этой народной онтологии в формальном языке. Но это не позволяет говорить о прямой онтологической инженерии, применении принципов радикального конструктивизма. Меня этот аспект очень трогает, я ведь и сам радикальный конструктивист, поэтому для меня важны и аспекты эпистемологические, и аспекты деятельностные (http://ailev.livejournal.com/661094.html, http://ailev.livejournal.com/860017.html), с ними тоже нужно разбираться.

4. И ещё хотелось бы напомнить "мою космонтику" http://ailev.livejournal.com/1268678.html, где тоже поднимаются проблемы онтологизирования, моделирования в связи с эволюцией и развитием, так что "выучить онтологию" и расслабиться не получится, всё это нужно как-то переводить на life-long learning. Все эти biases плывут во времени, плывут в разных социумах, обучение на материале учебников будет сильно отличаться от обучения на материале коммунистической прессы или статей в arxiv -- и это всё тоже нужно как-то разводить, застывшие канонические семантические пространства не будут работать, часть возражений от Nando de Freitas из http://ailev.livejournal.com/1240509.html сюда.

Онтологические (и по сопричастности метафизические) проблемы, конечно, будут вылезать не только из работ по human biases, не только из необходимости обеспечивать рассуждения (логический вывод) в понимании естественного языка, не только из связанных с решением инженерных задач работ. Для меня, например, связь текстов-описаний и реального физического мира (например, фотографий -- буквально, "картины мира") это тоже часть выхода на онтологии. Вот, например, https://github.com/paarthneekhara/text-to-image -- Text To Image Synthesis Using Thought Vectors. Посмотрите, какая интересная архитектура, где по описаниям генерируются картинки:

Есть буквы, складывающиеся в слова, которые складываются в мысли (предложения). Эти мысли представляются как находящиеся в семантическом пространстве (значений). Это семантическое пространство отображается как-то на физическое пространство (данное в виде изображений физического мира). Эти соотношения как-то выучиваются. Эпистемология, ответ на вопрос "как узнал": выучил! А дальше в ответ на описание можно выдать целевую картинку мира. Дьявол, но это ведь "творение мира" -- инженерный ход! Текстовое описание необязательно ведь будет совпадать со встреченным в учебной выборке. А сгенерированная по представленному мной тексту-пожеланию-спецификации картинка может считаться моделью физического целевого мира. Так что приведённая на картинке архитектура генерации изображений по текстам в какой-то мере деятельностная, инженерная. Сгенерированное изображение, сгенерированную модель/описание/картину мира можно затем использовать непосредственно для преобразования мира, для творения в прямом (онтологическом, а не лингвистическом) смысле слова.
4:04 pm
lytdybr
В лицее выдали учебники. Жена в шоке: в учебнике физики для восьмого класса не оказалось оптики! Для неё это глубоко личный вопрос: ей кажется, что она в своё время оптику явно недоучила, и поэтому сын обязательно должен доучить оптику вместо неё. Сын об этих планах пока не подозревает, ходит в гости к Виталику и в голове у него только компьютерные игры. Но до конца восьмого класса от оптики ему никуда не деться, "по семейным обстоятельствам". В других-то учебниках восьмого класса оптика есть, это только в выданном в физмат-лицее учебнике нет.

Ещё он в эти дни решает первое задание заочной физматшколы МФТИ, по факту повторение материала седьмого класса. Последнюю задачку по математике в этом задании он решил устно и правильно (мне б так жить в его годы!), но решение не смог объяснить -- в строгом соответствии с тезисом "пониманию учить вдвое дольше, чем просто навыку" -- http://ailev.livejournal.com/1285014.html. Жена, кстати, откомментировала тот пост так: "не вдвое, а в разы дольше". Интересно, насколько эти "разы" можно сократить, если осознанности обучать не ad hoc в рамках обучения именно STEM предметам, а специально, как в тезисах "за пределами STEM-образования", http://ailev.livejournal.com/1283663.html. В принципе, мета-навыки растворены в STEM-предметах, но их вполне можно оттуда извлечь и тем-самым попробовать ускорить всё многолетнее обучение. Иногда ж говорят, что "вам не потребуется в жизни ничего из того, что вы учили в школе, но нейронные сетки, натренированные в те времена, вам очень даже пригодятся". Вот это "умение думать" -- оно и есть "натренированные нейронные сетки", их и нужно пробовать тренировать непосредственно, а не косвенно и неявно, как 5% от изучаемого объема материала. Скажем, вот тут анализ привычек людей с математическим складом ума: https://geektimes.ru/company/wirex/blog/272860/. Вопрос: можем ли мы учить этому без математики? Не будет ли это быстрее и проще? Если с математикой, то какой именно математикой? Она ж большая, материала там хватит на 20 лет учёбы вместо всех других предметов!

В браузере опять висит куча открытых табов с новинками искусственного интеллекта этой недели. С трудом удерживаюсь, чтобы не изобразить из себя новостную ленту, умножить информационный шум. Писать всё-таки нужно свои соображения, свои комментарии, а не просто постить ссылки. С другой стороны, если у меня "Лабораторный журнал", то и "просто литературу" тоже нужно бы сюда прикладывать, но без комментариев это неправильно, а на комментарии времени нет.

С кизомбой ключевым решением было посетить занятия двух школ: знание появляется на стыке объяснений четырёх преподавателей (в каждой школе занятие ведут два преподавателя). Вы думаете, я один такой умный? Нет, в эти две школы сразу ходил не только я. Навыки топать ногами в такт у меня потихоньку возвращаются, я уже там не самый безнадёжный, что-то из манеры я уже ухватил. Но объема сознания для удержания в центре внимания партнёрши не хватает, а в кизомбе это главное. Ну, и базовый шаг у меня получается уже как-то, но при вариациях я с него срываюсь. Нейронные сетки тренируются медленно, но тренируются. Сплошные "но". Через неделю нужно будет принимать решение -- продолжать как-то или считать эксперимент законченным.

UPDATE. я тут в фейсбуке в закрытом посту ответил на вопрос, что из выученного мешает в кизомбе. Вынесу наружу:
Как мне вчера доверительно сказала одна из партнёрш в группе для начинающих, "Я на кизомба-дискотеки уже не хожу. Если бы там танцевали такие простые движения, как мы тут в этой группе!".

Что мешает:
-- движение делается "под корпус" (это я понял, что такое, только через несколько занятий -- ноги из-под корпуса почти не вылезают)
-- обе коленки согнуты, колени и бёдра тем не менее работают, но никаких пружинок и вертикальных качаний корпуса
-- никаких откидываний назад или наклонов вперёд
-- вес почти всё время на две стопы, если не указано иного (очень разного, замечу)
-- ритм переноса веса, синкопы в ритме не любые, дикие перепады ритма в мелодии, я иногда этот ритм теряю при этом (это я-то!). Хорошо хоть корпус у меня свободно движется независимо от ритма ног (если бы его при этом регулярно не заносило дальше, чем нужно)
-- шаги крошечные по большей части, на стопу максимум, исключения редки. Быстро осознаёшь, что тебя всю жизнь учили наоборот, "не мельчить"
-- Ведение делается несколькими точками корпуса, рук, горбиться не рекомендуется категорически, плюс приспособиться при этом к партнёршам нельзя (ибо их меняют раз в две минуты. Значительная часть партнёрш оказывается дико выше тебя, примерно столько же дико ниже)
-- манеры движения в разных студиях преподаются разные (и вообще там штуки четыре разных стиля-диалекта), они в голове сильно путаются
-- шаги стелящиеся, но перекат веса пятка-носок и носок-пятка важен (со стороны ничего не видно, но партнёрша чувствует перенос веса тела)
-- повороты делаются практически без их обозначения, акцентов в движении практически нет, это совсем не так в бальных и прочих эстрадных танцах: кизомба по факту не зрелищна, там про другое (до чего я никак дойти не могу, не хватает объёма внимания контролировать весь этот список -- это главная проблема)
-- а ещё тебе нужно иметь глаза на затылке, чтобы в кого-то не врезаться, ибо в зале примерно 1м2 на пару, ответственный за это партнёр ("партнёр смотрит в пол, а партнёрша в себя"), и партнёр же сочиняет танец по ходу дела, исходя не из зрелищности, а из критерия "не скучно партнёрше, но и не превышает её возможностей" и ещё в соответствии с характером музыки (скажем, при медленных частях переходя на дабл-бит).
-- и ещё нужно мониторить, что делает партнёрша, ибо у неё чистый отклик на твои действия, и если что не получилось, то тебе нужно на ходу перестраиваться.
-- ну, и тренер тебя всё время шпыняет за "непростановку точек" (то есть очень чёткие траектории ног, заканчивающиеся каким-то заданным распределением веса на какой-то момент в ритме).
-- и ещё нужно подкачать мышцы на ногах: тамошний основной шаг оказывается к этому требователен, когда начинаются всякие повороты с партнёршей в руках (не так чтобы "на руках", но когда она тебя ненавязчиво подталкивает куда-нибудь вбок, нужно иметь сильные мышцы ног, чтобы удерживаться без вихляний корпуса).

Вот теперь представь, что по каждому пункту у тебя десяток лет ровно обратного тренинга, и на первых порах всё это приходится делать сознательно. Но хвалить меня уже начали, а тренеры одной из групп запомнили по имени )))
Вот одни мои преподаватели: https://www.youtube.com/watch?v=0sFwf-gABTg
Вот другие https://www.youtube.com/watch?v=z4rk8tVS_EE

Вокруг меня довольно много людей начинают учить иврит на основании того, что "мозги хорошо развивает, ибо структура языка перпендикулярна всему тому, что вы до этого знали". Не китайский, не японский, а именно иврит. С немецким у меня был интересный опыт: вдруг выяснилось, что в мире вокруг меня полно надписей на немецком, раньше я их распознавал как фон. Интересно, если вдруг начать понимать китайский, японский, корейский и иврит -- надписей на каких языках окажется вокруг меня больше?

Иллюстрация к современной политике: https://vimeo.com/180016993 (интересно, что съемочная группа интернациональна, а вот актёры вполне отечественные).

А ещё я читал мангу, мало думал.

UPDATE: обсуждение в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/10207899932310251
Friday, August 26th, 2016
4:40 pm
Искусственный интеллект, антитраст и другие регуляторные глупости
Антимонопольная пропаганда в части искусственного интеллекта уже началась: Why AI consolidation will create the worst monopoly in US history, https://techcrunch.com/2016/08/24/why-ai-consolidation-will-create-the-worst-monopoly-in-us-history/. Там классика жанра:
Alphabet, Amazon, Apple, Facebook and Microsoft will likely continue to poach new AI and machine learning startups, regardless of the cost to end users or the industry as a whole. These companies simultaneously sit on vast stores of user data that are rivaled only by governments. Only by making machine learning and AI more open, transparent and shareable — the opposite of what’s happening now — will companies have a fighting chance to make AI something that benefits everyone.

At the beginning of the 20th century, Teddy Roosevelt changed the course of American economic history by leading the charge against the monopolies of his day, such as those that dominated the oil and steel industries. Maybe it’s time for a little trust-busting in what may be the most important field of our day: AI.
Теперь ждём обсуждения запрета на профессии: неблагонадёжным запретить работать над проблемами искусственного интеллекта. Ещё можно ожидать обязательного лицензирования фирм, производящих искусственные интеллекты с IQ больше 53.4 (не спрашивайте, откуда будет эта цифра -- какая-нибудь согласительная комиссия её выработает). Попыток организации профсоюзного движения механических турков. Законов "О мониторинге активности интеллектуальных информационных систем", в котором вся входная и выходная информация, а также внутренние параметры системы должны записываться и храниться 6 лет, если у системы будут замечены хоть какие-то признаки интеллектуальности.

Я думаю, не будет такой регуляторной глупости в истории человечества, которую не попробовали бы воспроизвести в отношении искусственного интеллекта. И этого не нужно будет долго ждать. Как видите, уже начинается.

UPDATE: обсуждение в фейсбук -- https://www.facebook.com/ailevenchuk/posts/10207892384681565
Thursday, August 25th, 2016
2:25 pm
Эволюционная робототехника
Интересная публикация обзора по проблемам эволюционной робототехники, с отличной библиографией основных работ последних лет -- http://www.mitpressjournals.org/doi/10.1162/EVCO_a_00172#.V769aa01ODb. Это не попсовый обзор, тем интересней. Цель -- выявить проблемы, при решении которых (авторы уверены, что все эти проблемы будут решены обязательно, вопрос только во времени) эволюционная робототехника станет canonical approach for the engineering of autonomous robots, ни больше, ни меньше. Когда все проблемы будут решены, нужно будет только сформулировать задачу, а далее хоп-хоп-эволюция-хоп-хоп, и вот он, решающий задачу робот во всей его пластиковой и железной плоти, вместе с софтом! Это продолжение линии на формирование дисциплины, наряду с классикой типа https://hal.inria.fr/inria-00566896/document, где ещё в далёком 2011 году (то есть незадолго до взрыва результатов в deep learning) было сформулировано: to mature, ER [evolutionary robotics] need less proofs of concepts and more solid results. To our opinion, ER has one foot in robotic engineering and one foot in experimental sciences. It therefore has much to gain from importing the best practices from these two fields. Да, эволюционная робототехника определяется тем самым как научная и инженерная дисциплина.

Проблемы там делят на общие для машинного обучения, общие для эволюционных методов и специфические для эволюционной робототехники. Мне интересней всего были общие для эволюционных методов, из которых я бы выделил:

1. Трёхуровневую иерархию уровней абстракции поведения: поведение-фенотип-генотип и различные варианты кодирования: прямое (когда каждый ген определяет элемент фенотипа, элемент фенотипа определяет поведение), косвенное (когда один ген проявляется во множественности особенностей фенотипа) и разные варианты гибридов. Абстрагирование даёт масштаб, но вычислительно неподъёмно. Прямое кодирование просто, но не масштабируется никак. Гибриды по-разному находят баланс между реализуемостью и сложностью целевой системы. Из роботики тут приходит фишка про поведение: вместо традиционного "генотип-фенотип" тут ровно по этой же линии абстрагирования "генотип-фенотип-поведение". Хочешь сложного фенотипа -- имей достаточно сложный геном. Хочешь сложного поведения -- имей достаточно сложный фенотип. И далее хитрая трассировка поведения к генотипу через фенотип. Тут ещё можно вспомнить developmental robotics, там поведение тоже возникает постепенно, но там другой заход, "психологии развития из младенца человека", а не "эволюции получения из обезьяны человека" -- https://en.wikipedia.org/wiki/Developmental_robotics.

2. Многокритериальная эволюция: кроме критерия приспособленности придумали критерий новизны (поначалу как раз для эволюции в пространстве поведений!) и далее получили существенные улучшения при использовании гибридного критерия с разными вариантами приспособленности (fitness) и новизны, разными гибридами. Собственно, я про работы в этом направлении (но не по линии робототехники) немного тут писал в "против целей": http://ailev.livejournal.com/1254147.html

В принципе, в обзоре много чего ещё обсуждается, но оно "обычное" для всех остальных методов (типа как скомбинировать обучение в оффлайне и онлайне, или иметь end-to-end эволюцию вместо эволюции только контроллера робота, или иметь типовой метод исследования, как сейчас в нейронных сетях -- берёшь большой набор датасетов и показываешь преодоление планки state-of-the-art своим гениальным изобретением).

Вообще, в робототехнике всё двигается и быстро, и медленно. Быстро -- ибо много чего происходит. Медленно -- ибо с железом работать медленней, чем с софтом, а отработанные в виртуальных мирах решения не всегда (т.е. всегда не) работают так, как они должны работать в реалии. Вот картинка из обзора, показывающая проблему выхода в реальность из виртуальности, она интуитивно понятна, но тут её потрудились нарисовать (This difference in performance is known as the reality gap, and it occurs either because controllers in simulation exploited unrealistic phenomena that are not present in the real world, or because the modeling of the sensors, actuators, and environment is not sufficiently accurate.):


В принципе, ситуация уже потихоньку меняется в указанном обзоре направлении, правда не всё там именно эволюционная робототехника, но чаще deep learning + reinforcement learning, а за ними и стандартные методы исследований. Вот, например, свежая публикация наборов данных обучения роботов в реальном мире: Google Brain released two large datasets for robotics research: https://sites.google.com/site/brainrobotdata/home

Grasping: A collection of 650k grasp attempts, data used in: http://arxiv.org/abs/1603.02199

Push: A collection of 59k examples of pushing motions, data used in: http://arxiv.org/abs/1605.07157

Both datasets contain RGB-D views of the arm, gripper and objects, along with actuation and position parameters. They were collected in a controlled environment using a wide collection of everyday objects, some of which were held out for evaluation. Enjoy!

В образовательной робототехнике регулярно поднимаются вопросы -- что это такое, и эти вопросы тянут за собой вопросы про что такое робототехника необразовательная, и какие там вообще учебные предметы и специализации. Мне кажется, что без программы исследований, без понимания того, куда движется фронтир, без этого нельзя заниматься образованием. Вот эволюционная робототехника сегодня -- это сегодняшний фронтир, будущий фронтир (как нейронные сети были пяток лет назад), эволюционный тупик (pun intended)? Нужно ли иметь его в образовательных планах для настоящих робототехников? Какие предметы нужно уже знать, чтобы понимать тамошние работы и продвигать тамошний state-of-the-art? Вот это и есть обсуждение "образовательной робототехники". А практикование эволюционной (и многих других, той же developmental) робототехники -- это и есть сама робототехника, как научная и инженерная дисциплина.
Sunday, August 21st, 2016
11:43 pm
Modern Agile и его книжки
Я тут не буду обсуждать modern agile (вот тут ругают старый agile и провозглашают модерновый -- https://www.agilealliance.org/resources/videos/modern-agile/, вот тут делают то же самое -- https://www.infoq.com/interviews/anzen), но интересен набор книжек, которые лежат в его основе: http://modernagile.org/#learnMore и не совпадающий с этим список книжек тут: https://www.infoq.com/news/2016/08/agile2016-modern-agile и эти же и ещё кое-какие книжки, помянутые в самом подробном на сегодня, но очень коротком и структурированном тексте про modern agile -- https://www.industriallogic.com/blog/modern-agile/. А вот практики modern agile из этого текста:


Дальше традиционные вопросы про а) масштабируемость всех эти lightweight методов за пределы небольшой однородной команды программистов -- скажем, в них и речи не идёт об архитектуре предприятия, а когда у вас где-то 1000 человек этот вопрос встаёт ребром, и б) применимость к системной, а не программной инженерии, то есть проектам с железом -- и не мейкерского масштаба, а побольше. Но и эти вопросы постепенно получают свои ответы. Так, я три книжки ровно из этого списка давно рекомендую на тренинге системного менеджмента -- хотя люди там приходят отнюдь не только из программистских лавок. Список литературы в http://system-school.ru/spisok-rekomendovannh-knig/ их содержит, хотя у меня в курсе и даётся немного другой набор чтива -- общий список литературы содержит много специальных книжек, которые явно не всем подряд нужны.
9:51 pm
Бессерверные микросервисы по пятаку за пару
Какой интересный поворот в бессерверные микросервисы: https://www.infoq.com/news/2016/08/serverless-autodesk. Самое интересное там -- The cost. In their [Autodesk] experience, running the lambda solution costs a small fraction (~1%) of the traditional cloud approach. The costs are further reduced by not having to pay operational staff to set up and overview the EC2 and ELB instances.

За этим ходом довольно много и других интересных слов, например Function-as-a-Service, эти лямбды ведь неспроста. A Serverless application can be a single Lambda function that responds to an event, or an entire REST API comprised of hundreds of Lambda functions and API Gateway endpoints. By plugging serverless functions into your infrastructure events you can even automate operations of your non function based infrastructure. -- это из http://serverless.com/ для управления всем этим хозяйством.

И ссылаются там на публикацию API для всего этого: http://apigee.com

Это всё для меня пока загадочно, будет ли выживать, ибо непонятно что легче: размазать по разным серверам функции и базу данных состояний, или организовать обмен сообщениями между акторами. Может быть, дальше мы услышим Actor-as-a-Service, ещё не вечер (шевеления-то уже идут -- но не в Амазоне, а в Азуре: https://azure.microsoft.com/en-us/documentation/articles/service-fabric-reliable-actors-introduction/). И там тоже есть варианты с микросервисами, только в профиль и пока без выпячивания бессерверности: Reliable Services in Service Fabric is different from services you may have written before. Service Fabric provides reliability, availability, consistency, and scalability.

А дальше по "бессерверному" облаку и все остальные парадигмы программирования размажут за small fraction (~1%) of the traditional cloud approach.
6:51 pm
Трансфёр технологий BIM или ещё раз об инженерию справочных данных
К вопросу про "перенос западной практики BIM" в Россию, поднятый в https://www.facebook.com/photo.php?fbid=10210467827357183&set=a.10201102000737371.1073741828.1389467354

Все эти потуги с "адаптацией" иностранных PLM и прочими системами этого класса (и поддерживающий BIM софт туда же) упираются обычно в проблему отсутствия справочных данных. По определению, справочные данные (reference data) -- это данные, которые используются в различных проектах. Да, это совпадает с формулировкой для "знаний". И совпадает с формулировкой для нормативно-справочной информации (НСИ). И статус этих данных -- стандарт (корпоративный, отраслевой какой-то ассоциации, национальный -- это обсуждается), разве что это не стандарт-текст, а структурированные данные "базы данных". Если эти данные специфичны для одного проекта, то это конфигурационные и трансакционные данные, с ними обычно полегче: они порождаются и потребляются в проекте и поэтому по их поводу всегда можно договориться (в том числе с использованием для их описания справочных данных). Подробней про справочные, конфигурационные, трансационные данные см. в http://ailev.livejournal.com/1067013.html -- я несколько лет назад много и часто писал на эти темы.

Обычно у западного софта стандартных справочных данных для отечественных применений нет. Вендоры софта не прогибаются с созданием нейтральных справочных данных, ибо совсем не дураки -- они делают какие-то "библиотеки" только под себя. Ну, или не делают, а ждут, пока их кто-то сделает, ибо создание справочных данных это стандартизация, это очень дорогое удовольствие для одного игрока на рынке (если только это не очень и очень крупный игрок).

Поддерживать разговор про инженерию справочных данных мало кто может. Чаще поддерживают разговор про управление справочными данными. Это проще, ибо когда справочные данные есть, то ими можно управлять. А когда нет -- то сначала их нужно сделать, этим занимается уже инженерия справочных данных, чистого "управления" не хватает.

Но для начала нужно хотя бы понимать, что ключевой вопрос -- это не вопрос софта, а вопрос данных. Мы, когда советуем на очередном предприятии создать службу PLM, рекомендуем сразу разворачиваться к НСИ в рамках этой службы, именовать её "управление инженерными данными" или как-то так, и не ориентироваться на поддержку САПР (ибо поддержка САПР потом всё равно уйдёт в отдельную от PLM службу). И действительно, сам софт PLM и его развитие отступает буквально через годик на второй план, и вся деятельность новой службы дальше идёт уже по линии НСИ, главным образом структурированной. В отечественных разговорах про BIM вся эта история пока не полностью проявлена, хотя в OPEN BIM иногда про эти отечественные справочные данные иногда разговаривают. А без справочных данных софт "из коробки" не работает. "Настроить" -- это и есть создать необходимые справочные данные.

Вся боль и печаль с ISO 15926 ("почему ISO 15926" -- http://dot15926.livejournal.com/39300.html) это была попытка capital projects industry (owner-operators) вывернуть руки вендорам софта PLM/CAD/CAE по вопросу о справочных данных. С очень неоднозначным результатом: полной смерти всего проекта нет, но и бурной жизни тоже не наблюдается. Вендоры пока успешно сопротивляются. BIM всё-таки больше про гражданское строительство сейчас, а когда у вас появляется большое количество оборудования в проекте, то традиционно обсуждаемого в тусовке OPEN BIM маловато будет, и всю ту же песню нужно петь по-новой, уже с какими-нибудь "реакторами" и лесом труб на борту хитро устроенной бетонной коробки.

Опять же, справочные данные раскиданы по ГОСТ (http://ailev.livejournal.com/1027975.html -- "политические дискуссии, обсуждение стандартов и религиозные споры -- это одного поля ягоды, и чисто технократическая постановка вопроса в стандартизации неверна"), и договориться поэтому о них трудно. Но также очень трудоёмко их уже после договорённости об их сути формализовать и уложить в структуру данных. Просто запретительно трудоёмко, поэтому никаких кавалерийских наскоков в создании "единых информационных пространств" не получается. Вот у нас были попытки описать методологию инженерии справочных данных на примере ISO 15926 (http://techinvestlab.ru/files/RefDataEng/RefDataEngr_ver_2_25feb11.doc), за прошедшие пять лет в плане снижения трудоёмкости этой работы изменилось не слишком много, даже с учётом того, что мы разработали онтологический редактор, поддерживающий ISO 15926 -- https://github.com/TechInvestLab/dot15926.

Прямо сейчас начались очень осторожные разговоры по использованию неестественного интеллекта для этих целей, но это пока только разговоры. После того, как появится хоть какая-то автоматизация в вопросе создания справочных данных -- вот после этого ситуация со всеми этими OPEN BIM и ISO 15926 может начинать меняться. Но вкладываться в НИР, когда даже НИОКР под вопросом -- этого никто не хочет, это опять же под силу только самым крупным игрокам.

В управлении информацией в масштабах жизненного цикла и обсуждении справочных данных и их места во всей этой истории технологического развития PLM/CAD/CAE систем в целом и BIM в частности есть несколько совсем разных разговоров, которые нещадно путаются, но которые нужно как-то различать:

а) архитектура предприятия. Тут обсуждают, какие именно практики управления инженерными данными (синоним: управление инженерной информацией, управления жизненным циклом, управления конфигурацией) будут использоваться и для чего, кто этим будет заниматься, какой софт нужно будет адаптировать, где какие данные будут преобразовываться, какие приложения это затронет. Обсуждаются деятельность, программы, сервера и линии связи. Тут решается, "корпоративная шина" или обмен данными "точка-точка" по потребности, тут принимается решения о "брокерах" или "единых хранилищах", тут звучат слова про "единое информационное пространство" (и не спрашивайте, что они означают -- это чисто корпоративно-политический термин). Именно в этой точке обсуждается, чем "библиотека справочных данных" (reference data library) отличается от типовой MDM-системы (master data management) и кому это вообще нужно в крупной компании (а в мелкой компании это вообще никому не нужно, там согласны на то, что попросит в этом плане заказчик -- если он вообще о чём-то попросит).

б) разговор про форму, foundational ontology. Тут договариваются про "базовый формат" -- JSON, OWL, XML, эксель-таблицы и т.д. Именно на этом уровне договариваются о моделере данных: под каждым из этих форматов есть какая-то теория (триплы, реляционные таблицы, деревянные структуры данных и т.д. -- противопоставление факт-ориентированного представления, объектного как в ООП, реляционного и т.д.) и моделер должен поддерживать эту дисциплину (технология всегда ведь поддерживает какую-то дисциплину, даже если это явно не обсуждается!). Именно на этом уровне принимаются решения про структуру хранилищ данных: SQL, NoSQL, triple-store, объектные базы и т.д..

в) вопрос о наличии или отсутствии общей "картины мира" (upper ontology), соглашений о моделировании данных в рамках выбранного формализма -- справочные данные самого верхнего уровня. Либо у вас есть какое-то понимание, как моделировать пространство, время, оборудование и его классы, процессы, отличать компоненты от модулей, разбираться со множественностью классификаторов на разных стадиях жизненного цикла, либо этого нет.

г) справочные данные для всех инженерных практик -- все эти бесчисленные каталоги оборудования, таблицы типоразмеров, классификаторы изделий и прочие справочники материалов, их несть числа. И ещё представление 3D, календарного планирования и issue в PLM, включая все их атрибуты. Нужно понимать, откуда они все берутся и как сделать так, чтобы был всегда один источник правды: какой-нибудь "адрес поставщика" отслеживался и менялся только в одном месте, а остальные этим адресом только пользовались. Утопия, конечно, но мы к ней стремимся.

д) вопросы автоматизации получения справочной информации за счёт технологий обработки естественного языка, участие в организациях по стандартизации и прочие способы снижения стоимости получения справочных данных. Это НИРы, для России почти неактуально. Хотя без этого пункта всегда будут догонялки с западом, всегда вопрос "трансфёра технологий" будет в одну сторону (несмотря на то, что в том же deep learning полно русскоговорящих людей).
Saturday, August 20th, 2016
12:14 am
Глаз художника: solved, реализуем кнопку "сделайте мне красиво" и ждём антифильтров.
Программы наложения стилей типа Prism -- это уже общее место. Вот вам парочка примеров:

1. Мона Лиза в сотне стилей (все картинки, как понимаете, нечеловеческой рисовки. Обратите внимание, что идея "наложения стиля" тут предельна -- вместо картины какого-то художника в качестве образца стиля берутся любые картинки по 10Мпикселей, например, стили самой природы: какое-нибудь дерево или натюрморт, результат будет после этого изображён веточками или фруктиками) https://youtu.be/5GS3RNBYJZs:

Само приложение -- https://itunes.apple.com/app/id1100723148, стоит $1.99, художничать нынче дёшево.

Рисовать маслом все эти художества уже тоже можно, классическим методом -- смешивая краски на палитре (https://youtu.be/nDp124yDr14):

Робот, конечно, пока дорогой. Но он может работать круглосуточно, и у него не бывает мук творчества.

2. А это уже не отдельные картинки, а видео -- увиденное тем же "глазом художника" (https://vimeo.com/175540110):

Так и вспоминается Iblard Jikan (http://www.tvcok.ru/film/vremya-iblarda.html), но опять же -- разница в цене не в разы, а в порядки.

Это всё даже уже не свежее, это месячной давности. А через год-полтора это будут уметь делать все мыльницы.

Интересно, что искусствоведение не отстаёт: если вдруг появился феномен использования "фильтра" (а именно так по-простому сейчас начали называть "глаз художника" от нежити), то нужно автоматически оценивать его эстетичность. Вот и первая работа в этом направлении, первый учебный датасет школы художественной критики для нежити (http://arxiv.org/abs/1608.05339):

Как видите, если в вашем распоряжении ну очень много разных "глаз художника", то нужно просто выбрать для данной картинки самый эстетичный, и порекомендовать именно его -- при этом для разных картинок "самый-самый" фильтр оказывается разным, эстетика фруктов и эстетика портретов отличаются сильно. Так что кнопка "сделайте мне красиво" реализуется полным ходом.

Следующим будет дрон, который смотрит недреманным оком на окружающую действительность, потом быстро подлетает к правильной точке и делает незабываемый кадр -- будь то селфи, художественно снятый кусок какой-нибудь решётки или просто панорама злачного места. Далее он подбирает идеальный фильтр, сочиняет сопроводительный текст и публикует это всё в фейсбуке. Вы этого хотели -- вот вам, вы ещё пожалеете о наступившем художественном изобилии.

Так что вам захочется иметь ещё и "антифильтр", обычный глаз взамен художественного. Передаём привет "Матрице", ждём появления антифильтров.
Friday, August 19th, 2016
9:01 pm
Нооскопление и духовноскрепизация
Нет, сегодня никакого путча (хотя ещё не вечер). Разве что "Новый министр образования Ольга Васильева работала замначальника управления администрации президента по общественным проектам. Оно было создано в 2012 году для реализации идеи «духовных скреп» — патриотического воспитания и духовно-нравственных основ граждан, причем госпожа Васильева была едва ли не главным публичным спикером от управления. Ольга Васильева — доктор исторических наук, ее специализацией является история РПЦ в ХХ веке" -- http://kommersant.ru/doc/3069095

Никакого путча, ноосфера идёт в сторону духовных скреп. И я уже видел довольно много доброжелательных обсуждений научности нооскопии, самое время науками заняться историку церкви. Шок первых дней изучения нооскопии прошёл, тексты про нооскоп всё меньше и меньше обсуждаются как поток сознания, тон всё серьёзней и серьёзней. Нет сегодня никакого путча, просто медленные, но неуклонные нооскопление и духовноскрепизация всея Руси, каждый день по чуть-чуть.

Мой слоган "мимо школы" тем самым получил ещё одно подтверждение. Надо бы его как-то усилить, типа "мимо школы, и подальше от неё".

Обсуждение в фейсбуке: https://www.facebook.com/ailevenchuk/posts/10207836997576922
3:40 pm
Подстрочник рассказа о тренажёре клуба одиноких мозгов сержанта Солта
За пару последних месяцев я написал чуть ли не книжку про развитие беглости мышления с опорой на тренажёры -- путём выполнения многих мелких заданий, как в физике, математике, информатике, но только набор предметов другой, начиная с системного мышления.

А поскольку мне уже несколько раз приходилось как-то связно об этом рассказывать, я сделал для себя "слайдомент" с подстрочником этого рассказа (http://www.slideshare.net/ailev/ss-65159493):


Подстрочник излагает идеи в другой последовательности, нежели мои записи в этом журнале, тем не менее, всё содержание рассказа (и много сопутствующей информации, если не забывать проходить по тамошним ссылкам) можно найти в этих записях (и они же на последнем слайде как "литература"), читать их лучше в хронологическом порядке (то есть снизу вверх):
1:41 am
lytdybr
Задачи по системным мышлемам идут не трудно, а очень трудно. Кавалерийский наскок не получается. Думаю, не сделать ли какой хакатон (сиречь "субботник") на эту тему.

Заочная физматшкола МФТИ работает, как выяснилось, по старинке: материалы нам выслали обычной почтой ещё в июне, но они до сих пор не дошли. Так что пришлось связываться по электронной почте и потом распечатывать материалы самостоятельно. Ответы всё одно нужно будет делать по snail mail. Классика всегда в моде.

Отрок начал вещание своих прохождений игр на ютьюбе live, "стриминг". Я его послушал -- и понял, что это такой современный вариант радиолюбительства, попытка чего-то такого повещать, неважно чего, лишь бы "выйти в эфир". Я это "радио" практиковал в школьные годы в самых разных формах. Одной из самых криминальных было присоединение двадцативаттного лампового папиного усилителя к радиоточке и вещание разнообразной музыки в часовой обеденной паузе городского проводного радиовещания, это было где-то в самом начале 70-х. Диджеил честно, даже объявлял отдельные треки через микрофон МК-47. Контролировал качество -- да, у соседей из радиоточек звук был, хотя и не такой громкий, как при городской трансляции. Ещё я много лет был старшим оператором на школьной УКВ-радиостанции, имел наблюдательский позывной (но это не вещание) и даже на городской радиостанции ДОСААФ выходил на связь морзянкой на КВ. Так вот, этот сегодняшний стриминг -- это продолжение того же самого "радиолюбительства", только новыми средствами. Жена, кстати, тоже послушала вещание отрока и страшно радовалась, что у его канала нет подписчиков (друган Виталик, для которого и было организовано вещание, тут не в счёт). Ну, радиолюбители тоже были явно без талантов футбольного комментатора и игрока в одном флаконе (что подразумевается у стримеров). Вот мой в этом плане -- явно радиолюбитель, не стример.

У отрока сломался второй уже однотипный самокат знаменитого немецкого качества -- тоже рулевая колонка, тоже слом, но где-то в двадцати сантиметрах от прежнего слома. Отрок немедленно переключился на убивание моего самоката (знаменитого отечественного качества). Но моё отношение к самокатной инженерии стало сильно похуже. Вот эти ломающися в руле красавцы, которых не хватает даже на одно полное лето: http://www.samokatkin.ru/samokat-smartscoo2-straight-red.html (ломается чёрная рулевая трубка -- кольцевая трещина, на разной высоте над муфтой).

Кизомба оказалась настоящей обманкой: выглядит она как невинное топтание пары на месте (https://www.youtube.com/watch?v=tbrnJM7p2JM -- это видеорекламка одной из студий в пяти минутах пешком от моего дома, но ещё пара студий от моего дома в двухминутной близости), утверждается, что за месяц вполне можно научиться его танцевать (ага, попадать в ритм на паре движений) но в реальности это оказывается довольно сложным танцем.
-- группы "для начинающих" там на 3/4 вполне себе опытных танцоров. Разве что танцевали они не кизомбу, и теперь их опыт им только мешает. Требуется где-то около двух недель (четыре занятия), чтобы понять бесполезность кавалерийского наскока и ненужность опыта.
-- группы "для начинающих" состоят из "продолжающих" и даже "продвинутых" более чем наполовину! Туда приходят отрабатывать основной шаг, "базу". То есть ты попадаешь к "начинающим", и оказываешься в компании опытных танцоров, сражающихся с собой, плюс более-менее уже разбирающихся в кизомбе, которые сражаются уже с кизомбой.
-- кизомб много самых разных: просто кизомба (португальский вариант, импортированный из Анголы -- поэтому опыт латиноамериканских танцев тут не подходит), ретро-кизомба, французская кизомба, фьюжн и урбанкиз. На вид вы их особо не различите, но для знатоков это разные танцевальные стили, квалификацию можно повышать годами.
-- все преподаватели учат разному и противоречат друг другу. Канона нет. Я видел троих, все они по-разному объясняют даже как держать руку партнёрши. Но все трое раз за разом тыкают тебя носом в ошмётки разных других танцевальных стилей, которые из тебя упорно вылезают на каждом занятии -- царских путей в кизомбу даже для опытных танцоров нет, все проходят через группы для начинающих (и многие даже неоднократно).
-- по сути это психопрактка, танец-медитация. Это топотушки-обнимашки, танец не столько "вовне", для зрителей, сколько "вовнутрь", для пары. Хотя зрелищность в этом танце тоже наличествует, но медитационная основа главная. И никакого равноправия полов: роли мужская и женская отличаются кардинально -- мужчина определяет весь танец (никаких выучиваемых фигур нет, разве что только в учебных целях), а женщина отражает это ведение. Это дополнительная засада: мужчина должен собраться и не забываться ни на секунду, на нём вся ответственность за танец. А женщина наоборот, расслабляется -- ибо при любом её напряжении теряется контакт, теряется синхронизация движений. Пара движется как одно целое.

Побывал сегодня на тусовке покемонщиков. Это прямо около южного входа в метро Китай-Город, около памятнику Кириллу и Мефодию. Люди лежат на травке, сидят на бордюрчиках, их под полтыщи человек, все уткнуты в телефоны, у всех на экранах одно и то же характерного вида приложение. Ведут себя тихо, иногда раздаются аплодисменты то там, то сям -- это ловят кого-то особо редкого. В виртуальном пространстве на этом месте разбросано огромное количество покемонной приманки, и поэтому покемоны ловятся со скоростью разбрасывания шариков, т.е. непрерывно. Все счастливы, но для получения счастья до этого места нужно дойти ножками.

Для окрошечной смеси из "Перекрёстка" правильный квас в бутылках -- "Царские припасы". Хотя он не кислый окрошечный, а довольно сладкий, но всё одно сильно получше других сортов. Лето заканчивается, нужно наедаться окрошками впрок.
Thursday, August 18th, 2016
1:29 pm
Об философов
В интернетах опять неспокойно, обсуждают необходимость работы с философскими проблемами некоторого предмета -- https://www.facebook.com/elashkina/posts/1220748401280319. Я ещё могу понять, когда обсуждаются методологические вопросы (ответ на вопрос "какие практики я тут могу применить", а хоть и практики мышления), но опять поминать философию при обсуждении фундаментальных основ какого-то предмета? На кой ляд звать философов, что они привнесут, кробе бла-бла-бла?

В этой дискуссии договорились даже до того, что любой серьёзный учёный -- философ: "огромное число крупнейших исследователей (Эйнштейн, Дирак, Шредингер, Пригожин, Хокинг, Пенроуз, фон Нейман - ну не счесть) только философией и занимались. А вокруг ходят философы и рассуждают: зачем исследованию философия?".

Ни один серьёзный человек сегодня с серьёзными претензиями на обсуждение серьёзных вопросов (трактовки всех случаев употребления слова "серьёзный" тут могут быть какими угодно) не называет себя философом. Если ты хочешь быть в компании литературных критиков, редакторов глянцевых журналов и историков, называй себя философом. Если хочешь, чтобы тебя слушали другие серьёзные люди, а люди твоего предмета -- не называй себя философом! Вот и не называют.

Вот, например, работа по давно обсуждавшемуся "философскому" вопросу о физичности или нефизичности вычислений на машине Тьюринга, а заодно формального определения креативности: http://arxiv.org/abs/1608.04672 -- A fundamental question is whether Turing machines can model all reasoning processes. We introduce an existence principle stating that the perception of the physical existence of any Turing program can serve as a physical causation for the application of any Turing-computable function to this Turing program. The existence principle overcomes the limitation of the outputs of Turing machines to lists, that is, recursively enumerable sets. The principle is illustrated by productive partial functions for productive sets such as the set of the Goedel numbers of the Turing-computable total functions. The existence principle and productive functions imply the existence of physical systems whose reasoning processes cannot be modeled by Turing machines. These systems are called creative. Creative systems can prove the undecidable formula in Goedel's theorem in another formal system which is constructed at a later point in time. A hypothesis about creative systems, which is based on computer experiments, is introduced.

Философы просто не поймут этого текста! И там внутри много-много математических формул, вкупе с заявлениями типа The logical existence principle can be regarded as a new principle of logic that was never before used in a mathematical proof. The existence principle overcomes the incompleteness of formal systems and the limits of Turing machines because it describes the perception of the physical existence of Turing programs as a whole.

Проверять это заявление будут логики и математики, могут позвать ещё физиков. Но точно разбираться с этим будут не философы! Ибо у философов в последнее время с логикой развод, а дружба с литературой и литературной критикой. Наука и инженерия направо, философия налево -- разошлись мирно.

Или вот целая книжка про строгие и правдоподобные рассуждения и их связь с физической реальностью -- E.T.Jeynes, "Probability theory: the logic of science", http://bookzz.org/book/539703/d8b66c. Обсуждается, как ошибки в мышлении приводят к стагнации в механике, квантовой физике -- и как нужно мыслить, чтобы преодолеть эти затруднения (мыслить нужно с принятием байесовской версии теории вероятности). Автор -- математик, а не философ. С этим текстом очень хорошо стыкуется понимание инженерного метода как опирающегося на эвристики, а не строгие теории: Billy Koen "Discussion of the method" http://bookzz.org/book/1244349/defe5d. Автор -- инженер, а не философ.

Эти работы уж точно не философы придут обсуждать и проверять в порядке peer review, а физики и математики, логики и инженеры. Философов при этом уж точно не позовут, они на фронтире работать не умеют, рок-н-ролл из философии ведь давно ушёл.

Но у философов есть поганая привычка: когда кто-то что-то делает очень умное, они тыкают в него пальцем и обзывают философом. Очень удобная привычка для зазывания молодёжи в свои ряды. Только вредная, сбивающая с толку людей. Ибо нужно учиться на кого угодно, кроме философа (физика, математика, инженера), чтобы потом в тебя философы ткнули пальцем и обозвали "философом". А если ты послушаешь философов и будешь учиться на философском, чтобы сделать что-то очень умное, то кранты, философом тебя после этого назовут только художественные критики.

Такое впечатление, что онтологические вопросы обсуждают онтологи, эпистемологические -- какие-то спецы по машинному обучению и искусственному интеллекту, системные -- люди, занимающиеся развитием системного подхода. Всё разобрали в рамках разделения умственного труда. А "философия" делает вид, что ничего за последние полвека не произошло, что она вечна. Нет, не вечна. Это только тень того, что было полвека назад. Сегодняшний фронтир развития человеческой мысли проходит в совсем других местах, не философских. Любомудрие развивается в совсем других предметах -- см., например, пункт 2 в http://ailev.livejournal.com/1283663.html (и философии там нет намеренно).

UPDATE: комменты в фейсбуке по этому посту тут: https://www.facebook.com/ailevenchuk/posts/10207826023862586
Monday, August 15th, 2016
1:17 pm
Хакатоны по Julia
Я вот тут подумал, какие хакатоны интересно было бы выполнить для Julia, все они развёрнуты в обучение (не будет обучения -- не будет и основной работы):
-- создание русскоязычной версии языка (ключевые слова -- переменные-то и сейчас могут быть на русском), для учебных целей. Насколько я помню, для детишек родной язык процентов на тридцать снижает порог вхождения в язык. Примером тут может служить испанская версия Julia -- Julieta (https://groups.google.com/forum/#!msg/julia-dev/Vu6zyCPkkFs/OJxSGHBTBAAJ). Я знаю, что мнения о целесообразности использования родных ключевых слов в языках расходятся кардинально, но все эти мнения опираются не на эксперимент, а хотелки и ожидания (особенно мне нравится, что наиболее страстно обсуждают этот вопрос те, кто никогда не учил деток массово, целыми классами, без отбора особо одарённых).
-- курс алгоритмики на базе набора задач для исполнителя Робот (http://server.179.ru/wiki/?page=DenisKirienko/Kumir). Есть задачи, есть тестовые кейсы, нужно нарисовать исполнителя Робот -- и обеспечить режимы пошагового исполнения, визуализацию поля и робота на нём, автоматическую проверку заданий на множестве тестов и их смену. То есть повторить функциональность КуМира, только для языка Julia.
-- поиграться с RobotOS.jl, это Julia интерфейс к ROS (https://github.com/jdlangs/RobotOS.jl). Julia садится на интерфейс ROS к Питону и решает проблему двух языков -- писать на Julia так же быстро, как на Питоне, но скорость выполнения как на Си. Для роботики это должно быть идеально. Вот тут доклад про autonomous driving for RC Cars with ROS and Julia -- https://www.youtube.com/watch?v=bX4TXWO7dA0 (там гоночные модельки в 1/10 величины на ARM контроллере под ROS, программируются на Julia -- богатые библиотеки оптимизации используются для предсказательного управления на основе моделирования, там весьма продвинутые алгоритмы ТАУ). То, что творит в заносе "тележка на колёсиках" -- ну, это круто. Вебсайт http://www.barc-project.com/ (осторожно, звуки автомобильных заносов!) -- говорят, что платформа может быть использована в том числе для освоение control theory, традиционная составляющая учебных программ робототехники. Вдобавок данные экспериментов грузятся в облако для дополнительных исследований. Вот что-то подобное и похакать.

По плану версия 1.0 у Julia выйдет в июле 2017, а версия 2.0 (в которой будет, например, тип record -- именнованный tuple) в июле 2018 -- эти даты приведены в самом конце ролика https://www.youtube.com/watch?v=5gXMpbY1kJY (а сам ролик посвящён описанию ожидающихся в 1.0 изменений). Сейчас есть уже второй релиз-кандидат версии 0.5, а версия 0.6 будет последней в 0.x линейке.
11:42 am
На окончание третьего потока по системному менеджменту
Вчера закончил третий поток шестидневки системного менеджмента. День "Стратегирование", сборка материала всех предыдущих дней и несколько способов способов документирования стратегии (при всех предварительных заверениях, что "создание стратегии -- это первый шаг к неудаче" и раскрытии глаз на пользу оппортунизма). Дальше домашнее задание, как обычно после каждого дня, а затем предполагается читать помянутые в курсе книги, и материала курса как раз достаточно, чтобы прочитанное разлеглось по заранее подготовленным полочкам. Но результаты уже есть: к шестому дню практически все в группе уже стартовали какие-то программы изменений в своих компаниях на основе материала предыдущих пяти дней.

Самая непоправимая польза этим тренингом наносится методологически подкованным людям, которые уже подробно знакомились с проектным-процессным управлением и имеют производственный опыт. Как ни прискорбно, чем неопытней люди, тем меньше они могут взять из материала (хотя мне всегда казалось, что тут должно быть ровно наоборот -- но нет, пока магистры из курса берут минимум, многоопытные директора по развитию -- максимум, а о бакалаврах речи ещё не идёт, они только в далёких планах).

Тренинг и все выкладываемые мной в свободный доступ материалы -- абсолютно разные продукты, хотя их предмет и один и тот же. Я письменный и я устный различаюсь существенно. Можно сказать, что разного контента в моей устной и письменной форме поровну: только послушать или только почитать для полного понимания не получится.

Продолжение будет с середины сентября, по воскресеньям раз в пару недель -- http://system-school.ru/

И я ещё делаю ставку на интенсификацию обучения, хочу добавить тренажёр по системным мышлемам. Первые полсотни задач уже есть, остаток августа будут плотно этим заниматься, курсы уже никогда не будут прежними. Царских путей в системное мышление нет и вряд ли будет, но какую-то тропинку через болотистые места мы туда натопчем.
Sunday, August 14th, 2016
1:53 am
Оценка результатов обучения и Modeling Theory of Science, Cognition and Instruction
"Учись в Китае у профессора, который занимается наукой, и отстанешь на полгода в получении знаний по сравнению с учёбой у не слишком занаученного профессора" -- это один из предварительных результатов исследования инженерного образования в России, Китае и США, который активно обсуждается в моей фейсбук-ленте. Слайды тут https://ioe.hse.ru/data/2016/06/15/1117430416/%D0%9F%D1%80%D0%B5%D0%B7%D0%B5%D0%BD%D1%82%D0%B0%D1%86%D0%B8%D1%8F%20%D0%B4%D0%BE%D0%BA%D0%BB%D0%B0%D0%B4%D0%B0.pdf, а есть ещё видео https://youtu.be/eHmmaXFm6EE.

Вопрос, который немедленно задал akoev -- как измеряли знания. Скажем, использовали ли они concept inventory, или сходили погулять с обычными тестами? Вопрос, замечу, ключевой.

В моей длинной серии постов про тренажёры я как-то не касался материала про concept inventory, а также Modeling Theory of Science, Cognition and Instruction -- хотя это имеет прямое отношение и к конструированию вопросов тренажёра, и к обоснованию того, почему и как я предлагаю организовать обучение. Ибо я это писал уже год назад, и развёрнуто. Сейчас самое время повторить этот текст тут, но я просто дам на него ссылку -- http://ailev.livejournal.com/1197467.html, "Заметки к "Заметкам по теории моделирования" Давида Хестенеса". Там много чего интересного, но самое важное замечание -- что нужно моделировать не только целевую онтологию, целевую и обычно контринтуитивную схему предмета, но и бытовую онтологию (фолк-онтологию, "народное" понимание), текущее интуитивное понимание предмета. И затем использовать это моделирование как для instructional design (объяснений и тренажёров), так и для тестирования -- тех самых concept inventory. Мы, конечно, это делаем -- "типовые ошибки" в мышлемах это как раз результат такого моделирования (скажем, когда стейкхолдера путают с человеком -- принца Гамлета с исполняющим его роль актёром. Это ж и есть "бытовая схема"). Почитайте текст, там много интересного, в том числе по ссылкам -- и про конструктивизм с конструкционизмом, и про необходимость обучения пониманию в явном виде (я это обсуждал тут недавно http://ailev.livejournal.com/1285014.html), и даже про недавно мной зацепленное обучение истории дисциплины вместо самой дисциплины (http://ailev.livejournal.com/1285120.html) -- учить нужно не повторяя историю всех заблуждений от Аристотеля до наших дней (оставить это историкам), а выполняя один ход: между текущей бытовой онтологией (выводя её на уровень сознания! понимание в явном виде!) и state-of-the-art (тоже выводя на уровень осознания!).

Возвращаясь же к исследованию из первого абзаца этого поста, то в целом непонятно что замеряли, и непонятно что следует из результатов замеров -- вполне возможно, что для счастья в жизни нужно что-то такое, что в эти тесты не вошло. Да и само счастье в жизни может по-разному быть измерено. С образованием и счастьем измерения хуже чем в медицине замеры с выздоровлением, http://rusanesth.com/novosti/red/dokazatelnaya-mediczina-vzletyi-i-padeniya.html -- читать, заменяя "лечение" на "обучение" и добавляя лаг в десяток лет на проявление результатов (это ж образование, оно должно давать долгосрочные результаты!). В конце материала по этой ссылке делается разумный вывод, что в подобных случаях не обойтись без заумного для большинства педагогов на сегодняшний день подхода с оценкой вероятностей по Байесу. Но и этим когда-нибудь нужно будет заняться (хотя там всё сложно, но зато описывается как думать про эвристики -- а что мы тут можем предложить, кроме эвристик? С теориями ведь туго! Вот тут тропинка протоптана, через джунгли с дикими зверями, в края без педагогов и философов: http://bayes.wustl.edu/etj/prob/book.pdf).
Saturday, August 13th, 2016
2:11 am
Непопсовая лента о будущем
Попсовых лент о будущем полно: http://futurism.com/, http://nextbigfuture.com/, https://www.technologyreview.com/. А вот как бы выглядели какие-нибудь непопсовые ленты? Я вот попробую дать несколько ссылочек цветущей сложности нынешней непопсы:

Конечно, начинаться такая лента должна с традиционных прогнозов, типа "где рванёт deep learning в ближайшее время?". И рассказа о том, что это роботы, здравоохранение и самоиграйки/саморисовалки/самотворилки (начиная с дико умных фильтров к фотошопу, которым можно рассказывать на чистом русском языке, что ты хочешь сделать, а они именно это и будут делать, кончая программами мультипликации, которым ты говоришь, какой мультфильм хочешь, а они сами сочиняют сценарий и рисуют персонажей по их краткому словесному описанию. Это как музыкальные "самоиграйки", в которых соло ты делаешь сам, а аккомпанимент весь они тебе играют сами -- только из музыки это нужно переносить во все остальные виды творчества, да и в компьютерных самоиграйках соло тоже тебе уже давно делают, например, в Band-in-a-Box: http://www.pgmusic.com/). Творчество в массы! Каждому в карман (на смартфон) по фотографу, ретушёру, художнику, мультипликатору, композитору, музыканту, поэту, писателю и т.д., причём не более чем по $2.5 за каждую специализацию. Prism тут только самая первая ласточка, виртуальная реальность уже сажает и тебя самого в этот мир, делая и тебя самого мультяшкой, за копейки (https://www.youtube.com/watch?v=xMgoypPBEgw). Это попсовый творческий видимый публике художественный фейс для непопсовых технологий машинного обучения, которые через пяток лет научат наконец-то танцевать роботов и тыкать носом в очевидные ляпы консилиумы врачей из мяса. Тут я даже ссылок приводить не буду, это приложения, это попсовая поверхность. А ещё в попсовых лентах любят написать про "охладили пару атомов почти до нуля, поставили мировой рекорд" -- ибо это зримо, круто, читабельно. Особенно что-то из астрофизики: это сейчас подмешивается во все ленты. Но интересно то, что происходит на глубине, где генерируются идеи, которые потом все эти мировые рекорды и обеспечивают в конечном итоге.

Как обычно в последнее время, источник идей -- информатика, которая потом и даёт прорывы в робототехнике, генетике, астрофизике и т.д.. А в информатике крутые идеи идут из AI (включая машинное обучение, в котором внутри deep learning -- но там ещё и многое другое). На непопсовой глубине бурлит очень разнообразная и непростая жизнь, идёт эволюция идей, которые потом и обеспечат прорывные новости в попсовых лентах.

Вот обзор по дифференцируемому программированию (differentiable programming): про создание функциональных языков программирования, в которых в силу их дифференцируемости можно использовать backpropagation и какие-то функции не столько определять, сколько выучивать -- https://pseudoprofound.wordpress.com/2016/08/03/differentiable-programming/. В конце текста заодно поминается и вероятностное программирование и его языки, я о них неоднократно писал. Там не только программа может по входу дать выход, но и по выходу показать входное распределение. Информатика никогда не будет прежней, рок-н-ролл из классической computer science ушёл, она становится чем-то типа ньютоновской физики в начале прошлого века -- несмотря на то, что компьютерная революция ещё не началась (http://ailev.livejournal.com/469995.html).

Ещё одна тема, которую нельзя недооценивать -- это попытки transfer learning (передачи выученного) не просто в случае нейронных сетей, но в reinforcement learning (обучении с подкреплением). Модели обучения с подкреплением начинают усложняться с тем, чтобы отдельно выучивать особенности окружения и особенности разных сложных поведений в этом окружении. То есть умение бродить в лабиринте с засадами нужно выучить так, чтобы потом использовать это умение для достижения разных мест в этом лабиринте. Или выучить робота "танцевать вообще" (управляться с телом), чтобы он потом танцевал или кизомбу, или мазурку. Вот работа в этом направлении, там некоторый обзор: http://arxiv.org/abs/1606.05312, Successor Features for Transfer in Reinforcement Learning. Всё это направление развивается сейчас как эксперименты с value function representation, и тут ожидается много чего интересного в ближайшие годы.

Инженерия машинного обучения (и даже круче -- искусственного интеллекта) тоже не стоит на месте. Вот обсуждение безопасности в машинном обучении с попыткой принести известные в инженерии эвристики в машинное обучение, Engineering Safety in Machine Learning -- http://arxiv.org/abs/1601.04126. А вот безопасность уже даётся для более общего случая AI-систем в реальном мире, Concrete Problems in AI Safety -- https://arxiv.org/abs/1606.06565. В отличие от попсового захода со страшилками скайнета, тут самый обычный инженерный разговор: accidents in machine learning systems, defined as unintended and harmful behavior that may emerge from poor design of real-world AI systems. Обсуждается пять рисков (на примере робота-уборщика): avoiding negative side effects (типа как объяснить роботу, что китайские вазы в доме разбивать нельзя: невозможно же ему давать запреты на каждый вид предметов!), avoiding reward hacking (речь идёт не о внешних хакерах, а самом алгоритме. Скажем, если награждать робота за отсутствие бардака, то алгоритм может обнаружить, что при сужении поля зрения бардак исчезает -- и придумает способ ослепить робота, чтобы получить свою награду), scalable oversight (поднять степень автономности -- чтобы не переспрашивал, можно ли выбросить фантик от конфетки, или можно ли выбросить обнаруженный сотовый телефон), safe exploration (чтобы не делал опасных экспериментов. Скажем, можно поэкспериментировать с половой тряпкой, но тыкать влажной тряпкой в электророзетки не стоит), robustness to distributional shift (чтобы после перехода из учебной обстановки в целевую он устойчиво функционировал: скажем, безопасные в офисе стратегии после их тренинга в офисе могут оказаться весьма опасными в заводском цеху). И опять же, всё это должно учитывать контекст обучения с подкреплением. Когда-то Yan LeCun заметил, что reinforcement learning это вишенка на торте базовых алгоритмов машинного обучения -- и с ним даже все согласились. Но вишенка эта сейчас стремительно разрастается.

Развитие темы highway networks (residual networks, которые победили всех в соревновании ImageNet тут как вариант этих highway) в сторону рекуррентных сетей, Recurrent Highway Networks: https://arxiv.org/abs/1607.03474. LSTM networks that are not only long in time but also long in space (per time step). They enable the use of substantially deeper transition architectures than have previously been trained while still maintaining successful backpropagation of the gradient. As a result, it becomes possible to construct powerful and trainable sequential models efficiently.

Работа Neural Generation of Regular Expressions from Natural Language with Minimal Domain Knowledge, http://arxiv.org/abs/1608.03000 показывает, что generic neural architectures for generating regular expressions
outperform customized, heavily engineered models. The results suggest that this technique can be employed to tackle more challenging problems in broader families of formal languages, such as mapping between language description and program scripts. Грань между естественными языками и искусственными потихоньку размывается.

А ещё интересны работы типа "Why Should I Trust you?” Explaining the Predictions of Any Classifier" http://www.kdd.org/kdd2016/subtopic/view/why-should-i-trust-you-explaining-the-predictions-of-any-classifier -- проблема необъяснимости результатов машинного обучения (нейросетей, SVM, любых других алгоритмов). Там предлагается выучивать локально вокруг каждого предсказания хорошо интерпретируемую модель. К этой работе даже рекламный ролик есть, со скрайбингом: мостик в мир попсовых лент о будущем -- https://www.youtube.com/watch?v=hUnRCxnydCc. Содержание там типа "объяснится всё!".

Но что это я всё про машинное обучение? Есть интересности и другого порядка. Вот, например, Towards Visual Type Theory as a Mathematical Tool and Mathematical User Interface -- http://arxiv.org/abs/1608.03026, early-stage project in mathematical knowledge management and mathematical user interface development. Когнитивная психология, наработки Пирса по визуализации логики, математическая память с наблюдениями типа mathematicians rely often on memory mechanisms of the brain other than the ordinary memory system. In particular, they often rely on what we will refer to here as “muscle memory” or “haptical memory”. Units of such haptical memory are produced in the course of problem solving: passing from a question whose answer is not clear prima facie to an answer via logical inference and computation. А дальше предлагается некоторая хитрая математическая нотация, математическое иероглифическое письмо, типа такого:


UPDATE: вот ещё призывы иметь визуальную поддержку математической работы и какая-то библиография в этом направлении -- http://arxiv.org/abs/1608.06349

Дальше можно было бы охарактеризовать какие-то видео с JuliaCon 2016 (уже опубликованы все видео: https://www.youtube.com/playlist?list=PLP8iPy9hna6SQPwZUDtAM59-wPzCPyD_S). И добавить обзорное видео с European Lisp Symposium (хотя это уже была бы не "лента", ибо это аж май 2016), озаглавленная Julia: Lisp or not to Lisp? In the tradition of the great Lisp hackers, this talk include lots of live coding in the REPL, with all the excitement, and possibility of failure entailed. По факту это одна большая демонстрация живого кодирования, завершающаяся приглашением к обсуждению вопроса How Lispy is Julia? Авторы Julia не скрывают, что черпали из Lisp полными ладошками. А если возвращаться к ленте, то там на днях пошла в работу версия 0.6 языка, а в версии 0.5 уже release candidate и потихоньку оседает пыль.

Писать так можно вечно. У меня в OneTab сейчас оказалось 1660 табов, там такого залежи. Но я не журналист, да и читателей у непопсовой ленты явно немного. Пишу для себя, это ж блог "Лабораторный журнал", а не "Тренды и прорывы", всё честно. Так что с этим жанром я частить не буду. Разве что иногда, вечером пятницы, в порядке развлечения.
Thursday, August 11th, 2016
1:33 am
lytdybr
Чтой-то я расписался за последний месяц -- ни для без строчки, да всё как-то про образование получилось, в пересчёте на страницы, думаю, побольше сотни страниц будет. Лето, жара, прям маленький творческий отпуск по методологии образования сам собой случился. Заодно узнал много нового (например, в нескольких ВУЗах по моим видео и учебнику читают системный подход -- я и раньше подозревал, но теперь точно знаю).

Втянули меня в фейсбуке в несколько дискуссий по BIM (например, https://www.facebook.com/groups/pminstitute/permalink/931164150345242/ и чуть попозже в https://www.facebook.com/mikhail.sofonov/posts/10210308375650990). Поглядел и соседние треды про этот BIM. Ух, какой у нас там (как минимум, в интернетах) сейчас разброс мнений, что это такое, кому оно надо, и даже какова общая встречаемость в природе!

Буду выступать на SECR 2016 с докладом "Практики жизненного цикла систем машинного обучения" и мастер-классом "Системного мышления" (http://2016.secr.ru/program/invited-speakers/anatoly-levenchuk). А на ICBDA 2016 (которая несколько лет была BigData) расскажу свежую версию интеллект-стека (http://icbda2016.org/#program).

Задачки по системному мышлению идут, как и ожидалось, супертуго -- и их пока мало, хотя под контроль конфигурации в GitHub они поставлены. Получаются или простые задачки на классификацию (отнесение к понятиям, "на терминологию", на "знание учебника"), или практически кейсы, где ответы не могут быть однозначными и нужно ещё много переспрашивать. Задачек на принятие решений пока почти нет. Например, вот таких:
Маша забыла архитектурную диаграмму, и ей не удалось рассказать, как работает шпиндельметр, который она разрабатывает. Какую диаграмму забыла Маша?
А) сборочный чертёж
Б) принципиальная схема
В) сводно-заказная спецификация на закупку
Г) интерфейсы основных модулей
Д) органиграмма проекта
Е) схема жизненного цикла
Ж) компоновочная схема
З) схема напряжений в основных контрольных точках
Д) фотография опытного образца со снятой крышкой
К мониторингу ленты по deep learning добавил ещё просмотр http://arxiv.org/list/cs.AI/recent. Там довольно часто сейчас забавное проходит. Типа как сегодняшний neural Automated Theorem Prover for higher-order logic из http://arxiv.org/abs/1608.02644 -- он, конечно, доказывает всего 14% теорем из подходящего датасета, но While the system does not achieve state-of-the-art performance, it is the first effective complete Automated Theorem Prover to not exploit hand-crafted features. Но это всё цветочки, а ягодки идут типа вчерашней работы Spacetimes with Semantics (III) -- The Structure of Functional Knowledge Representation and Artificial Reasoning (то есть это уже третья работа в серии, на 122 страницы): http://arxiv.org/abs/1608.02193. Это всё в продолжение теории обещаний, которую развивает автор: http://arxiv.org/find/cs/1/au:+Burgess_M/0/1/0/all/0/1. Чего только на свете не происходит!

После многолетнего (десятковлетнего?) перерыва сходил сегодня на занятие танцами -- кизомба, ангольский популярный нынче по всему миру танец. Потому как сходу по интернету не разобрался для себя в разнице с бачатой. Ближайшая школа кизомбы примерно в трёх минутах ходьбы от дома (две минуты от двери, и ещё минуту идти назад по коридору до двери студии). Поэтому решил потратить 300 рублей на "пробное занятие" -- и не пожалел. Попал в группу "продолжающих", за полчаса где-то въехал и слился с общей массой (они там всего где-то четыре месяца как "продолжающие" с нуля, как раз на мои сегодняшние полчаса, раньше это бы заняло минуты три), но манеру полностью так и не снял. Вот тут-то мне преподаватели и подсказали и показали то, на что я в роликах внимания не обратил. Танцы, они же не глазами берутся, а телом. Кизомба в её мужской половине, конечно, снаружи кажется незначительным топтанием на месте, но я подозревал, что это не совсем так. Да, так и есть, не совсем так. Надо будет ещё пару раз сходить, ибо стар стал, за час манеру снять уже не получается -- и дико мешают старые рефлексы, переучивать-то трудней, чем учить с нуля! А ещё кизомбу в паре-тройке студий можно поглядеть, это ж социальные танцы, везде будет по-разному. Потом для контраста нужно сходить познакомиться с бачатой. Тут-то всё и пойму, что хотел и чего на роликах не видно.
[ << Previous 20 ]
About LiveJournal.com