NEURON SYNCHRONIZATION AND REPRESENTATION OF SPACE AND TIME IN

NEURAL NETWORKS

Witali L. Dunin-Barkowski,

Scientific Research Instutute for System Analysis,Russian Academy of Sciences, Moscow, Russia

Achievements and Applications of Contemporary Physics and Informatics, Kiev, August 5-7, 2010

wldbar@gmail.com

1

The present course (sorry, the longest in this track) includes several parts.

The basis for the course constutes my ancient book “Informational Processes in Neuronal Structures”

Published in Russian in 1978This is probably inevitable in cases, when you ask an old person to give a picture of the science, in which she (or he) is active for 50 years that you will see the long-years ago published (but not yet absolete) results. So, this will be the case in this course. Of course, I will, as well, give you

the fresh results, which in many cases interfere with the old ones.Alas, my name is not on the list of the most well-known achievements of our science. However, it was permanently present in pubications since

1965 and, personally, I am aquainted to many leaders of the field.

2

3

Princeton, New Jersey, USA, April 12, 2010. The 49-th Annivesary of the

Gagarin’s Flight

Среди физиков-теоретиков наибольшей известностью пользуетсяоткрытие Хопфилдом так называемых нейромагнетиков (1982).

Способность нейроннойсети восстанавливатьмассивы памяти по ихфрагментам впервые

была в 1971 годупродемонстрирована вработе Дэвида Марра

(1945-1980)Современная теория

гиппокампа, как и теориямозжечка, в

существенной степениоснована на нейронных

схемах Марра. Такой вотбыл гений,

проживший 35 лет4

Neural net models of plausible size that perform many simple learning tasks

5Proceedings of Royal Society, 1969, vol. B174, pp. 193-227

Sir Giles Skey Brindley, F.R.S. (b. 1926)

6

Данный доклад - попытка высказать и аргументировать две мысли :(1) Мозг – это «очень просто». Каждый физик может, при желании,

внести вклад в понимание (воспроизведение) механизмов мозга;(2) Механизмы мозга – одна из самых актуальных и важных задач

физики на современном этапе.

7

Я – профессионал в области теоретической и экспериментальнойбиофизики нервной системы, с некоторым, хотя и скромным,

багажом собственных результатов, полученных за почти 50 летработы в данной области.

Под биофизикой нервной системы я понимаю всё – отмолекулярных механизмов работы клеток мозга до нейронных

схем и алгоритмов реализации высших функций мозга. Разумеется, мои личные знания на всех этажах этой биофизики

достаточно отрывочны и не во всех направлениях охватываютпоследние достижения. Тем не менее, знания предмета у меня

достаточно разнообразные. Похоже, что общее состояниеизученности мозга в настоящее время я представляю на одном из

максимально возможных уровней.

I wrote Hopfield, asking for a meeting some time during my vacations in USA in March-April this year. He wrote me that I can visit him in

Princeton on Monday, Aptril 12, 2010. He is out of town most of the time, so that could be a rare chance to see

the Grand Master of Theoretical Neuroscience.What were we talking about?

I will try to recollect.First, he has expressed his surprise that most of the researchers in the field are more interesting in complexities and originality of their works than in making real contribution in uderstanding neural functions. Of course, it is generally considered that scientific results do not exist without rigorousness. And it is tricky, because it is easy to fall into

opposite extremity – to claim results, when there are no present. What can make a reasonable compromise? I would argue that the best

judgment on value of a work can be made by a committee of RESPONSIBLE experts.

Unfortunately, the formal criteria are easier to implement, and they are used extensively. With brain, we should also take into account, what

David Marr told once;8

He noted that studies of brain informational mechanics doesn’t deserve anything more than heuristics. Indeed the brain machine has been

“constructed” by ad hoc opportunisms.

9

Second, we have discussed with Hopfield the close perspectives of brain studies.

- I hope we will make it in three years, - told I.- You think that I can see it?

- sure!- Of course, we both are old: he was born in 1933, me – in 1944. And I

am a crazy optimist: in my book, published in 1978, I wrote that full understanding of the brain is close. I have serious grounds for doubts in my words. But see: Hopfield was ready to accept my prediction, and

this fact weighs much more, than just my words. Next, I told Hopfield that his main result of 1982, which is often dubbed

as “Discovery of Neuromagnetics” has been obtained in Soviet Union in early 1960-ies.

Now I will explain you, what it is about.

Прежде всего я хочу сказать, что это была замечательно качественнаясессия. И я сам многое почерпнул, прослушав эти доклады. Я только хотел

бы, чтобы то, о чем говорил профессор В.Л. Дунин-Барковский, было быпредставлено более подробно.

10

COURSE CONTENT

11

1. Neural excitation ( processes in a point).2. Propagation of excitation along the nerve fibers.3. Propagation of excitation in neural networks. Representation of space

and time.4. Coding of Information with neural impulses. Role of synchronization.5. A complex example.

SOURCESAfter the course, or in breaks, I will provide you with all the texts, which

I use. Sorry, many of them are in Russian only. But I hope that those of you,

who do not know Russian yet, will ask your friends, whom you will definitely obtain in the course of the lectures, to help with translation.

WARNING!

12

I NEVER HAD THIS COURSE I NEVER HAD THIS COURSE BEFOREBEFORE

SORRY! YOU WILL BE SORRY! YOU WILL BE ““EXPERIMENTAL RABBITSEXPERIMENTAL RABBITS””

FOR MY TEACHING EFFORTSFOR MY TEACHING EFFORTSAS A PARTLY COMPENSATORY REWARD, YOU ARE WELCOME AS A PARTLY COMPENSATORY REWARD, YOU ARE WELCOME

TO ASK ME ANY QUESTIONS AT ANY TIMETO ASK ME ANY QUESTIONS AT ANY TIME

Neuromagnetics

13

Formulas for Neuromagnetism

1

14

Два слова о теории Марра. Она нисколько не устарела, ииспользуется иногда для проверки на соответствие с новейшими

экспериментальными данными. Но деталировка теории ждёт новыхпоколений теоретиков.

А суть идеи состоит в том, что гиппокамп используется какбуферная память для записи плохо воспринимаемой в текущий

момент информации для того, чтобы подготовиться к восприятиюэтой информации в дальнейшей жизни. Скажем, вы перелетели заночь из тропического леса в тундру. Да и к тому же вообще, попали

вы туда первый раз в жизни. Внутренний язык вашей нервнойсистемы может быть совершенно не приспособлен для работы вновой среде. С помощью гиппокампа может вестись необходимая

перенастройка (в частности, во сне). До полной теории гиппокампапока далеко. Я расскажу о некоторых операциях в гиппокампе,

механизмы и функции которых постепенно становятся понятными.

15

Клетки места

16

Прецессия моментов возбужденияклеток места по фазам тета-ритма

17

Модели прецессии и их экспериментальная проверка

Intracellular dynamics of hippocampalplace cells during virtual navigationC.D. Harvey, F. Collman, D.A. Dombeck, D.W. TankPrinston Neuroscience Institute, USANature, Vol 461 (15 Октября 2009), сс. 941-949

Профессиональнаяработа!

18

From Dodt et al., 2007

19

20

1 µm

21

22

Jérôme Epsztein, Albert K. Lee, Edith Chorev, Michael BrechtImpact of Spikelets on HippocampalCA1 Pyramidal Cell Activity DuringSpatial ExplorationSCIENCE 22 JANUARY 2010 VOL 327 23

Итак, в гиппокампе – море ритмов. И функции у них просматриваются. И механизмы, с помощью

которых функции эти делаются – тоже на подходе.Во всяком случае, работа из лаборатории Тэнка – это очень

серьёзное продвижение.Хочется отметить, что первые работы Тэнка были вместе с

Хопфилдом. Посвящены они были тому, что я бы назвал«Технической нейроинформатикой»

Но, как и Хопфилд, Тэнк быстро отошёл от «поисков подфонарём». От спекуляций на тему нейроподобных систем он

перешёл к анализу реальных проблем организации настоящегомозга. Успехи, как мы видим, не заставляют себя ждать…

О ритмах, в особенности ритмах мозга, говорили всегда. Есть всамом понятии ритмов нечто завораживающее: поэзия, музыка и

т.д.Надо сказать, что именно из-за этого завораживания мне почему-то тематика ритмов не нравилась вообще. А нравилась - похожая

по названию, но, казалось мне, свершенно другая область –нейронные генераторы ритма. 24

Примеры: генераторы дыхательной ритмики, генераторышагательных движений, жевания и т.д.

Этим приятно и понятно было заниматься, потому что как бы яснафункция. Скажем – дыхание. Из-за организации лёгких неизбежна

периодическая работа насоса. Или – ходьба. Ритмические движения (НЕ непрерывные

однонаправленные, как у колеса, а возвратно-поступательные, из-за устройства конечностей). И вот тут появляется другая функция. Что такое шаг? Это стандартная операция. Много шагов помогают

реализовать функцию – попасть из одного места в другое. Но –здесь возникает полное тождество с тем, как выполняются любые

работы в компьютерах. А именно, путём большого количестваповторений сравнительно небольшого числа операций!

Так вот какую операцию могут выполнять ритмы! Это могут бытьэлементы выполняемых программ. Странным образом, до меня

эта мысль дошла только что. Фактически в процессе подготовки кданной лекции. И ритмы мне теперь очень интересны. Не вхудожественном смысле, а в прагматическом. Впрочем, не

исключено, что это – одно и то же (в «программотическом»). 25

Мы занимались моделированием дыхательного центрапродолговатого мозга в большой межуниверситетской

коллаборации: Флорида, Пенсильвания, Огайо, Нью-Йорк, Техас…В числе прочего, возникла такая задача. В эксперименте, при

искусственном дыхании, естественное иногда останавливается. Апотом – начинается снова. Вопрос: с какой фазы, да и как вообщеначинается дыхание. Во Флориде регистрировали активность до

100 нейронов одновременно. Как понять, когда начинаетсядыхание?

Ответ оказался не слишком сложным, но интересным.

Далее мы опишем предлагаемую процедуру и показажем еёвозможности на примере анализа ритмики в большой популяции

нейронов.

26

Л-карта (L-plot) активности 17 дыхательных нейроновпродолговатого мозга кошки

(W.L. Dunin-Barkowski, 2006; W.L Dunin-Barkowski et al., 2006)

27

28

Сочетание Л-карты со значениями отдельных переменныхсистемы

29

Интерпретация Л-карт

30

.Изменение масштабов и Л-карта для гетерогенной информации

31

Возобновление дыхания

32

Л-карты моделей дыхательной ритмики

33

34

Дешифровка сообщений с помощью Л-карты

35

Цель исследований – читать послания, закодированные природой

1960 – 1965 годы: расшифрованы все 64 кодона триплетовнуклеотидов

1950 – 20?? годы: (1) получены уравнения нервного импульса; (2) обнаружены «распознающие» свойства двухслойных пороговых

схем («персептрон»); (3) исследованы и классифицированымеханизмы синаптической передачи; (4) выделены электрические,

ионотропные и метаботропные синапсы; (5) обнаружены иклассифицированы нейромодуляторы; (6) изучена и понята полнаясхема управления конкретными движениями у простого животного;

(7) исследованы системы ассоциативной памяти в рекуррентнойсети пороговых элементов; (8) получены примеры фукциональногоиспользования фазового перехода по синхронизации в нейроннойсети; (9) обнаружены два качественно разных состояния сна; (10) обнаружены клетки места в гиппокампе; (11) выявлена роль тета-ритма гиппокампа в выполнении его функций: окна пластичности и

прецессия импульсации клеток места по фазам тета-ритма… 36

Я представляю здесь только одну сторону – теоретическуюнейронауку, COMPUTATIONAL NEUROSCIENCE.

Судя по всем признакам, в скором времени возникнут прорывныедостижения в нашей области. Это – хорошо.

Если задуматься, то нетрудно понять, что «разрешение тайнымозга» – это один из важнейших приоритетов человеческой

культуры с самого начала истории человечества. И сейчас эта цель близка, как никогда. Прогноз – занятие

неблагодарное, но очень похоже, что всё может случиться втечение десятилетия – до 2020-го года.

Это – за здравие. За упокой – то, что в России специалистов потеоретической нейронауке – раз, два и обчёлся.

Да! Мы хотим понять, как работает мозг. Движение идёт с двухсторон тоннеля: (А) специалисты по компьютерам стараютсянаделить их всё большими и большими способностями и (Б)

специалисты по нейронаукам стараются понять секреты нервнойдеятельности.

Конечно, и те и другие – взаимосвязаны, но не слишком сильно.

37

Я призываю каждого физика, сидящего в этом зале, задуматься, нехочет ли она (или он) принять участие в «последнем решающем

штурме» проблем мозга. Если есть желание – возможность всегда можно найти. Приходите

к нам, на наши семинары. Организовывайте свои собственныесеминары, группы, лаборатории, отделы по теории мозга.

Конечно, некоторое время придётся сначала учиться. Computational Neuroscience уже довольно развитая область. Но

учиться можно на ходу, пытаясь понять самые последние работы, самые последние достижения в данной сфере.

Обращаюсь к физикам-теоретикам:Да! Вы решаете сложнейшие проблемы мироздания, используя

самые сложные инструменты познания – математический аппарат, доступный лишь немногим избранным.

Но, простите! А не может ли сложность и красота этого аппаратасыграть плохую службу? Не идут ли иногда физики «на поводу» уматематиков и математического аппарата? И вообще – проблемымироздания столь сложны, что сколько-нибудь полное их решение

возможно лишь в отдалённом будущем. 38

Между тем есть гораздо более простая и «заземлённая»проблема: - Как работает мозг?

Но это – мозг, а не печень! Печень тоже важна, но мозг!Вполне возможно, что это и есть проблема мироздания…

Очень может быть, что эта «заземлённая» проблема и естьсамая важная, решив которую мы сможем, если не решить

сразу все остальные, то подойти к их решению накачественно новом уровне?

Не стоит ли, отложив на время другие задачи, занятьсяинтенсивным исследованием мозга?

- Каким математическим аппаратом работать в теории мозга? - Да любым необходимым.

Физика должны интересовать проблемы реального мира, а методыих решения подбираются в зависимости от их наличия «на рынке»,

предлагаемом математиками, и от интуиции физика.Судя по всему, «тайны мозга» будут разгаданы не путём создания

новой уникальной для этой проблемы математики, а путёманализа сотни (ну, может и тысячи) конкретных механизмов

преобразования информации и вычислений в нервной системе. Адля анализа этих конкретных механизмов может быть достаточно

самых простых аналитических и вычислительных средств. 39

Мы рассказали о некоторыхинформационных процессах в

одной из (примерно) 10 важнейшихструктур головного мозга –

гиппокампе.Рассказали об их феноменологии,

методах исследования, возможныхмеханизмах и, может быть,

функцияхПодключайтесь к теоретическим ивычислительным исследованиям

механизмов мозга! 40

Физика и мозг. IЭти вопросы я иногда обсуждал с физиками, но ничего по

этому поводу пока не напечатал. Так что, вашемувниманию представляется первое публичное изложение

неких представлений о взаимосвязи физики и физиологии

41

Совсем кратко, речь идёт о том, что в физике во многихместах (некоторые из них я назову) фигурирует

НАБЛЮДАТЕЛЬ - объект никак и нигде не определяемый.

Самое общее, так сказать абстрактное предложениесостоит в том, что необходимо создать теорию «первого

приближения», в которой в явном виде и достаточно чёткоохарактеризованы свойства НАБЛЮДАТЕЛЯ.

Естественно, что источником сведений о таких свойствахдолжна быть физиология мозга человека.

Физика и мозг. IIКонкретных моментов, где на физику влияют свойства

НАБЛЮДАТЕЛЯ, довольно много. Я начну с одного, не самогоочевидного. Речь идёт об энтропии. Тексты на эту тему часто

сопровождаются рассуждениями о случайности «формальногосовпадения определений энтропии и информации»

42

На самом деле, энтропия – это число состояний, в (одномиз) которых может состоять система при заданных

условиях. Энтропия – это мера знаний НАБЛЮДАТЕЛЯ.

Что уже сейчас может дать нам нейрофизиология дляданной задачи – это общий объём знаний, которым

обладает НАБЛЮДАТЕЛЬ. Оценку можно получить какдля отдельного человека, так и для всего человечества.

Из «соображений размерности» очевидно, что оценкаспособностей НАБЛЮДАТЕЛЯ должна влиять на теорию.

Физика и мозг. IIIКак учитывать знания о мозге? Какие формы должна принимать

теория? Это – вопрос не моего уровня компетенции. Скореевсего, здесь должна появиться совершенно новая физика.

Создать её, наверное, могут только физики-теоретики. А еслине они, то грядущий искусственный разум, новый мозг человека

43

В вопросе об энтропии почти понятно, в какомнаправлении думать. Остальные вопросы, связанные со

свойствами НАБЛЮДАТЕЛЯ, я просто перечислю.

Разумеется, это и квантовая механика, с постояннымприсутствием НАБЛЮДАТЕЛЯ, и (обе) теории

относительности, с ним же. Не исключено, что проблемыпринципа антропности – из той же категории. А заодно идругие свойства физики высоких энергий могут зависеть

от НАБЛЮДАТЕЛЯ. Поэтому я к вам и пришёл :))