Геометрическое мышление открывает окно в вычисления

Геометрическоемышлениеоткрываетокноввычисления

Если вы потратили 2020 так же, как и я, – прикованный к дому, с изобилием свободного времени – возможно, вы также обратили внимание на следующую важную, но скучную задачу: упорядочить свою одежду. Представьте, что у вас есть комод с двумя ящиками, и вам нужно отсортировать четыре типа одежды: свитера и футболки, каждая из которых может быть с V-образным вырезом или круглым вырезом. Как лучше всего их организовать? Размещение свитеров и футболок в отдельных, но смежных ящиках позволяет упорядочить их и легко найти, а также отражает естественную взаимосвязь между ними – это верхняя часть одежды для разных погодных условий.

При обработке информации, ваш мозг сталкивается с практически идентичной проблемой. Как следует сгруппировать необходимую информацию, чтобы были представлены важные общие качества при сохранении ключевых индивидуальных деталей? Два новых направления исследований, проведенных исследователями из Simons Collaboration on the World Mind (SCGB), упорядочили наше запутанное понимание этой проблемы. Для этого исследователи использовали мощный набор инструментов, основанных на геометрии. Ключевой метод поддержания порядка в комоде – держать похожие вещи близко, но не настолько близко, чтобы они не смешивались. То же самое и с мозгом. Вот почему геометрия – математика расстояний и форм – так полезна: она в основном заключается в правильном определении и сохранении относительных расстояний между схожими объектами.

«Мы выходим за рамки того, что делали люди. до сих пор, то есть есть ли какая-либо информация о релевантных для задачи переменных в нейронной активности в определенной области мозга », – говорит Стефано Фузи , нейробиолог. из Института психического и мозгового поведения Мортимера Б. Цукермана при Колумбийском университете и одним из исследователей SCGB, работающих над этой проблемой. «Мы действительно заботимся о формате, в котором эта информация представлена ​​на уровне нейронной популяции».

Первая ветвь работы, недавно опубликованная в Cell , использует геометрический анализ, чтобы объяснить, как мозг одновременно конструирует две одинаково важные вещи – абстрактные концепции (например, сезонные уместность) и ключевые детали (например, V-образный вырез или круглый вырез) – чтобы помочь ему принимать решения. Вторая ветка, недавно опубликованная в Neuron , применяет аналогичные инструменты анализа, чтобы понять, как мозг выполняет совершенно разные вычисления, но тот, в котором сохранение информации в порядке не менее важно – отслеживание того, что делать дальше при выполнении сложного движения. Оба исследования дополняют растущий объем литературы, в которой геометрический анализ используется как окно в механизмы, которые мозг использует для обеспечения разумного поведения.

Хотя геометрическое мышление использовалось и раньше, эти два новых исследования подняли каркас на новую высоту. Марк Черчленд , также нейробиолог из Колумбийского института Цукермана, возглавляющий вторую линию исследований, считает, что это может быть язык, на котором мы так отчаянно нуждаются в описании мысленных вычислений, лежащих в основе познания и движения.

«Если геометрия окажется естественным языком для обсуждения многих вычислений, выполняемых мозгом, это будет чрезвычайно удобно, потому что мы иметь 2, 04 инструментов для понимания последствий геометрии, наработанных годами », – говорит Черчленд, передавая точку зрения своего коллеги из Колумбийского университета Ларри Эбботта , нейробиолог-теоретик и исследователь SCGB. «Разница между двумя вычислениями иногда действительно очевидна, когда вы строите геометрию данных».

Формы в мозгу

В сотрудничестве с Даниэль Зальцман , также нейробиолог из Колумбийского института Цукермана и исследователь SCGB, Фузи сосредоточился на понимании того, как нейронные репрезентации, важные для когнитивного мышления, могут поддерживать абстрактные концепции, не жертвуя ключевыми деталями. Чтобы изучить это, исследователи разработали простую ассоциативную задачу, в которой животные должны были усвоить набор правил, зависящих от контекста. Например, в одном контексте они были вознаграждены за нажатие кнопки, когда они видели красный узор, а в другом они были вознаграждены за нажатие кнопки, когда они видели синий узор. Хотя каждое конкретное правило в контексте – увидеть красный цвет, нажать кнопку, получить награду – было уникальным, совокупность всех четырех правил в одном контексте имела общую черту, а именно их общий контекст. Точно так же набор правил, которые приводили к получению награды в любом контексте – например, нажатие кнопки для красного шаблона в одном контексте и для синего в другом – имел общую черту, которая приводила к вознаграждению.

Сильвия Бернарди , нейробиолог из Колумбийского университета, записала нервную активность обезьян, когда они выполнил эту задачу, и Фуси и его команда теоретиков исследовали нейронную активность, чтобы найти признаки абстрактного мышления. В частности, они рассмотрели геометрию представления, которая учитывает организацию коллективной активности множества нейронов для каждого уникального правила в задаче. «Более важно смотреть на геометрию представлений, а не на индивидуальные характеристики реакции нейронов, потому что есть много вещей, которые вы можете увидеть только на уровне нейронной популяции», – говорит Фузи

.

Чтобы понять геометрию представления, исследователи визуализировали нейронную активность как набор точек в пространстве, где каждая точка представляла активность нейронов для каждого уникального состояния. Например, одна точка представляет нейронную активность для «увидеть красный узор, нажать кнопку, получить награду», а другая точка будет представлять собой другую комбинацию. Их главный вопрос восходит к задаче организации одежды: как точки расположены так, чтобы систематизировать связанную информацию, но не смешивать все?

Кластерное представление (слева) формирует абстрактную концепцию одной функции (контекста), но стирает ключевую информацию о награде. Случайное представление (справа) не сбивает с толку награду, но не формирует абстрактную концепцию контекста или ценности, потому что не существует оси, по которой эти качества однозначно выровнены. Шерри Чой / адаптировано из Бернарди и др. 2021

Чтобы понять, почему это является проблемой для мозга, исследователи сначала рассмотрели два крайних, идеализированных формата: «кластерный» формат, в котором предпочтение отдается абстрактным концепциям, даже если информация потеряна, и «случайный» формат, где все детали сохраняются, даже если страдают абстрактные концепции.

Кластерное представление строго упорядочено, с осью, которая определяет ключевую особенность организации, в данном случае в каком контексте проводится испытание принадлежит. Точки, разделяющие контекст, близки, а разные контексты далеки, что позволяет легко их различить, но ключевые детали – было ли испытание вознаграждено или нет? – перепутались. Кластерные представления также называются низкоразмерными, потому что все точки содержатся в небольшом объеме. С другой стороны, случайное представление сильно неупорядочено и рассредоточено, причем каждая точка занимает несогласованное место в пространстве. Поскольку у каждой точки есть свое собственное пятно, шансы смешать вещи невелики, но в этом формате отсутствуют абстрактные концепции, потому что беспорядочное расположение точек означает, что нет соглашения, которому следуют все компоненты концепции. Если бы обезьяна использовала этот формат, у нее не было бы мысленного представления о контексте или ценности, а вместо этого она просто воспринимала бы каждое испытание в том виде, в каком оно было, без признания взаимосвязи, присущей некоторым испытаниям. Этот тип формата является примером многомерного представления, потому что точки занимают большую часть пространства, в котором они находятся.

Когда Фуси и его коллеги смотрели на нейронную активность, они были были удивлены, увидев, что он расширяет и объединяет черты двух рассмотренных ими крайних случаев. Когда они построили график данных из префронтальной коры и гиппокампа обезьян, двух центральных областей мозга для выполнения этой задачи, появились высокоупорядоченные формы, такие как кубы и квадраты, естественное продолжение кластерного представления. Подобно тому, как контекст был упорядочен по одной строке в кластерном формате, здесь две переменные – контекст и значение – были упорядочены по двум перпендикулярным направлениям, чтобы сформировать квадрат, создавая одновременно два абстрактных понятия.

Квадратное представление (слева) расширяет кластеризованный представление, создающее второе абстрактное понятие. Это одновременно различает ценность в любом контексте и создает новое абстрактное понятие «ценность». Небольшие искажения квадрата (справа) сохраняют свойства квадрата, делая его еще более похожим на случайное представление, которое немного больше разделяет отдельные точки. Шерри Чой / адаптировано из Бернарди и др. 2021

Но они также обнаружили, что эти формы были немного искажены в ключевых аспектах, что еще больше увеличивало размерность форм, точно так же, как и случайное представление в разложенном виде. Хотя квадратная структура была сохранена, они обнаружили, что каждая точка была немного разбросана в других направлениях, что еще больше увеличивало способность мозга классифицировать вещи, связанные с задачей, но не за счет упорядоченной структуры, которую он построил для формирования абстрактных концепций.

«Это очень хороший компромисс, потому что, с одной стороны, у вас есть хорошие обобщающие свойства низкоразмерных структур, но в то же время у вас также есть гибкость – многомерное нейронное представление », – говорит Фуси.

В обоих областях мозга обнаруженная исследователями упорядоченная геометрия означала, что мозг действительно конструировал абстрактные концепции, хотя эти концепции не были явно определены для животное. Кроме того, эта жесткая структура в сочетании с наложенными поверх нее небольшими искажениями делала изображения чрезвычайно детализированными – каждая отдельная точка, хотя и упорядоченная, была достаточно разнесена, чтобы ее можно было надежно отличить от всех остальных. Это было бы похоже на дальнейшую организацию ящиков футболки и свитера, не только надев V-образный вырез слева и круглый вырез справа, но и отодвинув некоторые предметы вперед, а некоторые назад; это создаст вторую степень упорядоченности, помимо самих отдельных ящиков, а также создаст немного больше места для других предметов, которые вы можете приобрести в будущем.

Эти результаты убедительно свидетельствуют о том, что эти ключевые Области мозга достигают критического, но хрупкого баланса между кодированием деталей и формированием абстрактных концепций, необходимых для познания. Полученные данные могут также пролить свет на психоневрологические расстройства. «Большая часть психопатологии – это на самом деле нарушение способности абстрагироваться и обобщать», – говорит Бернарди, который также является психиатром. «Пациенты, которые обращаются с проблемами, которые выглядят так, как будто они являются эмоциональными, такими как пограничное расстройство личности, действительно испытывают трудности с обобщением набора обстоятельств на другие случаи».

Геометрия траекторий

Ключевым достижением в подходе Фузи и Зальцмана было рассмотрение геометрии нейронного представления, чтобы сделать выводы о вычислительных свойствах, присущих этому представлению. Черчленд, эксперт по двигательной системе и исследователь SCGB, стремился распространить эти геометрические идеи на траектории нейронной популяции – нейронную активность, которая развивается с течением времени, – чтобы понять ключевые вычислительные принципы, лежащие в основе движения.

Основная проблема, которую Черчленд хотел решить, заключалась в следующем: когда мы выполняем движение, состоящее из множества повторяющихся частей, например, вращение педали велосипеда, как мы «узнаем», какую конкретную часть мы выполняем в любой момент? Мы повернули педаль три или четыре раза? Чтобы ответить на этот вопрос, Черчленд и Эбигейл Руссо , которая недавно защитила докторскую диссертацию в своей лаборатории и теперь работает научным сотрудником в Princeton Neurosci. Ence Institute проанализировал нейронную активность обезьян, когда они вращали ручную педаль (во многом так же, как мы крутим педаль на велосипеде) во время навигации в виртуальной среде, например в видеоигре. Крайне важно, что задача не была для обезьяны увлекательной поездкой на педали, как ей хотелось – ей нужно было крутить педали определенное количество циклов, скажем семь, а затем остановиться.

Нейронные ответы, построенные в Пространство состояний уменьшенной размерности для двух областей мозга. В спиральном представлении (слева) активность для разных циклов перекрывается, что делает невозможным различить, где вы находитесь в движении (цикл 4 или цикл 5?). В спиральном представлении активность различных циклов распространяется в третье измерение, разделяя их на циклы, поэтому они становятся различимыми. Цвет указывает время, прошедшее с начала движения. Шерри Чой / адаптировано из Руссо и др. 2021

«Он отслеживает, где находится, потому что ему нужно знать, когда он собирается остановиться», – говорит Черчленд. «И ему нужно знать, когда он собирается остановиться, прежде чем он остановится, потому что модель мышечной активности, которую вам нужно остановить, очень отличается от модели активности, которая обычно двигает рукой. Итак, где-то вам нужно знать: «Я нахожусь на педальном цикле 2 из 7 или 6 из 7?» В противном случае, как вы могли бы создать правильный образец активности, чтобы остановиться? »

Чтобы понять, как мозг это делает, исследовательская группа записала нервную активность животного в двух областях мозга, связанных с моторикой. : дополнительная моторная область (SMA) и первичная моторная кора (M1). Вместо того, чтобы смотреть на статические точки, как это делал Фуси, они построили график активности во времени, соответствующий периодам, когда животное крутило педали в течение нескольких циклов. Визуализация показала разительное различие между двумя областями мозга. Активность в M1 создавала круг в течение одного вращения педали, но при каждом повороте петля возвращалась сама к себе, как свернутая веревка. Хотя активность в SMA также составляла круги для одного вращения, она продолжала развиваться по мере того, как животное двигалось на велосипеде, образуя спираль.

Используя эту визуализацию, Черчленд предположил, что SMA является ключевым фактором. область мозга для отслеживания номера цикла. Поскольку каждый цикл спирали занимает уникальный объем в пространстве, каждый цикл можно использовать для обозначения уникального цикла. «У вас все еще есть информация о том, где вы находитесь в данный момент, но вы добавили этот дополнительный источник информации, и теперь внезапно цикл 2 из 7 и цикл 6 из 7 находятся в очень разных частях пространства состояний», – говорит Черчленд. Пространство состояний относится к геометрической системе координат, которую исследователи использовали для изучения нейронных реакций. Напротив, геометрия M1, которая отслеживает один и тот же путь в течение нескольких циклов, не может быть использована для различения разных циклов. «Моторная кора головного мозга знает, какой образец мышечной активности вы создаете в данный момент. Но он не может сказать вам, находитесь ли вы на цикле 2 из 7 или 6 из 7. Он просто не имеет представления », – говорит Черчленд.

Геометрическое мышление делает то, что когда-то казалось сбивающим с толку, почти до боли очевидным. : Наиболее естественное решение для организации вещей, даже самого времени, – это просто разложить их. Невероятно, но, используя аналогичный анализ нейронных записей из очень разных областей мозга животных, выполняющих очень разные задачи, Черчленд выявил принцип, пугающе похожий на тот, который обнаружил Фузи: тщательно организовывая свою деятельность, мозг может сохранять мгновенные детали, одновременно отслеживая общую картину.

Универсальный язык вычислений

По мере развития технологий для наблюдения больше мозга подробнее, ключевой задачей будет разработка общего математического языка для упрощения и объединения разрозненных, но связанных источников данных. Многие ученые считают, что геометрия – это тот язык, который позволяет исследователям отойти от специфики изучаемых нейронных систем и рассмотреть более теоретические свойства вычислительных систем. «Сила геометрического мышления заключается в том, что это уровень абстракции, который можно применить к другим наборам данных», – говорит Руссо. «Вы можете сравнивать людей, разные виды, разные области мозга, разные задачи, используя одну и ту же метрику».

Эта способность не ограничивается биологическими вычислительными системами, а распространяется на системы искусственных вычислений, например ну типа сетей искусственных нейронов, смоделированных на компьютере. Эти искусственные нейронные сети могут быть построены так, чтобы имитировать вычислительные свойства, обнаруженные в данных, с использованием геометрического анализа, и сами могут быть поняты с помощью геометрического анализа. Например, в своей работе Фузи и Зальцман построили искусственные нейронные сети для выполнения той же задачи, что и их обезьяны. Используя свой геометрический подход, они обнаружили точно такую ​​же геометрию в деятельности искусственной сети. Точно так же Черчленд объединил геометрический анализ и искусственные нейронные сети, чтобы подтвердить и дать ему возможность понять то, что он увидел в своих данных: сети, обученные выполнять задание на велосипеде, с трудом останавливались, если они не представляли спирали где-то в своей деятельности

.

Многие исследователи считают, что сочетание геометрического анализа, нейронных записей и искусственных нейронных сетей является ключом к глубокому продвижению нашего понимания искусственных и биологических вычислительных систем. «Связь между тем, что делают настоящие сети, и тем, что делают искусственные сети, также становится очень ясной, когда вы рисуете вещи как формы в пространстве состояний», – говорит Черчленд. «Ваши глаза могут сразу увидеть важные особенности, которые объединяют эти решения, и сразу же увидеть небольшие различия, которые на самом деле не имеют значения».

Отсутствие базового описательного языка, ранний анализ сложных нейронных наборы данных напугали некоторых, что мозг может быть просто запутанным беспорядком, за пределами нашего понимания. Геометрический анализ показал нам, что, хотя данные сложны, с помощью правильного языка мы можем раскрыть упорядоченную, принципиальную структуру в мозгу, даже если эту структуру сложно найти. «Когда этот подход может быть успешным, он может очень развеять мистику», – говорит Черчленд. «Внезапно все эти забавные вещи, которые могли потребовать множества различных объяснений, или просто казаться странными, или были такими вещами, когда кто-то мог бы сказать:« О да, ну, вы знаете, биология сложна »или «Биология запутана», теперь все они имеют смысл. Геометрическое мышление способно делать это постоянно. А затем вы можете двигаться дальше и пытаться понять систему более глубоко, а не притворяться, что этой сложности нет, или отбрасывать ее, называя ее беспорядочной ».