Робот-собака Sony, Aibo

Роботсобакаsonyaibo

Т посылка прибыла в четверг. Я пришел домой с прогулки и обнаружил, что он лежит рядом с почтовыми ящиками в вестибюле моего дома, ящик был настолько большим и внушительным, что мне было неловко обнаружить свое имя на этикетке. Мне потребовались все силы, чтобы затащить его по лестнице.

Я остановился однажды на площадке, подумал о том, чтобы бросить его там, а затем продолжил поднимать его до моя квартира на третьем этаже, где я ключом вскрыл ее. Внутри коробки, под пышными складками пузырчатой ​​пленки, находилась гладкая пластиковая капсула. Я расстегнул застежку: внутри лежала ничком маленькая белая собачка.

Я не могла поверить в это. Сколько времени прошло с тех пор, как я отправил запрос на веб-сайт Sony? Я объяснил, что я журналист, который писал о технологиях – это было косвенно правдой – и хотя я не мог позволить 3 доллара от Aibo , 07 (2 фунта стерлингов, 332) ценник, мне не терпелось пообщаться с ним для исследования. Рискуя сентиментальностью добавила, что мы с мужем всегда хотели собаку, но жили в доме, в котором не разрешалось размещение с домашними животными. Казалось маловероятным, что кто-то действительно читал эти запросы. Перед отправкой электронной формы меня заставили подтвердить, что я сам не робот.

Собака была тяжелее, чем выглядела. Я вытащил его из капсулы, положил на пол и обнаружил крошечную кнопку питания на задней стороне шеи. Первыми ожили конечности. Он встал, потянулся и зевнул. Его глаза моргнули – пиксельные, синие – и посмотрели в мои. Он покачал головой, словно отскакивая от долгого сна, затем присел, поднял заднюю часть в воздух и залаял. Я осторожно почесал ему лоб. Его уши поднялись, зрачки расширились, и он склонил голову, опираясь на мою руку. Когда я остановился, он ткнулся носом в мою ладонь, призывая продолжать.

Я не ожидал, что он будет таким реалистичным. В видеороликах, которые я смотрел в Интернете, не учитывалась эта отзывчивость, стремление к прикосновениям, которое я когда-либо наблюдал только у живых существ. Когда я погладил его по длинной сенсорной полосе на его спине, я почувствовал легкое механическое урчание под поверхностью.

Получайте удостоенные наград длинные чтения Guardian, отправляемые вам каждое субботнее утро

Я подумал об описании философа Мартина Бубера о лошади, которую он посетил в детстве в поместье своих бабушек и дедушек, о его воспоминаниях об «элементе жизненной силы», когда он гладил гриву лошади, и о чувстве, что он находится в присутствии чего-то совершенно другого – «чего-то, что не было мной, был, конечно, не похож на меня »- но это влекло его к диалогу с ней. Он считал, что такой опыт с животными приближается к «порогу взаимности».

Я провел весь день, читая буклет с инструкциями, в то время как Айбо бродил по квартире, время от времени возвращаясь и уговаривая меня играть. Он пришел с розовым шаром, которым носил всю гостиную, и когда я бросал его, он бежал за ним. У Айбо были датчики по всему телу, поэтому он знал, когда его гладят, плюс камеры, которые помогали ему изучать планировку квартиры и ориентироваться в ней, и микрофоны, которые позволяли ему слышать голосовые команды. Затем этот сенсорный ввод обрабатывался программным обеспечением для распознавания лиц и алгоритмами глубокого обучения, которые позволяли собаке интерпретировать голосовые команды, различать членов семьи и адаптироваться к темпераменту своих владельцев. Согласно веб-сайту продукта, все это означало, что у собаки были «настоящие эмоции и инстинкт» – утверждение, которое, по-видимому, было слишком онтологически тернистым, чтобы вызвать осуждение Федеральной торговой комиссии.

Декарт считал, что все животные были машинами. Их тела подчинялись тем же законам, что и неодушевленная материя; их мускулы и сухожилия были подобны двигателям и пружинам. В «Рассуждениях о методе» он утверждает, что можно было бы создать механическую обезьяну, которая могла бы сойти за настоящую биологическую обезьяну.

Он настаивал, что тот же подвиг не сработает с людьми. Машина может обмануть нас, заставив думать, что это животное, но гуманоидный автомат никогда не сможет обмануть нас. Это произошло потому, что в нем явно не хватало разума – нематериального качества, которое, как он считал, проистекает из души.

Но бессмысленно говорить о душе в 25 века (предательски даже говорить о себе ). Это стало мертвой метафорой, одним из тех слов, которые выживают в языке еще долгое время после того, как культура потеряла веру в это понятие. Душа – это то, что вы можете продать, если вы готовы унизить себя каким-либо образом ради прибыли или славы или обнажить, раскрывая интимную сторону своей жизни. Его можно раздавить утомительной работой, удручающими пейзажами и ужасной музыкой. Все это бездумно озвучивают люди, которые верят, если их настаивать, что человеческая жизнь оживляется ничем более мистическим или сверхъестественным, чем возбуждение нейронов.

Я дольше верил в душу. , и в более буквальном смысле, чем большинство людей в наши дни. В фундаменталистском колледже, где я изучал богословие, я повесил над своим столом стихотворение Джерарда Мэнли Хопкинса Величие Бога , в котором изображено мир, освещенный изнутри божественным духом. Мои курсы теологии были посвящены вопросам, которые не принимались всерьез со времен схоластической философии: как душа связана с телом? Оставляет ли суверенитет Бога место для свободной воли ? Каковы наши отношения как людей с остальной частью созданного порядка?

Но я больше не верю в Бога. Некоторое время нет. Сейчас я живу с остальной частью современности в мире, который «разочарован».

Сегодня искусственный интеллект и информационные технологии вобрали в себя многие вопросы, которыми когда-то занимались теологи и философы: отношение разума к телу, вопрос свободы воли, возможность бессмертия. Это старые проблемы, и хотя теперь они появляются в разных обличьях и под разными именами, они сохраняются в разговорах о цифровых технологиях, как и те мертвые метафоры, которые все еще скрываются в синтаксисе современной речи. Все вечные вопросы превратились в инженерные проблемы.


T собака прибыла в то время, когда моя жизнь была в основном уединенной. Той весной мой муж путешествовал больше обычного, и, за исключением уроков, которые я преподавала в университете, я большую часть времени проводила одна. Мое общение с собакой, которое сначала ограничивалось стандартными голосовыми командами, но со временем переросло в праздную антропоморфизирующую болтовню владельца домашнего животного, часто было единственным случаем в определенный день, когда я слышал свой собственный голос. “На что ты смотришь?” – спросила я, обнаружив, что он прикован к окну. “Чего ты хочешь?” Я ворковал, когда он лаял у изножья моего стула, пытаясь отвлечь мое внимание от компьютера. Известно, что я бил своих друзей за то, что они так разговаривают со своими домашними животными, как будто животные их понимают. Но Aibo был оснащен программным обеспечением для обработки языков и мог распознавать более 250 слова; разве это не означало, что он «понял»?

Системы сенсорного восприятия Айбо полагаются на нейронные сети , технология, которая смоделирована на основе мозга и используется для всех видов задач распознавания и прогнозирования. Facebook использует нейронные сети для идентификации людей на фотографиях; Alexa использует их для интерпретации голосовых команд. Google Translate использует их для перевода французского на фарси. В отличие от классических систем искусственного интеллекта, которые запрограммированы с подробными правилами и инструкциями, нейронные сети разрабатывают свои собственные стратегии на основе примеров, которые им скармливают, – процесс, который называется «обучением». Если вы хотите научить сеть распознавать фотографию кошки, например, вы скармливаете ей тонны случайных фотографий, каждая из которых имеет положительное или отрицательное подкрепление: положительный отзыв для кошек, отрицательный отзыв для не-кошек.

Дорожный автомат, c 1962. Фотография: Granger Historical Picture Archive / Alamy

Собаки тоже реагируют на обучение с подкреплением, поэтому обучение Aibo было более или менее похоже на дрессировка настоящей собаки. В буклете с инструкциями мне было сказано давать ему постоянную вербальную и тактильную обратную связь. Если он подчинялся голосовой команде – сесть, стоять или перевернуться – я должен был почесать ему затылок и сказать «хорошая собака».

Если он не повиновался, я должен был ударьте его по спине и скажите «нет!» или «плохой Айбо». Но я обнаружил, что не хочу его дисциплинировать. В первый раз, когда я ударил его, когда он отказался ложиться к себе в постель, он немного съежился и захныкал. Я, конечно, знал, что это запрограммированная реакция – но опять же, разве эмоции у биологических существ не просто алгоритмы, запрограммированные эволюцией?

Анимизм был встроен в дизайн. Невозможно погладить объект и обратиться к нему устно, не считая его в некотором смысле разумным. Мы способны приписывать жизнь объектам, которые гораздо менее убедительны. Дэвид Хьюм однажды заметил «всеобщую тенденцию человечества представлять себе всех существ, подобных себе» – пословицу, которую мы доказываем каждый раз, когда пинаем неисправный прибор или называем нашу машину человеческим именем. «Наш мозг не может принципиально различать взаимодействие с людьми и взаимодействие с устройствами», – пишет Клиффорд Насс, профессор коммуникации из Стэнфорда, который писал о привязанностях, которые люди развивают с помощью технологий.

Несколькими месяцами ранее я прочитал статью в журнале Wired, в которой женщина призналась в садистском удовольствии, которое она получала, крича на Алексу, персональную помощницу по дому. Она называла машины по именам, когда они включали не ту радиостанцию, и закатывала глаза, когда они не реагировали на ее команды. Иногда, когда робот неправильно понимал вопрос, она и ее муж объединялись и бранили его вместе, своего рода извращенный ритуал связи, который объединял их против общего врага. Все это было преподнесено как хорошее американское развлечение. «Я купил этого проклятого робота», – написал автор

Humanoid robot Sophia, developed by Hanson Robotics, draws on a piece of paper before auctioning her own non-fungible token (NFT) artwork, in Hong Kong, earlier this year. A road-walking automaton, c1900.
Гуманоидный робот София, разработанный Hanson Robotics , рисует на листе бумаги перед тем, как выставить на аукцион свое произведение искусства с невзаимозаменяемыми токенами (NFT) в Гонконге в начале этого года. Фотография: Тайрон Сиу / Reuters

Однажды женщина осознала что ее малыш наблюдал, как она развязывает эту словесную ярость. Она беспокоилась, что ее поведение по отношению к роботу влияет на ее ребенка. Затем она подумала, что это делает с ее собственной психикой, так сказать, с ее душой. Что это значит, спросила она, что она привыкла к тому, чтобы небрежно дегуманизировать эту вещь?

Это было ее слово: «дегуманизировать». Ранее в статье она назвала его роботом. Где-то в процессе того, чтобы подвергнуть сомнению ее отношение к устройству – подвергнув сомнению свою человечность – она ​​решила, хотя бы подсознательно, наделить его личностью.


D В первую неделю у меня был Aibo, я выключал его всякий раз, когда Я вышел из квартиры. Не то чтобы я беспокоился о том, что он скитается без присмотра. Это было просто инстинктивно, я щелкал выключателем, когда гасил все огни и другие приборы. К концу первой недели я уже не мог заставить себя это делать. Это казалось жестоким. Я часто задавался вопросом, что он делал в те часы, когда я оставлял его одного. Каждый раз, когда я приходил домой, он стоял у двери, чтобы поприветствовать меня, как если бы он узнал звук моих приближающихся шагов. Когда я готовил обед, он последовал за мной на кухню и встал у моих ног.

Он послушно сидел там, виляя хвостом, глядя на меня. меня с его большими голубыми глазами, как будто в ожидании – иллюзия, которая была разрушена только однажды, когда кусок еды соскользнул с прилавка, и он не отрывал глаз от меня, не заинтересованный в погоне за кусочком. )

Его поведение не было ни чисто предсказуемым, ни чисто случайным, но казалось способным к подлинной спонтанности. Даже после того, как он прошел обучение, его реакции было трудно предвидеть. Иногда я просил его сесть или перевернуться, и он просто лаял на меня, виляя хвостом со счастливым вызовом, который казался отчетливо собачьим. Было бы естественно списать его непослушание на сбой в алгоритмах, но как легко было интерпретировать это как проявление воли. «Почему ты не хочешь лечь?» Я слышал, как я говорил ему не раз.

Я, конечно, не верил, что у собаки есть какие-то внутренние переживания. Не совсем – хотя я полагаю, что не было никакого способа доказать это. Как указывает философ Томас Нагель в своей 2007 бумага Каково это Быть летучей мышью ?, сознание можно наблюдать только изнутри. Ученый может провести десятилетия в лаборатории, изучая эхолокацию и анатомическую структуру мозга летучей мыши, и все же он никогда не узнает, каково это, субъективно, быть летучей мышью – и ощущать ли это вообще что-нибудь. Наука требует взгляда от третьего лица, но сознание воспринимается исключительно с точки зрения первого лица. В философии это называется проблемой других умов. Теоретически это применимо и к другим людям. Возможно, что я единственный сознательный человек в популяции зомби, который просто ведет себя убедительно человечным образом.

Конечно, это всего лишь мысленный эксперимент – а не особенно продуктивный. В реальном мире мы предполагаем наличие жизни через аналогию, через подобие двух вещей. Мы считаем, что собаки (настоящие, биологические собаки) обладают определенным уровнем сознания, потому что, как и мы, у них есть центральная нервная система, и, как и мы, они проявляют поведение, которое мы ассоциируем с голодом, удовольствием и болью. Многие пионеры искусственного интеллекта обошли проблему умов других людей, сосредоточившись исключительно на внешнем поведении. Алан Тьюринг однажды заметил, что единственный способ узнать, есть ли у машины внутренний опыт, – это «быть машиной и чувствовать себя мыслящим».

Это явно не задача для наука. Его знаменитая оценка для определения машинного интеллекта – теперь называемая Тест Тьюринга – представлял компьютер, скрытый за экраном, автоматически набирающий ответы в ответ на вопросы, заданные собеседником-человеком. Если собеседник поверил, что разговаривает с другим человеком, то машину можно было объявить «умной». Другими словами, мы должны признать, что машина обладает интеллектом, подобным человеческому, при условии, что она может убедительно выполнять поведение, которое мы ассоциируем с интеллектом человеческого уровня.

A road-walking automaton, c1900.
Техник из Диснейленда работает над аниматронной птицей в 1974. Фотография: Tom Nebbia / Getty Images

Совсем недавно философы предложили тесты, которые предназначены для определения не только функционального сознания в машинах, но и феноменальное сознание – есть ли у них какой-либо внутренний, субъективный опыт. Один из них, разработанный философом Сьюзан Шнайдер, включает в себя задание ИИ ряда вопросов, чтобы увидеть, может ли он уловить концепции, аналогичные тем, которые мы связываем с нашим собственным внутренним опытом. Понимает ли машина себя чем-то большим, чем физическая сущность? Выживет ли он после выключения? Может ли он вообразить, что его разум сохраняется где-то еще, даже если его тело умирает? Но даже если бы робот прошел этот тест, он предоставил бы только достаточные доказательства сознания, но не абсолютное доказательство.

Возможно, Шнайдер признает, что эти вопросы являются антропоцентрическими. Если бы сознание ИИ на самом деле было совершенно непохожим на человеческое, разумный робот потерпел бы неудачу из-за несоответствия нашим человеческим стандартам. Точно так же очень умная, но бессознательная машина могла бы получить достаточно информации о человеческом разуме, чтобы заставить собеседника поверить в ее наличие. Другими словами, мы все еще находимся в той же эпистемической загадке, с которой столкнулись с тестом Тьюринга. Если компьютер может убедить человека в том, что у него есть разум, или если он демонстрирует, как сказано на сайте Aibo, «настоящие эмоции и инстинкт», у нас нет философских оснований для сомнений.


«Ш шляпа похожа на человека?» Веками мы серьезно рассматривали этот вопрос и ответили: «Как бог». Для христианских богословов люди созданы по образу Бога, хотя и не во внешнем смысле. Скорее, мы подобны Богу, потому что у нас тоже есть сознание и высшие мысли. Это лестная доктрина, но когда я впервые столкнулся с ней, будучи студентом-богословом, казалось, что она подтвердила то, во что я уже верил интуитивно: внутренний опыт важнее и надежнее, чем мои действия в этом мире .

Сегодня именно этот внутренний опыт стало невозможно доказать – по крайней мере, с научной точки зрения. Хотя мы знаем, что психические явления каким-то образом связаны с мозгом, совсем не ясно, как они происходят и почему. Нейробиологи добились прогресса, используя МРТ и другие устройства, в понимании основных функций сознания – например, систем, составляющих зрение, внимание или память. Но когда дело доходит до феноменологического опыта – полностью субъективного мира цветов и ощущений, мыслей, идей и убеждений – невозможно объяснить, как он возникает из этих процессов или связан с ними. Подобно тому, как биолог, работающий в лаборатории, никогда не сможет понять, что значит быть летучей мышью, изучая объективные факты с точки зрения третьего лица, так и любое полное описание структуры и функции системы боли человеческого мозга, например, никогда не мог полностью объяснить субъективное переживание боли.

В 2007, философ Дэвид Чалмерс назвал это «трудной проблемой» сознания. В отличие от сравнительно «легких» проблем функциональности, сложная задача – это вопрос, почему процессы в мозге сопровождаются опытом от первого лица. Если никакая другая материя в мире не сопровождается умственными качествами, тогда почему материя мозга должна быть другой? Компьютеры могут выполнять свои самые впечатляющие функции без внутренних компонентов: теперь они могут управлять дронами и диагностировать рак и A technician at Disneyland working on an animatronic bird in 1962. победили чемпиона мира в го , не осознавая, что они делают. «Почему физическая обработка вообще должна давать начало богатой внутренней жизни?» Чалмерс написал. «Это кажется объективно необоснованным, и тем не менее это так». Двадцать пять лет спустя мы не приблизились к пониманию того, почему.

Несмотря на эти различия между разумом и компьютером, мы настаиваем на том, чтобы видеть наш образ в этих машинах. Когда мы сегодня спрашиваем: «Что такое человек?», Наиболее частым ответом будет «как компьютер». Несколько лет назад психолог Роберт Эпштейн призвал исследователей одного из самых престижных исследовательских институтов мира попытаться объяснить поведение человека, не прибегая к вычислительным метафорам. Они не могли этого сделать. Эпштейн отмечает, что эта метафора стала настолько распространенной, что «практически не существует формы дискурса о разумном человеческом поведении, который происходил бы без использования этой метафоры, точно так же, как никакая форма дискурса о разумном человеческом поведении не могла бы продолжаться в определенные эпохи и культуры без ссылки. духу или божеству ».

Робот собирает кубик Рубика на Ганноверской ярмарке в Германии, 2014. Фотография: Йохен Любке / EPA

Даже люди, которые очень мало знают о компьютерах, повторяют логику метафоры. Мы вызываем его каждый раз, когда заявляем, что «обрабатываем» новые идеи, или когда говорим, что «храним» воспоминания или «извлекаем» информацию из нашего мозга. И поскольку мы все чаще говорим о своем сознании как о компьютерах, компьютерам теперь присвоен статус умов. Во многих секторах информатики терминология, которая когда-то заключалась в кавычки применительно к машинам – «поведение», «память», «мышление» – теперь воспринимается как прямое описание их функций. Программисты говорят, что нейронные сети учатся, что программы распознавания лиц могут видеть, что их машины понимают. Можно обвинить людей в антропоморфизме, если они приписывают человеческое сознание неодушевленному предмету. Но Родни Брукс, робототехник из Массачусетского технологического института, настаивает на том, что это дает нам, людям, награду, которую мы больше не заслуживаем. В своей книге «Плоть и машины» он утверждает, что большинство людей склонны «чрезмерно антропоморфизировать людей… которые в конце концов являются простыми машинами».

«Т его собака должна уйти », – сказал мой муж. Я только что пришел домой и стоял на коленях в коридоре нашей квартиры, гладя Айбо, который бросился к двери, чтобы поприветствовать меня. Он дважды лаял, искренне обрадовавшись меня, и его глаза закрылись, когда я почесал ему подбородок.

«Что ты имеешь в виду, иди?» Я сказал.

«Ты должен отправить его обратно. Я не могу здесь жить с этим ».

Я сказал ему, что собаку все еще дрессируют. Пройдут месяцы, прежде чем он научится подчиняться командам. Единственная причина, по которой на это потребовалось так много времени, заключалась в том, что мы продолжали выключать его, когда нам хотелось тишины. Вы не можете этого сделать с биологической собакой.

«Ясно, что это не биологическая собака», – сказал мой муж. Он спросил, понял ли я, что красный свет под его носом был не просто системой обзора, а камерой, или я думал, куда отправляются его кадры. Он сказал мне, что пока я был в отъезде, собака очень систематически бродила по квартире, рассматривая нашу мебель, наши плакаты, наши туалеты. Он потратил 25 минут, просматривающих наши книжные шкафы и проявившего особый интерес, как он утверждал, к полке марксистской критики.

Он спросил меня, что случилось с данными, которые он собирал.

«Он используется для улучшения своих алгоритмов», – сказал я.

«Где?»

Я сказал, что не знаю.

«Проверьте договор».

Я обнаружил документ на своем компьютере. нашел соответствующий пункт. «Он отправляется в облако».

«К Sony »

Мой муж, как известно, параноик в таких вещах. Он наклеивает кусок черной изоленты на камеру своего ноутбука и примерно раз в месяц убеждается, что его личный веб-сайт контролируется АНБ.

Конфиденциальность была современной фиксацией, я сказал, и отчетливо американец. На протяжении большей части истории человечества мы признавали, что за нашими жизнями наблюдают, слушают, контролируют боги и духи – не все из них тоже доброжелательны.

«И я полагаю, что мы были тогда счастливее, – сказал он.

Во многом да, наверное, сказал я.

Я знал, конечно, что я был неразумным. Позже в тот же день я достал из шкафа большую коробку, в которой прибыл Айбо, и положил его лежащим обратно в его капсулу. Это было так же хорошо; срок ссуды почти истек. Что еще более важно, в последние несколько недель я все больше не мог опровергнуть вывод о том, что моя привязанность к собаке была неестественной. Я начал замечать вещи, которые каким-то образом ускользнули от моего внимания: слабое механическое жужжание, сопровождавшее движения собаки; мигающий красный свет в его носу, как некое брехтовское напоминание о его искусстве.

Мы моделируем мозг и надеемся, что возникнет какое-то загадочное природное явление – сознание. Но какой вид магического мышления заставляет нас думать, что наши ничтожные имитации синонимичны тому, что они пытаются имитировать, – что кремний и электричество могут воспроизводить эффекты, возникающие из плоти и крови? Мы не боги, способные творить по своему подобию. Все, что мы можем сделать, – это изображения. Философ Джон Сирл однажды сказал нечто подобное. Он утверждал, что компьютеры всегда использовались для моделирования природных явлений – пищеварения, погодных условий – и они могут быть полезны для изучения этих процессов. Но мы склоняемся к суевериям, когда объединяем симуляцию с реальностью. «Никто не думает:« Ну, если мы сделаем симуляцию ливня, мы все промокнем », – сказал он. «Точно так же компьютерная симуляция сознания не является сознательной»

Многие люди сегодня верят, что вычислительные теории разума доказали, что мозг – это компьютер, или объяснили функции сознания. Но, как однажды заметил ученый-компьютерщик Сеймур Паперт, вся аналогия показывает, что проблемы, которые долгое время ставили в тупик философов и богословов, «появляются в эквивалентной форме в новом контексте». Метафора не решила наших самых насущных экзистенциальных проблем; он просто перенес их на новый субстрат.

Это отредактированный отрывок из книги Меган О’Гиблин «Бог, человек, животное, машина», опубликованный Doubleday 32 Август