Формально-логический и феноменологический подходы в ИИ: границы вычислимости понимания.
Материал из MachineLearning.
Формально-логический и феноменологический подходы в искусственном интеллекте — два различных способа постановки вопроса о природе интеллекта и понимания. Формально-логический подход описывает интеллектуальную деятельность через вычислимые операции над представлениями, правилами и данными. Феноменологический подход исследует сознание как переживаемый опыт, обладающий направленностью на предметы, телесной обусловленностью и зависимостью от жизненного и социального контекста.
Различие между этими подходами особенно важно при обсуждении того, способна ли система искусственного интеллекта не только успешно обрабатывать информацию, но и понимать её. Математическая теория вычислимости устанавливает строгие ограничения на возможности алгоритмов, однако сама по себе не отвечает на вопрос о существовании у машины сознания, субъективного опыта или интенциональности. Эти вопросы относятся к философии сознания и остаются предметом дискуссии.[1][1]
Предмет проблемы
В исследованиях ИИ термин понимание используется в нескольких значениях. В инженерном смысле системой, понимающей текст или ситуацию, иногда называют систему, которая правильно отвечает на вопросы, строит подходящие представления, делает выводы и действует в соответствии с контекстом. В философии сознания понимание может дополнительно предполагать наличие значения для самого субъекта, осознание предмета, включённость в практическую деятельность и определённый характер субъективного опыта.
Эти значения не следует смешивать. Высокое качество решения задачи является наблюдаемым и измеримым свойством системы. Наличие у неё собственного опыта или внутреннего понимания нельзя непосредственно вывести только из успешного поведения без дополнительных философских предпосылок.[1][1]
Формально-логический подход
Интеллект как формальная обработка представлений
В формальном подходе интеллектуальный процесс описывается как преобразование состояний или представлений по определённым правилам. Формальная система задаёт множество допустимых выражений, правила их построения и процедуры получения одних выражений из других. При этом выполнение правила зависит от формальных свойств элементов системы, а не обязательно от того значения, которое приписывает им внешний наблюдатель.
Классический символический ИИ использовал логические формулы, правила вывода, деревья поиска, системы планирования и явно заданные базы знаний. Аллен Ньюэлл и Герберт Саймон сформулировали гипотезу физической символьной системы: физическая система, способная создавать и преобразовывать символические структуры, обладает необходимыми и достаточными средствами для осуществления интеллектуального действия.[1] Это утверждение является научной и философской гипотезой, а не доказанной математической теоремой.
Современные нейронные сети существенно отличаются от классических символьных систем: их внутренние представления обычно распределены между множеством числовых параметров и не задаются в виде явных логических правил. Тем не менее обучение и применение нейронной сети остаются вычислительными процессами, описываемыми математическими функциями, алгоритмами оптимизации и операциями над числовыми представлениями.[1]
Поэтому противопоставление «формального ИИ» и нейронных сетей требует уточнения. Нейросетевой подход не обязательно является формально-логическим в узком смысле, но он остаётся частью более широкого вычислительного подхода к интеллекту.
Основные преимущества
Формальное описание позволяет:
- задавать точные алгоритмы и критерии решения задачи;
- проверять корректность отдельных процедур;
- оценивать вычислительную сложность;
- проводить воспроизводимые эксперименты;
- сравнивать системы по измеримым показателям;
- строить модели, которые могут быть реализованы на вычислительных устройствах.
Формализация особенно эффективна в задачах, где можно определить входные данные, допустимые действия, функцию потерь или критерий правильности. Однако успешная формализация некоторого поведения ещё не доказывает, что модель воспроизводит все механизмы человеческого мышления или обладает субъективным опытом.
Феноменологический подход
Феноменология — философская традиция, исследующая структуры опыта так, как они даны переживающему субъекту. В работах Эдмунда Гуссерля центральную роль играет интенциональность — направленность сознания на предмет, событие, возможность или положение дел. Восприятие, воспоминание, ожидание и суждение являются не просто внутренними состояниями, а переживаниями чего-либо.[1][1]
Феноменологический подход обращает внимание на свойства человеческого понимания, которые трудно выразить как изолированное применение формальных правил:
- зависимость значения от ситуации и предшествующего опыта;
- телесную организацию восприятия и действия;
- временную структуру опыта;
- практические навыки и привычки;
- социальный и языковой контекст;
- различие между предметом и способом, которым он дан субъекту;
- перспективность восприятия и неполноту каждой отдельной точки зрения.
В феноменологии человек рассматривается не как пассивный получатель данных, а как телесный участник мира, уже вовлечённый в практические и социальные отношения. Смысл предмета определяется не только его формальными признаками, но и тем, как с ним можно действовать, какую роль он играет в ситуации и какое значение имеет для субъекта.
Феноменология не является самостоятельным алгоритмом построения ИИ. Она представляет собой философский и методологический подход, способный выявлять предпосылки вычислительных моделей и указывать на аспекты опыта, которые могут быть потеряны при чисто формальном описании.
Феноменологическая критика классического ИИ
Хьюберт Дрейфус, опираясь на феноменологию Мартина Хайдеггера и Мориса Мерло-Понти, критиковал предположение, что человеческое умение можно полностью представить как применение явных, независимых от контекста правил. По его мнению, значительная часть квалифицированной деятельности опирается на неявный практический опыт, телесные навыки и непосредственную чувствительность к ситуации.[1]
Некоторые ранние прогнозы Дрейфуса относительно конкретных возможностей вычислительных систем были опровергнуты последующим развитием ИИ. Машины научились выполнять ряд задач, которые ранее считались доступными только человеку. Однако общий вопрос о роли тела, практики и контекста сохранился и повлиял на исследования воплощённого познания, робототехники и энактивизма.[1]
Сравнение подходов
Формально-вычислительный и феноменологический подходы различаются прежде всего выбором объекта и перспективы исследования. Формальный подход рассматривает алгоритмы, представления, правила и вычислительные состояния системы. Его основная задача состоит в объяснении того, каким образом определённые входные данные преобразуются в решения, выводы или действия. Исследование обычно ведётся с позиции внешнего наблюдателя и опирается на измеримые показатели: корректность, точность, вычислительную эффективность и способность системы достигать заданной цели.
Феноменологический подход сосредоточен не столько на внешнем функционировании, сколько на структуре переживаемого опыта. Он исследует, каким образом предметы, события и значения даны субъекту, как понимание зависит от телесности, временности, практической деятельности и социального контекста. В центре внимания находится перспектива первого лица — не только то, как система действует, но и существует ли для неё осмысленное отношение к тому, с чем она взаимодействует.
Различается и понимание самого термина «понимание». В формально-вычислительном подходе оно может определяться через функциональные способности: использование контекста, правильное применение знаний, построение выводов и успешное решение новых задач. В феноменологическом подходе понимание связано с тем, что предмет имеет значение для переживающего и действующего субъекта и включён в целостный жизненный мир.
Ограничение формального подхода заключается в том, что описание преобразований символов или числовых представлений само по себе не объясняет, каким образом возникает значение для системы. Ограничение феноменологического подхода состоит в том, что он не предоставляет единого технического метода, с помощью которого можно было бы непосредственно построить и проверить искусственную интеллектуальную систему.
Эти подходы не обязательно являются взаимоисключающими. Формальные модели позволяют создавать воспроизводимые и технически реализуемые системы, тогда как феноменология помогает анализировать, какие аспекты человеческого опыта такая модель воспроизводит, а какие оставляет за пределами описания.
Границы вычислимости
Тезис Чёрча — Тьюринга
Теория вычислимости исследует, какие задачи могут быть решены посредством конечной последовательности элементарных операций. В 1930-х годах Алонзо Чёрч и Алан Тьюринг независимо предложили формальные модели эффективного вычисления. Согласно тезису Чёрча — Тьюринга, всякая функция, вычислимая эффективным механическим методом, может быть вычислена машиной Тьюринга.[1]
Тезис Чёрча — Тьюринга не является обычной математической теоремой, поскольку связывает формально определённое понятие машины Тьюринга с доформальным понятием эффективной процедуры. Его убедительность основана на совпадении различных независимых формализаций алгоритма и на отсутствии общепринятого примера эффективного механического метода, который не мог бы быть представлен в эквивалентной вычислительной модели.
Этот тезис относится к механически выполняемым процедурам. Он сам по себе не утверждает, что сознание является вычислением, что мозг эквивалентен цифровому компьютеру или что все физические процессы могут быть точно смоделированы машиной Тьюринга.
Неразрешимые задачи
Тьюринг показал существование задач, для которых не может быть построен универсальный алгоритм. Наиболее известный пример — проблема остановки: не существует алгоритма, который для любой произвольной программы и любого входа всегда правильно определяет, завершится ли выполнение этой программы.[1][1]
Неразрешимость является строгим математическим свойством класса задач. Она не означает, что компьютер недостаточно быстр или что ещё не найден хороший алгоритм. Она означает, что универсального алгоритма указанного типа не существует в рамках принятой модели вычисления.
От неразрешимости необходимо отличать вычислительную сложность. Задача может быть алгоритмически разрешимой, но требовать непрактически большого времени или объёма памяти. В таком случае принципиальная вычислимость сохраняется, хотя точное решение может быть недоступно при реальных ограничениях ресурсов.
Теоремы Гёделя
Первая теорема Гёделя о неполноте в одной из стандартных формулировок утверждает, что всякая непротиворечивая, эффективно аксиоматизируемая формальная теория, достаточно выразительная для описания элементарной арифметики, содержит утверждения, которые нельзя ни доказать, ни опровергнуть средствами самой этой теории. Вторая теорема показывает, что такая теория при соответствующих условиях не может доказать собственную непротиворечивость.[1]
Теоремы Гёделя устанавливают ограничения формальных аксиоматических систем. Из них непосредственно не следует, что человеческий разум способен решать все недоступные формальной системе задачи или что человеческое мышление принципиально невычислимо. Подобные выводы требуют дополнительных предположений о непротиворечивости, устройстве и математических возможностях человеческого разума и остаются философски спорными.
Что математические ограничения не доказывают
Результаты Тьюринга и Гёделя позволяют утверждать, что:
- не существует алгоритма для решения всех формально поставленных задач;
- существуют неразрешимые проблемы;
- достаточно выразительные формальные теории не могут одновременно обладать всеми желательными свойствами полноты и эффективной аксиоматизируемости.
Но эти результаты не доказывают, что:
- человек может решать любую неразрешимую задачу;
- сознание обязательно является невычислимым;
- вычислительная система не может обладать пониманием;
- наличие понимания автоматически выводит систему за пределы вычислимости.
Таким образом, границы вычислимости и границы понимания — разные проблемы. Первая имеет строгие математические формулировки. Вторая зависит от того, что именно признаётся пониманием и какие свойства считаются необходимыми для его наличия.
Язык, значение и интенциональность
Формальная система может обрабатывать выражения на основании их структуры. Например, программа способна проверить синтаксическую правильность формулы или преобразовать последовательность символов, не устанавливая самостоятельного отношения между этими символами и объектами внешнего мира.
В философии языка различают синтаксис — правила построения и преобразования выражений — и семантику — их значение или условия истинности. Однако человеческое владение языком включает также прагматический уровень: цели говорящего, ситуацию общения, общие знания собеседников и последствия высказывания.
Интенциональность обозначает способность психических состояний быть направленными на предметы и положения дел. Мысль может быть мыслью о городе, человеке или несуществующем объекте; страх — страхом перед определённой угрозой; ожидание — ожиданием некоторого события.[1]
В вычислительной системе внутреннее состояние может быть интерпретировано разработчиком как представление объекта. Философский вопрос заключается в том, достаточно ли такой функциональной роли для наличия собственной интенциональности или значение остаётся производным от интерпретации пользователя и разработчика. Общепринятого решения этой проблемы не существует.
Проблема символического заземления
Проблема символического заземления была сформулирована Стеваном Харнадом как вопрос о том, каким образом значения символов могут стать внутренними для системы, а не зависеть исключительно от значений, находящихся в сознании внешнего интерпретатора.[1]
Если значение каждого символа объясняется только через другие символы, система может оказаться похожей на словарь, в котором все определения даны на неизвестном читателю языке. Переход от одного определения к другому не объясняет, каким образом хотя бы часть слов впервые получает значение.
Харнад предложил связывать элементарные символы с несимвольными представлениями: сенсорными образами и механизмами распознавания категорий. Тогда более сложные символические конструкции могут строиться на основе уже заземлённых категорий.[1]
В современных исследованиях заземлением также называют связывание языка с изображениями, звуками, действиями робота, состояниями среды или результатами взаимодействия. Такое связывание можно проверять экспериментально: например, по способности системы выполнять инструкции в физической или виртуальной среде.
Однако успешное сенсомоторное или мультимодальное заземление не является доказательством наличия сознания. Оно показывает, что внутренние представления системы систематически связаны с внешними объектами и действиями. Достаточно ли этого для собственного значения и понимания, зависит от принятой философской позиции.
В области обработки естественного языка Эмили Бендер и Александр Коллер утверждают, что обучение только на языковой форме не гарантирует освоения коммуникативного значения, поскольку значение связано не только с распределением выражений в текстах, но также с намерениями участников общения и их отношением к миру.[1] Этот вывод является теоретической позицией авторов и предметом научной дискуссии, а не математической теоремой о невозможности машинного понимания.
Аргумент китайской комнаты
В 1980 году Джон Сёрл предложил мысленный эксперимент, известный как аргумент китайской комнаты. Человек, не знающий китайского языка, находится в комнате и получает последовательности китайских знаков. Следуя подробным инструкциям на известном ему языке, он преобразует входные последовательности в выходные так, что внешнему наблюдателю его ответы кажутся осмысленными.[1]
С точки зрения Сёрла, человек выполняет правильные синтаксические операции, но не понимает значения китайских выражений. Отсюда он заключает, что выполнение программы само по себе недостаточно для понимания и что синтаксис не тождествен семантике.
Аргумент направлен против версии сильного ИИ, согласно которой правильно организованная программа не просто моделирует мышление, а буквально обладает сознанием и пониманием. Китайская комната не утверждает, что машины не могут вести осмысленный диалог или решать интеллектуальные задачи. Она ставит под сомнение вывод от правильного поведения к наличию внутреннего понимания.
Против аргумента были выдвинуты различные возражения:[1]
- ответ системы: китайский понимает не отдельный человек, а вся система, включающая человека, инструкции и хранилище символов;
- ответ робота: значение может возникнуть, если программа управляет телом, воспринимающим окружающую среду и действующим в ней;
- ответ симулятора мозга: программа может воспроизводить причинную организацию мозга носителя языка, а не только внешние правила разговора;
- функционалистский ответ: при достаточно полной организации поведения и внутренних причинных связей отрицание понимания теряет обоснование.
Сёрл предложил ответы на эти возражения, однако дискуссия не привела к общепринятому решению. Китайская комната является философским аргументом, а не экспериментальным результатом или доказанной теоремой.
Равнозначна ли обработка информации пониманию
Ответ зависит от определения понимания.
Операциональное понимание
В прикладных исследованиях понимание можно определять через способность системы:
- правильно отвечать на вопросы;
- учитывать контекст;
- переносить знания на новые задачи;
- строить причинно и логически согласованные выводы;
- обнаруживать неоднозначность;
- исправлять действия после получения новой информации;
- выполнять инструкции в среде.
При таком определении понимание является функциональной способностью, которую можно проверять экспериментально. Нет принципиальной необходимости сначала установить наличие у системы субъективного опыта.
Семантическое и прагматическое понимание
Более сильный критерий требует, чтобы представления системы были устойчиво связаны с объектами, действиями и целями. Понимание проявляется не только в статистическом соответствии ответа тексту, но и в способности использовать выражения в подходящих обстоятельствах, связывать их с последствиями действий и поддерживать общий контекст общения.
Такое понимание допускает эмпирическое исследование, однако критерии его достаточности остаются дискуссионными.
Феноменальное понимание
Наиболее сильная трактовка связывает понимание с субъективным опытом: для системы должно существовать некоторое переживание значения или осознание того, о чём идёт речь. Подобное требование связано с проблемой сознания и так называемыми феноменальными свойствами опыта.[1]
В настоящее время не существует общепринятого научного теста, который позволял бы по внешнему поведению искусственной системы достоверно установить наличие или отсутствие субъективного опыта. Это не доказывает, что машинное сознание невозможно, но ограничивает силу выводов, которые можно сделать только на основании поведения.
Тест Тьюринга и поведенческий критерий
Алан Тьюринг предложил заменить плохо определённый вопрос «Может ли машина мыслить?» более операциональным вопросом о том, способна ли машина поддерживать текстовое взаимодействие так, чтобы человек не мог надёжно отличить её от другого человека.[1]
Тест Тьюринга оценивает наблюдаемое языковое поведение. Он не измеряет непосредственно субъективный опыт, устройство внутренних представлений или наличие феноменальной интенциональности. Поэтому прохождение некоторой версии теста может свидетельствовать о развитой способности к диалогу, но его философская интерпретация зависит от того, считается ли поведенческая неразличимость достаточным условием мышления.
Тьюринг не доказывал тождество имитации и сознания. Его предложение можно рассматривать как методологический переход от вопроса о недоступной непосредственному наблюдению внутренней сущности к проверяемому поведению.
Основные философские позиции
Вычислительная теория сознания
Согласно вычислительной теории сознания, по крайней мере некоторые психические процессы являются вычислениями над внутренними представлениями. Сильные версии этой позиции предполагают, что подходящая вычислительная организация может быть достаточной для мышления.[1]
Это философская теория, согласующаяся с рядом исследовательских программ когнитивной науки, но не доказанный результат информатики.
Функционализм
Функционализм определяет психическое состояние через его причинную и функциональную роль: связи с входными воздействиями, другими внутренними состояниями и поведением. В рамках функционализма система с подходящей организацией может обладать психическими состояниями независимо от материала, из которого она создана.[1]
С этой точки зрения правильная обработка информации может быть пониманием, если она реализует необходимые функциональные отношения, а не только поверхностно имитирует ответы.
Биологический натурализм
Сёрл признаёт сознание реальным биологическим явлением и считает, что оно вызывается определёнными процессами мозга. При этом он отвергает вывод, что одной формальной программы достаточно для сознания.[1]
Биологический натурализм не исключает искусственного сознания вообще, но требует воспроизведения релевантных причинных механизмов, а не только выполнения абстрактно эквивалентного алгоритма.
Воплощённый и энактивный подходы
Теории воплощённого познания подчёркивают, что когнитивные процессы зависят от тела, сенсомоторных возможностей и взаимодействия со средой. Энактивизм рассматривает познание как возникающее в деятельности живого или автономного агента, а не только во внутренней обработке заранее полученной информации.[1][1]
Эти направления частично опираются на феноменологию, но включают также эмпирические исследования восприятия, действия, робототехники и когнитивной науки. Они не образуют единой теории и не доказывают невозможность вычислительного объяснения познания.
Установленные результаты и дискуссионные позиции
В обсуждении вычислимости и понимания необходимо различать строгие математические результаты, эмпирически проверяемые утверждения и философские позиции.
К установленным математическим результатам относятся существование алгоритмически неразрешимых задач и ограничения достаточно выразительных формальных теорий, описываемые теоремами Гёделя. Эти результаты имеют точные условия применения и не зависят от философской интерпретации сознания.
К эмпирически проверяемым результатам относится способность нейронных и символьных систем решать многие задачи, традиционно связываемые с интеллектуальной деятельностью: классифицировать объекты, распознавать речь, генерировать тексты, строить планы и отвечать на вопросы. Качество таких систем может измеряться на конкретных наборах данных и в контролируемых экспериментах.
Утверждение о том, что сенсорное или мультимодальное заземление улучшает понимание системы, является проверяемой исследовательской гипотезой. Её необходимо оценивать отдельно для конкретных архитектур, сред и задач. Улучшение результатов не доказывает наличия у системы субъективного опыта.
Положение о том, что любое человеческое понимание является вычислением, представляет собой философскую и научную гипотезу. Оно не следует непосредственно из теории вычислимости или успешности современных моделей ИИ.
Тезис о достаточности правильной функциональной организации для сознания относится к функционализму. В соответствии с этой позицией психические состояния могут определяться выполняемой ими причинной ролью, а не материалом, из которого состоит система.
Утверждение о принципиальной недостаточности формальной обработки символов для понимания является философской позицией, поддерживаемой Сёрлом и рядом критиков вычислительного подхода. Оно не обладает статусом доказанной математической теоремы.
Предположение о том, что человеческое сознание обладает невычислимыми способностями, также остаётся дискуссионной гипотезой. Оно не является непосредственным следствием теорем Тьюринга или Гёделя.
Наконец, наличие или отсутствие субъективного опыта у современных систем ИИ не установлено общепринятыми научными методами. Успешное поведение системы само по себе не позволяет окончательно подтвердить или опровергнуть существование у неё сознания.
Значение для разработки искусственного интеллекта
Формально-вычислительный подход остаётся необходимым для создания работающих систем: без формальных моделей невозможно точно задать алгоритм, провести обучение, проверить качество или реализовать систему на вычислительном устройстве.
Феноменологическая критика показывает, что интеллектуальное поведение человека нельзя автоматически сводить к работе с изолированными символами. При проектировании ИИ могут быть важны взаимодействие со средой, телесные ограничения, практический контекст, история обучения и социальная природа языка.
Из этого не следует, что феноменология должна заменить математические методы. Более продуктивным является различение нескольких уровней анализа:
- вычислительный уровень — какие функции выполняет система и какие задачи разрешимы;
- алгоритмический уровень — какие представления и процедуры используются;
- физический уровень — каким образом вычисления реализованы;
- поведенческий уровень — насколько устойчиво система действует в различных ситуациях;
- семантический уровень — как её представления связаны с объектами, действиями и коммуникативными целями;
- феноменологический уровень — существует ли у системы собственная перспектива и субъективный опыт.
Первые четыре уровня доступны прямому инженерному и экспериментальному исследованию. Семантический уровень допускает частичную операционализацию через заземление и взаимодействие. Феноменологический уровень остаётся наиболее трудным, поскольку субъективный опыт другой системы не наблюдается непосредственно.
Заключение
Формально-логический подход объясняет, каким образом интеллектуально выглядящее поведение может быть представлено в виде вычислимых операций. Его сильная сторона — точность, проверяемость и возможность технической реализации. Феноменологический подход исследует условия, при которых информация становится осмысленной для переживающего и действующего субъекта, обращая внимание на интенциональность, телесность и контекст.
Теория вычислимости устанавливает реальные пределы алгоритмических методов, но не решает вопрос о природе сознания. Теоремы Тьюринга и Гёделя не доказывают ни вычислимость, ни невычислимость человеческого понимания.
Успешная обработка информации может считаться пониманием в функциональном и инженерном смысле. Равнозначна ли она пониманию как собственному осмысленному или субъективному отношению к миру, зависит от философских предпосылок. В современной науке нет общепринятого результата, который окончательно отождествлял бы эти понятия или устанавливал между ними принципиальную несовместимость.
См. также
- Искусственный интеллект
- Машинное обучение
- Символьный искусственный интеллект
- Машина Тьюринга
- Теория вычислимости
- Тест Тьюринга
- Обработка естественного языка
- Когнитивная наука
- Воплощённое познание
- Сознание
- Интенциональность
Примечания
Литература
- Turing A. M. On Computable Numbers, with an Application to the Entscheidungsproblem // Proceedings of the London Mathematical Society. 1937. Vol. 42. P. 230–265.
- Turing A. M. Computing Machinery and Intelligence // Mind. 1950. Vol. 59, № 236. P. 433–460.
- Gödel K. Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I // Monatshefte für Mathematik und Physik. 1931. Vol. 38. P. 173–198.
- Newell A., Simon H. A. Computer Science as Empirical Inquiry: Symbols and Search // Communications of the ACM. 1976. Vol. 19, № 3. P. 113–126.
- Searle J. R. Minds, Brains, and Programs // Behavioral and Brain Sciences. 1980. Vol. 3, № 3. P. 417–457.
- Harnad S. The Symbol Grounding Problem // Physica D: Nonlinear Phenomena. 1990. Vol. 42, № 1–3. P. 335–346.
- Dreyfus H. L. What Computers Still Can’t Do: A Critique of Artificial Reason. Cambridge: MIT Press, 1992.
- Varela F. J., Thompson E., Rosch E. The Embodied Mind: Cognitive Science and Human Experience. Cambridge: MIT Press, 1991.
- Goodfellow I., Bengio Y., Courville A. Deep Learning. Cambridge: MIT Press, 2016.
- Bender E. M., Koller A. Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data // Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. 2020. P. 5185–5198.
- Rescorla M. The Computational Theory of Mind // Stanford Encyclopedia of Philosophy.
- Smith D. W. Phenomenology // Stanford Encyclopedia of Philosophy.
- Cole D. The Chinese Room Argument // Stanford Encyclopedia of Philosophy.
