Нейросимволический искусственный интеллект

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: {{well|Статья написана с использованием LLM '''GPT-5.6 Terra High''' и проверена участником ~~~~. Промпт приводится по...)
 
(2 промежуточные версии не показаны)
Строка 1: Строка 1:
-
{{well|Статья написана с использованием LLM '''GPT-5.6 Terra High''' и проверена участником [[Участник:Oleg Batsiev|Oleg Batsiev]] 18:04, 11 июля 2026 (MSD).
+
{{well|Статья написана с использованием LLM '''GPT-5.6 Terra High''' и проверена участником [[Участник:Oleg Batsiev|Oleg Batsiev]] 18:07, 11 июля 2026 (MSD).
-
Промпт приводится полностью в [[Обсуждение:Нейросимволический искусственный интеллект]].
+
Промпты и описание редакторской проверки приведены в [[Обсуждение:Нейросимволический искусственный интеллект]].
}}
}}
{{TOCright}}
{{TOCright}}
-
'''Нейросимволический искусственный интеллект''' (англ. ''neuro-symbolic artificial intelligence'', ''neuro-symbolic AI'') — направление в [[искусственный интеллект|искусственном интеллекте]], объединяющее [[нейронная сеть|нейронные сети]] с символическими представлениями знаний, [[логика|логическим выводом]], правилами и программами. Его цель — совместить способность нейросетевых моделей извлекать закономерности из неструктурированных данных со способностью символических систем оперировать явными понятиями, отношениями и правилами рассуждения.
+
'''Нейросимволический искусственный интеллект''' (англ. ''neuro-symbolic artificial intelligence'', ''neuro-symbolic AI'') — направление [[искусственный интеллект|искусственного интеллекта]], в котором нейронное обучение сочетают с символическим представлением знаний и рассуждением. В зависимости от архитектуры символическая часть может быть базой фактов и правил, логической программой, онтологией, исполнимой программой либо набором ограничений, влияющих на обучение.
-
Нейросимволический подход не является одной конкретной архитектурой. Под этим названием объединяют различные способы связать обучение на данных и символическое рассуждение: от системы «нейросеть распознаёт объекты, программа рассуждает о них» до моделей, в которых логические ограничения становятся частью функции потерь или вычислительного графа.
+
Нейросимволический ИИ не является одним алгоритмом. Этим термином называют как модульные системы, где [[нейронная сеть]] распознаёт объекты, а отдельный исполнитель применяет к ним правила, так и более тесно интегрированные модели, в которых вероятностный или приближённый логический вывод включён в обучение. Поэтому наличие на входе или выходе слов и других дискретных меток само по себе ещё не означает, что система выполняет символическое рассуждение.<ref name="thirdwave">{{статья |автор=Garcez A. d'Avila, Lamb L. C. |заглавие=Neurosymbolic AI: The 3rd Wave |год=2020 |ссылка=https://arxiv.org/abs/2012.05876}}</ref>
== Мотивация ==
== Мотивация ==
-
Нейронные сети особенно успешны там, где вход имеет высокую размерность и не задан готовой структурой: в изображениях, аудио, тексте и временных рядах. Они могут обучаться по примерам и строить сложные приближения функций. Однако представления, сформированные нейронной сетью, обычно неявны: человеку трудно извлечь из них правила, проверить ход рассуждения или гарантировать выполнение ограничения.
+
Нейронные модели умеют извлекать признаки из изображений, аудио и текста и оптимизируются по примерам. Их внутреннее знание обычно распределено по параметрам и непрерывным представлениям. Такое представление полезно для распознавания, но само по себе не задаёт явной процедуры логического вывода и не гарантирует соблюдение известных правил.
-
Символический искусственный интеллект, напротив, работает с явными объектами и отношениями. Например, правило
+
Символические системы, напротив, оперируют именованными объектами, предикатами, переменными и правилами. Пусть <tex>parent(x,y)</tex> означает «<tex>x</tex> — родитель <tex>y</tex>». Тогда одно из правил для отношения «дедушка или бабушка» можно записать так:
-
::<tex>\operatorname{родитель}(x,y)\land\operatorname{родитель}(y,z)\Rightarrow\operatorname{дед}(x,z)</tex>
+
::<tex>parent(x,y)\wedge parent(y,z)\Rightarrow grandparent(x,z).</tex>
-
можно записать, проверить и применить к новым объектам. Символические системы удобны для планирования, доказательства теорем, работы с базами знаний и объяснения решений. Но им трудно самостоятельно выделять нужные понятия из сырых изображений или текста, а ручное создание большой базы правил требует значительных усилий.
+
Правило можно прочитать, проверить и применить к объектам, не встречавшимся при его формулировке. Однако символический исполнитель не определит по необработанной фотографии, кто на ней изображён, если система восприятия и связь её результатов с символами не заданы отдельно.
-
Нейросимволический ИИ пытается устранить это разделение труда: нейронный компонент извлекает признаки, понятия или вероятности из данных, а символический компонент использует их в правилах, программах или логических ограничениях.
+
Нейросимволический подход пытается связать эти две стороны: научиться получать из данных пригодные для рассуждения сущности и одновременно использовать структуру предметной области при выводе или обучении.
== Исторический контекст ==
== Исторический контекст ==
-
В раннем искусственном интеллекте преобладал символический подход. Знания представляли в форме правил, логических формул, семантических сетей и программ. Такие системы могли выполнять явный вывод, но были ограничены объёмом вручную заданных знаний и плохо работали с шумными неструктурированными данными.
+
В классическом символическом ИИ знания представляли правилами, логическими формулами, семантическими сетями и программами. Физическая символьная гипотеза Ньюэлла и Саймона связывала общие интеллектуальные действия со способностью системы создавать и преобразовывать символические структуры.<ref name="newellsimon">{{статья |автор=Newell A., Simon H. A. |заглавие=Computer Science as Empirical Inquiry: Symbols and Search |издание=Communications of the ACM |год=1976 |том=19 |номер=3 |страницы=113–126 |doi=10.1145/360018.360022}}</ref>
-
С развитием [[глубокое обучение|глубокого обучения]] нейронные методы стали эффективнее решать задачи распознавания и генерации. При этом вновь обострились вопросы композиционности, объяснимости, работы с правилами и переноса на новые комбинации объектов. Нейросимволическое направление развивает идеи интеграции нейронных и логических моделей, исследовавшиеся как минимум с 1990-х годов.<ref name="garcez">{{книга |автор=Garcez A. S. d’Avila, Lamb L. C., Gabbay D. M. |заглавие=Neural-Symbolic Cognitive Reasoning |место=Berlin |издательство=Springer |год=2009 |doi=10.1007/978-3-540-73246-4}}</ref>
+
Параллельно развивался коннекционизм, в котором вычисление и обучение описываются сетями простых взаимодействующих элементов и распределёнными представлениями. Противопоставление двух программ исследования не было абсолютным: способы переводить логические знания в нейронные сети и извлекать правила из сетей изучаются многие десятилетия. Современное направление продолжает эту линию с использованием глубокого обучения, вероятностного программирования и дифференцируемых вычислений.<ref name="garcezbook">{{книга |автор=Garcez A. S. d'Avila, Lamb L. C., Gabbay D. M. |заглавие=Neural-Symbolic Cognitive Reasoning |место=Berlin, Heidelberg |издательство=Springer |год=2009 |doi=10.1007/978-3-540-73246-4}}</ref>
-
== Два типа представлений ==
+
== Нейронные и символические представления ==
-
В нейронном представлении знание обычно хранится в параметрах модели и непрерывных векторах. Нейросеть получает вход <tex>x</tex> и строит распределение или прогноз:
+
Нейронная модель с параметрами <tex>\theta</tex> обычно вычисляет прогноз или распределение
-
::<tex>p_\theta(y\mid x),</tex>
+
::<tex>p_\theta(y\mid x).</tex>
-
где <tex>\theta</tex> — обучаемые параметры.
+
Понятия в такой модели могут соответствовать направлениям или областям непрерывного пространства, однако заранее установленное взаимно однозначное соответствие между отдельным нейроном и отдельным понятием обычно отсутствует.
-
В символическом представлении знание выражается через дискретные сущности: факты, предикаты, отношения, правила, типы и программы. Например:
+
В символическом представлении используются дискретные термы и отношения. Например, факты <tex>red(cubeA)</tex> и <tex>leftof(cubeA,sphereA)</tex> утверждают, что куб красный и расположен слева от шара. При принятой семантике пространственных отношений можно задать правило
-
:<tex>\operatorname{красный}(\operatorname{куб}_1)</tex>;
+
::<tex>leftof(x,y)\Rightarrow rightof(y,x).</tex>
-
:<tex>\operatorname{слева}(\operatorname{куб}_1,\operatorname{шар}_1)</tex>.
+
После подстановки констант исполнитель получает новый факт <tex>rightof(sphereA,cubeA)</tex>. Такой вывод зависит не только от записей в базе, но и от выбранной логики: классической, вероятностной, нечёткой, немонотонной или иной. Поэтому «символическая часть» разных нейросимволических систем может иметь различную семантику и различные гарантии.
-
 
+
-
На этих фактах можно выполнять логический вывод. Если известно правило
+
-
 
+
-
::<tex>\operatorname{слева}(x,y)\Rightarrow\operatorname{не\_справа}(x,y),</tex>
+
-
 
+
-
то система может получить новое утверждение, даже если оно не было явно записано в исходной базе.
+
-
 
+
-
Нейросимволическая система должна решить две связанные задачи:
+
-
 
+
-
* получить символически значимые факты из данных;
+
-
* использовать правила так, чтобы результат рассуждения мог влиять на обучение или итоговое решение.
+
== Основные схемы интеграции ==
== Основные схемы интеграции ==
Строка 55: Строка 44:
=== Нейронное восприятие и символический исполнитель ===
=== Нейронное восприятие и символический исполнитель ===
-
Наиболее понятная архитектура состоит из двух модулей. Нейросеть распознаёт объекты, атрибуты и отношения на изображении или в тексте. Затем символический исполнитель (symbolic executor) получает структурированное представление и отвечает на вопрос, выполняет программу или строит план.
+
В модульной схеме нейросеть выделяет объекты, их атрибуты и отношения, а символический исполнитель работает с полученным описанием сцены. Например, в задаче ответа на вопрос по изображению один модуль формирует объектное представление, другой переводит вопрос в программу наподобие «выбрать шары, оставить синие, посчитать», после чего программа исполняется над сценой.
-
Например, в задаче визуального ответа на вопрос нейросеть может определить, что на изображении есть красный куб и синий шар. Затем программа, соответствующая вопросу «что находится слева от шара?», выполняется над сценой как над структурой объектов и отношений.
+
Промежуточные представления облегчают диагностику: можно различить ошибку обнаружения объекта, неверный разбор вопроса и ошибку исполнения. Но интерфейс между модулями становится узким местом. Жёсткое решение на этапе восприятия может отбросить неопределённость, а ошибка одного предиката — изменить всю последующую цепочку вывода.
-
Преимущество такого подхода — явный промежуточный результат. Можно проверить, ошиблась ли система на этапе распознавания объектов, разбора вопроса или логического вывода.
+
=== Логические знания как ограничения обучения ===
-
=== Логика как ограничение обучения ===
+
Вместо отдельного исполнителя формулы можно преобразовать в дифференцируемый штраф. Для этого атомам сопоставляют степени истинности из <tex>[0,1]</tex>, а логическим связкам — непрерывные операции. Например, одна из возможных интерпретаций конъюнкции — произведение
-
В другой схеме правила не выполняются отдельной программой, а превращаются в ограничения функции потерь. Пусть нейронная сеть выдаёт степени истинности утверждений <tex>a,b\in[0,1]</tex>. Тогда логические связки можно приближать непрерывными операциями:
+
::<tex>T(a,b)=ab.</tex>
-
::<tex>a\land b\approx T(a,b),</tex>
+
Если известна формула <tex>bird(x)\Rightarrow hasWings(x)</tex>, в функцию потерь можно добавить слагаемое, возрастающее при высокой оценке <tex>bird(x)</tex> и низкой оценке <tex>hasWings(x)</tex>. Конкретный штраф зависит от выбранной многозначной логики, способа агрегации кванторов и нормализации. Он направляет [[градиентный спуск]], но обычно не равносилен точному доказательству формулы в классической логике. Такой принцип используется, в частности, в Logic Tensor Networks.<ref name="ltn">{{статья |автор=Serafini L., Garcez A. d'Avila |заглавие=Logic Tensor Networks: Deep Learning and Logical Reasoning from Data and Knowledge |год=2016 |ссылка=https://arxiv.org/abs/1606.04422}}</ref>
-
 
+
-
где <tex>T</tex> — выбранная t-норма.
+
-
 
+
-
Если известно правило «все птицы имеют крылья», модель можно штрафовать за случаи, в которых она с высокой уверенностью распознаёт птицу, но с низкой уверенностью признаёт наличие крыльев. Такой подход позволяет использовать [[градиентный спуск]] для согласования нейронных предсказаний с логическими ограничениями.
+
=== Вероятностное логическое программирование ===
=== Вероятностное логическое программирование ===
-
Вероятностные нейросимволические системы сочетают правила с неопределённостью. В них нейросеть может выступать как ''нейронный предикат'': например, оценивать вероятность того, что на изображении изображена цифра 3, а логическая программа использует эту вероятность в более сложном рассуждении.
+
Вероятностная логическая программа задаёт распределение над возможными мирами или ответами на запросы, сохраняя структурированные правила. Нейросеть может выступать как ''нейронный предикат'' и выдавать распределение для фактов, которые трудно получить непосредственно из необработанных данных.
-
Фреймворк DeepProbLog расширяет вероятностное логическое программирование нейронными предикатами и допускает совместное обучение параметров логической модели и нейросети.<ref name="deepproblog">{{статья |автор=Manhaeve R., Dumančić S., Kimmig A., Demeester T., De Raedt L. |заглавие=DeepProbLog: Neural Probabilistic Logic Programming |издание=Advances in Neural Information Processing Systems |год=2018 |том=31 |страницы=3753–3763 |ссылка=https://arxiv.org/abs/1805.10872}}</ref>
+
В DeepProbLog результат нейросети используется внутри языка ProbLog, а градиент ошибки запроса передаётся к параметрам нейронного компонента. В демонстрационной задаче сеть распознаёт изображения цифр, а программа выражает арифметическое отношение между ними. Система поддерживает совместное обучение нейронных предикатов и параметров вероятностной программы, но структура программы или пространство допустимых правил всё равно должны быть заданы.<ref name="deepproblog">{{статья |автор=Manhaeve R., Dumančić S., Kimmig A., Demeester T., De Raedt L. |заглавие=DeepProbLog: Neural Probabilistic Logic Programming |издание=Advances in Neural Information Processing Systems |год=2018 |том=31 |ссылка=https://proceedings.neurips.cc/paper/2018/hash/dc5d637ed5e62c36ecb73b654b05ba2a-Abstract.html}}</ref>
=== Дифференцируемое рассуждение ===
=== Дифференцируемое рассуждение ===
-
В дифференцируемом рассуждении логические операции и выбор правил заменяют непрерывными приближениями. Это позволяет передавать градиент от ошибки итогового ответа к компоненту, который распознаёт объекты или выбирает правила.
+
Дифференцируемые решатели заменяют некоторые дискретные операции — например, унификацию символов или выбор правила — гладкими функциями. Neural Theorem Provers строят вычисление по образцу обратного логического вывода, но сравнивают символы через близость их векторных представлений. Это позволяет обучать представления и параметры вывода по итоговой ошибке.<ref name="ntp">{{статья |автор=Rocktäschel T., Riedel S. |заглавие=End-to-End Differentiable Proving |издание=Advances in Neural Information Processing Systems |год=2017 |том=30 |ссылка=https://proceedings.neurips.cc/paper/2017/hash/b2ab001909a8a6f04b51920306046ce5-Abstract.html}}</ref>
-
Преимущество состоит в возможности обучения «конец в конец» (end-to-end). Недостаток — точность символического смысла может размываться: непрерывное приближение логической операции не всегда обладает всеми свойствами классической логики.
+
Цена дифференцируемости — приближённая семантика и вычислительная сложность при большом числе фактов, правил и длинных цепочках доказательства. Высокая оценка запроса в такой модели не всегда означает существование доказательства в обычном логическом исчислении.
== Индукция правил ==
== Индукция правил ==
-
Важная задача нейросимволического ИИ — не только применять вручную заданные правила, но и выводить их из примеров. Это связано с [[индуктивное логическое программирование|индуктивным логическим программированием]].
+
'''Индукция правил''' — поиск логической программы, согласующейся с примерами и фоновыми знаниями. Для отношения предка возможна программа из двух дизъюнктов:
-
Например, система может получить факты о семейных отношениях и примеры верных утверждений о предках. Её задача — найти правило вида:
+
::<tex>ancestor(x,z)\Leftarrow parent(x,z),</tex>
-
::<tex>\operatorname{предок}(x,z)\Leftarrow\operatorname{родитель}(x,z),</tex>
+
::<tex>ancestor(x,z)\Leftarrow parent(x,y)\wedge ancestor(y,z).</tex>
-
::<tex>\operatorname{предок}(x,z)\Leftarrow\operatorname{родитель}(x,y)\land\operatorname{предок}(y,z).</tex>
+
В [[индуктивное логическое программирование|индуктивном логическом программировании]] поиск выполняется в дискретном пространстве правил. Дифференцируемые варианты задают шаблоны возможных правил и обучают непрерывные веса кандидатов, после чего могут извлечь дискретную программу. Например, система <tex>\partial</tex>ILP обучалась восстанавливать небольшие логические программы по примерам, в том числе при наличии шума.<ref name="dilp">{{статья |автор=Evans R., Grefenstette E. |заглавие=Learning Explanatory Rules from Noisy Data |издание=Journal of Artificial Intelligence Research |год=2018 |том=61 |страницы=1–64 |doi=10.1613/jair.5714}}</ref>
-
В классическом индуктивном логическом программировании поиск правил часто является дискретной комбинаторной задачей. Нейросимволические методы пытаются сделать этот поиск обучаемым, использовать нейронные оценки для выбора кандидатов и работать с шумными наблюдениями.
+
Такой подход не устраняет комбинаторную сложность: язык предикатов, максимальная длина правила, допустимые переменные и другие ограничения пространства гипотез обычно задаются разработчиком. Чем выразительнее язык, тем больше кандидатов требуется различать.
-
== Примеры нейросимволических архитектур ==
+
== Примеры архитектур ==
=== DeepProbLog ===
=== DeepProbLog ===
-
DeepProbLog объединяет вероятностный язык ProbLog с нейронными предикатами. Нейронная сеть может оценивать вероятности фактов, а логическая программа задаёт способ их комбинирования. Такая архитектура подходит для задач, где нужны одновременно восприятие, неопределённость и вывод по правилам.<ref name="deepproblog"/>
+
DeepProbLog предназначен для задач, где неопределённые результаты восприятия должны участвовать в вероятностном логическом выводе. В исходной работе рассматривались распознавание и сложение изображённых цифр, логические задачи с вероятностями и ограниченные постановки индукции программ. Эти эксперименты показывают механизм интеграции, но не означают, что система автоматически открывает произвольные правила по необработанным данным.<ref name="deepproblog"/>
=== Neural Logic Machines ===
=== Neural Logic Machines ===
-
Neural Logic Machines используют объекты, отношения, логические связки и кванторы в виде нейронной архитектуры. Авторы применяли их к реляционному рассуждению, сортировке, задачам на графах и планированию. В экспериментах модель обучалась на небольших задачах и могла переносить правила на более крупные экземпляры.<ref name="nlm">{{статья |автор=Dong H., Mao J., Lin T., Wang C., Li L., Zhou D. |заглавие=Neural Logic Machines |издание=International Conference on Learning Representations |год=2019 |ссылка=https://arxiv.org/abs/1904.11694}}</ref>
+
Neural Logic Machines (NLM) обрабатывают тензоры, соответствующие свойствам отдельных объектов и отношениям различной арности. Слои реализуют обучаемые аналоги подстановки, логических связок и квантификации. Авторы проверяли NLM на родственных отношениях, графовых задачах, сортировке, поиске кратчайших путей и планировании в мире блоков; в ряде синтетических экспериментов обучение на малых экземплярах переносилось на более крупные.<ref name="nlm">{{статья |автор=Dong H., Mao J., Lin T., Wang C., Li L., Zhou D. |заглавие=Neural Logic Machines |издание=International Conference on Learning Representations |год=2019 |ссылка=https://openreview.net/forum?id=B1xY-hRctX}}</ref>
 +
 
 +
NLM работают с заранее определёнными объектами и наборами предикатов. Поэтому эти результаты относятся к структурированным задачам и сами по себе не решают проблему выделения символов из реальных изображений или текста.
=== Neuro-Symbolic Concept Learner ===
=== Neuro-Symbolic Concept Learner ===
-
Neuro-Symbolic Concept Learner строит объектное представление сцены, переводит вопрос на естественном языке в исполнимую программу и применяет эту программу к представлению изображения. Важная особенность подхода — обучение визуальных понятий, слов и семантического разбора вопросов по парам «изображение — вопрос — ответ», без прямой разметки всех промежуточных компонентов.<ref name="nscl">{{статья |автор=Mao J., Gan C., Kohli P., Tenenbaum J. B., Wu J. |заглавие=The Neuro-Symbolic Concept Learner: Interpreting Scenes, Words, and Sentences From Natural Supervision |издание=International Conference on Learning Representations |год=2019 |ссылка=https://arxiv.org/abs/1904.12584}}</ref>
+
Neuro-Symbolic Concept Learner (NS-CL) решает задачу ответа на вопросы по синтетическим изображениям CLEVR. Модель строит объектное представление сцены, переводит вопрос в исполнимую программу и выполняет её над объектами. Обучающий сигнал поступает из троек «изображение — вопрос — ответ» без прямой разметки визуальных понятий и программ разбора, заявленных в работе как изучаемые промежуточные компоненты.<ref name="nscl">{{статья |автор=Mao J., Gan C., Kohli P., Tenenbaum J. B., Wu J. |заглавие=The Neuro-Symbolic Concept Learner: Interpreting Scenes, Words, and Sentences From Natural Supervision |издание=International Conference on Learning Representations |год=2019 |ссылка=https://openreview.net/forum?id=rJgMlhRctm}}</ref>
-
== Преимущества ==
+
Архитектура демонстрирует совместное связывание слов, визуальных признаков и программ в контролируемой предметной области. Перенос этого результата на открытый мир затрудняют неоднозначность языка, неполный набор объектов и отношений и ошибки детектора.
-
Нейросимволический подход потенциально даёт несколько преимуществ.
+
== Возможные преимущества ==
-
* '''Композиционное обобщение.''' Система может применять известные понятия в новых комбинациях, если структура задачи выражена через правила и отношения.
+
При подходящем интерфейсе между компонентами нейросимволическая система может дать:
-
* '''Проверяемость.''' Явные правила, программы и промежуточные факты проще анализировать, чем скрытые активации нейросети.
+
-
* '''Использование фоновых знаний.''' Правила и ограничения позволяют учитывать знания, которых нет в обучающей выборке.
+
-
* '''Работа со структурой.''' Отношения между объектами, графы, типы и кванторы естественно представляются символическими средствами.
+
-
* '''Объяснение решений.''' В некоторых архитектурах можно показать цепочку использованных правил или программу, приведшую к ответу.
+
-
Эти преимущества не появляются автоматически. Если символы извлекаются с ошибкой, а правила плохо соответствуют предметной области, система может быть не более объяснимой или надёжной, чем обычная нейросеть.
+
* '''композиционное обобщение''' — применение известного правила к новым объектам или сочетаниям признаков;
 +
* '''использование фоновых знаний''' — учёт правил и ограничений, не восстанавливаемых надёжно из одной обучающей выборки;
 +
* '''модульную диагностику''' — раздельную проверку восприятия, представления и вывода;
 +
* '''контролируемость''' — возможность заменить правило или ограничить допустимую программу без полного переобучения всех компонентов;
 +
* '''интерпретируемые промежуточные результаты''' — факты, правила или программы, которые можно исследовать отдельно.
 +
 
 +
Это возможности архитектуры, а не автоматические гарантии. Извлечённое правило может лишь приближать поведение нейросети, а понятная цепочка вывода не объясняет, почему модуль восприятия выдал исходные факты. Для заявлений об объяснимости необходимо проверять верность промежуточных символов, соответствие правила реальному вычислению и устойчивость объяснения.
== Ограничения и открытые проблемы ==
== Ограничения и открытые проблемы ==
-
Главная трудность — ''заземление символов'' (symbol grounding): как связать символ «красный», «пациент», «причина» или «объект слева» с данными и при этом сохранить устойчивый смысл символа в новой среде.
+
=== Заземление символов ===
 +
 
 +
'''Проблема заземления символов''' (англ. ''symbol grounding problem'') состоит в том, как придать формальным знакам значение, связанное не только с другими знаками, но и с восприятием и действиями системы. Харнад предложил связывать элементарные символы с несимволическими и категориальными представлениями.<ref name="harnad">{{статья |автор=Harnad S. |заглавие=The Symbol Grounding Problem |издание=Physica D: Nonlinear Phenomena |год=1990 |том=42 |номер=1–3 |страницы=335–346 |doi=10.1016/0167-2789(90)90087-6}}</ref> Нейронный классификатор создаёт возможный канал такой связи, но не гарантирует, что понятие останется устойчивым при смене среды или действительно соответствует человеческому употреблению слова.
 +
 
 +
=== Проектирование знаний и пространства поиска ===
 +
 
 +
Онтологии, типы, предикаты, шаблоны правил и допустимая глубина вывода часто задаются вручную. Это сокращает объём данных, но переносит часть труда в инженерное проектирование. При расширении языка число заземлённых фактов и кандидатов в правила может расти комбинаторно.
 +
 
 +
=== Ошибки и неопределённость ===
 +
 
 +
Ошибки восприятия распространяются по цепочке рассуждения. Точный символический исполнитель не исправляет неверный исходный факт. Сохранение распределения вероятностей уменьшает потери информации, но усложняет вывод и требует корректной вероятностной семантики.
 +
 
 +
=== Дискретность и дифференцируемость ===
-
Другие проблемы включают:
+
Точный выбор правила, ветвление программы и унификация дискретны, тогда как обучение нейросети обычно опирается на градиенты. Непрерывные релаксации удобны для оптимизации, но могут давать дробные решения, отличающиеся от дискретной программы. Альтернативные методы поиска и обучения с подкреплением также сталкиваются с большим пространством вариантов и разреженным сигналом качества.
-
* необходимость ручного задания правил, онтологий или типов;
+
=== Оценивание ===
-
* ошибки нейронного компонента, которые затем распространяются на логический вывод;
+
-
* комбинаторный рост числа возможных правил и программ;
+
-
* сложность совместного обучения дискретного вывода и непрерывных параметров;
+
-
* отсутствие единых критериев, по которым можно назвать систему действительно нейросимволической;
+
-
* риск создать лишь внешнюю связку нейросети и программы без глубокой интеграции их обучения и рассуждения.
+
-
Нейросимволическая система не обязательно лучше отдельной нейросети или отдельной символической программы. Выбор подхода зависит от того, есть ли в задаче полезная структура, доступные правила, необходимость объяснений и возможность проверить промежуточные представления.
+
Высокая точность на синтетической задаче ещё не показывает устойчивость к новым понятиям, иной длине доказательства или шумному восприятию. Нужны раздельные проверки качества распознавания, правильности программ и правил, обобщения на новые размеры задачи и итоговой точности. Сравнение с обычной нейросетью и обычным символическим решателем необходимо, чтобы установить пользу именно интеграции.
== Связь с философией искусственного интеллекта ==
== Связь с философией искусственного интеллекта ==
-
Нейросимволический ИИ связан с давним спором о природе интеллекта. Символический подход делает акцент на правилах, представлениях и рассуждении; коннекционистский подход — на обучении, распределённых представлениях и способности извлекать закономерности из опыта.
+
Нейросимволический ИИ продолжает спор между символическим подходом и коннекционизмом, но не разрешает его простым соединением двух модулей. Явный символ делает структуру рассуждения доступной для проверки, однако его значение может зависеть от данных, разметки и действий системы. Непрерывное представление может быть обучено из опыта, однако само наличие вектора ещё не показывает, каким понятием он является и как это понятие используется в рассуждении.
-
Попытка объединить эти подходы важна не только технически. Она ставит вопросы о том, что считать пониманием, как соотносятся данные и понятия, может ли система объяснить собственное решение и какие формы рассуждения нужны для [[сильный искусственный интеллект|сильного искусственного интеллекта]].
+
Поэтому центральный философский вопрос касается не только формата вычисления, но и происхождения семантики: кто задал предикаты, чем они связаны с миром и при каких изменениях эта связь сохраняется. Нейросимволические модели дают техническую площадку для исследования этих вопросов, но не являются сами по себе доказательством понимания или наличия сильного искусственного интеллекта.
== См. также ==
== См. также ==
* [[Искусственный интеллект]]
* [[Искусственный интеллект]]
 +
* [[Машинное обучение]]
* [[Нейронная сеть]]
* [[Нейронная сеть]]
* [[Глубокое обучение]]
* [[Глубокое обучение]]
* [[Обработка естественного языка]]
* [[Обработка естественного языка]]
* [[Графовая нейронная сеть]]
* [[Графовая нейронная сеть]]
-
* [[Объяснимый искусственный интеллект]]
 
-
* [[Проблема заземления символов]]
 
-
* [[Гипотеза физической символьной системы]]
 
== Примечания ==
== Примечания ==
-
{{примечания}}
+
<references />
== Литература ==
== Литература ==
-
* {{книга |автор=Garcez A. S. d’Avila, Lamb L. C., Gabbay D. M. |заглавие=Neural-Symbolic Cognitive Reasoning |место=Berlin |издательство=Springer |год=2009 |doi=10.1007/978-3-540-73246-4}}
+
* {{книга |автор=Garcez A. S. d'Avila, Lamb L. C., Gabbay D. M. |заглавие=Neural-Symbolic Cognitive Reasoning |место=Berlin, Heidelberg |издательство=Springer |год=2009 |doi=10.1007/978-3-540-73246-4}}
-
* {{статья |автор=Manhaeve R., Dumančić S., Kimmig A., Demeester T., De Raedt L. |заглавие=DeepProbLog: Neural Probabilistic Logic Programming |издание=Advances in Neural Information Processing Systems |год=2018 |том=31 |страницы=3753–3763 |ссылка=https://arxiv.org/abs/1805.10872}}
+
* {{статья |автор=Garcez A. d'Avila, Lamb L. C. |заглавие=Neurosymbolic AI: The 3rd Wave |год=2020 |ссылка=https://arxiv.org/abs/2012.05876}}
-
* {{статья |автор=Dong H., Mao J., Lin T., Wang C., Li L., Zhou D. |заглавие=Neural Logic Machines |издание=International Conference on Learning Representations |год=2019 |ссылка=https://arxiv.org/abs/1904.11694}}
+
* {{статья |автор=Manhaeve R., Dumančić S., Kimmig A., Demeester T., De Raedt L. |заглавие=DeepProbLog: Neural Probabilistic Logic Programming |издание=Advances in Neural Information Processing Systems |год=2018 |том=31 |ссылка=https://proceedings.neurips.cc/paper/2018/hash/dc5d637ed5e62c36ecb73b654b05ba2a-Abstract.html}}
-
* {{статья |автор=Mao J., Gan C., Kohli P., Tenenbaum J. B., Wu J. |заглавие=The Neuro-Symbolic Concept Learner: Interpreting Scenes, Words, and Sentences From Natural Supervision |издание=International Conference on Learning Representations |год=2019 |ссылка=https://arxiv.org/abs/1904.12584}}
+
* {{статья |автор=Dong H., Mao J., Lin T., Wang C., Li L., Zhou D. |заглавие=Neural Logic Machines |издание=International Conference on Learning Representations |год=2019 |ссылка=https://openreview.net/forum?id=B1xY-hRctX}}
 +
* {{статья |автор=Mao J., Gan C., Kohli P., Tenenbaum J. B., Wu J. |заглавие=The Neuro-Symbolic Concept Learner: Interpreting Scenes, Words, and Sentences From Natural Supervision |издание=International Conference on Learning Representations |год=2019 |ссылка=https://openreview.net/forum?id=rJgMlhRctm}}
 +
* {{статья |автор=Harnad S. |заглавие=The Symbol Grounding Problem |издание=Physica D: Nonlinear Phenomena |год=1990 |том=42 |номер=1–3 |страницы=335–346 |doi=10.1016/0167-2789(90)90087-6}}
 +
* {{статья |автор=Evans R., Grefenstette E. |заглавие=Learning Explanatory Rules from Noisy Data |издание=Journal of Artificial Intelligence Research |год=2018 |том=61 |страницы=1–64 |doi=10.1613/jair.5714}}
-
[[Категория:Искусственный интеллект]]
+
{{DEFAULTSORT:Нейросимволический искусственный интеллект}}
 +
[[Категория:Машинное обучение]]
 +
[[Категория:Нейронные сети]]

Текущая версия

Статья написана с использованием LLM GPT-5.6 Terra High и проверена участником Oleg Batsiev 18:07, 11 июля 2026 (MSD).

Промпты и описание редакторской проверки приведены в Обсуждение:Нейросимволический искусственный интеллект.


Содержание

Нейросимволический искусственный интеллект (англ. neuro-symbolic artificial intelligence, neuro-symbolic AI) — направление искусственного интеллекта, в котором нейронное обучение сочетают с символическим представлением знаний и рассуждением. В зависимости от архитектуры символическая часть может быть базой фактов и правил, логической программой, онтологией, исполнимой программой либо набором ограничений, влияющих на обучение.

Нейросимволический ИИ не является одним алгоритмом. Этим термином называют как модульные системы, где нейронная сеть распознаёт объекты, а отдельный исполнитель применяет к ним правила, так и более тесно интегрированные модели, в которых вероятностный или приближённый логический вывод включён в обучение. Поэтому наличие на входе или выходе слов и других дискретных меток само по себе ещё не означает, что система выполняет символическое рассуждение.[1]

Мотивация

Нейронные модели умеют извлекать признаки из изображений, аудио и текста и оптимизируются по примерам. Их внутреннее знание обычно распределено по параметрам и непрерывным представлениям. Такое представление полезно для распознавания, но само по себе не задаёт явной процедуры логического вывода и не гарантирует соблюдение известных правил.

Символические системы, напротив, оперируют именованными объектами, предикатами, переменными и правилами. Пусть parent(x,y) означает «x — родитель y». Тогда одно из правил для отношения «дедушка или бабушка» можно записать так:

parent(x,y)\wedge parent(y,z)\Rightarrow grandparent(x,z).

Правило можно прочитать, проверить и применить к объектам, не встречавшимся при его формулировке. Однако символический исполнитель не определит по необработанной фотографии, кто на ней изображён, если система восприятия и связь её результатов с символами не заданы отдельно.

Нейросимволический подход пытается связать эти две стороны: научиться получать из данных пригодные для рассуждения сущности и одновременно использовать структуру предметной области при выводе или обучении.

Исторический контекст

В классическом символическом ИИ знания представляли правилами, логическими формулами, семантическими сетями и программами. Физическая символьная гипотеза Ньюэлла и Саймона связывала общие интеллектуальные действия со способностью системы создавать и преобразовывать символические структуры.[1]

Параллельно развивался коннекционизм, в котором вычисление и обучение описываются сетями простых взаимодействующих элементов и распределёнными представлениями. Противопоставление двух программ исследования не было абсолютным: способы переводить логические знания в нейронные сети и извлекать правила из сетей изучаются многие десятилетия. Современное направление продолжает эту линию с использованием глубокого обучения, вероятностного программирования и дифференцируемых вычислений.[1]

Нейронные и символические представления

Нейронная модель с параметрами \theta обычно вычисляет прогноз или распределение

p_\theta(y\mid x).

Понятия в такой модели могут соответствовать направлениям или областям непрерывного пространства, однако заранее установленное взаимно однозначное соответствие между отдельным нейроном и отдельным понятием обычно отсутствует.

В символическом представлении используются дискретные термы и отношения. Например, факты red(cubeA) и leftof(cubeA,sphereA) утверждают, что куб красный и расположен слева от шара. При принятой семантике пространственных отношений можно задать правило

leftof(x,y)\Rightarrow rightof(y,x).

После подстановки констант исполнитель получает новый факт rightof(sphereA,cubeA). Такой вывод зависит не только от записей в базе, но и от выбранной логики: классической, вероятностной, нечёткой, немонотонной или иной. Поэтому «символическая часть» разных нейросимволических систем может иметь различную семантику и различные гарантии.

Основные схемы интеграции

Нейронное восприятие и символический исполнитель

В модульной схеме нейросеть выделяет объекты, их атрибуты и отношения, а символический исполнитель работает с полученным описанием сцены. Например, в задаче ответа на вопрос по изображению один модуль формирует объектное представление, другой переводит вопрос в программу наподобие «выбрать шары, оставить синие, посчитать», после чего программа исполняется над сценой.

Промежуточные представления облегчают диагностику: можно различить ошибку обнаружения объекта, неверный разбор вопроса и ошибку исполнения. Но интерфейс между модулями становится узким местом. Жёсткое решение на этапе восприятия может отбросить неопределённость, а ошибка одного предиката — изменить всю последующую цепочку вывода.

Логические знания как ограничения обучения

Вместо отдельного исполнителя формулы можно преобразовать в дифференцируемый штраф. Для этого атомам сопоставляют степени истинности из [0,1], а логическим связкам — непрерывные операции. Например, одна из возможных интерпретаций конъюнкции — произведение

T(a,b)=ab.

Если известна формула bird(x)\Rightarrow hasWings(x), в функцию потерь можно добавить слагаемое, возрастающее при высокой оценке bird(x) и низкой оценке hasWings(x). Конкретный штраф зависит от выбранной многозначной логики, способа агрегации кванторов и нормализации. Он направляет градиентный спуск, но обычно не равносилен точному доказательству формулы в классической логике. Такой принцип используется, в частности, в Logic Tensor Networks.[1]

Вероятностное логическое программирование

Вероятностная логическая программа задаёт распределение над возможными мирами или ответами на запросы, сохраняя структурированные правила. Нейросеть может выступать как нейронный предикат и выдавать распределение для фактов, которые трудно получить непосредственно из необработанных данных.

В DeepProbLog результат нейросети используется внутри языка ProbLog, а градиент ошибки запроса передаётся к параметрам нейронного компонента. В демонстрационной задаче сеть распознаёт изображения цифр, а программа выражает арифметическое отношение между ними. Система поддерживает совместное обучение нейронных предикатов и параметров вероятностной программы, но структура программы или пространство допустимых правил всё равно должны быть заданы.[1]

Дифференцируемое рассуждение

Дифференцируемые решатели заменяют некоторые дискретные операции — например, унификацию символов или выбор правила — гладкими функциями. Neural Theorem Provers строят вычисление по образцу обратного логического вывода, но сравнивают символы через близость их векторных представлений. Это позволяет обучать представления и параметры вывода по итоговой ошибке.[1]

Цена дифференцируемости — приближённая семантика и вычислительная сложность при большом числе фактов, правил и длинных цепочках доказательства. Высокая оценка запроса в такой модели не всегда означает существование доказательства в обычном логическом исчислении.

Индукция правил

Индукция правил — поиск логической программы, согласующейся с примерами и фоновыми знаниями. Для отношения предка возможна программа из двух дизъюнктов:

ancestor(x,z)\Leftarrow parent(x,z),
ancestor(x,z)\Leftarrow parent(x,y)\wedge ancestor(y,z).

В индуктивном логическом программировании поиск выполняется в дискретном пространстве правил. Дифференцируемые варианты задают шаблоны возможных правил и обучают непрерывные веса кандидатов, после чего могут извлечь дискретную программу. Например, система \partialILP обучалась восстанавливать небольшие логические программы по примерам, в том числе при наличии шума.[1]

Такой подход не устраняет комбинаторную сложность: язык предикатов, максимальная длина правила, допустимые переменные и другие ограничения пространства гипотез обычно задаются разработчиком. Чем выразительнее язык, тем больше кандидатов требуется различать.

Примеры архитектур

DeepProbLog

DeepProbLog предназначен для задач, где неопределённые результаты восприятия должны участвовать в вероятностном логическом выводе. В исходной работе рассматривались распознавание и сложение изображённых цифр, логические задачи с вероятностями и ограниченные постановки индукции программ. Эти эксперименты показывают механизм интеграции, но не означают, что система автоматически открывает произвольные правила по необработанным данным.[1]

Neural Logic Machines

Neural Logic Machines (NLM) обрабатывают тензоры, соответствующие свойствам отдельных объектов и отношениям различной арности. Слои реализуют обучаемые аналоги подстановки, логических связок и квантификации. Авторы проверяли NLM на родственных отношениях, графовых задачах, сортировке, поиске кратчайших путей и планировании в мире блоков; в ряде синтетических экспериментов обучение на малых экземплярах переносилось на более крупные.[1]

NLM работают с заранее определёнными объектами и наборами предикатов. Поэтому эти результаты относятся к структурированным задачам и сами по себе не решают проблему выделения символов из реальных изображений или текста.

Neuro-Symbolic Concept Learner

Neuro-Symbolic Concept Learner (NS-CL) решает задачу ответа на вопросы по синтетическим изображениям CLEVR. Модель строит объектное представление сцены, переводит вопрос в исполнимую программу и выполняет её над объектами. Обучающий сигнал поступает из троек «изображение — вопрос — ответ» без прямой разметки визуальных понятий и программ разбора, заявленных в работе как изучаемые промежуточные компоненты.[1]

Архитектура демонстрирует совместное связывание слов, визуальных признаков и программ в контролируемой предметной области. Перенос этого результата на открытый мир затрудняют неоднозначность языка, неполный набор объектов и отношений и ошибки детектора.

Возможные преимущества

При подходящем интерфейсе между компонентами нейросимволическая система может дать:

  • композиционное обобщение — применение известного правила к новым объектам или сочетаниям признаков;
  • использование фоновых знаний — учёт правил и ограничений, не восстанавливаемых надёжно из одной обучающей выборки;
  • модульную диагностику — раздельную проверку восприятия, представления и вывода;
  • контролируемость — возможность заменить правило или ограничить допустимую программу без полного переобучения всех компонентов;
  • интерпретируемые промежуточные результаты — факты, правила или программы, которые можно исследовать отдельно.

Это возможности архитектуры, а не автоматические гарантии. Извлечённое правило может лишь приближать поведение нейросети, а понятная цепочка вывода не объясняет, почему модуль восприятия выдал исходные факты. Для заявлений об объяснимости необходимо проверять верность промежуточных символов, соответствие правила реальному вычислению и устойчивость объяснения.

Ограничения и открытые проблемы

Заземление символов

Проблема заземления символов (англ. symbol grounding problem) состоит в том, как придать формальным знакам значение, связанное не только с другими знаками, но и с восприятием и действиями системы. Харнад предложил связывать элементарные символы с несимволическими и категориальными представлениями.[1] Нейронный классификатор создаёт возможный канал такой связи, но не гарантирует, что понятие останется устойчивым при смене среды или действительно соответствует человеческому употреблению слова.

Проектирование знаний и пространства поиска

Онтологии, типы, предикаты, шаблоны правил и допустимая глубина вывода часто задаются вручную. Это сокращает объём данных, но переносит часть труда в инженерное проектирование. При расширении языка число заземлённых фактов и кандидатов в правила может расти комбинаторно.

Ошибки и неопределённость

Ошибки восприятия распространяются по цепочке рассуждения. Точный символический исполнитель не исправляет неверный исходный факт. Сохранение распределения вероятностей уменьшает потери информации, но усложняет вывод и требует корректной вероятностной семантики.

Дискретность и дифференцируемость

Точный выбор правила, ветвление программы и унификация дискретны, тогда как обучение нейросети обычно опирается на градиенты. Непрерывные релаксации удобны для оптимизации, но могут давать дробные решения, отличающиеся от дискретной программы. Альтернативные методы поиска и обучения с подкреплением также сталкиваются с большим пространством вариантов и разреженным сигналом качества.

Оценивание

Высокая точность на синтетической задаче ещё не показывает устойчивость к новым понятиям, иной длине доказательства или шумному восприятию. Нужны раздельные проверки качества распознавания, правильности программ и правил, обобщения на новые размеры задачи и итоговой точности. Сравнение с обычной нейросетью и обычным символическим решателем необходимо, чтобы установить пользу именно интеграции.

Связь с философией искусственного интеллекта

Нейросимволический ИИ продолжает спор между символическим подходом и коннекционизмом, но не разрешает его простым соединением двух модулей. Явный символ делает структуру рассуждения доступной для проверки, однако его значение может зависеть от данных, разметки и действий системы. Непрерывное представление может быть обучено из опыта, однако само наличие вектора ещё не показывает, каким понятием он является и как это понятие используется в рассуждении.

Поэтому центральный философский вопрос касается не только формата вычисления, но и происхождения семантики: кто задал предикаты, чем они связаны с миром и при каких изменениях эта связь сохраняется. Нейросимволические модели дают техническую площадку для исследования этих вопросов, но не являются сами по себе доказательством понимания или наличия сильного искусственного интеллекта.

См. также

Примечания


Литература

  • Garcez A. S. d'Avila, Lamb L. C., Gabbay D. M. Neural-Symbolic Cognitive Reasoning. — Berlin, Heidelberg: Springer, 2009.
  • Garcez A. d'Avila, Lamb L. C. Neurosymbolic AI: The 3rd Wave. — 2020.
  • Manhaeve R., Dumančić S., Kimmig A., Demeester T., De Raedt L. DeepProbLog: Neural Probabilistic Logic Programming // Advances in Neural Information Processing Systems. — 2018. — Т. 31.
  • Dong H., Mao J., Lin T., Wang C., Li L., Zhou D. Neural Logic Machines // International Conference on Learning Representations. — 2019.
  • Mao J., Gan C., Kohli P., Tenenbaum J. B., Wu J. The Neuro-Symbolic Concept Learner: Interpreting Scenes, Words, and Sentences From Natural Supervision // International Conference on Learning Representations. — 2019.
  • Harnad S. The Symbol Grounding Problem // Physica D: Nonlinear Phenomena. — 1990. — Т. 42. — № 1–3. — С. 335–346.
  • Evans R., Grefenstette E. Learning Explanatory Rules from Noisy Data // Journal of Artificial Intelligence Research. — 2018. — Т. 61. — С. 1–64.
Источник — «http://www.machinelearning.ru/wiki/index.php?title=%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B8%D0%BC%D0%B2%D0%BE%D0%BB%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82»
Личные инструменты