Обсуждение:Нейросимволический искусственный интеллект

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
 
Строка 1: Строка 1:
-
== Как уточнялась граница между нейронным и символическим ==
+
Для статьи я использовал '''GPT-5.6 Terra High'''. Первый запрос выглядел так:
-
 
+
-
В этой статье главным было не перечислить гибридные архитектуры, а не смешать три разных вещи: использование дискретных меток, выполнение правил и обучение, в котором логическая структура действительно влияет на параметры. Поэтому черновик строился вокруг интерфейса между восприятием и рассуждением: что именно передаёт нейросеть, где возникает символ и какая семантика сохраняется после дифференцируемого приближения.
+
-
 
+
-
Статья подготовлена с помощью '''GPT-5.6 Terra High'''. Ниже приведены оба запроса дословно.
+
-
 
+
-
=== Первый запрос: задать карту способов интеграции ===
+
{{well|
{{well|
-
Ты разбираешься в искусственном интеллекте, машинном обучении, логике и представлении знаний. Напиши подробную энциклопедическую статью для MachineLearning.ru про нейросимволический искусственный интеллект (neuro-symbolic AI).
+
Напиши подробную статью про нейросимволический искусственный интеллект. Объясни, чем нейронные методы отличаются от символических и зачем их вообще объединяют.
-
Объясни, чем нейронные и символические методы отличаются друг от друга и зачем их пытаются объединить. Расскажи про нейронное восприятие и символическое рассуждение, причинные графы и правила здесь не нужны: сосредоточься именно на логике, представлении знаний, программах, отношениях между объектами и обучении на данных.
+
Расскажи про нейронное восприятие, правила, представление знаний, логический вывод и программы. Покажи разные способы объединения: нейросеть и отдельный символический модуль, логика как ограничение при обучении, вероятностное логическое программирование, дифференцируемое рассуждение и обучение правил.
-
Покажи несколько схем интеграции: нейросеть плюс символический исполнитель, логика как ограничение обучения, вероятностное логическое программирование, дифференцируемое рассуждение и индукция правил. Приведи реальные примеры систем DeepProbLog, Neural Logic Machines и Neuro-Symbolic Concept Learner.
+
Приведи реальные примеры DeepProbLog, Neural Logic Machines и Neuro-Symbolic Concept Learner. Напиши, где такие системы могут быть полезны и какие у них есть ограничения.
-
Статья должна быть понятна студенту, но не поверхностна. Добавь внутренние ссылки, реальные академические источники, ограничения и связь с философией ИИ. Не выдумывай факты, авторов, DOI и результаты экспериментов.
+
Статья должна быть понятна студенту. Добавь внутренние ссылки, формулы и настоящие научные источники. Ничего не придумывай. Формулы оформляй через <tex> и </tex>, отдельные формулы начинай с двух двоеточий.
-
 
+
-
Если используешь формулы, записывай их через <tex>...</tex>, а отдельные формулы выделяй двойным отступом через два двоеточия.
+
}}
}}
-
Первый вариант задал нужные классы методов, но граница между ними оставалась размытой. Формулировка про t-норму не показывала, как логическое знание превращается в штраф, а раздел о преимуществах мог создать впечатление, будто любая система с символическим модулем автоматически становится объяснимой и композиционной.
+
В первой версии было не совсем понятно, где заканчивается обычная нейросеть и начинается символическая часть. Слишком общо объяснялись логические ограничения и t-нормы, а преимущества выглядели почти как гарантии для любых нейросимволических систем. Ещё нужно было точнее описать реальные задачи приведённых архитектур.
-
=== Второй запрос: проверить содержание символов и правила ===
+
Потом я отправил второй промпт:
{{well|
{{well|
-
Доработай статью «Нейросимволический искусственный интеллект» как научный редактор.
+
Перепиши и дополни статью про нейросимволический искусственный интеллект. Чётче сравни нейронное и символическое представление знаний. Подробнее объясни правила, структурированные объекты, логический вывод, вероятностное программирование и дифференцируемое рассуждение.
-
Добавь более чёткое сравнение нейронного и символического представления знаний. Расширь разделы о структурированных объектах, правилах, логическом выводе, вероятностном логическом программировании и дифференцируемом рассуждении.
+
Добавь индукцию правил и проблему symbol grounding. Для DeepProbLog, Neural Logic Machines и Neuro-Symbolic Concept Learner напиши, какую задачу решает каждая система и чего она не умеет.
-
Отдельно объясни индукцию правил и проблему symbol grounding. Для DeepProbLog, Neural Logic Machines и Neuro-Symbolic Concept Learner укажи, какую конкретную задачу решает каждая архитектура, не преувеличивая их возможности.
+
Отдельно расскажи про ограничения: ручное задание правил и онтологий, ошибки нейронного восприятия, рост пространства правил и сложность совместного обучения дискретных и непрерывных частей.
-
Добавь раздел об ограничениях: ручное задание онтологий, ошибки восприятия, комбинаторный рост пространства правил, трудности совместного обучения дискретного и непрерывного компонентов. Сделай философский раздел о споре между символическим ИИ и коннекционизмом.
+
Убери лишние общие фразы и не преувеличивай объяснимость таких моделей. Проверь источники и разметку. Формулы пиши только через <tex> и </tex>, отдельные формулы начинай с двух двоеточий. Верни весь текст статьи.
-
 
+
-
Проверь, что нет пустых общих фраз, рекламных утверждений, выдуманных источников и несуществующих вики-шаблонов. Если нужны формулы, используй только <tex>...</tex>, а не <math>...</math>. Верни готовую статью целиком в вики-разметке.
+
}}
}}
-
=== Что изменилось при ручной проверке ===
+
После второго ответа я сам перечитал статью и проверил примеры систем, формулы и ссылки. Также поправил описание логических правил и убрал места, где возможности нейросимволических методов были сформулированы слишком уверенно.
-
 
+
-
После генерации текст был сверен с первичными публикациями об архитектурах и отредактирован по следующим пунктам:
+
-
 
+
-
* исправлено пространственное правило: из <tex>leftof(x,y)</tex> выводится <tex>rightof(y,x)</tex>, а не <tex>\neg rightof(x,y)</tex> без заданной семантики отношения;
+
-
* вместо формулы <tex>T(a,b)\in[0,1]</tex>, сообщавшей только область значений, приведён конкретный пример произведения как t-нормы и пояснена зависимость штрафа от выбранной многозначной логики;
+
-
* точный символический вывод отделён от дифференцируемого приближения: высокая оценка запроса не названа классическим доказательством;
+
-
* уточнено, что DeepProbLog использует заданную логическую программу или ограниченное пространство её дополнений, а не открывает произвольные правила автоматически;
+
-
* результаты Neural Logic Machines ограничены структурированными и преимущественно синтетическими задачами с заранее определёнными объектами и предикатами;
+
-
* для Neuro-Symbolic Concept Learner названы датасет CLEVR, объектное представление и обучение по вопросам и ответам без прямой разметки изучаемых понятий и программ;
+
-
* преимущества переписаны как возможные свойства конкретной архитектуры, а не гарантии всего направления;
+
-
* объяснимость разделена на проверяемость символического следа и непрозрачность нейронного восприятия;
+
-
* проблема заземления изложена по статье Стивана Харнада, добавлены её страницы и DOI;
+
-
* исторический раздел дополнен физической символьной гипотезой Ньюэлла и Саймона без упрощённой схемы «сначала были символы, затем нейросети»;
+
-
* добавлены первоисточники по Logic Tensor Networks, Neural Theorem Provers и дифференцируемой индукции правил;
+
-
* неподдерживаемый шаблон примечаний заменён на &lt;references /&gt;, добавлена сортировка и использованы существующие категории «Машинное обучение» и «Нейронные сети».
+
-
 
+
-
Отдельно проверялись названия систем, составы авторов, годы, журнальные страницы, DOI и соответствие описанных задач исходным публикациям. Формулировки о переносе на более крупные задачи и обучении без промежуточной разметки оставлены только в тех пределах, в которых их подтверждают авторы соответствующих работ.
+
-
— [[Участник:Oleg Batsiev|Oleg Batsiev]]
+
[[Участник:Oleg Batsiev|Oleg Batsiev]]

Текущая версия

Для статьи я использовал GPT-5.6 Terra High. Первый запрос выглядел так:


Напиши подробную статью про нейросимволический искусственный интеллект. Объясни, чем нейронные методы отличаются от символических и зачем их вообще объединяют.

Расскажи про нейронное восприятие, правила, представление знаний, логический вывод и программы. Покажи разные способы объединения: нейросеть и отдельный символический модуль, логика как ограничение при обучении, вероятностное логическое программирование, дифференцируемое рассуждение и обучение правил.

Приведи реальные примеры DeepProbLog, Neural Logic Machines и Neuro-Symbolic Concept Learner. Напиши, где такие системы могут быть полезны и какие у них есть ограничения.

Статья должна быть понятна студенту. Добавь внутренние ссылки, формулы и настоящие научные источники. Ничего не придумывай. Формулы оформляй через <tex> и </tex>, отдельные формулы начинай с двух двоеточий.


В первой версии было не совсем понятно, где заканчивается обычная нейросеть и начинается символическая часть. Слишком общо объяснялись логические ограничения и t-нормы, а преимущества выглядели почти как гарантии для любых нейросимволических систем. Ещё нужно было точнее описать реальные задачи приведённых архитектур.

Потом я отправил второй промпт:


Перепиши и дополни статью про нейросимволический искусственный интеллект. Чётче сравни нейронное и символическое представление знаний. Подробнее объясни правила, структурированные объекты, логический вывод, вероятностное программирование и дифференцируемое рассуждение.

Добавь индукцию правил и проблему symbol grounding. Для DeepProbLog, Neural Logic Machines и Neuro-Symbolic Concept Learner напиши, какую задачу решает каждая система и чего она не умеет.

Отдельно расскажи про ограничения: ручное задание правил и онтологий, ошибки нейронного восприятия, рост пространства правил и сложность совместного обучения дискретных и непрерывных частей.

Убери лишние общие фразы и не преувеличивай объяснимость таких моделей. Проверь источники и разметку. Формулы пиши только через <tex> и </tex>, отдельные формулы начинай с двух двоеточий. Верни весь текст статьи.


После второго ответа я сам перечитал статью и проверил примеры систем, формулы и ссылки. Также поправил описание логических правил и убрал места, где возможности нейросимволических методов были сформулированы слишком уверенно.

Oleg Batsiev

Источник — «http://www.machinelearning.ru/wiki/index.php?title=%D0%9E%D0%B1%D1%81%D1%83%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5:%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B8%D0%BC%D0%B2%D0%BE%D0%BB%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82»
Личные инструменты