Модификация дефиниций ИИ: от "сильного" к "антропоцентричному" интеллекту.

Материал из MachineLearning.

Перейти к: навигация, поиск
Статья написана с использованием LLM ChatGpt 5.6 Sol и проверена участником Участник: Kirill Samokhvalov 21:37 14 июля 2026 (MSD).

Промпт приводится полностью в Обсуждение: Модификация дефиниций ИИ: от "сильного" к "антропоцентричному" интеллекту..


Содержание

Модификация дефиниций искусственного интеллекта: от «сильного» к «антропоцентричному» интеллекту — условное обозначение изменений в понимании целей, возможностей и критериев оценки искусственного интеллекта (ИИ). Эти изменения происходили не как последовательная замена одной общепринятой дефиниции другой, а как расширение набора вопросов, задаваемых исследователями: от возможности машинного мышления и моделирования человеческих когнитивных функций — к созданию систем, способных решать широкий класс задач, а затем к анализу того, насколько такие системы соответствуют человеческим целям, ценностям и общественным интересам.

Понятия сильного ИИ, слабого ИИ, общего искусственного интеллекта и человекоориентированного ИИ относятся к различным уровням анализа. Первые два возникли преимущественно в философии искусственного интеллекта, общий ИИ характеризует широту и переносимость способностей системы, а человекоориентированный ИИ представляет собой направление проектирования и управления технологиями. Поэтому данные понятия нельзя считать синонимами или располагать на единой шкале «слабый — сильный».

Историческое развитие представлений об ИИ

Операциональный подход Алана Тьюринга

Одной из исходных проблем будущей области ИИ был вопрос о том, может ли машина мыслить. В статье «Computing Machinery and Intelligence» 1950 года Алан Тьюринг предложил заменить неопределённый вопрос «Могут ли машины мыслить?» более операциональной процедурой — «игрой в имитацию», позднее получившей название теста Тьюринга.[1]

Подход Тьюринга переносил внимание с определения внутренней природы мышления на наблюдаемое поведение системы. Успешная имитация человеческого диалога при этом не доказывала автоматически наличие сознания, субъективного опыта или человеческого способа понимания. Тест представлял собой предложенный критерий оценки поведения, а не окончательное решение философской проблемы природы разума.

Дартмутский проект и моделирование интеллектуальных функций

Термин «искусственный интеллект» был закреплён в предложении о проведении Дартмутского летнего исследовательского проекта, подготовленном в 1955 году Джоном Маккарти, Марвином Минским, Натаниэлем Рочестером и Клодом Шенноном. Авторы исходили из исследовательской гипотезы, согласно которой аспекты обучения и другие проявления интеллекта могут быть описаны достаточно точно для их машинного моделирования.[1]

Такая постановка объединяла несколько направлений: использование языка, формирование абстракций, решение задач, обучение, самоулучшение и моделирование работы нервной системы. Раннее понимание ИИ было одновременно инженерным и когнитивным: предполагалось не только создавать полезные программы, но и исследовать общие механизмы интеллекта.

Позднее Маккарти определял ИИ как науку и инженерную деятельность по созданию интеллектуальных машин, особенно интеллектуальных компьютерных программ. При этом он подчёркивал, что методы ИИ не обязаны воспроизводить только биологически наблюдаемые механизмы человеческого мышления.[1]

Различие сильного и слабого ИИ

Влиятельное разграничение сильного и слабого ИИ было сформулировано философом Джоном Сёрлом в статье «Minds, Brains, and Programs» 1980 года.[1]

Под сильным ИИ Сёрл понимал позицию, согласно которой правильно запрограммированный компьютер не только моделирует разумную деятельность, но действительно обладает пониманием и когнитивными состояниями. Программа в таком случае рассматривается не просто как инструмент исследования разума, а как достаточное основание для существования разума.

Слабый ИИ в исходном философском смысле означает более ограниченную позицию: компьютер может быть полезным инструментом для моделирования, проверки гипотез и исследования человеческого мышления, но из успешной симуляции не следует, что система буквально понимает обрабатываемую информацию.

Для критики сильного ИИ Сёрл предложил мысленный эксперимент «китайская комната». Его аргумент направлен против отождествления формального преобразования символов с пониманием. Выводы Сёрла остаются предметом философских дискуссий и не являются экспериментально установленным доказательством невозможности машинного сознания.

В популярной и инженерной литературе выражение «слабый ИИ» часто используется как синоним узкого ИИ, то есть системы, предназначенной для определённой задачи. Однако это употребление отличается от первоначального философского значения. Узость системы относится к диапазону её функций, тогда как слабый ИИ у Сёрла обозначает позицию относительно природы машинного понимания.

Общий искусственный интеллект

Понятие общего искусственного интеллекта — Artificial General Intelligence, AGI — получило распространение как обозначение исследований систем с широкими, переносимыми и адаптивными интеллектуальными способностями.[1]

В отличие от специализированной модели, общий ИИ должен быть способен осваивать разные типы задач, использовать знания в новых ситуациях и адаптироваться к условиям, которые не были полностью предусмотрены разработчиками. При этом единого общепринятого набора тестов, достаточного для признания системы общим ИИ, не существует: определения различаются по требуемой широте задач, степени автономии, способности к переносу знаний и уровню сравнения с человеком.

AGI и сильный ИИ концептуально пересекаются, но не совпадают. Сильный ИИ в смысле Сёрла предполагает реальное понимание или наличие когнитивных состояний. AGI обычно определяется через функциональные способности системы. Теоретически можно считать систему общей по диапазону решаемых задач, не утверждая, что она сознательна или обладает субъективным опытом.

Не следует также смешивать AGI с термином ИИ общего назначения. В нормативных документах последним могут обозначаться модели, пригодные для большого числа прикладных задач. Такая многофункциональность сама по себе не означает достижения человеческого уровня общего интеллекта.

Человекоориентированный поворот

Распространение ИИ в медицине, образовании, промышленности, управлении, финансовой сфере и цифровых платформах усилило внимание к последствиям использования алгоритмических систем. В результате наряду с вопросом «Насколько интеллектуальна машина?» стал рассматриваться вопрос «Для кого, для чего и под чьим контролем она действует?».

На этом основании развивается концепция человекоориентированного искусственного интеллекта — Human-Centered Artificial Intelligence, HCAI. В работах Бена Шнейдермана HCAI описывается как подход к созданию надёжных, безопасных и заслуживающих доверия систем, сочетающих высокий уровень автоматизации с содержательным человеческим контролем.[1]

Обзор исследований HCAI показывает, что понятие используется неодинаково: одни работы делают акцент на удобстве взаимодействия, другие — на объяснимости, справедливости, участии заинтересованных сторон, человеческом благополучии или распределении ответственности.[1] Поэтому HCAI следует считать развивающимся исследовательским и проектным направлением, а не строго определённым классом алгоритмов.

Выражение «антропоцентричный ИИ» в данном контексте можно использовать как русскоязычное обозначение подхода, ставящего человеческие потребности и интересы в центр проектирования. Однако термин не является универсальной технической категорией. Кроме того, ориентация только на отдельного пользователя может быть слишком узкой: современные концепции ответственного ИИ учитывают интересы групп, общества, будущих поколений и окружающей среды.

Различия основных понятий

Сильный ИИ представляет собой философскую концепцию, согласно которой искусственная система может буквально обладать разумом, пониманием или когнитивными состояниями. Она касается онтологического статуса системы, а не только качества её работы.

Слабый ИИ в первоначальном смысле рассматривает компьютер как инструмент моделирования интеллектуальных процессов, не предполагая, что программа сама обладает пониманием. В распространённом современном употреблении термин иногда ошибочно отождествляют с узким ИИ.

Общий искусственный интеллект определяется прежде всего через широту способностей: обучение, адаптацию, перенос знаний и решение разнообразных задач. Понятие AGI не требует автоматически признавать у системы сознание, эмоции или моральный статус.

Человекоориентированный ИИ характеризует не уровень интеллектуальных возможностей, а принципы проектирования, внедрения и контроля. Специализированная или общая система может быть в разной степени человекоориентированной. Следовательно, HCAI не является следующей ступенью вычислительной мощности после AGI, а задаёт другую ось оценки.

Человеческие цели и ценности

Целеполагание

Модели машинного обучения оптимизируют формализованные функции потерь, критерии вознаграждения или заданные показатели качества. Эти показатели обычно являются приближённым представлением практической цели, а не самой целью во всей её полноте.

Например, точность классификации не отражает автоматически справедливость распределения ошибок, безопасность применения, стоимость ложных решений или влияние системы на поведение людей. Поэтому человекоориентированный подход требует анализировать не только оптимизацию модели, но и то, кем сформулирована цель, какие интересы она отражает и какие последствия остаются за пределами выбранной метрики.

Человеческие ценности также не образуют единого бесспорного набора требований. Между приватностью, безопасностью, прозрачностью, эффективностью, равенством и автономией могут возникать конфликты. Выбор компромиссов является социальным и нормативным решением, а не результатом, который можно однозначно вывести из данных.

Ответственность

Применение ИИ не устраняет ответственность разработчиков, организаций и операторов. Документы OECD, NIST, Европейской комиссии и UNESCO связывают надёжный ИИ с подотчётностью участников жизненного цикла системы, прозрачностью, управлением рисками и возможностью человеческого надзора.[1][1][1][1]

Указанные документы имеют нормативный или рекомендательный характер. Они выражают принципы ответственного управления технологиями, но не являются доказательством существования единственной научно правильной системы ценностей.

Практическая ответственность должна распределяться с учётом того, кто разработал модель, выбрал данные, определил условия применения, принял решение о внедрении и получил возможность вмешиваться в работу системы. Представление алгоритма как полностью самостоятельного субъекта может скрывать реальные организационные решения.

Автономия и человеческий контроль

Автономия ИИ не является бинарным свойством. OECD определяет системы ИИ как машинные системы, работающие с различными уровнями автономности и формирующие прогнозы, рекомендации или решения для заданных целей. Это позволяет рассматривать автономию как распределение функций между человеком и автоматизированной системой.

Содержательный человеческий контроль может включать:

  • возможность остановить, отменить или изменить решение системы;
  • доступ к информации о её ограничениях и предполагаемой области применения;
  • регистрацию действий и последующий аудит;
  • проверку качества после внедрения;
  • процедуру обжалования решений;
  • назначение ответственных лиц;
  • безопасный режим работы при ошибке или неопределённости.

Само присутствие человека в контуре принятия решений не гарантирует эффективного контроля. Исследования автоматизации показывают, что операторы могут чрезмерно полагаться на рекомендации системы, утрачивать навыки или получать ответственность без достаточной информации и реальной возможности вмешательства.[1][1]

Поэтому HCAI не сводится к механическому добавлению схемы «human in the loop». Необходимо оценивать компетентность оператора, доступное время, понятность информации, полномочия и организационные стимулы.

Значение для машинного обучения

Для специалистов по анализу данных человекоориентированное понимание ИИ расширяет границы инженерной задачи. Качество системы определяется не только значением метрики на тестовой выборке, но и соответствием реальному контексту использования.

На практике это предполагает проверку репрезентативности данных, анализ ошибок для разных групп пользователей, документирование ограничений модели, оценку неопределённости, защиту данных, мониторинг после внедрения и создание процедур реагирования на инциденты. Методы объяснимого ИИ могут помогать пользователям и разработчикам анализировать решения модели, однако наличие объяснения само по себе не гарантирует справедливость, безопасность или корректность системы.

Человекоориентированный подход также требует участия специалистов предметной области и людей, на которых повлияет внедрение. При этом их предпочтения не следует считать автоматически согласованными: разные заинтересованные стороны могут иметь несовместимые цели и неодинаковое влияние на процесс проектирования.

Ограничения антропоцентричного подхода

Ориентация на человека может пониматься по-разному. Если под человеком подразумевается только непосредственный заказчик или пользователь, интересы других затронутых лиц могут остаться без внимания. Кроме того, максимизация удобства или производительности пользователя не обязательно соответствует общественному благополучию.

Существует и более широкая философская критика антропоцентризма: интересы человека могут противопоставляться устойчивости экосистем и благополучию других живых существ. Поэтому официальные концепции ответственного ИИ часто дополняют человекоцентричность требованиями социальной и экологической устойчивости.

Наконец, человекоориентированный ИИ не решает автоматически проблему определения ценностей. Он переносит её из области чистой оптимизации в область совместного проектирования, этики, права и институционального управления.

Заключение

История дефиниций ИИ представляет собой не линейный переход от «слабых» машин к «сильным», а изменение исследовательских перспектив. Тьюринг предложил поведенческий способ обсуждения машинного интеллекта; ранние исследователи ИИ стремились формализовать и моделировать интеллектуальные функции; Сёрл разделил инструментальное моделирование и утверждение о буквальном машинном разуме; исследования AGI сосредоточились на широте и переносимости способностей.

Человекоориентированный, или в условном смысле антропоцентричный, ИИ добавляет к этим вопросам оценку целей, последствий и распределения контроля. Он не является доказанным итогом развития теории интеллекта и не заменяет понятия сильного или общего ИИ. Это нормативно-инженерная ориентация, согласно которой ценность системы определяется не только тем, что она способна делать, но и тем, кому она служит, какие риски создаёт и кто отвечает за результаты её применения.

См. также

Примечания


Литература

Источник — «http://www.machinelearning.ru/wiki/index.php?title=%D0%9C%D0%BE%D0%B4%D0%B8%D1%84%D0%B8%D0%BA%D0%B0%D1%86%D0%B8%D1%8F_%D0%B4%D0%B5%D1%84%D0%B8%D0%BD%D0%B8%D1%86%D0%B8%D0%B9_%D0%98%D0%98:_%D0%BE%D1%82_%22%D1%81%D0%B8%D0%BB%D1%8C%D0%BD%D0%BE%D0%B3%D0%BE%22_%D0%BA_%22%D0%B0%D0%BD%D1%82%D1%80%D0%BE%D0%BF%D0%BE%D1%86%D0%B5%D0%BD%D1%82%D1%80%D0%B8%D1%87%D0%BD%D0%BE%D0%BC%D1%83%22_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82%D1%83.»
Личные инструменты