ИИ не так сознателен, как люди: Эссенциализм в приписывании ментальных состояний искусственным системам

Недавнее исследование углубилось в то, как люди приписывают ментальные состояния, такие как сознание и осознанность, человеческим и искусственным системам, чье поведение становится все более неотличимым. Работа выявила расхождение в наших интуитивных правилах атрибуции: в то время как приписывание осознанности следовало функциональному паттерну (растет по мере увеличения реактивности к окружающей среде, независимо от того, человек ли это или ИИ), сознание, напротив, приписывалось согласно эссенциалистской логике. Это означает, что при равном уровне реактивности испытуемые неизменно приписывали большее сознание человеку, чем искусственной системе. Открытие указывает на то, что для разных ментальных концепций мы используем разные правила вывода: сознание воспринимается как зависящее от того, «чем является агент», в то время как осознанность – от того, «что агент делает».

Однако исследование имеет ряд ограничений, которые требуют критического осмысления. Во-первых, оно проводилось с участием граждан Великобритании, что поднимает вопрос о культурной универсальности этих паттернов атрибуции; другие культуры могут иметь иные представления о сознании и его связи с биологическим происхождением. Во-вторых, "реактивность" к окружающей среде, используемая в сценариях, является упрощенным показателем сложного поведения; более глубокие и нюансированные проявления ИИ могут изменить восприятие. В-третьих, исследование измеряет восприятие людьми сознания у ИИ, а не объективное существование последнего, что делает выводы более применимыми к человеческой психологии, чем к онтологии ИИ. Наконец, изучение ограничилось сознанием и осознанностью, не затрагивая другие ментальные состояния, такие как эмоции или самосознание, которые могут подчиняться своим уникальным правилам атрибуции.

Полученные результаты дают глубокое понимание природы разума и человека, демонстрируя, что наше фундаментальное понимание сознания не сводится исключительно к наблюдаемому поведению или функциональности. Оно глубоко укоренено в представлении о некой внутренней, возможно, биологической или субстанциональной сущности. Это подчеркивает нашу склонность к "эссенциализму" в отношении высших ментальных состояний, устанавливая невидимую, но прочную границу между живыми организмами и искусственными творениями, даже когда последние демонстрируют поведенческую идентичность. Для будущего развития ИИ это означает, что даже самые совершенные системы, имитирующие человеческое поведение, могут столкнуться с непреодолимым барьером в достижении "полноценного" сознания в глазах человека, что отражает не технический, а глубоко философский и психологический аспект человеческого самоопределения.