Кевин Келли: три режима познания для человека и ИИ Интеллект не является чем-то простым. Искусственный интеллект тоже. Оба представляют собой сложные соединения, состоящие из более примитивных когнитивных элементов, некоторые мы только сейчас начинаем открывать. У нас пока нет периодической таблицы познания, поэтому мы еще не пришли к определению, что представляют собой фундаментальные элементы интеллекта. В качестве промежуточного этапа я предлагаю три общих класса познания,
Сообщение Кевин Келли: три режима познания для человека и ИИ появились сначала на Идеономика – Умные о главном.
Интеллект не является чем-то простым. Искусственный интеллект тоже. Оба представляют собой сложные соединения, состоящие из более примитивных когнитивных элементов, некоторые мы только сейчас начинаем открывать. У нас пока нет периодической таблицы познания, поэтому мы еще не пришли к определению, что представляют собой фундаментальные элементы интеллекта.
В качестве промежуточного этапа я предлагаю три общих класса познания, которые в совокупности могут представлять собой нечто, подобное человеческому интеллекту. Вот эти три режима:
1) Рассуждение на основе знаний
2) Восприятие мира
3) Непрерывная память и обучение
Познание на основе знаний — это тот вид когнитивных способностей, который формируется у больших языковых моделей. Это своего рода сверхинтеллект, который возникает благодаря чтению (и запоминанию) каждой когда-либо написанной книги и усвоению каждого опубликованного письменного сообщения. Этот интеллект, основанный на знаниях, невероятно полезен для ответа на вопросы, проведения исследований, решения интеллектуальных задач, выполнения цифровых задач и, возможно, даже для генерации новых идей. Одна языковая модель может подготовить специалистов с докторской степенью для целой страны. Уже к 2026 году этот интеллект, основанный на знаниях, значительно превосходит возможности человека.
Восприятие мира — это разновидность интеллекта, обученного на реальном мире, а не на текстовых описаниях реального мира. Иногда это называют моделями мира или пространственным интеллектом, потому что этот вид познания основан (и обучен) на том, как физические объекты ведут себя в трехмерном мире пространства и времени, а не только в нематериальном мире слов, описывающих мир. Этот вид знает, как предметы отскакивают, текут, как сворачиваются белки, как вибрируют молекулы или как преломляется свет. Он включает в себя распознавание гравитации, осознание непрерывности, чувство физической природы материи, глубокое знание того, как сохраняются масса и энергия. Именно это познание позволяет автомобилю Waymo управлять самим собой лучше, чем это делают люди. У нас пока нет наплыва роботов в 2026 году, потому что этот вид познания опирается не только на модели мира. Для этого необходимы слои других когнитивных элементов, работающих совместно с нейронными сетями, таких как алгоритмы обработки изображений и модели окружающего мира, например, Genie 3, которая была обучена на сотнях тысяч, возможно, миллионах видеороликов с YouTube. Видеоролики из реальной жизни учат навыкам работы в реальном мире. Интеллектуальная система автономного вождения Tesla была обучена на миллиардах часов видеозаписей вождения автомобилей, управляемых людьми, что позволило ей понять, как автомобили, пешеходы и окружающая среда ведут себя в реальном мире. Ключевым элементом такого рода физического интеллекта является здравый смысл, тот самый здравый смысл, которым обладает пятилетний ребенок, но которого нет у большинства существующих на сегодняшний день систем искусственного интеллекта. Например, понимание того, что объекты не исчезают просто потому, что их не видно. Для того чтобы роботы могли взять на себя многие из наших самых рутинных задач, потребуется подобное понимание окружающего мира и пространственный интеллект.
Непрерывное обучение является неотъемлемой частью человеческого интеллекта, но в настоящее время отсутствует в искусственном интеллекте. Некоторые даже определяют общий искусственный интеллект как обучающийся непрерывно. Когда мы бодрствуем, мы постоянно учимся, пытаясь исправить ошибки (и больше так не делать!), чтобы найти новые пути, основанные на уже имеющихся знаниях. Одна из главных причин, почему агенты ИИ не заменили людей к 2026 году, заключается в том, что первые никогда не учатся на своих ошибках, в то время как вторые, даже если они не так умны, могут учиться в процессе работы и совершенствоваться с каждым днем. Вопреки ожиданиям, нынешние языковые модели не учатся ни друг у друга, ни когда их снова и снова исправляют. В настоящее время у них нет надежного способа запоминать ошибки или исправления, а также возможности становиться умнее чаще, чем раз в год при переобучении с одной версии на другую. Каждый раз, когда вы исправляете ошибку ChatGPT, он забывает ее к следующему разговору. Каждый раз, когда робот терпит неудачу в выполнении задачи, все повторится завтра. Вот почему ИИ не сможет занять реальную должность в 2026 году. На данный момент нам не хватает гениальных программистов, способных внедрить непрерывное обучение (в больших масштабах) в работу машин. Это важная область исследований; неизвестно, смогут ли существующие модели нейронных сетей развиться в этом направлении, или потребуются новые архитектуры моделей. Непрерывное обучение требует постоянной памяти, что, помимо прочих проблем, требует больших вычислительных затрат. Когда ИИ переживет еще один резкий скачок возможностей, это, вероятно, произойдет, когда кто-то найдет решение для функции непрерывного обучения. Маловероятно, что люди потеряют работу из-за ИИ, который не способен к непрерывному обучению, потому что большая часть работы, которую нам нужно выполнять, требует непрерывного обучения в процессе работы.
В совокупности нашего человеческого интеллекта могут присутствовать и другие элементарные частицы познания, но я уверен, что эти три являются его основными компонентами. Для создания искусственного интеллекта у нас есть достаточный запас интеллекта знаний, а также некоторое предварительное количество интеллекта мирового уровня, но нам серьезно не хватает интеллекта обучения в больших масштабах.
Важно понимать, что для многих профессий нам не нужны все три режима. Для управления автомобилем нам в первую очередь необходимо чувство окружающего мира. Для ответа на вопросы языковым моделям достаточно книжных знаний. Могут быть и сценарии применения ИИ, который только обучается, но не обладает чувством окружающего мира или даже обширными знаниями. И, конечно же, будет много гибридных версий, состоящих из двух частей познания, или лишь из части двух или трех.
Если подытожить, хотя нынешние языковые модели значительно превосходят людей в рассуждении, основанном на знаниях, им не хватает двух других важных когнитивных навыков, прежде чем они смогут фактически заменить людей: у них нет безупречного понимания реального мира (следовательно, роботы невозможны), и они не умеют учиться. Я ожидаю, что массовое внедрение ИИ в ближайшие 2 года будет в значительной степени зависеть от того, насколько хорошо в ИИ можно будет реализовать два других режима познания.
Сообщение Кевин Келли: три режима познания для человека и ИИ появились сначала на Идеономика – Умные о главном.
