Более ранние научные работы в области психологии и поведенческой науки показывают, что человек может усваивать новую информацию и это будет затруднять правильное воспроизведение ранее полученных знаний. Интересно, что похожая тенденция наблюдается и у нейросетей.
В искусственных нейронных сетях интерференция может появляться в виде катастрофического забывания. То есть ИИ после обучения новой задаче могут забывать определённые навыки или информацию.
Учёные из Оксфордского университета недавно сравнили, как люди и искусственные нейронные сети обучаются выполнению задач, которые требуют следования определённым логическим правилам. Результаты этой работы опубликованы в журнале Nature Human Behavior. Оказалось, что у ИИ и людей есть схожие паттерны интерференции (когда из-за новой информации “забывается” старая) и переноса (когда полученные в прошлом знания помогают освоить новое), а также что существует две обширные категории обучающихся людей.
Ferra.ru
При обучении выполнению последовательных задач, основанных на правилах, ИИ и человек получают больше пользы от предыдущих знаний, когда задачи схожи. При этом они также демонстрируют большую интерференцию при повторном тестировании по самой первой задаче. Другими словами, нейросети и люди обычно переносили знания, полученные в первой задаче, на вторую, если их правила выполнения были схожими. Но когда их в третьей задаче просили вернуться к самым первым правилам, которые они выучили, многие их уже забывали.
В целом люди демонстрировали два типа поведения. У некоторых наблюдался высокий уровень переноса и высокая интерференция, а у некоторых – низкий уровень переноса и низкая интерференция.