Автор статьи уверен, что главная опасность, связанная с искусственным интеллектом, исходит в большей степени от людей, а не от техники. Ведь работа таких систем зависит именно от человека, а последствия этого, в том числе отрицательные, заметны уже сейчас.
Пользователь amv212 пишет, что в последние несколько лет много обсуждалась вероятность создания общего искусственного интеллекта (AGI), или «искусственного сверхинтеллекта». Эксперты высказывали опасения, что такие машины могут выйти из-под контроля и начать уничтожать человечеством.
При этом нужно сказать, что уже сейчас системы ИИ вредят людям и миру в целом. Однако причина этого – в самих людях.
При обучении систем искусственного интеллекта возникает проблема качества данных и наличия данных. Например, алгоритм может распознавать изображения белых людей, но вот чернокожих не воспринимать либо распознавать с трудом. Из-за этого возникнет множество ложных срабатываний.
Кроме того, в полиции могут применять алгоритм, который будет отдавать предпочтение тому или иному виду территорий и проживающих на этих территориях людей. Например, из-за этого может чаще патрулироваться тот или иной район (к примеру, с бедными людьми). Такое уже происходит в разных странах.
Однако, по мнению автора, необходимо сначала понять, какую проблему люди пытаются решить при помощи искусственного интеллекта и точно ли там необходима помощь алгоритма.