В современном мире мы все время измеряем. Даже какие-либо улучшения представляют в цифрах, чтобы мы могли оценить качество и прогресс. Например, мы можем обозначить уровень воды в резервуаре после дождя как 90% или чистоту вещества как 99%. Мы оцениваем испытания, производительность, чистоту, заполняемость и всевозможные качества в процентах от того, что считаем идеальным. По мере улучшения показатели будут расти, скажем, с 90% до 99% (довольно хорошо из 100% совершенства). Чтобы сделать лучше, мы могли бы повысить чистоту материала или доступность электроэнергии с 99% до 99,9%. Если будем продолжать добавлять девятки, все будет значительно улучшаться, достигнув, скажем, 99,999%. Благодаря передовым знаниям и лучшим практикам мы могли бы двигаться дальше, добавляя до шести или даже девяти девяток!
Это явление называется «маршем девяток», и оно уже много лет широко распространено в высокотехнологичной отрасли. Например, компании, производящие кремниевые пластины для микросхем, ведут долгую борьбу за повышение чистоты материалов, добавляя девятки после запятой. Ведущие компании веб-хостинга хвастаются временем безотказной работы, надеясь когда-нибудь достичь шести девяток после запятой.
Этот подъем невероятно сложен по очень банальным причинам. Добавление девятки в последовательности девяток не является линейным процессом. Кажется, будто с каждой девяткой мы добавляем лишь крошечное количество, все меньше и меньше, но на самом деле все наоборот. Разница между отсутствием электричества в течение 1 часа в году (99,99%) и отсутствием на целый рабочий день в году (99,9%) значительна, а не просто немного больше.
Но каждая дополнительная девятка требует невероятного увеличения усилий. В рабочей среде принято считать, что каждая дополнительная девятка требует столько же работы, сколько и предыдущая. Таким образом, переход от 99% к 99,9% требует столько же времени и денег, сколько переход от 90% к 99%. Некоторые специалисты утверждают, что в некоторых случаях ситуация еще сложнее, и для достижения дополнительной девятки требуется на порядок больше усилий. Переход от двух девяток к трем или от трех к четырем требует в 10 раз больше времени и денег, чем предыдущий шаг. Значит, каждый шаг на пути к девяткам требует больше ресурсов, чем все предыдущие шаги вместе взятые, что весьма отрезвляет.
Независимо от того, равен ли каждый последующий шаг в «марше девяток» тому же объему или в 10 раз превышает предыдущий, причина растущего объема заключается в том, что вы не можете достичь следующих девяток, просто продолжая делать то, что делали раньше. Экстраполяция не работает. Единственный способ достичь следующих девяток — это делать что-то по-новому, реорганизовывать работу или изобретать что-то новое. А это дорого. И этому легко сопротивляться, потому что то, что вы делаете сейчас, работает отлично! Если вы хотите повысить время безотказной работы с 99,9% до 99,99%, вам потребуются совершенно новые уровни резервирования, новые рабочие процессы, новые уровни мониторинга, новые типы устройств, новые рабочие привычки и новая организация компании. Следующие девятки потребуют тех же усилий.
Недавно Андрей Карпатый, суперзвезда в области искусственного интеллекта, работавший над беспилотными автомобилями, отметил, что мы все еще застряли на уровне девяток. Это намного ниже того, что действительно необходимо, чтобы беспилотные автомобили стали массовыми. Когда беспилотный автомобиль будет управляться с точностью 90%, в нем будет находиться человек-помощник для экстренных ситуаций. После множества новых исследований, миллиардов долларов и радикальных инноваций точность достигнет 99%, и этот помощник переместится в удаленный сервисный центр, как это делается в компании Waymos. Помощники больше не находятся в машине, но они по-прежнему управляют автомобилем на расстоянии. Еще несколько миллиардов долларов, и инновации позволят довести точность управления до 99,9%, и теперь один помощник сможет управлять шестью автомобилями. По мере того как точность будет расти, внимание людей будет рассеиваться, пока в конечном итоге для десятков тысяч автомобилей не потребуется всего несколько человек. Только тогда среднестатистический гражданин сможет позволить себе беспилотный автомобиль.
Но каждый из этих девяти этапов требует как минимум столько же работы и изобретательности, сколько и предыдущий. Сегодня водитель-человек действительно очень хорош. Люди становятся причиной столкновения, повлекшего травмы, примерно раз на миллион миль, и причиной смертельного исхода — примерно раз на 100 миллионов миль пробега. С точки зрения травм, водители-люди обеспечивают безопасность на уровне 99,9999%, а в случае смертельных столкновений их эффективность составляет 99,999999%, если измерять на милю. Это поразительные 8 девяток!
Но есть и обратная сторона «марша девяток». Когда вы выходите за пределы пяти девяток, фактор случайности редких событий разрастается до таких крайностей, что некоторые события становятся настолько невероятными, что их буквально невозможно описать. Вы проектируете то, чего никогда не происходило и не наблюдалось. Событие может произойти лишь раз из 100 миллиардов раз или однажды из 100 миллиардов выборок, и оно находится далеко за пределами человеческого опыта. Процесс проектирования начинает скатываться к бессмысленности.
Эта зона крайности марша девяток — еще одна причина, почему так сложно поднять систему на следующий уровень. Вы попадаете на территорию, где царят редкие и «черные лебеди».
Тем не менее сегодня автомобили Waymo на 90% безопаснее, чем автомобили, управляемые людьми, но эта безопасность по-прежнему зависит от участия человека в процессе. Вероятно, современные технологии без участия человека были бы менее безопасны, чем автомобили с водителями-людьми, но мы этого не знаем. И на самом деле, несмотря на миллиарды километров, пройденные в различных режимах автономного вождения с участием человека, эти беспилотные автомобили до сих пор не проехали достаточно километров, чтобы предоставить надежные данные о безопасности по сравнению с автомобилями, управляемыми людьми.
Некоторые наблюдатели за проектом считают, что исключение человека из процесса управления (что раскрывает истинный уровень безопасности в случае полной автономности) означает, что, несмотря на внешние признаки, проблема беспилотных автомобилей не решена. Автопилот от Tesla (Full Self-Driving) не является подлинной автономностью. Пока водитель может управлять автомобилем, человек участвует в процессе. Другими словами, до полного автономного управления еще очень далеко. Это означает, что для решения этой задачи потребуется столько же времени, денег и усилий, сколько потребовалось для достижения нынешнего уровня беспилотного вождения. Стоит повторить: для достижения полной автономности может потребоваться столько же усилий, сколько было затрачено на создание Waymo сегодня.
Компания Waymo была основана 16 лет назад как проект Google по созданию беспилотных автомобилей, а 10 лет назад получила официальное название. К настоящему моменту она потратила около 25 миллиардов долларов, чтобы достичь нынешнего уровня автономности. Я считаю, что потребуется как минимум еще десятилетие и еще 25 миллиардов долларов, чтобы Waymo достигла уровня, когда один человек сможет управлять 100 000 автомобилей, а беспилотные автомобили получат все необходимые оценки, чтобы стать по-настоящему автономными и при этом оставаться безопаснее, чем автомобили, управляемые человеком.
Кажется, мы так близки к полностью автономному вождению без участия человека: нам нужно всего лишь несколько дополнительных девяток! Но в этом стремлении к совершенству дополнительные девятки потребуют таких же инвестиций, какие мы уже потратили. По приблизительным оценкам, я думаю, что мы достигнем состояния, когда хотя бы треть автомобилей на дорогах будут действительно автономными (без участия человека), не раньше 2036 года или позже.
Сообщение Марш девяток: в какие цифры упирается прогресс появились сначала на Идеономика – Умные о главном.
