Месяц: Ноябрь 2022

Искусственный интеллект за считанные секунды может создать любое изображение, которое трудно отличить от реальности. Автор  The Washington Post Ниташа Тику  рассказывает о возможностях и опасностях новейших технологий, способных сгенерировать то, чего нет.

Один из пионеров в этой области — программа DALL-E от исследовательской лаборатории OpenAI, которая привлекла художников, графических дизайнеров и множество простых пользователей. Она умеет создавать оригинальные изображения на основе любой спонтанной фразы и генерирует порядка 2 млн картинок в день.

Появление этой программы вызвало бум генераторов преобразования текста в изображение. Google и Meta*, например, тут же заявили, что разрабатывали похожие системы, но пока их модели не готовы для широкой публики. Не остались в стороне и стартапы, в частности Stable Diffusion и Midjourney, которые вызвали шквал споров, когда созданный ИИ рисунок выиграл художественный конкурс на ярмарке в Колорадо.

Но исследователи обеспокоены потенциальным вредом подобных изображений, пишет Тику. По её словам, фейковые картинки служат укреплению расовых и гендерных стереотипов, распространению плагиата, травли, преследований или дезинформации.

Основная опасность подобных проектов заключается в том, что стирается грань между правдой и вымыслом, считает профессор инженерной школы Университета Южной Калифорнии Ваэль Абд-Альмагид. OpenAI пытается снизить эти риски, например, запрещая создавать изображения знаменитостей или политиков, чтобы избежать дезинформации. Но некоторые подражатели открыли свой код, и его может скопировать кто угодно.

Тику рассказывает, как обратилась к Абрану Мальдонадо — художнику по ИИ и представителю сообщества OpenAI — чтобы создать картинку по следующему текстовому запросу: «Протестующие у здания Капитолия 6 января 2021 года, стиль AP».

DALL-E создала четыре изображения. Три из них сразу отмели: лица протестующих были перекошены, а надписи на плакатах написаны как курица лапой. Но четвертое оказалось совсем другим. Картинка выглядела вполне правдоподобной, хотя на ней и можно было рассмотреть некоторые несоответствия, отмечает Тику. Мальдонадо восхитился способностью искусственного интеллекта дополнять мелкие детали, улучшая фальшивую версию знакомой сцены.

Тику утверждает, что каждая эволюция технологии изображения приносила потенциальный вред наряду с повышением эффективности. Так, Photoshop позволял редактировать и улучшать фотографии, но также давал возможность исправлять изображения тела, что было особенно популярно среди девочек, как показывают исследования.

Тем временем достижения в области искусственного интеллекта привели к появлению дипфейков (это широкий термин, охватывающий любые медиафайлы, синтезированные ИИ) от фейковых видеороликов, в которых голова одного человека приставлена к телу другого, до удивительно реалистичных «фотографий» людей, которых не существует.

И дипфейки, и генераторы преобразования текста в изображение основаны на методе обучения ИИ, называемом глубоким обучением. Он опирается на искусственные сети, имитирующие нейроны человеческого мозга. А эти более новые генераторы изображений основаны на умении ИИ обрабатывать то, как люди говорят и общаются.

Лаборатория искусственного интеллекта OpenAI в Сан-Франциско была основана Сэмом Альтманом, Илоном Маском, Питером Тилем в 2015 году с целью создания так называемого «общего искусственного интеллекта», или ОИИ, который будет таким же умным, как человек. Компания хотела, чтобы ИИ приносил пользу миру и выступал в качестве защиты от сверхчеловеческого ИИ, который находится в руках монополистической корпорации или иностранного правительства.

Работа OpenAI началась с языка, потому что он служит ключом к человеческому интеллекту, а в интернете было достаточно текста, который можно было использовать. Эта ставка сыграла: генератор текста GPT-3 может создавать связные новостные статьи или короткие рассказы на английском языке.

Затем OpenAI попыталась повторить успех GPT-3, скормив алгоритму языки программирования в надежде, что он найдет статистические закономерности и сможет генерировать код с помощью разговорной команды. Так появился Codex, который помогает программистам быстрее писать код.

В то же время в OpenAI попытались объединить зрение и язык, обучив GPT-3 находить шаблоны и связи между словами и изображениями, используя огромные наборы данных с миллионами изображений в сочетании с текстовыми подписями. Это и стало первой версией DALL-E.

Вторая версия DALL-E воспользовалась еще одним прорывом — диффузионными моделями. Они работают путем разрушения или искажения обучающих данных, а затем обратного процесса для создания изображений. Альтман представил новинку созданным ею изображением ученых-плюшевых мишек на Луне, которые возятся с компьютерами Macintosh. «Это так весело, а иногда и красиво», — написал он.

OpenAI наняла целую команду для проверки на наличие недостатков, а затем опубликовала выводы на GitHub. В них говорится, что программа увековечила предвзятость, укрепила некоторые стереотипы и по умолчанию выдавала больше результатов с белыми людьми.

Также исследователи называют основной проблемой возможность использования DALL-E для целенаправленных преследований, издевательств и эксплуатации. Чтобы решить эту проблему рекомендовано устранить возможность использования программы для создания или загрузки фотореалистичных лиц.

OpenAI встроил фильтры, блоки и систему пометок, например, всплывающие предупреждения, если пользователи вводят имена знаменитостей или мировых политиков. Такие слова, как «подросток» и «тинейджер», также вызывают сигнал.

В июне OpenAI объявила, что меняет курс, и DALL-E позволит пользователям публиковать фотореалистичные лица в социальных сетях. По мнению экспертов, компания уверена, что сможет вмешаться, если что-то пойдет не так.

По мнению исследователя ИИ Маартена Сапа, некоторым странам не хватает законодательства, ограничивающего негативное или вредное использование технологий. В Калифорнии и Вирджинии есть законы, запрещающие распространение дипфейков, но федерального закона нет. В Китае, например, производители дипфейкового контента могут быть привлечены к уголовной ответственности и оштрафованы.

«Я смогла загрузить и отредактировать широко разрекламированные изображения Марка Цукерберга и Маска, хотя они должны были вызвать предупреждение, основанное на ограничениях OpenAI на изображения общественных деятелей. Я также смогла получить реалистичные результаты на текстовую подсказку «Протестующие Black Lives Matters ломают ворота Белого дома», которую можно было охарактеризовать как дезинформацию, картину насилия или изображение о политике — все это запрещено», — пишет Тику.

Устанавливать ли средства защиты — решать каждой компании. Например, Google заявила, что не будет публиковать модели или код своих программ преобразования текста в изображения. А генератор преобразования текста в изображение от китайского технологического гиганта Baidu запрещает изображения площади Тяньаньмэнь.

Одно из популярных приложений для генерации изображений — Midjourney. Согласно каналу Discord и группе Reddit, оно использовалось для создания картин школьной стрельбы, запекшейся крови и военных фотографий. Некоторые пользователи сообщали о случаях детской порнографии.

При этом основатель Midjourney Дэвид Хольц уверяет, что таких неприятных инцидентов крайне мало, учитывая миллионы пользователей. Тем не менее, в компании ужесточили фильтры. А вот ещё один стартап Stable Diffusion пошел по противоположному пути. Он объявил, что меры DALL-E демонстрируют недоверие к пользователю, и не стал вводить аналогичные. В результате в сети появились изображения Греты Тунберг в бикини, «поедающей какашки», «выстреливающей себе в голову» и «получающей Нобелевскую премию мира».

«Тем, кто использует технологии от Stable Diffusion до Photoshop в неэтичных целях, должно быть стыдно, и они должны нести соответствующую личную ответственность», — заявил основатель Stability.ai Имад Мостак.

Между тем, DALL-E сделала еще один шаг к более реалистичным изображениям, позволив пользователям загружать и редактировать фотографии с реальными лицами.

«Благодаря улучшениям в системе безопасности DALL-E теперь готова поддерживать эти восхитительные и важные варианты использования — при этом сводя к минимуму потенциальный вред от дипфейков», — пишет по этому поводу OpenAI.

*деятельность организации запрещена в РФ.

Сообщение Мишки на Луне: как ИИ стирает грани между правдой и вымыслом появились сначала на Идеономика – Умные о главном.

Несколько лет назад я осознала поразившую меня истину. Я совершенно точно выгорела.

«Как дела?» — спросила меня начальница. Это был дежурный утренний вопрос, который она задавала скорее по привычке, поскольку даже не отрывала глаз от клавиатуры.

Обычно я отвечала: «Все хорошо, спасибо», но в тот день открыла рот и ничего не смогла произнести. Вместо этого я расплакалась.

Я привыкла демонстрировать непоколебимое самообладание на работе, держаться любой ценой и не показывать свои слабости. Но я долго барахталась в водовороте отчаяния и в конце концов дошла до предела. Каждый день мой внутренний диалог был смесью беспорядочных мыслей:

Как мне справится с тремя новыми задачами на этой неделе, если я еще не закончила пять с предыдущей?

Не забыла ли моя дочь взять с собой кроссовки на физкультуру?

Придется ли сегодня снова задержаться на работе?

Что приготовить на ужин?

Когда мы с мужем в последний раз куда-нибудь ходили вместе?

А какой сегодня день?

Выгорание распространено во всех отраслях. В недавнем исследовании 77% респондентов заявили, что испытывали выгорание на работе. Прибавьте к этому задачи, которые нужно решать и в личной жизни, и результат становится разрушительным.

В тот день я чувствовала себя опустошенной. Исчерпав все возможные варианты, я отбросила свои принципы и поделилась с боссом всем, что наболело. Мы не пришли к какому-то реальному решению, но я почувствовала себя легче, просто сбросив груз с души.

Но облегчение длилось недолго.

На следующей неделе коллега рассказал, что начальница передала ему наш разговор, в деталях описав мои чувства и процитировав многое из того, что я тогда наговорила. И это был не единственный человек, с кем она поделилась.

Я была разочарована, но полна решимости найти другие способы помочь себе и вернуть равновесие в свою жизнь. Я брала больше выходных. И выделяла больше времени на обед. Несмотря на то, что это вызывало неодобрение, я перестала задерживаться на работе.

Эти перемены были шагом в правильном направлении, но чего-то все же не доставало.

Секретный ингредиент

Если вы как руководитель ищете средство, которое поможет снизить выгорание и отстраненность сотрудников, ваш опыт может быть похож на мой: вы испробовали многое, но все еще не уверены, что можете решить проблему раз и навсегда.

Для меня «День Плача» был самым худшим днем, но это был не единственный момент, когда я чувствовала стресс. В действительности таких дней было множество, но я как-то справлялась с ситуацией.

Тогда-то и был задействован самый важный ингредиент. Общество.

Когда у меня были теплые отношения с коллегами, я могла спокойно выговориться и получить поддержку, это помогало вновь обрести равновесие и двигаться дальше.

Для руководителей, стремящихся сократить выгорание и повысить вовлеченность, создание возможностей для общения может стать противоядием. Вот три способа содействовать укреплению связи в коллективе.

Слушайте

Когда вы слушаете человека, вы укрепляете связь, показывая что его слова стоят потраченного времени и внимания. В нашем многозадачном и стремительно меняющемся мире активное слушание может показаться почти утраченным искусством.

Поддерживайте связь, полностью сосредоточившись в настоящем моменте, задавайте уточняющие вопросы и не перебивайте. Прежде всего, помните, что ваша главная цель — слушать, чтобы понять, а не формировать ответ.

Изучайте

Во многих организациях руководители редко пересекаются с сотрудниками, кроме простых любезностей. Чтобы способствовать установлению подлинных связей в организации, рискните поддерживать отношения на разных должностных уровнях.

На этом построено популярное реалити шоу «Босс под прикрытием». Руководители узнают истории людей в своей организации, которых они иначе не знали бы, и на собственном опыте убеждаются в эффективности своего руководства. В свою очередь, сотрудники видят личную сторону своего лидера.

Как старшие, так и младшие члены команды могут поделиться своими идеями. Создание пространства для обмена историями о том, что работает, что не работает, и о том, чего они хотели бы в будущем, позволит найти ощутимые способы поддержки в офисном пространстве.

Реагируйте

Слушать и узнавать — очень важно, но вот где настоящая проверка: как вы реагируете на то, что слышите?

Лидеры могут поддержать дело, смело принимая меры. Непопулярные или противоречивые меры могут быть в порядке вещей, например, изменение давней политики, кадровые перестановки или перемены в культуре.

Когда лидеры предпринимают масштабные действия для устранения первопричины проблем, влияющих на благополучие сотрудников, это укрепляет доверие и чувство безопасности — отличительные черты здорового общества. В этом случае, как пишет Саймон Синек в книге «Лидеры едят последними: как создать команду мечты»: «Работа больше не является местом, которое вызывает ужас. Это место, где можно почувствовать свою значимость».

Сообщение Секретный ингредиент: 3 шага к здоровой атмосфере в коллективе появились сначала на Идеономика – Умные о главном.