Месяц: Сентябрь 2025

Везде, где есть автономия, должно быть доверие. Когда мы хотим воспитать в детях самостоятельность, нужно дать им автономию, и мы должны им доверять. (Воспитание — это лучшая школа, чтобы научиться доверию). Если мы создаем систему автономных агентов, нам необходимо большое доверие между ними. Если я делегирую решения ИИ, то я должен доверять ему. А если этот ИИ полагается на других ИИ, он должен доверять им. Следовательно, нам потребуется разработать очень надежную систему доверия, которая сможет обнаруживать, проверять и создавать надежные отношения, как между человеком и машиной, так и между машинами без участия человека, что еще важнее.

Прикладные исследования в этой области идут по двум направлениям: более глубокое понимание того, как формируется доверие между людьми, и абстрактное применение некоторых из этих принципов к механическим системам. Технологи уже создали примитивные системы доверия для управления безопасностью облачных хранилищ данных и коммуникаций. Например, следует ли разрешать подключиться этому устройству? Можно ли доверять ему в том, что оно сообщает о своих возможностях? Как мы можем проверить его? И так далее.

Пока что такие системы не имеют дело с адаптивными агентами, чья работа, идентификация и способности гораздо более изменчивы, непрозрачны и, кроме того, имеют более значимые последствия. Это затрудняет и делает более важным вопрос доверия.

Сегодня, при выборе ИИ, я в первую очередь обращаю внимание на точность. Даст ли он мне правильные ответы? Насколько сильно он галлюцинирует? Эти качества — индикаторы доверия. Могу ли я быть уверен, что ИИ даст надежный ответ? По мере того как ИИ начинают выходить в мир, чтобы действовать и принимать решения за нас, надежность становится критически важной.

Доверие — это широкое понятие, которое будет меняться по мере развития экосистем ИИ. Отчасти безопасность, отчасти надежность и ответственность, отчасти подотчетность, — эти понятия станут более точными по мере того, как мы будем их синтезировать и измерять. В ближайшее десятилетие мы будем говорить о доверии гораздо чаще.

Возможности и навыки ИИ начинают меняться: одни лучше справляются с определенными задачами, другие хуже. Отзывы будут включать в себя оценку надежности. Подобно тому, как у других готовых продуктов есть заявленные характеристики, такие как топливная экономичность, объем памяти, количество пикселей, время работы или скорость восстановления, поставщики ИИ начнут рекламировать коэффициент доверия своих агентов. Насколько они надежны? Даже если это качество не рекламируется, его необходимо измерять внутри компании, чтобы постоянно его совершенствовать.

Когда мы полагаемся на ИИ-агента при бронировании билетов на отдых, продлении рецептов на лекарства или ремонте автомобиля, то оказываем ему огромное доверие. Нетрудно представить себе случаи, когда ИИ-агент может участвовать в решении жизненно важных вопросов. Могут даже возникнуть юридические последствия, связанные с доверием ИИ-агентам. Кто будет нести ответственность, если агент допустит ошибку?

Сейчас ИИ не несет никакой ответственности. Если он ошибается, то нет никаких обязательств исправить ошибку. Агенты ИИ не несут ответственности за проблемы, которые могут возникнуть из-за их ошибок. Фактически, это различие сейчас является ключевым между сотрудниками-людьми и сотрудниками с ИИ. Вся ответственность лежит на людях. Люди берут на себя ответственность за работу, вы нанимаете человека, потому что верите, что он выполнит работу правильно. Если она выполнена неверно, он переделывает ее и учится не повторять ошибку. С современными ИИ все иначе. Из-за этого им сложно доверять.

Агенты ИИ должны сформировать сеть, систему взаимодействующих ИИ. Эта система сможет назначать фактор риска для каждой задачи. Некоторые задачи, такие как покупка авиабилетов или назначение рецептурных препаратов, будут иметь оценку риска, отражающую потенциальные позитивные и негативные последствия. Каждый агент ИИ будет иметь динамическую оценку риска в зависимости от его прав доступа. Агенты также будут накапливать баллы доверия на основе прошлой работы. Доверие — это сложная штука: для роста доверия может потребоваться много взаимодействий в течение длительного времени. И можно мгновенно потерять все из-за одной ошибки. Оценки доверия будут постоянно меняться и отслеживаться системой.

Большая часть работы ИИ будет выполняться незаметно, посредством обмена данными между агентами. Результаты, генерируемые среднестатистическим ИИ-агентом, будут использоваться только другим ИИ-агентом, одним из триллионов. Люди будут видеть и замечать лишь малую часть всей работы ИИ. Количество ИИ-агентов, с которыми взаимодействуют люди, будет крайне невелико, хотя они будут играть для нас огромную роль. Хотя статистически мы будем редко взаимодействовать с ИИ, они будут иметь для нас огромное значение, и самое главное в этих отношениях будет доверие.

Чтобы заслужить доверие человека, внешнему ИИ-агенту необходимо взаимодействовать с ИИ-агентами, которым он также может доверять. Поэтому значительная часть его возможностей будет заключаться в умении выбирать и использовать наиболее надежных агентов ИИ, которых он сможет найти. Вполне вероятно, что появятся совершенно новые виды мошенничества, включая обман ИИ-агентов, заставляющих их доверять подставным агентам, подделку сертификатов доверия, удостоверений идентификации и подмены задач. Как и в мире интернет-безопасности, сеть ИИ-агентов надежна ровно настолько, насколько надежен самый слабый агент. А поскольку подзадачи можно назначать на много уровней ниже, управление качеством станет первостепенной задачей для ИИ.

Умение правильно определять виновных в ошибках и исправлять ошибки также становится чрезвычайно востребованным навыком для ИИ. Все системы, включая людей, совершают ошибки. Не существует системы, защищенной от них. Поэтому высокая степень доверия во многом определяется ответственностью за исправление ошибок. Агенты, пользующиеся наибольшим доверием, — это те, кто способен (помимо доверия!) исправлять свои ошибки и обладает достаточным интеллектом, чтобы не совершать их вновь.

В конечном счете, степень доверия, которую мы будем оказывать главному агенту искусственного интеллекта — тому, с кем взаимодействие будет происходить каждый день, — станет оценкой, которой будут хвастаться и оспаривать, которой будут делиться и широко рекламировать. В других областях, например, в автомобиле или телефоне, мы принимаем надежность как должное.

Искусственный интеллект гораздо сложнее, он затрагивает больше личных вещей, чем другие продукты и услуги, поэтому надежность агентов ИИ будет иметь решающее значение и постоянно вызывать беспокойство. Коэффициент доверия может оказаться важнее коэффициента интеллекта (IQ). Выбор и удержание агентов с высоким коэффициентом доверия будет во многом напоминать найм и удержание ценных сотрудников-людей.

Конечно, для людей мы не используем такие оценки, как коэффициент доверия. С другой стороны, система ИИ-агентов будет располагать всевозможными метриками, на которые мы будем опираться, чтобы решить, какие из них нам нужны в повседневных задачах. ИИ с наивысшими показателями, вероятно, будут и самыми дорогими. Появятся слухи о системах с почти идеальными показателями, которые простые люди не могут себе позволить. Однако ИИ — это система, которая совершенствуется с возрастающей отдачей. Это значит, что чем больше ее используют, тем она лучше, поэтому лучшие ИИ будут одними из самых популярных. Миллиардеры пользуются тем же Google, что и мы, и, вероятно, будут использовать те же ИИ, что и мы, хотя у них могут быть сильно персонализированные интерфейсы. Им тоже потребуется самый высокий коэффициент доверия.

У каждой компании, а может, и у каждого человека, будет ИИ-агент, представляющий интересы в системе перед другими ИИ-агентами. Обеспечение высокого рейтинга доверия у личного представителя будет частью вашей ответственности. Это немного похоже на кредитный рейтинг для ИИ-агентов. Вам понадобится высокий коэффициент доверия для помощника, потому что некоторые ИИ-агенты не будут взаимодействовать с ним, если у него низкий коэффициент. Это не то же самое, что иметь личный социальный рейтинг (который, как говорят, есть у китайцев). Это не ваш рейтинг, а коэффициент доверия агента, который представляет вас перед другими агентами. У вас может быть отличная репутация в социальном рейтинге, но ваш агент может быть ненадежным. И наоборот.

В ближайшие десятилетия эры искусственного интеллекта доверие будет важнее интеллекта.

Сообщение Количество доверия: машины сделают подотчетным то, что нельзя измерить появились сначала на Идеономика – Умные о главном.

Qualcomm представила результаты тестирования нового процессора Snapdragon X2 Elite Extreme.

Напомним, что новинка оснащена 18 ядрами Oryon-3 с частотой до 5 ГГц, обновлённой графикой Adreno X2-90 и нейропроцессором на 80 TOPS. В ряде тестов чип уверенно обошёл конкурентов от Apple, Intel и AMD.

В Geekbench 6.5 он набрал 4072 балла в одноядерном режиме — на 7% больше, чем Apple M4 Pro, и на 36–44% выше, чем у решений Intel Core Ultra и Ryzen AI. В многоядерном тесте показатель составил 23 693 балла, что на 35% выше Core Ultra 9 285H и на 5% больше, чем у M4 Pro.

В Cinebench 2024 X2 Extreme лидировал в многопоточном режиме, хотя по однопоточному скору уступил M4 на 7%.

ComputerBase ComputerBase

В 3DMark новая GPU Adreno показала рост производительности до 139% по сравнению с прошлым поколением и превзошла встроенные решения Intel и AMD, приблизившись к Apple M4.

Таким образом, X2 Elite Extreme стал первой платформой Qualcomm, которая может напрямую конкурировать с топовыми ноутбучными чипами трёх крупнейших игроков рынка.

Nothing представила первые полноразмерные наушники под суббрендом CMF. Новинка, получившая название CMF Headphone Pro, может похвастаться 40-миллиметровым драйвером, поддержкой LDAC по Bluetooth 5.4 и рядом необычных элементов управления.

Главная особенность — Energy Slider, с помощью которого можно на лету менять баланс низких и высоких частот без отдельного приложения. Дополняет его колесико регулировки громкости, которое также отвечает за паузу и смену режимов ANC. А ещё есть отдельная программируемая кнопка — например, для вызова ChatGPT.

По автономности модель впечатляет: до 50 часов с активным шумоподавлением и до 100 часов без него. Быстрая зарядка даёт 8 часов музыки всего за 5 минут.

Nothing

Аккумулятор на 720 мАч, адаптивный ANC и сменные амбушюры за €25 делают устройство гибким в настройке. Наушники будут доступны в трёх цветах: мятно-зелёном, серебристо-белом и чёрном.

Цена на старте — всего €99 (около 9600 рублей), что делает их одними из самых доступных полноразмерных решений с ANC и LDAC. Продажи начнутся «в ближайшие недели».

В Европе стартовали продажи обновлённой ревизии PlayStation 5 Slim с индексом CFI-2100. Главный минус новинки — уменьшенный твердотельный накопитель.

Теперь вместо 1 ТБ доступно лишь 825 ГБ. Для Digital Edition это особенно чувствительно, учитывая растущие размеры современных игр.

Снаружи изменений минимум: приставка сохранила дизайн Slim-версии, но лишилась глянцевого покрытия, вернувшись к матовой отделке, напоминающей стартовые модели. Гораздо важнее обновления внутри.

Во-первых, Sony добавила третий NAND-модуль вместо двух, что улучшает распределение нагрузки. Во-вторых, в системе охлаждения появились специальные «рёбра» для удержания жидкого металла.

Ранее его утечки при вертикальной установке могли приводить к перегреву и даже повреждениям APU. Теперь риск сведён к минимуму — как и в PS5 Pro, где применено аналогичное решение.

Кроме того, консоль стала чуть легче и энергоэффективнее. Пока не ясно, когда ревизия появится в США.

Немецкое издание ComputerBase протестировало Borderlands 4 под Linux и сравнило результаты с Windows 11.

Для теста использовались видеокарты Radeon RX 9070, GeForce RTX 5070 и Intel ARC B580 в связке с процессором Ryzen 7700X. Система работала на CachyOS с ядром Linux 6.16, игра запускалась в FullHD на высоких настройках с FSR 4 и DLSS 4 в режиме Quality.

Лучше всего под Linux показала себя Radeon RX 9070 — в среднем 76 fps с просадками до 59,8. Однако под Windows на той же системе результат был выше — почти 97 fps. При этом выяснилось, что в Linux игра загружает CPU на 90%, что ограничивает производительность.

ComputerBase ComputerBase

GeForce RTX 5070 оказалась куда слабее: около 60 fps в среднем и провалы до 25 кадров против 84 fps и 58 минимум под Windows. А вот Intel ARC B580 вовсе не смогла запустить игру.

Дополнительно проверили Steam Deck, но портативная консоль не справилась — фреймрейт оказался слишком низким для комфортной игры.

Обновлённая линейка iPhone 17 помогла Apple переломить ситуацию на ключевом для компании китайском рынке.

По данным аналитика Минг-Чи Куо, базовая версия смартфона обогнала по продажам Xiaomi 17, что уже привело к сокращению планов по поставкам китайской модели с 10 до 8 млн устройств.

Причина успеха проста: Apple впервые дала «базовому» iPhone сразу несколько заметных апгрейдов без повышения цены.

Устройство получило удвоенный до 256 ГБ объём памяти на старте, новый чип A19 по 3-нм техпроцессу и LTPO OLED-дисплей с поддержкой ProMotion (1–120 Гц). Последнее стало настоящим прорывом для не-Pro версий, ранее ограниченных 60 Гц.

При этом цена осталась прежней — $799, как и у iPhone 16. Такой баланс характеристик и стоимости сделал модель особенно привлекательной для покупателей.

Apple не собирается останавливаться: в I половине 2026 года компания готовит ещё более доступный iPhone 17e, который позволит усилить позиции в среднем сегменте и создать дополнительные сложности для конкурентов вроде Xiaomi.

С запуском iPhone 17 многие посетители Apple Store заметили странные царапины и следы на витринных образцах.

Как выяснилось, дело не в стекле смартфонов, а в самих MagSafe-стойках: их металлическое кольцо со временем изнашивается и оставляет тёмные следы на корпусе при снятии телефона.

Apple оперативно отреагировала: в некоторых магазинах на стойки уже добавили силиконовые накладки, чтобы избежать контакта с металлом. Но что делать с уже «исцарапанными» демо-устройствами?

По данным Bloomberg, компания разослала инструкцию сотрудникам: для очистки нужно использовать специальный раствор, в котором к стандартной жидкости добавляется соль. Причём солёная вода справляется лучше обычной или спиртовой.

При этом в самой Apple стараются не только устранить последствия, но и предотвратить появление новых следов на iPhone 17 в магазинах.

Премьер-министр России Михаил Мишустин сообщил о создании первого отечественного препарата для генной терапии гемофилии.

Глава правительства в ходе выступления на пленарной сессии международной выставки «Иннопром» в Минске отметил достижения в фармацевтической промышленности, указав на успешную разработку ученых.

Выставка «Иннопром. Беларусь» проходит в Минске с 29 сентября по 1 октября.

Ранее министр науки и высшего образования РФ Валерий Фальков заявил о значительном увеличении эффективности применения ИИ в разработке лекарств и производстве металлических сплавов. Анализ данных показывает, что ИИ ускорил синтез некоторых лекарств в два раза и улучшил изготовление металлических сплавов более чем в 200 раз в отдельных областях.

Центр развития промышленной робототехники Университета Иннополис объявил о начале грантового конкурса. Мероприятие проводится при поддержке Минпромторга России, а прием заявок продлится до 22 октября.

Участниками могут стать отечественные компании, работающие на рынке не менее трех лет со штатом от 20 сотрудников. Организации должны подтвердить свой опыт в создании робототехнических решений и наличие необходимой материально-технической базы, отметили в пресс-службе вуза.

Для участия требуется предоставить программу работы будущего центра на трехлетний период. В документе должны быть указаны план мероприятий, финансовое обоснование, описание разрабатываемых технологий и перечень привлекаемых партнеров.

Победители конкурса получат финансирование на разработку и коммерциализацию решений, внедрение роботизированных комплексов на предприятиях, а также на подготовку специалистов для отрасли. Согласно федеральному проекту, до 2030 года планируется создать 30 таких центров по всей стране, которые войдут в единую сеть.

Министр промышленности и торговли РФ Антон Алиханов положительно оценил перспективы российского электромобиля «Атом». На полях международной выставки «Иннопром. Беларусь» он выразил надежду, что модель будет популярна как в России, так и в Белоруссии.

При этом глава Минпромторга отметил, что успех проекта зависит от развития необходимой инфраструктуры. Он также добавил, что в первый год производства не стоит ожидать массового выпуска этого автомобиля.

Презентация электромобиля «Атом» в Белоруссии стала его первым показом на зарубежной выставке.

Напомним, что российский электромобиль «Атом» успешно прошёл сертификацию и получил одобрение типа транспортного средства (ОТТС), что позволяет использовать и продавать эту машину. Сертификат был выдан компании «Кама».