NVIDIA представила обновлённую версию своего чат-бота — ChatRTX.
Новинка работает непосредственно на локальных устройствах пользователя, используя мощность графических процессоров GeForce RTX.
ChatRTX значительно превосходит свою первоначальную версию — техническую демонстрацию Chat with RTX, представленную в феврале 2024 года.
В ней, например, улучшена стабильность работы, а также расширен набор поддерживаемых моделей языковых LLM, включая такие новинки, как Mistral 7B INT4 и Llama 2 7B INT4 от NVIDIA, а также Gemma от Google.
TechPowerUp
ChatRTX может похвастаться интеграцией с CLIP — технологией от OpenAI для распознавания изображений, что позволяет ИИ анализировать фото и видео без дополнительных метаданных.
Кроме того, в приложение добавлена поддержка голосового ввода через Whisper, что делает общение с чат-ботом более естественным и удобным.