Компания Nvidia выпустила для широкого круга пользователей собственный чат-бот Chat with RTX. Об этом сообщается на сайте корпорации.
Бот использует фреймворк TensorRT-LLM от Nvidia для подключения к языковым моделям искусственного интеллекта Llama 2 или Mistral. Его главной особенностью является автономность — возможность использования без подключения к интернету и облачным сервисам.
Это позволяет ускорить обработку запросов и использовать приложение для обработки конфиденциальной информации с минимальными рисками, отмечают разработчики. Для работы оно задействует вычислительные мощности видеокарт Nvidia.
Для пользования ботом требуется компьютер с Windows 11 и минимум 16 ГБ оперативной памяти. Также обязательно наличие видеокарты GeForce RTX 30-й или 40-й серии с 8 ГБ памяти.
Как отмечают пользователи, Chat with RTX может обрабатывать текстовые запросы и документы, PDF-файлы, а также видео с YouTube. Приложение работает в режиме технологической демо-версии и доступно бесплатно по ссылке.
Ранее Spot писал, что OpenAI начала тестировать функцию пользовательских «воспоминаний» в ChatGPT.
