Компания Nvidia представила Chat with RTX — чат-бота на основе искусственного интеллекта, который способен работать локально на компьютере с Windows 11, доступ к интернету не потребуется.
Программа распространяется совершенно бесплатно. Для запуска нейросети требуется ПК с видеокартой серии RTX 30 или 40 с 8 Gb видеопамяти, а также не менее 16 Gb оперативной памяти.
При работе с Chat with RTX можно выбрать одну из двух языковых моделей: Mistral или Llama 2. Чат-бот умеет сканировать локальные файлы на компьютере пользователя и выдавать на их основе ответ на заданный вопрос. Поддерживаются форматы txt, pdf, doc, docx и xml. Также он умеет собирать информацию из видео на YouTube.
Так как выход в интернет не нужен, все данные пользователя остаются на компьютере.