15 февраля 2024

Генеративный ИИ подскажет, какой ресторан рекомендовал вам знакомый на прошлой неделе NVIDIA выпустила Chat with RTX – программное обеспечение, которая позволяет запустить персонализированного чат-бота прямо у себя на компьютере. Это стало возможным благодаря технологиям retrieval-augmented generation (RAG). Chat with RTX найдет среди ваших заметок тот самый ресторан на Патриках, про который рассказывал коллега, рецепт бабушкиного пирога или название сериала — при условии, что вы зафиксировали информацию в одном из документов. Достаточно указать, где находятся папки с файлами в форматах .txt, .pdf, .docx. Они будут использоваться в качестве датасета. Далее вам нужно выбрать модель Mistral или Llama 2, после чего LLM мгновенно проиндексирует информацию и ответит на вопросы. В Chat with RTX можно импортировать плейлисты и URL видео с YouTube и получить ответы на конкретные вопросы: например, о чем было последнее видео вашего любимого блогера. Чтобы запустить это решение, нужен ПК с Windows 10 или 11, видеокарта NVIDIA RTX 30 серии с минимум 8 Гб памяти и последние драйвера. Скачать Chat with RTX можно бесплатно на официальном сайте компании.