Компания Opera объявила, что пользователи браузера Opera One смогут скачивать и локально использовать на своих компьютерах большие языковые модели (LLM). Это первый браузер, который позволяет загружать ИИ-модели и использовать их без сторонних ресурсов.
На данное время пользователи могут выбирать между более чем 150 языковыми моделями из более чем 50 семейств. Например, доступны Gemma от Google, LLaMA от Meta, Mixtral от Mistral AI и Vicuna от LMSYS. Нововведение внедряется в рамках программы Opera AI Feature Drops, позволяющей пользователям получить ранний доступ к некоторым ИИ-функциям.
По данным Opera, для запуска ИИ-моделей используется платформа с открытым исходным кодом Ollama. В настоящее время все доступные LLM представляют собой части библиотеки Ollama, но в будущем разработчики планируют реализовать возможность доступа к моделям из разных источников. При скачивании какой-либо LLM потребуется более 2 Gb свободного места на локальном носителе. Разработчики отметили, что возможно, работа нейросетей на компьютере окажется медленной — скорость зависит от мощности системы.
Кроме того, пользователи Opera One могут использовать встроенный AI-помощник под названием Aria, который доступен с мая прошлого года.
