На I/O 2023 компания Google объявила о запуске новой большой языковой модели PaLM 2, которая будет доступна в составе чат-бота Bard, а также станет базовой моделью для большинства новых ИИ-функций. PaLM 2 доступна разработчикам через Google PaLM API, Firebase и Colab.
Google не предоставил много технических подробностей о том, как обучал эту ИИ-модель. Единственное, что было указано — PaLM 2 была обучена на основе новейшей инфраструктуры Google JAX и TPU v4.
Вице-президент Google DeepMind Зубин Гахрамани (Zoubin Ghahramani) отмечает, что новая модель лучше подходит для философских рассуждений, математики и логики. Компания обучила модель большому количеству научных текстов с поддержкой математических формул. Утверждается, что PaLM 2 может легко решать математические задачи и даже создавать диаграммы.
PaLM 2 также имеет улучшенную поддержку написания и отладки кода. Модель была обучена на 20 языках программирования, в том числе на популярных, таких как JavaScript и Python, а также на узкоспециалзированных, как Prolog, Verilog и Fortran. ИИ-модель PaLM 2 была обучена с помощью более 100 мировых языков, что делает ее, по словам компании, «отличным решением для многоязычных задач».
Google говорит о PaLM как о семействе моделей, в которое входят различные другие модели. Среди них Med-PaLM 2 — модель, ориентированная на медицинские знания. Sec-PaLM, версия, ориентированная на решение вопросов безопасности, и уменьшенная версия PaLM 2, которая может работать на смартфонах.
Следите за новостями в нашем Telegram-канале: https://t.me/infocity_az
