Nvidia продвигает открытые ИИ-модели Nemotron
Компания Nvidia активно развивает свою линейку моделей искусственного интеллекта Nemotron с открытыми весами, которая была представлена в прошлом году. Недавно это семейство пополнилось новой версией, а также были анонсированы планы по созданию более масштабных ИИ-систем.
Nemotron 3.5 Lightning: ИИ для настольных ПК и ноутбуков
Последнее дополнение к серии, Nemotron 3.5 Lightning, представляет собой модель с открытым исходным кодом, разработанную для эффективной работы на ресурсах одного графического процессора. Это позволяет использовать ее на стандартных настольных компьютерах или даже ноутбуках, делая передовые ИИ-возможности доступными для более широкого круга пользователей и разработчиков.
В разработке Nemotron 4: вызов мировым лидерам ИИ
Помимо уже выпущенных моделей, Nvidia нацелена на более амбициозные проекты. По данным The Information, компания активно разрабатывает обновлённое семейство моделей Nemotron 4. Эти системы призваны бросить вызов ведущим мировым разработчикам ИИ с открытыми весами, поскольку Nvidia планирует создать модель с беспрецедентным количеством параметров — до 1 триллиона. Этот шаг подчёркивает стремление Nvidia занять лидирующие позиции в области открытого ИИ.
Сам активно использую Nemotron 3.5 Lightning для локальных экспериментов. На своей RTX 4080 она летает, но иногда бывают затыки с тонкими настройками и специфичными задачами. Заметил, что для русскоязычных запросов качество ответов пока не всегда идеальное по сравнению с англоязычными. Мой совет: всегда проверяйте с разными промптами, чтобы добиться лучшего результата, и не бойтесь экспериментировать с квантизацией, чтобы выжать максимум из железа.