Материалы по теме: openPangu 2.0 Pro

Huawei не стала терять время и выкатили openPangu 2.0 Pro — гигантскую языковую модель с 505 миллиардами параметров. Для сравнения, из них 18 миллиардов активны на каждый токен, а контекстное окно впечатляет — целых 512 тысяч токенов. Это значит, что модель может держать в памяти огромные куски текста, что пригодится для сложных задач.Что это вообще за зверь?openPangu 2.0 Pro — часть открытого AI-экосистемы Huawei. Китайцы решили не прятать свои наработки: модель полностью открыта, а точные параметры и компоненты опубликованы на open-сервере. Компания делает ставку на эффективное использование своих чипсетов Ascend, оптимизируя обучение и вывод результатов на них.Кому это нужно?Исследователям, которым нравится копаться в больших моделях.Разработчикам, желающим построить что-то свое на базе открытого AI.Компаниям, которые хотят экспериментировать с технологиями Huawei и их площадкой Cloud MaaS.Huawei приглашает всех желающих скачать модель и даже обучать её онлайн через свою платформу. И да, обратная связь приветствуется — видимо, они готовы слушать и дорабатывать свою экосистему.В общем, пока ChatGPT и другие лидеры AI отдыхают, Huawei тихо и уверенно расширяет фронт открытых больших моделей. Ждём первых экспериментов и креативных идей от сообщества.

Huawei выпустила openPangu 2.0 Pro с 505 млрд параметров и огромным контекстом