Huawei не стала терять время и выкатили openPangu 2.0 Pro — гигантскую языковую модель с 505 миллиардами параметров. Для сравнения, из них 18 миллиардов активны на каждый токен, а контекстное окно впечатляет — целых 512 тысяч токенов. Это значит, что модель может держать в памяти огромные куски текста, что пригодится для сложных задач.
Что это вообще за зверь?
openPangu 2.0 Pro — часть открытого AI-экосистемы Huawei. Китайцы решили не прятать свои наработки: модель полностью открыта, а точные параметры и компоненты опубликованы на open-сервере. Компания делает ставку на эффективное использование своих чипсетов Ascend, оптимизируя обучение и вывод результатов на них.
Кому это нужно?
- Исследователям, которым нравится копаться в больших моделях.
- Разработчикам, желающим построить что-то свое на базе открытого AI.
- Компаниям, которые хотят экспериментировать с технологиями Huawei и их площадкой Cloud MaaS.
Huawei приглашает всех желающих скачать модель и даже обучать её онлайн через свою платформу. И да, обратная связь приветствуется — видимо, они готовы слушать и дорабатывать свою экосистему.
В общем, пока ChatGPT и другие лидеры AI отдыхают, Huawei тихо и уверенно расширяет фронт открытых больших моделей. Ждём первых экспериментов и креативных идей от сообщества.
