Представители Пекинской Академии искусственного интеллекта (Beijing Academy of Artificial Intelligence, BAAI) объявили на прошлой неделе о завершении разработки новой системы искусственного интеллекта, которая стала самой сложной на сегодняшний день системой для обработки естественного языка (natural language processing, NLP). Система WuDao 2.0 представляет собой сложную комбинацию нейронных сетей, прошедших через процесс предварительного обучения. Система оперирует 1.75 триллионами переменных параметров для того, чтобы моделировать и распознавать естественную речь, писать тексты и даже стихи, распознавать изображение на картинах и снимках, и т.п.
Упомянутые выше параметры являются переменными, значения которых устанавливаются и используются алгоритмами глубинного машинного обучения. Поскольку искусственный интеллект самообучается в процессе работы, значения некоторых групп параметров постоянно корректируются в случае получения правильных результатов. В целом, чем больше параметров содержится в модели искусственного интеллекта, тем выше ее показатель сложности и тем качественней и быстрее она выдает результаты. Однако, при увеличении сложности модели искусственного интеллекта также увеличивается время на ее разработку и тренировку, финансовые затраты и т.п.
Появлением системы WuDao 2.0 исследователи из академии BAAI, которым в их работе помогали коллеги из более чем 100 других научных учреждений, установили новый мировой рекорд в области сложности системы искусственного интеллекта. Предыдущий же рекорд был установлен в январе этого года системой Google Switch Transformer, которая оперировала 1.6 триллионами параметров. А еще раньше пальма первенства принадлежала системе OpenAI GPT-3, оперировавшей «всего» 175 миллиардами параметров.
Система WuDao 2.0 может работать с двумя языками, китайским и английским. Тренировка этой системы была выполнена путем изучения 4.9 терабайт текстовых данных и изображений, из которых 1.2 терабайта приходилось на тексты на английском и китайском языке. В настоящее время возможностями системы WuDao 2.0 будут пользоваться 22 организации, включая производителя смартфонов Xiaomi, службу доставки Meituan и др.
Источник:
