Архитектура динамической децентрализованной большой языковой модели на основе блокчейна
-
3 курс
МАТЕМАТИКА И КОМПЬЮТЕРНЫЕ НАУКИ
-
Олисеенко Валерий Дмитриевич
Научный руководитель
-
Олисеенко Валерий Дмитриевич
Куратор
"В рамках учебной практики моя задача заключалась в создании архитектуры децентрализованной динамической большой языковых моделей (LLM) с использованием блокчейн-технологий, которая может помочь с решением современных проблем больших языковых моделей, включая значительные вычислительные затраты для тренировки и инференса моделей, масштабируемость моделей, также проблемы централизованных LLM и конфиденциальности, предлагая подход как для частичного улучшения действующих LLM-моделей, так и для моделирования новых, основываясь на механизмах консенсусов и блокчейне. Мой вклад включал в себя проектирование архитектуры, которая эффективно использует вычислительные мощности узлов, выполняющих тренировки и обновления модели. На основе рассмотренных современных подходов, позволяющих смоделировать задуманный подход, продуманы методы сохранения приватности данных и дообучения базовой модели динамически при задействовании консенсусных механизмов стимулирования пользователей, предоставляющих данные и мощности для условной автономности дообучения модели в соответствии с равноправным вкладом в комплексный процесс обновление модели, позволяющим использовать языковые модели."
Мохаммад Хуссейн