Лаборатория «Халык Академия»

Паспорт лаборатории · 13.10.2026

Факультет

Факультет информационных технологий и искусственного интеллекта

Адрес места осуществления деятельности

КазНУ, аль-Фараби 71/23, Желтый зал 2 этаж, 10б-3

Виды испытаний / направления деятельности

В рамках программы открывшейся лаборатории для студентов проходят лекции банковских экспертов, дни открытых дверей, а также курсы по банковским специальностям, разработанные с учетом современных требований индустрии. Кроме того, в рамках академии планируется развитие научных исследований и технологических разработок (R&D). Это позволяет студентам и преподавателям работать над актуальными проектами, способствующими развитию инноваций в финансовой сфере. В рамках проекта AI-QazMedia проводится комплекс исследований и испытаний, направленных на эффективную адаптацию больших языковых моделей (LLM) для обработки казахскоязычных медиа-данных. Основной целью является разработка ресурсоэффективного и высокопроизводительного многофункционального ассистента, способного генерировать структурированные ответы. В ходе исследования были выявлены ключевые проблемы, включая высокие требования к вычислительным ресурсам (модели размером 7B–70B параметров), дефицит качественных данных на казахском языке и высокую стоимость развертывания. Для их решения применяются методы квантования (quantization), дистилляции знаний (knowledge distillation), а также подход Self-Instruct для генерации синтетических обучающих данных. Оценка эффективности системы осуществляется посредством сравнительного тестирования различных методов квантования. В частности, метод AWQ 4-bit показал наилучшие результаты, обеспечив ускорение работы модели примерно в 3.4 раза и снижение потребления памяти до 66% при минимальной потере точности (на уровне 1–5%). Качество модели также оценивается на статических и динамических наборах данных. Результаты показывают, что при использовании динамических датасетов с гибкой структурой таблиц модель демонстрирует более низкое значение функции потерь и лучшее понимание семантики, в отличие от простого запоминания шаблонов. Функциональное тестирование включает проверку способности модели выполнять суммаризацию (Summary), извлечение ключевых выводов (Key Findings) и представление информации в виде таблиц (Table Response). Результаты испытаний подтверждают, что модель способна эффективно обрабатывать большие объемы текста (свыше 1500 токенов) и генерировать логически связные и структурированные ответы за короткое время. Дополнительно проводятся испытания производительности, включающие анализ задержек (latency), скорости генерации (tokens/sec) и использования оперативной памяти (RAM), что позволяет объективно оценить влияние применяемых методов оптимизации.