OTUS - LLM Driven Development. Разработка и эксплуатация AI (2025)

01-Базовые-принципы-трансформеров-_от-RNN-к-Self-Attention_.mp4

01 Базовые принципы трансформеров (от RNN к Self-Attention)/01-Базовые-принципы-трансформеров-_от-RNN-к-Self-Attention_.mp4

LLm11.zip

01 Базовые принципы трансформеров (от RNN к Self-Attention)/LLm11.zip

ссылки.txt

01 Базовые принципы трансформеров (от RNN к Self-Attention)/ссылки.txt

02-Token-Embedding_-позиционные-вектора-и-QKV.mp4

02 Token Embedding, позиционные вектора и QKV/02-Token-Embedding_-позиционные-вектора-и-QKV.mp4

LLM12.ipynb

02 Token Embedding, позиционные вектора и QKV/LLM12.ipynb

03-Визуализация-Attention-и-эволюция-_BERT_-GPT_-T5_.mp4

03 Визуализация Attention и эволюция (BERT, GPT, T5)/03-Визуализация-Attention-и-эволюция-_BERT_-GPT_-T5_.mp4

3. Домашнее задание.pdf

03 Визуализация Attention и эволюция (BERT, GPT, T5)/3. Домашнее задание.pdf

hw1_attention_visualization.ipynb

03 Визуализация Attention и эволюция (BERT, GPT, T5)/hw1_attention_visualization.ipynb

LLM13.ipynb

03 Визуализация Attention и эволюция (BERT, GPT, T5)/LLM13.ipynb

ссылки.txt

03 Визуализация Attention и эволюция (BERT, GPT, T5)/ссылки.txt

04. Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek).pdf

04 Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek)/04. Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek).pdf

04-Эволюция-AI-и-фундаментальные-модели-_ChatGPT_-Mistral_-Llama_-Deepseek_.mp4

04 Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek)/04-Эволюция-AI-и-фундаментальные-модели-_ChatGPT_-Mistral_-Llama_-Deepseek_.mp4

ссылки.txt

04 Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek)/ссылки.txt

05. Q and A-сессия.pdf

05 Q and A-сессия/05. Q and A-сессия.pdf

05-Q-and-A-сессия.mp4

05 Q and A-сессия/05-Q-and-A-сессия.mp4

06-Подходы-к-локализации-_SberGPT_-YandexLLM_-ruGPT-3_.mp4

06 Подходы к локализации (SberGPT, YandexLLM, ruGPT-3)/06-Подходы-к-локализации-_SberGPT_-YandexLLM_-ruGPT-3_.mp4

6. Подходы к локализации (SberGPT, YandexLLM, ruGPT-3).pdf

06 Подходы к локализации (SberGPT, YandexLLM, ruGPT-3)/6. Подходы к локализации (SberGPT, YandexLLM, ruGPT-3).pdf

LLM_localisation.ipynb

06 Подходы к локализации (SberGPT, YandexLLM, ruGPT-3)/LLM_localisation.ipynb

07-Работа-с-данными-в-Python-и-подготовка-данных-для-LLM.mp4

07 Работа с данными в Python и подготовка данных для LLM/07-Работа-с-данными-в-Python-и-подготовка-данных-для-LLM.mp4

7.1 Работа с данными в Python и подготовка данных для LLM.pdf

07 Работа с данными в Python и подготовка данных для LLM/7.1 Работа с данными в Python и подготовка данных для LLM.pdf

7.2 Домашнее задание.pdf

07 Работа с данными в Python и подготовка данных для LLM/7.2 Домашнее задание.pdf

hw2_student.ipynb

07 Работа с данными в Python и подготовка данных для LLM/hw2_student.ipynb

hw2_student_version.ipynb

07 Работа с данными в Python и подготовка данных для LLM/hw2_student_version.ipynb

numpy.ipynb

07 Работа с данными в Python и подготовка данных для LLM/numpy.ipynb

pandas.ipynb

07 Работа с данными в Python и подготовка данных для LLM/pandas.ipynb

parsing.ipynb

07 Работа с данными в Python и подготовка данных для LLM/parsing.ipynb

template.ipynb

07 Работа с данными в Python и подготовка данных для LLM/template.ipynb

08-Принципы-LLMOps_-автоматизация-развертывания.mp4

08 Принципы LLMOps, автоматизация развертывания/08-Принципы-LLMOps_-автоматизация-развертывания.mp4

8. Принципы LLMOps, автоматизация развертывания.pdf

08 Принципы LLMOps, автоматизация развертывания/8. Принципы LLMOps, автоматизация развертывания.pdf

Dockerfile

08 Принципы LLMOps, автоматизация развертывания/Dockerfile

install.sh

08 Принципы LLMOps, автоматизация развертывания/install.sh

09-Оптимизация-и-поддержка-LLM.mp4

09 Оптимизация и поддержка LLM/09-Оптимизация-и-поддержка-LLM.mp4

9.1 Оптимизация и поддержка LLM.pdf

09 Оптимизация и поддержка LLM/9.1 Оптимизация и поддержка LLM.pdf

9.2 A Survey of Efficient LLM Inference Serving.pdf

09 Оптимизация и поддержка LLM/9.2 A Survey of Efficient LLM Inference Serving.pdf

llm_ops_workshop.zip

09 Оптимизация и поддержка LLM/llm_ops_workshop.zip

10.1 CICD для LLM и инструменты (Triton, MLflow, vLLM).pdf

10 CICD для LLM и инструменты (Triton, MLflow, vLLM)/10.1 CICD для LLM и инструменты (Triton, MLflow, vLLM).pdf

10.2 Домашнее задание.pdf

10 CICD для LLM и инструменты (Triton, MLflow, vLLM)/10.2 Домашнее задание.pdf

10-CICD-для-LLM-и-инструменты-_Triton_-MLflow_-vLLM_.mp4

10 CICD для LLM и инструменты (Triton, MLflow, vLLM)/10-CICD-для-LLM-и-инструменты-_Triton_-MLflow_-vLLM_.mp4

llm-ops-workshop-main.zip

10 CICD для LLM и инструменты (Triton, MLflow, vLLM)/llm-ops-workshop-main.zip

vllm.ipynb

10 CICD для LLM и инструменты (Triton, MLflow, vLLM)/vllm.ipynb

ДЗ.txt

10 CICD для LLM и инструменты (Triton, MLflow, vLLM)/ДЗ.txt

11.1 Специализированные бенчмарки и метрики (GLUE, SQuAD и др.).pdf

11 Специализированные бенчмарки и метрики (GLUE, SQuAD и др.)/11.1 Специализированные бенчмарки и метрики (GLUE, SQuAD и др.).pdf

11.2 Домашнее задание.pdf

11 Специализированные бенчмарки и метрики (GLUE, SQuAD и др.)/11.2 Домашнее задание.pdf

11-Специализированные-бенчмарки-и-метрики-_GLUE_-SQuAD-и-др._.mp4

11 Специализированные бенчмарки и метрики (GLUE, SQuAD и др.)/11-Специализированные-бенчмарки-и-метрики-_GLUE_-SQuAD-и-др._.mp4

Metrics.ipynb

11 Специализированные бенчмарки и метрики (GLUE, SQuAD и др.)/Metrics.ipynb

ссылки.txt

11 Специализированные бенчмарки и метрики (GLUE, SQuAD и др.)/ссылки.txt

12. Токенизация, контекстные окна, test time scaling.pdf

12 Токенизация, контекстные окна, test time scaling/12. Токенизация, контекстные окна, test time scaling.pdf

12-Токенизация_-контекстные-окна_-test-time-scaling.mp4

12 Токенизация, контекстные окна, test time scaling/12-Токенизация_-контекстные-окна_-test-time-scaling.mp4

tokenizers.ipynb

12 Токенизация, контекстные окна, test time scaling/tokenizers.ipynb

13.1 Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack).pdf

13 Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack)/13.1 Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack).pdf

13.2 Домашнее задание.pdf

13 Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack)/13.2 Домашнее задание.pdf

13-Работа-с-фреймворками-и-агентами-_LangChain_-LlamaIndex_-Ollama_-Haystack_.mp4

13 Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack)/13-Работа-с-фреймворками-и-агентами-_LangChain_-LlamaIndex_-Ollama_-Haystack_.mp4

Langchain.ipynb

13 Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack)/Langchain.ipynb

main.py

13 Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack)/main.py

14. Мониторинг моделей с LangChain Observability, LangSmith, Langfuse.pdf

14 Мониторинг моделей с LangChain Observability, LangSmith, Langfuse/14. Мониторинг моделей с LangChain Observability, LangSmith, Langfuse.pdf

14-Мониторинг-моделей-с-LangChain-Observability_-LangSmith_-Langfuse.mp4

14 Мониторинг моделей с LangChain Observability, LangSmith, Langfuse/14-Мониторинг-моделей-с-LangChain-Observability_-LangSmith_-Langfuse.mp4

Archive.zip

14 Мониторинг моделей с LangChain Observability, LangSmith, Langfuse/Archive.zip

monitorings.ipynb

14 Мониторинг моделей с LangChain Observability, LangSmith, Langfuse/monitorings.ipynb

15.1 Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse).pdf

15 Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse)/15.1 Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse).pdf

15.2 Домашнее задание.pdf

15 Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse)/15.2 Домашнее задание.pdf

15-Векторные-БД-и-Retrieval-Augmented-Generation-_Pinecone_-Chroma_-Milvus_-Clickhouse_.mp4

15 Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse)/15-Векторные-БД-и-Retrieval-Augmented-Generation-_Pinecone_-Chroma_-Milvus_-Clickhouse_.mp4

Archive.zip

15 Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse)/Archive.zip

vectors.ipynb

15 Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse)/vectors.ipynb

16. Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов).pdf

16 Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов)/16. Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов).pdf

16-Промпт-инжиниринг-_Chain-of-thought_-защита-от-некорректных-промптов_.mp4

16 Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов)/16-Промпт-инжиниринг-_Chain-of-thought_-защита-от-некорректных-промптов_.mp4

detailed_llm_security_guide.md

16 Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов)/detailed_llm_security_guide.md

Prompt_engineering.ipynb

16 Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов)/Prompt_engineering.ipynb

17.1 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM.pdf

17 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM/17.1 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM.pdf

17.2 Домашнее задание.pdf

17 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM/17.2 Домашнее задание.pdf

17-Fine-tuning-_LoRA_-PEFT_-и-вызов-внешних-функций-из-LLM.mp4

17 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM/17-Fine-tuning-_LoRA_-PEFT_-и-вызов-внешних-функций-из-LLM.mp4

hf_prompt_tuning.ipynb

17 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM/hf_prompt_tuning.ipynb

LoRA_summarization_public.ipynb

17 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM/LoRA_summarization_public.ipynb

ссылки.txt

17 Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM/ссылки.txt

18. Локальное использование LLM (CPU, GPU), оптимизация.pdf

18 Локальное использование LLM (CPU, GPU), оптимизация/18. Локальное использование LLM (CPU, GPU), оптимизация.pdf

18-Локальное-использование-LLM-_CPU_-GPU__-оптимизация.mp4

18 Локальное использование LLM (CPU, GPU), оптимизация/18-Локальное-использование-LLM-_CPU_-GPU__-оптимизация.mp4

weight_reducing_for_llm.ipynb

18 Локальное использование LLM (CPU, GPU), оптимизация/weight_reducing_for_llm.ipynb

1 NLP_NER_lib_ru_eng.ipynb

19 Извлечение данных из текста (NER, IE), разработка приложений/1 NLP_NER_lib_ru_eng.ipynb

2 NLP_NER_BERT_for_sequence_labeling.ipynb

19 Извлечение данных из текста (NER, IE), разработка приложений/2 NLP_NER_BERT_for_sequence_labeling.ipynb

19.1 Извлечение данных из текста (NER, IE), разработка приложений.pdf

19 Извлечение данных из текста (NER, IE), разработка приложений/19.1 Извлечение данных из текста (NER, IE), разработка приложений.pdf

19.2 Домашнее задание.pdf

19 Извлечение данных из текста (NER, IE), разработка приложений/19.2 Домашнее задание.pdf

19-Извлечение-данных-из-текста-_NER_-IE__-разработка-приложений.mp4

19 Извлечение данных из текста (NER, IE), разработка приложений/19-Извлечение-данных-из-текста-_NER_-IE__-разработка-приложений.mp4

20.1 Автоматизация тестирования LLM, CICD жизненного цикла.pdf

20 Автоматизация тестирования LLM, CICD жизненного цикла/20.1 Автоматизация тестирования LLM, CICD жизненного цикла.pdf

20.2 Домашнее задание.pdf

20 Автоматизация тестирования LLM, CICD жизненного цикла/20.2 Домашнее задание.pdf

20-Автоматизация-тестирования-LLM_-CICD-жизненного-цикла.mp4

20 Автоматизация тестирования LLM, CICD жизненного цикла/20-Автоматизация-тестирования-LLM_-CICD-жизненного-цикла.mp4

ссылки.txt

20 Автоматизация тестирования LLM, CICD жизненного цикла/ссылки.txt

21. Основы RAG, онтологические графы, LangGraph.pdf

21 Основы RAG, онтологические графы, LangGraph/21. Основы RAG, онтологические графы, LangGraph.pdf

21-Основы-RAG_-онтологические-графы_-LangGraph.mp4

21 Основы RAG, онтологические графы, LangGraph/21-Основы-RAG_-онтологические-графы_-LangGraph.mp4

langgraph_demo.py

21 Основы RAG, онтологические графы, LangGraph/langgraph_demo.py

RAG_basic.py

21 Основы RAG, онтологические графы, LangGraph/RAG_basic.py

RAG_graph.py

21 Основы RAG, онтологические графы, LangGraph/RAG_graph.py

utils.py

21 Основы RAG, онтологические графы, LangGraph/utils.py

22. Проектирование когнитивных архитектур (QA, чат-боты, документооборот).pdf

22 Проектирование когнитивных архитектур (QA, чат-боты, документооборот)/22. Проектирование когнитивных архитектур (QA, чат-боты, документооборот).pdf

22-Проектирование-когнитивных-архитектур-_QA_-чат-боты_-документооборот_.mp4

22 Проектирование когнитивных архитектур (QA, чат-боты, документооборот)/22-Проектирование-когнитивных-архитектур-_QA_-чат-боты_-документооборот_.mp4

LLM_22_LMV_chat_bot.ipynb

22 Проектирование когнитивных архитектур (QA, чат-боты, документооборот)/LLM_22_LMV_chat_bot.ipynb

LLM_22_LMV_huggingface.ipynb

22 Проектирование когнитивных архитектур (QA, чат-боты, документооборот)/LLM_22_LMV_huggingface.ipynb

23. Архитектуры AI-приложений, профилирование inference.pdf

23 Архитектуры AI-приложений, профилирование inference/23. Архитектуры AI-приложений, профилирование inference.pdf

23-Архитектуры-AI-приложений_-профилирование-inference.mp4

23 Архитектуры AI-приложений, профилирование inference/23-Архитектуры-AI-приложений_-профилирование-inference.mp4

24. Тестирование AI-приложений (мониторинг, оптимизация задержек).pdf

24 Тестирование AI-приложений (мониторинг, оптимизация задержек)/24. Тестирование AI-приложений (мониторинг, оптимизация задержек).pdf

24-Тестирование-AI-приложений-_мониторинг_-оптимизация-задержек_.mp4

24 Тестирование AI-приложений (мониторинг, оптимизация задержек)/24-Тестирование-AI-приложений-_мониторинг_-оптимизация-задержек_.mp4

ссылки.txt

24 Тестирование AI-приложений (мониторинг, оптимизация задержек)/ссылки.txt

25. Сжатие моделей квантование (GGUF, AWQ), дистилляция, pruning.pdf

25 Сжатие моделей квантование (GGUF, AWQ), дистилляция, pruning/25. Сжатие моделей квантование (GGUF, AWQ), дистилляция, pruning.pdf

25-Сжатие-моделей-квантование-_GGUF_-AWQ__-дистилляция_-pruning.mp4

25 Сжатие моделей квантование (GGUF, AWQ), дистилляция, pruning/25-Сжатие-моделей-квантование-_GGUF_-AWQ__-дистилляция_-pruning.mp4

ссылки.txt

25 Сжатие моделей квантование (GGUF, AWQ), дистилляция, pruning/ссылки.txt

26. Домашнее задание.pdf

26 Семантический поиск и мультимодальность (текст и изображение, аудио)/26. Домашнее задание.pdf

26-Семантический-поиск-и-мультимодальность-_текст-и-изображение_-аудио_.mp4

26 Семантический поиск и мультимодальность (текст и изображение, аудио)/26-Семантический-поиск-и-мультимодальность-_текст-и-изображение_-аудио_.mp4

test_gpt.ipynb

26 Семантический поиск и мультимодальность (текст и изображение, аудио)/test_gpt.ipynb

Семантический_поиск_и_мультимодальность.pptx

26 Семантический поиск и мультимодальность (текст и изображение, аудио)/Семантический_поиск_и_мультимодальность.pptx

27. Продвинутое обучение (contrastive fine-tuning, in-context learning), инте.pdf

27 Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME)/27. Продвинутое обучение (contrastive fine-tuning, in-context learning), инте.pdf

27-Продвинутое-обучение-_contrastive-fine-tuning_-in-context-learning__-инте.mp4

27 Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME)/27-Продвинутое-обучение-_contrastive-fine-tuning_-in-context-learning__-инте.mp4

Contrastive_fine_tuning_TinyLlama.ipynb

27 Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME)/Contrastive_fine_tuning_TinyLlama.ipynb

Shap_and_LIME_for_BERT.ipynb

27 Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME)/Shap_and_LIME_for_BERT.ipynb

Shap_and_LIME_TinyLlama.ipynb

27 Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME)/Shap_and_LIME_TinyLlama.ipynb

28. Домашнее задание.pdf

28 Выбор темы и организация проектной работы/28. Домашнее задание.pdf

28-Выбор-темы-и-организация-проектной-работы.mp4

28 Выбор темы и организация проектной работы/28-Выбор-темы-и-организация-проектной-работы.mp4

ссылки.txt

28 Выбор темы и организация проектной работы/ссылки.txt

Шаблон защиты проектов для студентов.pptx

28 Выбор темы и организация проектной работы/Шаблон защиты проектов для студентов.pptx

29-Консультация-по-проектам-и-домашним-заданиям.mp4

29 Консультация по проектам и домашним заданиям/29-Консультация-по-проектам-и-домашним-заданиям.mp4

30-Защита-проектных-работ.mp4

30 Защита проектных работ/30-Защита-проектных-работ.mp4

31-Подведение-итогов-курса.mp4

31 Подведение итогов курса/31-Подведение-итогов-курса.mp4