Вопросы для подготовки к интервью

Как определить, является ли подход правильным, если терминология не устоялась?

Можно ли подключить ChatGPT к вашей инфраструктуре?

Как бы вы предложили решить эту проблему?

Расскажи что-нибудь про архитектуру Transformer

Отличается ли сложность attention на инференсе и на обучении у decoder?

Что такое key-value кеширование в трансформерах?

Почему нельзя просто на Bare Metal запустить приложение?

Зачем вообще VLM нужен, если есть Generate с Transformers?

Про Flash Attention, может быть, слышал?

Какие реализации бустинга существуют?

А можешь рассказать, чем они отличаются друг от друга?

Какие есть стратегии валидации?

А может ли быть такое, что с течением времени что-то меняется?

Как правильно разделить данные на Train и Test?

Что такое Bagging?

Расскажите про Random Forest.

Во сколько раз в идеальном случае уменьшится variance?

Как работает оптимизатор RMSProp?

Какое минимальное количество видеопамяти понадобится для обучения?

Какие методы регуляризации в нейронках помнишь?