Вопросы на собеседовании: ML System Design: NLP

Разработайте систему чат-бота, которая должна обрабатывать 1000 активных пользователей одновременно и отвечать на запросы за 2 секунды. Какую архитектуру вы бы предложили и какие технологии использовали бы?

Создайте систему для классификации документов, которая должна обрабатывать 1 миллион документов в неделю и иметь точность не менее 85%. Какие этапы вы включили бы в пайплайн и какие алгоритмы использовали?

Постройте систему для извлечения именованных сущностей (NER), которая должна работать с 10 000 текстов в день и иметь время ответа менее 1 секунды. Как вы обеспечите масштабируемость и надежность этой системы?

Разработайте систему поиска, которая должна поддерживать 500 QPS и обеспечивать как семантический, так и ключевой поиск. Какой подход вы выберете для интеграции этих двух типов поиска?

Создайте сервис для краткого изложения текстов, который должен обрабатывать 100 000 текстов в месяц и возвращать резюме длиной не более 150 слов. Какова будет ваша архитектура и технологии?

Постройте систему RAG (retrieval-augmented generation), которая должна обрабатывать 2000 пользовательских запросов в час и обеспечивать качество ответов не менее 90%. Как вы бы организовали хранилище данных и модели?

Разработайте систему для модерации контента, которая должна обрабатывать 1 миллион сообщений в день и иметь уровень ложных срабатываний менее 5%. Какие стратегии и алгоритмы вы бы применили?

Создайте систему для обслуживания больших языковых моделей (LLM), поддерживающую 100 QPS и имеющую время отклика не более 500 мс. Какие технологии и подходы вы бы использовали для достижения этих требований?

Разработайте архитектуру для системы NER, которая должна поддерживать 10 000 одновременных пользователей и обрабатывать 100 000 документов в день. Как вы справитесь с задержками и масштабируемостью?

Создайте систему для семантического поиска, которая должна обрабатывать 5 миллионов документов и обеспечивать поиск с задержкой менее 200 мс. Каковы ваши рекомендации по архитектуре и хранилищу данных?

Создайте систему, которая обрабатывает запросы к чат-боту с 10,000 активными пользователями одновременно. Учитывайте время отклика не более 300 мс и бюджет на инфраструктуру в 5,000 долларов в месяц. Какова будет ваша архитектура?

Вы должны построить систему для классификации документов с объемом данных 1 миллион документов и задержкой обработки не более 1 секунды. Какой подход вы выберете для обучения модели и какую архитектуру предложите?

Создайте систему для извлечения именованных сущностей из текстов с объемом данных 10,000 документов в день. Учитывайте необходимость обеспечивать точность не менее 85% и время обработки не более 200 мс на документ. Какие технологии вы используете?

Вы должны построить поисковую систему, которая обрабатывает 500 QPS пользователей и поддерживает как семантический, так и ключевой поиск. Как вы будете организовывать хранилище и индексацию данных, учитывая бюджет в 10,000 долларов в месяц?

Создайте систему резюмирования текста, которая обрабатывает 1,000 запросов в минуту с максимальной задержкой 500 мс. Какую архитектуру вы предложите для обеспечения качественного резюме?

Вы должны построить систему для обслуживания LLM, которая будет обслуживать 1,000 одновременных пользователей с задержкой не более 100 мс. Каковы будут ваши основные соображения по архитектуре и масштабированию?

Разработайте RAG-пipeline, который будет обрабатывать 200 QPS и обеспечивать точность запросов не менее 90%. Как вы будете организовывать компоненты и какие технологии будете использовать?

Создайте систему модерации контента для платформы с 5 миллионами пользователей, обеспечивая проверку контента с максимальным временем ответа 1 секунда и минимальной точностью 95%. Какие подходы и технологии вы примените?

Разработайте систему классификации документов, которая должна обрабатывать 100,000 документов в день и обеспечивать точность не менее 85%. Система должна быть спроектирована с учетом возможности масштабирования до 1,000,000 документов в день в будущем. Пожалуйста, обсудите архитектуру, подходы к обработке данных и выбор моделей.

Вы должны построить чат-бота, который будет обслуживать 10,000 активных пользователей одновременно с временем отклика менее 2 секунд для каждого запроса. Бот должен поддерживать как обсуждения на естественном языке, так и ответы на часто задаваемые вопросы. Пожалуйста, расскажите о необходимых компонентах системы, их взаимодействии и подходах к обработке запросов.