Data & Analytics

Data Science

Наука о данных — извлечение выводов и предсказаний из данных с помощью статистики, программирования и машинного обучения.

Что такое Data Science

Data Science (DS, наука о данных) — область на стыке трёх вещей: статистики, программирования и знания предметной области. Задача — не построить отчёт о прошлом, а ответить на вопрос, ответа на который в данных нет напрямую: какие клиенты уйдут в следующем месяце, сколько товара заказать, является ли транзакция мошеннической.

Сокращение DS в IT-контексте почти всегда означает именно Data Science, а специалиста называют дата-сайентистом. Само слово data — это просто «данные» по-английски; в терминах вроде Data Lake, Data Engineer, DataLens оно означает то же самое.

Разница с BI проходит по вопросу, на который отвечают. BI отвечает «что произошло» — точно и по факту. Data Science отвечает «что произойдёт» и «почему» — с вероятностью и погрешностью. Это разные инструменты и разные ожидания от результата.

Кто есть кто

Роли постоянно путают, хотя стек и цели у них расходятся:

Роль Отвечает за Основной инструмент
Аналитик (BI/Data Analyst) Что произошло, метрики, отчёты SQL, BI, Excel
Data Scientist Гипотезы, модели, прогнозы Python, pandas, scikit-learn
ML Engineer Модель в проде: сервинг, мониторинг Python, Docker, K8s
Data Engineer Чтобы данные были и были верными SQL, Spark, Airflow

В маленькой компании это один человек, в большой — четыре команды. Обычная ошибка найма — взять дата-сайентиста туда, где нет данных: до появления инженера данных он будет полгода чинить выгрузки вместо моделей.

Как выглядит проект

Постановка: какое решение будет принято по результату?
    ↓
Сбор данных (ETL, парсинг, логи)
    ↓
EDA: разведочный анализ, графики, поиск мусора
    ↓
Feature engineering ← здесь выигрывается качество
    ↓
Обучение модели, кросс-валидация
    ↓
Оценка на отложенной выборке
    ↓
Внедрение и мониторинг деградации

Два наблюдения из практики, ломающие ожидания новичков. Первое: большая часть времени уходит на сбор, чистку и подготовку данных, а не на модели — это скучная, но решающая часть работы. Второе: качество чаще растёт от лучших признаков и более чистых данных, чем от смены алгоритма. Хитрая модель на плохих данных проигрывает линейной регрессии на хороших.

Отдельная ловушка — утечка целевой переменной (data leakage): в признаки случайно попадает информация, недоступная на момент предсказания. Модель показывает 0.99 на валидации и разваливается в проде. Если метрика подозрительно хороша — ищите утечку, а не радуйтесь.

Стек

  • Python — язык по умолчанию; R остался в академической статистике.
  • pandas, Polars — работа с табличными данными.
  • NumPy, SciPy — численные методы и статистика.
  • scikit-learn — классика ML: регрессии, деревья, кластеризация.
  • XGBoost, LightGBM, CatBoost — градиентный бустинг; на табличных данных обычно обходит нейросети.
  • PyTorch — нейросети: тексты, картинки, звук.
  • JupyterLab — среда для исследования.
  • SQL — не опция: данные лежат в базе, и достать их надо самому.

Нужен ли GPU

Не всегда, и это важный практический момент. На табличных задачах — прогноз спроса, скоринг, отток — бустинг на CPU обучается за минуты, и GPU там почти не даёт выигрыша. Карты становятся необходимы, когда речь про нейросети: компьютерное зрение, NLP, дообучение LLM. Там разница между CPU и GPU — не проценты, а недели против часов.

Ориентиры по железу: RTX 4090 с 24 ГБ VRAM закрывает исследования и обучение моделей среднего размера; A100 или H100 с 80 ГБ нужны под большие модели и fine-tuningLLM.

Инфраструктура

Профиль нагрузки в DS рваный: неделя размышлений и чтения графиков, потом двое суток непрерывного обучения. Держать под это купленный сервер круглый год невыгодно — типичное решение — арендованный GPU-инстанс на время экспериментов, а для перебора гиперпараметров, который переживает потерю узла, — spot-инстансы.

Рабочий контур обычно выглядит так: JupyterLab в Docker-контейнере на GPU-машине, датасеты в object storage, чекпоинты — туда же. Ноутбук с моделью на локальном диске сервера — потерянная работа при первой же переустановке.

Связанные термины

  • Big Data — данные, на которых работает DS
  • BI-системы — соседняя дисциплина: факты вместо прогнозов
  • датасет — основной материал работы
  • Python — язык по умолчанию в Data Science
  • JupyterLab — среда для исследований
  • GPU — когда нужен, а когда нет

Готовы запустить GPU-задачу?

Запустить GPU-сервер