Байесовская оптимизация

• • Байесовская оптимизация** — это последовательная стратегия статистического анализа, предназначенная для глобальной оптимизации функций типа «чёрный ящик», не требующая предположений об их аналитической форме. Метод особенно эффективен для работы с функциями, вычисление которых требует значительных вычислительных ресурсов. С ростом популярности искусственного интеллекта в XXI веке алгоритмы байесовской оптимизации стали широко применяться в машинном обучении, в первую очередь для настройки гиперпараметров моделей.

1. 1. История

Термин «байесовская оптимизация» обычно связывают с именем литовского учёного Ионаса Моцкуса, который ввёл его в серии публикаций по глобальной оптимизации в 1970-х и 1980-х годах.

1. 1. 1. Ранние математические исследования (1960-е — 1980-е годы)

Истоки метода можно проследить до 1964 года, когда американский математик Гарольд Дж. Кушнер предложил новый подход к поиску максимума зашумлённой многомодальной функции. Хотя его работа напрямую не формулировала принципы байесовской оптимизации, она заложила важную теоретическую основу для её последующего развития.

К 1980-м годам сформировалась современная концепция метода. В 1978 году Ионас Моцкус в статье «Применение байесовских методов для поиска экстремума» рассмотрел использование байесовских методов для нахождения экстремальных значений функции в условиях неопределённости. В этой работе он впервые предложил **критерий ожидаемого улучшения** (Expected Improvement, EI), который стал одной из ключевых стратегий выбора точек для оценки в байесовской оптимизации. Этот критерий эффективно балансирует между исследованием неизученных областей пространства параметров и использованием уже полученных знаний (эксплуатацией). За вклад в создание этого принципа Ионас Моцкус признаётся основателем метода. Помимо ожидаемого улучшения, позже были разработаны и другие стратегии, такие как вероятность улучшения (Probability of Improvement) и метод верхней доверительной границы (Upper Confidence Bound).

1. 1. 1. Переход от теории к практике (с 1990-х годов)

В 1990-е годы байесовская оптимизация начала находить практическое применение. Значимым событием стала публикация 1998 года, где Дональд Р. Джонс и его коллеги представили статью «Эффективная глобальная оптимизация дорогостоящих функций чёрного ящика». В ней они детально описали использование гауссовских процессов в сочетании с критерием ожидаемого улучшения. Благодаря этой работе метод начал активно применяться в информатике и инженерных дисциплинах, хотя его распространение сдерживалось высокой вычислительной сложностью для технологий того времени.

В XXI веке, с бурным развитием искусственного интеллекта, байесовская оптимизация стала важным инструментом в машинном и глубоком обучении, особенно для автоматической настройки гиперпараметров. Крупные технологические компании, включая Google, Meta (Facebook) и OpenAI, интегрировали её в свои фреймворки. Однако метод сталкивается с вызовами: использование гауссовских процессов в качестве суррогатной модели при больших объёмах данных приводит к значительным вычислительным затратам, что ограничивает его применение в таких сложных областях, как разработка лекарств или медицинские исследования.

1. 1. Стратегия

Байесовская оптимизация решает задачи вида $\underset{x\in X}{\max }f(x)$, где $X$ — множество допустимых параметров $x$. Метод наиболее эффективен, когда размерность пространства $X$ не превышает 20 (то есть $X\subseteq {\mathbb{ℝ}}^d,d⩽20$), а проверка принадлежности точки множеству $X$ выполняется легко. Он особенно полезен, когда вычисление целевой функции $f(x)$ является дорогостоящим. Функция $f$ предполагается непрерывной, но её внутренняя структура неизвестна («чёрный ящик»), доступны только её значения, а производные не вычисляются.

Поскольку целевая функция неизвестна, байесовский подход трактует её как случайную и задаёт ей **априорное вероятностное распределение**, отражающее начальные предположения о её поведении. После получения новых значений функции (данных) это распределение обновляется, формируя **апостериорное распределение**. На его основе строится **функция выбора** (acquisition function), которая определяет следующую точку для оценки целевой функции, балансируя между исследованием новых областей и уточнением уже известных.

Для моделирования априорного и апостериорного распределений чаще всего используются **гауссовские процессы** (метод, также известный как кригинг). Альтернативный, менее затратный метод применяет **древовидный оценщик Парзена** для построения распределений для «удачных» и «неудачных» точек с последующей максимизацией ожидаемого улучшения.

Классическая байесовская оптимизация предполагает, что оценка функции в любой точке $x\in X$ выполняется легко. Задачи, нарушающие это предположение (например, при наличии шума, возможности параллельных вычислений, переменной стоимости оценки или необходимости учёта производных), относят к **экзотическим задачам байесовской оптимизации**.

1. 1. Функции выбора

Функция выбора — ключевой компонент, определяющий, какую точку исследовать следующей. Распространённые примеры включают:

• Вероятность улучшения (Probability of Improvement, PI)
• Ожидаемое улучшение (Expected Improvement, EI)
• Байесовские ожидаемые потери (Bayesian Expected Loss)
• Верхняя/нижняя доверительная граница (Upper/Lower Confidence Bound, UCB/LCB)

а также их комбинации. Все эти функции стремятся сбалансировать исследование (exploration) и эксплуатацию (exploitation), чтобы минимизировать общее количество дорогостоящих обращений к целевой функции.

1. 1. Методы решения

Максимизация функции выбора для определения следующей точки обычно выполняется либо путём дискретизации пространства параметров, либо с помощью вспомогательных методов оптимизации. Для этой цели применяются различные алгоритмы, такие как методы дихотомии, квазиньютоновские методы (например, алгоритм Бройдена — Флетчера — Гольдфарба — Шанно) или эволюционные стратегии.

1. 1. Приложения

Байесовская оптимизация применяется в широком спектре областей, включая:

• Обучение ранжированию
• Компьютерную графику и визуальный дизайн
• Робототехнику
• Настройку беспроводных сенсорных сетей
• Автоматическую настройку алгоритмов и автоматизированное машинное обучение (AutoML)
• Обучение с подкреплением и планирование
• Оптимизацию архитектур нейронных сетей в глубоком обучении
• Статический анализ программ
• Экспериментальную физику элементарных частиц
• Химию, материаловедение и разработку лекарств

Одним из примеров практического применения является **распознавание лиц**. Эффективность популярного метода извлечения признаков — гистограммы направленных градиентов (Histogram of Oriented Gradients, HOG) — сильно зависит от ручной настройки его параметров. Были предложены подходы, использующие байесовскую оптимизацию на основе древовидного оценщика Парзена для автоматического подбора параметров HOG и оптимального размера входных изображений. Этот метод может быть адаптирован и для других задач компьютерного зрения, способствуя развитию алгоритмов с параметрами, задаваемыми вручную.

1. 1. См. также

• Кригинг
• Глобальная оптимизация
• Оптимизация гиперпараметров
• Гауссовский процесс
• Эффективность по Парето
• Стохастическая оптимизация

1. 1. Примечания

1. 1. Литература

Ссылки

• «Новый метод нахождения максимальной точки произвольной многопиковой кривой в присутствии шума»
• принцип ожидаемого улучшения
• https://vivo.brown.edu/display/hkushner
• https://en.ktu.edu/people/jonas-mockus/
• https://scholar.google.com/citations?user=CZhZ4MYAAAAJ&hl=en
• https://github.com/AnotherSamWilson/ParBayesianOptimization
• https://arxiv.org/abs/1012.2599