Что такое контролируемое обучение (Supervised Learning, SL) в одной статье?

Определение и основные идеи контролируемого обучения

Контролируемое обучение - один из наиболее распространенных и фундаментальных подходов к машинному обучению, суть которого заключается в том, чтобы научить компьютерную модель делать предсказания или суждения на основе имеющегося набора данных с "правильными ответами". Представьте себе машинное обучение под наблюдением, как ученик учится под руководством учителя. Учитель предоставляет большое количество задач (данных) и соответствующих стандартных ответов (меток), а ученик постепенно понимает и осваивает шаблон (модель) решения задачи путем многократной практики и сравнения ответов. Когда ученик сталкивается с новой, никогда ранее не встречавшейся проблемой, он может использовать изученные шаблоны, чтобы дать максимально правильный ответ (предсказание). В техническом контексте эти "упражнения" называются характеристиками, которые описывают аспекты вещи, например рост, вес и цвет шерсти животного при его оценке. Стандартный ответ" называется меткой - это результат, который мы хотим предсказать, например "кошка" или "собака". Компьютерная модель анализирует соответствие между большим количеством "признаков" и "меток" и обучается сложной математической функции (модели), которая сопоставляет входные признаки с правильными метками.

Конечная цель контролируемого обучения заключается в том, чтобы модели делали высокоточные прогнозы, несмотря на то, что они сталкиваются с совершенно новыми, немаркированными данными. Этот процесс воплощает в себе основную способность ИИ изучать закономерности на основе данных и обобщать их.

Два основных типа задач для контролируемого обучения

• Классификация задач: Задачи классификации в контролируемом обучении требуют, чтобы модель предсказывала метки дискретных категорий, как в вопросах множественного выбора с ограниченным количеством вариантов "или-или". Суть таких задач заключается в классификации входных данных по заранее определенным категориям. В качестве примера можно привести определение того, является ли электронное письмо спамом или нормальным, или определение вида животных на фотографии. Результатом решения задачи классификации является качественный вывод, и распространенными приложениями являются диагностика заболеваний, распознавание изображений и анализ настроений.
• Миссия возвращенияЗадачи регрессии требуют предсказания непрерывных числовых результатов, подобно заданию вопроса "заполни пустое место", где ответом является определенное число. Этот тип задач связан с количественным прогнозированием и требует, чтобы модель выдавала точные числовые результаты. Например, для предсказания цены продажи дома или цены акции требуется задать конкретное число. На выходе регрессионных задач получается количественный результат, который широко используется в таких областях, как прогнозирование продаж, оценка цен и анализ тенденций.
• Различие мандатов: Фундаментальное различие между задачами классификации и регрессии заключается в различии характера выходных данных: классификация выводит качественные метки, а регрессия - количественные значения. Это различие определяет выбор метрик и алгоритмов оценки. Для задач классификации обычно используются такие метрики, как точность и прецизионность, а для задач регрессии - такие метрики, как средняя квадратичная ошибка и средняя абсолютная ошибка.
• Выбор задачи: Выбор того, какую задачу использовать, полностью зависит от того, что требуется в действительности - категории или конкретные значения. Характер бизнес-задачи определяет, следует ли использовать методы классификации или регрессии. Понимание разницы между этими двумя типами задач помогает нам лучше понять сценарии применения и ограничения контролируемого обучения.
• практическое применение: На практике иногда техническими средствами можно преобразовать задачи регрессии в задачи классификации или наоборот. Например, прогнозирование оценок пользователей может быть использовано как в качестве регрессионной задачи (прогнозирование конкретных оценок), так и в качестве классификационной задачи (прогнозирование положительных или отрицательных оценок). Такая гибкость расширяет спектр применения контролируемого обучения.

Полный рабочий процесс для контролируемого обучения

• Сбор данных: Первым шагом в процессе контролируемого обучения является сбор большого количества помеченных исходных данных. Эти данные должны быть достаточно репрезентативными и разнообразными, чтобы охватить широкий спектр ситуаций в реальных сценариях применения. Качество и количество данных напрямую влияет на производительность конечной модели.
• Предварительная обработка данных: Необработанные данные подвергаются предварительной обработке, такой как очистка, преобразование и стандартизация. Этот этап включает в себя работу с недостающими значениями, исправление ошибочных данных и унификацию форматов данных. Качество предварительной обработки напрямую влияет на эффект последующего обучения модели.
• разработка функций: На этом этапе исходные данные преобразуются в формат, понятный модели, и включают в себя работу по отбору признаков, извлечению признаков и построению признаков. Грамотное построение признаков может значительно улучшить работу модели, иногда даже больше, чем выбор модели.
• Выбор модели: Выберите подходящую модель алгоритма в соответствии с характеристиками задачи и особенностями данных. Обычно используются такие алгоритмы контролируемого обучения, как деревья решений, машины векторов поддержки, нейронные сети и так далее. Различные модели имеют свои сценарии применения, преимущества и недостатки.
• обучение модели: Обучающие данные используются для настройки параметров модели с помощью алгоритма оптимизации с целью минимизации ошибки прогнозирования. Процесс обучения требует определения соответствующих гиперпараметров и контроля эффекта обучения с помощью валидационных наборов для предотвращения чрезмерной подгонки.
• оценка моделирования: Оценка производительности модели с помощью независимых тестовых данных, чтобы убедиться, что она соответствует практическим требованиям. Метрики оценки выбираются в зависимости от типа задачи: точность, отзыв и т. д. обычно используются для задач классификации, а средняя квадратичная ошибка, коэффициент детерминации и т. д. - для задач регрессии.
• Развертывание модели: Интеграция обученных моделей в реальные приложения для предоставления услуг прогнозирования. При развертывании необходимо учитывать практические ограничения, такие как реальное время, масштабируемость и потребление ресурсов.
• непрерывный мониторинг: После запуска модели в работу необходимо постоянно следить за ее производительностью и периодически переобучать ее на новых данных, чтобы учесть изменения в распределении данных. Эта процедура гарантирует, что модель сможет поддерживать хорошую производительность в течение долгого времени.

Важнейшая роль данных в контролируемом обучении

Данные являются краеугольным камнем контролируемого обучения, количество и качество данных напрямую определяет успех или неудачу модели, в индустрии часто говорят, что "мусор внутрь, мусор наружу", это отражается и здесь.

• Важность размера данныхКак правило, чем больше данных, тем более сложные и точные паттерны может выучить модель, и тем выше ее обобщенность (способность работать с новыми образцами). Сложные модели, такие как глубокое обучение, требуют огромных объемов данных, чтобы быть мощными.
• Решающее влияние качества данныхЕсли в обучающих данных много неверно подобранных или зашумленных данных, модель будет учиться неверным шаблонам. Классический пример: если многие фотографии "волков" в наборе данных имеют снежный фон, а многие фотографии "собак" - травянистый фон, модель может ошибочно научиться различать волков и собак по "снегу" и "траве", а не по собственным характеристикам животных. Модель может ошибочно научиться различать волков и собак по "снегу" и "траве", а не по характеристикам самих животных.
• Огромные затраты на маркировку данных: Получение данных само по себе не представляет сложности, но их точная "маркировка" требует больших затрат труда и времени. Для маркировки тысяч медицинских изображений требуются специалисты-радиологи, а для маркировки речевых данных - дословная транскрипция. Эти затраты являются основным "узким местом" для многих проектов контролируемого обучения.
• Соответствие характеристик меткам: Характеристики, предоставляемые модели, должны быть практически релевантны меткам, которые необходимо предсказать. Выбор значимых признаков требует знаний экспертов в данной области.

Общие проблемы и вопросы, с которыми сталкивается контролируемое обучение

Практикуя контролируемое обучение, исследователи и инженеры должны постоянно бороться с несколькими основными проблемами.

• оверфиттинг: Это одна из самых распространенных и сложных проблем в контролируемом обучении. Она относится к модели, которая слишком хорошо работает на обучающих данных, переучивая детали и шумы в обучающих данных до такой степени, что воспринимает их как универсальный закон, что приводит к резкому снижению эффективности прогнозирования на новых данных. Это похоже на студента, который выучил ответы на все упражнения наизусть, но совершенно не понимает принципов и не знает, что делать, когда вопросы на экзамене немного меняются.
• плохая посадка: В отличие от чрезмерной подгонки, недостаточная подгонка - это когда модель слишком проста и не может отразить основные закономерности и тенденции, заложенные в данных. Модель с заниженной подгонкой плохо работает как на обучающих, так и на тестовых данных. Это похоже на то, как если бы студент, не освоивший даже самые базовые знания, совершал бы ошибки как в исходных, так и в новых задачах.
• Компромисс между смещением и дисперсией: За чрезмерной и недостаточной подгонкой стоит хорошо известный в машинном обучении компромисс между смещением и дисперсией. Простые модели имеют высокую погрешность (склонны к недооценке) и низкую дисперсию; сложные модели имеют высокую дисперсию (склонны к переоценке) и низкую погрешность. Идеальная цель - найти модель, которая "как раз подходит" и уравновешивает эти два параметра.
• размерная катастрофаКогда число признаков в данных очень велико (т. е. высокая размерность), данные становятся чрезвычайно разреженными, и для эффективного охвата пространства признаков модели требуется экспоненциально растущий размер выборки. Это не только требует больших вычислительных затрат, но и с большей вероятностью приведет к чрезмерной подгонке. Работа с высокоразмерными данными является серьезной проблемой для контролируемого обучения.
• Дисбаланс данных: Во многих реальных задачах количество образцов в разных категориях сильно варьируется. Например, при обнаружении мошенничества мошеннические транзакции могут составлять лишь 1 из 10 000 всех транзакций. Если обучать модель непосредственно на исходных данных, она может просто научиться всегда предсказывать "не мошенническую" и достичь точности 99,99%, но это совершенно бессмысленно. Работа с несбалансированными наборами данных требует особых навыков.

Примеры классических алгоритмов для контролируемого обучения

Исследователи разработали множество алгоритмов контролируемого обучения, каждый из которых имеет свои достоинства и подходит для различных сценариев.

• Линейная регрессия и логистическая регрессия: Самая базовая и интуитивно понятная модель. Линейная регрессия используется для задач регрессии, где она пытается найти прямую линию (или гиперплоскость), которая наилучшим образом соответствует точкам данных. Логистическая регрессия, несмотря на свое название, на самом деле является отличным инструментом для решения задач бинарной классификации, отображая линейный вывод на значение вероятности между 0 и 1 с помощью S-образной функции.
• дерево решений: Модель с древовидной структурой, имитирующая процесс принятия решений человеком. Серия вопросов "Что, если...? Тогда..." Данные фильтруются через серию вопросов "Если...", чтобы прийти к заключению (узел листа). Деревья решений очень интуитивны и легко интерпретируются, например, "Одобрить кредит, если вы старше 30 лет и имеете более 500 000 долларов сбережений".
• машина опорных векторов: Мощный алгоритм классификации, основная идея которого заключается в нахождении максимально разнесенной гиперплоскости для классификации различных классов данных. Эта гиперплоскость действует как широчайшая "зона изоляции", которая наилучшим образом разделяет два класса точек данных, в результате чего получается модель, которая является наиболее обобщенной и более устойчивой к невидимым данным.
• Алгоритм K-Nearest Neighbour: Простой, но эффективный алгоритм "ленивого обучения". Он не занимается активным абстрагированием данных, а просто запоминает все обучающие выборки. Когда нужно предсказать новый образец, он находит K ближайших "соседей" нового образца в пространстве признаков, а затем предсказывает метку нового образца на основе меток этих K соседей (либо путем голосования, либо усреднением).
• Простой байесовский (математика): Простой вероятностный классификатор, основанный на теореме Байеса. Простой Байес имеет "простое" предположение: все признаки независимы друг от друга. Хотя это предположение редко бывает верным в реальности, простой Байес очень хорошо работает на практике, особенно в области классификации текстов (например, фильтрации спама), и очень быстро вычисляется.
• Нейронные сети и глубокое обучение: Сложная модель, состоящая из большого количества взаимосвязанных нейронов (узлов), вдохновленная структурой человеческого мозга. Неглубокие нейронные сети - это традиционные модели обучения под наблюдением, в то время как глубокое обучение относится именно к нейронным сетям с очень большим количеством слоев. Способные автоматически обучать иерархические представления данных, они достигли революционного успеха в таких сложных задачах, как обработка изображений, речи и естественного языка, и являются основной движущей силой многих современных приложений ИИ.

Контролируемое обучение в различных отраслях

• Здравоохранение: Супервизорное обучение помогает врачам выявлять повреждения при анализе медицинских изображений, оценивать риск заболевания при прогнозировании болезни и ускорять процесс открытия новых лекарств при поиске лекарств. Эти приложения повышают точность диагностики и позволяют создать персонализированную медицину.
• Финансовый сектор: Банки и финансовые учреждения используют контролируемое обучение для кредитного скоринга и управления рисками, что позволяет автоматически утверждать кредиты. При обнаружении мошенничества модели выявляют подозрительные транзакции в режиме реального времени, чтобы защитить средства пользователей. Инвестиционные организации также используют контролируемое обучение для прогнозирования рынка и количественной торговли.
• Сектор розничной электронной коммерции: Система рекомендаций предоставляет персонализированные рекомендации по товарам, анализируя данные о поведении пользователей, что значительно повышает удобство использования и коэффициент конверсии продаж. Модели прогнозирования спроса помогают ритейлерам оптимизировать управление запасами и сократить количество отсутствующих на складе и медленно реализуемых товаров.
• Область компьютерного зрения: Технология распознавания лиц используется для идентификации личности, в системах контроля доступа и охранного наблюдения. В области автономного вождения контролируемое обучение позволяет автомобилям распознавать различные объекты в дорожной среде. Технология визуального распознавания также широко используется в промышленной инспекции для контроля качества продукции.
• обработка естественного языка (NLP)Фильтрация спама защищает пользователей от домогательств, а анализ настроения помогает компаниям понять отзывы пользователей. Машинный перевод и интеллектуальное обслуживание клиентов опираются на методы контролируемого обучения для понимания и генерации естественного языка.
• Образование: Система персонализированного обучения рекомендует подходящий учебный материал и пути обучения на основе профиля обучения студента. Интеллектуальная система отметок автоматически оценивает задания и экзамены, обеспечивая мгновенную обратную связь.
• сфера услуг: Модели предиктивного технического обслуживания обеспечивают раннее предупреждение о риске отказа путем анализа данных датчиков оборудования. Системы контроля качества используют технологию визуального распознавания для обнаружения дефектов продукции и повышения производительности.
• транспорт: Прогнозирование транспортных потоков помогает оптимизировать планирование маршрутов и управление сигналами. Модели прогнозирования спроса помогают платформам совместной мобильности рационально распределять транспортные средства и повышать качество обслуживания.

Этические и социальные аспекты, возникающие при обучении под руководством преподавателя

С широким распространением методов контролируемого обучения этические и социальные проблемы, которые они вызывают, становятся все более актуальными и требуют первоочередного внимания и разумного решения.

• Алгоритмическая предвзятость и дискриминацияЕсли в обучающих данных содержатся исторические или социальные предубеждения, модель будет их изучать и усиливать.
• Конфиденциальность и безопасность данных: Супервизорное обучение требует больших объемов данных, и адекватная защита конфиденциальности пользователей от утечки и злоупотреблений в процессе сбора, хранения и использования этих данных представляет собой огромную проблему. Такие нормативные акты, как Общий регламент ЕС по защите данных (GDPR), призваны решить эту проблему.
• Интерпретируемость и подотчетность моделей: Многие продвинутые модели контролируемого обучения (особенно глубокого обучения) представляют собой сложные "черные ящики", внутреннюю логику принятия решений которых сложно понять. Когда модель принимает неправильное или спорное решение (например, отклоняет заявку на кредит), пользователю сложно объяснить его причину. Это затрудняет подотчетность: кто несет ответственность за неверные решения модели? Разработчик, компания или сам алгоритм?
• Влияние автоматизации на занятостьМодели, автоматизирующие задачи прогнозирования и классификации, заставляют общество задуматься о том, как решить эту проблему структурной безработицы и перехода к рынку труда.
• Безопасность и вредоносное использованиеМощные технологии также могут использоваться в злонамеренных целях. Технология распознавания лиц, основанная на контролируемом обучении, может использоваться для массовой слежки; технология глубокой подделки может генерировать фальшивые аудио- и видеозаписи, которые могут использоваться для создания слухов и совершения мошенничества. Обществу необходимо разработать соответствующие законы и правила, а также технические средства для предотвращения этих рисков.