¿Qué es el aprendizaje semisupervisado (SSL) en un artículo?

Definición y conceptos básicos del aprendizaje semisupervisado

El aprendizaje semisupervisado es una rama importante en el campo del aprendizaje automático, que utiliza una pequeña cantidad de datos etiquetados y una gran cantidad de datos no etiquetados para coentrenar modelos con el fin de mejorar el efecto de aprendizaje y la capacidad de generalización. La obtención de datos etiquetados suele requerir mucha mano de obra, tiempo e inversión de capital. Por ejemplo, en el campo de la imagen médica, los médicos tienen que marcar manualmente las zonas de lesión, lo que supone un proceso engorroso y propenso a errores. Los datos sin etiquetar son fáciles de obtener, como imágenes masivas o textos en Internet, pero carecen de etiquetas claras.

La idea central del aprendizaje semisupervisado es que los datos no etiquetados no son inútiles y contienen información sobre la estructura intrínseca de la distribución de datos, lo que ayuda al modelo a comprender mejor el patrón general de datos. Al combinar la naturaleza instructiva de los datos etiquetados con la riqueza de los datos no etiquetados, el modelo es capaz de reducir la dependencia de un gran número de anotaciones y evitar el problema de la dirección perdida que puede asociarse al aprendizaje sin supervisión. El enfoque se basa en supuestos clave como la hipótesis de suavidad, según la cual es probable que los puntos de datos similares tengan las mismas etiquetas; la hipótesis de agrupación, según la cual los datos se agrupan de forma natural; y la hipótesis de flujo, según la cual los datos de alta dimensión existen realmente en una estructura de baja dimensión. El aprendizaje semisupervisado no sólo es aplicable a las tareas de clasificación tradicionales, sino que también se extiende a la regresión, la agrupación y la detección de anomalías, proporcionando una solución eficaz y rentable para las aplicaciones de IA. Con la explosión de los volúmenes de datos, el aprendizaje semisupervisado se está convirtiendo en una herramienta importante para gestionar los retos del big data, impulsando la innovación desde la conducción automatizada hasta la atención sanitaria inteligente.

Métodos y principios básicos del aprendizaje semisupervisado

El aprendizaje semisupervisado se basa en una serie de fundamentos y principios teóricos que guían la forma en que los algoritmos aprenden a partir de datos mixtos.

• suposición de suavidadEsta suposición sostiene que los puntos de datos cercanos en el espacio de características deben tener etiquetas similares. Basándose en este principio, los algoritmos pueden inferir las etiquetas de los datos no etiquetados a partir de los vecinos locales, por ejemplo, ampliando la información etiquetada mediante métodos de k-próximo más cercano para datos continuos como imágenes o voz.
• hipótesis de agrupaciónAprendizaje semisupervisado: los puntos de datos se agrupan de forma natural en conglomerados o agrupaciones, y cada conglomerado corresponde a una categoría. El aprendizaje semisupervisado utiliza datos no etiquetados para ayudar a definir los límites de los clústeres, lo que permite al modelo ser más preciso en la clasificación; por ejemplo, en la categorización de textos, donde los documentos se agrupan según el tema, un pequeño número de documentos etiquetados puede llevar a la asignación de etiquetas a través de los clústeres.
• hipótesis del múltiple (matemáticas)Algoritmo: Los datos de alta dimensión están en realidad incrustados en un colector de baja dimensión, lo que significa que los datos tienen una estructura intrínseca de baja dimensión. El algoritmo aprende este colector y generaliza a partir de un pequeño número de puntos anotados a todo el colector, lo que suele utilizarse para tareas de reducción de la dimensionalidad o visualización, como la extracción de características en el reconocimiento facial.
• regularización de la coherenciaEste principio hace hincapié en que los modelos deben producir resultados coherentes en respuesta a pequeñas perturbaciones en los datos de entrada. En el aprendizaje semisupervisado, se aplican perturbaciones aleatorias (por ejemplo, ruido o transformaciones) a datos no etiquetados y el modelo se entrena para mantener la estabilidad predictiva, mejorando así la robustez y la generalización, como ejemplifica el modelo Π en el aprendizaje profundo.
• minimización de la entropíaFavorece que el modelo tenga una gran confianza en sus predicciones para datos no etiquetados, es decir, reduce la incertidumbre en las predicciones. Al minimizar la entropía, el modelo se ve obligado a tomar decisiones explícitas, lo que mejora el aprendizaje con datos no etiquetados, a menudo utilizados en marcos de autoformación.
• Supuestos de separación de baja densidadLos límites de decisión deben situarse en regiones de baja densidad de datos para evitar cruzar conglomerados de alta densidad. Las máquinas de vectores de apoyo semisupervisadas (S3VM) se basan en este principio para encontrar los límites de espaciado máximo y separar de forma óptima los hiperplanos utilizando datos no etiquetados.

Aplicaciones y ventajas del aprendizaje semisupervisado

El aprendizaje semisupervisado ha demostrado importantes ventajas en varios ámbitos, sobre todo en escenarios en los que el etiquetado es costoso o en los que abundan los datos.

• Análisis de imágenes médicasEn el diagnóstico de enfermedades, como la detección de tumores, donde el etiquetado de imágenes médicas requiere tiempo de expertos, el aprendizaje semisupervisado combina un pequeño número de imágenes etiquetadas con un gran número de imágenes sin etiquetar para entrenar un modelo que identifique las regiones anormales, mejorando la eficacia del diagnóstico y reduciendo los costes laborales; por ejemplo, en el análisis de resonancias magnéticas o tomografías computarizadas, el modelo aprende las variantes normales a partir de datos sin etiquetar para mejorar la precisión.
• procesamiento del lenguaje natural (PLN)En el caso de las lenguas con pocos recursos o de nichos de mercado en los que escasea el texto etiquetado, el aprendizaje semisupervisado utiliza un gran corpus sin etiquetar para ayudar al entrenamiento del modelo, por ejemplo, en el análisis de sentimientos o la traducción automática, donde el modelo aprende patrones lingüísticos a partir de texto sin etiquetar, lo que mejora el rendimiento y amplía el abanico de aplicaciones.
• sistema de recomendación: Las plataformas de comercio electrónico o de streaming disponen de una gran cantidad de datos sobre el comportamiento de los usuarios, pero sólo de una anotación parcial (por ejemplo, clics o compras). El aprendizaje semisupervisado integra estos datos para predecir las preferencias de los usuarios, ofrecer recomendaciones personalizadas y mejorar la experiencia de los usuarios y los ingresos de las empresas.
• Reconocimiento de imágenes y visión por ordenadorEn tareas de detección de objetos o clasificación de escenas, donde las imágenes etiquetadas son caras, el aprendizaje semisupervisado utiliza un pequeño número de imágenes etiquetadas y un gran número de imágenes sin etiquetar para entrenar modelos de aprendizaje profundo con el fin de reducir el sobreajuste y mejorar las tasas de reconocimiento mediante técnicas de mejora de datos o pseudoetiquetado.
• tecnología de conducción automatizadaEl objetivo es mejorar la seguridad vial y la fiabilidad del sistema: los sensores de los vehículos generan grandes cantidades de datos sin etiquetar (por ejemplo, flujos de cámaras o radares), y el aprendizaje semisupervisado combinado con una pequeña cantidad de anotaciones de eventos clave (por ejemplo, peatones u obstáculos) se utiliza para detectar y tomar decisiones sobre el sistema con el fin de mejorar la seguridad vial y la fiabilidad del sistema.
• Automatización industrial y control de calidadEn la fabricación, donde las muestras de productos defectuosos son pequeñas, el aprendizaje semisupervisado utiliza un gran número de imágenes de productos normales y un pequeño número de anotaciones defectuosas para entrenar modelos que detecten anomalías, optimicen los procesos de producción y reduzcan los residuos.
• Detección del fraude financieroEl aprendizaje semisupervisado combina transacciones fraudulentas conocidas con un gran número de transacciones normales para identificar patrones sospechosos y mejorar la seguridad, reduciendo al mismo tiempo las tasas de falsas alarmas.

Entre sus ventajas cabe citar la reducción de los requisitos de anotación, la mejora de la generalización de los modelos, la adaptación a entornos de big data y el aumento de la flexibilidad de las aplicaciones, lo que hace que el aprendizaje semisupervisado sea ideal para los problemas del mundo real.

Métodos y algoritmos clave para el aprendizaje semisupervisado

El aprendizaje semisupervisado abarca una variedad de algoritmos, cada uno diseñado para trabajar con características o tareas de datos específicas.

• AutoformaciónSe trata de un método sencillo pero eficaz en el que el modelo se entrena primero con datos etiquetados, luego predice las etiquetas de los datos no etiquetados, selecciona las predicciones de alta confianza como pseudoetiquetas y vuelve a entrenar el modelo; esto se hace de forma iterativa para una mejora incremental, y se suele utilizar para la clasificación de imágenes o el tratamiento de textos, pero hay que tener cuidado para evitar la acumulación de errores.
• Formación conjuntaModelo de etiquetado: suponiendo dos o más vistas independientes de los datos (por ejemplo, contenido y enlaces del texto), se entrenan múltiples modelos basados en estas vistas por separado, proporcionando pseudoetiquetas entre sí para los datos no etiquetados; este enfoque es adecuado para datos de múltiples fuentes, como la categorización de páginas web, donde la precisión mejora por la complementariedad de las vistas.
• Aprendizaje semisupervisado de grafos (métodos basados en grafos)Construir una estructura de grafos con nodos que representen puntos de datos y aristas que representen similitudes, y utilizar un algoritmo de propagación de etiquetas para propagarlas de los nodos etiquetados a los no etiquetados; este método se utiliza habitualmente para el análisis de redes sociales o la categorización de documentos, pero las variantes basadas en redes convolucionales de grafos (GCN) revolucionan este enfoque.
• Modelos generativosPor ejemplo, el Modelo de Mezcla Gaussiana (GMM), que supone que los datos proceden de una mezcla de distribuciones de probabilidad y utiliza un algoritmo de Maximización de Expectativas (EM) para estimar los parámetros utilizando una combinación de datos etiquetados y no etiquetados; el Autoencoder Variacional Semisupervisado (VAE) amplía esta idea aprendiendo el proceso de generación de datos.
• Máquina de vectores soporte semisupervisada (S3VM)El hiperplano: Basado en la hipótesis de separación de baja densidad, el límite de decisión de optimización se sitúa en la región de datos dispersos, y el hiperplano se ajusta utilizando los datos no etiquetados; es aplicable al problema de clasificación binaria, pero la complejidad computacional es alta.
• Métodos de regularización de la coherenciaLos modelos de aprendizaje profundo, como el Mean Teacher o el Π-model, aplican perturbaciones (por ejemplo, ruido o flip-flop) a los datos no etiquetados para forzar la coherencia de la salida del modelo, en combinación con marcos de aprendizaje profundo; este tipo de enfoque es popular en la visión por ordenador para mejorar la robustez del modelo.
• entrenamiento en dueloIntroducing adversarial sample enhancement learning to improve the model's resistance against attacks by generating adversarial networks (GANs) or adversarial regularisation using unlabelled data; applied to safety-critical domains such as autonomous driving.

Estos algoritmos son variados y adaptables, lo que permite a los profesionales seleccionar la herramienta adecuada en función de las características de los datos para maximizar los beneficios del aprendizaje semisupervisado.

Retos y limitaciones del aprendizaje semisupervisado

A pesar de su potencial, el aprendizaje semisupervisado se enfrenta a una serie de retos y limitaciones que afectan a su aplicación generalizada.

• Supuesto de dependenciaEl aprendizaje semisupervisado se basa, por ejemplo, en suposiciones de suavidad o agrupación, y si los datos reales no satisfacen estas suposiciones (por ejemplo, en datos muy ruidosos o distribuidos de forma no uniforme), el rendimiento puede degradarse o incluso ser inferior al del aprendizaje supervisado puro, por lo que es necesario verificar cuidadosamente la aplicabilidad de los datos.
• complejidad algorítmicaMuchos métodos implican optimización iterativa, construcción de grafos o modelos generativos, que consumen muchos recursos informáticos y son difíciles de ampliar a conjuntos de datos muy grandes; por ejemplo, los métodos de grafos se ejecutan lentamente en grafos grandes, lo que limita las aplicaciones en tiempo real.
• Dificultades en la evaluaciónLa evaluación de modelos de aprendizaje semisupervisado es un reto debido a la falta de puntos de referencia estándar; los métodos utilizados habitualmente, como retener algunos de los datos etiquetados para la prueba, pero los resultados pueden variar en función de la segmentación de los datos, y se necesita conocimiento del dominio para ayudar a la evaluación.
• Sensibilidad de la calidad de la etiquetaLos errores iniciales de etiquetado o el ruido pueden propagarse a través de las pseudoetiquetas, lo que provoca una degradación del rendimiento del modelo; en el autoentrenamiento, es necesario introducir umbrales de confianza o una revisión manual para mitigar si se amplifican las predicciones erróneas.
• ajuste de hiperparámetrosAlgoritmos como S3VM o GNN: los algoritmos como S3VM o GNN tienen múltiples hiperparámetros (por ejemplo, el número de vecinos o la tasa de aprendizaje), que pueden conducir a resultados subóptimos si no se eligen correctamente, y el proceso de ajuste lleva mucho tiempo y requiere experiencia.
• problema de escalabilidadEnfoques tradicionales: algunos enfoques tradicionales, como la modelización generativa, no funcionan bien con datos de alta dimensión (por ejemplo, imágenes o vídeos) y requieren un tratamiento previo, como la reducción de la dimensionalidad, lo que añade complejidad al proceso.
• Capacidad de generalización limitadaEn un entorno semisupervisado, el modelo puede ajustarse en exceso a una distribución específica de datos no etiquetados, generalizar mal con nuevos datos y necesitar una supervisión y actualización continuas.

Estos retos exigen que los investigadores desarrollen algoritmos más robustos y animen a los usuarios a practicar el aprendizaje semisupervisado junto con el conocimiento del dominio.

Un ejemplo de aplicación práctica del aprendizaje semisupervisado

• Detección de tumores en imágenes médicasUn instituto de investigación utilizó el aprendizaje semisupervisado para analizar imágenes de mamografías, un pequeño número de las cuales fueron anotadas por radiólogos, y un gran número de imágenes no etiquetadas se utilizaron para entrenar un modelo de aprendizaje profundo; el resultado fue una mejora de la precisión de detección del modelo, una reducción de la carga de trabajo de los médicos y un proceso de diagnóstico acelerado.
• Categorización de textos en el procesamiento del lenguaje natural: Empresas como Google utilizan el aprendizaje semisupervisado para procesar textos lingüísticos de escasos recursos, en los que un pequeño número de documentos anotados se combina con una gran cantidad de datos de páginas web sin etiquetar para entrenar modelos de clasificación de temas o análisis de sentimientos, ampliando el servicio a usuarios de todo el mundo.
• Sistema de recomendación de comercio electrónicoLa web de Amazon aplica el aprendizaje semisupervisado para analizar el comportamiento de los usuarios. El historial de compras (parcialmente anotado) se combina con los datos de navegación (no etiquetados) para optimizar las recomendaciones de productos y aumentar las ventas y la satisfacción de los clientes.
• Reconocimiento de objetos en la conducción autónomaEl sistema de conducción autónoma de Tesla utiliza imágenes de vídeo captadas por cámaras sobre las condiciones de la carretera, etiquetando sólo los fotogramas clave (por ejemplo, peatones o vehículos) y utilizando un gran número de fotogramas sin etiquetar para entrenar un modelo perceptivo que mejore la comprensión del entorno y la seguridad.
• Detección de defectos en la fabricación industrialFábrica de automóviles que utiliza el aprendizaje semisupervisado para supervisar las líneas de producción, un pequeño número de imágenes de productos defectuosos y un gran número de imágenes normales para entrenar el sistema de visión por ordenador, la detección en tiempo real de los defectos del producto, para mejorar la eficiencia del control de calidad.
• Lucha contra el fraude en el sector financieroLos bancos utilizan el aprendizaje semisupervisado para analizar los datos de las transacciones; los casos conocidos de fraude se combinan con transacciones normales, y los modelos aprenden patrones anormales para reducir las pérdidas por fraude y disminuir los índices de falsas alarmas.
• Etiquetado de contenidos para la industria del entretenimientoLa aplicación: Netflix aplica el aprendizaje semisupervisado para procesar contenidos de vídeo, en el que se utiliza una pequeña cantidad de etiquetas de usuario junto con una gran cantidad de datos de vídeo sin etiquetar para generar automáticamente metadatos que mejoren el descubrimiento de contenidos y la precisión de las recomendaciones.

Estos casos demuestran el valor real del aprendizaje semisupervisado, desde salvar vidas hasta mejorar la eficiencia empresarial, lo que demuestra su aplicabilidad en diferentes sectores.

Retos técnicos y soluciones para el aprendizaje semisupervisado

El aprendizaje semisupervisado ha encontrado dificultades técnicas en la práctica, pero los investigadores han propuesto diversas soluciones.

• Problemas en los que los supuestos no son válidosEl rendimiento del modelo se ve afectado cuando los datos incumplen los supuestos de suavizado o agrupación; las soluciones incluyen la adopción de algoritmos robustos, como los métodos basados en la densidad, o la introducción de técnicas de aumento de datos para ampliar la diversidad de datos y reducir la dependencia de los supuestos.
• Selección y adaptación de modelosLa selección de métodos semisupervisados adecuados es difícil y varía en función de las características de los datos; las soluciones son la selección automática de modelos mediante validación cruzada u optimización bayesiana, o el desarrollo de marcos de metaaprendizaje adaptados a distintos escenarios.
• Limitaciones de recursos informáticosAlgoritmos complejos como el aprendizaje profundo requieren importantes recursos de GPU; las soluciones incluyen el uso de marcos de computación distribuida (por ejemplo, Spark), o algoritmos de optimización como la optimización estocástica para reducir la sobrecarga computacional.
• Falta de criterios de evaluaciónLa solución consiste en diseñar protocolos de evaluación específicos para cada ámbito, por ejemplo, utilizando métricas clínicas para la validación en la atención sanitaria, o creando conjuntos de datos estándar para facilitar las comparaciones.
• Propagación de errores en el pseudoetiquetadoacumulación de errores de etiquetado en el autoaprendizaje; las soluciones pasan por fijar umbrales de confianza dinámicos o integrar varios modelos para reducir los errores y mejorar la fiabilidad.

Con estas soluciones, el aprendizaje semisupervisado puede superar retos y aplicarse con mayor fiabilidad a sistemas reales.

Futuro del aprendizaje semisupervisado

El campo del aprendizaje semisupervisado sigue evolucionando, con tendencias emergentes que apuntan hacia planteamientos más avanzados e integrados.

• Convergencia del aprendizaje autosupervisado: El aprendizaje autosupervisado, como extensión de la semisupervisión, reduce la dependencia de la anotación al aprender representaciones a partir de datos no etiquetados mediante tareas previas al texto (por ejemplo, reparación de imágenes o enmascaramiento de texto).
• Integración del aprendizaje multimodalEl aprendizaje semisupervisado, que combina múltiples fuentes de datos como imágenes, texto, audio, etc., explota los datos multimodales no etiquetados para mejorar las capacidades del modelo; por ejemplo, en los asistentes virtuales, el aprendizaje del contexto a partir de entradas multimodales mejora la experiencia de interacción.
• Aprendizaje federado combinado con semisupervisiónEn escenarios sensibles a la privacidad, el aprendizaje federado permite que los datos permanezcan locales y el aprendizaje semisupervisado forma modelos utilizando datos dispersos no etiquetados.
• Aplicaciones de aprendizaje automático (AutoML)La herramienta AutoML selecciona automáticamente algoritmos semisupervisados e hiperparámetros para reducir el umbral de uso.
• Consideraciones éticas y de equidadEl aprendizaje semisupervisado: garantizar que el aprendizaje semisupervisado no exacerbe el sesgo, mediante restricciones de equidad en la formación.
• Innovación interdisciplinar: Aprendizaje semisupervisado combinado con neurociencia o biología para simular los mecanismos de aprendizaje del cerebro.