Resumen Actualmente, los datos textuales constituyen una parte fundamental de las bases de datos de todo el mundo y uno de los mayores desafíos ha sido la extracción de información útil a partir de conjuntos grandes de documentos de texto. La literatura existente sobre métodos para resolver este problema es muy extensa, sin embargo, los métodos estadísticos (que utilizan métricas de similitud sobre vectores de palabras) han mostrado resultados muy favorables en el campo de la minería de texto durante los últimos 25 años. Adicionalmente, otros modelos han surgido como una prometedora alternativa para lograr reducción dimensional e incorporación de la semántica en la clasificación de documentos, tal como el modelado de temas. Este proyecto se enfoca en la evaluación de técnicas de representación y medidas de similitud de texto (Coseno, Jaccard y Kullback-Leibler) usando el algoritmo de Vecinos más Cercanos (KNN por sus siglas en inglés), con el fin de medir la efectividad del modelado de temas para reducción dimensional al clasificar texto. Los resultados muestran que la versión más tradicional del vector de palabras y la similitud Jaccard superaron al resto de las combinaciones en la mayoría de los casos de uso. Sin embargo, el análisis estadístico mostró que no hubo una diferencia significativa entre la exactitud obtenida al usar representaciones generadas por la Asignación de Dirichlet Latente (técnica de modelado de temas más conocida como LDA por sus siglas en inglés), y la obtenida usando técnicas tradicionales de clasificación de texto. LDA logró abstraer miles de palabras en menos de 60 temas para el primer conjunto de pruebas. Experimentos adicionales sugieren que el modelado de temas puede llegar a lograr un mejor rendimiento al ser usado para clasificar textos cortos y al incrementar el número de temas permitidos al momento de generar el modelo.

Abstract Nowadays, text data is a fundamental part in databases around the world and one of the biggest challenges has been the extraction of meaningful information from large sets of text. Existing literature about text classification is extensive, however, during the last 25 years the statistical methods (where similarity functions are applied over vectors of words) have achieved good results in many areas of text mining. Additionally, several models have been proposed to achieve dimensional reduction and incorporate the semantic factor, such as the topic modelling. In this paper we evaluate different text representation techniques including traditional bag of words and topics modelling. The evaluation is done by testing different combinations of text representations and text distance metrics (Cosine, Jaccard and Kullback-Leibler Divergence) using K-NearestNeighbors in order to determine the effectiveness of using topic modelling representations for dimensional reduction when classifying text. The results show that the simplest version of bag of words and the Jaccard similarity outperformed the rest of combinations in most of the cases. A statistical test showed that the accuracy values obtained when using supervised Latent Dirichlet Allocation representations, combined with the relative entropy metric, were no significantly different to the ones obtained by using traditional text classification techniques. LDA managed to abstract thousands of words in less than 60 topics for the main set of experiments. Additional experiments suggest that topic modelling can perform better when used for short text documents or when increasing the parameter of number of topics (dimensions) at the moment of generating the model.

Resumen Los Modelos Gráficos Probabilísticos (MGP) utilizan una representación basada en grafos para codificar de manera compacta distribuciones complejas en espacios de alta dimensionalidad. Un tipo de MGP son las Redes Bayesianas Dinámicas (RBDs) que se caracterizan por ser un sistema estacionario homogéneo, lo que permite que con ellas se pueden representar, de una manera compacta, grandes cantidades de información de muchas variables. En este trabajo se estudia la capacidad de predicción de las RBDs en cuanto al avance de la Sigatoka negra y la productividad del cultivo, utilizando los datos proporcionados por CORBANA. Estos datos tienen información histórica del clima y de dos fenómenos: el avance de la enfermedad denominada Sigatoka negra y la productividad del cultivo del banano. Para esto se comparó la capacidad de predicción de la RBDs con la de las Redes Bayesianas (RBs). Se diseñaron e implementaron una RBD y una RB que representan las relaciones encontradas en los datos, y con ellas se llevaron a cabo experimentos para identificar cómo los distintos factores inciden en la capacidad de predicción de las mismas. Los resultados obtenidos en los experimentos mostraron que la capacidad de predicción de las RBDs no supera la de las RBs utilizando los datos de la Corporación Nacional Bananera. De hecho, no se observó una diferencia significativa entre ambos tipos de red. Además, se observó gran diferencia en las ventajas teóricas del modelo de las RBDs frente a otros MGPs. Ya que en la práctica las limitaciones de las implementaciones disponibles hacen que no sea atractivo su uso.

Abstract The Probabilistic Graphical Models (PGM) use a representation based on graphs to encode complex distributions in high dimensional spaces compactly. One type of PGM are the Dynamic Bayesian Networks (DBN) characterized for being a stationary and homogeneous system, allowing to represent huge amount of information of multiple variables in a compact way. In this paper the prediction capacity of the DBN on the evolution of the Black Sigatoka and the crops productivity, using the data from CORBANA is studied. This data contains historical information of the weather and of two phenomena: the evolution of the Black Sigatoka and the productivity of the crops. The prediction capacity of the DBN was compare with the Bayesian Networks (BN). A DBN and a BN were design and implemented representing the variables found on the data and their relations. Using them different experiments were done to determine the influence of the factors on their capacity of prediction. The obtained results on the experiments showed that the prediction capacity of the DBNs is not better that the prediction capacity of the BN using the data from CORBANA. In fact, there was not a significant difference when the network was changed. Although the DBN presented several theoretical advantages in comparison with other PGMs, in practice they were not observed. This happened because of the limitations of the available implementation of framework for using PGMs, making the DBNs not as attractive.

Resumen Ocho métodos de optimización global y ocho métodos de optimización local fueron utilizados para calibrar el modelo hidrológico conceptual HBV-TEC en la cuenca alta del río Toro en Costa Rica para cuatro diferentes periodos de calibración (4, 8, 12 y 16 años). Con el propósito de evaluar la sensibilidad de quedar atrapados en mínimos locales, cada método fue probado contra 50 sets de parámetros iniciales generados aleatoriamente. Todos los métodos fueron entonces evaluados en términos del desempeño de optimización y el costo computacional. Los resultados muestran un desempeño comparable entre varios métodos locales y globales dado que se correlacionan fuertemente entre ellos. Sin embargo, los métodos locales son generalmente más sensitivos a quedar atrapados en mínimos locales independientemente de la duración del periodo de calibración. El desempeño de optimización parece ser independiente del número total de llamas del modelo, el cual puede variar varios órdenes de magnitud dependiendo del método de optimización seleccionado. La selección final de un método de optimización está grandemente influenciada por su eficiencia y el nivel de recursos computacionales disponible indistintamente de clase local o global

Abstract Eight global and eight local optimization methods were used to calibrate the HBV-TEC hydrological model on the upper Toro river catchment in Costa Rica for four different calibration periods (4, 8, 12 and 16 years). To evaluate their sensitivity to getting trapped in local minima, each method was tested against 50 sets of randomly-generated initial model parameters. All methods were then evaluated in terms of optimization performance and computational cost. Results show a comparable performance among various global and local methods as they highly correlate to one another. Nonetheless, local methods are in general more sensitive to getting trapped in local minima, irrespective of the duration of the calibration period. Performance of the various methods seems to be independent to the total number of model calls, which may vary several orders of magnitude depending on the selected optimization method. The selection of an optimization method is largely influenced by its efficiency and the available computational resources regardless of global or local class

Resumen Los datos de alta dimensionalidad plantean un desafío para los algoritmos de agrupamiento tradicionales, ya que las medidas de similitud convencionales utilizadas por estos no son significativas cuando se aplican sobre el espacio completo de datos, por lo que afectan la calidad de los grupos. Ante esto, los algoritmos de agrupamiento de subespacios han sido propuestos como alternativa para encontrar todos los grupos en todos los espacios del conjunto de datos (1). Al detectar grupos en espacios de menor dimensionalidad, cada grupo detectado puede pertenecer a diferentes subespacios del conjunto de datos original (2). Consecuentemente, atributos que el usuario considere de interés pueden ser excluidos en algunos o todos los grupos, perdiendo información importante y reduciendo el valor del resultado para los analistas. En este proyecto, se propone un nuevo método que combina el algoritmo SUBCLU (3) y el algoritmo de agrupamiento por restricciones (4), el cual permite al usuario identificar variables como atributos de interés con base en conocimiento previo del dominio, esto con el objeto de dirigir la detección de grupos hacia espacios que incluyan estos atributos y, por ende, generar grupos más significativos.

Abstract High dimensional data poses a challenge to traditional clustering algorithms, where the similarity measures are not meaningful, affecting the quality of the groups. As a result, subspace clustering algorithms have been proposed as an alternative, aiming to find all groups in all spaces of the dataset (1). By detecting groups on lower dimensional spaces, each group may belong to different subspaces of the original dataset (2). Therefore, attributes the user considers of interest may be excluded in some or all groups, decreasing the value of the result for the data analysts. In this project, a new algorithm is proposed, that combines SUBCLU (3) and the clustering algorithms by constraint (4), which allows the users to identify variables as attributes of interest based on prior knowledge of domain, targeting direct group detection toward spaces that include user’s attributes of interest, and thereafter, generating more meaningful groups.