NUESTRA ÚLTIMA PUBLICACIÓN – LA NASA Y LA MINERÍA DE DATOS EN FAVOR DE LA AVIACIÓN

Como bien hemos hablado durante la vigencia de este blog, los software de minería de datos son herramientas muy útiles al servicio de los negocios y la sociedad que entregan ventajas competitivas y de anticipación.  

La NASA  está investigando cómo, por medio de la minería de datos, se pueden prever problemas aeronáuticos en pro de la aviación segura. Las aeronaves modernas producen volúmenes enormes de datos  y la NASA está buscando formas de encontrar información entre todos esos datos que permita prevenir accidentes. Actual mente se usa la minería de datos en aviación pero aún hay trabajo por hacer, hoy cuando cae un avión, por medio de la caja negra y otras fuentes de almacenamiento de datos es posible encontrar las causas que produjeron el accidente, es por eso que se le ve potencial a este programa para encontrar automática y oportunamente problemas solucionables a través de la minería de la detección de anomalías, para evitar desastres y hacer más seguro el transporte aéreo.

Aquí les dejo un video de un programa documental que desglosa el tema.

Disclose.tv. (Mar 29 de 2012). The Leading Edge: Nasa Data Mining Aviation Data

http://www.disclose.tv/action/viewvideo/92261/The_Leading_Edge__Nasa_Data_Mining_Aviation_Data/

(Mayo 06 de 2012).

 Agradecemos a nuestros visitantes por seguirnos durante este viaje a través de la minería de datos, sus características, bondades y curiosidades.

Agradecemos al grupo de Soluciones de Software de la facultad de Ingeniería de Sistemas de la Escuela Colombiana de Ingeniería Julio Garavito y el Ingeniero Mauricio Martínez Franki. 

R como una herramienta para la minería de datos.

Es una de las herramientas más utilizadas de minería de datos en aplicaciones científicas y empresariales, entre las decenas de software de minería comercial y de código abierto de datos. Es gratuito y ampliable. Es parte del proyecto GNU y su código fuente está escrito principalmente en C. Está disponible libremente bajo la Licencia Pública General de GNU y utiliza una interfaz de línea de comandos, sin embargo, varias interfaces gráficas de usuario están disponibles para su uso.


Lo que hace tan útil  a R y lo que ayuda con la explicación de su rápida aceptación, es que los estadísticos, ingenieros y científicos pueden mejorar el código del software o escribir variaciones para tareas específicas. 


Cerca de 1.600 paquetes diferentes, residen en uno de los muchos sitios web dedicados, aumentando su cantidad de manera exponencial. Por ejemplo uno de los  paquetes encontrados en la web, es el paquete  llamado BiodiversityR, que nos ofrece una interfaz gráfica destinada a realizar los cálculos de las tendencias ambientales con mayor facilidad. Aparte de análisis de estados ambientales, R nos ofrece una gran variedad de áreas en las que se puede utilizar con el fin de obtener tendencias o información importante de los diversos datos obtenidos, almacenados y analizados. Entre estas áreas se pueden encontrar las que siguen:


* Finanzas
* Venta al por menor
* Seguros
* Telecomunicaciones
* Gobierno
* Crimen y Seguridad
* Mercado de Valores
* Bienestar Social
* Medios de Comunicación Social
* Deportes
* Medicina y Salud
* Educación
* Transporte
* Meteorología
* Medio ambiente
* Fabricación
* Análisis de Datos Espaciales
* Computación Científica

Paginas de referencia:

• http://www.rdatamining.com/books/book2
• http://en.wikipedia.org/wiki/Data_mining
• http://en.wikipedia.org/wiki/R_%28programming_language%29

La importancia del contexto empresarial y tecnológico. Ejemplo: Pentaho Business Analytics.

Antes de presentar esta herramienta que por muchas razones es hoy famosa, quisiéramos dejar una reflexión respecto a la minería de datos en el contexto empresarial: ¿por qué es conveniente utilizarla?, ¿le sirve a todas las empresas?, ¿qué se gana al “minar” los datos?, ¿y cómo se diseña un proceso de minería de datos?
Un primer acercamiento a estos interrogantes que justifican el estudio de esta solución de software es precisamente pensar si usted conoce realmente las necesidades de su organización. La minería de datos, por sí sola, no constituye una ganancia, y su utilidad estará dada en la medida en que se utilice de manera ajustada a la empresa, pues la inversión en tiempo y recursos de todo tipo puede ser realmente alta.
Una parte importante de la selección es también pensar que la solución adquirida sea útil de acuerdo a las posibles tendencias tecnológicas. Basándonos en esto, y en las tendencias tecnológicas sugeridas por Gartner Inc., sugerimos que sería útil que las aplicaciones soporten el manejo de grandes cantidades de información (Big Data), que tengan integración en dispositivos móviles, que funcionen también en la nube, y por supuesto, que apoyen los análisis de próxima generación.  

  

Dicho esto, presentamos hoy una aplicación que integra diversos aspectos para analizar el negocio en general, y que podría estar a la vanguardia en temas tecnológicos si nos regimos por las ideas mencionadas: Pentaho Business Analytics, una interesante herramienta que permite hacer todo tipo de reportes, tableros de mando, análisis / minería de datos, soporte para iPad, integración y calidad de los datos, administración centralizada y despliegue en la nube. Todo esto, con un entorno bastante amigable, y disponible en diferentes versiones según las necesidades de su empresa. A continuación, se presenta el video que muestra las características de este software, que si bien va más allá de la minería de datos como solución única, se acerca de manera integral al contexto empresarial y abre paso a la inteligencia de negocios.

Referencias:


Notas de Clase. Profesor Mauricio Martínez, Soluciones de Software, Escuela Colombiana de Ingeniería, abril de 2012.


Pentaho Business Analytics. http://www.pentaho.com/explore/pentaho-business-analytics/

PcWorld. Tendencias Estratégicas para el 2012 por Gartner Inc. http://www.pcworld.com.mx/Articulos/19396.htm

EMPECEMOS A MINAR DATOS DE VERDAD VERDAD

Con el aumento de los usuarios de Internet en todo el mundo en los últimos años, también ha aumentado el mercado virtual, es decir que cada vez hay más personas que compran por Internet y así mismo más tiendas virtuales que ofrecen  más productos.  Por lo anterior, el tema de la optimización automática de precios en el comercio electrónico está creciendo en importancia. Esto se debe en particular al hecho de que se pueden lograr aumentos significativos en los márgenes de utilidad utilizando estrategias inteligentes para adjudicar precios. Además de los algoritmos estándar diseñados y utilizados básicamente para la optimización de los precios de cada producto en las tiendas en línea, también se desarrollan algoritmos especiales que se utilizan para asuntos tales como la venta de los productos combinados o de la venta rápida de bienes perecederos.

 

Desde el 2002 se viene realizando un certamen anual en Alemania (Data Mining Cup) que premia al mejor grupo de estudiantes desarrolladores de minería de datos. Este evento da oportunidades para foguearse en la práctica de minar datos reales y aplicar sus beneficios en un ejercicio real. Este año el concurso tiene algunos objetivos principales: la descripción de dependencias entre datos, la predicción de ítems de venta y la optimización de beneficios de un portal de ventas en línea. En el año en curso abrieron  el registro de participantes el 01 de marzo, comenzó la competencia con la publicación de las tareas el  03 de abril, la competencia esta en curso y se espera la presentación de los resultados el 15 de mayo, fecha en la que se da por terminado el concurso. La premiación tendrá lugar en Berlín junto con una conferencia internacional de temas de Data Mining durante los días 26 y 27 de junio. Los premios van de 500 a 2000 euros y viajes para  algunos de los integrantes de equipos finalistas a la ceremonia de premiación.

 Los organizadores ofrecen la información del ejercicio de la competencia, por lo cual, si estos temas le son de interés y desea realizar el ejercicio por su cuenta, en este link puede encontrar la especificación.

Por la trayectoria del campeonato y las empresas que participan y lo respaldan,  hacer parte puede ser importante tanto como vitrina como medio de aprendizaje y experiencia, por eso merece pertenecer a las consideraciones para el año que viene.

Referencias

Pagina oficial del concurso Data Mining Cup.

http://www.data-mining-cup.de/en

(15 de abril de 2012)

Fases de la Mineria de Datos

Cualquier proyecto de Minería de Datos, independiente de su enfoque y de las técnicas de extracción utilizadas al transcurso del proceso, debe atravesar por una serie de fases que hace que el proceso sea exitoso desde que inicia hasta que culmina. Dando así un análisis completo y efectivo para tomar una decisión correcta.


Las siguientes son las fases que normalmente abarca un proyecto de Minería de Datos:

• Filtrado de Datos.
• Selección de Variables.
• Extracción de Conocimiento.
• Interpretación y Evaluación.

Imagen 1: Fases dentro de un proyecto de Minería de Datos

• Filtrado de Datos

En muchos casos el formato de los datos fuente no son adecuadamente ligeros para ser tratados en estos procesos, por tal motivo el objetivo en esta fase, es filtrar los datos de tal manera que se eliminen todos los valores incorrectos, todos los valores no validos y desconocidos, reduciendo así el número de valores posibles para ser tratados en un  proceso como lo es el proceso de Data Mining. 

• Selección de Variables.

Para reducir el tamaño de los datos elegidos, se deben establecer las características correspondientes y necesarias para ser aplicadas a la selección correcta de los datos. Asi tener las variables que influyen con mas fuerza en el problema a solucionar; los métodos utilizados para la selección de las características son los siguientes:

• Aquellos basados en la eleción de los mejores atributos del problema.
• Aquellos que buscan variables independientes mediante pruebas de sensibilidad, algoritmos de distancia. 

• Extracción de Conocimiento

"Mediante una técnica de minería de datos, se obtiene un modelo de conocimiento,

que representa patrones de comportamiento observados en los valores de las variables del problema o relaciones de asociación entre dichas variables".

• Interpretación y Evaluación

Luego de obtener el modelo final, se debe validar las conclusiones obtenidas al finalizaar el proceso de extracción. Se debe comprobar que las conclusiones arrojadas son validas, suficientes y satisfactorias. 

Podemos tener el caso, en el que nos resulten dos o mas modelos, utilizando distintas técnicas de extracción. En estos casos se comprobaran los modelos en busca del que solucione mejor el problema y en caso en que ninguno de los modelos obtenidos de la solución adecuada al problema, se debe alterar uno de los anteriores pasos.

Referencias:

• http://exa.unne.edu.ar/depar/areas/informatica/SistemasOperativos/MineriaDatosBressan.htm#Algoritmos%20de%20Miner%C3%ADa%20de%20Datos
• http://exa.unne.edu.ar/depar/areas/informatica/SistemasOperativos/Mineria_DatosVallejos.pdf

Text Mining y Redes Sociales

En esta entrega, hablaremos de las posibilidades de extraer conocimiento a partir del texto – pero no nos referimos al texto estructurado contenido en las bases de datos: hablamos del lenguaje natural, y particularmente, de lo que se consigna en las redes sociales. La minería de texto es un área propia de estudio, pues el procesamiento de la información no estructurada es mucho más amplio y complejo que aquél ejercido sobre las bases de datos.

Muchas organizaciones están presentes, por ejemplo, en Facebook o Twitter, pero utilizan la minería de datos sobre información procedente de los CRM (Customer Relationship Management) para análisis de tendencias y opiniones, desperdiciando así grandísimos niveles de información relacionada directamente en la Web. Por esta razón, han surgido términos como “Opinion Mining”, partiendo de la consideración del texto que circula en Internet como hechos u opiniones, o “Sentiment Analysis”, que representan factores muy valiosos para equipos de mercadeo. En este terreno, se suelen usar palabras clave para buscar –y algunos mecanismos extra para diferenciar cuándo se puede tratar de sarcasmos, por ejemplo–. Las aplicaciones de estos métodos son muy amplias, y representan un gran acercamiento a los clientes.

Otro interesante campo de aplicación ha sido el uso para la salud pública: por ejemplo, se han tomado palabras clave relacionadas con la influenza, para identificar los lugares donde los virus aparece, a partir de Blogs. Y, aún más, se ha buscado identificar qué comunidades sociales respectivas podrían ayudar a distribuir información preventiva. 

Las apariciones de influenza también han sido supervisadas a través de Twitter, así como la definición de los analgésicos más comunes consumidos por la gente, a partir de las recomendaciones que hacen los usuarios allí.

Otros ejemplos valiosos están en la predicción de éxito de las nuevas películas, a partir de las menciones realizadas en Twitter, o la clasificación de los tipos de música y tags de Last.Fm, entre otros. 

Para esto, se pueden utilizar herramientas como Real Time Text Analytics , Statistica Text Miner (como extensión de Statistica Data Miner), o la anteriormente mencionada RapidMiner, entre otras.

Referencias

Boorman, Chris. Why Data Mining Is the Next Frontier for Social Media Marketing.

http://mashable.com/2011/02/25/data-mining-social-marketing/

Jensen, David; Neville, Jennifer. Data Mining in Social Networks. University of Massachusetts. Consultado: 01.04.2012. http://www.cs.purdue.edu/homes/neville/papers/jensen-neville-nas2002.pdf

Liu, Bing. Opinion Mining. University of Illinois, Chicago. Consultado: 01.04.2012

http://www.cs.uic.edu/~liub/teach/cs583-spring-07/opinion-mining.pdf


Pang, Bo; Lee, Lillian. Cornell University. Opinion Mining and Sentiment Analysis. Consultado: 01.04.2012. http://www.cs.cornell.edu/home/llee/omsa/omsa.pdf

Social Media, Data Mining & Machine Learning Blog. European University of Madrid. ACM TIST Special Issue On Search And Mining User-Generated Contents. Consultado: 01.04.2012.
http://machine-learning.blogspot.com/

Schönhalz, David - Entrevista para Sozial-Media-Magazin. Opinion Mining und Sentiment-Analyse im Web 2.0. http://www.social-media-magazin.de/index.php/inhalt/opinion-mining-und-sentiment-analyse-im-web-20.html

Laurent, William. The Realities of Social Media Data Mining. Consultado: 01.04.2012. 

http://www.dashboardinsight.com/articles/new-concepts-in-business-intelligence/the-realities-of-social-media-data-mining.aspx

Asur, Sitaram; Huberman, Bernardo. Predicting the Future with Social Media. Consultado: 01.04.2012. http://www.hpl.hp.com/techreports/2010/HPL-2010-53.pdf

Morik, Katharina. Data Mining for Social Networks. Consultado: 01.04.2012. http://www.mis.ethz.ch/teaching/FS09/FS09/documents/Data.Mining.for.Social.Networks

Qué Hace un Software  Para Minería de Datos DMS

Las empresas almacenan una gran cantidad de datos que ocultan información importante, aprovechar esa información es vital para las compañías de la era de la información.

La minería de datos permite descubrir  automáticamente información potencialmente útil a partir de grandes cantidades de datos.

Existen dos clases de métodos generales para la minería de datos:

Los métodos de predicción de comportamientos, los cuales se usan para adelantarse a los resultados con una buena probabilidad de acertar; y los métodos de descripción de comportamientos que sirven para conocer los comportamientos en los acontecimientos relativos al negocio y poder tomar ventajas estratégicas.

Clasificación. Es un método de predicción de comportamientos que utiliza la definición de categorías. Como ejemplo se pueden clasificar las personas como Hombres y Mujeres y se puede predecir de estas categorías que los hombres compran licor, y que las mujeres compran zapatos.

Regresión. Es otro método de predicción de comportamientos cuyos elementos son los datos estadísticos, se efectúan sobre éstos, cálculos de regresión para identificar tendencias y poder predecir furas conductas.

Detección de desviaciones. Este también es un método de predicción de comportamientos, su foco está en revelar eventos que se salen de lo normal para efectuar una predicción de algún suceso.

Agrupación (Clustering). Este es un método  de descripción de comportamientos, su objetivo es agrupar en conjuntos los elementos similares en algún sentido para poder  describir sus características.

Descubrimiento de reglas de asociación. Es otro método para la descripción de comportamientos y consiste en encontrar las dependencias repetitivas en los acontecimientos descritos por los datos. El ejemplo clásico es que en los supermercados, las parejas jóvenes, los viernes compran cerveza y pañales.

   

Descubrimiento de patrones secuenciales. También se trata de un método de descripción, éste descubre cadenas de eventos que definen comportamientos.  Un ejemplo es, “Siempre que un semáforo está en rojo y pasa a verde, alguien pita”.