La importancia del contexto empresarial y tecnológico. Ejemplo: Pentaho Business Analytics.

Antes de presentar esta herramienta que por muchas razones es hoy famosa, quisiéramos dejar una reflexión respecto a la minería de datos en el contexto empresarial: ¿por qué es conveniente utilizarla?, ¿le sirve a todas las empresas?, ¿qué se gana al “minar” los datos?, ¿y cómo se diseña un proceso de minería de datos?
Un primer acercamiento a estos interrogantes que justifican el estudio de esta solución de software es precisamente pensar si usted conoce realmente las necesidades de su organización. La minería de datos, por sí sola, no constituye una ganancia, y su utilidad estará dada en la medida en que se utilice de manera ajustada a la empresa, pues la inversión en tiempo y recursos de todo tipo puede ser realmente alta.
Una parte importante de la selección es también pensar que la solución adquirida sea útil de acuerdo a las posibles tendencias tecnológicas. Basándonos en esto, y en las tendencias tecnológicas sugeridas por Gartner Inc., sugerimos que sería útil que las aplicaciones soporten el manejo de grandes cantidades de información (Big Data), que tengan integración en dispositivos móviles, que funcionen también en la nube, y por supuesto, que apoyen los análisis de próxima generación.  

  

Dicho esto, presentamos hoy una aplicación que integra diversos aspectos para analizar el negocio en general, y que podría estar a la vanguardia en temas tecnológicos si nos regimos por las ideas mencionadas: Pentaho Business Analytics, una interesante herramienta que permite hacer todo tipo de reportes, tableros de mando, análisis / minería de datos, soporte para iPad, integración y calidad de los datos, administración centralizada y despliegue en la nube. Todo esto, con un entorno bastante amigable, y disponible en diferentes versiones según las necesidades de su empresa. A continuación, se presenta el video que muestra las características de este software, que si bien va más allá de la minería de datos como solución única, se acerca de manera integral al contexto empresarial y abre paso a la inteligencia de negocios.

Referencias:


Notas de Clase. Profesor Mauricio Martínez, Soluciones de Software, Escuela Colombiana de Ingeniería, abril de 2012.


Pentaho Business Analytics. http://www.pentaho.com/explore/pentaho-business-analytics/

PcWorld. Tendencias Estratégicas para el 2012 por Gartner Inc. http://www.pcworld.com.mx/Articulos/19396.htm

EMPECEMOS A MINAR DATOS DE VERDAD VERDAD

Con el aumento de los usuarios de Internet en todo el mundo en los últimos años, también ha aumentado el mercado virtual, es decir que cada vez hay más personas que compran por Internet y así mismo más tiendas virtuales que ofrecen  más productos.  Por lo anterior, el tema de la optimización automática de precios en el comercio electrónico está creciendo en importancia. Esto se debe en particular al hecho de que se pueden lograr aumentos significativos en los márgenes de utilidad utilizando estrategias inteligentes para adjudicar precios. Además de los algoritmos estándar diseñados y utilizados básicamente para la optimización de los precios de cada producto en las tiendas en línea, también se desarrollan algoritmos especiales que se utilizan para asuntos tales como la venta de los productos combinados o de la venta rápida de bienes perecederos.

 

Desde el 2002 se viene realizando un certamen anual en Alemania (Data Mining Cup) que premia al mejor grupo de estudiantes desarrolladores de minería de datos. Este evento da oportunidades para foguearse en la práctica de minar datos reales y aplicar sus beneficios en un ejercicio real. Este año el concurso tiene algunos objetivos principales: la descripción de dependencias entre datos, la predicción de ítems de venta y la optimización de beneficios de un portal de ventas en línea. En el año en curso abrieron  el registro de participantes el 01 de marzo, comenzó la competencia con la publicación de las tareas el  03 de abril, la competencia esta en curso y se espera la presentación de los resultados el 15 de mayo, fecha en la que se da por terminado el concurso. La premiación tendrá lugar en Berlín junto con una conferencia internacional de temas de Data Mining durante los días 26 y 27 de junio. Los premios van de 500 a 2000 euros y viajes para  algunos de los integrantes de equipos finalistas a la ceremonia de premiación.

 Los organizadores ofrecen la información del ejercicio de la competencia, por lo cual, si estos temas le son de interés y desea realizar el ejercicio por su cuenta, en este link puede encontrar la especificación.

Por la trayectoria del campeonato y las empresas que participan y lo respaldan,  hacer parte puede ser importante tanto como vitrina como medio de aprendizaje y experiencia, por eso merece pertenecer a las consideraciones para el año que viene.

Referencias

Pagina oficial del concurso Data Mining Cup.

http://www.data-mining-cup.de/en

(15 de abril de 2012)

Fases de la Mineria de Datos

Cualquier proyecto de Minería de Datos, independiente de su enfoque y de las técnicas de extracción utilizadas al transcurso del proceso, debe atravesar por una serie de fases que hace que el proceso sea exitoso desde que inicia hasta que culmina. Dando así un análisis completo y efectivo para tomar una decisión correcta.


Las siguientes son las fases que normalmente abarca un proyecto de Minería de Datos:

• Filtrado de Datos.
• Selección de Variables.
• Extracción de Conocimiento.
• Interpretación y Evaluación.

Imagen 1: Fases dentro de un proyecto de Minería de Datos

• Filtrado de Datos

En muchos casos el formato de los datos fuente no son adecuadamente ligeros para ser tratados en estos procesos, por tal motivo el objetivo en esta fase, es filtrar los datos de tal manera que se eliminen todos los valores incorrectos, todos los valores no validos y desconocidos, reduciendo así el número de valores posibles para ser tratados en un  proceso como lo es el proceso de Data Mining. 

• Selección de Variables.

Para reducir el tamaño de los datos elegidos, se deben establecer las características correspondientes y necesarias para ser aplicadas a la selección correcta de los datos. Asi tener las variables que influyen con mas fuerza en el problema a solucionar; los métodos utilizados para la selección de las características son los siguientes:

• Aquellos basados en la eleción de los mejores atributos del problema.
• Aquellos que buscan variables independientes mediante pruebas de sensibilidad, algoritmos de distancia. 

• Extracción de Conocimiento

"Mediante una técnica de minería de datos, se obtiene un modelo de conocimiento,

que representa patrones de comportamiento observados en los valores de las variables del problema o relaciones de asociación entre dichas variables".

• Interpretación y Evaluación

Luego de obtener el modelo final, se debe validar las conclusiones obtenidas al finalizaar el proceso de extracción. Se debe comprobar que las conclusiones arrojadas son validas, suficientes y satisfactorias. 

Podemos tener el caso, en el que nos resulten dos o mas modelos, utilizando distintas técnicas de extracción. En estos casos se comprobaran los modelos en busca del que solucione mejor el problema y en caso en que ninguno de los modelos obtenidos de la solución adecuada al problema, se debe alterar uno de los anteriores pasos.

Referencias:

• http://exa.unne.edu.ar/depar/areas/informatica/SistemasOperativos/MineriaDatosBressan.htm#Algoritmos%20de%20Miner%C3%ADa%20de%20Datos
• http://exa.unne.edu.ar/depar/areas/informatica/SistemasOperativos/Mineria_DatosVallejos.pdf

Text Mining y Redes Sociales

En esta entrega, hablaremos de las posibilidades de extraer conocimiento a partir del texto – pero no nos referimos al texto estructurado contenido en las bases de datos: hablamos del lenguaje natural, y particularmente, de lo que se consigna en las redes sociales. La minería de texto es un área propia de estudio, pues el procesamiento de la información no estructurada es mucho más amplio y complejo que aquél ejercido sobre las bases de datos.

Muchas organizaciones están presentes, por ejemplo, en Facebook o Twitter, pero utilizan la minería de datos sobre información procedente de los CRM (Customer Relationship Management) para análisis de tendencias y opiniones, desperdiciando así grandísimos niveles de información relacionada directamente en la Web. Por esta razón, han surgido términos como “Opinion Mining”, partiendo de la consideración del texto que circula en Internet como hechos u opiniones, o “Sentiment Analysis”, que representan factores muy valiosos para equipos de mercadeo. En este terreno, se suelen usar palabras clave para buscar –y algunos mecanismos extra para diferenciar cuándo se puede tratar de sarcasmos, por ejemplo–. Las aplicaciones de estos métodos son muy amplias, y representan un gran acercamiento a los clientes.

Otro interesante campo de aplicación ha sido el uso para la salud pública: por ejemplo, se han tomado palabras clave relacionadas con la influenza, para identificar los lugares donde los virus aparece, a partir de Blogs. Y, aún más, se ha buscado identificar qué comunidades sociales respectivas podrían ayudar a distribuir información preventiva. 

Las apariciones de influenza también han sido supervisadas a través de Twitter, así como la definición de los analgésicos más comunes consumidos por la gente, a partir de las recomendaciones que hacen los usuarios allí.

Otros ejemplos valiosos están en la predicción de éxito de las nuevas películas, a partir de las menciones realizadas en Twitter, o la clasificación de los tipos de música y tags de Last.Fm, entre otros. 

Para esto, se pueden utilizar herramientas como Real Time Text Analytics , Statistica Text Miner (como extensión de Statistica Data Miner), o la anteriormente mencionada RapidMiner, entre otras.

Referencias

Boorman, Chris. Why Data Mining Is the Next Frontier for Social Media Marketing.

http://mashable.com/2011/02/25/data-mining-social-marketing/

Jensen, David; Neville, Jennifer. Data Mining in Social Networks. University of Massachusetts. Consultado: 01.04.2012. http://www.cs.purdue.edu/homes/neville/papers/jensen-neville-nas2002.pdf

Liu, Bing. Opinion Mining. University of Illinois, Chicago. Consultado: 01.04.2012

http://www.cs.uic.edu/~liub/teach/cs583-spring-07/opinion-mining.pdf


Pang, Bo; Lee, Lillian. Cornell University. Opinion Mining and Sentiment Analysis. Consultado: 01.04.2012. http://www.cs.cornell.edu/home/llee/omsa/omsa.pdf

Social Media, Data Mining & Machine Learning Blog. European University of Madrid. ACM TIST Special Issue On Search And Mining User-Generated Contents. Consultado: 01.04.2012.
http://machine-learning.blogspot.com/

Schönhalz, David - Entrevista para Sozial-Media-Magazin. Opinion Mining und Sentiment-Analyse im Web 2.0. http://www.social-media-magazin.de/index.php/inhalt/opinion-mining-und-sentiment-analyse-im-web-20.html

Laurent, William. The Realities of Social Media Data Mining. Consultado: 01.04.2012. 

http://www.dashboardinsight.com/articles/new-concepts-in-business-intelligence/the-realities-of-social-media-data-mining.aspx

Asur, Sitaram; Huberman, Bernardo. Predicting the Future with Social Media. Consultado: 01.04.2012. http://www.hpl.hp.com/techreports/2010/HPL-2010-53.pdf

Morik, Katharina. Data Mining for Social Networks. Consultado: 01.04.2012. http://www.mis.ethz.ch/teaching/FS09/FS09/documents/Data.Mining.for.Social.Networks

Qué Hace un Software  Para Minería de Datos DMS

Las empresas almacenan una gran cantidad de datos que ocultan información importante, aprovechar esa información es vital para las compañías de la era de la información.

La minería de datos permite descubrir  automáticamente información potencialmente útil a partir de grandes cantidades de datos.

Existen dos clases de métodos generales para la minería de datos:

Los métodos de predicción de comportamientos, los cuales se usan para adelantarse a los resultados con una buena probabilidad de acertar; y los métodos de descripción de comportamientos que sirven para conocer los comportamientos en los acontecimientos relativos al negocio y poder tomar ventajas estratégicas.

Clasificación. Es un método de predicción de comportamientos que utiliza la definición de categorías. Como ejemplo se pueden clasificar las personas como Hombres y Mujeres y se puede predecir de estas categorías que los hombres compran licor, y que las mujeres compran zapatos.

Regresión. Es otro método de predicción de comportamientos cuyos elementos son los datos estadísticos, se efectúan sobre éstos, cálculos de regresión para identificar tendencias y poder predecir furas conductas.

Detección de desviaciones. Este también es un método de predicción de comportamientos, su foco está en revelar eventos que se salen de lo normal para efectuar una predicción de algún suceso.

Agrupación (Clustering). Este es un método  de descripción de comportamientos, su objetivo es agrupar en conjuntos los elementos similares en algún sentido para poder  describir sus características.

Descubrimiento de reglas de asociación. Es otro método para la descripción de comportamientos y consiste en encontrar las dependencias repetitivas en los acontecimientos descritos por los datos. El ejemplo clásico es que en los supermercados, las parejas jóvenes, los viernes compran cerveza y pañales.

   

Descubrimiento de patrones secuenciales. También se trata de un método de descripción, éste descubre cadenas de eventos que definen comportamientos.  Un ejemplo es, “Siempre que un semáforo está en rojo y pasa a verde, alguien pita”.

Definición de DMS

Hoy presentamos un video de nuestra autoría, donde mostramos las generalidades de la minería de datos. Lo invitamos a compartir nuestra visión.

Ejemplos de Aplicación de Minería de Datos

Gobiernos

"El FBI analizará las bases de datos comerciales para detectar terroristas"


Lo que pretende como objetivo el FBI, es hacer uso de las herramientas de minería de datos para identificar a potenciales terroristas con antelación a que puedan cometer un atentado. Teniendo la cantidad de datos que tienen, pretenden estudiar los hábitos y costumbres de la población, sabiendo así si la persona fuma, que talla es, que tipo de ropa usa, si ha sido arrestado, el barrio donde vive, su salario, las revistas a las que esta suscrito, su altura , peso y entre otros aspectos que serian de gran ayuda para cumplir con el objetivo.

Deporte  

Los equipos de la NBA (National Basketball Association), hacen uso de la minería de datos para apoyar a sus cuerpos técnicos en cuanto a la toma de decisiones para sus futuras tácticas. Con el Advanced Scout, el cual es un software que emplea técnicas de minería de datos, el cuerpo técnico de los diferentes equipos, tienen a su disposición el análisis de los diferentes partidos jugados, teniendo así cada evento sucedido como lo son pases, encetes, rebotes y doble marcaje a un jugador por el equipo contrario, entre otros. Todos estos aspectos ayudan a concluir patrones que son poco visibles por el técnico al ver el partido en vivo o en vídeo. Por ejemplo, el doble marcaje a un jugador puede generalmente dar la oportunidad a otro jugador de encestar mas fácilmente. Con este conocimiento, los entrenadores crearon estrategias alternativas para tratar con el doble marcaje.

Terrorismo

Gracias a la minería de datos, el ejercito de los EE.UU, habían identificado al líder de los atentados del 11 de septiembre de 2001, Mohmmed Atta, y tres secuestradores mas.












Recursos Humanos

Bajo este tema, la minería de datos es útil para identificar las características de los empleados, mirando así, por ejemplo, cuales tienen un perfil de desempeño alto y cuales un perfil de desempeño bajo. Toda la información obtenida luego de practicar la minería de datos, puede ayudar a la contratación de personal que cumplan los requisitos de cierto cargo.



Genética

El objetivo de esta área, se trata de saber como los cambios en la secuencia de ADN de un individuo afectan al riesgo de desarrollar enfermedades comunes. Este proceso es de suma importancia para ayudar a mejorar el diagnostico, prevención y tratamiento de las enfermedades. La técnica de minería de datos que se utiliza para tal fin es conocida como reducción de dimensionalidad multifactorial.








Fraudes

La detección de fraudes en el uso de tarjetas de crédito o en servicios de telefonía móvil, normalmente suelen seguir patrones caracterisiticos que permiten distinguirlas de las legitimas para así desarrollar mecanismos con el fin de tomar medidas rápidas frente a ellas.










Patrones de fuga

En la mayoría de industrias, existen un entendible interés en detectar lo mas pronto posible a todos los clientes que probablemente estén pensando en cancelar los servicios con la empresa anulando sus contratos, o clientes que posiblemente estén obteniendo cierto interés por la competencia. Aquí, la minería de datos ayuda a determinar los clientes que podrían darse de baja, estudiando sus patrones de comportamiento y comparandolos con muestras de clientes que ya lo han hecho.

Habitos de compra en supermercados

Uno de los estudios mas citados, en cuanto a los hábitos que se pueden encontrar en las compras de supermercado, fue la detección del patrón de adquisición de cerveza y pañales al mismo tiempo, por  padres jóvenes los viernes en la noche. Jovenes cuya perspectiva para el fin de semana consistia en quedarse en casa cuidando de sus hijos viendo television con una cerveza en la mano.
Con el descubrimiento de este patron, los supermercados incrementaron sus ventas de cerveza colocandolas justo al lado de los pañales, con el fin de fomentar las ventas compulsivas.


Internet: Web Mining

Cada vez que un usuario visita un sitio web, deja una serie de huellas web (direcciones IP, navegador, etc) que los servidores van almacenando automáticamente en sus bases de datos. Con la minería de datos y en este caso "web mining" se analizan y procesan estos datos con el fin de producir información significativa. Por ejemplo, se pueden observar casos donde los clientes que hacen una compra en linea cada semana, tienden a ser sectores de la población determinados, como estudiantes, pensionistas, funcionarios u otros. El resultado de estos patrones, es proponer diversas ofertas a los diferentes sectores y asi conseguir un incremento en las compras de estos grupos.

Negocios

Normalmente, los metodos que aplican las empresas para administrar y contactar clientes son poco eficiente; lo hacen de una forma indiscriminada enviando cartas o desde un centro de llamada. Lo que hace en la mayoría de casos es contactar sin ningun patron de selección. El trato con los clientes al momento de ofrecer cualquier tipo de promoción o al momento de hacer cualquier otro tipo de contacto , se vería facilmente reflejado si se contactan a los clientes previamente estudiados y previamente seleccionados.

La contribución de la Minería de Datos se ve aplicada por ejemplo, al momento de contactar a los clientes que tienen una mayor probabilidad de responder positivamente a una determinada oferta o promoción, también podrían construir modelos separados para cada región y para cada tipo de cliente, en lugar de crear modelos para predecir que clientes pueden cambiar. Normalmente las empresas que utilizan minería de datos en casos como estos, ven rapidamente el retorno de la inversión.

Referencias:


http://www.slideshare.net/bebeyom/mineria-de-datos-4869412

http://es.scribd.com/doc/31683929/Ejemplos-de-uso-de-la-mineria-de-datos

http://www.it.uc3m.es/jvillena/irc/practicas/06-07/22.pdf

http://es.wikipedia.org/wiki/Miner%C3%ADa_de_datos#Ejemplos_de_uso_de_la_miner.C3.ADa_de_datos