lunes, 26 de marzo de 2012


Qué Hace un Software  Para Minería de Datos DMS


Las empresas almacenan una gran cantidad de datos que ocultan información importante, aprovechar esa información es vital para las compañías de la era de la información.
La minería de datos permite descubrir  automáticamente información potencialmente útil a partir de grandes cantidades de datos.

Existen dos clases de métodos generales para la minería de datos:
Los métodos de predicción de comportamientos, los cuales se usan para adelantarse a los resultados con una buena probabilidad de acertar; y los métodos de descripción de comportamientos que sirven para conocer los comportamientos en los acontecimientos relativos al negocio y poder tomar ventajas estratégicas.

Clasificación. Es un método de predicción de comportamientos que utiliza la definición de categorías. Como ejemplo se pueden clasificar las personas como Hombres y Mujeres y se puede predecir de estas categorías que los hombres compran licor, y que las mujeres compran zapatos.




Regresión. Es otro método de predicción de comportamientos cuyos elementos son los datos estadísticos, se efectúan sobre éstos, cálculos de regresión para identificar tendencias y poder predecir furas conductas.






Detección de desviaciones. Este también es un método de predicción de comportamientos, su foco está en revelar eventos que se salen de lo normal para efectuar una predicción de algún suceso.

Agrupación (Clustering). Este es un método  de descripción de comportamientos, su objetivo es agrupar en conjuntos los elementos similares en algún sentido para poder  describir sus características.










Descubrimiento de reglas de asociación. Es otro método para la descripción de comportamientos y consiste en encontrar las dependencias repetitivas en los acontecimientos descritos por los datos. El ejemplo clásico es que en los supermercados, las parejas jóvenes, los viernes compran cerveza y pañales.

   





Descubrimiento de patrones secuenciales. También se trata de un método de descripción, éste descubre cadenas de eventos que definen comportamientos.  Un ejemplo es, “Siempre que un semáforo está en rojo y pasa a verde, alguien pita”.


viernes, 23 de marzo de 2012

Definición de DMS

Hoy presentamos un video de nuestra autoría, donde mostramos las generalidades de la minería de datos. Lo invitamos a compartir nuestra visión.


domingo, 18 de marzo de 2012


Ejemplos de Aplicación de Minería de Datos



Gobiernos


"El FBI analizará las bases de datos comerciales para detectar terroristas"


Lo que pretende como objetivo el FBI, es hacer uso de las herramientas de minería de datos para identificar a potenciales terroristas con antelación a que puedan cometer un atentado. Teniendo la cantidad de datos que tienen, pretenden estudiar los hábitos y costumbres de la población, sabiendo así si la persona fuma, que talla es, que tipo de ropa usa, si ha sido arrestado, el barrio donde vive, su salario, las revistas a las que esta suscrito, su altura , peso y entre otros aspectos que serian de gran ayuda para cumplir con el objetivo.

Deporte  


Los equipos de la NBA (National Basketball Association), hacen uso de la minería de datos para apoyar a sus cuerpos técnicos en cuanto a la toma de decisiones para sus futuras tácticas. Con el Advanced Scout, el cual es un software que emplea técnicas de minería de datos, el cuerpo técnico de los diferentes equipos, tienen a su disposición el análisis de los diferentes partidos jugados, teniendo así cada evento sucedido como lo son pases, encetes, rebotes y doble marcaje a un jugador por el equipo contrario, entre otros. Todos estos aspectos ayudan a concluir patrones que son poco visibles por el técnico al ver el partido en vivo o en vídeo. Por ejemplo, el doble marcaje a un jugador puede generalmente dar la oportunidad a otro jugador de encestar mas fácilmente. Con este conocimiento, los entrenadores crearon estrategias alternativas para tratar con el doble marcaje.

Terrorismo


Gracias a la minería de datos, el ejercito de los EE.UU, habían identificado al líder de los atentados del 11 de septiembre de 2001, Mohmmed Atta, y tres secuestradores mas.












Recursos Humanos


Bajo este tema, la minería de datos es útil para identificar las características de los empleados, mirando así, por ejemplo, cuales tienen un perfil de desempeño alto y cuales un perfil de desempeño bajo. Toda la información obtenida luego de practicar la minería de datos, puede ayudar a la contratación de personal que cumplan los requisitos de cierto cargo.



Genética


El objetivo de esta área, se trata de saber como los cambios en la secuencia de ADN de un individuo afectan al riesgo de desarrollar enfermedades comunes. Este proceso es de suma importancia para ayudar a mejorar el diagnostico, prevención y tratamiento de las enfermedades. La técnica de minería de datos que se utiliza para tal fin es conocida como reducción de dimensionalidad multifactorial.








Fraudes


La detección de fraudes en el uso de tarjetas de crédito o en servicios de telefonía móvil, normalmente suelen seguir patrones caracterisiticos que permiten distinguirlas de las legitimas para así desarrollar mecanismos con el fin de tomar medidas rápidas frente a ellas.










Patrones de fuga


En la mayoría de industrias, existen un entendible interés en detectar lo mas pronto posible a todos los clientes que probablemente estén pensando en cancelar los servicios con la empresa anulando sus contratos, o clientes que posiblemente estén obteniendo cierto interés por la competencia. Aquí, la minería de datos ayuda a determinar los clientes que podrían darse de baja, estudiando sus patrones de comportamiento y comparandolos con muestras de clientes que ya lo han hecho.

Habitos de compra en supermercados


Uno de los estudios mas citados, en cuanto a los hábitos que se pueden encontrar en las compras de supermercado, fue la detección del patrón de adquisición de cerveza y pañales al mismo tiempo, por  padres jóvenes los viernes en la noche. Jovenes cuya perspectiva para el fin de semana consistia en quedarse en casa cuidando de sus hijos viendo television con una cerveza en la mano.
Con el descubrimiento de este patron, los supermercados incrementaron sus ventas de cerveza colocandolas justo al lado de los pañales, con el fin de fomentar las ventas compulsivas.


Internet: Web Mining


Cada vez que un usuario visita un sitio web, deja una serie de huellas web (direcciones IP, navegador, etc) que los servidores van almacenando automáticamente en sus bases de datos. Con la minería de datos y en este caso "web mining" se analizan y procesan estos datos con el fin de producir información significativa. Por ejemplo, se pueden observar casos donde los clientes que hacen una compra en linea cada semana, tienden a ser sectores de la población determinados, como estudiantes, pensionistas, funcionarios u otros. El resultado de estos patrones, es proponer diversas ofertas a los diferentes sectores y asi conseguir un incremento en las compras de estos grupos.

Negocios


Normalmente, los metodos que aplican las empresas para administrar y contactar clientes son poco eficiente; lo hacen de una forma indiscriminada enviando cartas o desde un centro de llamada. Lo que hace en la mayoría de casos es contactar sin ningun patron de selección. El trato con los clientes al momento de ofrecer cualquier tipo de promoción o al momento de hacer cualquier otro tipo de contacto , se vería facilmente reflejado si se contactan a los clientes previamente estudiados y previamente seleccionados.

La contribución de la Minería de Datos se ve aplicada por ejemplo, al momento de contactar a los clientes que tienen una mayor probabilidad de responder positivamente a una determinada oferta o promoción, también podrían construir modelos separados para cada región y para cada tipo de cliente, en lugar de crear modelos para predecir que clientes pueden cambiar. Normalmente las empresas que utilizan minería de datos en casos como estos, ven rapidamente el retorno de la inversión.

Referencias:


http://www.slideshare.net/bebeyom/mineria-de-datos-4869412

http://es.scribd.com/doc/31683929/Ejemplos-de-uso-de-la-mineria-de-datos

http://www.it.uc3m.es/jvillena/irc/practicas/06-07/22.pdf

http://es.wikipedia.org/wiki/Miner%C3%ADa_de_datos#Ejemplos_de_uso_de_la_miner.C3.ADa_de_datos

domingo, 11 de marzo de 2012

El Valor de los Datos que Transitan en el Mundo

El uso de Business Intelligence fue una de las tendencias que marcaron la feria alemana CeBIT 2012, que culminó ayer, 10 de marzo. Allí participaron diferentes empresas de software, mostrando sus productos: el aprendizaje computacional y las técnicas de Data Mining están a la orden del día.


Como hemos mostrado en ocasiones anteriores, las herramientas de minería de datos proporcionan información muy valiosa para las empresas. Hasta ahora, hemos presentado algunos ejemplos de éxito y utilización en contextos típicos, como los datos locales en diferentes formatos, o Internet. Ahora es la oportunidad de ver algunos maravillosos ejemplos de uso de la minería de datos en contextos más amplios:

La construcción de una ciudad más inteligente

En el siguiente video, se muestra el uso de una aplicación (Intelligent Operations Center) para mejorar las diferentes operaciones de Zhenjiang, una ciudad turística de China. Por ahora, se puede desde allí monitorear el transporte: se toman datos de satélites, cámaras, sensores, entre otros, y se facilita la toma de decisiones mediante la identificación de tendencias. La aplicación en esta ciudad también proviene del aprendizaje en sistemas similares obtenido en otras ciudades (Río de Janeiro, New York, Estocolmo, Madrid, Singapur, entre otros)… y así, se busca identificar algunos patrones que faciliten la automatización de algunas operaciones en el futuro. Por supuesto, la minería de datos es la encargada de dilucidar estas tendencias, y consideramos que su uso en estos temas es decisivo y constituye un reto para el manejo de data mining en datos de gran cantidad y crecimiento (big data).

Monitoreando el uso de un carro electrónico


Elektroautos sind derzeit en vogue, so auch schon auf der jüngsten IAA in Frankfurt. (Bild: picture alliance / dpa /  Arne Dedert)Este tipo de vehículos está pasando por una importante fase de investigación y producción. Es el caso de 44 automóviles que se encuentran en circulación en Alemania, y que contienen “loggers” de datos autorizados, enviando información al Centro de Investigación en Inteligencia Artificial de Bremen: se envía la información de batería, posición, uso de la energía, velocidad, entre otros. Así, se generan “perfiles de movimiento”, que se deducen a partir de Data Mining: y todo, para establecer las necesidades y usos típicos de estos autos, y así definir nuevas metas de investigación, e incluso predecir su funcionamiento.



Seguridad Sanitaria

En un caso concreto, en Gales, existe una amplia cantidad de información acerca de las enfermedades animales de la región. Los factores de riesgo se han identificado, y se ha hecho una clasificación de estos para así mejorar las condiciones sanitarias. Todo esto, gracias al eficiente uso de diferentes técnicas de minería de datos: regresión, árboles de clasificación, y análisis de factores.

Applications of Data Mining in Computer Security

Seguridad Computacional

En el campo de la detección de intrusiones, la minería de datos puede jugar un factor decisivo, pues la cantidad de información que se manejan en las redes y sistemas es muy grande, haciendo que este tipo de problemas puedan ser estudiados mediante el software que aquí estudiamos: mediante DM es posible identificar aquellas anomalías que puedan sugerir las intrusiones, y el análisis de las implicaciones que éstas han tenido.


Referencias:

IBM. A Smarter Planet Project: Building an Operating System for Cities. 
http://asmarterplanet.com/blog/2012/02/building-an-operating-system-for-cities.html


IBM: Calabrese, Francisco. Smart Cities - How can Data Mining and Optimization shape Future Cities?
http://www.cost.eu/download/Calabrese 

Deutschlandfunk: Kloiber, Manfred. Auto als Datenquelle.
http://www.dradio.de/dlf/sendungen/forschak/1698145/


Ortiz-Peláez, Ángel. Use of data mining techniques to investigate disease risk classification as a proxy for compromised biosecurity of cattle herds in Wales
http://www.biomedcentral.com/1746-6148/4/24


Barbara, Daniel. Applications of Data Mining in Computer Security.
http://www.springer.com/computer/theoretical+computer+science/book/978-1-4020-7054-9

PresseBox. Teradata auf der CeBIT 2012: Datenanalysen stehen im Rampenlicht
http://www.pressebox.de/pressemeldungen/teradata-deutschland/boxid/487193

lunes, 5 de marzo de 2012


El Valor de los Datos que Transitan Internet




La minería Web (Web Mining o Webmining) es la metodología de recolección de información en la WEB. Por medio de minería de datos, se extrae información del contenido de las páginas, de los enlaces y de los registros de navegación.





En ésta, la era de la información la minería de datos en la WEB se hace protagonista.

Al cierre del 2011 se alcanza la gigantesca cifra de 2.1 mil millones de usuarios de internet en el mundo, además los usuarios de internet en los diferentes continentes son entre el 11% y el 78% de la población total y ahora con el auge del internet móvil, esta cifra sigue subiendo. Cada uno de estos usuarios día a día van dejando un rastro importante de datos que se convierten, para muchos, en el oro del momento.    

  
Las empresas que mejor convierten los datos en información relevante para el negocio y ésta a su vez en conocimiento útil para la innovación, son las empresas que lideran los mercados. Cada día, muchos sitios de internet están recogiendo datos, haciendo clasificaciones y encontrando patrones por medio de técnicas de minería de datos (WEB Mining), sacando provecho de la información implícita que dejamos. Hay tres objetivos claves en la minería WEB:


Minería del uso de la Web
Es el proceso mediante el cual se extrae información del historial de los registros del servidor con el fin de descubrir cómo y para qué usa la web e identificar lo que los usuarios buscan en Internet.
Minería del contenido de la Web
Con este método se extraen e integran los datos útiles, información y conocimiento de los contenidos de la Web tales como imágenes, audio, texto, video, etc.
Minería de la estructura de la Web
En este proceso se utiliza la teoría de grafos para analizar el nodo y las estructuras de conexión de un sitio web.


Empresas poderosas por la información que poseen, como Google, FaceBook, Micosoft, Yahoo, Apple entre otros, hacen uso de la minería Web; esto les permite, por ejemplo, mejorar el acierto en la publicidad que aparece en las páginas al clasificar a los usuarios de acuerdo las características encontradas por medio de sus datos; identificar preferencias u opiniones de los clientes oportunamente a través del reconocimiento de patrones en las búsquedas o compras. En internet es fácil encontrar datos generales como la ubicación o la hora que pueden ayudar a crear estadísticas relevantes a los negocios.

Toda esta información, en un alto porcentaje, es usada para encontrar clientes potenciales en internet para todo tipo de productos y servicios.

Ventajas
Muchas son las ventajas que provee esta tecnología, influye en que aumenten los volúmenes en el comercio, aporta en la aparición de nuevas iniciativas, productos y servicios, provoca mas innovación, permite un mejor servicio al cliente, apoya el control de la autoridades por medio de la predicción de actividades delictivas. En líneas generales, si los datos y la información son “el oro del momento”, la minería Web es la herramienta para extraerlo.

Polémicas
Como todo no es color de rosa, cabe mencionar que entre todo este bum de la información en internet, hay algunas polémicas que surgen del manejo que se le da a la información. La que más ruido hace es la que se refiere a la información personal y al derecho a la privacidad. Existen empresas que se dedican a crear y vender a terceros clasificaciones y bases con los datos de los usuarios que inocentemente transitan en internet.  Mucha de la información personal de los usuarios de internet se encuentra suelta y sin restricciones,  ¿Hasta qué punto será que es tolerable su uso?

Referencias
Wikipedia. (4 de Marzo de 2012). Web Mining
(4 de Marzo de 2012)
NAP. Comportamiento del trafico NAP en Colombia
(4 de Marzo de 2012)

Pingdom. (17 de Enero de 2012).  Internet 2011 in numbers
(4 de Marzo de 2012)
Jorge Enrique Mújica, LC. (13 de Septiembre de 2010). El negocio de la información personal en Internet
(4 de Marzo de 2012)

Jessica E. Vascellaro. (12 de Agosto de 2010). La publicidad personalizada y el dilema de Google sobre privacidad
(4 de Marzo de 2012)
Time Magazine. Joel Stain(10 de Marzo de 2011). How Companies Now Know Everything About You
(4 de Marzo de 2012)

domingo, 26 de febrero de 2012

Data Mining bajo una solución Open-Source: RarpidMiner 


Solución que según una encuesta realizada por KDnuggets (periódico especializado en Data Mining), se ha posicionado en los primeros lugares de la lista de las soluciones de software de minería de datos y herramientas analíticas utilizadas para proyectos reales en 2009 y 2010. Siendo así líder mundial de los sistemas de exploración de datos y texto de código abierto, con la posibilidad de ser encontrado como una aplicación independiente para el análisis de datos y como un motor de minería.

Mayo de 2009 segundo lugar depues de SPSS RASW. Mas info aqui.

Mayo de 2010 encabezando la lista con 345 votos de 912. Mas info aqui.


Es una solución escrita en lenguaje de programación Java que se encuentra distribuida bajo licencia de código abierto ofreciéndonos la minería de datos, bajo las modalidades de extracción, transformación y carga de datos (ETL), procesamiento, modelación, evaluación y despliegue de datos.

Con esta solución, lo que se obtiene es una óptima exploración de datos, simplificación de la construcción de procesos de análisis, evaluación de diferentes enfoques y la combinación de pre-procesamiento. Adicionándole la posibilidad de utilizar más de 400 operadores de minería de datos; combinándolos arbitrariamente. Configurado por archivos XML que son fácilmente creados con una interfaz gráfica (GUI).

Características principales:
  •  Gran colección de algoritmos para la minería de datos (decisión trees and self-organization maps).
  • Superposición de los histogramas, diagramas de árbol y gráficos 3D de dispersión.
  • Variedad de plugins.

Campos de aplicación:
  • Industria electrónica.
  • Industria de energía.
  • Industria automotriz.
  • Industria farmacéutica.
  • Comercio.
  • Aviación.
  • Telecomunicaciones.
  • Banca y seguros.
  • Producción.
  • IT.
  • Investigación de mercado.

Ejemplos de aplicación:
  • Exploración de datos en Excel.
  • Construcción de flujos de trabajo personalizados del análisis de datos.
  • Es posible llamar las funciones de RapidMiner desde programas escritos en otros lenguajes.


continuación les compartimos el link de descarga, algunos links que probablemente les serán de mucha ayuda al momento de dar inicio en este y un video que incluye una ligera demostración de como importar datos a RapidMiner.

Descarga:                                   http://rapid-i.com/content/view/26/82/ 
Descripción de Operación:           http://rapid-i.com/content/view/12/34/
Imágenes:                                  http://rapid-i.com/content/view/9/25/


Importing Data into RapidMiner (Data Mining and Predictive Analytics System).










domingo, 19 de febrero de 2012

Entradas y salidas: ¿qué se analiza? ¿Cuál es el resultado?


Cuando hablamos de minería de datos, es claro que entra al análisis una gran cantidad de datos, y que se obtiene una representación de lo que no se conocía; es decir, se hace uso de la información recibida, para generar conocimiento. Cuando usted utilice software de minería de datos, observará que se cumplen los conceptos generales de los datos ingresados, y las representaciones obtenidas. Aquí le presentamos cómo entenderlos.

Básicamente, cuando se desea hacer un análisis mediante minería de datos, se formula una pregunta sobre lo que se desea conocer (un concepto, al que se puede llegar mediante diversos métodos). Teniendo esto claro, se introducen las instancias (es decir, los casos), con sus correspondientes atributos al software de Data Mining. Por ejemplo, en el mencionado caso de los pañales y la cerveza, podría pensarse que se decidió incluir todas las ventas del fin de semana del supermercado: siendo cada producto una instancia, sus atributos podrían incluir la hora en que fue comprado, y en qué factura se registró (por supuesto, entre otros).  

El software de data mining toma toda esta información, la agrupa y estudia según diferentes métodos (que explicaremos luego) y presenta la información según corresponda: puede presentar tablas, que es la forma más simple; modelos lineales (también llamados de regresión), árboles de decisión, reglas (estos dos pueden usarse alternativamente), representación basada en instancias (es decir, ubicando los ejemplos en un modelo), y clusters (cuando los conceptos incluyen la reunión de varias características).










Referencias:

Witten, Ian et al. Data Mining. Practical Machine Learning Tools and Techniques. Ed. Morgan Kaufmann. Burlington, USA.

The University of Edinburgh. Data Mining and Exploration. http://www.inf.ed.ac.uk/teaching/courses/dme/

Kantardzic, Mehmed. Data Mining: Concepts, Models, Methods, and Algorithms. IEEE Press.

Data Mining Software, Tools and Applications. http://www.the-data-mine.com/Software/DataMiningSoftware