¡Árbol de decisión!
Un árbol de decisiones es uno de los algoritmos de aprendizaje automático supervisado más fundamentales para problemas de clasificación y regresión. Funciona muy bien con conjuntos de datos complejos y es muy fácil de entender. Como sugiere el nombre, este algoritmo funciona dividiendo todo el conjunto de datos en una estructura similar a un árbol en función de algunas condiciones y luego brinda predicciones basadas en esas condiciones.
Dos tipos de árboles de decisión.
- Árbol de decisión para variable categórica
from sklearn.tree import DecisionTreeClassifier
En esto, tenemos un objetivo continuo o variables de salida. Por ejemplo, tenemos que predecir los ingresos de una persona dependiendo de su ocupación, educación, edad, etc.
from sklearn.tree import DecisionTreeClassifier
- Entropía: la entropía medirá la pureza presente en el conjunto de datos. La entropía se encuentra entre 0 y 1. Está dada por,
E = -p*log2(p) – q*log2(q)
Ginni = 1 - sum(Pi**2)
Diferentes algoritmos para el árbol de decisión
- ID3 (Iterative Dichotomiser): Es uno de los algoritmos utilizados para construir un árbol de decisión para la clasificación. Utiliza la ganancia de información como criterio para encontrar los nodos raíz y dividirlos. Solo acepta atributos categóricos.
- C4.5: Es una extensión del algoritmo ID3, y mejor que ID3 ya que trata tanto con valores continuos como discretos.
- CART (Algoritmo de Clasificación y Regresión): Es el algoritmo más popular utilizado para construir un árbol de decisión. Utiliza la impureza de Ginni como cálculo predeterminado para seleccionar los nodos raíz; sin embargo, también podemos usar la entropía como criterio. Este algoritmo funciona tanto en problemas de regresión como de clasificación.
- Los árboles se pueden visualizar.
- Simple y fácil de entender e interpretar.
- Se puede utilizar tanto para problemas de regresión como de clasificación.
- Puede manejar tanto variables continuas como categóricas.
- El escalado y la normalización (Escalado de características) no son necesarios.
- Manejará los valores faltantes.
- Robusto a valores atípicos.
- sobreajuste son muy altos para los árboles de decisión. (Sesgo bajo, varianza alta)
- Un pequeño cambio en los datos puede causar inestabilidad en el modelo debido al enfoque codicioso.
- No es adecuado para grandes conjuntos de datos. (Usar bosque aleatorio)
En este artículo, vimos qué es el árbol de decisión, los tipos de árbol de decisión, los diferentes algoritmos de los árboles de decisión, las ventajas y desventajas del árbol de decisión.
Gracias por leer. Házmelo saber en los comentarios a continuación o hazme un ping en LinkedIn si tienes alguna duda.
encuéntrame en LinkedIn | GitHub | Correo electrónico
¡¡¡Feliz aprendizaje!!! ^_^
Suggested posts
Implementación de memoria asociativa
Escrito por Shashata Sawmya y Harveer Singh Con el advenimiento de las grandes redes neuronales y los avances tecnológicos cada vez mayores que llevan los métodos actuales a su límite absoluto, el enfoque ha sido crear una herramienta general que apunta a hacer todo. Sin embargo, la mayoría de las tareas no necesitarían redes profundas increíblemente intensivas, sino algo más versátil que los modelos matemáticos básicos.
Cómo ejecutar los complementos de ChatGPT de forma gratuita usando Langchain
Debe haber oído hablar de todos los complementos nuevos y potentes de ChatGPT, como el navegador, el intérprete de código, etc. Pero hay un problema, el acceso a los complementos está limitado a una lista de espera y, por lo tanto, muchos no tienen acceso a ellos.
Related posts
El desafío de lectura de Goodreads es tóxico
La picazón en mi mano se extendió mientras negociaba con el librero local por otro libro. Este libro, como el resto que compré recientemente, encontraría su trono en mi pila de 'To Be Read' (TBR); y sin embargo, lo compré.
¿Qué hace que un podcast sea influyente?
La semana pasada noté un comunicado de prensa, enviado a través de PressGazette (un sitio web de noticias de los medios británicos). El artículo anunciaba que Acast, la empresa de publicidad y alojamiento de podcasts de Scandi, lideraría un consorcio de editores "probablemente los más influyentes" en podcasting.
3 formas comprobadas de mejorar su habilidad de escritura
Los beneficios de escribir y estrategias para ayudarte a hacerlo
En 2022, con el lanzamiento de GPT-3, la habilidad de escritura parece perder importancia. Con IA, las personas con mala escritura también pueden generar personal de calidad.