Saltar al contenido ForoHackers

Procesamiento del lenguaje natural: por dónde empezar

Procesamiento del lenguaje natural
#338 · Ophuscado · · Denunciar

El procesamiento del lenguaje natural consiste en lograr que las computadoras trabajen con el lenguaje humano: dividirlo, etiquetarlo, buscar en él, traducirlo, responder preguntas sobre él. El lenguaje es ambiguo, depende del contexto y cambia en cada idioma y dialecto, y eso hace que el campo sea a la vez difícil e infinitamente útil.

Conceptos clave

  • Preparación del texto: normalización, división en frases y palabras, tokens de subpalabras, y los problemas de codificación que vienen antes de todo.
  • Representaciones: bolsa de palabras y TF-IDF, y luego embeddings densos de palabras y frases que colocan cerca los significados parecidos.
  • Tareas centrales: clasificación, etiquetado de secuencias como las entidades nombradas, análisis sintáctico, resumen, traducción, preguntas y respuestas.
  • Modelos de lenguaje: puntuar o generar texto; la misma idea va de los n-gramas a los modelos neuronales.
  • Multilingüismo: las escrituras, la morfología y el orden de las palabras difieren, y los idiomas con pocos recursos tienen pocos datos.

Vocabulario

  • Corpus: una colección de texto usada para entrenar o estudiar.
  • Token: la unidad que lee un sistema, una palabra, una pieza de subpalabra o un carácter.
  • Etiqueta gramatical: la categoría gramatical de una palabra, como sustantivo o verbo.
  • Entidad nombrada: un fragmento que nombra a una persona, un lugar, una organización o una fecha.

Qué estudiar, en orden

  1. Expresiones regulares y Unicode: maneja acentos, escrituras y entradas sucias sin romper nada.
  2. Cuenta palabras en un corpus, aplica TF-IDF y construye encima una búsqueda sencilla y un clasificador.
  3. Entrena embeddings de palabras con un corpus pequeño y explora los vecinos más cercanos y sus sesgos.
  4. Construye un etiquetador de secuencias para entidades nombradas y mide precisión, exhaustividad y F1 por clase.
  5. Evalúa un sistema de traducción o de resumen con varias métricas, y lee las salidas a mano.

Etiquetas relacionadas

#llms #information-retrieval #machine-learning #speech #ai-evaluation

Inicia sesión o únete para responder.