Skip to the content ForoHackers
Log inJoin

Procesamiento del lenguaje natural: por dónde empezar

Natural language processing
#2844 · · Quote · Report

El procesamiento del lenguaje natural consiste en lograr que las computadoras trabajen con el lenguaje humano: dividirlo, etiquetarlo, buscar en él, traducirlo, responder preguntas sobre él. El lenguaje es ambiguo, depende del contexto y cambia en cada idioma y dialecto, y eso hace que el campo sea a la vez difícil e infinitamente útil.

Conceptos clave

  • Preparación del texto: normalización, división en frases y palabras, tokens de subpalabras, y los problemas de codificación que vienen antes de todo.
  • Representaciones: bolsa de palabras y TF-IDF, y luego embeddings densos de palabras y frases que colocan cerca los significados parecidos.
  • Tareas centrales: clasificación, etiquetado de secuencias como las entidades nombradas, análisis sintáctico, resumen, traducción, preguntas y respuestas.
  • Modelos de lenguaje: puntuar o generar texto; la misma idea va de los n-gramas a los modelos neuronales.
  • Multilingüismo: las escrituras, la morfología y el orden de las palabras difieren, y los idiomas con pocos recursos tienen pocos datos.

Vocabulario

  • Corpus: una colección de texto usada para entrenar o estudiar.
  • Token: la unidad que lee un sistema, una palabra, una pieza de subpalabra o un carácter.
  • Etiqueta gramatical: la categoría gramatical de una palabra, como sustantivo o verbo.
  • Entidad nombrada: un fragmento que nombra a una persona, un lugar, una organización o una fecha.

Qué estudiar, en orden

  1. Expresiones regulares y Unicode: maneja acentos, escrituras y entradas sucias sin romper nada.
  2. Cuenta palabras en un corpus, aplica TF-IDF y construye encima una búsqueda sencilla y un clasificador.
  3. Entrena embeddings de palabras con un corpus pequeño y explora los vecinos más cercanos y sus sesgos.
  4. Construye un etiquetador de secuencias para entidades nombradas y mide precisión, exhaustividad y F1 por clase.
  5. Evalúa un sistema de traducción o de resumen con varias métricas, y lee las salidas a mano.

Etiquetas relacionadas

#llms #information-retrieval #machine-learning #speech #ai-evaluation

You are not logged in, so this goes up anonymously: no account, no name and no address is stored with it, and it may carry no link and no image. Log in or join to post under your name. Our web server's logs keep the address and time of every request for up to 14 days; to keep yours out of them, use Tor. To reach the staff in confidence, use the drop. Sign as a returning source (a key kept only in this browser)

Sending takes a few seconds here: your browser first works out a proof of work against spam.

Reply