Saltar al contenido ForoHackers

Procesamiento del lenguaje natural: por dónde empezar

Procesamiento del lenguaje natural
#2844 · · Citar · Denunciar

El procesamiento del lenguaje natural consiste en lograr que las computadoras trabajen con el lenguaje humano: dividirlo, etiquetarlo, buscar en él, traducirlo, responder preguntas sobre él. El lenguaje es ambiguo, depende del contexto y cambia en cada idioma y dialecto, y eso hace que el campo sea a la vez difícil e infinitamente útil.

Conceptos clave

  • Preparación del texto: normalización, división en frases y palabras, tokens de subpalabras, y los problemas de codificación que vienen antes de todo.
  • Representaciones: bolsa de palabras y TF-IDF, y luego embeddings densos de palabras y frases que colocan cerca los significados parecidos.
  • Tareas centrales: clasificación, etiquetado de secuencias como las entidades nombradas, análisis sintáctico, resumen, traducción, preguntas y respuestas.
  • Modelos de lenguaje: puntuar o generar texto; la misma idea va de los n-gramas a los modelos neuronales.
  • Multilingüismo: las escrituras, la morfología y el orden de las palabras difieren, y los idiomas con pocos recursos tienen pocos datos.

Vocabulario

  • Corpus: una colección de texto usada para entrenar o estudiar.
  • Token: la unidad que lee un sistema, una palabra, una pieza de subpalabra o un carácter.
  • Etiqueta gramatical: la categoría gramatical de una palabra, como sustantivo o verbo.
  • Entidad nombrada: un fragmento que nombra a una persona, un lugar, una organización o una fecha.

Qué estudiar, en orden

  1. Expresiones regulares y Unicode: maneja acentos, escrituras y entradas sucias sin romper nada.
  2. Cuenta palabras en un corpus, aplica TF-IDF y construye encima una búsqueda sencilla y un clasificador.
  3. Entrena embeddings de palabras con un corpus pequeño y explora los vecinos más cercanos y sus sesgos.
  4. Construye un etiquetador de secuencias para entidades nombradas y mide precisión, exhaustividad y F1 por clase.
  5. Evalúa un sistema de traducción o de resumen con varias métricas, y lee las salidas a mano.

Etiquetas relacionadas

#llms #information-retrieval #machine-learning #speech #ai-evaluation

No has iniciado sesión, así que esto se publica como anónimo: no se guarda con ello ninguna cuenta, nombre ni dirección, y no puede llevar enlaces ni imágenes. Inicia sesión o únete para publicar con tu nombre. Los registros de nuestro servidor web guardan la dirección y la hora de cada petición hasta 14 días; para que la tuya no quede en ellos, usa Tor. Para escribir al equipo de forma confidencial, usa el buzón. Firmar como fuente habitual (una clave guardada solo en este navegador)

Enviar tarda unos segundos aquí: tu navegador resuelve antes una prueba de trabajo contra el spam.

Responder