Preguntas etiquetadas con word-embeddings

Leí sobre NCE (una forma de muestreo de candidatos) de estas dos fuentes: Escritura de Tensorflow Papel original Alguien me puede ayudar con lo siguiente: Una explicación simple de cómo funciona NCE (encontré lo anterior difícil de analizar y comprender, por lo que algo intuitivo que conduzca a las matemáticas …

32 deep-learning  tensorflow  word-embeddings  sampling  loss-function 

Esto es más como una pregunta general de PNL. ¿Cuál es la entrada adecuada para entrenar una incrustación de palabras, a saber, Word2Vec? ¿Deberían todas las oraciones que pertenecen a un artículo ser un documento separado en un corpus? ¿O debería cada artículo ser un documento en dicho corpus? Este …

22 nlp  word-embeddings 

Dada una frase: "Cuando abro el ?? puerta se empieza a calentarse de forma automática" Me gustaría obtener la lista de posibles palabras en ?? con una probabilidad El concepto básico utilizado en el modelo word2vec es "predecir" una palabra dado el contexto circundante. Una vez que se construye el …

20 nlp  predictive-modeling  word-embeddings 

¿Cuál es la mejor manera de descubrir la similitud semántica de las palabras? Word2Vec está bien, pero no es ideal: # Using the 840B word Common Crawl GloVe vectors with gensim: # 'hot' is closer to 'cold' than 'warm' In [7]: model.similarity('hot', 'cold') Out[7]: 0.59720456121072973 In [8]: model.similarity('hot', 'warm') Out[8]: …

20 nlp  word-embeddings  word2vec  nltk 

Me pregunto cómo etiquetar (etiquetar) oraciones / párrafos / documentos con doc2vec en gensim, desde un punto de vista práctico. ¿Necesita tener cada oración / párrafo / documento con su propia etiqueta única (por ejemplo, "Sent_123")? Esto parece útil si desea decir "qué palabras u oraciones son más similares a …

17 machine-learning  text-mining  word-embeddings  word2vec 

Creo un corr()df a partir de un df original. El corr()DF salió 70 X 70 y es imposible de visualizar el mapa de calor ... sns.heatmap(df). Si trato de mostrar corr = df.corr(), la tabla no se ajusta a la pantalla y puedo ver todas las correlaciones. ¿Es una forma …

16 visualization  pandas  plotting  machine-learning  neural-network  svm  decision-trees  svm  efficiency  python  linear-regression  machine-learning  nlp  topic-model  lda  named-entity-recognition  naive-bayes-classifier  association-rules  fuzzy-logic  kaggle  deep-learning  tensorflow  inception  classification  feature-selection  feature-engineering  machine-learning  scikit-learn  tensorflow  keras  encoding  nlp  text-mining  nlp  rnn  python  neural-network  feature-extraction  machine-learning  predictive-modeling  python  r  linear-regression  clustering  r  ggplot2  neural-network  neural-network  training  python  neural-network  deep-learning  rnn  predictive-modeling  databases  sql  programming  distribution  dataset  cross-validation  neural-network  deep-learning  rnn  machine-learning  machine-learning  python  deep-learning  data-mining  tensorflow  visualization  tools  sql  embeddings  orange  feature-extraction  unsupervised-learning  gan  machine-learning  python  data-mining  pandas  machine-learning  data-mining  bigdata  apache-spark  apache-hadoop  deep-learning  python  convnet  keras  aggregation  clustering  k-means  r  random-forest  decision-trees  reference-request  visualization  data  pandas  plotting  neural-network  keras  rnn  theano  deep-learning  tensorflow  inception  predictive-modeling  deep-learning  regression  sentiment-analysis  nlp  encoding  deep-learning  python  scikit-learn  lda  convnet  keras  predictive-modeling  regression  overfitting  regression  svm  prediction  machine-learning  similarity  word2vec  information-retrieval  word-embeddings  neural-network  deep-learning  rnn 

Estoy usando Gensim Library en python para usar y entrenar el modelo word2vector. Recientemente, estaba buscando inicializar los pesos de mi modelo con un modelo word2vec previamente entrenado como (modelo preformado GoogleNewDataset). He estado luchando con eso un par de semanas. Ahora, acabo de buscar que en gesim hay una …

14 python  nlp  word-embeddings  word2vec  gensim 

Estoy creando prototipos de una aplicación y necesito un modelo de lenguaje para calcular la perplejidad en algunas oraciones generadas. ¿Hay algún modelo de lenguaje entrenado en Python que pueda usar fácilmente? Algo simple como model = LanguageModel('en') p1 = model.perplexity('This is a well constructed sentence') p2 = model.perplexity('Bunny lamp …

11 python  nlp  language-model  r  statistics  linear-regression  machine-learning  classification  random-forest  xgboost  python  sampling  data-mining  orange  predictive-modeling  recommender-system  statistics  dimensionality-reduction  pca  machine-learning  python  deep-learning  keras  reinforcement-learning  neural-network  image-classification  r  dplyr  deep-learning  keras  tensorflow  lstm  dropout  machine-learning  sampling  categorical-data  data-imputation  machine-learning  deep-learning  machine-learning-model  dropout  deep-network  pandas  data-cleaning  data-science-model  aggregation  python  neural-network  reinforcement-learning  policy-gradients  r  dataframe  dataset  statistics  prediction  forecasting  r  k-means  python  scikit-learn  labels  python  orange  cloud-computing  machine-learning  neural-network  deep-learning  rnn  recurrent-neural-net  logistic-regression  missing-data  deep-learning  autoencoder  apache-hadoop  time-series  data  preprocessing  classification  predictive-modeling  time-series  machine-learning  python  feature-selection  autoencoder  deep-learning  keras  tensorflow  lstm  word-embeddings  predictive-modeling  prediction  machine-learning-model  machine-learning  classification  binary  theory  machine-learning  neural-network  time-series  lstm  rnn  neural-network  deep-learning  keras  tensorflow  convnet  computer-vision 

Estaba trabajando en el modelo gensim de word2vec y lo encontré realmente interesante. Estoy interesado en encontrar cómo una palabra desconocida / invisible cuando se verifica con el modelo podrá obtener términos similares del modelo entrenado. es posible? ¿Se puede ajustar word2vec para esto? O el cuerpo de entrenamiento necesita …

11 nlp  deep-learning  word-embeddings  unsupervised-learning 

He leído que la representación distributiva se basa en la hipótesis distributiva de que las palabras que aparecen en un contexto similar tienden a tener significados similares. Word2Vec y Doc2Vec están modelados de acuerdo con esta hipótesis. Pero, en el documento original, incluso se titulan como Distributed representation of words …

10 nlp  word-embeddings  terminology  word2vec 

Estoy buscando diseñar un sistema que, dado un párrafo de texto, pueda clasificarlo e identificar el contexto: Está entrenado con párrafos de texto generados por el usuario (como comentarios / preguntas / respuestas) Se etiquetará cada elemento del conjunto de entrenamiento. Entonces, por ejemplo, ("categoría 1", "párrafo de texto") Habrá …

10 neural-network  text-mining  multiclass-classification  word-embeddings 

Me gustaría comparar la diferencia entre la misma palabra mencionada en diferentes fuentes. Es decir, cómo los autores difieren en el uso de palabras mal definidas, como "democracia". Un breve plan fue Tome los libros que mencionan el término "democracia" como texto sin formato En cada libro, reemplace democracycondemocracy_%AuthorName% Entrenar …

10 text-mining  word-embeddings 

Estoy tratando de hacer un análisis de sentimientos. Para convertir las palabras en vectores de palabras, estoy usando el modelo word2vec. Supongamos que tengo todas las oraciones en una lista llamada 'oraciones' y estoy pasando estas oraciones a word2vec de la siguiente manera: model = word2vec.Word2Vec(sentences, workers=4 , min_count=40, size=300, …

9 machine-learning  deep-learning  word-embeddings  word2vec  sentiment-analysis 

¿Cómo se entrena la capa de incrustación en la capa de incrustación de Keras? (por ejemplo, usando el backend de tensorflow, lo que significa que es similar a word2vec, glove o fasttext) Supongamos que no utilizamos una incrustación preentrenada.

8 keras  word-embeddings 

He estado trabajando en datos entrenados para el algoritmo Word2vec. Como necesitamos que las palabras permanezcan como originales, no las escribimos en minúsculas en la fase de preprocesamiento. Por lo tanto, hay palabras con diferentes variaciones (por ejemplo, "Tierra" y "tierra"). La única forma en que puedo pensar es tomar …

8 feature-extraction  word-embeddings  word2vec