主成分分析原理(PCA)
题外话 最近在做句向量任务,使用BERT池化得到句向量,那么句向量能不能降维,这样计算速度会明显提升。于是看到苏剑林等人的工作 Whitening Sentence Representations for Better Seman… 阅读更多 »主成分分析原理(PCA)
题外话 最近在做句向量任务,使用BERT池化得到句向量,那么句向量能不能降维,这样计算速度会明显提升。于是看到苏剑林等人的工作 Whitening Sentence Representations for Better Seman… 阅读更多 »主成分分析原理(PCA)
本文将整理常用的Loss函数,包括BinaryCrossentropy、CategoricalCrossentropy、SparseCategoricalCrossentropy、KLDivergence、Focal Loss、C… 阅读更多 »常用的Loss函数深入理解
本文推荐的都是我使用频率非常高的资源。主要是科普类和历史类节目。除此之外我还关注了一些吃播,比如野食小哥、王刚、徐大sao等等,吃才是灵魂。每天除了上班和看技术资料以外,剩余的时间也不多,周末秉持着不把工作带回家的优良传统(老婆交… 阅读更多 »推荐点常用的学习资源
在关键词抽取算法中详细介绍了TF-IDF算法,从信息论的角度看就是词频越高,包含的信息量越大的词就是越重要的词,根据这个算法可以从预料中计算出词的权重,在推理的过程中只需要分词,查字典即可得到关键词重要程度排序,从而实现关键词抽取… 阅读更多 »KeyBERT关键词抽取
关键词的抽取在很多场景下都会使用。对于文本抽取关键词,通过几个关键词可以简要的概括文本的含义。比如论文都会有摘要,下面都会有大约5关键词来描述摘要的内容。抽取关键词的核心问题是如何量化词的重要性。解决了这个问题,只要对文档中的词进… 阅读更多 »关键词抽取算法