主成分分析原理（PCA）
题外话 最近在做句向量任务，使用BERT池化得到句向量，那么句向量能不能降维，这样计算速度会明显提升。于是看到苏剑林等人的工作 Whitening Sentence Representations for Better Seman… 阅读更多 »主成分分析原理（PCA）
常用的Loss函数深入理解
本文将整理常用的Loss函数，包括BinaryCrossentropy、CategoricalCrossentropy、SparseCategoricalCrossentropy、KLDivergence、Focal Loss、C… 阅读更多 »常用的Loss函数深入理解
推荐点常用的学习资源
本文推荐的都是我使用频率非常高的资源。主要是科普类和历史类节目。除此之外我还关注了一些吃播，比如野食小哥、王刚、徐大sao等等，吃才是灵魂。每天除了上班和看技术资料以外，剩余的时间也不多，周末秉持着不把工作带回家的优良传统（老婆交… 阅读更多 »推荐点常用的学习资源
KeyBERT关键词抽取
在关键词抽取算法中详细介绍了TF-IDF算法，从信息论的角度看就是词频越高，包含的信息量越大的词就是越重要的词，根据这个算法可以从预料中计算出词的权重，在推理的过程中只需要分词，查字典即可得到关键词重要程度排序，从而实现关键词抽取… 阅读更多 »KeyBERT关键词抽取
关键词抽取算法
关键词的抽取在很多场景下都会使用。对于文本抽取关键词，通过几个关键词可以简要的概括文本的含义。比如论文都会有摘要，下面都会有大约5关键词来描述摘要的内容。抽取关键词的核心问题是如何量化词的重要性。解决了这个问题，只要对文档中的词进… 阅读更多 »关键词抽取算法