相关动态
自然语言处理中文数据集入口整理
2024-11-10 17:36

1 github 链接 

自然语言处理中文数据集入口整理

    https://github.com/SophonPlus/ChineseNlpCorpus          包括情感分类,推荐,问答

   https://github.com/CLUEbenchmark/CLUEDatasetSearch       NER、QA、情感分析、文本分类、文本分配、文本摘要、机器翻译、知识图谱、语料库以及阅读理解等 10 大类共 142 个数据集

    https://github.com/brightmart/nlp_chinese_corpus            Large Scale Chinese Corpus for NLP

    https://github.com/crownpku/Awesome-Chinese-NLP#corpus-中文语料   中文语料

    https://github.com/InsaneLife/ChineseNLPCorpus                  中文自然语言处理数据集

2 新闻分类

  • 今日头条中文新闻(短文本)分类数据集:https://github.com/fateleak/toutiao-text-classfication-datase
  • 清华新闻分类语料

    • http://thuctc.thunlp.org/#%E8%8E%B7%E5%8F%96%E9%93%BE%E6%8E%A5

    • rnn和cnn实验:https://github.com/

      gaussic/text-classification-cnn-rnn

  • 中科大新闻分类语料库:http://www.nlpir.org/?action-viewnews-itemid-145

3 实体识别&词性标注

  • 微博实体识别 https://github.com/hltcoe/golden-horse
  • boson数据。https://github.com/InsaneLife/ChineseNLPCorpus/tree/master/NER/boson

  • 1988年人民日报   https://github.com/InsaneLife/ChineseNLPCorpus/tree/master/NER/renMinRiBao

  • MSRA微软亚洲研究院数据集。https://github.com/InsaneLife/ChineseNLPCorpus/tree/master/NER/MSRA

  • SIGHAN Bakeoff 2005:一共有四个数据集,包含繁体中文和简体中文,下面是简体中文分词数据。

    • MSR: http://sighan.cs.uchicago.edu/bakeoff2005/

    • PKU :http://sighan.cs.uchicago.edu/bakeoff2005/

 4 搜索

  • OPPO手机搜索排序   https://pan.baidu.com/s/1Obm8oRVZEIh76-cpPc0qZw
  • 网页搜索结果评价(SogouE)用户查询及相关URL列表       https://www.sogou.com/labs/resource/e.php

5 百科

  • 维基百科 https://dumps.wikimedia.org/zhwiki/               https://dumps.wikimedia.org/
  • 百度百科,只能自己爬,爬取得链接:https://pan.baidu.com/share/init?surl=i3wvfil提取码 neqs 。
  • 最全中华古诗词数据集,下载地址:https://github.com/chinese-poetry/chinese-poetry

  • 保险行业语料库 下载地址:https://github.com/Samurais/insuranceqa-corpus-zh

6 指代消歧

  • ConLL 2012 :http://conll.cemantix.org/2012/data.html

7 预训练(词向量or模型

  • BERT     开源代码:https://github.com/google-research/bert
  • ELMO           开源代码:https://github.com/allenai/bilm-tf             预训练的模型:https://allennlp.org/elmo
  • 腾讯词向量  下载地址:https://ai.tencent.com/ailab/nlp/embedding.html
  • 上百种预训练中文词向量       下载地址:https://github.com/Embedding/Chinese-Word-Vectors

8 中文完形填空数据集         下载地址:https://github.com/ymcui/Chinese-RC-Dataset

9 中文数据集平台

  • 搜狗实验室提供了一些高质量的中文文本数据集,时间比较早,多为2012年以前的数据。https://www.sogou.com/labs/resource/list_pingce.php
  • 中科大自然语言处理与信息检索共享平台

    http://www.nlpir.org/?action-category-catid-28

  • 中文语料小数据   包含了中文命名实体识别、中文关系识别、中文阅读理解等一些小量数据。

         https://github.com/crownpku/Small-Chinese-Corpus

10  中文 NLP 数据集搜索:https://www.cluebenchmarks.com/dataSet_search.html

11 中文翻译nmt数据集

系列数据

(国际口语研讨会)数据集

           总数据集下载: https://github.com/pengr/iwslt15/blob/master/en-de.tgz: A Large English-Chinese Parallel Corpus 中葡翻译语料

:大规模中英平行语料

            例如以下数据集      

AI challenger (英中翻译 规模最大的口语领域英中双语对照数据集

https://github.com/didi/ChineseNLP/blob/master/docs/machine_translation.md

GitHub - brightmart/nlp_chinese_corpus: 大规模中文自然语言处理语料 Large Scale Chinese Corpus for NLP

THULAC:https://github.com/thunlp/THULAC :包括中文分词、词性标注功能。

HanLP:https://github.com/hankcs/HanLP

哈工大LTP: https://github.com/HIT-SCIR/ltp

NLPIR :https://github.com/NLPIR-team/NLPIR

jieba :https://github.com/yanyiwu/cppjieba

    以上就是本篇文章【自然语言处理中文数据集入口整理】的全部内容了,欢迎阅览 ! 文章地址:http://sjzytwl.xhstdz.com/news/2984.html 
     栏目首页      相关文章      动态      同类文章      热门文章      网站地图      返回首页 物流园资讯移动站 http://mip.xhstdz.com/ , 查看更多   
最新文章
电信卡怎么异地销户 销户流程是什么手机卡停机多久会被注销「电信卡怎么异地销户 销户流程是什么」
随着手机普及率越来越高,人们因为更工作、学习等各种原因更换手机号的频率也是越来越高,对于不用的手机号我们都需要进行销户,
梦金园去年净利同比降17.8%至1.89亿元 海外增700%
《科创板日报》3月29日讯(记者 徐赐豪)近期,黄金行情不断上涨,引发资本市场高度关注,黄金相关的企业也备受瞩目。昨晚公布其
怎么找回qq密码qq密码忘记了手机号也换了怎么办「怎么找回qq密码」
在日常的数字生活中,QQ作为我们常用的通讯工具之一,其账号安全显得尤为重要。然而,偶尔我们可能会遇到忘记密码的尴尬情况。别
大屏智能千元机 酷派5860价格欲破1100元酷派5860手机「大屏智能千元机 酷派5860价格欲破1100元」
(中关村在线手机频道行情报道)2012年3月6日,酷派5860(行货)在“ZOL商城”促销,最新报价为1181元,含发票。本款的配件为:
计步器怎么删掉手机自动计步器「计步器怎么删掉」
计步器作为现代智能设备的一部分,已经成为许多人日常健康管理的得力助手。然而,在某些情况下,用户可能需要删除计步器中的数据
三星今天上午宣布Note7爆炸原因 已导致损失超10亿美元手机爆炸「三星今天上午宣布Note7爆炸原因 已导致损失超10亿美元」
2016年8月, Galaxy Note 7智能手机在上市后,“引爆”了全球对于手机市场安全问题的关注,上百起电池燃烧事故让三星频繁陷入舆
CBA八强出炉!下半区比上半区惨烈,9-12最终排名确定!
在附加赛全部结束之后,八强的对阵已经全部出来了。其中上半区:广厦-青岛、辽宁-新疆。广厦和青岛的比赛,大家肯定都看好广厦。
财知道 | 爆卖上百万件!巴掌大的小东西,是年轻人的“到此一游”
或是四四方方、圆圆造型,或是形态各异,一块硬板刻着各式内容,再配上一块方寸大小的磁力贴片,曾被人吐槽“又土又贵”的冰箱贴
Z趋势:4G高速时代 机会与挑战并存4g手机价格「Z趋势:4G高速时代 机会与挑战并存」
2013年12月4日下午,工业和信息化部向中国联通、中国电信、中国移动正式发放了第四代移动通信业务牌照(即4G牌照),三家均获得T
华为手机工程模式怎么进入(华为手机工程模式怎么进入桌面)手机工程模式「华为手机工程模式怎么进入(华为手机工程模式怎么进入桌面)」
华为手机工程模式怎么进入相信很多小伙伴还不知道,现在让我们一起来看看吧!华为手机工程模式怎么进入(华为手机工程模式怎么进入