成果篇 —— 自然语言处理与数据挖掘研究的两个应用成果
自然语言处理与数据挖掘研究的应用
唐杰李涓子
清华大学计算机系知识工程研究室
清华大学计算机系知识工程研究室研究方向为网络环境下的知识工程，研究室融合自然语言处理、社会网络分析与挖掘和语义Web技术，研究Web信息处理的基础理论和关键技术。研究者社会网络挖
掘与搜索系统ArnetMiner II和面向事件的新闻挖掘与搜索系统Newsminer是实验室应用多年的研究
成果建立的在学术研究和新闻领域的应用系统。
一、研究者社会网络的挖掘与搜索系统
ArnetMiner II（简称AMiner, https://www.360docs.net/doc/8b11556074.html,）是通过研究者合作关系建立起来的社会网络挖掘与搜索系统。系统采用自然语言处理和社会网络分析与挖掘技术，提供研究者语义信息抽取、面向话题的专家搜索、权威机构搜索、话题发现和趋势分析、基于话题的社会影响力分析、研究者社会网络关系识别、即时社会关系图搜索、研究者能力图谱、审稿人推荐在内的众多功能，能够为研究者提供更全面的领域知识和更具针对性的研究话题和合作者信息，为科研的更好发展提供服务。
(a) 专家搜索。(b) 会议分析。
搜索数据挖掘领域专家、权威机构和相关学术论文。用户可以个性化的定制搜索结构。近10年国际会议SIGIR引用次数最高的100篇文章在各年的分布，作者国籍(原籍)分布等。
图 1:系统部分功能截图（https://www.360docs.net/doc/8b11556074.html,）
图1举例列举了AMiner系统的两个功能：(a) 专家搜索和 (b) 会议分析。其中在专家搜索中，用户输入查询词（例如：data mining），系统返回该领域专家、重要的国际会议和权威期刊或者权威机构以及相关学术论文。在该搜索中，用户还可以个性化的定制返回结果。在会议分析功能中，用户可以查看指定国际期刊或者国际会议近年引用次数最高的文章在各年的分布、作者国籍(原籍)分布、以及引用次数最高的作者排序情况等。
目前AMiner系统共收录103万研究者、314万篇论文信息和8,046多个会议信息，累积数据规模已经达到2.35 TB，系统在线运行7年多以来，吸引了220个国家2,766,356个独立IP的访问。吸引了218个国家210万个独立IP的访问（>1亿3千460万访问日志），访问量还在以每月平均20%左右的速度增长。并且，系统API还得到全球最大出版社Elsevier和KDD’10-’12, PKDD’11, ICDM’11, WSDM’11, ISWC’10等20余个重要国际会议进行论文-审稿人自动分发和提供语义信息服务。同时，ArnetMiner系统为社会网络挖掘的科学研究提供大量科研数据，已成为学术搜索和社会网络挖掘研究的实验平台。
二、面向事件的新闻挖掘与搜索
NewsMiner（https://www.360docs.net/doc/8b11556074.html,）是一个采用中文信息处理和文本挖掘技术实现的面向事件的新闻挖掘与搜索系统。系统从新闻本身的特点（5W1H）出发，以事件为核心，利用话题分析与知识关
联技术，从事件、话题、实体三个层面组织新闻，为用户提供一个更深入、更便捷的新闻事件理解和
搜索服务。NewsMiner包含4个组件：
1.数据采集：数据采集是从互联网上获取新闻事件相关数据并进行结构化处理的组件，为系统
提供数据保障。新闻相关数据包括新闻专题报道、用户生成内容和大规模知识库，目前主要
从新闻门户专题网站和百度热搜词获取新闻事件报道新闻、从微博和天涯等论坛获得新闻相
关的用户生成内容并抓取百度百科、互动百科和Wiki等公共的大规模知识库。
2.新闻挖掘：新闻挖掘是NewsMiner中核心组件，为系统提供面向事件的新闻分析和挖掘算法。
主要包括实体识别与抽取、事件话题模型与分析、以及知识链接。实体识别与抽取是从新闻
文档识别命名实体（人物、地点、组织机构和时间）的过程，回答Who、Where和When的问
题；话题建模与分析是通过话题模型发现同一事件下的隐含话题，并通过概率分布分析事件、话题和实体之间关系，是发现媒体和用户关注点的过程；知识链接是将新闻事件和实体和外
部的知识库进行关联的过程，能够为新闻和实体提供更丰富的背景知识，很好地提高用户的
浏览体验。
3.数据存储与索引：数据存储与索引是对已分析的数据进行有效存储和索引建立的过程，能够
很好地支持访问与检索。目前我们使用的均为比较成熟的工具和技术，对于存储使用MySQL，索引建立和检索使用Apache Lucene。
4.服务平台：服务平台直接和用户交互，是有效利用分析结果，为用户展示和提供新闻浏览和
可视化等服务的平台。考虑到新闻的特性，我们提出了多层面新闻R搜索结果的排序方法，
能够为用户提供热点事件、话题和实体搜索；我们还开发了一套新闻可视化的flash插件，
能够更直观的展示新闻事件、话题和实体关系。进一步利用分析结果，我们可以更好地向用
户呈现事件序列和人物形象等。
图 1 ：NewsMiner搜索实例图
图表1展示了NewsMiner的结果展示界面和若干搜索实例。右图界面主要包括搜索框、事件话题
列表和热点实体列表，其中事件和话题后边的按钮能够触发flash图表的展示。左表列出了给定不同
查询词，NewsMiner给出的事件和热点实体结果。以“利比亚”为例，从结果来看，我们能够很好地
跟踪事件发展的趋势（从“西方的军事介入”直到“卡扎菲之死”）；深入事件内部，我们还能从话
题层面展示新闻，图2展示了卡扎菲之死事件中“国家解放”和“国民庆祝”之间的关系与传统的搜
索引擎返回的海量新闻文档相比，NewsMiner能使得新闻的浏览和理解更轻松更便捷。
图2：事件相关话题关系演化图
参考文献
[1]Jie Tang, Jing Zhang, Limin Yao, Juanzi Li, Li Zhang, and Zhong Su. ArnetMiner: Extraction and Mining
of Academic Social Networks. In Proceedings of the Fourteenth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (SIGKDD'2008). pp.990-998.
[2]Jie Tang, Jing Zhang, Ruoming Jin, Zi Yang, Keke Cai, Li Zhang, and Zhong Su. Topic Level Expertise
Search over Heterogeneous Networks. Machine Learning Journal, 82(2):211-237 (2011).
[3]Juanzi Li, Jun Li, Jie Tang. A Flexible Topic-driven Framework for News Exploration. (Demo Paper) In
Proceedings of the Fifteenth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (SIGKDD'2009).
浅谈自然语言处理
浅谈自然语言处理 摘要 主要阐述了自然语言处理的定义，发展历史，并对其研究内容，以及目前相关领域的应用加以讨论。最后对自然语言处理的未来发展趋势做简单的介绍。 关键词 自然语言处理 Abstract The definition and the development history of Natural Language Processing(NLP) are explained,the research content and the applications in interrelated areas of NLP are discussed.And the develop direction of NLP in the future are simply introduced. Key Words: Natural Language Processing(NLP)
0.引言 早在计算机还未出现之前，英国数学家A.M.Turing便已经预见到未来计算机将会对自然语言处理研究提出新的问题。他指出，在未来我们可以“教机器英语并且说英语。”同时他觉得“这个过程可以仿效教小孩子说话的那种办法进行”。这便是最早关于自然语言处理概念的设想。 人类的逻辑思维以语言为形式，人类的多种智能都与语言有着密切的联系。所以用自然语言与计算机进行通信是计算机出现以来人们一直所追求的目标。 1.什么是然语言处理 美国计算机科学家Bill Manaris(马纳瑞斯)在1999年出版的《计算机进展》（Advances Computers）第47卷的《从人—机交互的角度看自然语言处理》一文中，曾经给自然与然处理提出了如下定义：“自然语言处理可以定义为研究在人与人交际中的语言问题的一门学科。自然语言处理要研制表示语言能力（linguistic competence）和语言应用（linguistic performance）的模型，建立计算框架来实现这样的语言模型，提出相应的方法来不断地完善这样的语言模型，根据这样的语言模型设计各种实用系统，并探讨这些实用系统的评测技术。”这个定义被广泛的接受，它比较全面的地表达了计算机对自然语言的研究和处理。 简单来说，自然语言处理就是一门研究能实现人鱼计算机之间用自然语言处理进行有效的通信与方法的一门学科，它是计算机科学领域与人工智能领域中的一个重要方向。普遍认为它主要是应用计算机技术，通过可计算的方法对自然语言处理的各级语言单位（字，词，语句，篇章等）进行转换，传输，存储，分析等加工处理的学科，是一门融合了语言学，计算机学，数学等学科于一体的交叉性学科。 互联网技术的发展，极大地推动了信息处理技术的发展，也为信息处理技术不断提出新的需求，语言作为信息的载体，语言处理技术已经日益成为全球信息化和我国社会及经济发展的重要支撑技术。
NLP入门 实战必读：一文教会你最常见的10种自然语言处理技术(附代码)
大数据文摘作品 编译：糖竹子、吴双、钱天培 自然语言处理（NLP）是一种艺术与科学的结合，旨在从文本数据中提取信息。在它的帮助下，我们从文本中提炼出适用于计算机算法的信息。从自动翻译、文本分类到情绪分析，自然语言处理成为所有数据科学家的必备技能之一。 在这篇文章中，你将学习到最常见的10个NL P任务，以及相关资源和代码。
为什么要写这篇文章？ 对于处理NL P问题，我也研究了一段时日。这期间我需要翻阅大量资料，通过研究报告，博客和同类NL P问题的赛事内容学习该领域的最新发展成果，并应对NL P处理时遇到的各类状况。 因此，我决定将这些资源集中起来，打造一个对N L P常见任务提供最新相关资源的一站式解决方案。下方是文章中提到的任务列表及相关资源。那就一起开始吧。 目录: 1.词干提取
2.词形还原 3.词向量化 4.词性标注 5.命名实体消岐 6.命名实体识别 7.情感分析 8.文本语义相似分析 9.语种辨识 10.文本总结 1.词干提取 什么是词干提取？词干提取是将词语去除变化或衍生形式，转换为词干或原型形式的过程。词干提取的目标是将相关词语还原为同样的词干，哪怕词干并非词典的词目。例如，英文中: 1.b e a u t i f u l和b e a u t i f u l l y的词干同为b e a u t i 2.G o o d,b e t t e r和b e s t的词干分别为g o o d,b e t t e r和b e s t。 相关论文：M a r t i n P o r t e r的波特词干算法原文
相关算法：在P yt h o n上可以使用P o r t e r2词干算法 (h t t p s://t a r t a r u s.o r g/m a r t i n/P o r t e r S t e m m e r/d e f.t xt) 程序实现：这里给出了在p yt h o n的s t e mm i n g库中使用 (https://https://www.360docs.net/doc/8b11556074.html,/mchaput/stemming/src/5c242aa592a6 d4f0e9a0b2e1afdca4fd757b8e8a/stemming/porter2.py?at=d efault&fileviewer=file-view-default) P o r t e r2算法做词干提取的代码： #!pip install stemmingfrom stemming.porter2 import stem stem("casually") 2.词形还原 什么是词形还原？词形还原是将一组词语还原为词源或词典的词目形式的过程。还原过程考虑到了P O S问题，即词语在句中的语义，词语对相邻语句的语义等。例如，英语中： 1.b e a u t i f u l和b e a u t i f u l l y被分别还原为b e a u t i f u l和b e a u t i f u l l y。 2.g o o d,b e t t e r和b e st被分别还原为g o o d,g o o d和g o o d 相关论文1:这篇文章详细讨论了词形还原的不同方法。想要了解传统词形还原的工作原理必读。(h t t p://www.i j r a t.o r g/d o wn l o a d s/i c a t e st2015/I CA TE S T-2015127.p d f)
数据挖掘研究现状及发展趋势
数据挖掘研究现状及发展趋势摘要：从数据挖掘的定义出发，介绍了数据挖掘的神经网络法、决策树法、遗传算法、粗糙集法、模糊集法和关联规则法等概念及其各自的优缺点；详细总结了国内外数据挖掘的研究现状及研究热点，指出了数据挖掘的发展趋势。 关键词：数据挖掘；挖掘算法；神经网络；决策树；粗糙集；模糊集；研究现状；发展趋势 Abstract：From the definition of data mining，the paper introduced concepts and advantages and disadvantages of neural network algorithm，decision tree algorithm，genetic algorithm，rough set method，fuzzy set method and association rule method of data mining，summarized domestic and international research situation and focus of data mining in details，and pointed out the development trend of data mining. Key words：data mining，algorithm of data mining，neural network，decision tree，rough set，fuzzy set，research situation，development tendency 1引言 随着信息技术的迅猛发展，许多行业如商业、企业、科研机构和政府部门等都积累了海量的、不同形式存储的数据资料[1]。这些海量数据中往往隐含着各种各样有用的信息，仅仅依靠数据库的查询检索机制和统计学方法很难获得这些信息，迫切需要能自动地、智能地将待处理的数据转化为有价值的信息，从而达到为决策服务的目的。在这种情况下，一个新的技术———数据挖掘(Data Mining，DM)技术应运而生[2]。 数据挖掘是一个多学科领域，它融合了数据库技术、人工智能、机器学习、统计学、知识工程、信息检索等最新技术的研究成果，其应用非常广泛。只要是有分析价值的数据库，都可以利用数据挖掘工具来挖掘有用的信息。数据挖掘典型的应用领域包括市场、工业生产、金融、医学、科学研究、工程诊断等。本文主要介绍数据挖掘的主要算法及其各自的优缺点，并对国内外的研究现状及研究热点进行了详细的总结，最后指出其发展趋势及问题所在。 江西理工大学
数据挖掘及其应用
《数据挖掘论文》 数据挖掘分类方法及其应用 课程名称：数据挖掘概念与技术姓名 学号： 指导教师：
数据挖掘分类方法及其应用 作者：来煜 摘要：社会的发展进入了网络信息时代，各种形式的数据海量产生，在这些数据的背后隐藏这许多重要的信息，如何从这些数据中找出某种规律，发现有用信息，越来越受到关注。为了适应信息处理新需求和社会发展各方面的迫切需要而发展起来一种新的信息分析技术，这种局势称为数据挖掘。分类技术是数据挖掘中应用领域极其广泛的重要技术之一。各种分类算法有其自身的优劣，适合于不同的领域。目前随着新技术和新领域的不断出现，对分类方法提出了新的要求。 。 关键字：数据挖掘；分类方法；数据分析 引言 数据是知识的源泉。但是，拥有大量的数据与拥有许多有用的知识完全是两回事。过去几年中，从数据库中发现知识这一领域发展的很快。广阔的市场和研究利益促使这一领域的飞速发展。计算机技术和数据收集技术的进步使人们可以从更加广泛的范围和几年前不可想象的速度收集和存储信息。收集数据是为了得到信息，然而大量的数据本身并不意味信息。尽管现代的数据库技术使我们很容易存储大量的数据流，但现在还没有一种成熟的技术帮助我们分析、理解并使数据以可理解的信息表示出来。在过去，我们常用的知识获取方法是由知识工程师把专家经验知识经过分析、筛选、比较、综合、再提取出知识和规则。然而，由于知识工程师所拥
有知识的有局限性，所以对于获得知识的可信度就应该打个折扣。目前，传统的知识获取技术面对巨型数据仓库无能为力，数据挖掘技术就应运而生。 数据的迅速增加与数据分析方法的滞后之间的矛盾越来越突出，人们希望在对已有的大量数据分析的基础上进行科学研究、商业决策或者企业管理，但是目前所拥有的数据分析工具很难对数据进行深层次的处理，使得人们只能望“数”兴叹。数据挖掘正是为了解决传统分析方法的不足，并针对大规模数据的分析处理而出现的。数据挖掘通过在大量数据的基础上对各种学习算法的训练，得到数据对象间的关系模式，这些模式反映了数据的内在特性，是对数据包含信息的更高层次的抽象。目前，在需要处理大数据量的科研领域中，数据挖掘受到越来越多的关注，同时，在实际问题中，大量成功运用数据挖掘的实例说明了数据挖掘对科学研究具有很大的促进作用。数据挖掘可以帮助人们对大规模数据进行高效的分析处理，以节约时间，将更多的精力投入到更高层的研究中，从而提高科研工作的效率。 分类技术是数据挖掘中应用领域极其广泛的重要技术之一。至今已提出了多种分类算法，主要有决策树、关联规则、神经网络、支持向量机和贝叶斯、k－临近法、遗传算法、粗糙集以及模糊逻辑技术等。大部分技术都是使用学习算法确定分类模型，拟合输入数据中样本类别和属性集之间的联系，预测未知样本的类别。训练算法的主要目标是建立具有好的泛化能力的模型，该模型能够准确地预测未知样本的类别。 1．数据挖掘概述 数据挖掘又称数据库中的知识发现，是目前人工智能和数据库领域研究的热点问题，所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程，它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等，高度自动化地分析企业的数据，做出归纳性的推理，从中挖掘出潜在的模式，帮助决策者调整市场策略，减少风险，做出正确的决策。 数据挖掘是通过分析每个数据，从大量数据中寻找其规律的技术，主要有数据
概率论在自然语言处理中的应用
概率论在自然语言处理中的应用 twd2 2017年5月4日 当下，人工智能是热议话题。人工智能中，有一个方向叫做自然语言处理。 而在自然语言处理方面，有两个经典的问题：光学字符识别（奏奃奒）和拼音输 入法。它们都可以用概率的方法解决，本文就尝试讨论这个话题。 光学字符识别问题所谓光学字符识别（奏奃奒），就是给定一幅图片，让计算 机程序识别出来图片中的文字。这涉及到图像匹配、模式识别等算法，但本文 不关注于此，本文关注的是后处理的过程。 首先，对于一个字符的识别，识别结果就可能有多种，每一个结果都有一 个置信度。所谓后处理过程，就是对于已经识别出来的字串（字串每个字都有 多种可能选项），选择“最佳”的组合。这和下文讨论的拼音输入法十分类似，所以本文的重点放在对于拼音输入法的讨论。 拼音输入法问题拼音输入法，指的是一个程序，它接受用户输入的拼音串（比如“奱奩奮奧奨奵奡奤奡奸奵奥奪奩女奵奡奮奪奩奫奥奸奵奥她奵奪奩女奨奵奸奩”），根据内部数据，将这 个拼音串转换为文字串输出（对于上面的例子就是“清华大学计算机科学与技 术系”）。 对于输入拼音串的每一个拼音（上面例子中的“奱奩奮奧”、“奨奵奡”、“奤奡”、“奸奵奥”等），可以简单直接地查询字典来获得该拼音对应的所有可能的字，然后选择“最佳”的组合，认为是该拼音串对应的句子： 请清氢··· 画话华··· 大打答··· 学雪血··· ··· “最佳”的不同的定义方法，对应着寻找最佳组合的不同算法。这里，我讨论 一个简单的二元字模型或字的二元模型。我理解中，字的二元模型就是将句子 失
中相邻的两个字作为一组，后一个字出现的概率只和前面一个字出现的情况有关。这能够极大地简化相关算法设计、提高算法速度，但是准确度也会因此受到不良影响。 对于任意一个句子S ，如果记其长度n |S |，并且记S 夽w 1w 2···w n ，w i ∈W 夨i 夽失,夲,...,n 天为字符集W 中的一个字符，那么，其出现的概率P 夨S 天可以表示成： P 夨S 天夽 P 夨w 1天·P 夨w 2|w 1天·····P 夨w n |w 1w 2···w n ?1天夽n i =1 P 夨w i |w 1w 2···w i ?1天 其中，P 夨w i 天夨i 夽失,夲,...,n 天为w i 出现的概率。 在字的二元模型下，这个表达式可以进一步简化成： P 夨S 天≈ n i =1P 夨w i |w i ?1天再由条件概率的定义及大数定律， P 夨w i |w i ?1天夽P 夨w i ?1w i 天P 夨w i ?1天夽P 夨w i ?1w i 天count 夨?天P 夨w i ?1天count 夨?天≈count 夨w i ?1w i 天count 夨w i ?1天 其中，count 夨w 天夽w 出现的次数，并且count 夨?天 w ∈W count 夨w 天，表示字和字的二元组出现次数总和。它们都可以由语料统计得到。于是， P 夨S 天≈ n i =1count 夨w i ?1w i 天count 夨w i ?1天 这就是一个句子出现概率的算法。记W 夨y 天夽{拼音y 对应的所有字}?W ，不妨认为其中的元素按照某种顺序排好序。这样，给定一个包含m 个拼音的拼音串y 1y 2···y m ，如“奱奩奮奧奨奵奡奤奡奸奵奥”，可以枚举每一个可能的句子S ∈ m i =1W 夨y i 天夽{请,清,氢,...}×{画,话,华,...}×{大,打,答,...}×{学,雪,血,...}，计算P 夨S 天，然后认为P 夨S 天最大的S 就是这个拼音串对应的句子，即对y 1y 2···y m 求出 奡奲奧奭奡奸S ∈ m i =1W (y i ) {P 夨S 天}实现上有几个问题：精度问题、平滑问题以及速度问题。 夲
数据挖掘技术及应用综述
作者简介：韩少锋，男，１９８０年生，中北大学在读硕士研究生。研究方向：人工智能技术。 引言 “人类正被信息淹没，却饥渴于知识．”这是１９８２年 趋势大师ＪｏｈｎＮａｉｓｂｉｔｔ的首部著作《大趋势》（Ｍｅｇａ－ｔｒｅｎｄｓ）中提到的。 随着数据库技术的迅速发展，如何从含有海量信息的数据库中提取更有价值、更直观的信息和知识？人们结合统计学﹑数据库﹑机器学习﹑神经网络﹑模式识别﹑模糊数学﹑粗糙集理论等技术，提出‘数据挖掘’这一新的数据处理技术来解决这一难题。数据挖掘（ＤａｔａＭｉｎｉｎｇ）就是从大量的﹑不完全的﹑有噪声的﹑模糊的﹑随机的数据中，提取隐含在其中的﹑人们事先不知道的﹑但又是潜在的有用的信息和知识的过程。这些数据可以是：结构化的，半结构化的，分布在网络上的异构性数据。数据挖掘在许多领域得到了成功的应用，使数据库技术进入了一个更高级的发展阶段，很多专题会议也把数据挖掘和知识发现列为议题之一。 １数据挖掘技术概述 １．１数据挖掘的概念 数据挖掘的概念有多种描述，最常见的有两种：（１）Ｇ．ＰｉａｔｅｔｓｋｙＳｈａｐｉｏｒ，Ｗ．Ｊ．Ｆｒａｗｌｅｙ数据挖掘定义为：从数据库的大量数据中揭示出隐含的、先进而未知的、潜在有用信息的频繁过程。（２）数据挖掘的广义观点：数据挖掘是从存放在数据库、数据仓库或其他信息库中的大量数据中挖掘有趣知识的过程。数据挖掘的特点有：１）用户需要借助数据挖掘技术从大量的信息中找到感兴趣的信息；２）处理的数据量巨大；３）要求对数据的变化做出及时的响应；４）数据挖掘既要发现潜在的规则，也要管理和维护规则，规则的改变随着新数据的不断更新而更新；５）数据挖掘规则的发现基于统计规律，发现的规则不必适用于全部的数据。 数据挖掘要面对的是巨大的信息来源；通过数据挖 掘，有价值的知识、规则或高层次的信息就能从数据库的相关数据集合中抽取出来，并从不同角度显示，从而使大型数据库作为一个丰富可靠的资源为知识归纳服务。 １．２数据挖掘的简史 从数据库中知识发现（ＫＤＤ）一词首先出现在１９８９ 年举行的第十一届国际联合人工智能学术会议上。目前为止，由美国人工智能协会主办的ＫＤＤ国际研讨会已经召开了８次，规模由原来的专题讨论会发展到国际学术大会，研究重点也从发现方法转向系统应用。１９９９年，亚太地区在北京召开的第三届ＰＡＫＤＤ会议收到１５８篇论文，研讨空前热烈。 目前，数据挖掘技术在零售业的购物篮分析﹑金融风险预测﹑产品质量分析﹑通讯及医疗服务﹑基因工程研究等许多领域得到了成功的应用。 １．３数据挖掘的对象 数据挖掘的对象包含大量数据信息的各种类型数 据库。如关系数据库，面向对象数据库等，文本数据数据源，多媒体数据库，空间数据库，时态数据库，以及 Ｉｎｔｅｒｎｅｔ等类型数据或信息集均可作为数据挖掘的对 象。 １．４数据挖掘的工具 许多软件公司和研究机构，根据商业的实际需要 开发出许多数据挖掘工具。例如：有多种数据操控和转换特点的ＳＡＳＥｎｔｅｒｐｒｉｓｅＭｉｎｅｒ；采用决策树、神经网络和聚类技术综合的数据挖掘工具集－ＩＢＭＩｎｔｅｒｌｌｉｇｅｎｔＭｉｎｅｒ；可以提供多种统计分析、 决策树和回归方法，在Ｔｅｒａｄａｔａ数据库管理系统上原地挖掘的Ｔｅｒａｄａｔａ ＷａｒｅｈｏｕｓｅＭｉｎｅｒ；以及同时具有数据管理和数据概括能力，能够用于多种商业平台的ＳＰＳＳＣｌｅｍｅｎｔｉｎｅ。以上 主流数据挖掘工具都能提供常用的挖掘过程和挖掘模 数据挖掘技术及应用综述 韩少锋 陈立潮 （中北大学计算机科学与技术系 山西 太原 ０３００５１） 【摘要】介绍了数据挖掘技术的背景、概念、流程、数据挖掘算法，并阐述了数据挖掘技术的应用现状。 【关键词】数据挖掘 知识发现 人工智能 数据仓库 【中图分类号】ＴＰ３１１．１３８ 【文献标识码】Ｂ 【文章编号】１００３－７７３Ｘ（２００６）０２－００２３－０２ 第２期（总第８９期）机械管理开发 ２００６年４月Ｎｏ．２（ＳＵＭＮｏ．８９）ＭＥＣＨＡＮＩＣＡＬＭＡＮＡＧＥＭＥＮＴＡＮＤＤＥＶＥＬＯＰＭＥＮＴ Ａｐｒ．２００６ ２３??
北京大学自然语言处理
语言信息工程系与自然语言处理 自然语言处理做什么？ 首先，让我们从那些比较实用的方面来看看什么是自然语言处理。一般来说，所有那些和语言相关的数据，以及处理它的计算机程序，都是我们研究的内容。现在，个人计算机和网络已经进入我们日常的生活，我们用它们做文书处理，收发电子邮件，看新闻，搜索资料，…，所有这些，我们看到的、输入的和存贮的都用到了至少一种自然语言，比如说，中文或者是英文。 自然语言处理技术，简单来说就是实现那些与语言处理相关的特定任务的程序，举例来说，它们可能是： 支持文本处理：例如，智能文字输入，查找拼写错误，寻找与改正病句等； 写作支持：帮助作者寻找合适的语言表达方法，甚至文体风格，至少也能帮助用户使用最正确的术语表达形式； 辅助翻译：从一种语言翻译为另一种语言，或多种语言，未来的目标是全自动化高正确率的翻译，虽然达到这个目标的路很艰辛； 改进信息组织与管理：文献主题标引、关键词标引，文本分类、聚类，自动文摘，模板式信息提取等等。由此，我们可以更有效地利用信息和知识； 信息检索，除了研制更强大更准确的搜索引擎之外，也有相当多的研究关注如何检索到更深层次的东西，例如试图分析与理解被检索文档的语义内容等； 辅助语言学习，如果现在我们还不用计算机以及有效的语言学方法来帮助我们学习语言，无论是母语还是外语，那是不可思议的。事实上，自然语言处理在语言教学领域已经开始大展身手了… 所有这些问题我们要能有完美的解决，显然不只是应用计算机科学与技术的技艺。更进一步说，我们要透彻理解和把握自然语言的自身特性。自然语言处理横跨计算机科学和语言学，相应的数学和逻辑基础也很重要。 从抽象化的理论层面看自然语言处理，则更加微妙。计算机只是操纵符号运算的自动机器。语言是符号的集合和系统，尽管自然语言包含了极其复杂的符号以及运用的规则。自然语言处理技术扩展了传统语言学研究的视野和方法，让
自然语言处理技术在中文全文检索中的应用
3本文为国家社会科学基金项目“基于中文X ML 文档的全文检索研究”的成果之一,项目编号:04CT Q005。 ●熊回香,夏立新(华中师范大学 信息管理系,湖北 武汉 430079) 自然语言处理技术在中文全文检索中的应用 3 摘 要:自然语言处理技术是中文全文检索的基础。首先介绍了全文检索技术及自然语言处理技术,接着详细地阐述了自然语言处理技术在中文全文检索中的应用,并对目前基于自然语言处理技术的中文全 文检索技术的局限性进行了分析,探讨了中文全文检索技术的未来发展方向。 关键词:自然语言处理;全文检索;智能检索 Abstract:Natural language p r ocessing technol ogy is the basis of Chinese full 2text retrieval .This paper firstly intr oduces the full 2text retrieval technol ogy and natural language p r ocessing technol ogy .Then,it gives a detailed 2descri p ti on of the app licati on of natural language p r ocessing technol ogy in Chinese full 2text retrieval .The p resent li m itati ons of the Chinese full 2text retrieval system based on natural language p r ocessing technol ogy is als o ana 2lyzed .Finally,the paper exp l ores the devel opment trend of Chinese full 2text retrieval technol ogy in future . Keywords:natural language p r ocessing;full text retrieval;intelligent retrieval 随着社会网络化、信息化程度的日益提高,网上信息呈指数级剧增,人们越来越强烈地希望用自然语言同计算机交流,并能方便、快捷、准确地从互联网上获得有价值的信息,因此,自然语言处理技术和中文全文检索技术成为当今计算机科界、语言学界、情报学界共同关注的课题,并共同致力于将自然语言处理技术的研究成果充分运用到全文检索中,从而促进了全文检索技术的发展。 1 全文检索技术 全文检索是一种面向全文和提供全文的检索技术,其核心技术是将文档中所有基本元素的出现信息记录到索引库中,检索时允许用户采用自然语言表达其检索需求,并借助截词、邻词等匹配方法直接查阅文献原文信息,最后将检索结果按相关度排序返回给用户。因而索引数据库的建立是全文检索系统实现的基础,它以特定的结构存储了数据资源的全文信息,从而为全文检索系统提供可检索的数据对象。在中文全文检索系统中,建立索引库的前提是运用自然语言处理技术对中文信息进行基于词(字)、句、段落等更深层次的处理。 2 自然语言处理技术 自然语言是指作者所使用的书面用语,在信息检索中包括关键词、自由词和出现在文献题名、摘要、正文或参 考文献中的具有一定实质意义的词语[1]。自然语言处理 (Natural Language Pr ocessing,NLP )是语言信息处理的一 个重要分支,在我国就是中文信息处理。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法,具体来说就是用计算机对包括汉语(字)的形、音、义等信息及词、句子、篇章的输入、输出、存储和识别、分析、理解、生成等多方面的加工处理[2]。由于自然语言处理侧重于词、句子、篇章,因而词法分析、句法分析、语义分析、语用分析、语境分析便构成了自然语言处理研究内容的基础部分。 211 词法分析 词法分析包括词形和词汇两个层次,其中词形主要是对各种词形和词的可识别部分的处理。如前缀、后缀及复合词的分析;词汇的重点在于复合对词操作和词汇系统的控制。其主要目的是有助于确认词性以及做到部分理解词与词、词与文档之间的关系,提高检索的效率。由于计算机内部存储的中文信息没有明显的词与词之间的分隔符,因此,在中文全文检索系统中,词法分析首要任务之一是对文本信息进行词语切分,即汉语自动分词,汉语自动分词是中文信息处理中的关键技术,也是中文全文检索的瓶颈,只有对汉语词进行正确的切分后,才能准确地提取文献的特征信息,对文献进行正确标引,才能正确分析用户的查询意图,为用户提供准确的信息服务。 212 句法分析 句法分析是对句子中词汇短语进行分析以便揭示句子的语法结构。目的是通过对句型结构的分析,自动抽取复
自然语言处理的关键技术
自然语言处理的关键技术 自然语言处理技术是所有与自然语言的计算机处理有关的技术的统称，其目的是使计算机理解和接受人类用自然语言输入的指令，完成从一种语言到另一种语言的翻译功能。自然语言处理技术的研究，可以丰富计算机知识处理的研究内容，推动人工智能技术的发展。下面我们就来了解和分析自然语言处理的关键技术。 一、常用技术分类 1、模式匹配技术 模式匹配技术主要是计算机将输入的语言内容与其内已设定的单词模式与输入表达式之间的相匹配的技术。例如计算机的辅导答疑系统，当用户输入的问题在计算机的答疑库里找到相匹配的答案时，就会完成自动回答问题的功能。但是不能总是保证用户输入的问题能得到相应的回答，于是很快这种简单匹配式答疑系统有了改进。答疑库中增加了同义词和反义词，当用户输入关键词的同义词或反义词时，计算机同样能完成答疑，这种改进后的系统被称为模糊匹配式答疑系统。 2、语法驱动的分析技术
语法驱动的分析技术是指通过语法规则，如词形词性、句子成分等规则，将输入的自然语言转化为相应的语法结构的一种技术。这种分析技术可分为上下文无关文法、转换文法、ATN文法。上下文无关文法是最简单并且应用最为广泛的语法，其规则产生的语法分析树可以翻译大多数自然语言，但由于其处理的词句无关上下文，所以对于某些自然语言的分析是不合适的。转换文法克服了上下文无关文法中存在的一些缺点，其能够利用转换规则重新安排分析树的结构，即能形成句子的表层结构，又能分析句子的深层结构。但其具有较大的不确定性。ATN文法扩充了转移网络，比其他语法加入了测试集合和寄存器，它比转移文法更能准确地分析输入的自然语言，但也具有复杂性、脆弱性、低效性等缺点。3、语义文法 语义文法的分析原理与语法驱动相似，但其具有更大的优越性。语义文法中是对句子的语法和语义的共同分析，能够解决语法驱动分析中单一对语法分析带来的不足。它能够根据句子的语义，将输入的自然语言更通顺地表达出来，除去一些语法正确但不合语义的翻译。但是语义文法分析仍然有不容忽视的缺点，其分析的语句中有时会出现不合语法的现象，并且这类分析较为复杂，语义类难以确定，语义的规则太多……因此，语义文法技术仍需要改进措施。 4、格框架约束分析技术
数据挖掘及其应用
数据挖掘及其应用 Revised by Jack on December 14,2020
《数据挖掘论文》 数据挖掘分类方法及其应用 课程名称：数据挖掘概念与技术 姓名 学号： 指导教师： 数据挖掘分类方法及其应用 作者：来煜 摘要：社会的发展进入了网络信息时代，各种形式的数据海量产生，在这些数据的背后隐藏这许多重要的信息，如何从这些数据中找出某种规律，发现有用信息，越来越受到关注。为了适应信息处理新需求和社会发展各方面的迫切需要而发展起来一种新的信息分析技术，这种局势称为数据挖掘。分类技术是数据挖掘中应用领域极其广泛的重要技术之一。各种分类算法有其自身的优劣，适合于不同的领域。目前随着新技术和新领域的不断出现，对分类方法提出了新的要求。 。 关键字：数据挖掘；分类方法；数据分析 引言 数据是知识的源泉。但是，拥有大量的数据与拥有许多有用的知识完全是两回事。过去几年中，从数据库中发现知识这一领域发展的很快。广阔的市场和研究利益促使这一领域的飞速发展。计算机技术和数据收集技术的进步使人们可以从更加广泛的范围和几年前不可想象的速度收集和存储信息。收集数据是为了得到信息，然而大量的数据本身并不意味信息。尽管现代的数据库技术使我们很容易存储大量的数据流，但现在还没有一种成熟的技术帮助我们分析、理解并使数据以可理解的信息表示出来。在过去，我
们常用的知识获取方法是由知识工程师把专家经验知识经过分析、筛选、比较、综合、再提取出知识和规则。然而，由于知识工程师所拥有知识的有局限性，所以对于获得知识的可信度就应该打个折扣。目前，传统的知识获取技术面对巨型数据仓库无能为力，数据挖掘技术就应运而生。 数据的迅速增加与数据分析方法的滞后之间的矛盾越来越突出，人们希望在对已有的大量数据分析的基础上进行科学研究、商业决策或者企业管理，但是目前所拥有的数据分析工具很难对数据进行深层次的处理，使得人们只能望“数”兴叹。数据挖掘正是为了解决传统分析方法的不足，并针对大规模数据的分析处理而出现的。数据挖掘通过在大量数据的基础上对各种学习算法的训练，得到数据对象间的关系模式，这些模式反映了数据的内在特性，是对数据包含信息的更高层次的抽象。目前，在需要处理大数据量的科研领域中，数据挖掘受到越来越多的关注，同时，在实际问题中，大量成功运用数据挖掘的实例说明了数据挖掘对科学研究具有很大的促进作用。数据挖掘可以帮助人们对大规模数据进行高效的分析处理，以节约时间，将更多的精力投入到更高层的研究中，从而提高科研工作的效率。 分类技术是数据挖掘中应用领域极其广泛的重要技术之一。至今已提出了多种分类算法，主要有决策树、关联规则、神经网络、支持向量机和贝叶斯、k－临近法、遗传算法、粗糙集以及模糊逻辑技术等。大部分技术都是使用学习算法确定分类模型，拟合输入数据中样本类别和属性集之间的联系，预测未知样本的类别。训练算法的主要目标是建立具有好的泛化能力的模型，该模型能够准确地预测未知样本的类别。 1．数据挖掘概述 数据挖掘又称库中的知识发现，是目前人工智能和领域研究的热点问题，所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平
数据挖掘技术在软件工程中的应用研究
数据挖掘技术在软件工程中的应用研究 发表时间：2018-06-20T10:03:11.023Z 来源：《电力设备》2018年第5期作者：张佳鑫李爱萍 [导读] 摘要：社会发展的信息化水平在不断提高，越来越多的信息资源被相应的数据所替代，而实现这些信息资源充分利用的前提即是对其相应的数据进行管理与分析。 （太原理工大学计算机科学与技术学院山西太原 030024） 摘要：社会发展的信息化水平在不断提高，越来越多的信息资源被相应的数据所替代，而实现这些信息资源充分利用的前提即是对其相应的数据进行管理与分析。数据挖掘技术作为一种新型的网络技术，在软件工程的大数据分析中占据核心地位，有利于提高数据的可靠性与安全性。本文主要分析了数据挖掘技术在软件工程中的应用策略。 关键词：数据挖掘；软件工程；策略；发展 随着信息技术的不断发展，日常生活中人们所接触的信息量越来越多，如何在众多信息量中找到自己有用的信息，成为影响人们工作效率和工作质量的关键因素，而数据挖掘技术的应用则能很好的解决这个问题。所谓数据挖掘是指在大量、无序、模糊的数据中挖掘出其中有用的信息的过程，它能实现信息的分类、聚类并进行偏差分析。数据挖掘技术一般流程为数据预处理、数据挖掘、模式评估与知识表示等等，笔者结合实际经验，分析了数据挖掘技术在软件工程中的应用策略，对数据挖掘技术的发展提出了几点思考。 1数据挖掘技术概述 1.1数据挖掘技术的定义 数据挖掘技术，也成为数据库中的知识发现，发展于上个世纪末，是当前数据库领域内最新的应用研究技术。历经多年的发展，数据挖掘技术已成为当前数据库领域内最为关键的组成部分，但是还没有较为统一的定义。当前数据挖掘技术定义认可度最高的便是由W.J.Frawley等人所提出的，将数据挖掘技术理解为从数据中提炼出更为高效、更为新颖、更具潜在应用价值，并最终可理解模式的非平凡过程中。主要具有如下多方面内容： （1）数据源务必真实、数据量较大、并含噪音，不完全； （2）应用于获取终端用户兴趣较高的未知知识信息； （3）所获取的知识具备有效性、新颖性，且为潜在的； （4）更用于发现特定的问题，对知识量没有过多要求； 综合而言，数据挖掘属于复杂度较高的交叉学科，包括人工智能、模式识别、统计学、数据可视化等等交叉性相对较大的新型学科，未来拥有良好的发展空间。 1.2数据挖掘技术一般流程 一般而言，数据挖掘主要由数据预处理、数据挖掘以及模式评估和知识表示等三阶段组成。具体如下： （1）数据预处理。主要由原始信息获取、数据清洗、数据抽取及数据交换等构成。原始数据获取在于获取发现任务的处理对象，主要按照相应的需求而获取数据。数据清洗目的在于完善原始数据所缺失的数据。数据抽取指将特定的数据源中获取与分析任务相关的数据。数据转换在于规格化数据，以满足特定范围要求。 （2）数据挖掘，第一步便是明确挖掘任务，包括数据分类、数据总结等等，紧接着便是确定挖掘算法，应结合数据实际特点以及具体系统特定需求来确定算法。 （3）模式评估与知识表示。模式用于表示数据挖掘所形成的结果，用特定的兴趣度进行度量，用于识别表示知识的真正有趣模式。在此之中所使用的度量特定值通常由领域专家、用户标准等给出 2数据挖掘技术在软件工程中的应用情况 2.1执行记录 对于执行记录挖掘来说，就是分析程序执行路径，找寻存在于程序中的代码关系，将数据挖掘及时应用到软件工程中就是跟踪相关执行路径，在逆向建模的作用下达到既定目标，其主要作用是维护与验证程序。在执行记录的过程中，主要是插装系统，然后用相关软件接口编程，同时记录相关变量等，最终将收集来的信息整合在一起，构建相应的系统模型。 2.2漏洞检测 在软件工程中利用数据挖掘技术进行漏洞检测，主要是为了及时发现存在于软件开发中的问题，这样就可以尽快将漏洞弥补，对提高软件质量有很好的作用。通常情况下，利用数据挖掘及时检测软件漏洞看，就是先对软件进行系统测试看，同时根据用户需求制定出科学合理的应对措施。然后将各种漏洞数据收集整理在一起，逐一做好数据清理与转换。通过分析这些数据信息能够得知，为做好数据清理工作，就需要将多余数据清理出去，然后对丢失项目进行补充，这样再将数据属性以数值的形式体现出来。其次，要构建合适的数据模型，做好验证与训练。在这一过程中应重视与项目实际的联系，选择与之相匹配的挖掘方式，以便构成测试集，获得相应结果。此外，还要做好漏洞扫描与分类，将所有漏洞整理起来构成漏洞库，然后再次扫描，防止漏洞遗失，最后将通过挖掘得来的数据知识应用到软件测试中。 2.3开源软件 对于开源软件来说，其挖掘环境带有明显的开放性与全面性特征，所以，在管理这样的软件时，就不能使用传统软件的开发方式。一般而言，较为成熟的开源软件，能够详细记录开发中所遇到的错误，同时也包括软件开发者的一些活动，以及软件在市场中的应用情况。对于参与软件开发的人员来说，他们是社会网络的主要创造者，然而，由于开源软件的开放特征较为明显，所以也就让这些参与人员随之发生变化。同时，由于开源软件还带有动态特征，所以就需要重视开源项目的进一步管理，也就是由专业人士管理软件系统，在这项工作中做的最好的莫过于英国牛津大学的Sima系统。 2.4版本信息控制 在版本信息控制应用中，主要是确保项目参与者所使用的档案相同，这样也有利于全面更新。对于软件工程开发来说，通常会用版本控制系统管理与开发软件。同时利用版本信息控制，选择合适的变更历史信息的方法，以便获取不同模块，在这种情况下子系统也可以相互映衬，这对深度挖掘程序变化，做好漏洞检测具有重要作用。随着数据挖掘技术在软件工程中的应用，不仅可以有效减少系统维护资
自然语言处理在现实生活中运用
自然语言处理在现实生活中运用 1 需求分析与描述： 首先谈下这款软件的来源和用途吧，本科至今没有挂科记录，很不幸第一次《英语学位英语考试
数据挖掘技术及其应用
数据挖掘毕业论文 ---------数据挖掘技术及其应用 摘要：随着网络、数据库技术的迅速发展以及数据库管理系统的广泛应用，人们积累的数据越来越多。数据挖掘(Data Mining)就是从大量的实际应用数据中提取隐含信息和知识，它利用了数据库、人工智能和数理统计等多方面的技术，是一类深层次的数据分析方法。本文介绍了数据库技术的现状、效据挖掘的方法以及它在Bayesian网建网技术中的应用：通过散据挖掘解决Bayesian网络建模过程中所遇到的具体问题，即如何从太规模效据库中寻找各变量之间的关系以及如何确定条件概率问题。 关键字：数据挖掘、知识获取、数据库、函数依赖、条件概率 一、引言： 数据是知识的源泉。但是,拥有大量的数据与拥有许多有用的知识完全是两回事。过去几年中,从数据库中发现知识这一领域发展的很快。广阔的市场和研究利益促使这一领域的飞速发展。计算机技术和数据收集技术的进步使人们可以从更加广泛的范围和几年前不可想象的速度收集和存储信息。收集数据是为了得到信息,然而大量的数据本身并不意味信息。尽管现代的数据库技术使我们很容易存储大量的数据流,但现在还没有一种成熟的技术帮助我们分析、理解并使数据以可理解的信息表示出来。在过去,我们常用的知识获取方法是由知识工程师把专家经验知识经过分析、筛选、比较、综合、再提取出知识和规则。然而,由于知识工程师所拥有知识的有局限性,所以对于获得知识的可信度就应该打个 折扣。目前,传统的知识获取技术面对巨型数据仓库无能为力,数据挖掘技术就应运而生。 数据的迅速增加与数据分析方法的滞后之间的矛盾越来越突出,人们希望在对已有的大量数据分析的基础上进行科学研究、商业决策或者企业管理,但是目前所拥有的数据分析工具很难对数据进行深层次的处理,使得人们只能望“数”兴叹。数据挖掘正是为了解决传统分析方法的不足,并针对大规模数据的分析处理而出现的。数据挖掘通过在大量数据的基础上对各种学习算法的训练,得到数据对象间的关系模式,这些模式反映了数据的内在特性,是对数据包含信息的更高层次的抽象[1]。目前,在需要处理大数据量的科研领域中,数据挖掘受到越来越多
海洋数据挖掘技术应用研究
第 27 卷第 6 期海洋通报V ol. 27，No.6 2008 年 12 月 MARINE SCIENCE BULLETIN Dec. 2008 海洋数据挖掘技术应用研究 魏红宇1, 2，张峰2，李四海2 ( 1．中国海洋大学，山东青岛 266003；2．国家海洋信息中心，天津 300171 ) 摘 要：在研究中外数据挖掘技术在海洋应用的现状和进展的基础上，结合海洋数据特点及应用需求，提出了海洋数据挖掘技术应 用模式，并介绍了基于计算机技术、数据库技术、GIS 技术的海洋数据挖掘应用系统的主要功能和系统架构。最后通过对赤潮预测 的数据挖掘应用分析，验证了系统应用的科学合理性。 关键词：海洋；数据挖掘；系统应用；赤潮 中图分类号：P717；TP311 文献标识码：A 文章编号：1001-6932(2008)06-0082-0006 数据挖掘( Data Mining ) 技术的概念，产生于 20 世纪 90 年代初，它是指从大量数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程[1]。通俗地讲，数据挖掘就是利用各种分析工具在海量数据中寻找和发现模型和数据间关系的过程，可以利用这些模型和关系对数据的潜在规律做出预测。在实际应用中，数据挖掘概念有两个方面的意思。一方面它有数据提取的含义，即从各种类型的原始数据中精确定位符合各种查询条件的数据集；另一方面，它有数据处理的含义，即利用各种相关的模型和算法，对提取到的数据集进行各种分析处理，从而得到想要的信息和规律。目前，常用的数据挖掘算法主要有聚类分析、回归分析、主成分分析、插值分析、关联分析、神经网络等。 经过多年的海洋调查和资料收集，我国已拥用了大量珍贵的海洋科学数据和相关信息，这些数据包括海洋水文、海洋表面气象、海洋生物、海洋化学、海洋环境质量、海洋地质、海洋地球物理、海洋基础地理、海洋航空与卫星遥感、海洋经济、海洋资源等各个海洋学科领域，数据总量多达千亿字节 [2]。如何有效地利用专家知识及各类统计分析算法、模型，对各学科类型的海洋数据资源进行数据挖掘，从中发现有用信息，分析海洋现象并预测海洋规律，为海洋科学研究和综合管理提供信息决策支持一直是广大海洋科技工作者的重要研究方向。经过多年的不断努力，国内外关于数据挖掘技术在海洋领域的应用研究已经取得了许多实质性进展。如 Wooley B 等人将海洋数据作为数据源开展了分类规则挖掘的研究[3]；Ding Q 针对遥感图像的关联规则挖掘进行了深入研究[4]；冯剑丰研究了国内外的主要赤潮预测方法：单因子指数法、综合指数法、建立赤潮生态仿真模型、运用人工智能技术进行预测等[5]；杨建强探讨了应用人工神经网络原理进行赤潮预报的方法，指出人工神经网络方法在模拟和预测方面优于传统的统计回归模型，具有较强的模拟预测能力及实用性[6]等。由此可见，对于海洋领域的数据挖掘技术研究已经由单纯理论研究进入到应用研究的阶段，并已取得了一些实质性的研究成果。但是，由于海洋数据特征的复杂性及海洋专题应用研究的复杂情况，海洋数据挖掘技术离大规模地业务化应用推广还有一定距离。 1 海洋数据挖掘技术应用需求 对于海洋领域的数据挖掘技术的应用研究较其它领域更为复杂，数据挖掘的成熟应用与业务化推广还存在许多困难，这与海洋数据自身特点的复杂性有关，概括来看，海洋数据大致有以下一些特点： a ) 数据类型复杂多样。海洋数据包括海洋基础环境数据、海洋遥感数据、海洋经济统计数据等几个大类数据。而每个大类数据下又有很多子类。比如：海洋环境数据又分为海洋水文、海洋气象、海洋物理、海洋化学、海洋生物、海洋地质、海洋地形与海洋地球物理等子类，每个子类又可进一步划分。可见，海 收稿日期：2008-05-28 基金项目：国家海洋局 908 专项( 908-03-01-13 )